정부 내 자율적 AI는 어려운 질문에 직면해 있다: 기계가 무엇을 결정하도록 허용해야 하는가?

아랍에미리트(UAE)는 지난 9년 동안 인공지능을 조기에 도입해 온 국가입니다. 2017년 10월 국가 차원의 AI 전략을 발표했으며, 그 직후 이를 총괄할 장관급 직책을 신설하고 27세의 오마르 술탄 알 올라마를 세계 최초의 인공지능 담당 국무장관으로 임명했습니다. 그 이후로 UAE는 대부분의 정부가 아직 구축 중인 디지털 신원 확인 시스템, 주권 클라우드, 데이터 공유 인프라를 이미 개발해 놓았다. 정부 차원에서 에이전트형 AI의 진정한 시험대는 이러한 선제적 우위가 실질적인 성과로 이어지는지 여부다.

이러한 시험 단계는 이번 달에 시작되었으며, 100명 이상의 연방 공무원들이 UAE의 에이전트형 AI 프로젝트 전략 트랙의 시작을 알리는 워크숍에 참석했다. 이 국가 차원의 이니셔티브는 2년 이내에 연방 정부의 모든 운영, 서비스 및 업무의 절반을 에이전트형 AI 모델로 전환하는 것을 목표로 한다. ‘자율형 AI 프로젝트 국가위원회’가 주관한 이번 세션에서는 실행 우선순위와 일정을 수립하는 한편, 어떤 정부 업무를 AI 에이전트에 위임할 수 있는지 결정하기 위한 프레임워크 개발을 착수했다.

이러한 분류 과정은 매우 중요합니다. UAE는 매월 1억 5천만 개 이상의 데이터 포인트를 모니터링하는 AI 기반 사전 대응형 성과 시스템을 포함하여, 필요한 컴퓨팅 성능과 인프라를 갖추고 있습니다. 그러나 자율 시스템이 독립적으로 실행할 수 있는 업무와 단지 권고만 해야 하는 업무를 구분하는 타당한 방법을 아직 어떤 정부도 공개하지 않았습니다.

내각 사무처 전략 담당 차관인 후다 알 하시미는 이번 워크숍을 정부 활동 전반에 걸쳐 AI 모델을 도입하는 실질적인 시작점으로 평가했다. 이 프로그램은 전략 및 프로젝트, 선견지명 및 전략 정보, 정책, 구조 및 거버넌스, 정부 성과, 글로벌 경쟁력, 정부 업무 혁신 등 7대 축으로 구성됩니다. 관계자들은 또한 성과 지표와 기관 간 업무 중복을 방지하기 위한 전략에 대해서도 논의했습니다.

동일한 프로젝트에 대한 두 가지 접근 방식

이 워크숍은 ‘인간이 주도하고, AI가 지원한다’는 핵심 원칙을 바탕으로 진행되었다.

이 프로젝트의 도입 배경을 되짚어보며, 셰이크 모하메드 빈 라시드 알 막툼은 UAE가 각 부문과 운영 전반에 걸쳐 “세계 최초로 에이전트형(Agentic) AI 모델을 대대적으로 도입하는 정부”가 될 것이라고 밝혔다. 그는 인간의 개입 없이 운영을 관리하고 독립적인 행동을 수행할 수 있는 시스템을 설명했다. 기초적인 표현은 자율적 실행을 강조하는 반면, 실제 구현에 있어서는 인간의 우위를 중시합니다.

수천 가지 업무 포트폴리오 전반에서 두 관점은 공존할 수 있으며, 이 둘 사이의 간극을 메우는 것이 바로 분류 프레임워크가 목표로 하는 바입니다. 그러나 이러한 프레임워크가 공개되기 전까지는 에이전트의 결정에 대한 책임 소재 문제가 여전히 미해결 상태로 남아 있습니다. 지금까지 공개된 자료는 핵심 요소, 훈련, 지표, 거버넌스 구조를 다루고 있지만, 자율 시스템이 시민의 사례에서 오류를 범했을 때 어떤 조치가 취해지는지, 또는 책임 소재가 어디에 있는지에 대해서는 다루지 않고 있다.

이는 UAE에만 국한된 비판이 아닙니다. 그 어떤 정부도 이 문제에 직면한 적이 없기 때문에, 이 질문에 답한 정부는 아직 없습니다. 차이점은 UAE가 2년이라는 기한 내에 대규모로 이 문제에 답하는 첫 번째 국가가 될 것이라는 점입니다.

규모가 핵심이다

감독 권한은 셰이크 만수르 빈 자예드 알 나흐얀이 맡고 있으며, 모하마드 알 게르가위 내각 업무 장관이 태스크포스 위원장을 맡고 있다. 지난 5월, 내각은 자율형 AI 도구를 활용하는 첫 번째 정부 서비스 패키지를 승인했으며, 동시에 장관부터 신입 직원까지 8만 명의 연방 공무원을 대상으로 하는 UAE 정부 역사상 최대 규모의 교육 프로그램도 승인했다. 같은 회의에서 국가 AI 의료 정책도 통과되었으며, 디지털 기록을 핵심 정부 데이터의 공식 출처로 지정하고, 정보를 한 번 수집하여 기관 간에 안전하게 공유하도록 요구하는 프레임워크도 함께 채택되었습니다.

그 이후의 진행 속도는 신중하게 조절되었다. 6월 두바이에서 열린 교육 행사에는 50개 연방 기관에서 300명 이상의 참가자가 모였으며, 90일 이내에 에이전트형 AI에 적합한 서비스와 절차를 파악하는 것을 목표로 했다. 같은 달 대통령 비서실과 내각 사무부가 주최한 별도의 워크숍에서는 600명의 직원을 대상으로 동일한 내용을 교육했다.

정부 내 에이전트형 AI 도입이 걸프 지역을 넘어 확산되는 이유

아시아와 유럽 전역의 정부들은 동일한 결정을 내리는 데 있어 비슷한 출발점에 서 있습니다. 대부분은 AI 전략과 국가 차원의 기구를 갖추고 있지만 구체적인 목표는 정하지 않은 상태입니다. UAE는 구체적인 수치와 기한을 제시했는데, 이는 2년 이내에 에이전트형 AI가 서비스 제공, 인원 수, 오류율에 미치는 실제 영향에 대한 공개적인 증거가 나올 것임을 의미합니다.

현재로서는 다른 어느 국가도 이 실험을 진행할 의무는 없습니다. 그러나 각국은 결과가 나오기 전에 그 결과를 어떻게 활용할지, 그리고 결과를 바탕으로 앞으로 나아갈 의향이 있는지 결정해야 합니다.

주목해야 할 문서는 업무 분류 프레임워크입니다. 이 프레임워크가 공개되면, 정부가 어떤 의사결정을 기계에 위임할 의향이 있는지를 정의하려는 국가 차원의 첫 번째 본격적인 시도가 될 것입니다. 이 프로그램의 나머지 모든 내용은 조달 및 교육과 관련된 것으로, 이는 표준 절차에 해당합니다.

관련 기사: OpenAI 사장, 기업들에 AI 보안 방어 체계 강화 촉구

업계 리더들로부터 AI와 빅데이터에 대해 더 자세히 알아보고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 ‘AI & Big Data Expo’를 확인해 보세요. 이 포괄적인 행사는 TechEx의 일환으로, ‘Cyber Security & Cloud Expo’를 비롯한 다른 주요 기술 행사와 함께 개최됩니다. 자세한 정보를 보려면 여기를 클릭하세요.

AI 뉴스는 TechForge Media가 제공합니다. 앞으로 예정된 다른 기업 기술 행사 및 웨비나를 여기에서 확인해 보세요.