인공지능 도구가 정부 피드백을 가속화하지만, 전문가들은 위험성에 대해 경고한다

인공지능 도구는 방대한 양의 정부 의견 수렴 응답을 선별하고 대중의 여론을 정확히 해석하도록 설계되었다.

영국 기술부 장관 피터 카일은 "인공지능이 더 빠르고 효과적으로 처리할 수 있는 업무에 시간을 낭비해서는 안 되며, 수백만 파운드의 세금을 외부 업체에 아웃소싱하는 데 써서는 안 된다"고 말했습니다.

'컨설트(Consult)'라는 이름이 잘 어울리는 이 디지털 도구는 스코틀랜드 정부와의 첫 주요 시험을 성공적으로 통과했습니다.

스코틀랜드 정부는 컨설트에 도전적인 초기 과제를 부여했습니다: 입술 필러나 레이저 제모 같은 비수술적 미용 시술 규제에 대한 대중의 피드백을 분석하는 것이었습니다. AI의 분석 결과는 인간 공무원들이 작성한 분석과 매우 유사했습니다.

정부는 이제 이 기술을 여러 부서에 도입할 계획이다. 현재의 수동 프로세스는 비용이 많이 들고 느리며, 여론 분석만을 위해 외부 계약업체에 수백만 파운드가 지출되는 경우가 흔하다.

컨설트는 과도한 비용이나 지연 없이 '변화를 위한 계획(Plan for Change)'을 실행할 수 있는, 보다 효율적이고 신속하게 대응하는 영국 정부를 만들기 위한 광범위한 계획의 일환이다.

그렇다면 스코틀랜드에서는 어떻게 수행되었을까? 컨설트는 2,000건 이상의 응답을 처리했다. 생성형 인공지능을 활용해 여섯 가지 핵심 질문에 대한 피드백에서 도출된 주요 주제와 우려 사항을 식별했다.

물론 컨설트는 완전히 자율적으로 운영된 것은 아닙니다. 스코틀랜드 정부 전문가들이 이러한 초기 주제들을 검토하고 다듬었습니다. 이후 AI는 개별 응답을 해당 주제에 따라 분류하여 공무원들이 결과 해석과 정책적 함의에 집중할 수 있도록 했습니다.

이번이 컨설트의 첫 실전 배치였기에 스코틀랜드 정부는 검증 차원에서 모든 응답을 수동으로 재검토했습니다. 서면 의견 해석과 분류는 주관적일 수 있으며, 인간 분석가들조차 항상 의견을 일치시키지 못합니다.

컨설트의 작업과 인간 분석을 비교했을 때, AI는 대부분의 경우 정확했습니다. 사소한 불일치는 대중의 주요 관심사에 대한 전반적인 이해를 바꾸지 않았습니다.

컨설트는 '험프리(Humphrey)'라는 대규모 AI 제품군의 구성 요소로, 공무원의 행정 부담을 줄이고 계약업체 비용을 절감하기 위해 설계된 디지털 도구 세트입니다. 이 노력은 기술을 활용해 공공 서비스를 효율화하고, 보다 민첩한 정부를 위해 450억 파운드의 생산성 절감을 목표로 하는 광범위한 비전을 뒷받침합니다.

카일은 "이러한 유망한 결과를 입증한 험프리는 거버넌스 비용을 절감하고, 핵심 사안에 대한 전문가 및 대중의 의견을 수집하고 철저히 검토하는 우리의 역량을 향상시키는 데 도움이 될 것"이라고 덧붙였다.

"스코틀랜드 정부는 과감한 첫걸음을 내디뎠습니다. 곧 저는 험프리 내 컨설트를 본부에서 직접 활용할 것이며, 다른 화이트홀 부처들도 뒤따를 것입니다. 이는 '변화를 위한 계획(Plan for Change)'을 실현하기 위한 우리의 작업을 가속화할 것입니다."

스코틀랜드의 제니 민토 공중보건부 장관은 "이 도구는 스코틀랜드 정부가 국민이 전달하고자 하는 내용과 다양한 의견을 더 신속하게 파악하는 데 매우 유용했습니다"라고 말했습니다.

이 도구를 활용함으로써 우리는 정책적 질문에 집중하고 증거의 세부 사항을 심층적으로 탐구하는 데 더 신속히 나아갈 수 있었으며, 동시에 응답자들이 표명한 강력한 의견을 포착했다는 확신을 유지할 수 있었습니다."

물론 많은 정부 AI 프로젝트와 마찬가지로, 이 역시 초기 단계이며 '컨설트'는 공식 시험 운영 중입니다. 본격적인 도입 결정 전 신뢰성을 확보하기 위한 추가 분석과 테스트가 계획되어 있습니다.

그러나 잠재력은 상당합니다. 정부가 연간 약 500건의 자문을 진행하는 상황에서, 컨설트가 성공적으로 운영된다면 연간 약 75,000일의 분석 작업 시간을 절약할 수 있을 것으로 추정됩니다.

이를 사용한 공무원들의 반응은 어땠을까? 그들은 AI의 초기 분석이 "유용한 출발점"이라며 "기쁘게 놀랐다"고 전해졌다. 다른 이들은 "엄청난 시간 절약"과 "분석 도출 및 다음 단계 결정" 속도 향상을 칭찬했다.

흥미롭게도 일부 공무원은 컨설트가 새로운 차원의 공정성을 도입했다고 느꼈습니다. 한 관계자는 이 시스템 사용이 "편향을 줄이고 일관성을 높여" 개별 분석가가 "자신의 선입견"이 결과에 영향을 미치는 것을 방지한다고 지적했습니다.

일부 자문은 수만 건에서 수십만 건의 응답을 받기도 한다. 컨설트의 초기 성과가 유망한 만큼, 이러한 대규모 작업에 적용되는 날도 머지않을 수 있다.

인간 감독이 여전히 핵심 요소임을 유의해야 한다. 컨설트는 전문가들이 모든 단계에 참여하도록 설계되었다. 관계자들은 항상 AI가 제안한 주제와 분류를 검토하며, 대화형 대시보드를 활용해 특정 통찰력을 필터링하고 검색할 것이다. 목표는 AI가 중노동을 처리하게 하여 인간이 전략적 사고에 집중할 수 있도록 하는 것이다.

전문가들, 정부 AI 활용에 경계 촉구

공공 부문의 AI 전환은 전문가들의 면밀한 관찰을 받고 있다.

데이터틱스(Datactics)의 스튜어트 하비(Stuart Harvey) CEO는 이렇게 논평했다: "공공 협의 가속화를 위한 AI 활용은 기술이 효율성을 높이고 비용을 절감하는 훌륭한 사례다. 그러나 AI는 그 기반이 되는 데이터만큼만 신뢰할 수 있다. 이러한 도구가 효과적이고 공정하게 작동하려면 정부 부처는 데이터가 정확하고 최신이며 적절히 관리되도록 보장해야 한다.

"인공지능 기반 결정에 대한 국민의 신뢰는 필수적입니다. 이를 위해서는 투명하고 잘 통제되며 윤리적인 프로세스가 필요합니다. 데이터 품질이나 관리가 부실하면 편향되거나 신뢰할 수 없는 결과가 초래될 수 있습니다.

정부가 공공 서비스에서 AI 활용을 확대함에 따라, 견고한 데이터 관행에 대한 투자가 중요합니다. 여기에는 명확한 데이터 시스템 구축, 검토를 위한 데이터 접근성 보장, 특히 여론 파악 시 핵심 결정에 인간의 개입을 유지하는 것이 포함됩니다."

학계도 이 관점을 공유합니다. 에든버러 대학의 마이클 로바토스 교수는 AI의 이점을 인정하면서도 AI 편향성과 잠재적 조작 같은 위험에 대해 현명하게 경고합니다. 그는 정부가 사용하는 모든 AI 도구가 신뢰할 수 있고 공정하게 유지되도록 강력한 안전장치와 지속적인 투자를 주장합니다.

앤디지탈(AND Digital) 그룹 운영 책임자 스튜어트 먼턴은 덧붙였습니다: "공공 협의 가속화를 위한 정부의 AI 활용은 더 스마트하고 효율적인 서비스로 나아가는 긍정적 조치입니다. 그러나 AI 도입이 확대됨에 따라 기술뿐만 아니라 사람이 이 변화의 중심에 남도록 보장해야 합니다.

"공공 부문 팀에 적절한 기술과 교육을 제공하는 데 투자할 때만 이러한 도구의 잠재력을 최대한 발휘할 수 있습니다. 다양한 인력이 AI를 활용할 수 있도록 지원하면 도구 성능이 향상되고 혁신이 현실 세계의 요구와 부합하도록 보장할 수 있습니다."

이러한 전문가들의 고려 사항을 염두에 두고 올바르게 구현된다면, '컨설트(Consult)'와 같은 AI 도구는 정부가 대중의 의견을 경청하고, 이를 통해 배우며, 정책을 수립하는 방식을 근본적으로 개선할 수 있습니다. 영국 정부는 2025년 말까지 여러 부처에 '컨설트'를 통합할 계획을 세우며 신속히 움직이고 있습니다.

관련 기사: 미국, AI 확산 규정 중단 및 반도체 수출 통제 강화

업계 리더로부터 AI와 빅데이터에 대해 더 알아보고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 AI & 빅데이터 엑스포를 확인해 보세요. 이 포괄적인 행사는 인텔리전트 오토메이션 컨퍼런스, 블록엑스, 디지털 트랜스포메이션 위크, 사이버 보안 & 클라우드 엑스포 등 다른 주요 행사와 동시 개최됩니다.

TechForge가 주최하는 다른 기업 기술 행사 및 웨비나를 여기서 확인하세요.