영국 AI Body Body는 보안 연구소에 이름을 바꾸고, MOU가 인류로 표시됩니다.

영국 정부는 AI 접근 방식을 크게 전환하여 이 기술을 통해 경제와 산업을 강화하고자 합니다. 새로운 방향의 일환으로, 과학산업기술부는 약 1년 전에 설립된 AI 안전 연구소를 "AI 보안 연구소"로 이름을 변경한다고 발표했습니다. 이 이름 변경은 AI의 실존적 위험과 편향에서 사이버 보안 문제로 초점을 이동하여, 국가 안보와 범죄에 관련된 AI 위협에 대한 보호를 강화하는 것을 반영합니다.

이번 리브랜딩과 함께 정부는 Anthropic과 새로운 파트너십을 체결했습니다. 구체적인 서비스는 명시되지 않았지만, 양해각서에 따르면 Anthropic의 AI 비서 Claude를 공공 서비스에 활용하는 방안을 모색할 예정입니다. Anthropic은 또한 과학 연구와 경제 모델링에 기여하며, AI 보안 연구소에서 AI의 보안 위험을 평가하는 도구를 제공할 것입니다.

“AI는 정부가 시민에게 서비스를 제공하는 방식을 변화시킬 잠재력이 있습니다,”라고 Anthropic의 공동 창립자이자 CEO인 Dario Amodei가 말했습니다. “우리는 Anthropic의 AI 비서 Claude가 영국 정부 기관의 공공 서비스를 향상시키는 데 어떻게 기여할 수 있는지 탐구하고, 영국 주민들에게 중요한 정보와 서비스를 더 효율적이고 접근 가능하게 만드는 새로운 방법을 발견하고자 합니다.”

오늘 발표에서 Anthropic은 유일하게 강조된 기업으로, 이는 뮌헨과 파리에서 열리는 AI 관련 행사 주간과 맞물려 있습니다. 그러나 영국 정부는 다른 AI 기업들과도 협력하고 있습니다. 1월에는 OpenAI로 구동되는 새로운 도구가 도입되었으며, 기술부 장관 Peter Kyle은 다양한 기초 AI 기업들과 협력할 계획을 언급하며 Anthropic과의 계약을 예로 들었습니다.

AI 안전 연구소가 설립된 지 얼마 안 되어 AI 보안 연구소로 재편성된 것은, 1월에 발표된 노동당 정부의 AI 중심 “변화 계획”과 일치합니다. 이 계획은 “안전”, “위해”, “실존적”, “위협” 같은 용어를 생략하며, 안전 문제에만 초점을 맞추는 대신 AI를 통한 경제 발전에 중점을 두고 있음을 나타냅니다.

이러한 전환은 정부가 AI를 활용해 현대화된 경제에 투자를 촉진하려는 목표를 고려할 때 놀랍지 않습니다. 이 전략에는 빅테크와의 긴밀한 협력과 국내 기술 대기업의 성장을 촉진하는 것이 포함됩니다. 공무원들은 “Humphrey”라는 AI 비서에 접근할 수 있으며, AI를 활용해 효율성을 높이도록 장려됩니다. 소비자들은 정부 문서를 위한 디지털 지갑과 챗봇의 혜택을 누릴 것입니다.

AI 안전 문제가 완전히 해결되지 않았지만, 정부는 안전 문제만으로 진전을 저해해서는 안 된다는 입장입니다. 이름 변경에도 불구하고 정부는 핵심 사명이 변하지 않았다고 주장합니다.

“오늘 발표한 변화는 우리가 책임감 있는 AI 개발에 접근하는 논리적 다음 단계로, 우리의 변화 계획의 일환으로 AI를 활용하고 경제를 성장시키는 데 도움이 될 것입니다,”라고 Kyle이 말했습니다. “AI 보안 연구소의 업무는 변하지 않지만, 이번 새로운 초점은 우리 시민과 동맹국의 시민을 AI를 이용해 우리의 제도, 민주적 가치, 생활 방식을 공격하려는 자들로부터 보호할 것입니다.”

연구소를 계속 이끄는 Ian Hogarth는 다음과 같이 덧붙였습니다. “연구소는 처음부터 보안에 초점을 맞췄으며, 우리는 공공에 대한 심각한 위험을 평가하는 과학자 팀을 구성했습니다. 우리의 새로운 범죄 오용 팀과 국가 안보 커뮤니티와의 심화된 파트너십은 이러한 위험을 해결하는 다음 단계를 나타냅니다.”

글로벌적으로 AI 안전에 대한 강조는 변화하고 있습니다. 미국에서는 AI 안전 연구소가 해체될 위험이 있으며, 이는 파리에서 열린 연설에서 J.D. Vance 부통령이 암시한 가능성입니다.