英国のAIボディはセキュリティ研究所に改名し、人類でmouに署名する

英国政府はAIに対するアプローチを大きく転換し、この技術を通じて経済と産業を強化することを目指しています。この新しい方向性の一環として、科学・産業・技術省は、1年余り前に設立されたAI安全研究所を「AIセキュリティ研究所」に名称変更すると発表しました。この名称変更は、AIの存続リスクやバイアスから、サイバーセキュリティの懸念、特に国家安全保障や犯罪に関連するAIの脅威に対する保護強化への焦点の移行を反映しています。

この名称変更に伴い、政府はAnthropicとの新たなパートナーシップを締結しました。具体的なサービス内容は明らかにされていませんが、了解覚書では、AnthropicのAIアシスタント「Claude」を公共サービスで活用する可能性を探ることが示唆されています。Anthropicは科学的調査や経済モデリングにも貢献し、AIセキュリティ研究所ではAIのセキュリティリスクを評価するツールを提供します。

「AIは政府が市民にサービスを提供する方法を変革する可能性を秘めています」と、Anthropicの共同創業者兼CEOのダリオ・アモデイ氏は述べました。「AnthropicのAIアシスタントClaudeが英国の政府機関の公共サービス向上にどのように役立つかを探求し、英国住民にとって重要な情報やサービスをより効率的かつアクセスしやすくする新たな方法を発見することを目指しています。」

Anthropicは今日の発表で唯一名前が挙がった企業であり、これはミュンヘンとパリで開催されるAI関連イベントの週と一致しています。しかし、英国政府は他のAI企業とも協力しています。1月には、OpenAIを活用した新たなツールが導入され、技術担当国務長官ピーター・カイル氏は、Anthropicとの取引に代表される、さまざまな基盤AI企業との協力を計画していると述べました。

AI安全研究所からAIセキュリティ研究所への再編は、発足直後のことであり、1月に発表された労働党政府のAI中心の「変革計画」と一致しています。この計画では、「安全」「害」「存続」「脅威」といった言葉が特に省略され、AIを通じた経済発展に焦点を当て、安全性の懸念だけに注力しない方針を示しています。

この転換は、AIを活用して近代化された経済への投資を刺激しようとする政府の目標を考えると驚くべきことではありません。この戦略には、ビッグテックとの緊密な協力や、国内のテック巨人の成長促進が含まれます。公務員は「Humphrey」という名前のAIアシスタントを利用でき、効率を高めるためにAIを使用することが奨励されています。消費者は政府書類用のデジタルウォレットやチャットボットを活用できます。

AIの安全性に関する問題は完全には解決されていませんが、政府の姿勢は、安全性の懸念だけで進歩を妨げるべきではないというものです。名称変更にもかかわらず、政府は核心的な使命は変わらないと主張しています。

「今日発表する変更は、責任あるAI開発へのアプローチの次の論理的ステップを表しています。これにより、変革計画の一環としてAIを活用し、経済を成長させることができます」とカイル氏は述べました。「AIセキュリティ研究所の仕事は変わりませんが、この新たな焦点により、市民や同盟国の安全が、AIを我々の制度、民主的価値、生き方に対して使用しようとする者から守られることを確実にします。」

引き続き研究所を率いるイアン・ホガース氏は、「研究所は当初からセキュリティに焦点を当て、重大な公的リスクを評価する科学者チームを構築してきました。新設の犯罪誤用チームと国家安全保障コミュニティとの深化するパートナーシップは、これらのリスクに取り組む次の段階を示しています。」と付け加えました。

世界的には、AIの安全性への強調が変化しているようです。米国では、AI安全研究所が解体されるリスクに直面しており、これはパリでの演説でJ.D.ヴァンス副大統領が示唆した可能性です。