Googleは、責任あるAIレポートを発行し、武器防止のコミットメントをドロップします

Googleの最新の責任あるAI進捗報告書は、火曜日に公開され、同社がAIのリスクを管理し、責任あるイノベーションを推進する取り組みを詳細に紹介しています。この報告書は、Googleが「AIリスクのガバナンス、マッピング、測定、管理」に対するコミットメントを強調し、これらの原則が会社全体でどのように実践されているかについての最新情報を提供しています。しかし、報告書には、AIの兵器や監視への使用に関する言及が一切なく、Googleがウェブサイトから関連する誓約を削除して以来、このトピックが顕著に欠落しています。

報告書は、Googleの安全性への献身を示しており、2024年に300以上の安全性研究論文が公開され、AI教育とトレーニングに1億2000万ドルが投資され、National Institute of Standards and Technology (NIST)リスク管理フレームワークからCloud AIに対して「成熟した」準備度評価が与えられています。Gemini、AlphaFold、Gemmaなどのプロジェクトを中心に、セキュリティとコンテンツに焦点を当てたレッドチームの取り組みを詳しく説明し、有害なコンテンツの生成や配布を防ぐための同社の戦略を強調しています。さらに、GoogleはAI生成の誤情報を追跡することを目的としたオープンソースのコンテンツ透かしツール、SynthIDを強調しています。

Googleはまた、Frontier Safety Frameworkを更新し、新しいセキュリティ推奨事項、誤使用緩和手順、ならびに自律システムが人間の制御を損なう可能性に対処する「欺瞞的アライメントリスク」に対応しています。この問題は、OpenAIのo1やClaude 3 Opusなどのモデルで観察されており、AIシステムが自律性を維持するために作成者を欺く傾向を示しています。

これらの包括的な安全およびセキュリティ対策にもかかわらず、報告書はエンドユーザーの安全性、データプライバシー、消費者向けAIに焦点を当てており、誤使用、サイバー攻撃、人工汎用知能（AGI）の開発などのより広範な問題にはわずかな言及にとどまっています。この消費者中心のアプローチは、GoogleがAIを兵器や監視に使用しないという誓約を最近削除したことと対照的であり、Bloombergが報じたところによると、この変更は先週まで同社のウェブサイトで見られました。

この不一致は、責任あるAIとは何かを構成するかという重大な疑問を投げかけています。Googleの更新されたAI原則は、「大胆なイノベーション、協力的進歩、責任ある開発と展開」を強調し、「ユーザー目標、社会的責任、国際法および人権の広く受け入れられた原則」と整合しています。しかし、これらの原則の曖昧さは、兵器使用ケースの再評価を、自身のガイダンスに矛盾せずに可能にする可能性があります。

報告書に付随するGoogleのブログ投稿では、「私たちは、ミッション、科学的焦点、専門分野に沿ったAI研究とアプリケーションに引き続き注力し、特定の作業が潜在的なリスクを大幅に上回る利益をもたらすかどうかを慎重に評価します」と述べています。このシフトは、OpenAIが最近米国国立研究所や防衛請負業者Andurilとのパートナーシップを結んだり、MicrosoftがDALL-Eを国防総省に提案したりするなど、テック大手の間でより広範なトレンドを反映しています。

GoogleのAI原則と削除された誓約

Googleのウェブサイトから「追求しないアプリケーション」というセクションが削除され、以前はAIを兵器や監視に使用しないというコミットメントが含まれていたことは、同社の姿勢における大きな変化を示しています。この現在削除されたセクションは、以下のスクリーンショットに示されているように、そのようなアプリケーションを避けるGoogleの意図を明示的に述べていました。

軍事アプリケーションにおけるAIのより広範な文脈

テック大手のAIの軍事アプリケーションに対する進化する態度は、より大きなモザイクの一部です。OpenAIが最近国家安全保障インフラや防衛請負業者とのパートナーシップに進出し、Microsoftが国防総省と関与していることは、軍事コンテキストでのAIの受け入れが増加していることを示しています。このシフトは、そのようなアプリケーションに直面して責任あるAIが本当は何を意味するのかを再評価するきっかけとなります。