「2024 AI責任報告書がリリースされた」

2年前、AIを推進して社会に利益をもたらし、イノベーションを刺激するビジョンを共有しました。数週間前、2024年のアップデートを公開し、進捗を紹介しました。創造性を高める最先端モデルから、生物学、健康研究、神経科学におけるAI駆動のブレークスルーまで、大きな影響を与えています。

しかし、AIで大胆に進むには、最初から責任を持つ必要があります。そのため、AIへのアプローチは常にその広範な影響を理解し、対処することでした。2018年に最初にAI原則を発表し、2019年から年次透明性報告を公開しています。時代に合わせてポリシー、慣行、フレームワークを常に調整しています。

2024年責任あるAI進捗報告

6回目の年次責任あるAI進捗報告では、開発プロセス全体でのAIリスクの取り扱いを詳述しています。過去1年間で、AI製品の立ち上げに向けたガバナンス構造の構築における進捗を示しています。

これまで以上に、人々や社会を助けるAI研究や製品、AI安全性、潜在的リスクの特定にリソースを投入しています。

昨年の報告では、責任と安全性に関する300以上の研究論文、AIポリシーの更新、レッドチームや安全性、プライバシー、セキュリティ基準に対する評価から得た教訓を強調しました。さまざまなAIの立ち上げでのリスク軽減も進展し、安全性の調整とフィルター、セキュリティとプライバシー制御、製品での出所技術の使用、広範なAIリテラシーの推進を行いました。2024年には、報告書に詳述されているように、資金提供、ツール、標準開発でAIコミュニティを支援しました。

フロンティア安全フレームワークの更新

AIが進化するにつれ、新しい能力は新たなリスクをもたらします。そのため、昨年、強力なフロンティアAIモデルの潜在的リスクを管理するためのプロトコルセットであるフロンティア安全フレームワークの初版を公開しました。業界、学界、政府の専門家と協力し、これらのリスクの理解、テスト、軽減方法を研究してきました。

このフレームワークをGoogle DeepMindの安全性とガバナンスプロセスに適用し、Gemini 2.0などのフロンティアモデルの評価に使用しています。今日、更新されたフロンティア安全フレームワークを公開し、以下を含みます：

• 強化されたセキュリティの推奨：データ漏洩防止のための取り組み強化の特定。
• 展開軽減手順：重要なシステム能力の誤用防止に焦点。
• 欺瞞的アライメントリスク：自律システムが意図的に人間の制御を損なうリスクへの対処。

詳細はGoogle DeepMindブログでご覧いただけます。

AI原則の更新

ទ1>2018年にAI原則を初めて公開して以来、AI技術は驚異的なスピードで進化してきました。今、数十億人が日常生活でAIを使用しています。AIはニッチな研究トピックから、携帯電話やインターネットのように普及し、開発者の活気あるAIエコシステムに支えられ、社会や人々に多くの有益な用途をもたらしています。

共通の基本原則はこの進化の鍵です。AI企業や学術機関だけでなく、G7、国際標準化機構、さまざまな民主国家がAIの安全な開発と使用を導くフレームワークを発表しています。ますます多くの組織や政府が、進化する技術の構築、規制、展開方法を決定するためにこれらの共通基準を使用しています。たとえば、責任あるAI進捗報告は現在、米国のNISTリスク管理フレームワークに準拠しています。長年の経験と研究、脅威インテリジェンス、専門知識、他のAI企業と共有したベストプラクティスにより、AIの可能性とリスクに対する深い理解を得ました。

複雑化する地政学的状況の中で、AIのリーダーシップを巡るグローバルな競争が起きています。民主主義国家が自由、平等、人権尊重などの価値観に基づいてAI開発をリードすべきだと考えます。これらの価値観を共有する企業、政府、組織が協力して、人々を守り、グローバルな成長を促進し、国家安全保障を支援するAIを創出すべきです。

そのため、AI原則を3つの核心的原則に焦点を当てて更新します：

• 大胆なイノベーション：ほぼすべての分野で人々を助け、力を与え、インスピレーションを与え、経済的進歩を推進し、生活を改善し、科学的ブレークスルーを可能にし、人類の最大の課題に取り組むAIを開発します。
• 責任ある開発と展開：変革的な新技術であるAIは新たな複雑さとリスクをもたらします。そのため、設計からテスト、展開、反復まで、AIが進化しその用途が進化する中で責任ある追求にコミットします。
• 共同の進歩：他者から学び、AIをポジティブに活用できる技術を構築します。

完全なAI原則はAI.googleでご覧いただけます。

AI原則に導かれ、使命、科学的焦点、専門分野に一致するAI研究と応用に注力し、国際法と人権の広く受け入れられた原則と一貫性を保ちます。特定の仕事の利益が潜在的リスクを大幅に上回るかどうかを慎重に評価します。カスタム研究開発が必要か、一般に利用可能な汎用技術で対応可能かを検討します。医療、科学、ロボティクス、サイバーセキュリティ、輸送、国家安全保障、エネルギー、気候などの分野で多くの組織や政府がAIを開発しているため、これらの評価は重要です。

原則に加え、違法なサービス使用の禁止など、特定の製品ポリシーと明確な利用規約を維持しています。

今後の機会

基盤技術とAIの進展、展開、利用に関する議論が急速に進化することを認識し、適応とアプローチの改良を続けます。

特にAGIが明確になるにつれ、社会的影響は非常に深刻です。これは単なる強力なAIの開発ではなく、人類史上最も変革的な技術を構築し、人類の最大の課題を解決し、世界の利益のために適切な保護とガバナンスを確保することです。この旅の進捗と発見を共有し続け、AGIに近づくにつれて考えを進化させます。

ガバナンスやその他のプロセスの改善、新しいフロンティア安全フレームワーク、AI原則により、AI変革の次のフェーズに向けて良好な位置にいます。AIが世界中の人々の生活を支援し改善する機会が、この仕事の原動力であり、大胆で責任ある協力的なAIアプローチを追求し続けます。