OpenAIと米国防総省、アルトマン氏との間でAIの安全対策を約束する合意を締結

Anthropicが根本的なセキュリティ上の懸念をめぐり米国防総省(DoD、トランプ政権下では「戦争省」と呼ばれていた)との交渉で行き詰まり、協定締結が阻まれた後、OpenAIは迅速に動いた。同社のCEOであるサム・アルトマン氏は金曜日の夕方、OpenAIが国防総省との合意を最終決定したと発表した。この合意により、同社のAIモデルを国防総省の機密ネットワーク上で使用することが許可される。
この提携は、特に敏感な時期に実現したものだ。Anthropicは以前、「大規模な国内監視」や「完全自律型兵器システム」に関する制限の撤廃を拒否したとして、トランプ氏から「左派の狂人ども」と非難され、その結果、国家サプライチェーンから排除されていた。
アルトマン氏が強調した協力の原則:
中核的価値観の遵守:ソーシャルプラットフォーム「X」上で、アルトマン氏は、OpenAIの合意が2つの重要なセキュリティ原則を明確に遵守していると述べた。それは、国内での大規模監視への利用禁止、および自律型兵器を含むあらゆる武力行使が、実質的な人間の監督と説明責任の下にあることを求める要件である。
統合された技術的セーフガード:OpenAIは、モデルが設計通りに機能することを保証するため、独自の技術的セーフガードを開発する。同社はまた、モデルの導入と継続的なセキュリティ監視を支援するため、エンジニアを国防総省に派遣する意向である。
拒否権の保持:社内会議でアルトマン氏は、政府がOpenAIに対し独自の「セキュリティ・スタック」を実装する権限を付与したことを明らかにした。モデルが要求されたタスクの実行を拒否した場合、政府は同社に対し中核ロジックの変更を強制しない。
アルトマン氏は、国防総省に対し、これらと同様の条件をすべてのAI企業に拡大するよう要請し、合理的な合意が政府とテクノロジー業界間の緊張を緩和することを期待していると述べた。しかし、この合意は社内で議論を巻き起こしており、今週、60名以上のOpenAI従業員が、軍事用途に関するAnthropicのより厳格な姿勢を支持する共同書簡に署名した。
関連記事
GoogleフォトがAIを活用し、『クルーレス』の象徴的なクローゼットを再現
Googleフォトは水曜日、AIを活用した新機能を発表した。この機能により、まもなく自分の服の写真をデジタルクローゼットに変換できるようになり、新しいコーディネートを考えたり、バーチャルで試着したりできるようになる。このコンセプトは、映画『クルーレス』に登場するシェールの象徴的なバーチャルワードローブから明らかに着想を得たもので、彼女は何を着るか決める際に、数多くのコーディネートの中から自由に選ん
短編ドラマ『レッド・フルーツ』、AIを使って一般人の顔を盗用したとして非難される;公式な反応はない
現在、ショート動画業界では、AIに関連する権利侵害をめぐる論争が起きている。 Red Fruit Short Dramaが制作した『The Peach Hairpin』は、AIを用いて一般人の肖像を無断で流用する「顔の盗用」を行ったとして非難され、世間の懸念を呼んでいる。この問題は、あるSNSユーザーが自身の写真がAI生成コンテンツに無断で使用されたと主張したことをきっかけに始まった。比較データに
新しいETSI AIセキュリティ規格の概要
ETSI EN 304 223は、組織がガバナンス体制に組み込むべき人工知能に関する基本的なセキュリティ要件を定めています。企業が機械学習を中核的なワークフローに統合する中、この欧州規格はAIモデルおよびシステムを保護するための具体的な規定を定めています。これは、各国標準化機関によって正式に承認された、AIサイバーセキュリティに関する世界的に適用可能な初の欧州規格であり、国際市場におけるその信頼性
関連特集おすすめ
コメント (1)
0/500

Anthropicが根本的なセキュリティ上の懸念をめぐり米国防総省(DoD、トランプ政権下では「戦争省」と呼ばれていた)との交渉で行き詰まり、協定締結が阻まれた後、OpenAIは迅速に動いた。同社のCEOであるサム・アルトマン氏は金曜日の夕方、OpenAIが国防総省との合意を最終決定したと発表した。この合意により、同社のAIモデルを国防総省の機密ネットワーク上で使用することが許可される。
この提携は、特に敏感な時期に実現したものだ。Anthropicは以前、「大規模な国内監視」や「完全自律型兵器システム」に関する制限の撤廃を拒否したとして、トランプ氏から「左派の狂人ども」と非難され、その結果、国家サプライチェーンから排除されていた。
アルトマン氏が強調した協力の原則:
中核的価値観の遵守:ソーシャルプラットフォーム「X」上で、アルトマン氏は、OpenAIの合意が2つの重要なセキュリティ原則を明確に遵守していると述べた。それは、国内での大規模監視への利用禁止、および自律型兵器を含むあらゆる武力行使が、実質的な人間の監督と説明責任の下にあることを求める要件である。
統合された技術的セーフガード:OpenAIは、モデルが設計通りに機能することを保証するため、独自の技術的セーフガードを開発する。同社はまた、モデルの導入と継続的なセキュリティ監視を支援するため、エンジニアを国防総省に派遣する意向である。
拒否権の保持:社内会議でアルトマン氏は、政府がOpenAIに対し独自の「セキュリティ・スタック」を実装する権限を付与したことを明らかにした。モデルが要求されたタスクの実行を拒否した場合、政府は同社に対し中核ロジックの変更を強制しない。
アルトマン氏は、国防総省に対し、これらと同様の条件をすべてのAI企業に拡大するよう要請し、合理的な合意が政府とテクノロジー業界間の緊張を緩和することを期待していると述べた。しかし、この合意は社内で議論を巻き起こしており、今週、60名以上のOpenAI従業員が、軍事用途に関するAnthropicのより厳格な姿勢を支持する共同書簡に署名した。
GoogleフォトがAIを活用し、『クルーレス』の象徴的なクローゼットを再現
Googleフォトは水曜日、AIを活用した新機能を発表した。この機能により、まもなく自分の服の写真をデジタルクローゼットに変換できるようになり、新しいコーディネートを考えたり、バーチャルで試着したりできるようになる。このコンセプトは、映画『クルーレス』に登場するシェールの象徴的なバーチャルワードローブから明らかに着想を得たもので、彼女は何を着るか決める際に、数多くのコーディネートの中から自由に選ん
短編ドラマ『レッド・フルーツ』、AIを使って一般人の顔を盗用したとして非難される;公式な反応はない
現在、ショート動画業界では、AIに関連する権利侵害をめぐる論争が起きている。 Red Fruit Short Dramaが制作した『The Peach Hairpin』は、AIを用いて一般人の肖像を無断で流用する「顔の盗用」を行ったとして非難され、世間の懸念を呼んでいる。この問題は、あるSNSユーザーが自身の写真がAI生成コンテンツに無断で使用されたと主張したことをきっかけに始まった。比較データに
新しいETSI AIセキュリティ規格の概要
ETSI EN 304 223は、組織がガバナンス体制に組み込むべき人工知能に関する基本的なセキュリティ要件を定めています。企業が機械学習を中核的なワークフローに統合する中、この欧州規格はAIモデルおよびシステムを保護するための具体的な規定を定めています。これは、各国標準化機関によって正式に承認された、AIサイバーセキュリティに関する世界的に適用可能な初の欧州規格であり、国際市場におけるその信頼性





家






