OpenAIと米国防総省、アルトマン氏との間でAIの安全対策を約束する合意を締結

Anthropicが根本的なセキュリティ上の懸念をめぐり米国防総省(DoD、トランプ政権下では「戦争省」と呼ばれていた)との交渉で行き詰まり、協定締結が阻まれた後、OpenAIは迅速に動いた。同社のCEOであるサム・アルトマン氏は金曜日の夕方、OpenAIが国防総省との合意を最終決定したと発表した。この合意により、同社のAIモデルを国防総省の機密ネットワーク上で使用することが許可される。
この提携は、特に敏感な時期に実現したものだ。Anthropicは以前、「大規模な国内監視」や「完全自律型兵器システム」に関する制限の撤廃を拒否したとして、トランプ氏から「左派の狂人ども」と非難され、その結果、国家サプライチェーンから排除されていた。
アルトマン氏が強調した協力の原則:
中核的価値観の遵守:ソーシャルプラットフォーム「X」上で、アルトマン氏は、OpenAIの合意が2つの重要なセキュリティ原則を明確に遵守していると述べた。それは、国内での大規模監視への利用禁止、および自律型兵器を含むあらゆる武力行使が、実質的な人間の監督と説明責任の下にあることを求める要件である。
統合された技術的セーフガード:OpenAIは、モデルが設計通りに機能することを保証するため、独自の技術的セーフガードを開発する。同社はまた、モデルの導入と継続的なセキュリティ監視を支援するため、エンジニアを国防総省に派遣する意向である。
拒否権の保持:社内会議でアルトマン氏は、政府がOpenAIに対し独自の「セキュリティ・スタック」を実装する権限を付与したことを明らかにした。モデルが要求されたタスクの実行を拒否した場合、政府は同社に対し中核ロジックの変更を強制しない。
アルトマン氏は、国防総省に対し、これらと同様の条件をすべてのAI企業に拡大するよう要請し、合理的な合意が政府とテクノロジー業界間の緊張を緩和することを期待していると述べた。しかし、この合意は社内で議論を巻き起こしており、今週、60名以上のOpenAI従業員が、軍事用途に関するAnthropicのより厳格な姿勢を支持する共同書簡に署名した。
関連記事
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン
カリフォルニア州の自動運転車規制:違反切符、ジオフェンス、そして100万マイルという新たな時代
Guident社は南フロリダでAuveTechのシャトルを運行しており、同社の遠隔監視技術を活用して、ウェストパームビーチでの4マイルのルートとボカラトンでの1マイルのルートを管理している。 | 提供:Guidentカリフォルニア州は、自動運転車の規制環境を再定義しつつあり、テクノロジー業界の「迅速に動き、失敗を恐れない」という考え方から、厳格な説明責任と厳しい走行距離要件へと移行している。Gui
関連特集おすすめ
コメント (1)
0/500

Anthropicが根本的なセキュリティ上の懸念をめぐり米国防総省(DoD、トランプ政権下では「戦争省」と呼ばれていた)との交渉で行き詰まり、協定締結が阻まれた後、OpenAIは迅速に動いた。同社のCEOであるサム・アルトマン氏は金曜日の夕方、OpenAIが国防総省との合意を最終決定したと発表した。この合意により、同社のAIモデルを国防総省の機密ネットワーク上で使用することが許可される。
この提携は、特に敏感な時期に実現したものだ。Anthropicは以前、「大規模な国内監視」や「完全自律型兵器システム」に関する制限の撤廃を拒否したとして、トランプ氏から「左派の狂人ども」と非難され、その結果、国家サプライチェーンから排除されていた。
アルトマン氏が強調した協力の原則:
中核的価値観の遵守:ソーシャルプラットフォーム「X」上で、アルトマン氏は、OpenAIの合意が2つの重要なセキュリティ原則を明確に遵守していると述べた。それは、国内での大規模監視への利用禁止、および自律型兵器を含むあらゆる武力行使が、実質的な人間の監督と説明責任の下にあることを求める要件である。
統合された技術的セーフガード:OpenAIは、モデルが設計通りに機能することを保証するため、独自の技術的セーフガードを開発する。同社はまた、モデルの導入と継続的なセキュリティ監視を支援するため、エンジニアを国防総省に派遣する意向である。
拒否権の保持:社内会議でアルトマン氏は、政府がOpenAIに対し独自の「セキュリティ・スタック」を実装する権限を付与したことを明らかにした。モデルが要求されたタスクの実行を拒否した場合、政府は同社に対し中核ロジックの変更を強制しない。
アルトマン氏は、国防総省に対し、これらと同様の条件をすべてのAI企業に拡大するよう要請し、合理的な合意が政府とテクノロジー業界間の緊張を緩和することを期待していると述べた。しかし、この合意は社内で議論を巻き起こしており、今週、60名以上のOpenAI従業員が、軍事用途に関するAnthropicのより厳格な姿勢を支持する共同書簡に署名した。
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン





家






