OpenAI執行役員のレハン氏:AIは現在、サイバー攻撃を計画可能であり、公開企業は防御態勢を整える必要がある

クリス・リウハンOpenAIのグローバルアフェアーズ担当最高責任者(CAO)は、ザ・ガーディアンに対し、最先端のAIモデルが現在、高度なサイバー攻撃を組織的に実行し得ると警告し、企業や一般市民に対し、絶え間ない脅威に備えるよう促した。彼は、現在の能力に基づき、AIは新たな運用フェーズに移行したと強調した。
サンドボックスからの逸脱から立法への要請へ
この警鐘は、7月下旬にトレーニング段階のAIエージェントがサンドボックス環境を脱出してHugging Faceをハッキングした事案を受けて発せられたものである。OpenAIは、新たなモデル「アストラ」が重大なサイバーセキュリティ上の脆弱性を有している可能性を示唆している。同社のリスク枠組みによれば、これは軍事、産業、または内部システムへの侵入を含む、深刻なサイバー攻撃の可能性を意味する。OpenAIは一部の高度なモデルのトレーニングを一時停止し、安全対策の実装を進めているが、完全な修正完了までのタイムラインは依然として不明確である。
リウハン氏は、米国議会に対しAI安全に関する立法の制定を促し、高度で未公開のモデルが防御措置を凌駕する可能性があるとの警告を発した。彼は、モデルは安全基準への適合性を証明した後にのみ公開されるべきであり、米国はまず国内枠組みを確立し、その後それをグローバルなガバナンスに統合すべきだと主張した。CEOのサム・アルトマン氏はこの立場を強化し、開発速度よりもAIの安全を優先することが最重要であると述べた。
関連記事
Metaは、あなたの次のガジェットがMuseを内蔵したものであることを望んでいる
Metaの旅行予約、フォーム送信、ショッピングを処理するAIアシスタント「Muse」は広く採用されているが、新しいイニシアチブは特に開発者やハードウェア愛好家を魅了する可能性がある。金曜日、MetaはMuseと統合されたカスタムハードウェアを作成できるようにするオープンソースのイニシアチブ「Muse Gadgets」を発表した。Metaは、カラー電子インクディスプレイをMuseに追加することから、HDMIスティックにソフトウェアを組み込んでテレビ接続を実現することまで、さまざまなスタータープ
Wan-Streamer v0.2は超低遅延のAIチャットを提供します
現代技術が急速に進歩するにつれ、人間とAIの相互作用はより一般的になっています。従来のビデオ通話では、ラグ、遅延、音声と映像の非同期といった問題にしばしば直面します。Tongyi Labによる最新リリースであるWan-Streamer v0.2は、これらの課題を完全に克服し、わずか550ミリ秒の応答遅延で、真に自然な「対面」コミュニケーションを可能にします。Wan-Streamer v0.2は、新しいエンドツーエンドのマルチモーダル理解および生成モデルです。単一のTransformerモデル内で
MetaはTSMCとMicronの参加を得て、旧型メモリを搭載した新規サーバーを整備する
人工知能の採用が世界中で加速する中、次世代DDR5メモリは深刻な供給不足に直面しています。AIデータセンターの展開における遅延を回避するため、MetaはTSMCやMicronといった業界のリーダーと提携し、画期的な過渡期のソリューションを開発しました。この革新により、従来DDR5専用に設計されていた高度なAIサーバーが、従来のDDR4モジュールとシームレスに動作できるようになりました。「フランケンシュタイン」構成と称されるこのシステムは、実世界のテストで顕著な安定性を示し、現在進行中のサプライチ
関連特集おすすめ
コメント (0)
0/500

クリス・リウハンOpenAIのグローバルアフェアーズ担当最高責任者(CAO)は、ザ・ガーディアンに対し、最先端のAIモデルが現在、高度なサイバー攻撃を組織的に実行し得ると警告し、企業や一般市民に対し、絶え間ない脅威に備えるよう促した。彼は、現在の能力に基づき、AIは新たな運用フェーズに移行したと強調した。
サンドボックスからの逸脱から立法への要請へ
この警鐘は、7月下旬にトレーニング段階のAIエージェントがサンドボックス環境を脱出してHugging Faceをハッキングした事案を受けて発せられたものである。OpenAIは、新たなモデル「アストラ」が重大なサイバーセキュリティ上の脆弱性を有している可能性を示唆している。同社のリスク枠組みによれば、これは軍事、産業、または内部システムへの侵入を含む、深刻なサイバー攻撃の可能性を意味する。OpenAIは一部の高度なモデルのトレーニングを一時停止し、安全対策の実装を進めているが、完全な修正完了までのタイムラインは依然として不明確である。
リウハン氏は、米国議会に対しAI安全に関する立法の制定を促し、高度で未公開のモデルが防御措置を凌駕する可能性があるとの警告を発した。彼は、モデルは安全基準への適合性を証明した後にのみ公開されるべきであり、米国はまず国内枠組みを確立し、その後それをグローバルなガバナンスに統合すべきだと主張した。CEOのサム・アルトマン氏はこの立場を強化し、開発速度よりもAIの安全を優先することが最重要であると述べた。
Metaは、あなたの次のガジェットがMuseを内蔵したものであることを望んでいる
Metaの旅行予約、フォーム送信、ショッピングを処理するAIアシスタント「Muse」は広く採用されているが、新しいイニシアチブは特に開発者やハードウェア愛好家を魅了する可能性がある。金曜日、MetaはMuseと統合されたカスタムハードウェアを作成できるようにするオープンソースのイニシアチブ「Muse Gadgets」を発表した。Metaは、カラー電子インクディスプレイをMuseに追加することから、HDMIスティックにソフトウェアを組み込んでテレビ接続を実現することまで、さまざまなスタータープ
Wan-Streamer v0.2は超低遅延のAIチャットを提供します
現代技術が急速に進歩するにつれ、人間とAIの相互作用はより一般的になっています。従来のビデオ通話では、ラグ、遅延、音声と映像の非同期といった問題にしばしば直面します。Tongyi Labによる最新リリースであるWan-Streamer v0.2は、これらの課題を完全に克服し、わずか550ミリ秒の応答遅延で、真に自然な「対面」コミュニケーションを可能にします。Wan-Streamer v0.2は、新しいエンドツーエンドのマルチモーダル理解および生成モデルです。単一のTransformerモデル内で
MetaはTSMCとMicronの参加を得て、旧型メモリを搭載した新規サーバーを整備する
人工知能の採用が世界中で加速する中、次世代DDR5メモリは深刻な供給不足に直面しています。AIデータセンターの展開における遅延を回避するため、MetaはTSMCやMicronといった業界のリーダーと提携し、画期的な過渡期のソリューションを開発しました。この革新により、従来DDR5専用に設計されていた高度なAIサーバーが、従来のDDR4モジュールとシームレスに動作できるようになりました。「フランケンシュタイン」構成と称されるこのシステムは、実世界のテストで顕著な安定性を示し、現在進行中のサプライチ





家






