複数の国々が、大規模モデルのリリース前に安全性評価の実施を義務付けている

AIが世界中で急速に普及するにつれて、大規模言語モデルの監視は抽象的な原則から具体的な実施へと移行しつつあります。英国、米国、オーストラリアの政府は最近、最先端のAIシステムが正式に公開される前に、政府主導のセキュリティ脆弱性やリスク評価テストを受けることを義務付ける新たな措置を導入しました。
英国のアプローチが世界的な政策のモデルとなっている
この規制の変化において、英国AI安全研究所(AISI)が開発したレッドチーム活動やリスク評価の枠組みが、他国にとってのベンチマークとして浮上しています。最近、英国政府はオーストラリアAI安全研究所と正式なパートナーシップを発表し、サイバー攻撃や防御の文脈における高度なAIがもたらす潜在的リスクを共同で監視し、核心的な能力に関する知見を共有していきます。
この新しいモデルは、これまで企業の自発的なコミットメントに依存していた姿勢から脱却し、政府をテストプロセスに直接関与させるものです。今後、大規模AIモデルは市場で競争する際に、「公開前の安全検査」に相当するコンプライアンスプロセスを経なければならず、安全性テストの能力は製品の競争力を左右する重要な要素となっています。
米国のテック大手が国家安全保障評価に参加
一方、米国商務省傘下のAI基準・イノベーションセンター(CAISI)も同様の国家安全保障評価メカニズムを推進しています。Google DeepMind、Microsoft、イーロン・マスクが率いるxAIを含む複数の大手AI企業がこのセンターと重要な合意に達し、モデルを公開する前に関連資料を提供し、徹底的なセキュリティ評価を受けることを約束しています。
この間、Microsoftも米国や英国のテスト機関との協力をさらに強化し、高度なモデルがもたらす大規模な公共の安全リスクを共同で軽減していく方針であることを明らかにしました。このような急速な国際的連携は、今後のAI規制が企業が安全保障に関するコミットメントを策定したかどうかだけでなく、そのコミットメントが実際にテストされたかどうかに焦点が当てられるようになることを明確に示しています。
関連記事
Metaは、あなたの次のガジェットがMuseを内蔵したものであることを望んでいる
Metaの旅行予約、フォーム送信、ショッピングを処理するAIアシスタント「Muse」は広く採用されているが、新しいイニシアチブは特に開発者やハードウェア愛好家を魅了する可能性がある。金曜日、MetaはMuseと統合されたカスタムハードウェアを作成できるようにするオープンソースのイニシアチブ「Muse Gadgets」を発表した。Metaは、カラー電子インクディスプレイをMuseに追加することから、HDMIスティックにソフトウェアを組み込んでテレビ接続を実現することまで、さまざまなスタータープ
Wan-Streamer v0.2は超低遅延のAIチャットを提供します
現代技術が急速に進歩するにつれ、人間とAIの相互作用はより一般的になっています。従来のビデオ通話では、ラグ、遅延、音声と映像の非同期といった問題にしばしば直面します。Tongyi Labによる最新リリースであるWan-Streamer v0.2は、これらの課題を完全に克服し、わずか550ミリ秒の応答遅延で、真に自然な「対面」コミュニケーションを可能にします。Wan-Streamer v0.2は、新しいエンドツーエンドのマルチモーダル理解および生成モデルです。単一のTransformerモデル内で
MetaはTSMCとMicronの参加を得て、旧型メモリを搭載した新規サーバーを整備する
人工知能の採用が世界中で加速する中、次世代DDR5メモリは深刻な供給不足に直面しています。AIデータセンターの展開における遅延を回避するため、MetaはTSMCやMicronといった業界のリーダーと提携し、画期的な過渡期のソリューションを開発しました。この革新により、従来DDR5専用に設計されていた高度なAIサーバーが、従来のDDR4モジュールとシームレスに動作できるようになりました。「フランケンシュタイン」構成と称されるこのシステムは、実世界のテストで顕著な安定性を示し、現在進行中のサプライチ
関連特集おすすめ
コメント (0)
0/500

AIが世界中で急速に普及するにつれて、大規模言語モデルの監視は抽象的な原則から具体的な実施へと移行しつつあります。英国、米国、オーストラリアの政府は最近、最先端のAIシステムが正式に公開される前に、政府主導のセキュリティ脆弱性やリスク評価テストを受けることを義務付ける新たな措置を導入しました。
英国のアプローチが世界的な政策のモデルとなっている
この規制の変化において、英国AI安全研究所(AISI)が開発したレッドチーム活動やリスク評価の枠組みが、他国にとってのベンチマークとして浮上しています。最近、英国政府はオーストラリアAI安全研究所と正式なパートナーシップを発表し、サイバー攻撃や防御の文脈における高度なAIがもたらす潜在的リスクを共同で監視し、核心的な能力に関する知見を共有していきます。
この新しいモデルは、これまで企業の自発的なコミットメントに依存していた姿勢から脱却し、政府をテストプロセスに直接関与させるものです。今後、大規模AIモデルは市場で競争する際に、「公開前の安全検査」に相当するコンプライアンスプロセスを経なければならず、安全性テストの能力は製品の競争力を左右する重要な要素となっています。
米国のテック大手が国家安全保障評価に参加
一方、米国商務省傘下のAI基準・イノベーションセンター(CAISI)も同様の国家安全保障評価メカニズムを推進しています。Google DeepMind、Microsoft、イーロン・マスクが率いるxAIを含む複数の大手AI企業がこのセンターと重要な合意に達し、モデルを公開する前に関連資料を提供し、徹底的なセキュリティ評価を受けることを約束しています。
この間、Microsoftも米国や英国のテスト機関との協力をさらに強化し、高度なモデルがもたらす大規模な公共の安全リスクを共同で軽減していく方針であることを明らかにしました。このような急速な国際的連携は、今後のAI規制が企業が安全保障に関するコミットメントを策定したかどうかだけでなく、そのコミットメントが実際にテストされたかどうかに焦点が当てられるようになることを明確に示しています。
Metaは、あなたの次のガジェットがMuseを内蔵したものであることを望んでいる
Metaの旅行予約、フォーム送信、ショッピングを処理するAIアシスタント「Muse」は広く採用されているが、新しいイニシアチブは特に開発者やハードウェア愛好家を魅了する可能性がある。金曜日、MetaはMuseと統合されたカスタムハードウェアを作成できるようにするオープンソースのイニシアチブ「Muse Gadgets」を発表した。Metaは、カラー電子インクディスプレイをMuseに追加することから、HDMIスティックにソフトウェアを組み込んでテレビ接続を実現することまで、さまざまなスタータープ
Wan-Streamer v0.2は超低遅延のAIチャットを提供します
現代技術が急速に進歩するにつれ、人間とAIの相互作用はより一般的になっています。従来のビデオ通話では、ラグ、遅延、音声と映像の非同期といった問題にしばしば直面します。Tongyi Labによる最新リリースであるWan-Streamer v0.2は、これらの課題を完全に克服し、わずか550ミリ秒の応答遅延で、真に自然な「対面」コミュニケーションを可能にします。Wan-Streamer v0.2は、新しいエンドツーエンドのマルチモーダル理解および生成モデルです。単一のTransformerモデル内で
MetaはTSMCとMicronの参加を得て、旧型メモリを搭載した新規サーバーを整備する
人工知能の採用が世界中で加速する中、次世代DDR5メモリは深刻な供給不足に直面しています。AIデータセンターの展開における遅延を回避するため、MetaはTSMCやMicronといった業界のリーダーと提携し、画期的な過渡期のソリューションを開発しました。この革新により、従来DDR5専用に設計されていた高度なAIサーバーが、従来のDDR4モジュールとシームレスに動作できるようになりました。「フランケンシュタイン」構成と称されるこのシステムは、実世界のテストで顕著な安定性を示し、現在進行中のサプライチ





家






