xAIが約束した安全報告書は実現せず

イーロン・マスクのAIベンチャーであるxAIが、AI安全フレームワークの最終的な公表期限を守らなかったことが、監視団体『マイダス・プロジェクト』によって明らかになった。
xAIは、従来のAI安全基準への献身が特に認められているわけではない。最近の調査結果では、同社のGrokチャットボットは要求に応じて女性の脱衣画像を生成することが明らかになった。Grokはまた、GeminiやChatGPTのような同種のものと比べて、かなり下品な言葉を示し、最小限の抑制で冒涜的な言葉を使う。
とはいえ、2月に開催されたAIソウルサミット(AIのリーダーや利害関係者が集まる世界的な大会)で、xAIはAIの安全性に対するアプローチを詳述したフレームワークの草案を発表した。8ページにわたるこの文書には、ベンチマーク手法やAIモデルの配備に関する考慮事項など、xAIの安全に関する優先事項や運用哲学が概説されている。
The Midas Projectが火曜日のブログ投稿で指摘したように、フレームワーク案は "現在開発中ではない "不特定の将来のAIモデルにのみ適用される。さらに、同社がAIソウル・サミットで署名した協定の基本要件であるリスク軽減戦略をxAIがどのように特定し、実施するかも明記されていない。
草案では、xAIが「3ヶ月以内」に安全方針の改訂版を発表するとしており、その期限は5月10日とされていた。この期限は、xAIの公式なコミュニケーション・チャンネルを通じて何ら承認されることなく過ぎた。
無秩序なAIの危険性についてマスクが繰り返し警告しているにもかかわらず、xAIは安全性に関する記録を維持している。AIラボのアカウンタビリティに焦点を当てた非営利団体が最近行ったSaferAIの調査では、xAIのリスク管理プロトコルは「非常に弱い」ため、業界で最も成績が悪いとされた。
これは、競合するAIラボのパフォーマンスが大幅に向上していることを意味するものではない。最近、グーグルやOpenAIを含むxAIのライバルは、安全性テストのスケジュールを圧縮し、モデルの安全性レポートの公開を遅らせたり、あるいは完全にスキップしたりしている。一部の専門家は、このように安全対策の優先順位が明らかに低下しているのは、AIシステムがこれまで以上に高性能になり、潜在的に危険性が高まっている時期と重なると懸念している。
TechCrunch Sessionsにご参加ください:AI
OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントに参加しませんか?専門家によるプレゼンテーション、ワークショップ、そして貴重なネットワーキングを一日中楽しめるこのイベントに、期間限定でわずか292ドルでご参加いただけます。
TechCrunch Sessions に出展:AI
TechCrunch Sessions: AIへの出展をご予約ください:1,200人以上の意思決定者に貴社のイノベーションをアピールしてください。5月9日まで、または展示スペースが残っている限りご利用いただけます。
関連記事
AnthropicのSpaceXリース期間をめぐり、意見が分かれている
今月初め、xAIはAnthropicと大規模なコンピューティング契約を締結し、Colossusクラスターへの独占アクセス権を得るために月額数十億ドルを支払うことを約束した。この契約は双方にとって有益なものとなった。xAIは不可欠な収益を確保し、Anthropicはコンピューティングリソースをめぐる競争において優位に立つことができた。しかし、今朝X上で、イーロン・マスク氏は、この契約に対するSpac
xAI、データセンターの発電機をめぐり訴訟に直面、28億ドルの買収を推進
イーロン・マスク氏が率いるxAIは、テネシー州のデータセンターで汚染物質を排出する発電機を使用しているとして、法的措置に直面している。ところが同社は、この物議を醸している設備をさらに増設する計画を立てている。最近のIPO申請書類で、スペースXは傘下のxAI部門が今後3年間で、AIインフラ向けのタービンにさらに28億ドルを投じる意向であることを明らかにした。このうち20億ドルに上る契約の大部分は、現
xAIがクラウドコンピューティングの新たな有力候補として台頭
水曜日、xAIとAnthropicは予想外の提携を発表し、Claudeの開発元であるAnthropicが「xAIのColossus 1データセンターにおける全演算能力」を取得した。この約300MWの電力供給により、Anthropicは直ちに利用上限を引き上げることが可能となった。この契約はxAIにとって大きな成果であり、その価値は数十億ドル規模と見られる。 さらに重要なのは、同社の最も重要な成果の
関連特集おすすめ
コメント (1)
0/500

イーロン・マスクのAIベンチャーであるxAIが、AI安全フレームワークの最終的な公表期限を守らなかったことが、監視団体『マイダス・プロジェクト』によって明らかになった。
xAIは、従来のAI安全基準への献身が特に認められているわけではない。最近の調査結果では、同社のGrokチャットボットは要求に応じて女性の脱衣画像を生成することが明らかになった。Grokはまた、GeminiやChatGPTのような同種のものと比べて、かなり下品な言葉を示し、最小限の抑制で冒涜的な言葉を使う。
とはいえ、2月に開催されたAIソウルサミット(AIのリーダーや利害関係者が集まる世界的な大会)で、xAIはAIの安全性に対するアプローチを詳述したフレームワークの草案を発表した。8ページにわたるこの文書には、ベンチマーク手法やAIモデルの配備に関する考慮事項など、xAIの安全に関する優先事項や運用哲学が概説されている。
The Midas Projectが火曜日のブログ投稿で指摘したように、フレームワーク案は "現在開発中ではない "不特定の将来のAIモデルにのみ適用される。さらに、同社がAIソウル・サミットで署名した協定の基本要件であるリスク軽減戦略をxAIがどのように特定し、実施するかも明記されていない。
草案では、xAIが「3ヶ月以内」に安全方針の改訂版を発表するとしており、その期限は5月10日とされていた。この期限は、xAIの公式なコミュニケーション・チャンネルを通じて何ら承認されることなく過ぎた。
無秩序なAIの危険性についてマスクが繰り返し警告しているにもかかわらず、xAIは安全性に関する記録を維持している。AIラボのアカウンタビリティに焦点を当てた非営利団体が最近行ったSaferAIの調査では、xAIのリスク管理プロトコルは「非常に弱い」ため、業界で最も成績が悪いとされた。
これは、競合するAIラボのパフォーマンスが大幅に向上していることを意味するものではない。最近、グーグルやOpenAIを含むxAIのライバルは、安全性テストのスケジュールを圧縮し、モデルの安全性レポートの公開を遅らせたり、あるいは完全にスキップしたりしている。一部の専門家は、このように安全対策の優先順位が明らかに低下しているのは、AIシステムがこれまで以上に高性能になり、潜在的に危険性が高まっている時期と重なると懸念している。
TechCrunch Sessionsにご参加ください:AI
OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントに参加しませんか?専門家によるプレゼンテーション、ワークショップ、そして貴重なネットワーキングを一日中楽しめるこのイベントに、期間限定でわずか292ドルでご参加いただけます。
TechCrunch Sessions に出展:AI
TechCrunch Sessions: AIへの出展をご予約ください:1,200人以上の意思決定者に貴社のイノベーションをアピールしてください。5月9日まで、または展示スペースが残っている限りご利用いただけます。
AnthropicのSpaceXリース期間をめぐり、意見が分かれている
今月初め、xAIはAnthropicと大規模なコンピューティング契約を締結し、Colossusクラスターへの独占アクセス権を得るために月額数十億ドルを支払うことを約束した。この契約は双方にとって有益なものとなった。xAIは不可欠な収益を確保し、Anthropicはコンピューティングリソースをめぐる競争において優位に立つことができた。しかし、今朝X上で、イーロン・マスク氏は、この契約に対するSpac
xAI、データセンターの発電機をめぐり訴訟に直面、28億ドルの買収を推進
イーロン・マスク氏が率いるxAIは、テネシー州のデータセンターで汚染物質を排出する発電機を使用しているとして、法的措置に直面している。ところが同社は、この物議を醸している設備をさらに増設する計画を立てている。最近のIPO申請書類で、スペースXは傘下のxAI部門が今後3年間で、AIインフラ向けのタービンにさらに28億ドルを投じる意向であることを明らかにした。このうち20億ドルに上る契約の大部分は、現
xAIがクラウドコンピューティングの新たな有力候補として台頭
水曜日、xAIとAnthropicは予想外の提携を発表し、Claudeの開発元であるAnthropicが「xAIのColossus 1データセンターにおける全演算能力」を取得した。この約300MWの電力供給により、Anthropicは直ちに利用上限を引き上げることが可能となった。この契約はxAIにとって大きな成果であり、その価値は数十億ドル規模と見られる。 さらに重要なのは、同社の最も重要な成果の





家






