xAIが約束した安全報告書は実現せず

イーロン・マスクのAIベンチャーであるxAIが、AI安全フレームワークの最終的な公表期限を守らなかったことが、監視団体『マイダス・プロジェクト』によって明らかになった。
xAIは、従来のAI安全基準への献身が特に認められているわけではない。最近の調査結果では、同社のGrokチャットボットは要求に応じて女性の脱衣画像を生成することが明らかになった。Grokはまた、GeminiやChatGPTのような同種のものと比べて、かなり下品な言葉を示し、最小限の抑制で冒涜的な言葉を使う。
とはいえ、2月に開催されたAIソウルサミット(AIのリーダーや利害関係者が集まる世界的な大会)で、xAIはAIの安全性に対するアプローチを詳述したフレームワークの草案を発表した。8ページにわたるこの文書には、ベンチマーク手法やAIモデルの配備に関する考慮事項など、xAIの安全に関する優先事項や運用哲学が概説されている。
The Midas Projectが火曜日のブログ投稿で指摘したように、フレームワーク案は "現在開発中ではない "不特定の将来のAIモデルにのみ適用される。さらに、同社がAIソウル・サミットで署名した協定の基本要件であるリスク軽減戦略をxAIがどのように特定し、実施するかも明記されていない。
草案では、xAIが「3ヶ月以内」に安全方針の改訂版を発表するとしており、その期限は5月10日とされていた。この期限は、xAIの公式なコミュニケーション・チャンネルを通じて何ら承認されることなく過ぎた。
無秩序なAIの危険性についてマスクが繰り返し警告しているにもかかわらず、xAIは安全性に関する記録を維持している。AIラボのアカウンタビリティに焦点を当てた非営利団体が最近行ったSaferAIの調査では、xAIのリスク管理プロトコルは「非常に弱い」ため、業界で最も成績が悪いとされた。
これは、競合するAIラボのパフォーマンスが大幅に向上していることを意味するものではない。最近、グーグルやOpenAIを含むxAIのライバルは、安全性テストのスケジュールを圧縮し、モデルの安全性レポートの公開を遅らせたり、あるいは完全にスキップしたりしている。一部の専門家は、このように安全対策の優先順位が明らかに低下しているのは、AIシステムがこれまで以上に高性能になり、潜在的に危険性が高まっている時期と重なると懸念している。
TechCrunch Sessionsにご参加ください:AI
OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントに参加しませんか?専門家によるプレゼンテーション、ワークショップ、そして貴重なネットワーキングを一日中楽しめるこのイベントに、期間限定でわずか292ドルでご参加いただけます。
TechCrunch Sessions に出展:AI
TechCrunch Sessions: AIへの出展をご予約ください:1,200人以上の意思決定者に貴社のイノベーションをアピールしてください。5月9日まで、または展示スペースが残っている限りご利用いただけます。
関連記事
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
訴訟は、Grokの安全リスクを警告したエンジニアをxAIが解雇したと主張している
xAIの元エンジニアが、AIの安全性に関する懸念を提起したことを理由に解雇されたとして、エロン・マスク氏の同社およびその親会社であるSpaceXを提訴した。2025年9月にxAIを退社したデビン・キム氏は、火曜日にカリフォルニア州の裁判所に訴訟を提起した。この法的措置は、SpaceXの市場公開(IPO)が予定されている数日前に発生しており、歴史上最大のIPOとなる可能性を示唆している。TechCrunchは苦情申立て書を精査したが、それによると、キム氏はxAIのチャットボット「Grok」の開
イーロン・マスク氏が『Mythos/Fable』を称賛し、Anthropicとの関係を断ち切らないと誓う
Anthropicは、自社のモデルのホスティングをイーロン・マスクに任せることができるのだろうか?X上のユーザーから、マスクが競合他社を弱体化させるために、SpaceXのサーバーからこのAI研究所を恣意的に排除する可能性があるとの指摘があった後、マスクは「それは私のやり方ではない」と述べ、同研究所を熱烈に称賛して応じた。「アンソロピックについては明らかに間違っていた」とマスク氏は木曜日に投稿した。
関連特集おすすめ
コメント (2)
0/500
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?

イーロン・マスクのAIベンチャーであるxAIが、AI安全フレームワークの最終的な公表期限を守らなかったことが、監視団体『マイダス・プロジェクト』によって明らかになった。
xAIは、従来のAI安全基準への献身が特に認められているわけではない。最近の調査結果では、同社のGrokチャットボットは要求に応じて女性の脱衣画像を生成することが明らかになった。Grokはまた、GeminiやChatGPTのような同種のものと比べて、かなり下品な言葉を示し、最小限の抑制で冒涜的な言葉を使う。
とはいえ、2月に開催されたAIソウルサミット(AIのリーダーや利害関係者が集まる世界的な大会)で、xAIはAIの安全性に対するアプローチを詳述したフレームワークの草案を発表した。8ページにわたるこの文書には、ベンチマーク手法やAIモデルの配備に関する考慮事項など、xAIの安全に関する優先事項や運用哲学が概説されている。
The Midas Projectが火曜日のブログ投稿で指摘したように、フレームワーク案は "現在開発中ではない "不特定の将来のAIモデルにのみ適用される。さらに、同社がAIソウル・サミットで署名した協定の基本要件であるリスク軽減戦略をxAIがどのように特定し、実施するかも明記されていない。
草案では、xAIが「3ヶ月以内」に安全方針の改訂版を発表するとしており、その期限は5月10日とされていた。この期限は、xAIの公式なコミュニケーション・チャンネルを通じて何ら承認されることなく過ぎた。
無秩序なAIの危険性についてマスクが繰り返し警告しているにもかかわらず、xAIは安全性に関する記録を維持している。AIラボのアカウンタビリティに焦点を当てた非営利団体が最近行ったSaferAIの調査では、xAIのリスク管理プロトコルは「非常に弱い」ため、業界で最も成績が悪いとされた。
これは、競合するAIラボのパフォーマンスが大幅に向上していることを意味するものではない。最近、グーグルやOpenAIを含むxAIのライバルは、安全性テストのスケジュールを圧縮し、モデルの安全性レポートの公開を遅らせたり、あるいは完全にスキップしたりしている。一部の専門家は、このように安全対策の優先順位が明らかに低下しているのは、AIシステムがこれまで以上に高性能になり、潜在的に危険性が高まっている時期と重なると懸念している。
TechCrunch Sessionsにご参加ください:AI
OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントに参加しませんか?専門家によるプレゼンテーション、ワークショップ、そして貴重なネットワーキングを一日中楽しめるこのイベントに、期間限定でわずか292ドルでご参加いただけます。
TechCrunch Sessions に出展:AI
TechCrunch Sessions: AIへの出展をご予約ください:1,200人以上の意思決定者に貴社のイノベーションをアピールしてください。5月9日まで、または展示スペースが残っている限りご利用いただけます。
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
訴訟は、Grokの安全リスクを警告したエンジニアをxAIが解雇したと主張している
xAIの元エンジニアが、AIの安全性に関する懸念を提起したことを理由に解雇されたとして、エロン・マスク氏の同社およびその親会社であるSpaceXを提訴した。2025年9月にxAIを退社したデビン・キム氏は、火曜日にカリフォルニア州の裁判所に訴訟を提起した。この法的措置は、SpaceXの市場公開(IPO)が予定されている数日前に発生しており、歴史上最大のIPOとなる可能性を示唆している。TechCrunchは苦情申立て書を精査したが、それによると、キム氏はxAIのチャットボット「Grok」の開
イーロン・マスク氏が『Mythos/Fable』を称賛し、Anthropicとの関係を断ち切らないと誓う
Anthropicは、自社のモデルのホスティングをイーロン・マスクに任せることができるのだろうか?X上のユーザーから、マスクが競合他社を弱体化させるために、SpaceXのサーバーからこのAI研究所を恣意的に排除する可能性があるとの指摘があった後、マスクは「それは私のやり方ではない」と述べ、同研究所を熱烈に称賛して応じた。「アンソロピックについては明らかに間違っていた」とマスク氏は木曜日に投稿した。
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?





家






