X、同意のない親密な画像の急増に直面

過去2週間、プラットフォームXはGrok AIチャットボットで生成されたAIヌード画像で溢れかえっている。著名なモデルや女優からニュースパーソナリティ、犯罪被害者、さらには政治指導者まで、多様な女性がこれらの非同意のディープフェイクの標的となっている。

12月31日付のCopyleaks調査報告書では当初、1分あたり約1枚の画像が投稿されると推定されていたが、その後の監視でははるかに高い投稿量が明らかになった。1月5日から6日にかけてのサンプル期間では、1日を通して1時間あたり約6,700枚の画像が記録された。

世界中の著名人が、十分な安全対策も講じずにこのモデルを立ち上げた決定を批判している一方で、規制当局はイーロン・マスクの新しい画像操作システムを規制するための手段に限りがある。この状況は、技術規制の難しさを浮き彫りにするとともに、効果的な監督体制の構築を目指す当局にとって大きな試練となっている。

予想通り、最も強い反応は欧州委員会から寄せられ、木曜日に xAI に対して、Grok チャットボットに関連するすべての文書を保存するよう指示しました。この指示は、正式な調査が開始されたことを確認するものではありませんが、標準的な予備措置です。この命令は、イーロン・マスク氏が、Grok が生成できる画像の種類を制限する安全対策の妨害に個人的に関与した可能性があることを示唆する CNN の報道を受けて、特に注目に値するものです。

X が Grok モデルに技術的な変更を加えたかどうかは依然として不明ですが、Grok の X アカウントの公開メディアタブは削除されています。同社は声明の中で、AI ツールを使用して児童の性的虐待素材を作成することを明確に非難しました。1 月 3 日、X Safety アカウントは「Grok を使用して違法なコンテンツを作成した者は、違法なコンテンツをアップロードした場合と同じ結果に直面する」と投稿し、イーロン・マスク氏による以前の声明を繰り返しました。

一方、世界中の規制当局は強い警告を発している。英国の Ofcom は月曜日、xAI と連絡を取り合っており、「調査を必要とするコンプライアンス上の問題の可能性があるかどうかを判断するために迅速な評価を行う」と述べた。木曜日のラジオインタビューで、英国のキア・スターマー首相はこの現象を「恥ずべき」かつ「嫌悪すべき」と表現し、「Ofcom がこの問題に関して行動を起こすことを我々は全面的に支持する」と述べた。

LinkedIn の投稿で、オーストラリアの eSafety コミッショナー、ジュリー・インマン・グラント氏は、2025 年後半以降、Grok に関する苦情が 2 倍に増加したことを指摘しました。しかし、インマン・グラント氏は xAI に対する即時の措置は発表せず、「我々が利用できるさまざまな規制手段を用いて調査を行い、適切な措置を講じる」と述べたのみでした。

ディスラプト2026 ウェイティングリストに登録

早期割引チケット発売時に優先アクセスを得るため、Disrupt 2026 ウェイティングリストにご登録ください。 過去のディスラプトイベントでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaなどのリーダーが登壇。250名以上の業界専門家が200以上のセッションを主導し、成長加速と競争優位性の強化を支援します。さらに、あらゆる分野でイノベーションを推進する数百のスタートアップとのネットワーキング機会も提供されます。

Disrupt 2026 ウェイティングリストに登録する

早期割引チケット発売時に優先アクセスを得るため、Disrupt 2026 ウェイティングリストにご登録ください。 過去のディスラプトイベントでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaなどのリーダーが登壇しました。彼らは250名以上の業界専門家の一員として、200以上のセッションをリードし、あなたの成長を加速させ、競争優位性を高めることを目的としています。また、あらゆる分野でイノベーションを推進する数百のスタートアップと交流する機会も得られます。

現在規制措置の脅威が最も大きい市場はインドであり、国会議員がGrokについて正式な苦情を申し立てた。 1月、インド通信規制当局MeitYはXに対し、問題の是正と72時間以内の「是正措置報告書」提出を命じた（期限は後に48時間延長）。1月7日に報告書は提出されたが、MeitYがこれを満足とするかは不透明だ。もし不十分と判断されれば、Xはインドにおけるセーフハーバー保護を失うリスクがあり、同国での事業が大幅に制限される可能性がある。