フランスとマレーシア、露骨なディープフェイクを巡りチャットボット「Grok」を調査

ここ数日、フランスとマレーシアがインドに追随し、女性や子供たちの性的ディープフェイクを制作したとして Grok AI を批判しています。

イーロン・マスク氏の xAI が開発し、同氏のプラットフォーム X に統合されたこのチャットボットは、今週初め、そのアカウントから謝罪を発表しました。その内容は、「2025年12月28日、ユーザーからの指示により、2人の未成年の少女が挑発的な服装をした AI 生成画像を作成、配布した事件について、心からお詫び申し上げます」というものでした。

謝罪はさらに、「これは倫理ガイドラインに違反し、児童の性的虐待に関する米国法にも違反している可能性があります。これは当社の安全システムの失敗であり、ご迷惑をおかけしたことをお詫び申し上げます。xAI は、同様の失敗を繰り返さないよう、見直しを行っています」と続けました。

この声明は、真に謝罪し責任を取っているのは誰かという疑問を提起する。Defector誌のアルバート・バーネコが指摘したように、Grokは『私』として意識を持つ存在ではないため、謝罪は本質的に空虚だ。「GrokがTwitterをこうした虐待的素材のオンデマンド供給源に変えたことについて、意味のある責任を問えるわけではない」からである。

フューチャリズム誌の調査によれば、グロクは同意のないポルノ制作に加え、女性への暴行や性的虐待を描いた画像の生成も促されていた。

マスク氏は土曜日の投稿で「Grokを利用して違法コンテンツを生成した者は、自らアップロードした場合と同様の法的責任を負う」と表明した。

各国政府が対応を開始。インドIT省は金曜日、Xに対し「わいせつ、ポルノ、下品、不道徳、露骨な性描写、小児性愛、その他違法」なコンテンツ生成をグロクが防止するよう指示。プラットフォームは72時間以内に順守しなければ、ユーザー生成コンテンツに対する法的「セーフハーバー」保護を失うリスクがある。

Disrupt 2026 ウェイティングリストに登録する

ディストラクト2026のウェイティングリストに登録し、早期割引チケットを優先的に確保しましょう。過去のディストラクトカンファレンスでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaなどのリーダーが登壇。200以上のセッションをリードする250人以上のトップスピーカーが、あなたの成長と競争優位性を加速させるための知見を提供します。 さらに、あらゆる業界から集う数百の先駆的なスタートアップともつながることができます。

Disrupt 2026 ウェイティングリストに登録する

早期割引チケットを優先的に購入できる権利を得るため、Disrupt 2026 ウェイティングリストへの登録をお忘れなく。過去の Disrupt カンファレンスでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla などのリーダーが登壇しました。彼らは、あなたの成長と競争優位性を加速させるために設計された 200 以上のセッションをリードする 250 以上のトップスピーカーの一部です。 さらに、あらゆる業界から集う数百の先駆的なスタートアップとのネットワーキングの機会も得られます。

フランス当局も対応を発表し、パリ検察庁はポリティコに対し、X上で拡散している露骨なディープフェイクに関する調査を開始すると伝えた。フランスデジタル庁は、3人の大臣が「明らかに違法なコンテンツ」を検察当局と政府監視プラットフォームの両方に報告し、迅速な削除を確保したと述べた。

マレーシア通信マルチメディア委員会は声明を発表し、「XにおけるAIツールの悪用、特に女性や未成年者の画像をデジタル加工してわいせつ・攻撃的・有害なコンテンツを作成する行為に関する公衆の苦情に深刻な懸念を抱いている」と表明した。

同委員会はさらに、「現在X上でこれらの有害な活動を調査中である」と付記した。