インド、XのGrok AIに「わいせつ」コンテンツ問題で対応を命じる

インドは、イーロン・マスク氏のX社に対し、AIチャットボット「Grok」に技術的および手続き上の変更を直ちに実施するよう指示しました。これは、このツールを使ってAIで加工された女性の画像など、「わいせつな」コンテンツが生成されているというユーザーや議員からの報告を受けたものです。

金曜日、インドの IT 省は、X 社に対して Grok の修正措置を講じるよう指示する指令を出しました。これには、「ヌード、性的表現、露骨な性表現、その他違法な」素材を含むコンテンツの生成を制限することが含まれます。 同省はまた、プラットフォームに対し、「わいせつ、ポルノ、下品、猥褻、露骨な性的表現、小児性愛、その他違法」とみなされるコンテンツのホスティングや拡散を防止するために講じた措置の詳細を記載した報告書を 72 時間以内に提出するよう指示しました。

テッククランチが確認したこの命令書は、順守しない場合Xの「セーフハーバー」保護が失われる可能性があると警告している。この法的保護は通常、インド法下でユーザー生成コンテンツに関する責任免除を認めるものだ。

インドの措置は、Grokが主に女性の人物画像をビキニ姿に見せかけるよう改変するよう促される事例がユーザーによって共有されたことを受けたものだ。これに対しインド国会議員のプリヤンカ・チャトゥルヴェディ氏が正式な苦情を申し立てた。別件では、AIチャットボットが未成年者を性的に描写した画像を生成した事例が最近の報道で指摘されていた。Xは金曜日早朝、これらの不備は安全対策の失敗によるものだと認め、該当画像はその後削除された。

しかしTechCrunchの調査では、Grokが生成した「女性がビキニを着ているように見える」AI加工画像が、本稿執筆時点でもX上で閲覧可能な状態にあることが判明した。

今回の指示は、インドIT省が月曜日にソーシャルメディアプラットフォーム向けに発出した広範な勧告に続くものだ。テッククランチも確認したこの勧告は、わいせつ・性的に露骨なコンテンツに対する法令遵守が、ユーザー投稿に対する法的免責を維持する前提条件であることを企業に再確認させた。プラットフォームに対し内部安全対策の強化を促し、不履行はインドのIT法および刑法に基づく法的措置につながる可能性があると警告した。

「上記の要件を遵守しない場合、事前の通知なく、貴プラットフォーム、責任者、および法に違反するプラットフォーム上のユーザーに対し、厳格な法的措置が取られる可能性があることを改めて強調する」と通達には記されていた。

Disrupt 2026 ウェイティングリストに登録

早期割引チケット発売時に優先アクセスを得るため、Disrupt 2026 ウェイティングリストへの登録をお忘れなく。過去のDisruptイベントでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaなど、250名以上の専門家が200以上の成長に焦点を当てたセッションをリードしました。 さらに、あらゆる業界から集まる数百の革新的なスタートアップとのネットワーキングの機会も得られます。

Disrupt 2026 ウェイティングリストに登録

早期割引チケット発売時に優先的にアクセスできるよう、Disrupt 2026 ウェイティングリストへの登録をお忘れなく。過去のDisruptイベントでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaなど、250名以上の専門家が200以上の成長に焦点を当てたセッションをリードしてきました。 あらゆる業界から集まる数百の革新的なスタートアップとのネットワーキングの機会も得られます。

インド政府は、同国のIT法および刑法に基づき、X社に対して法的措置を取る可能性があると表明しました。

世界最大級のデジタル市場であるインドは、政府がAI生成コンテンツを規制する手法の重要なテストケースとなっている。同国での厳格な執行は、複数の管轄区域で事業を展開するテック企業にとって世界的な影響を及ぼす先例となる可能性がある。

この命令は、Xがインドのコンテンツ規制規則の特定項目に対し、政府の削除権限が過剰な介入のリスクを伴うと主張し法的異議を申し立て続けている中で発令された。同プラットフォームは大半のブロック命令には従いつつ、他の命令については異議を唱えている。一方、GrokはXユーザーによるニュースのリアルタイム事実検証やコメント用途で利用が増加しており、その出力は単独のAIツールよりも可視性が高く、政治的に敏感な性質を帯びている。

XとxAIは、インド政府の命令に関するコメント要請に即座には応じなかった。