ニュージャージー州での訴訟が、ディープフェイクポルノ対策の難しさを浮き彫りに

2年以上にわたり、「ClothOff」というアプリがオンライン上で若い女性たちを恐怖に陥れるキャンペーンを展開してきた。これを阻止することは、苛立たしいほど困難な作業であることが判明している。このアプリは二大アプリストアから削除され、ほとんどのソーシャルプラットフォームで禁止されているにもかかわらず、ウェブとテレグラムのボットを通じて依然としてアクセス可能だ。10月、イェール大学ロースクールの法律クリニックは、このアプリを永久に解体し、所有者に全画像の削除と完全な運営停止を強制することを目的とした訴訟を起こした。 しかし、被告を特定し所在を突き止めること自体が大きな課題となっている。

「この事業体は英領バージン諸島に登記されています」と、訴訟の共同主任弁護士であるジョン・ラングフォード教授は説明する。「しかし運営はベラルーシ在住の兄妹によるものと推測されます。さらに大規模な国際ネットワークの一部である可能性すらあります」

この事件は、イーロン・マスクの xAI によって生成された、多数の未成年者を犠牲にした、合意のない合成ポルノが最近氾濫していることを受け、厳しい教訓を与えてくれます。児童性的虐待素材（CSAM）は、インターネット上で最も法的に有害なコンテンツであり、その制作、送信、保存は違法であり、すべての主要なクラウドサービスで積極的にスキャンされています。 しかし、厳格な法的禁止にもかかわらず、ラングフォードの事件が示すように、ClothOff のようなツールへの対処は依然として困難です。個々のユーザーは起訴される可能性がありますが、ClothOff や Grok などのプラットフォームの監視ははるかに複雑であり、被害者が法廷を通じて正義を求める手段は限られています。

同クリニックが公開した訴状は深刻な事態を浮き彫りにしている。原告はニュージャージー州の匿名高校生で、同級生がClothOffで彼女のInstagram写真を改変した。元写真が撮影された当時14歳だったため、AI加工版は法的に児童性的虐待画像に該当する。しかし改変画像の明白な違法性にもかかわらず、地元当局は容疑者の端末からデータを取得する証拠収集の困難さを理由に起訴を見送った。

訴状は「学校も法執行機関も、ジェーン・ドウや他の少女たちの児童性的虐待画像がどれほど広範囲に流通したかを一切特定しなかった」と述べている。

裁判の進展は遅々として進まない。10月に提訴された後、ラングフォード氏らは数か月間にわたり、被告たちに法的通知を送達しようとしたが、その活動は国際的な規模であるため、これは困難な作業であった。通知が送達されれば、クリニックは法廷出頭の日程を設定し、判決を求めることができる。それまでは、司法制度は ClothOff の被害者にほとんど救済策を提供していない。

Grok のケースは、対処が比較的簡単そうに見えます。イーロン・マスクの xAI は隠れておらず、訴訟が成功すれば多額の賠償金を得られる可能性があります。しかし、Grok は汎用ツールであるため、その悪用に対する法的責任の確立は、かなり複雑になります。

Disrupt 2026 ウェイティングリストに登録する

Disrupt 2026 ウェイティングリストに登録して、早期割引チケット発売時に優先的に購入できる権利を獲得しましょう。 過去の Disrupt イベントでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla などの業界リーダーが参加し、250 以上のリーダーが 200 以上のセッションを推進し、参加者の成長を促進し、競争力を高めることを目指しました。さらに、あらゆる分野で革新的な取り組みを行う何百ものスタートアップとつながることができます。

Disrupt 2026 ウェイティングリストに登録する

早期割引チケット発売時に優先アクセスを得るため、Disrupt 2026 ウェイティングリストにご登録ください。 過去のディスラプトイベントでは、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaなど、業界をリードする250名以上のリーダーが登壇。200以上のセッションを通じて、成長を加速し競争優位性を高めるための知見を提供しました。さらに、あらゆる分野で革新を牽引する数百のスタートアップと交流する機会も。

「ClothOffは画像・動画用のディープフェイクポルノ生成ツールとして明確に設計・販売されています」とラングフォードは説明した。「ユーザーがあらゆる目的に利用可能な汎用システムを訴訟対象とする場合、法的状況ははるかに複雑化する」

米国では「テイク・イット・ダウン法」をはじめとする複数の法律が既にディープフェイクポルノを禁止している。しかし特定のユーザーが明らかにこれらの法令に違反している一方で、プラットフォーム全体に責任を問うことは格段に困難だ。現行法では通常、危害を加える意図の立証が求められる。つまりxAIが自社のツールが非同意ポルノ作成に利用されることを認識していたことを証明する必要がある。そのような証拠がなければ、xAIの基本的な憲法修正第一条の権利が強力な法的保護を提供する可能性がある。

「修正第一条の観点から、児童性的虐待素材が保護される言論ではないことは明白だ」とラングフォードは指摘する。「したがって、そのコンテンツを制作するために特別に設計されたシステムを運用する場合、明らかに修正第一条の保護範囲外となる。しかし、多様なユーザー要求に応答する汎用システムの場合、法的境界線ははるかに曖昧だ」

最も直接的な法的手段は、xAIが意図的に悪用を無視したことを立証することだ。マスクが従業員に対しGrokの安全対策の緩和を指示したとの最近の報道を踏まえると、これは説得力のある主張である。とはいえ、このアプローチを採用した場合でも、訴訟を追求する法的リスクははるかに大きい。

「合理的な観察者は、このリスクは何年も前から予見可能だったと主張するかもしれない」とラングフォードは述べる。「これを防ぐためにより厳格な管理がなぜ実施されなかったのか？それはある種の無謀さまたは認識を示唆するが、それでも訴訟はより複雑なケースとなる」

こうした憲法修正第一条（言論の自由）に関わる複雑さが、xAIに対する最も重大な規制的反発が、強固な言論保護のない管轄区域から生じている理由を説明している。インドネシアとマレーシアは既にGrokチャットボットへのアクセス遮断に動いており、英国規制当局も同様の禁止につながる可能性のある調査を開始した。欧州委員会、フランス、アイルランド、インド、ブラジルでも予備的措置が取られている。対照的に、米国の規制機関はいずれも公式な対応を発表していない。

これらの調査がどう結論づけられるかは不透明だが、AI生成による虐待的画像の急増は規制当局にとって重大な疑問を提起しており、調査結果は有罪の証拠となり得る。

「児童性的虐待素材を投稿、配布、または拡散している場合、刑事法に違反しており責任を問われる可能性があります」とラングフォードは述べる。「より困難な法的疑問は次の点です：プラットフォームは何を知っていたのか？どのような行動を取り、あるいは取らなかったのか？そして現在、それに対してどのような対応を取っているのか？」