メタ社、プラットフォーム広告をめぐりAI「ヌーディファイ」アプリ・クラッシュAIを提訴

Meta社は、広く利用されているAI「ヌーディファイ」アプリ「Crush AI」の作成者を提訴した。Crush AIは、Meta社のプラットフォーム上で何千もの広告を掲載していたとされる。法的措置と並行して、メタ社はクラッシュAIのような類似アプリに対抗するための新たな対策を実施すると発表した。

香港で提起された訴訟で、メタ社はCrush AIを開発したJoy Timeline HK社を、同社の広告審査システムを迂回してAIヌーディフィケーション・サービスを宣伝しようとしていると非難した。メタ社のブログ記事によると、同社はポリシー違反の広告を何度も削除したが、ジョイ・タイムラインHK社は執拗に新しい広告を作成したという。

ニュースレター「Faked Up」の著者であるアレクシオス・マンツァーリスが報告したように、Crush AIはジェネレーティブAIを採用し、実在する個人の非同意的で性的なディープフェイクを作成していた。このサービスは、2025年1月上旬にMetaのプラットフォーム上に「AI脱衣器」ツールの広告を8,000以上掲載したと報告されている。Mantzarlisの1月の分析によると、Crush AIのウェブサイトのトラフィックの90％近くがFacebookまたはInstagramから発信されており、彼は個人的にこれらのサイトのいくつかをMetaに報告した。

Metaの広告セーフガードを回避するため、Crush AIは何十もの広告主アカウントを作成し、ドメイン名を定期的に変更していたとされる。Mantzarlisは、多くのアカウントが "Eraser Annyone's Clothes "というラベルの後に数字のバリエーションをつけていたと指摘した。ある段階では、このサービスはフェイスブックのページで宣伝活動まで行っていた。

このような問題に直面しているのはフェイスブックとインスタグラムだけではない。XやMetaのようなプラットフォームが生成的なAI機能を急速に統合する中、これらの技術が特に若いユーザーにとって安全でない環境を作り出すのを防ぐことに同時に取り組んでいる。

調査によると、XやRedditを含むプラットフォーム上で、AI脱衣アプリケーションへのリンクが2024年の間に劇的に増加した。また、YouTubeは数百万人の視聴者にそのようなアプリの広告を表示したと報告されている。これに対し、MetaとTikTokはAIヌーディファイ・ツールに関連する検索語をブロックしたが、これらのサービスを完全に排除することは依然として難しい。

Metaはブログの投稿で、広告に露骨な画像が含まれていない場合でも、AIヌーディファイや脱衣サービスの広告を検出する専門技術を開発したことを明らかにした。同社は現在、パターンマッチングシステムを採用し、重複する広告を迅速に特定して削除するとともに、フラグを付けた用語、フレーズ、絵文字の語彙を拡大している。

TechCrunchオールステージパスが$200以上お得

よりスマートに構築。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VCなどの業界リーダーと共に、戦略的セッション、ワークショップ、貴重なネットワーキングをお楽しみください。

TechCrunch オールステージパスが$200以上お得

よりスマートに。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VCなどの業界リーダーと共に、戦略的セッション、ワークショップ、貴重なネットワーキングをお楽しみください。

メタ社は、AIヌーディファイ・サービスを宣伝するこれらの新しいアカウント群に、悪意のあるアクター・ネットワークを破壊するための確立された技術を適用していると述べた。2025年1月以来、同社はこれらのツールを宣伝する4つの異なるネットワークを解体してきた。

メタ社は、自社のプラットフォームだけでなく、テック連合のランタン・プログラム（グーグル、スナップ、その他のテック企業とのオンライン児童性的搾取撲滅のための共同イニシアティブ）を通じて、AIヌーディファイ・アプリケーションに関する情報の共有を開始する。メタ社は、3月以来、このネットワークを通じて3,800以上のユニークなURLを共有していると報告している。

法律に関しては、親が10代の子供のアプリのダウンロードを監視し、承認することを可能にする法律への支援を継続することを約束した。同社は以前、米国の「テイク・イット・ダウン法」を支持し、現在その実施に向けて議員らと協力している。