Meta verklagt AI-'Nudify'-App Crush AI wegen Plattformwerbung

Meta hat Klage gegen den Ersteller einer weit verbreiteten KI-"Nudify"-Anwendung, Crush AI, eingereicht, die angeblich Tausende von Anzeigen auf Metas Plattformen geschaltet hat. Neben der Klage kündigte Meta an, dass es neue Maßnahmen zur Bekämpfung ähnlicher Apps wie Crush AI einführen wird.

In einer in Hongkong eingereichten Klage beschuldigt Meta Joy Timeline HK, das Unternehmen hinter Crush AI, versucht zu haben, sein Anzeigenprüfungssystem zu umgehen, um für KI-Nacktheitsservices zu werben. Einem Blogbeitrag von Meta zufolge hat das Unternehmen die Anzeigen des Unternehmens wiederholt wegen Verstößen gegen die Richtlinien entfernt, aber Joy Timeline HK hat immer wieder neue Anzeigen erstellt.

Wie Alexios Mantzarlis, Autor des Newsletters Faked Up, berichtet, setzte Crush AI generative KI ein, um nicht einvernehmliche, sexuell eindeutige Deepfakes von echten Personen zu erstellen. Der Dienst hat Berichten zufolge Anfang Januar 2025 über 8.000 Anzeigen für seine "KI-Auszieher"-Tools auf den Plattformen von Meta geschaltet. Mantzarlis' Analyse vom Januar ergab, dass fast 90 % des Website-Traffics von Crush AI von Facebook oder Instagram stammten, und er meldete Meta persönlich mehrere dieser Websites.

Um die Werbeschutzmaßnahmen von Meta zu umgehen, hat Crush AI angeblich Dutzende von Werbekonten eingerichtet und regelmäßig die Domainnamen geändert. Mantzarlis stellte fest, dass viele Konten die Bezeichnung "Eraser Annyone's Clothes" trugen, gefolgt von numerischen Variationen. Zu einem bestimmten Zeitpunkt unterhielt der Dienst sogar eine aktive Facebook-Seite, auf der er für seine Angebote warb.

Facebook und Instagram sind nicht die einzigen, die mit diesen Problemen konfrontiert sind. Während Plattformen wie X und Meta schnell generative KI-Funktionen integrieren, kämpfen sie gleichzeitig damit, zu verhindern, dass diese Technologien unsichere Umgebungen schaffen, insbesondere für jüngere Nutzer.

Untersuchungen zeigen, dass sich Links zu KI-Ausziehanwendungen im Jahr 2024 auf Plattformen wie X und Reddit dramatisch vermehrt haben. Berichten zufolge wurde auch auf YouTube Millionen von Zuschauern Werbung für solche Anwendungen angezeigt. Als Reaktion darauf haben Meta und TikTok Suchbegriffe blockiert, die mit KI-Entblößungstools in Verbindung stehen, obwohl es schwierig ist, diese Dienste vollständig zu eliminieren.

Meta teilte in einem Blogbeitrag mit, dass es eine spezielle Technologie entwickelt hat, um Werbung für KI-Nudify- oder Entkleidungsdienste zu erkennen, selbst wenn die Anzeigen keine expliziten Bilder enthalten. Das Unternehmen setzt nun Systeme zur Mustererkennung ein, um doppelte Anzeigen schnell zu identifizieren und zu entfernen, und erweitert gleichzeitig sein Lexikon der markierten Begriffe, Phrasen und Emojis.

Sparen Sie $200+ bei Ihrem TechCrunch All Stage Pass

Intelligenter bauen. Schneller skalieren. Tiefer verbinden. Nehmen Sie mit Branchenführern von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen an einem Tag mit strategischen Sitzungen, Workshops und wertvollem Networking teil.

Sparen Sie $200+ bei Ihrem TechCrunch All Stage Pass

Intelligenter bauen. Schneller skalieren. Tiefer vernetzen. Schließen Sie sich Branchenführern von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen für einen Tag mit strategischen Sitzungen, Workshops und wertvollem Networking an.

Meta erklärte, dass es bewährte Techniken zur Unterbrechung von Netzwerken bösartiger Akteure auf diese neuen Gruppen von Konten anwendet, die für KI-Nacktheitsservices werben. Seit Januar 2025 hat das Unternehmen vier verschiedene Netzwerke, die für diese Tools werben, zerschlagen.

Über seine eigenen Plattformen hinaus wird Meta damit beginnen, Informationen über KI-Nudify-Anwendungen im Rahmen des Lantern-Programms der Tech Coalition zu teilen - einer gemeinsamen Initiative mit Google, Snap und anderen Technologieunternehmen zur Bekämpfung der sexuellen Ausbeutung von Kindern im Internet. Meta berichtete, dass seit März mehr als 3.800 einzelne URLs über dieses Netzwerk geteilt wurden.

Was die Gesetzgebung betrifft, so hat sich Meta verpflichtet, weiterhin Gesetze zu unterstützen, die es Eltern ermöglichen, die App-Downloads ihrer Teenager zu überwachen und zu genehmigen. Das Unternehmen hat bereits den US Take It Down Act unterstützt und arbeitet derzeit mit Gesetzgebern an dessen Umsetzung.