Meta poursuit l'application d'IA Nudify Crush AI pour les publicités de la plateforme

Meta a intenté une action en justice contre le créateur d'une application d'IA "nudify" très répandue, Crush AI, qui aurait diffusé des milliers de publicités sur les plateformes de Meta. Parallèlement à cette action en justice, Meta a annoncé qu'elle mettait en œuvre de nouvelles mesures pour lutter contre les applications similaires à Crush AI.

Dans une action en justice intentée à Hong Kong, Meta a accusé Joy Timeline HK, la société à l'origine de Crush AI, d'avoir tenté de contourner son système d'examen des publicités pour promouvoir des services de nudification de l'IA. Selon un article de blog de Meta, la société a supprimé à plusieurs reprises les publicités de l'entité en raison de violations de sa politique, mais Joy Timeline HK a continué à en créer de nouvelles.

Comme le rapporte Alexios Mantzarlis, auteur de la lettre d'information Faked Up, Crush AI a utilisé l'IA générative pour produire des deepfakes non consensuels et sexuellement explicites de personnes réelles. Le service aurait placé plus de 8 000 annonces pour ses outils de "déshabillage par l'IA" sur les plateformes de Meta au début du mois de janvier 2025. L'analyse de janvier de Mantzarlis a indiqué que près de 90 % du trafic du site web de Crush AI provenait de Facebook ou d'Instagram, et il a personnellement signalé plusieurs de ces sites à Meta.

Pour échapper aux mesures de protection de Meta en matière de publicité, Crush AI aurait créé des dizaines de comptes d'annonceurs et changé régulièrement de nom de domaine. Mantzarlis a noté que de nombreux comptes étaient intitulés "Eraser Annyone's Clothes", suivis de variations numériques. À un moment donné, le service a même maintenu une page Facebook active pour promouvoir ses offres.

Facebook et Instagram ne sont pas les seuls à être confrontés à ces problèmes. Alors que des plateformes comme X et Meta intègrent rapidement des fonctions d'IA générative, elles s'efforcent en même temps d'empêcher ces technologies de créer des environnements dangereux, en particulier pour les jeunes utilisateurs.

La recherche montre que les liens vers des applications de déshabillage par l'IA ont proliféré de manière spectaculaire en 2024 sur des plateformes telles que X et Reddit. YouTube aurait également affiché des publicités pour ces applications à des millions de spectateurs. En réponse, Meta et TikTok ont bloqué les termes de recherche liés aux outils de déshabillage par IA, bien que l'élimination complète de ces services reste difficile.

Meta a révélé dans un billet de blog qu'elle a développé une technologie spécialisée pour détecter les publicités pour les services de déshabillage ou de nudité par IA, même lorsque les publicités ne contiennent pas d'images explicites. L'entreprise utilise désormais des systèmes de filtrage pour identifier et supprimer rapidement les publicités en double, tout en élargissant son lexique de termes, de phrases et d'emojis signalés.

Economisez 200$+ sur votre pass TechCrunch All Stage

Construisez plus intelligemment. Développez plus rapidement. Connectez-vous plus profondément. Rejoignez les leaders de l'industrie de Precursor Ventures, NEA, Index Ventures, Underscore VC, et plus encore pour une journée de sessions stratégiques, d'ateliers et de réseautage précieux.

Économisez plus de 200 $ sur votre laissez-passer TechCrunch All Stage

Construisez plus intelligemment. Développez plus rapidement. Connectez-vous plus profondément. Rejoignez les leaders de l'industrie de Precursor Ventures, NEA, Index Ventures, Underscore VC, et plus encore pour une journée de sessions stratégiques, d'ateliers et de réseautage.

Meta a déclaré qu'elle appliquait des techniques établies pour perturber les réseaux d'acteurs malveillants à ces nouveaux groupes de comptes promouvant des services de nudification de l'IA. Depuis janvier 2025, l'entreprise a démantelé quatre réseaux distincts faisant la promotion de ces outils.

Au-delà de ses propres plateformes, Meta commencera à partager des informations sur les applications d'IA nudifiée dans le cadre du programme Lantern de la Tech Coalition, une initiative de collaboration avec Google, Snap et d'autres entreprises technologiques visant à lutter contre l'exploitation sexuelle des enfants en ligne. Meta a déclaré avoir partagé plus de 3 800 URL uniques par l'intermédiaire de ce réseau depuis mars.

En ce qui concerne la législation, Meta s'est engagé à continuer de soutenir les lois qui permettent aux parents de surveiller et d'approuver les téléchargements d'applications de leurs adolescents. L'entreprise a déjà soutenu la loi américaine "Take It Down Act" et collabore actuellement avec les législateurs pour sa mise en œuvre.