Meta processa o aplicativo de IA 'Nudify' Crush AI por causa de anúncios na plataforma

A Meta entrou com uma ação judicial contra o criador de um aplicativo de "nudificação" de IA amplamente utilizado, o Crush AI, que supostamente veiculou milhares de anúncios nas plataformas da Meta. Juntamente com a ação legal, a Meta anunciou que está implementando novas medidas para combater aplicativos semelhantes, como o Crush AI.

Em uma ação judicial movida em Hong Kong, a Meta acusou a Joy Timeline HK, a empresa por trás do Crush AI, de tentar contornar seu sistema de revisão de anúncios para promover serviços de nudificação de AI. De acordo com uma postagem no blog da Meta, a empresa removeu repetidamente os anúncios da entidade por violações da política, mas a Joy Timeline HK criou persistentemente novos anúncios.

Conforme relatado por Alexios Mantzarlis, autor do boletim informativo Faked Up, a Crush AI empregou IA generativa para produzir deepfakes não consensuais e sexualmente explícitos de indivíduos reais. O serviço teria colocado mais de 8.000 anúncios de suas ferramentas "AI undresser" nas plataformas do Meta no início de janeiro de 2025. A análise de janeiro de Mantzarlis indicou que quase 90% do tráfego do site do Crush AI era originário do Facebook ou do Instagram, e ele denunciou pessoalmente vários desses sites ao Meta.

Para burlar as proteções de publicidade do Meta, o Crush AI supostamente criou dezenas de contas de anunciantes e mudou regularmente os nomes de domínio. Mantzarlis observou que muitas contas eram rotuladas como "Eraser Annyone's Clothes", seguidas de variações numéricas. Em um determinado momento, o serviço até manteve uma página ativa no Facebook promovendo suas ofertas.

O Facebook e o Instagram não são os únicos a enfrentar esses problemas. À medida que plataformas como X e Meta integram rapidamente recursos de IA generativa, elas lutam simultaneamente para evitar que essas tecnologias criem ambientes inseguros, especialmente para usuários mais jovens.

A pesquisa mostra que os links para aplicativos de despir com IA proliferaram drasticamente durante 2024 em plataformas como X e Reddit. O YouTube também teria exibido anúncios de tais aplicativos para milhões de espectadores. Em resposta, o Meta e o TikTok bloquearam termos de pesquisa relacionados a ferramentas de nudez com IA, embora a eliminação completa desses serviços continue sendo difícil.

A Meta revelou em uma postagem de blog que desenvolveu uma tecnologia especializada para detectar anúncios de serviços de nudez ou desnudez com IA, mesmo quando os anúncios não contêm imagens explícitas. A empresa agora está empregando sistemas de correspondência de padrões para identificar e remover rapidamente anúncios duplicados, enquanto expande seu léxico de termos, frases e emojis sinalizados.

Economize mais de US$ 200 em seu passe para o TechCrunch All Stage

Crie de forma mais inteligente. Dimensione mais rapidamente. Conecte-se mais profundamente. Junte-se aos líderes do setor da Precursor Ventures, NEA, Index Ventures, Underscore VC e muito mais em um dia de sessões estratégicas, workshops e valioso networking.

Economize mais de US$ 200 em seu passe para o TechCrunch All Stage

Crie de forma mais inteligente. Dimensione mais rapidamente. Conecte-se mais profundamente. Junte-se aos líderes do setor da Precursor Ventures, NEA, Index Ventures, Underscore VC e muito mais em um dia de sessões estratégicas, workshops e networking valioso.

A Meta afirmou que está aplicando técnicas estabelecidas para interromper redes de atores mal-intencionados a esses novos grupos de contas que promovem serviços de nudificação de IA. Desde janeiro de 2025, a empresa desmantelou quatro redes distintas que anunciavam essas ferramentas.

Além de suas próprias plataformas, a Meta começará a compartilhar inteligência sobre aplicativos de nudificação de IA por meio do programa Lantern da Tech Coalition - uma iniciativa colaborativa com o Google, Snap e outras empresas de tecnologia para combater a exploração sexual infantil on-line. A Meta relatou o compartilhamento de mais de 3.800 URLs exclusivos por meio dessa rede desde março.

Com relação à legislação, a Meta se comprometeu a continuar apoiando leis que permitam aos pais monitorar e aprovar os downloads de aplicativos de seus filhos adolescentes. A empresa endossou anteriormente a Lei Take It Down dos EUA e está atualmente colaborando com os legisladores em sua implementação.