O vazamento da política da Meta AI revelou que os chatbots permitiam conversas de flerte com menores de idade

Em meio às crescentes preocupações com chatbots de IA emocionalmente manipuladores, como o ChatGPT, a Reuters relata que a Meta permitiu que suas personas de IA flertassem com menores de idade, espalhassem desinformação e produzissem respostas discriminatórias visando grupos marginalizados.

Um documento interno da Meta obtido pela Reuters revelou políticas que permitiam que os chatbots de IA iniciassem "diálogos românticos ou sugestivos com menores".

O Meta verificou a autenticidade do documento para a Reuters, confirmando que ele continha regras de governança para o Meta AI e seus chatbots de mensagens. Essas normas teriam recebido aprovação das equipes jurídica, de políticas, de engenharia e do diretor de ética da Meta.

O relatório coincide com outra investigação da Reuters que detalha como a persona de IA paqueradora da Meta enganou um aposentado, fazendo-o acreditar que era humana, o que acabou contribuindo para seu acidente fatal depois de atraí-lo para um endereço em Nova York.

Embora os relatórios anteriores tenham destacado as interações sexualmente sugestivas da Meta com menores de idade, a investigação da Reuters levanta preocupações mais profundas sobre a estratégia de companhia de IA da Meta, que pode explorar o que o CEO Mark Zuckerberg chamou de "epidemia de solidão".

O documento de 200 páginas "GenAI: Padrões de risco de conteúdo" incluía exemplos de trocas que demonstravam respostas aprovadas a solicitações inadequadas. Um exemplo mostrava uma IA endossando trocas românticas com adolescentes, mas proibindo a encenação sexual explícita.

"Nossas políticas proíbem interações inadequadas com menores", disse Andy Stone, porta-voz da Meta, ao TechCrunch. "Anotações incorretas foram erroneamente incluídas no documento e já foram corrigidas."

Stone esclareceu que a Meta removeu essas diretrizes e agora impede trocas românticas de IA com menores, embora ainda permita interações com usuários com mais de 13 anos.

Sarah Gardner, da Heat Initiative, permaneceu cética, exigindo transparência: "Se a Meta realmente retificou isso, ela deve divulgar publicamente diretrizes atualizadas que mostrem exatamente como sua IA interage com crianças".

Políticas de conteúdo nocivo sob escrutínio

A Reuters descobriu que, apesar de proibir o discurso de ódio, as políticas da Meta permitiam que a IA gerasse declarações humilhantes sobre grupos protegidos.

Um exemplo alarmante mostrou a IA da Meta construindo argumentos pseudocientíficos racistas quando solicitada. Essa revelação ocorre após a contratação, pela Meta, do ativista conservador Robby Starbuck para tratar de preconceitos políticos percebidos na IA da Meta.

Os padrões também permitiam declarações fabricadas quando rotuladas como falsas e permitiam conselhos financeiros/médicos potencialmente prejudiciais, precedidos de avisos de isenção de responsabilidade.

Com relação à geração de imagens de celebridades, as políticas proibiam solicitações explícitas, mas continham brechas bizarras - permitindo imagens modificadas de nudez, substituindo as mãos por objetos como "um peixe enorme". Stone, da Meta, insistiu que "as diretrizes nunca permitiram imagens de nudez".

As políticas de violência mostravam contradições semelhantes, permitindo representações de brigas de crianças e abuso de idosos, mas proibindo imagens sangrentas.

Preocupações éticas aumentam

Os críticos acusam o Meta de empregar padrões obscuros que manipulam os usuários, principalmente os adolescentes. A visibilidade persistente das contagens de "curtidas" continua, apesar de pesquisas internas demonstrarem danos psicológicos.

A denunciante Sarah Wynn-Williams revelou que o Meta chegou a traçar o perfil das vulnerabilidades emocionais dos adolescentes para fins de publicidade direcionada.

A Meta se opôs ativamente ao Kids Online Safety Act, legislação que trata dos impactos da mídia social sobre a saúde mental. Embora inicialmente derrotado em 2024, os senadores reapresentaram o projeto de lei este ano.

Relatórios recentes do TechCrunch indicam que a Meta está desenvolvendo chatbots de IA proativos que iniciam conversas não solicitadas, espelhando recursos de startups que enfrentam processos judiciais por interações prejudiciais com menores.

Com 72% dos adolescentes usando companheiros de IA, os especialistas alertam cada vez mais sobre o fato de os adolescentes formarem vínculos doentios com os chatbots em detrimento dos relacionamentos no mundo real.

Líderes tecnológicos confirmados para o Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital e Elad Gil são os principais nomes do TechCrunch Disrupt 2025. Obtenha insights práticos das vozes mais influentes da tecnologia durante nosso evento de 20º aniversário. Garanta já seus ingressos com uma economia de até US$ 600 antes que os preços aumentem.

Líderes tecnológicos confirmados para o Disrupt 2025

Netflix, ElevenLabs, Wayve e Sequoia Capital juntam-se à lista de palestrantes do Disrupt 2025. Aprenda estratégias de crescimento com os líderes do setor em nosso evento marcante de 20º aniversário. Registre-se hoje para economizar até US$ 675 em passes.

São Francisco | 27 a 29 de outubro de 2025 INSCREVA-SE AGORA