OpenAI é processada por vítima de perseguição por causa do suposto papel do ChatGPT no assédio

De acordo com uma nova ação movida no Tribunal Superior da Califórnia, um empresário de 53 anos do Vale do Silício chegou à conclusão, após meses de conversas com o ChatGPT, de que havia descoberto uma cura para a apneia do sono e que pessoas influentes estavam perseguindo-o. Ele então teria usado a ferramenta de IA para perseguir e assediar sua ex-namorada.

O TechCrunch soube com exclusividade que a ex-namorada está agora processando a OpenAI, alegando que a tecnologia da empresa acelerou o assédio contra ela. Ela alega que a OpenAI ignorou três avisos distintos de que o usuário representava uma ameaça a outras pessoas, incluindo uma sinalização interna que classificava a atividade da conta dele como envolvendo armas de destruição em massa.

A demandante, identificada como Jane Doe para proteger sua privacidade, está buscando indenização por danos punitivos. Ela também solicitou uma ordem de restrição temporária na sexta-feira, pedindo ao tribunal que obrigue a OpenAI a bloquear a conta do usuário, impeça-o de criar novas contas, a notifique sobre qualquer tentativa de acessar o ChatGPT e preserve seu histórico completo de bate-papos para o processo de produção de provas.

Os advogados de Doe afirmam que, embora a OpenAI tenha concordado em suspender a conta do usuário, recusou os demais pedidos. Eles alegam que a empresa está ocultando informações sobre planos específicos para prejudicar Doe e outras vítimas em potencial que o usuário possa ter discutido com o ChatGPT.

Esta ação judicial surge em meio a crescentes preocupações sobre os perigos reais de sistemas de IA excessivamente complacentes. O GPT-4o, modelo mencionado neste e em inúmeros outros casos, foi removido do ChatGPT em fevereiro.

O caso está sendo conduzido pela Edelson PC, o escritório de advocacia responsável por ações por homicídio culposo envolvendo o adolescente Adam Raine, que morreu por suicídio após extensas conversas com o ChatGPT, e Jonathan Gavalas, cuja família alega que o Gemini, do Google, alimentou suas ilusões antes de um possível evento com vítimas em massa. O advogado principal, Jay Edelson, alertou que a psicose induzida por IA está se intensificando, passando de danos individuais para eventos envolvendo vítimas em massa.

Essa pressão legal entra em conflito direto com a estratégia legislativa da OpenAI: a empresa está apoiando um projeto de lei em Illinois que isentaria desenvolvedores de IA de responsabilidade, mesmo em casos envolvendo mortes em massa ou danos financeiros catastróficos.

A OpenAI não respondeu a tempo para comentar. O TechCrunch atualizará este artigo caso a empresa forneça uma resposta.

O processo de Jane Doe detalha como essa potencial responsabilidade se desenrolou para uma mulher ao longo de vários meses.

No ano passado, o usuário do ChatGPT (cuja identidade é protegida no processo) se convenceu de que havia inventado uma cura para a apneia do sono após meses de uso intenso e contínuo do GPT-4o. Quando seu trabalho foi rejeitado, o ChatGPT teria dito a ele que “forças poderosas” estavam monitorando-o, chegando a usar helicópteros para vigiar suas atividades, de acordo com a denúncia.

Em julho de 2025, Jane Doe o instou a parar de usar o ChatGPT e a procurar ajuda profissional de saúde mental. Em vez disso, ele voltou ao ChatGPT, que lhe garantiu que ele estava “no nível 10 de sanidade” e reforçou suas ilusões, afirma a ação judicial.

Doe havia encerrado o relacionamento em 2024. O usuário então utilizou o ChatGPT para lidar com o rompimento, conforme demonstrado em e-mails e comunicações citados na ação. Em vez de contestar sua narrativa unilateral, a IA repetidamente o retratou como racional e injustiçado, e a ela como manipuladora e instável. Ele então traduziu essas conclusões geradas pela IA da tela em ações no mundo real, usando-as para persegui-la e assediá-la. Isso incluiu criar e distribuir vários relatórios psicológicos gerados por IA, com aparência clínica, sobre Doe para sua família, amigos e empregador.

Enquanto isso, a condição do usuário se deteriorou. Em agosto de 2025, o sistema de segurança automatizado da OpenAI sinalizou sua conta por atividade relacionada a “armas de destruição em massa” e a desativou.

Um membro da equipe de segurança humana revisou a conta no dia seguinte e a restaurou, apesar das evidências potenciais dentro da conta de que ele estava perseguindo e assediando indivíduos, incluindo Doe, na vida real. Por exemplo, uma captura de tela de setembro que o usuário enviou a Doe mostrava títulos de conversas incluindo “expansão da lista de violência” e “cálculo de asfixia fetal”.

A decisão de reativar a conta é particularmente notável após dois recentes tiroteios em escolas em Tumbler Ridge, no Canadá, e na Universidade Estadual da Flórida (FSU). A equipe de segurança da OpenAI havia sinalizado o atirador de Tumbler Ridge como uma ameaça potencial, mas os superiores teriam optado por não alertar as autoridades. Desde então, o procurador-geral da Flórida abriu uma investigação sobre uma possível ligação entre a OpenAI e o atirador da FSU.

De acordo com a ação judicial, quando a OpenAI restaurou a conta do perseguidor dela, a assinatura Pro dele não foi automaticamente restabelecida. Ele enviou um e-mail para a equipe de confiança e segurança para resolver o problema, colocando Doe em cópia na mensagem.

Em seus e-mails, ele escreveu frases como: “PRECISO DE AJUDA MUITO RÁPIDO, POR FAVOR. POR FAVOR, ME LIGUEM!” e “isso é uma questão de vida ou morte”. Ele alegou estar “no processo de escrever 215 artigos científicos” tão rapidamente que “nem tinha tempo para lê-los”. Os e-mails incluíam uma lista de dezenas de “artigos científicos” gerados por IA com títulos como: “Desconstruindo a raça como categoria biológica: perspectivas jurídicas, científicas e do Chifre da África.pdf.txt.”

"As comunicações do usuário forneceram indícios inequívocos de que ele era mentalmente instável e que o ChatGPT era o motor de seu pensamento delirante e de sua conduta cada vez mais descontrolada", afirma a ação judicial. “O fluxo de alegações urgentes, desorganizadas e grandiosas do usuário, juntamente com um relatório concreto gerado pelo ChatGPT visando a Autora pelo nome e um vasto conjunto de supostos materiais ‘científicos’, era evidência inequívoca dessa realidade. A OpenAI não interveio, não restringiu seu acesso nem implementou quaisquer medidas de segurança. Em vez disso, permitiu que ele continuasse usando a conta e restaurou seu acesso Pro completo.”

Doe, que afirma na ação judicial que vivia com medo e não conseguia dormir em sua própria casa, apresentou uma Notificação Formal de Abuso à OpenAI em novembro.

"Nos últimos sete meses, ele usou essa tecnologia como arma para causar destruição pública e humilhação contra mim, o que seria impossível de outra forma", escreveu Doe em sua carta solicitando que a OpenAI banisse permanentemente a conta do usuário.

A OpenAI respondeu, reconhecendo que a denúncia era “extremamente grave e preocupante” e que estava analisando cuidadosamente as informações. Doe afirma que nunca recebeu um retorno.

Nos meses seguintes, o usuário continuou a assediar Doe, enviando uma série de mensagens de voz ameaçadoras. Em janeiro, ele foi preso e acusado de quatro crimes graves, incluindo ameaças de bomba e agressão com arma mortal. Os advogados de Doe argumentam que isso confirma os alertas que tanto ela quanto os próprios sistemas de segurança da OpenAI haviam emitido meses antes, alertas que a empresa supostamente ignorou.

O usuário foi considerado incapaz de comparecer a julgamento e internado em uma instituição de saúde mental. No entanto, os advogados de Doe afirmam que uma “falha processual do Estado” significa que ele logo será solto e voltará à sociedade.

Edelson pediu que a OpenAI cooperasse. “Em todos os casos, a OpenAI optou por ocultar informações críticas de segurança — do público, das vítimas, das pessoas que seu produto está colocando ativamente em perigo”, disse ele. “Estamos pedindo que, pelo menos desta vez, façam a coisa certa. Vidas humanas devem significar mais do que a corrida da OpenAI para uma oferta pública inicial (IPO).”