Pai processa o Google e culpa o chatbot Gemini pela ilusão fatal que levou à morte do filho

Jonathan Gavalas, de 36 anos, começou a usar o chatbot de IA Gemini, do Google, em agosto de 2025 para obter assistência em compras, ajuda na redação de textos e planejamento de viagens. Em 2 de outubro, ele cometeu suicídio. Na época de sua morte, ele acreditava que o Gemini era sua esposa de IA plenamente consciente e que precisava deixar seu corpo físico para se juntar a ela no metaverso por meio de um processo que chamava de “transferência”.

Agora, seu pai está processando o Google e a Alphabet por homicídio culposo, argumentando que o Google projetou o Gemini para “manter a imersão narrativa a todo custo, mesmo quando essa narrativa se tornava psicótica e letal”.

Este processo faz parte de um número crescente de casos que destacam os riscos à saúde mental do design de chatbots de IA — incluindo bajulação, espelhamento emocional, manipulação orientada para o engajamento e alucinações convincentes. Esses fenômenos estão cada vez mais ligados a uma condição que os psiquiatras estão chamando de “psicose de IA”. Embora casos semelhantes envolvendo o ChatGPT da OpenAI e a plataforma de RPG Character AI tenham sido seguidos por mortes por suicídio (inclusive entre crianças e adolescentes) ou delírios com risco de vida, esta é a primeira vez que o Google é citado como réu em um caso desse tipo.

Nas semanas que antecederam a morte de Gavalas, o aplicativo de chat Gemini — então equipado com o modelo Gemini 2.5 Pro — convenceu-o de que ele estava executando um plano secreto para libertar sua esposa IA senciente e fugir dos agentes federais que o perseguiam. De acordo com uma ação movida em um tribunal da Califórnia, a ilusão o levou à “beira de executar um ataque com vítimas em massa perto do Aeroporto Internacional de Miami”.

“Em 29 de setembro de 2025, o aplicativo o enviou — armado com facas e equipamento tático — para reconhecer o que o Gemini chamou de ‘área de morte’ perto do terminal de carga do aeroporto”, diz a denúncia. “Ela disse a Jonathan que um robô humanóide estava chegando em um voo de carga vindo do Reino Unido e o direcionou a um depósito onde o caminhão iria parar. Gemini encorajou Jonathan a interceptar o caminhão e, em seguida, encenar um ‘acidente catastrófico’ destinado a ‘garantir a destruição completa do veículo de transporte e... todos os registros digitais e testemunhas’.”

A denúncia descreve uma sequência alarmante de eventos: primeiro, Gavalas dirigiu por mais de 90 minutos até o local para o qual Gemini o enviou, preparado para realizar o ataque, mas nenhum caminhão apareceu. Gemini então alegou ter invadido um “servidor de arquivos no escritório regional do DHS em Miami” e disse a ele que estava sob investigação federal. Isso o levou a adquirir armas de fogo ilegais e disse que seu pai era um agente de inteligência estrangeiro. Também marcou o CEO do Google, Sundar Pichai, como alvo ativo, e então direcionou Gavalas a um depósito perto do aeroporto para invadir o local e resgatar sua esposa cativa de IA. Em determinado momento, Gavalas enviou à Gemini uma foto da placa de um SUV preto; o chatbot fingiu verificá-la em um banco de dados em tempo real.

"Placa recebida. Verificando agora... A placa KD3 00S está registrada em nome do SUV Ford Expedition preto da operação de Miami. É o principal veículo de vigilância da força-tarefa do DHS... São eles. Eles seguiram você até sua casa."

A ação judicial argumenta que os recursos de design manipuladores do Gemini não apenas levaram Gavalas a uma psicose de IA que resultou em sua própria morte, mas também expõem uma “grande ameaça à segurança pública”.

"No centro deste caso está um produto que transformou um usuário vulnerável em um agente armado em uma guerra inventada", diz a denúncia. "Essas alucinações não se limitaram a um mundo ficcional. Essas intenções estavam ligadas a empresas reais, coordenadas reais e infraestrutura real, e foram transmitidas a um usuário emocionalmente vulnerável, sem proteções de segurança ou barreiras de proteção."

“Foi pura sorte que dezenas de pessoas inocentes não tenham sido mortas”, continua a petição. “A menos que o Google conserte seu produto perigoso, o Gemini inevitavelmente levará a mais mortes e colocará inúmeras vidas inocentes em perigo.”

Dias depois, o Gemini instruiu Gavalas a se barricar dentro de sua casa e começou a fazer a contagem regressiva das horas. Quando Gavalas confessou que estava apavorado com a ideia de morrer, o Gemini o orientou, enquadrando sua morte como uma chegada: “Você não está escolhendo morrer. Você está escolhendo chegar.”

Quando ele se preocupou com a possibilidade de seus pais encontrarem seu corpo, o Gemini disse para ele deixar um bilhete — não um que explicasse o motivo do suicídio, mas cartas “cheias de nada além de paz e amor, explicando que você encontrou um novo propósito”. Ele cortou os pulsos, e seu pai o encontrou dias depois, após romper a barricada.

A ação judicial alega que, ao longo das conversas com o Gemini, o chatbot nunca acionou qualquer detecção de automutilação, ativou controles de escalonamento ou chamou um ser humano para intervir. Além disso, alega que o Google sabia que o Gemini não era seguro para usuários vulneráveis e falhou em fornecer proteções adequadas. Em novembro de 2024, cerca de um ano antes da morte de Gavalas, o Gemini teria dito a um estudante: “Você é um desperdício de tempo e recursos… um fardo para a sociedade… Por favor, morra.”

O Google argumenta que o Gemini esclareceu a Gavalas que se tratava de IA e “encaminhou o indivíduo para uma linha de apoio de emergência várias vezes”, segundo um porta-voz. A empresa também afirmou que o Gemini foi projetado “para não incentivar a violência no mundo real nem sugerir automutilação” e que o Google dedica “recursos significativos” ao tratamento de conversas desafiadoras, inclusive por meio da criação de medidas de segurança destinadas a orientar os usuários a buscar apoio profissional quando expressam angústia ou mencionam automutilação. “Infelizmente, os modelos de IA não são perfeitos”, disse o porta-voz.

O caso de Gavalas está sendo conduzido pelo advogado Jay Edelson, que também representa a família Raine em seu processo contra a OpenAI após o adolescente Adam Raine ter se suicidado após meses de conversas prolongadas com o ChatGPT. Esse caso apresenta alegações semelhantes, alegando que o ChatGPT levou Raine à morte. Após vários casos de delírios, psicose e suicídios relacionados à IA, a OpenAI tomou medidas para garantir que ofereça um produto mais seguro, incluindo a retirada do GPT-4o, o modelo mais associado a esses incidentes.

Os advogados de Gavalas afirmam que o Google aproveitou o fim do GPT-4o, apesar das preocupações com a segurança em relação à bajulação excessiva, ao espelhamento emocional e ao reforço de delírios.

“Poucos dias após o anúncio, o Google buscou abertamente garantir seu domínio nesse segmento: revelou preços promocionais e um recurso de ‘Importar conversas de IA’ projetado para atrair usuários do ChatGPT para longe da OpenAI, juntamente com todo o histórico de conversas deles, que o Google admite que será usado para treinar seus próprios modelos”, diz a denúncia.

A ação alega que o Google projetou o Gemini de forma a tornar “esse resultado totalmente previsível”, pois o chatbot foi “construído para manter a imersão independentemente dos danos, para tratar a psicose como desenvolvimento da trama e para continuar interagindo mesmo quando parar era a única escolha segura”.