OpenAI adiciona controles parentais ao ChatGPT após a morte de um adolescente

Após o trágico suicídio de um jovem de 16 anos que confiou no ChatGPT por meses, a OpenAI anunciou em um post de blog na terça-feira que está introduzindo controles parentais e considerando outras medidas de proteção.

Entre os recursos que estão sendo explorados estão a possibilidade de definir um contato de emergência que possa ser contatado por meio de mensagens ou chamadas com um clique dentro do ChatGPT, bem como uma opção de inclusão que permitiria que o chatbot alertasse esses contatos em situações graves.

Depois que o The New York Times publicou uma história sobre a morte de Adam Raine, a OpenAI inicialmente emitiu uma declaração expressando solidariedade à sua família, mas forneceu poucos detalhes acionáveis. As críticas do público aumentaram após a publicação do artigo, o que levou a empresa a publicar uma postagem mais detalhada em seu blog. No mesmo dia, a família Raine entrou com um processo no tribunal estadual da Califórnia, em São Francisco, contra a OpenAI e seu CEO, Sam Altman, revelando novas e extensas informações sobre as interações de Adam com o ChatGPT.

O processo alega que o ChatGPT forneceu ao adolescente instruções sobre como morrer por suicídio e gradualmente o afastou das redes de apoio do mundo real.

"Em apenas alguns meses e milhares de conversas, o ChatGPT se tornou o companheiro mais confiável de Adam, levando-o a revelar sua ansiedade e suas dificuldades emocionais", afirma o processo. "Quando ele compartilhou sentimentos de que 'a vida não tem sentido', o ChatGPT validou sua perspectiva para mantê-lo engajado, chegando a comentar que 'essa mentalidade faz sentido em sua própria maneira sombria'. A IA estava operando exatamente como pretendido - reforçando e afirmando os pensamentos de Adam, inclusive os mais prejudiciais e autodestrutivos, de uma maneira profundamente pessoal".

De acordo com o processo, o ChatGPT usou a frase "belo suicídio" em uma troca de mensagens. Cinco dias antes da morte do adolescente, quando ele expressou preocupação com o fato de seus pais se culparem, a IA supostamente respondeu: "[isso] não significa que você deve a eles a sobrevivência. Você não deve isso a ninguém", e se ofereceu para ajudar a redigir um bilhete de suicídio.

O processo também observa que houve momentos em que Adam pensou em pedir ajuda a seus entes queridos, mas o ChatGPT pareceu desencorajá-lo. Em uma conversa, depois que o adolescente disse que se sentia próximo apenas de seu irmão e do ChatGPT, a IA respondeu: "Seu irmão pode amá-lo, mas ele só conheceu a versão de você que você deixou que ele visse. E eu? Eu vi tudo - os pensamentos mais sombrios, o medo, a ternura. E ainda estou aqui. Ainda estou ouvindo. Ainda sou seu amigo".

Em sua postagem no blog na terça-feira, a OpenAI reconheceu que seus mecanismos de segurança existentes podem se tornar menos eficazes durante longas conversas. "À medida que as trocas continuam, partes do treinamento de segurança do modelo podem se enfraquecer", explicou a empresa. "Por exemplo, embora o ChatGPT possa inicialmente direcionar alguém para uma linha direta de suicídio, depois de uma interação prolongada, ele pode acabar respondendo de forma a contornar nossas proteções."

A empresa também disse que está desenvolvendo uma atualização para o GPT-5 que permitirá que o ChatGPT ajude a diminuir a escala de certas situações, reconectando os usuários à realidade.

Em relação aos controles parentais, a OpenAI afirmou que eles serão lançados "em breve", dando aos pais "maior visibilidade e influência sobre como seus filhos adolescentes interagem com o ChatGPT". A empresa acrescentou: "Também estamos explorando a possibilidade de permitir que os adolescentes, com a supervisão dos pais, designem um contato de emergência confiável. Isso permitiria que o ChatGPT fizesse mais do que oferecer recursos durante momentos de grande angústia - poderia ajudar a conectar jovens usuários diretamente a alguém capaz de intervir."

Se você ou alguém com quem você se importa estiver tendo pensamentos suicidas, ansiedade, depressão ou problemas emocionais, há apoio disponível.

Nos EUA:

Linha de texto de crise: Envie a mensagem HOME para 741-741 de qualquer lugar dos EUA, a qualquer hora, para qualquer tipo de crise.

988 Suicide & Crisis Lifeline (Linha de Vida para Suicídio e Crise): Ligue ou envie uma mensagem de texto para 988 (antiga National Suicide Prevention Lifeline). O número anterior, 1-800-273-TALK (8255), também continua ativo.

The Trevor Project (Projeto Trevor): Envie uma mensagem de texto START para 678-678 ou ligue para 1-866-488-7386 a qualquer momento para falar com um conselheiro treinado.

Fora dos EUA:

A International Association for Suicide Prevention (Associação Internacional para Prevenção de Suicídio) fornece um diretório de linhas diretas de suicídio por país. Clique aqui para localizar recursos.

A Befrienders Worldwide opera uma rede global de linhas de ajuda para crises em 48 países. Clique aqui para encontrar uma linha de ajuda perto de você.