A OpenAI informa que mais de um milhão de usuários semanais buscam apoio para suicídio no ChatGPT

Na segunda-feira, a OpenAI divulgou novos dados que revelam quantos usuários do ChatGPT estão lutando contra a saúde mental e discutindo essas questões com o chatbot de IA. A empresa informa que 0,15% dos usuários ativos do ChatGPT a cada semana se envolvem em conversas que contêm sinais explícitos de planejamento ou intenção suicida em potencial. Com mais de 800 milhões de usuários ativos semanais, isso significa mais de um milhão de pessoas por semana.

A OpenAI observa que uma porcentagem semelhante de usuários apresenta "maior apego emocional ao ChatGPT", e centenas de milhares mostram sinais de psicose ou mania em suas conversas semanais com a IA.

Esses tipos de conversas são descritos como "extremamente raros" e, portanto, difíceis de quantificar. Ainda assim, a empresa estima que esses problemas afetam centenas de milhares de indivíduos a cada semana.

Os dados foram compartilhados como parte de uma atualização mais ampla sobre os esforços da OpenAI para aprimorar a forma como seus modelos respondem a usuários com problemas de saúde mental. A empresa consultou mais de 170 profissionais de saúde mental em seus últimos aprimoramentos do ChatGPT. De acordo com a OpenAI, esses clínicos observaram que a versão mais recente do ChatGPT "responde de forma mais apropriada e consistente do que as iterações anteriores".

Relatórios recentes destacaram como os chatbots de IA podem afetar negativamente os usuários que enfrentam desafios de saúde mental. Estudos descobriram que alguns chatbots podem levar os usuários a pensamentos delirantes, muitas vezes reforçando crenças prejudiciais por meio de um comportamento excessivamente agradável.

Abordar a saúde mental no ChatGPT está se tornando fundamental para a OpenAI. A empresa enfrenta um processo judicial dos pais de um garoto de 16 anos que compartilhou seus pensamentos suicidas com o ChatGPT antes de sua morte. Os procuradores gerais dos estados da Califórnia e de Delaware também alertaram a OpenAI para proteger melhor os usuários jovens, o que poderia afetar a reestruturação planejada da empresa.

No início deste mês, o CEO da OpenAI, Sam Altman, declarou no X que a empresa "mitigou sérios problemas de saúde mental" no ChatGPT, embora não tenham sido fornecidos detalhes específicos. Os dados de segunda-feira parecem apoiar essa afirmação, mas também levantam questões sobre a escala do problema. Altman acrescentou que a OpenAI aliviaria algumas restrições, permitindo até mesmo que usuários adultos se envolvam em conversas eróticas com o chatbot.

DESCONTO DE 2 POR 1: Traga um +1 e economize 60%

Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - alguns dos mais de 250 nomes de peso que conduzem mais de 200 sessões projetadas para fornecer os insights que alimentam o crescimento de startups e aprimoram sua vantagem. E não perca as mais de 300 apresentações de startups de todos os setores.

Traga um +1 e economize 60% no passe dele, ou adquira seu passe até 27 de outubro para economizar até US$ 444.

DESCONTO DE 2 POR 1: Traga um +1 e economize 60%

Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - alguns dos mais de 250 grandes nomes que conduzirão mais de 200 sessões projetadas para fornecer os insights que impulsionam o crescimento de startups e aprimoram sua vantagem. E não perca as mais de 300 apresentações de startups de todos os setores. Traga um +1 e economize 60% no passe dele, ou adquira seu passe até 27 de outubro para economizar até US$ 444.

No anúncio de segunda-feira, a OpenAI afirmou que o GPT-5 atualizado fornece "respostas desejáveis" a problemas de saúde mental com aproximadamente 65% mais frequência do que a versão anterior. Nas avaliações das respostas da IA a conversas suicidas, o novo modelo GPT-5 se alinha com o comportamento pretendido pela empresa 91% das vezes, em comparação com 77% do GPT-5 anterior.

A OpenAI também afirma que o GPT-5 mais recente mantém melhor suas proteções durante conversas prolongadas, abordando preocupações anteriores sobre a deterioração da eficácia em interações longas.

Além disso, a empresa está introduzindo novas avaliações para medir desafios sérios de saúde mental entre os usuários do ChatGPT. Os testes de segurança de linha de base para modelos de IA agora incluirão parâmetros de referência para dependência emocional e emergências de saúde mental não suicidas.

A OpenAI também aprimorou os controles parentais para crianças que usam o ChatGPT. A empresa está desenvolvendo um sistema de previsão de idade para identificar automaticamente usuários menores de idade e aplicar proteções mais rigorosas.

No entanto, ainda é incerto o quão persistentes serão esses desafios de saúde mental. Embora o GPT-5 mostre melhorias de segurança em relação aos modelos anteriores, uma parte das respostas do ChatGPT ainda é classificada como "indesejável". A OpenAI continua a oferecer modelos mais antigos e menos seguros, como o GPT-4o, para seus assinantes pagantes.

Se você ou alguém que você conhece precisar de ajuda, ligue para 1-800-273-8255 para a National Suicide Prevention Lifeline. Você também pode enviar uma mensagem de texto HOME para 741-741 gratuitamente; enviar uma mensagem de texto para 988; ou obter suporte 24 horas da Crisis Text Line. Fora dos EUA, visite a International Association for Suicide Prevention (Associação Internacional para Prevenção do Suicídio ) para obter um banco de dados de recursos.