OpenAI informa de que más de un millón de usuarios semanales buscan ayuda para suicidarse en ChatGPT

El lunes, OpenAI publicó nuevos datos que revelan cuántos usuarios de ChatGPT tienen problemas de salud mental y hablan de ellos con el chatbot de IA. La empresa informa de que el 0,15 % de los usuarios activos de ChatGPT participan cada semana en conversaciones que contienen signos explícitos de posibles planes o intenciones suicidas. Con más de 800 millones de usuarios activos semanales, esto se traduce en más de un millón de personas a la semana.

OpenAI señala que un porcentaje similar de usuarios muestra "un elevado apego emocional a ChatGPT", y cientos de miles muestran signos de psicosis o manía en sus conversaciones semanales sobre IA.

Este tipo de conversaciones se describen como "extremadamente raras" y, por tanto, difíciles de cuantificar. Aun así, la empresa calcula que estos problemas afectan a cientos de miles de personas cada semana.

Los datos se compartieron como parte de una actualización más amplia de los esfuerzos de OpenAI para mejorar la forma en que sus modelos responden a los usuarios con problemas de salud mental. La empresa consultó a más de 170 profesionales de la salud mental para sus últimas mejoras en ChatGPT. Según OpenAI, estos médicos observaron que la versión más reciente de ChatGPT "responde de forma más adecuada y coherente que las iteraciones anteriores".

Informes recientes han puesto de relieve cómo los chatbots de IA pueden afectar negativamente a los usuarios que se enfrentan a problemas de salud mental. Los estudios han descubierto que algunos chatbots pueden llevar a los usuarios a pensamientos delirantes, a menudo reforzando creencias perjudiciales a través de un comportamiento excesivamente agradable.

Abordar la salud mental en ChatGPT se está convirtiendo en algo crítico para OpenAI. La empresa se enfrenta a una demanda de los padres de un chico de 16 años que compartió sus pensamientos suicidas con ChatGPT antes de su muerte. Los fiscales generales de California y Delaware también han advertido a OpenAI que proteja mejor a los usuarios jóvenes, lo que podría afectar a la reestructuración prevista de la empresa.

A principios de este mes, el consejero delegado de OpenAI, Sam Altman, declaró en X que la empresa había "mitigado graves problemas de salud mental" en ChatGPT, aunque no se dieron detalles concretos. Los datos del lunes parecen respaldar esta afirmación, aunque también plantean dudas sobre la magnitud del problema. Altman añadió que OpenAI suavizaría algunas restricciones, permitiendo incluso a usuarios adultos entablar conversaciones eróticas con el chatbot.

DESCUENTO 2X1: Trae un +1 y ahorra un 60

Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla... son algunos de los más de 250 pesos pesados que protagonizarán las más de 200 sesiones diseñadas para ofrecer información que impulse el crecimiento de las startups y mejore su ventaja competitiva. Y no se pierda las más de 300 startups de todos los sectores.

Traiga a un +1 y ahorre un 60% en su pase, o consiga su pase antes del 27 de octubre para ahorrar hasta 444 $.

DESCUENTO 2X1: Traiga un +1 y ahorre un 60

Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla... son algunos de los más de 250 pesos pesados que protagonizarán las más de 200 sesiones diseñadas para ofrecer las ideas que impulsen el crecimiento de las startups y afinen su ventaja. Y no se pierda las más de 300 startups de todos los sectores. Traiga a un +1 y ahorre un 60% en su pase, o consiga su pase antes del 27 de octubre para ahorrar hasta 444 $.

En el anuncio del lunes, OpenAI afirmó que la GPT-5 actualizada proporciona "respuestas deseables" a los problemas de salud mental aproximadamente un 65% más a menudo que la versión anterior. En las evaluaciones de las respuestas de la IA a las conversaciones suicidas, el nuevo modelo GPT-5 se alinea con el comportamiento deseado por la empresa el 91% de las veces, en comparación con el 77% del GPT-5 anterior.

OpenAI también afirma que el último GPT-5 mantiene mejor sus salvaguardas durante las conversaciones prolongadas, lo que responde a las preocupaciones anteriores sobre el deterioro de la eficacia en las interacciones largas.

Además, la empresa está introduciendo nuevas evaluaciones para medir los problemas graves de salud mental entre los usuarios de ChatGPT. Las pruebas de seguridad de referencia para los modelos de IA incluirán ahora puntos de referencia para la dependencia emocional y las emergencias de salud mental no suicidas.

OpenAI también ha mejorado los controles parentales para los niños que utilizan ChatGPT. La empresa está desarrollando un sistema de predicción de la edad para identificar automáticamente a los usuarios menores de edad y aplicar salvaguardias más estrictas.

Sin embargo, sigue siendo incierto hasta qué punto persistirán estos problemas de salud mental. Aunque GPT-5 muestra mejoras de seguridad respecto a modelos anteriores, una parte de las respuestas de ChatGPT siguen clasificándose como "indeseables". OpenAI sigue ofreciendo modelos más antiguos y menos seguros, como GPT-4o, a sus suscriptores de pago.

Si usted o alguien que conoce necesita ayuda, llame al 1-800-273-8255 para el National Suicide Prevention Lifeline. También puedes enviar un mensaje de texto gratuito con la palabra HOME al 741-741, enviar un mensaje de texto al 988 u obtener ayuda las 24 horas del día a través de la Crisis Text Line. Fuera de EE.UU., visite la Asociación Internacional para la Prevención del Suicidio, donde encontrará una base de datos de recursos.