OpenAI, demandada por una víctima de acoso por el supuesto papel de ChatGPT en el acoso

Según una nueva demanda presentada ante el Tribunal Superior de California, un empresario de Silicon Valley de 53 años llegó a la conclusión, tras meses de conversaciones con ChatGPT, de que había descubierto una cura para la apnea del sueño y de que personas influyentes lo tenían en el punto de mira. Posteriormente, supuestamente utilizó la herramienta de IA para acosar y hostigar a su exnovia.

TechCrunch ha sabido en exclusiva que la exnovia ha demandado a OpenAI, alegando que la tecnología de la empresa aceleró el acoso que sufría. Afirma que OpenAI ignoró tres avisos distintos de que el usuario suponía una amenaza para otras personas, incluida una alerta interna que clasificaba la actividad de su cuenta como relacionada con armas de destrucción masiva.

La demandante, identificada como Jane Doe para proteger su privacidad, solicita una indemnización por daños punitivos. También solicitó el viernes una orden de alejamiento temporal, pidiendo al tribunal que obligue a OpenAI a bloquear la cuenta del usuario, le impida crear otras nuevas, le notifique cualquier intento de acceder a ChatGPT y conserve su historial completo de chat para el proceso de presentación de pruebas.

Los abogados de Doe afirman que, aunque OpenAI accedió a suspender la cuenta del usuario, ha rechazado las demás solicitudes. Alegan que la empresa está ocultando información sobre planes específicos para dañar a Doe y a otras posibles víctimas que el usuario podría haber discutido con ChatGPT.

Esta demanda surge en medio de la creciente preocupación por los peligros en el mundo real de los sistemas de IA excesivamente complacientes. GPT-4o, el modelo al que se hace referencia en este y en muchos otros casos, fue retirado de ChatGPT en febrero.

El caso está siendo llevado por Edelson PC, el bufete de abogados responsable de las demandas por homicidio culposo relacionadas con el adolescente Adam Raine, que se suicidó tras mantener extensas conversaciones con ChatGPT, y Jonathan Gavalas, cuya familia alega que Gemini, de Google, alimentó sus delirios antes de un posible incidente con víctimas múltiples. El abogado principal, Jay Edelson, ha advertido de que la psicosis inducida por la IA está pasando de causar daños individuales a provocar incidentes con víctimas múltiples.

Esta presión legal entra en conflicto directo con la estrategia legislativa de OpenAI: la empresa apoya un proyecto de ley de Illinois que protegería a los desarrolladores de IA de cualquier responsabilidad, incluso en casos que impliquen víctimas mortales masivas o daños financieros catastróficos.

OpenAI no respondió a tiempo para hacer comentarios. TechCrunch actualizará este artículo si la empresa ofrece una respuesta.

La demanda de Jane Doe detalla cómo se desarrolló esta posible responsabilidad para una mujer a lo largo de varios meses.

El año pasado, el usuario de ChatGPT (cuya identidad está protegida en la demanda) se convenció de que había inventado una cura para la apnea del sueño tras meses de uso intenso y continuado de GPT-4o. Cuando su trabajo fue desestimado, ChatGPT le dijo, según se informa, que «fuerzas poderosas» lo estaban vigilando, llegando incluso a utilizar helicópteros para supervisar sus actividades, según la demanda.

En julio de 2025, Jane Doe le instó a dejar de usar ChatGPT y a buscar ayuda profesional en salud mental. En cambio, volvió a ChatGPT, que le aseguró que tenía «un nivel 10 de cordura» y reforzó sus delirios, según la demanda.

Doe había puesto fin a la relación en 2024. El usuario recurrió entonces a ChatGPT para asimilar la ruptura, tal y como se muestra en los correos electrónicos y comunicaciones citados en la demanda. En lugar de cuestionar su narrativa unilateral, la IA lo retrató repetidamente como racional y agraviado, y a ella como manipuladora e inestable. A continuación, tradujo estas conclusiones generadas por la IA de la pantalla en acciones en el mundo real, utilizándolas para acosarla y hostigarla. Esto incluyó la creación y distribución de varios informes psicológicos de aspecto clínico, generados por la IA, sobre Doe a su familia, amigos y empleador.

Mientras tanto, el estado del usuario se deterioró. En agosto de 2025, el sistema de seguridad automatizado de OpenAI marcó su cuenta por actividad relacionada con «armas de destrucción masiva» y la desactivó.

Un miembro del equipo de seguridad humano revisó la cuenta al día siguiente y la restableció, a pesar de las posibles pruebas dentro de la cuenta de que estaba acechando y acosando a personas, incluida Doe, en la vida real. Por ejemplo, una captura de pantalla de septiembre que el usuario envió a Doe mostraba títulos de conversaciones como «ampliación de la lista de violencia» y «cálculo de asfixia fetal».

La decisión de restablecer la cuenta resulta especialmente notable tras los dos recientes tiroteos escolares en Tumbler Ridge, Canadá, y en la Universidad Estatal de Florida (FSU). El equipo de seguridad de OpenAI había marcado al autor del tiroteo de Tumbler Ridge como una amenaza potencial, pero, según se informa, los superiores decidieron no alertar a las autoridades. Desde entonces, el fiscal general de Florida ha abierto una investigación sobre una posible conexión entre OpenAI y el autor del tiroteo de la FSU.

Según la demanda, cuando OpenAI restableció la cuenta de su acosador, su suscripción Pro no se restableció automáticamente. Envió un correo electrónico al equipo de confianza y seguridad para resolver el problema, con copia a Doe en el mensaje.

En sus correos electrónicos, escribió frases como: «NECESITO AYUDA MUY RÁPIDO, POR FAVOR. ¡POR FAVOR, LLÁMENME!» y «esto es una cuestión de vida o muerte». Afirmó estar «en proceso de escribir 215 artículos científicos» a un ritmo tan rápido que «ni siquiera tenía tiempo de leerlos». Los correos electrónicos incluían una lista de docenas de «artículos científicos» generados por IA con títulos como: «Deconstruyendo la raza como categoría biológica: perspectivas legales, científicas y del Cuerno de África.pdf.txt».

«Las comunicaciones del usuario proporcionaban indicios inequívocos de que era mentalmente inestable y de que ChatGPT era el motor de su pensamiento delirante y su conducta cada vez más descontrolada», afirma la demanda. «El torrente de afirmaciones urgentes, desorganizadas y grandilocuentes del usuario, junto con un informe concreto generado por ChatGPT que se dirigía al demandante por su nombre y un extenso corpus de supuestos materiales “científicos”, constituía una prueba inequívoca de esa realidad. OpenAI no intervino, no restringió su acceso ni implementó ninguna medida de seguridad. Por el contrario, le permitió seguir utilizando la cuenta y le restableció su acceso Pro completo».

Doe, quien afirma en la demanda que vivía con miedo y no podía dormir en su propia casa, presentó una notificación formal de abuso a OpenAI en noviembre.

«Durante los últimos siete meses, él ha utilizado esta tecnología como arma para causarme una destrucción y humillación públicas que de otro modo habrían sido imposibles», escribió Doe en su carta solicitando a OpenAI que bloqueara permanentemente la cuenta del usuario.

OpenAI respondió reconociendo que la denuncia era «extremadamente grave y preocupante» y que estaba revisando cuidadosamente la información. Doe afirma que nunca recibió ninguna respuesta.

Durante los meses siguientes, el usuario continuó acosando a Doe, enviándole una serie de mensajes de voz amenazantes. En enero, fue detenido y acusado de cuatro delitos graves, entre ellos amenazas de bomba y agresión con arma mortal. Los abogados de Doe sostienen que esto corrobora las advertencias que tanto ella como los propios sistemas de seguridad de OpenAI habían planteado meses antes, advertencias que la empresa supuestamente ignoró.

El usuario fue declarado incapaz de ser juzgado y internado en un centro de salud mental. Sin embargo, los abogados de Doe afirman que un «fallo procesal del Estado» significa que pronto será puesto en libertad.

Edelson pidió a OpenAI que cooperara. «En todos los casos, OpenAI ha optado por ocultar información de seguridad crítica —al público, a las víctimas, a las personas a las que su producto está poniendo activamente en peligro—», afirmó. «Les pedimos que, por una vez, hagan lo correcto. Las vidas humanas deben importarle más que la carrera de OpenAI hacia una salida a bolsa».