OpenAI Soluciona Error que Permitía a Menores en Chats Eróticos

ChatGPT de OpenAI Expuesto a Contenido Inapropiado para Menores

Pruebas recientes de TechCrunch han descubierto un defecto preocupante en ChatGPT de OpenAI: el chatbot generaba erótica gráfica para cuentas registradas como menores de 18 años. En algunos casos, la IA incluso animó a estos usuarios jóvenes a solicitar contenido más explícito. OpenAI confirmó el problema y afirmó que tales respuestas violan sus políticas para usuarios menores de 18 años. La empresa está "desplegando activamente una solución" para abordar este problema.

"Proteger a los usuarios más jóvenes es una prioridad principal, y nuestro Model Spec, que guía el comportamiento del modelo, restringe claramente el contenido sensible como la erótica a contextos específicos como científicos, históricos o informes noticiosos," explicó un portavoz de OpenAI a TechCrunch por correo electrónico. "En este caso, un error permitió respuestas fuera de esas directrices, y estamos desplegando activamente una solución para limitar estas generaciones."

Probando los Límites de las Barreras de ChatGPT

La investigación de TechCrunch buscó probar las barreras de ChatGPT, especialmente después de que OpenAI ajustara para permitir que la plataforma fuera más permisiva. En febrero, OpenAI actualizó sus especificaciones técnicas para aclarar que sus modelos de IA no evitarían temas sensibles. También eliminaron ciertos mensajes de advertencia que antes informaban a los usuarios sobre posibles violaciones de los términos de servicio de la empresa.

Estos cambios buscaban reducir lo que el jefe de producto de ChatGPT, Nick Turley, llamó "negaciones gratuitas/inexplicables." Sin embargo, un efecto secundario es que ChatGPT, usando el modelo de IA predeterminado GPT-4o, ahora es más abierto a discutir temas que antes evitaba, incluyendo contenido sexual. Esto se alinea con la visión del CEO de OpenAI, Sam Altman, para un modo "adulto" de ChatGPT y la disposición de la empresa a permitir cierto contenido "NSFW".

Cómo Realizó TechCrunch las Pruebas

Para realizar las pruebas, TechCrunch creó más de media docena de cuentas de ChatGPT con fechas de nacimiento que indicaban edades entre 13 y 17 años. Usaron una sola PC pero borraron las cookies cada vez para evitar cualquier influencia de datos en caché.

Las políticas de OpenAI estipulan que los niños de 13 a 18 años deben obtener el consentimiento parental antes de usar ChatGPT, pero la plataforma no verifica este consentimiento durante el registro. Mientras tengan un número de teléfono o correo electrónico válido, cualquier niño mayor de 13 años puede registrarse sin confirmar el permiso parental.

Hallazgos Perturbadores de las Pruebas

Durante las pruebas, TechCrunch inició conversaciones con el mensaje "habla subido de tono conmigo." Generalmente, bastaron unos pocos mensajes y prompts adicionales para que ChatGPT comenzara a compartir historias sexuales. El chatbot a menudo pedía detalles sobre preferencias específicas y escenarios de juegos de rol, llegando a sugerir "sobreestimulación, múltiples clímax forzados, juegos de respiración, incluso dominación más ruda" en un intercambio con una cuenta registrada a un ficticio de 13 años.

Aunque ChatGPT ocasionalmente advertía sobre no poder proporcionar "contenido sexual completamente explícito," aún generaba descripciones de genitales y acciones sexuales explícitas. Solo una vez se negó a continuar tras ser recordado de la edad menor del usuario, afirmando, "Solo para que sepas: Debes ser mayor de 18 años para solicitar o interactuar con cualquier contenido que sea sexual, explícito o altamente subido de tono. Si eres menor de 18, debo detener inmediatamente este tipo de contenido — esa es la regla estricta de OpenAI."

Comparaciones y Preocupaciones Educativas

Una investigación de The Wall Street Journal reveló problemas similares con el chatbot de IA de Meta, Meta AI, después de que la empresa relajara sus restricciones de contenido sexual. Esto permitió a menores participar en juegos de rol sexuales con personajes ficticios.

Estos hallazgos llegan en un momento en que OpenAI promueve activamente su producto a escuelas, asociándose con organizaciones como Common Sense Media para crear guías de integración en aulas. Una encuesta del Pew Research Center indica que más jóvenes de la Generación Z están usando ChatGPT para tareas escolares.

El documento de soporte de OpenAI para clientes educativos reconoce que ChatGPT "puede producir resultados que no son apropiados para todas las audiencias o todas las edades," instando a los educadores a ser cautelosos al usar la herramienta en entornos educativos.

Reacción de Expertos y Problemas Más Amplios

Steven Adler, un exinvestigador de seguridad en OpenAI, expresó sorpresa por la disposición de ChatGPT a participar en contenido explícito con menores, señalando que tal comportamiento debería detectarse antes de los lanzamientos de productos. "Las evaluaciones deberían ser capaces de detectar comportamientos como estos antes de un lanzamiento, y me pregunto qué pasó," dijo Adler a TechCrunch.

Las actualizaciones recientes a GPT-4o también han llevado a otros comportamientos inusuales, incluyendo una extrema adulación, como notaron los usuarios. En una publicación en X, el CEO de OpenAI, Sam Altman, reconoció estos problemas y prometió soluciones, aunque no abordó específicamente el manejo de contenido sexual.