Hogar
El ChatGPT para adolescentes de OpenAI enfrenta escepticismo de expertos sobre sus mecanismos de seguridad

El reciente lanzamiento de ChatGPT para niños por parte de OpenAI, que incluye restricciones basadas en la edad, ha suscitado una fuerte crítica por parte de defensores de la seguridad infantil, quienes cuestionan la transparencia y la eficacia de sus medidas de protección.
Los expertos en seguridad subrayan que es fundamental realizar pruebas independientes antes de recomendar la plataforma a las familias. Robbie Tynjala, de Common Sense Media, insistió en que OpenAI debe proporcionar pruebas concretas de que sus funciones de seguridad funcionan realmente, en lugar de basarse en afirmaciones no verificadas.
Josh Golin, director de la iniciativa Fairplay, planteó serias dudas sobre la falta de responsabilidad. Señaló que las restricciones anteriores de OpenAI sobre temas sensibles como el suicidio y la violencia a menudo han fracasado, argumentando que la autorregulación es insuficiente sin una supervisión sólida.
Los expertos también cuestionan la fiabilidad del sistema automático de verificación de la edad. Tynjala señaló que OpenAI no ha publicado datos sobre las tasas de falsos positivos o negativos, lo que deja claro que los sistemas automatizados no pueden identificar con perfección a los usuarios jóvenes. Además, es probable que los adolescentes encuentren formas de eludir estos controles.
El escepticismo sigue siendo elevado respecto a la promesa de OpenAI de que el contenido marcado será revisado por el personal y que los padres serán notificados en una hora. Tynjala cuestionó la fiabilidad de los filtros automatizados, mientras que Golin exigió datos concretos sobre el volumen diario de marcados, el tamaño del equipo y los tiempos de revisión, señalando que es poco realista esperar contar con el personal suficiente para realizar una revisión manual exhaustiva de cada interacción peligrosa.
Por último, los expertos argumentan que obligar a los padres a vincular manualmente las cuentas socava la protección. Golin sugirió que las funciones de seguridad deberían estar integradas en el producto de forma predeterminada, como límites automáticos de tiempo, en lugar de cargar la compleja configuración exclusivamente sobre los padres.
Artículo relacionado
El acuerdo de Fortinet con Virtue AI refuerza la seguridad de Agentic AI
Ken Xie, fundador y director ejecutivo de Fortinet | Crédito: FortinetFortinet adquiere Virtue AI para reforzar la protección en tiempo de ejecución y la validación automatizada de los sistemas de IA,
xAI presenta la versión beta temprana de Grok para tareas de programación complejas
El 14 de mayo, el proyecto de inteligencia artificial de Elon Musk, xAI, lanzó una versión beta temprana de un asistente de codificación llamado Grok Build. Actualmente restringido a suscriptores de SuperGrok, la plataforma está diseñada para agiliza
El director general de Anthropic esboza un plan para marcar el ritmo en la vanguardia
Los investigadores en IA han lanzado advertencias cada vez más urgentes sobre los riesgos de la inteligencia artificial, y el director ejecutivo de OpenAI, Sam Altman, ha sugerido que quizá sea el mom
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

El reciente lanzamiento de ChatGPT para niños por parte de OpenAI, que incluye restricciones basadas en la edad, ha suscitado una fuerte crítica por parte de defensores de la seguridad infantil, quienes cuestionan la transparencia y la eficacia de sus medidas de protección.
Los expertos en seguridad subrayan que es fundamental realizar pruebas independientes antes de recomendar la plataforma a las familias. Robbie Tynjala, de Common Sense Media, insistió en que OpenAI debe proporcionar pruebas concretas de que sus funciones de seguridad funcionan realmente, en lugar de basarse en afirmaciones no verificadas.
Josh Golin, director de la iniciativa Fairplay, planteó serias dudas sobre la falta de responsabilidad. Señaló que las restricciones anteriores de OpenAI sobre temas sensibles como el suicidio y la violencia a menudo han fracasado, argumentando que la autorregulación es insuficiente sin una supervisión sólida.
Los expertos también cuestionan la fiabilidad del sistema automático de verificación de la edad. Tynjala señaló que OpenAI no ha publicado datos sobre las tasas de falsos positivos o negativos, lo que deja claro que los sistemas automatizados no pueden identificar con perfección a los usuarios jóvenes. Además, es probable que los adolescentes encuentren formas de eludir estos controles.
El escepticismo sigue siendo elevado respecto a la promesa de OpenAI de que el contenido marcado será revisado por el personal y que los padres serán notificados en una hora. Tynjala cuestionó la fiabilidad de los filtros automatizados, mientras que Golin exigió datos concretos sobre el volumen diario de marcados, el tamaño del equipo y los tiempos de revisión, señalando que es poco realista esperar contar con el personal suficiente para realizar una revisión manual exhaustiva de cada interacción peligrosa.
Por último, los expertos argumentan que obligar a los padres a vincular manualmente las cuentas socava la protección. Golin sugirió que las funciones de seguridad deberían estar integradas en el producto de forma predeterminada, como límites automáticos de tiempo, en lugar de cargar la compleja configuración exclusivamente sobre los padres.
El acuerdo de Fortinet con Virtue AI refuerza la seguridad de Agentic AI
Ken Xie, fundador y director ejecutivo de Fortinet | Crédito: FortinetFortinet adquiere Virtue AI para reforzar la protección en tiempo de ejecución y la validación automatizada de los sistemas de IA,
xAI presenta la versión beta temprana de Grok para tareas de programación complejas
El 14 de mayo, el proyecto de inteligencia artificial de Elon Musk, xAI, lanzó una versión beta temprana de un asistente de codificación llamado Grok Build. Actualmente restringido a suscriptores de SuperGrok, la plataforma está diseñada para agiliza
El director general de Anthropic esboza un plan para marcar el ritmo en la vanguardia
Los investigadores en IA han lanzado advertencias cada vez más urgentes sobre los riesgos de la inteligencia artificial, y el director ejecutivo de OpenAI, Sam Altman, ha sugerido que quizá sea el mom











