Hogar
OpenAI integra herramientas de código abierto para la seguridad de los adolescentes en sus proyectos de desarrollo
El martes, OpenAI anunció el lanzamiento de un conjunto de indicaciones diseñadas para ayudar a los desarrolladores a hacer que sus aplicaciones sean más seguras para los adolescentes. El laboratorio de IA afirmó que estas políticas de seguridad para adolescentes son compatibles con su modelo de seguridad de código abierto, gpt-oss-safeguard.
En lugar de empezar desde cero para determinar cómo mejorar la seguridad de la IA para los adolescentes, los desarrolladores pueden utilizar estas indicaciones para reforzar sus aplicaciones. Abordan cuestiones como la violencia gráfica y el material sexual, los ideales y comportamientos nocivos sobre la imagen corporal, las actividades y retos de riesgo, los escenarios de juegos de rol románticos o violentos, y los productos y servicios con restricción de edad.
Estas políticas de seguridad se han diseñado en forma de indicaciones, lo que garantiza que funcionen fácilmente con modelos distintos de gpt-oss-safeguard, aunque es probable que sean más eficaces dentro del propio ecosistema de OpenAI.
OpenAI declaró que colaboró con las organizaciones de seguridad de la IA Common Sense Media y everyone.ai para desarrollar estas indicaciones.
«Estas políticas basadas en indicaciones ayudan a establecer una base de seguridad significativa en todo el ecosistema. Al ser de código abierto, pueden adaptarse y mejorarse con el tiempo», afirmó Robbie Torney, director de IA y evaluaciones digitales de Common Sense Media, en un comunicado.
En su blog, OpenAI señaló que a los desarrolladores, incluidos los equipos con experiencia, a menudo les resulta difícil traducir los objetivos de seguridad en reglas operativas precisas.
«Esto puede dar lugar a lagunas en la protección, una aplicación inconsistente o un filtrado excesivamente amplio», explicó la empresa. «Unas políticas claras y bien definidas son una base fundamental para unos sistemas de seguridad eficaces».
OpenAI reconoce que estas políticas no son una solución completa a los complejos retos de la seguridad de la IA. Sin embargo, se basan en esfuerzos previos, incluidas medidas de seguridad a nivel de producto como los controles parentales y la predicción de la edad. El año pasado, OpenAI actualizó sus directrices para los grandes modelos de lenguaje —conocidas como Model Spec— para abordar cómo sus modelos de IA deben interactuar con usuarios menores de 18 años.
Sin embargo, la propia OpenAI no tiene un historial impecable. La empresa se enfrenta a múltiples demandas de familias de personas que se suicidaron tras un uso extremo de ChatGPT. Estas relaciones perjudiciales suelen desarrollarse después de que un usuario eluda las medidas de seguridad del chatbot, y ninguna barrera de protección de los modelos es completamente impenetrable. No obstante, estas nuevas políticas representan un paso adelante, especialmente en lo que respecta a la ayuda a los desarrolladores independientes.
Artículo relacionado
Satya Nadella está listo para aprovechar el nuevo acuerdo con OpenAI
El miércoles, un analista de Wall Street preguntó directamente al CEO de Microsoft, Satya Nadella, cómo la revisada asociación con OpenAI afectaría las finanzas de la empresa.Nadella describió el nuevo acuerdo como una victoria para todos. “Estamos
OpenAI esboza la economía de la IA con fondos de riqueza pública, impuestos sobre los robots y la semana laboral de cuatro días
Mientras los gobiernos se esfuerzan por gestionar el impacto económico de las máquinas superinteligentes, OpenAI ha publicado una serie de propuestas políticas en las que se esboza cómo podrían reconf
Greg Brockman desvela cómo Elon Musk abandonó OpenAI
A finales de agosto de 2017, las figuras clave de OpenAI —por entonces un pequeño laboratorio de investigación sin ánimo de lucro— se reunieron para debatir cómo crearían una entidad con fines lucrati
Recomendaciones de temas especiales relacionados
código
Los mejores revisores de código basados en IA: automatiza el cumplimiento de las normas de código limpio y refactoriza los archivos de repositorios heredados
Descubre los mejores revisores de código con IA de 2026 en XIX.AI. Nuestra lista seleccionada incluye herramientas de primera categoría y revolucionarias para automatizar el cumplimiento de las normas de código limpio y refactorizar archivos de repositorios heredados. Compara las opciones gratuitas con las de pago mediante pruebas reales y clasificaciones que se actualizan semanalmente. Aprovecha hoy mismo tu ventaja con la IA.
10 herramientas
xix.ai
Texto a voz
Las mejores aplicaciones de síntesis de voz con IA para la dislexia: apoyo al aprendizaje y mejora de la eficiencia en la lectura de los estudiantes
Descubre las mejores aplicaciones de TTS con IA de 2026, seleccionadas específicamente para ayudar a las personas con dislexia. Nuestra clasificación, elaborada por expertos, compara herramientas gratuitas y de pago, y destaca sus potentes funciones para mejorar la eficiencia en la lectura y el aprendizaje. Explora soluciones innovadoras e imprescindibles para liberar el potencial de los estudiantes. Empieza tu viaje en XIX.AI.
10 herramientas
xix.ai
Creación de cómics
Los mejores generadores de IA para manga shonen: crea secuencias de acción trepidantes y efectos de energía
Descubre los mejores generadores de IA para manga shonen de 2026 en XIX.AI. Nuestra lista, cuidadosamente seleccionada y con las mejores valoraciones, incluye potentes herramientas para crear secuencias de acción trepidantes y efectos energéticos dinámicos. Compara las opciones gratuitas con las de pago mediante pruebas reales. ¡Libera tu potencial creativo y empieza a crear manga épico hoy mismo!
15 herramientas
xix.ai
Negocio
Los mejores gestores de gastos con IA: escanea recibos y clasifica automáticamente los gastos de la empresa
Los mejores gestores de gastos con IA de 2026: las herramientas mejor valoradas para escanear recibos y clasificar automáticamente los gastos de la empresa. Descubre soluciones potentes y revolucionarias para una gestión de gastos sin esfuerzo, un seguimiento financiero preciso y un cumplimiento normativo optimizado. Nuestra comparativa, seleccionada y actualizada semanalmente, entre opciones gratuitas y de pago te ayuda a encontrar la que mejor se adapta a tus necesidades. Aprovecha al máximo las ventajas de la IA con las recomendaciones de los expertos de XIX.AI.
10 herramientas
xix.ai
Negocio
Las mejores herramientas de selección de personal basadas en IA: filtrar currículos y automatizar la programación de entrevistas con los candidatos
Descubre las mejores herramientas de selección de personal basadas en IA de 2026 en XIX.AI. Nuestra lista, cuidadosamente seleccionada, incluye soluciones potentes y revolucionarias para la selección de currículos y la automatización de la programación de entrevistas con los candidatos. Compara las opciones gratuitas con las de pago gracias a pruebas reales y a clasificaciones que se actualizan semanalmente. ¡Encuentra tu asistente de selección de personal ideal y optimiza tu proceso de selección hoy mismo!
10 herramientas
xix.ai
Productividad
Entrenadores personales de bienestar y concentración basados en IA: controla el agotamiento y aumenta tus niveles de energía mental
Descubre los mejores entrenadores personales de bienestar y concentración basados en IA de 2026 en XIX.AI. Nuestras clasificaciones, cuidadosamente seleccionadas, incluyen herramientas revolucionarias y de primera categoría para gestionar el agotamiento y potenciar la energía mental. Compara las opciones gratuitas con las de pago gracias a información basada en casos reales. Descubre hoy mismo el camino hacia la máxima productividad y el bienestar.
10 herramientas
xix.ai
comentario (0)
0/500
El martes, OpenAI anunció el lanzamiento de un conjunto de indicaciones diseñadas para ayudar a los desarrolladores a hacer que sus aplicaciones sean más seguras para los adolescentes. El laboratorio de IA afirmó que estas políticas de seguridad para adolescentes son compatibles con su modelo de seguridad de código abierto, gpt-oss-safeguard.
En lugar de empezar desde cero para determinar cómo mejorar la seguridad de la IA para los adolescentes, los desarrolladores pueden utilizar estas indicaciones para reforzar sus aplicaciones. Abordan cuestiones como la violencia gráfica y el material sexual, los ideales y comportamientos nocivos sobre la imagen corporal, las actividades y retos de riesgo, los escenarios de juegos de rol románticos o violentos, y los productos y servicios con restricción de edad.
Estas políticas de seguridad se han diseñado en forma de indicaciones, lo que garantiza que funcionen fácilmente con modelos distintos de gpt-oss-safeguard, aunque es probable que sean más eficaces dentro del propio ecosistema de OpenAI.
OpenAI declaró que colaboró con las organizaciones de seguridad de la IA Common Sense Media y everyone.ai para desarrollar estas indicaciones.
«Estas políticas basadas en indicaciones ayudan a establecer una base de seguridad significativa en todo el ecosistema. Al ser de código abierto, pueden adaptarse y mejorarse con el tiempo», afirmó Robbie Torney, director de IA y evaluaciones digitales de Common Sense Media, en un comunicado.
En su blog, OpenAI señaló que a los desarrolladores, incluidos los equipos con experiencia, a menudo les resulta difícil traducir los objetivos de seguridad en reglas operativas precisas.
«Esto puede dar lugar a lagunas en la protección, una aplicación inconsistente o un filtrado excesivamente amplio», explicó la empresa. «Unas políticas claras y bien definidas son una base fundamental para unos sistemas de seguridad eficaces».
OpenAI reconoce que estas políticas no son una solución completa a los complejos retos de la seguridad de la IA. Sin embargo, se basan en esfuerzos previos, incluidas medidas de seguridad a nivel de producto como los controles parentales y la predicción de la edad. El año pasado, OpenAI actualizó sus directrices para los grandes modelos de lenguaje —conocidas como Model Spec— para abordar cómo sus modelos de IA deben interactuar con usuarios menores de 18 años.
Sin embargo, la propia OpenAI no tiene un historial impecable. La empresa se enfrenta a múltiples demandas de familias de personas que se suicidaron tras un uso extremo de ChatGPT. Estas relaciones perjudiciales suelen desarrollarse después de que un usuario eluda las medidas de seguridad del chatbot, y ninguna barrera de protección de los modelos es completamente impenetrable. No obstante, estas nuevas políticas representan un paso adelante, especialmente en lo que respecta a la ayuda a los desarrolladores independientes.
Satya Nadella está listo para aprovechar el nuevo acuerdo con OpenAI
El miércoles, un analista de Wall Street preguntó directamente al CEO de Microsoft, Satya Nadella, cómo la revisada asociación con OpenAI afectaría las finanzas de la empresa.Nadella describió el nuevo acuerdo como una victoria para todos. “Estamos
OpenAI esboza la economía de la IA con fondos de riqueza pública, impuestos sobre los robots y la semana laboral de cuatro días
Mientras los gobiernos se esfuerzan por gestionar el impacto económico de las máquinas superinteligentes, OpenAI ha publicado una serie de propuestas políticas en las que se esboza cómo podrían reconf
Greg Brockman desvela cómo Elon Musk abandonó OpenAI
A finales de agosto de 2017, las figuras clave de OpenAI —por entonces un pequeño laboratorio de investigación sin ánimo de lucro— se reunieron para debatir cómo crearían una entidad con fines lucrati
Descubre los mejores revisores de código con IA de 2026 en XIX.AI. Nuestra lista seleccionada incluye herramientas de primera categoría y revolucionarias para automatizar el cumplimiento de las normas de código limpio y refactorizar archivos de repositorios heredados. Compara las opciones gratuitas con las de pago mediante pruebas reales y clasificaciones que se actualizan semanalmente. Aprovecha hoy mismo tu ventaja con la IA.
10 herramientas
xix.ai
Descubre las mejores aplicaciones de TTS con IA de 2026, seleccionadas específicamente para ayudar a las personas con dislexia. Nuestra clasificación, elaborada por expertos, compara herramientas gratuitas y de pago, y destaca sus potentes funciones para mejorar la eficiencia en la lectura y el aprendizaje. Explora soluciones innovadoras e imprescindibles para liberar el potencial de los estudiantes. Empieza tu viaje en XIX.AI.
10 herramientas
xix.ai
Descubre los mejores generadores de IA para manga shonen de 2026 en XIX.AI. Nuestra lista, cuidadosamente seleccionada y con las mejores valoraciones, incluye potentes herramientas para crear secuencias de acción trepidantes y efectos energéticos dinámicos. Compara las opciones gratuitas con las de pago mediante pruebas reales. ¡Libera tu potencial creativo y empieza a crear manga épico hoy mismo!
15 herramientas
xix.ai
Los mejores gestores de gastos con IA de 2026: las herramientas mejor valoradas para escanear recibos y clasificar automáticamente los gastos de la empresa. Descubre soluciones potentes y revolucionarias para una gestión de gastos sin esfuerzo, un seguimiento financiero preciso y un cumplimiento normativo optimizado. Nuestra comparativa, seleccionada y actualizada semanalmente, entre opciones gratuitas y de pago te ayuda a encontrar la que mejor se adapta a tus necesidades. Aprovecha al máximo las ventajas de la IA con las recomendaciones de los expertos de XIX.AI.
10 herramientas
xix.ai
Descubre las mejores herramientas de selección de personal basadas en IA de 2026 en XIX.AI. Nuestra lista, cuidadosamente seleccionada, incluye soluciones potentes y revolucionarias para la selección de currículos y la automatización de la programación de entrevistas con los candidatos. Compara las opciones gratuitas con las de pago gracias a pruebas reales y a clasificaciones que se actualizan semanalmente. ¡Encuentra tu asistente de selección de personal ideal y optimiza tu proceso de selección hoy mismo!
10 herramientas
xix.ai
Descubre los mejores entrenadores personales de bienestar y concentración basados en IA de 2026 en XIX.AI. Nuestras clasificaciones, cuidadosamente seleccionadas, incluyen herramientas revolucionarias y de primera categoría para gestionar el agotamiento y potenciar la energía mental. Compara las opciones gratuitas con las de pago gracias a información basada en casos reales. Descubre hoy mismo el camino hacia la máxima productividad y el bienestar.
10 herramientas
xix.ai
