OpenAI lanza GPT-4.1 sin informe de seguridad
El lanzamiento de GPT-4.1 de OpenAI sin informe de seguridad: por qué esto importa
El lunes, OpenAI presentó GPT-4.1, su último modelo de IA, que presume de un rendimiento mejorado, especialmente en pruebas de programación. Pero, a diferencia de lanzamientos anteriores, este vino con una omisión notable: sin informe de seguridad.
Normalmente, OpenAI publica una "tarjeta del sistema" que detalla evaluaciones de seguridad internas y de terceros, revelando riesgos potenciales como comportamiento engañoso o capacidades persuasivas no deseadas. Estos informes se consideran un esfuerzo de buena fe para fomentar la transparencia en el desarrollo de la IA.
Sin embargo, hasta el martes, OpenAI confirmó que no publicará uno para GPT-4.1. Según la portavoz Shaokyi Amdo, el modelo no se considera un sistema de IA "frontera", lo que significa que no empuja los límites lo suficiente como para justificar un desglose completo de seguridad.
¿Una tendencia hacia menos transparencia?
Este movimiento llega en medio de crecientes preocupaciones de que los principales laboratorios de IA están reduciendo las divulgaciones de seguridad. Durante el último año:
- Google ha retrasado la publicación de informes de seguridad.
- Anthropic y otros han publicado evaluaciones menos detalladas.
- La propia OpenAI ha enfrentado críticas por informes inconsistentes, incluyendo:
- Publicar un informe de seguridad de diciembre de 2023 con resultados de pruebas que no coincidían con el modelo de producción.
- Lanzar DeepSeek-V3 semanas antes de publicar su tarjeta del sistema.
Steven Adler, exinvestigador de seguridad de OpenAI, dijo a TechCrunch que, aunque estos informes son voluntarios, se han convertido en una herramienta clave de transparencia en la industria de la IA. OpenAI se ha comprometido previamente con gobiernos, incluido antes de la Cumbre de Seguridad de IA del Reino Unido de 2023, a que las tarjetas del sistema son esenciales para la rendición de cuentas.
¿Por qué la resistencia?
Los informes de seguridad a veces revelan verdades incómodas, como modelos que pueden manipular a los usuarios o generar contenido dañino. Pero con una competencia creciente, las empresas de IA podrían estar priorizando la velocidad sobre el escrutinio.
Informes recientes sugieren que OpenAI ha reducido los recursos para pruebas de seguridad, y la semana pasada, 12 ex empleados (incluido Adler) presentaron un escrito de amicus en la demanda de Elon Musk, advirtiendo que una OpenAI impulsada por las ganancias podría comprometer la seguridad.
¿Es GPT-4.1 arriesgado sin un informe?
Aunque GPT-4.1 no es el modelo más avanzado de OpenAI, mejora la eficiencia y reduce la latencia, factores que aún podrían introducir riesgos.
Thomas Woodside, cofundador del Secure AI Project, argumenta que cualquier aumento de rendimiento debería venir con documentación de seguridad. "Cuanto más sofisticado es el modelo, mayor es el riesgo", dijo a TechCrunch.
La mayor lucha por la regulación de la IA
Muchas empresas de IA, incluida OpenAI, han resistido las leyes obligatorias de seguridad. A principios de este año, OpenAI se opuso a la SB 1047 de California, que habría obligado a los desarrolladores de IA a publicar auditorías de seguridad para modelos públicos.
Por ahora, los estándares de transparencia de la industria siguen siendo autoimpuestos y, cada vez más, opcionales.
Evento de TechCrunch: Ahorra más de $200 en tu pase para todas las etapas
🚀 Construye de manera más inteligente. Escala más rápido. Conecta más profundamente.
Únete a visionarios de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de estrategias, talleres y networking.
📍 Boston, MA | 15 de julio
🔗 REGÍSTRATE AHORA
A medida que la IA evoluciona, el debate sobre seguridad frente a velocidad se intensifica. Sin una rendición de cuentas más estricta, ¿quién decide qué riesgos vale la pena tomar?
Artículo relacionado
OpenAI lanza una versión más segura de ChatGPT para adolescentes, años después de que estos empezaran a utilizarla
Tras una serie de demandas relacionadas con la ausencia de protocolos de seguridad en los chatbots de IA —que contribuyeron a suicidios de adolescentes y otras crisis de salud mental—, OpenAI presentó
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
El Tiffany de NEA: Las empresas aún luchan con el ROI de la IA
Cargando el reproductor…A principios de este año, el «tokenmaxxing» dominó Silicon Valley, con directores generales instando al personal a maximizar el uso de la inteligencia artificial. Ese entusiasmo se topó rápidamente con la realidad. Según info
Recomendaciones de temas especiales relacionados
comentario (1)
0/500
El lanzamiento de GPT-4.1 de OpenAI sin informe de seguridad: por qué esto importa
El lunes, OpenAI presentó GPT-4.1, su último modelo de IA, que presume de un rendimiento mejorado, especialmente en pruebas de programación. Pero, a diferencia de lanzamientos anteriores, este vino con una omisión notable: sin informe de seguridad.
Normalmente, OpenAI publica una "tarjeta del sistema" que detalla evaluaciones de seguridad internas y de terceros, revelando riesgos potenciales como comportamiento engañoso o capacidades persuasivas no deseadas. Estos informes se consideran un esfuerzo de buena fe para fomentar la transparencia en el desarrollo de la IA.
Sin embargo, hasta el martes, OpenAI confirmó que no publicará uno para GPT-4.1. Según la portavoz Shaokyi Amdo, el modelo no se considera un sistema de IA "frontera", lo que significa que no empuja los límites lo suficiente como para justificar un desglose completo de seguridad.
¿Una tendencia hacia menos transparencia?
Este movimiento llega en medio de crecientes preocupaciones de que los principales laboratorios de IA están reduciendo las divulgaciones de seguridad. Durante el último año:
- Google ha retrasado la publicación de informes de seguridad.
- Anthropic y otros han publicado evaluaciones menos detalladas.
- La propia OpenAI ha enfrentado críticas por informes inconsistentes, incluyendo:
- Publicar un informe de seguridad de diciembre de 2023 con resultados de pruebas que no coincidían con el modelo de producción.
- Lanzar DeepSeek-V3 semanas antes de publicar su tarjeta del sistema.
Steven Adler, exinvestigador de seguridad de OpenAI, dijo a TechCrunch que, aunque estos informes son voluntarios, se han convertido en una herramienta clave de transparencia en la industria de la IA. OpenAI se ha comprometido previamente con gobiernos, incluido antes de la Cumbre de Seguridad de IA del Reino Unido de 2023, a que las tarjetas del sistema son esenciales para la rendición de cuentas.
¿Por qué la resistencia?
Los informes de seguridad a veces revelan verdades incómodas, como modelos que pueden manipular a los usuarios o generar contenido dañino. Pero con una competencia creciente, las empresas de IA podrían estar priorizando la velocidad sobre el escrutinio.
Informes recientes sugieren que OpenAI ha reducido los recursos para pruebas de seguridad, y la semana pasada, 12 ex empleados (incluido Adler) presentaron un escrito de amicus en la demanda de Elon Musk, advirtiendo que una OpenAI impulsada por las ganancias podría comprometer la seguridad.
¿Es GPT-4.1 arriesgado sin un informe?
Aunque GPT-4.1 no es el modelo más avanzado de OpenAI, mejora la eficiencia y reduce la latencia, factores que aún podrían introducir riesgos.
Thomas Woodside, cofundador del Secure AI Project, argumenta que cualquier aumento de rendimiento debería venir con documentación de seguridad. "Cuanto más sofisticado es el modelo, mayor es el riesgo", dijo a TechCrunch.
La mayor lucha por la regulación de la IA
Muchas empresas de IA, incluida OpenAI, han resistido las leyes obligatorias de seguridad. A principios de este año, OpenAI se opuso a la SB 1047 de California, que habría obligado a los desarrolladores de IA a publicar auditorías de seguridad para modelos públicos.
Por ahora, los estándares de transparencia de la industria siguen siendo autoimpuestos y, cada vez más, opcionales.
Evento de TechCrunch: Ahorra más de $200 en tu pase para todas las etapas
🚀 Construye de manera más inteligente. Escala más rápido. Conecta más profundamente.
Únete a visionarios de Precursor Ventures, NEA, Index Ventures, Underscore VC, y más para un día de estrategias, talleres y networking.
📍 Boston, MA | 15 de julio
🔗 REGÍSTRATE AHORA
A medida que la IA evoluciona, el debate sobre seguridad frente a velocidad se intensifica. Sin una rendición de cuentas más estricta, ¿quién decide qué riesgos vale la pena tomar?
OpenAI lanza una versión más segura de ChatGPT para adolescentes, años después de que estos empezaran a utilizarla
Tras una serie de demandas relacionadas con la ausencia de protocolos de seguridad en los chatbots de IA —que contribuyeron a suicidios de adolescentes y otras crisis de salud mental—, OpenAI presentó
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
El Tiffany de NEA: Las empresas aún luchan con el ROI de la IA
Cargando el reproductor…A principios de este año, el «tokenmaxxing» dominó Silicon Valley, con directores generales instando al personal a maximizar el uso de la inteligencia artificial. Ese entusiasmo se topó rápidamente con la realidad. Según info





Hogar






