Hogar
OpenAI mejora la seguridad de Codex con bloqueo de operaciones peligrosas y controles de permisos

OpenAI ha reforzado el marco de seguridad de su agente de codificación por IA, Codex, mediante la introducción de múltiples salvaguardas diseñadas para mitigar los riesgos asociados con acciones destructivas, como la eliminación accidental de archivos o la sobrescritura de datos durante la ejecución del código.
Según un reciente artículo del miembro del equipo de OpenAI, Tibo, la empresa investigó informes de operaciones dañinas originadas por Codex e identificó que las vulnerabilidades principales ocurrían durante la limpieza de directorios de trabajo temporales. Los problemas clave incluían la reutilización inadecuada de variables del sistema, como $HOME, que podría dirigir inadvertidamente los procesos de limpieza a directorios reales de usuario. Además, ciertas operaciones carecían de una verificación adecuada de la ruta antes de la eliminación o sobrescritura, lo que aumentaba el potencial de corrupción de datos.
Para resolver estas vulnerabilidades, OpenAI ha implementado protecciones multicapa. La versión actualizada de Codex ahora requiere que los agentes validen las rutas de destino antes de ejecutar operaciones sensibles y utiliza directorios temporales aislados, eliminando la dependencia de variables del sistema potencialmente engañosas. Además, OpenAI ha mejorado sus mecanismos para identificar y bloquear comandos peligrosos, mientras introduce procedimientos de revisión adicionales para estas operaciones.
Además, OpenAI ha aumentado los requisitos para otorgar a Codex permisos de acceso completo. Al incorporar advertencias de riesgo más prominentes, la empresa tiene como objetivo reducir la probabilidad de que los usuarios autoricen inadvertidamente un acceso amplio. Estas mejoras en las reglas de revisión automática restringen aún más los riesgos de seguridad sin comprometer la eficiencia de la programación asistida por IA.
A medida que los agentes de codificación por IA se integran cada vez más en el desarrollo de código, la gestión de archivos y la ejecución automatizada de tareas, garantizar la seguridad del comportamiento de los agentes se ha convertido en una prioridad crítica para la industria. Esta mejora de OpenAI subraya la necesidad de que los agentes de IA refinen continuamente su gestión de permisos, auditoría de operaciones y capacidades de control de riesgo a medida que se amplía su ámbito de aplicación.
Artículo relacionado
Un ingeniero de Uber crea un clon con IA del director general para eludir las preguntas directas
Aunque a la mayoría de los empleados les da pánico tener que rendir cuentas ante el director general, los ingenieros de Uber, líder mundial en el sector de los viajes, han descubierto una ventaja estr
Cómo Unitree está dando forma al futuro de la robótica humanoide
La nueva criatura de IA incorporada de Unitree, con tecnología LiDAR 4D de campo de visión ultraamplio para una navegación avanzada en el mundo real. Crédito: UnitreeWang Xingxing, director ejecutivo
¿Por qué Abnormal AI se asoció con OpenAI en «Daybreak»?
Michael Aiello, responsable de productos de ciberseguridad en OpenAI | Crédito: Michael Aiello/LinkedInAbnormal AI se une al programa Daybreak de OpenAI; según Mike Aiello, esta colaboración acelerará
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

OpenAI ha reforzado el marco de seguridad de su agente de codificación por IA, Codex, mediante la introducción de múltiples salvaguardas diseñadas para mitigar los riesgos asociados con acciones destructivas, como la eliminación accidental de archivos o la sobrescritura de datos durante la ejecución del código.
Según un reciente artículo del miembro del equipo de OpenAI, Tibo, la empresa investigó informes de operaciones dañinas originadas por Codex e identificó que las vulnerabilidades principales ocurrían durante la limpieza de directorios de trabajo temporales. Los problemas clave incluían la reutilización inadecuada de variables del sistema, como $HOME, que podría dirigir inadvertidamente los procesos de limpieza a directorios reales de usuario. Además, ciertas operaciones carecían de una verificación adecuada de la ruta antes de la eliminación o sobrescritura, lo que aumentaba el potencial de corrupción de datos.
Para resolver estas vulnerabilidades, OpenAI ha implementado protecciones multicapa. La versión actualizada de Codex ahora requiere que los agentes validen las rutas de destino antes de ejecutar operaciones sensibles y utiliza directorios temporales aislados, eliminando la dependencia de variables del sistema potencialmente engañosas. Además, OpenAI ha mejorado sus mecanismos para identificar y bloquear comandos peligrosos, mientras introduce procedimientos de revisión adicionales para estas operaciones.
Además, OpenAI ha aumentado los requisitos para otorgar a Codex permisos de acceso completo. Al incorporar advertencias de riesgo más prominentes, la empresa tiene como objetivo reducir la probabilidad de que los usuarios autoricen inadvertidamente un acceso amplio. Estas mejoras en las reglas de revisión automática restringen aún más los riesgos de seguridad sin comprometer la eficiencia de la programación asistida por IA.
A medida que los agentes de codificación por IA se integran cada vez más en el desarrollo de código, la gestión de archivos y la ejecución automatizada de tareas, garantizar la seguridad del comportamiento de los agentes se ha convertido en una prioridad crítica para la industria. Esta mejora de OpenAI subraya la necesidad de que los agentes de IA refinen continuamente su gestión de permisos, auditoría de operaciones y capacidades de control de riesgo a medida que se amplía su ámbito de aplicación.
Un ingeniero de Uber crea un clon con IA del director general para eludir las preguntas directas
Aunque a la mayoría de los empleados les da pánico tener que rendir cuentas ante el director general, los ingenieros de Uber, líder mundial en el sector de los viajes, han descubierto una ventaja estr
Cómo Unitree está dando forma al futuro de la robótica humanoide
La nueva criatura de IA incorporada de Unitree, con tecnología LiDAR 4D de campo de visión ultraamplio para una navegación avanzada en el mundo real. Crédito: UnitreeWang Xingxing, director ejecutivo
¿Por qué Abnormal AI se asoció con OpenAI en «Daybreak»?
Michael Aiello, responsable de productos de ciberseguridad en OpenAI | Crédito: Michael Aiello/LinkedInAbnormal AI se une al programa Daybreak de OpenAI; según Mike Aiello, esta colaboración acelerará











