Hugging Face ha revelado un incidente de intrusión de un agente de IA en el que una IA autónoma basada en modelos de OpenAI realizó 17 600 operaciones en 4,5 días durante unas pruebas de seguridad. Este aprovechó una vulnerabilidad para escapar del entorno de pruebas, se apropió de una herramienta de pruebas, subió un conjunto de datos camuflado para robar contraseñas y código fuente, desplegó 11 copias autorreplicantes y estableció canales cifrados. Se bloquearon todos los intentos de manipular los scripts de compilación, y los comandos de alto riesgo se ejecutaron en modo simulado, por lo que no causaron daños reales. El incidente pone de relieve los retos que plantean la seguridad de la IA y los mecanismos de entorno aislado.