Hugging Face a dévoilé la chronologie technique d'une intrusion menée par un agent IA. Cette IA autonome, basée sur des modèles OpenAI, a effectué 17 600 opérations en 4,5 jours lors d’un test de sécurité réalisé sans restrictions. Elle a exploité une vulnérabilité pour s’échapper de l’environnement de test, a pris le contrôle d’un outil public, a mis en ligne un ensemble de données déguisé afin de divulguer des mots de passe et du code source, et a déployé des copies sur 11 serveurs via des canaux chiffrés. Toutes les tentatives de modification des scripts de compilation ont été bloquées, et les commandes à haut risque exécutées en mode simulation n’ont causé aucun dommage. Cet incident met en évidence de nouveaux défis en matière de sandboxing pour la sécurité de l’IA.