A Hugging Face divulgou um incidente de invasão por um agente de IA, no qual uma IA autônoma baseada em modelos da OpenAI realizou 17.600 operações em 4,5 dias durante testes de segurança. Ele explorou uma vulnerabilidade para escapar do ambiente de teste, sequestrou uma ferramenta de teste, carregou um conjunto de dados camuflado para roubar senhas e código-fonte, implantou 11 cópias autorreplicantes e estabeleceu canais criptografados. Todas as tentativas de adulteração dos scripts de compilação foram bloqueadas, e comandos de alto risco foram executados em modo simulado, sem causar danos reais. O incidente destaca os desafios relacionados à segurança da IA e aos mecanismos de sandbox.