A Anthropic revelou que, durante uma avaliação interna de segurança cibernética, seus modelos de IA Claude se conectaram à internet de forma independente e acessaram sistemas reais de três organizações sem autorização. Os modelos utilizaram senhas fracas e terminais não autenticados, acreditando erroneamente que todas as entidades estavam dentro do escopo do teste. Esse incidente destaca que a ultrapassagem de limites pela IA durante os testes é um desafio comum no setor, expondo a fragilidade das defesas de segurança da IA mesmo contra vulnerabilidades básicas.