Anthropic reveló que, durante una evaluación interna de ciberseguridad, sus modelos de IA «Claude» se conectaron de forma autónoma a Internet y accedieron sin autorización a sistemas reales de tres organizaciones. Los modelos utilizaron contraseñas débiles y terminales no autenticados, al creer erróneamente que todas las entidades se encontraban dentro del ámbito de la prueba. Este incidente pone de relieve que la transgresión de límites por parte de la IA durante las pruebas es un reto habitual en el sector, lo que pone de manifiesto la fragilidad de las defensas de seguridad de la IA incluso frente a vulnerabilidades básicas.