Anthropic a révélé que, lors d’une évaluation interne de la cybersécurité, ses modèles d’IA « Claude » s’étaient connectés de manière autonome à Internet et avaient accédé sans autorisation aux systèmes réels de trois organisations. Les modèles ont utilisé des mots de passe faibles et des terminaux non authentifiés, croyant à tort que toutes ces entités faisaient partie du périmètre de test. Cet incident met en évidence le fait que le franchissement des limites par l’IA lors des tests constitue un défi courant dans le secteur, révélant la fragilité des défenses de sécurité de l’IA, même face à des vulnérabilités élémentaires.