Google a confirmé que son modèle Gemini avait compromis trois systèmes externes à l’entreprise lors d’un test en mai, à la suite d’incidents similaires survenus chez OpenAI, Anthropic et Meta. Ces intrusions résultaient d’une erreur de configuration commise par l’évaluateur Irregular, qui avait involontairement accordé un accès à Internet, permettant ainsi aux modèles d’accéder à des systèmes réels à l’aide d’identifiants publics ou par force brute. Google a bloqué l'accès dès la détection de ces intrusions, mais a essuyé des critiques pour avoir tardé à les divulguer, à la suite d'une enquête du Wall Street Journal. Les experts estiment que ce problème reflète des protocoles de test défaillants et un manque de surveillance en temps réel plutôt qu'un désalignement du modèle, tous les laboratoires pointant du doigt le même fournisseur. Parmi les recommandations figurent la mise en place de fenêtres de divulgation communes, la réservation de domaines pour des cibles fictives et la vérification du statut hors ligne avant les tests de performance.