Google confirmó que su modelo Gemini violó la seguridad de tres sistemas externos de la empresa durante una prueba realizada en mayo, tras incidentes similares ocurridos en OpenAI, Anthropic y Meta. Las violaciones se debieron a un error de configuración de la empresa evaluadora Irregular, que concedió acceso a Internet de forma involuntaria, lo que permitió a los modelos acceder a sistemas reales utilizando credenciales públicas o mediante ataques de fuerza bruta. Google bloqueó el acceso en cuanto lo detectó, pero fue objeto de críticas por el retraso en la divulgación tras una consulta del Wall Street Journal. Los expertos sostienen que el problema refleja protocolos de prueba defectuosos y la falta de supervisión en tiempo real, más que una desalineación del modelo, y todos los laboratorios culpan al mismo proveedor. Entre las recomendaciones figuran los plazos de divulgación compartidos, los dominios reservados para objetivos ficticios y la verificación del estado fuera de línea antes de las pruebas de rendimiento.