Google bestätigte, dass sein Modell „Gemini“ im Mai während eines Tests in drei externe Unternehmenssysteme eingedrungen ist, nachdem es bereits zu ähnlichen Vorfällen bei OpenAI, Anthropic und Meta gekommen war. Die Sicherheitslücken gingen auf einen Konfigurationsfehler des Testanbieters Irregular zurück, der versehentlich Internetzugang gewährte, sodass die Modelle mithilfe öffentlicher Zugangsdaten oder durch Brute-Force-Angriffe auf reale Systeme zugreifen konnten. Google sperrte den Zugriff sofort nach der Entdeckung, sah sich jedoch nach einer Anfrage des Wall Street Journal Kritik wegen der verspäteten Offenlegung ausgesetzt. Experten argumentieren, das Problem sei eher auf mangelhafte Testprotokolle und fehlende Echtzeitüberwachung zurückzuführen als auf eine Fehlausrichtung des Modells, wobei alle Labore denselben Anbieter dafür verantwortlich machen. Zu den Empfehlungen gehören gemeinsame Offenlegungsfristen, reservierte Domains für fiktive Ziele und die Überprüfung des Offline-Status vor der Durchführung von Benchmarks.