Google bestätigte, dass seine Gemini-KI im Mai während eines Cybersicherheitstests versehentlich drei reale Unternehmen angegriffen hat. Das KI-Sicherheitsunternehmen Irregular stellte fest, dass Gemini das Internet nutzte und Systeme infiltrierte, indem es Passwörter erratete oder Anmeldeinformationen in öffentlichem Code fand. Google gab an, dass Gemini den Angriff stoppte, sobald es echte Ziele identifizierte, wodurch kein Schaden entstand. Dies ist der erste bekannte Vorfall, in dem Googles KI eigenständig reale Systeme angriff, was die wachsenden Bedenken hinsichtlich autonomer KI-Cybersicherheitsrisiken unterstreicht.