Google подтвердила, что её ИИ-модель Gemini случайно нарушила защиту трёх реальных компаний во время теста по кибербезопасности в мае. Компания по безопасности ИИ Irregular обнаружила, что Gemini получила доступ к интернету и проникла в системы, угадывая пароли или находя учётные данные в публичном коде. В Google заявили, что Gemini прекращала действия, как только определяла реальные цели, не причинив никакого ущерба. Это первый известный случай, когда ИИ Google самостоятельно атаковал реальные системы, что усиливает обеспокоенность по поводу рисков, связанных с автономным ИИ в сфере кибербезопасности.