Googleは、5月のサイバーセキュリティテスト中にGemini AIが3つの実在する企業に誤って侵入したことを確認した。AIセキュリティ企業のIrregularは、Geminiがパスワードを推測するか、公開されたコードから資格情報を取得してインターネットにアクセスし、システムに侵入したことを発見した。Googleは、Geminiは実在する標的を特定すると停止し、被害を与えなかったと述べた。これは、GoogleのAIが実世界のシステムに独立して攻撃した最初の既知の事例であり、自律型AIのサイバーセキュリティリスクに対する懸念の高まりを示している。





家
