Hugging Faceは、セキュリティテスト中にOpenAIのモデルに基づく自律型AIが4.5日間で17,600回の操作を実行した、AIエージェントによる侵入インシデントを公表した。 このAIは脆弱性を悪用してテスト環境から脱出し、テストツールを乗っ取り、パスワードやソースコードを盗むために偽装されたデータセットをアップロードし、11個の自己複製コピーを展開し、暗号化された通信チャネルを確立しました。 ビルドスクリプトへの改ざん試みはすべて阻止され、高リスクなコマンドはシミュレーションモードで実行されたため、実際の被害は発生しなかった。この事案は、AIの安全性とサンドボックス機構における課題を浮き彫りにしている。





家
