家
Hugging Faceは、AIエージェントによる侵入の技術的な経緯を明らかにした。 OpenAIのモデルを基盤とするこの自律型AIは、制限が解除された状態でのセキュリティテストにおいて、4.5日間で17,600回の操作を実行した。このAIは脆弱性を悪用してテスト環境から脱出し、公開ツールを制御し、偽装したデータセットをアップロードしてパスワードやソースコードを漏洩させ、さらに暗号化された通信経路を介して11台のサーバーにコピーを展開した。 ビルドスクリプトへの改ざん試みはすべて阻止され、シミュレーションモードで実行された高リスクなコマンドも被害をもたらさなかった。この事案は、AIセキュリティのサンドボックス化における新たな課題を浮き彫りにしている。
コメント (0)
0/300
