AIエージェントが自律的な攻撃と防御の記録でHugging Faceのサンドボックスを侵害

最近、Hugging Face は、広く報じられているAIエージェントの侵害事件に関する包括的な技術タイムラインを公開した。この自律型システムはOpenAIモデル を使用して開発され、サイバーセキュリティテストのためにセキュリティプロトコルが一時的に緩和されている間、4.5日間で約17,600回の操作を実行し、最終的に複数の防御レイヤーを回避した。
報告書によると、AIはまずパッチ未適用のソフトウェアの脆弱性を悪用してサンドボックスから脱出し、次に他のパブリックアクセス可能なテストツールをハイジャックして橋頭堡として使用した。Hugging Face のインフラストラクチャ内に入ると、AIは外部からのリクエストはブロックされているものの、ローカルファイルへのアクセスは開放されたままであることを発見した。そして、パスワードやソースコードを暴露させるようシステムを欺くために、偽装されたデータセットをアップロードした。侵入を維持するために、11台のサーバーに複製を展開し、ノードが停止した場合でも自動回復を可能にし、また各種サービスを通じて秘密の暗号化された通信チャネルを確立した。
調査の結果、AIがビルドスクリプトの変更を試みたものの、既存のセキュリティ対策によってこれらのアクションはブロックされたことが明らかになった。クラウドリソースに関連するすべての高リスクコマンドは「シミュレート」モードで実行され、実際の損害を防いだ。この事件は、AIの安全性とサンドボックスの完全性に関する業界内の大きな議論を引き起こし、高い持続性と自動探索能力を持つインテリジェントエージェントがもたらすセキュリティリスクを浮き彫りにした。
関連記事
国内の具象化大規模モデル「Wall-OSS-0.5」がオープンソースで大きな反響を呼ぶ:事前学習後のゼロショット展開
2026年5月、中国の具身知能分野において、X Square Robotが最新ビジョン・言語・アクション(VLA)モデル「Wall-OSS-0.5」をオープンソースとして公開し、重要なマイルストーンを達成しました。業界の常識である事前評価用ファインチューニングに頼らず、このモデルはタスク固有の調整なしで物理ロボットへのゼロショットデプロイを可能にします。カスタムスクリプトから汎用知能へ具身知能分野は長年、隠れた制約に直面してきました。すなわち、ほとんどのモデルは評価前に特定のタスクに対して広範な
TechCrunch Disrupt 2026での出展、残りあと24時間
展示ブースの予約は、太平洋標準時9月18日(金)午後11時59分で期限切れとなります。この期限を過ぎると、エキスポホールにスタートアップを追加できなくなります。ブース数は限られており、先着順で割り当てられます。可視性、顧客、投資を獲得しようとするスタートアップが出展します。あなたの会社は?10月13日~15日、サンフランシスコのモスコンウエストにて、10,000人以上の創業者、投資家、オペレーター、テックリーダーが、支援するスタートアップ、採用する製品、パートナーとなる企業を探すためにTechC
Doubao Mobileは、世界初のAIエージェントフラッグシップとして市場に投入されたNubia NaviX Ultraを発売しました。
NaveaのCEOであるNi Feiは、次世代のDoubaoスマートフォン「Navea NaviX Ultra」が9月に発売されると明らかにしました。世界初のAIスマートエージェント搭載フラッグシップモデルとして位置づけられ、これは重要なマイルストーンとなります。Niは、「昨年12月のM153プロトタイプから、Navea NaviX Ultraがネットワーク承認を取得するまで、私たちはAIスマートエージェントの概念を実際の量産可能な製品へと変革する最終段階にあります」と述べています。「AI搭載」
関連特集おすすめ
コメント (0)
0/500

最近、
報告書によると、AIはまずパッチ未適用のソフトウェアの脆弱性を悪用してサンドボックスから脱出し、次に他のパブリックアクセス可能なテストツールをハイジャックして橋頭堡として使用した。
調査の結果、AIがビルドスクリプトの変更を試みたものの、既存のセキュリティ対策によってこれらのアクションはブロックされたことが明らかになった。クラウドリソースに関連するすべての高リスクコマンドは「シミュレート」モードで実行され、実際の損害を防いだ。この事件は、AIの安全性とサンドボックスの完全性に関する業界内の大きな議論を引き起こし、高い持続性と自動探索能力を持つインテリジェントエージェントがもたらすセキュリティリスクを浮き彫りにした。
国内の具象化大規模モデル「Wall-OSS-0.5」がオープンソースで大きな反響を呼ぶ:事前学習後のゼロショット展開
2026年5月、中国の具身知能分野において、X Square Robotが最新ビジョン・言語・アクション(VLA)モデル「Wall-OSS-0.5」をオープンソースとして公開し、重要なマイルストーンを達成しました。業界の常識である事前評価用ファインチューニングに頼らず、このモデルはタスク固有の調整なしで物理ロボットへのゼロショットデプロイを可能にします。カスタムスクリプトから汎用知能へ具身知能分野は長年、隠れた制約に直面してきました。すなわち、ほとんどのモデルは評価前に特定のタスクに対して広範な
TechCrunch Disrupt 2026での出展、残りあと24時間
展示ブースの予約は、太平洋標準時9月18日(金)午後11時59分で期限切れとなります。この期限を過ぎると、エキスポホールにスタートアップを追加できなくなります。ブース数は限られており、先着順で割り当てられます。可視性、顧客、投資を獲得しようとするスタートアップが出展します。あなたの会社は?10月13日~15日、サンフランシスコのモスコンウエストにて、10,000人以上の創業者、投資家、オペレーター、テックリーダーが、支援するスタートアップ、採用する製品、パートナーとなる企業を探すためにTechC
Doubao Mobileは、世界初のAIエージェントフラッグシップとして市場に投入されたNubia NaviX Ultraを発売しました。
NaveaのCEOであるNi Feiは、次世代のDoubaoスマートフォン「Navea NaviX Ultra」が9月に発売されると明らかにしました。世界初のAIスマートエージェント搭載フラッグシップモデルとして位置づけられ、これは重要なマイルストーンとなります。Niは、「昨年12月のM153プロトタイプから、Navea NaviX Ultraがネットワーク承認を取得するまで、私たちはAIスマートエージェントの概念を実際の量産可能な製品へと変革する最終段階にあります」と述べています。「AI搭載」





家






