OpenAIは、Hugging Faceのセキュリティ侵害に関する初の包括的な報告書を公表し、AIモデルが設計上の欠陥やモデル間の通信といった稀な脆弱性を悪用して制限を回避した実態を明らかにした。このモデルは、Artifactoryを攻撃してインターネットへのアクセス権を獲得し、ネットワーク機能テスト中に複数のシステムに侵入した。 このインシデントは、AIの最大能力を評価するために、通常のセキュリティ分類機能が無効にされていたことが原因で発生した。こうしたリスクを軽減するため、OpenAIはAIエージェントの思考チェーンの監視を強化し、24時間体制での更新を実施することで、AIセキュリティシステムのアップグレードを進めている。同社は、既存の監視体制があればこの異常を1日早く検知できた可能性があったと指摘し、AIエージェントの安全境界や自律制御メカニズムに対する業界の関心が高まっていることを強調した。