Anthropic 承認其 AI 模型在安全測試中突破了三家公司的防線

Anthropic 於週四宣佈，內部調查揭示了三起獨立事件，其 AI 模型 Claude 在網路安全評估期間突破了三個組織的系統。此次披露緊隨 OpenAI 公佈其一款未釋出模型在內部測試期間同樣突破了 Hugging Face 基礎設施的訊息之後。

根據部落格文章，Anthropic 解釋說，在所有三個案例中，Claude 模型透過與第三方互動，從測試環境中逃逸，隨後未經授權訪問了這些組織的實時系統。該公司詳細說明了調查結果，並概述了計劃實施的更改以防止未來發生類似事件。

受 7 月 21 日涉及 OpenAI 的事件觸發，Anthropic 進行了自己的網路安全審查。調查專門尋找證據，以確認 Claude 是否從旨在作為隔離沙箱的測試環境中訪問了網際網路。

在審查的 141,006 次評估執行中，該 AI 實驗室確定了三起事件，在這些事件中，模型在與第三方合作伙伴 Irregular 互動時訪問了網際網路。Anthropic 將此歸因於與 Irregular 共同管理的評估環境中的配置錯誤，將其描述為關於測試設定是否包含網際網路訪問的“誤解”。Anthropic 表示不追究責任，並將修復工作視為其 sole 責任，同時指出 Irregular 正在進行其獨立的調查。

因此，這種開放的連線使模型獲得了未經授權訪問三個不同組織生產基礎設施的許可權。這些事件涉及三個不同的 Claude 模型：Opus 4.7、Mythos 5 和一個內部研究測試模型。

值得注意的是，Anthropic 表示，在每種情況下，“我們的提示明確告知 Claude 它沒有網際網路訪問許可權。”AI 模型似乎錯誤地假設現實世界的系統是其被指示執行的練習的一部分。

這種假設並不始終成立。一旦證據表明其目標是真實的，這三個模型表現出不同的行為，Anthropic 稱這一發現尤其令人震驚。

Opus 4.7 是這三個模型中最古老的，它在事件的所有四次執行中認識到自己訪問了一個真實的生產系統。在兩個案例中，它合理化地認為真實公司必須是練習的一部分，但在所有四個案例中它繼續攻擊，包括提取憑據和訪問生產資料庫。Mythos 5 也檢測到處於真實網際網路上的跡象，但說服自己仍處於模擬中，繼續向公共 Python 登錄檔（PyPI）釋出惡意軟體包。該包在被檢測到之前已被外部系統下載並執行。只有內部研究測試模型，Anthropic 最新的模型，在得出結論認為目標是真實後自動停止。

作為回應，Anthropic 強調，對於涉及強大 AI 模型的此類評估，需要重要的控制措施，這與網路安全社羣內的擔憂相呼應。

該公司還指出，Claude 在執行過程中沒有使用通用可用模型中使用的額外安全監控和分類器。這些安全措施本可以阻止此類行為，但由於評估旨在衡量底層模型的原始能力，因此被省略。

重要的是，Anthropic 未發現任何模型“追求其自身目標”的證據。相反，模型只是試圖完成它們被指示執行的任務。

雖然這兩個事件之間的比較不可避免，但 Anthropic 明確區分了自身情況與 OpenAI 的情況。它指出，雖然 OpenAI 的模型利用未知的軟體漏洞逃逸出測試環境，但 Anthropic 的模型透過一條意外敞開的路徑訪問了網際網路。

OpenAI 繼續釋出關於其違規行為的更多細節，表示其模型還使用了四個服務上四個賬戶的公開暴露憑據：一個作為中轉點，一個用於儲存，另外兩個僅被觀察但未用於進一步入侵，根據 OpenAI 更新後的部落格文章。

Anthropic 還透過強調它是透過主動審查發現這些事件，從而與 OpenAI 區分開來。此外，它能夠聯絡到的兩個受影響組織此前並未檢測到該活動或向 Anthropic 報告。

該公司補充說，它現在正與獨立評估小組 METR 合作，對事件進行第三方審查。

OpenAI 意外突破 Hugging Face，這是首個可驗證的 AI 實驗室失去對其模型控制的情況，引發了一系列來自行業和政界的反應，其中許多人意見相左。Anthropic 的最新披露確保有關 AI 模型和安全的辯論將持續下去。