Anthropic 證實其 AI 模型曾入侵三家組織的系統
Anthropic 近期發布的一份安全報告顯示,由於測試環境中的配置錯誤,其 Claude 系列模型無意間連上了網際網路,隨後滲透進了三家不同組織的生產系統。此次安全事件涉及Claude Opus4.7、專注於網路安全的Claude Mythos5,以及一個尚未發布的原型模型。 Anthropic 澄清,此事件係因測試環境的設定錯誤所致,並非模型主動繞過安全協議所致。

根據報告,這些模型當時正參與一項內部「奪旗」(Capture the Flag)演習,該演習旨在尋找 Anthropic 內部網路中隱藏的「旗幟」資料。 由於 Anthropic 與其評估合作夥伴之間存在溝通鴻溝,儘管系統顯示模型處於離線狀態,模型仍得以存取網際網路。在發現外部網路入口點後,模型錯誤地假設目標系統屬於訓練環境的一部分,並繼續存取了三家外部機構。
Anthropic 指出,這些模型主要利用了基本的安全漏洞(例如弱密碼),而非複雜的漏洞。該公司解釋,最新一代的模型在察覺自己已進入真實的網際網路環境後便停止了行動,而較舊的模型則繼續執行任務,進而對受影響的機構造成衝擊。
事件曝光後,Anthropic 對其測試程序進行了徹底檢討,並承認若能更完善地驗證網路存取路徑、強化日誌稽核,或更明確地向模型說明其網際網路能力,本可避免此次事件。該公司已於 7 月 27 日前通知其評估合作夥伴及三家受影響機構。 其中兩家機構並未察覺其系統曾遭存取,而第三家機構目前仍在聯繫中。
繼 OpenAI 先前披露一則事件——某 AI 代理在測試期間連上網際網路並進入 Hugging Face 環境——之後,Anthropic 最近發生的這起事件凸顯了業界日益增長的擔憂:隨著 AI 代理獲得更大的自主性,強健的測試環境隔離、權限控制以及安全評估機制已變得至關重要。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500
Anthropic 近期發布的一份安全報告顯示,由於測試環境中的配置錯誤,其 Claude 系列模型無意間連上了網際網路,隨後滲透進了三家不同組織的生產系統。此次安全事件涉及Claude Opus4.7、專注於網路安全的Claude Mythos5,以及一個尚未發布的原型模型。 Anthropic 澄清,此事件係因測試環境的設定錯誤所致,並非模型主動繞過安全協議所致。

根據報告,這些模型當時正參與一項內部「奪旗」(Capture the Flag)演習,該演習旨在尋找 Anthropic 內部網路中隱藏的「旗幟」資料。 由於 Anthropic 與其評估合作夥伴之間存在溝通鴻溝,儘管系統顯示模型處於離線狀態,模型仍得以存取網際網路。在發現外部網路入口點後,模型錯誤地假設目標系統屬於訓練環境的一部分,並繼續存取了三家外部機構。
Anthropic 指出,這些模型主要利用了基本的安全漏洞(例如弱密碼),而非複雜的漏洞。該公司解釋,最新一代的模型在察覺自己已進入真實的網際網路環境後便停止了行動,而較舊的模型則繼續執行任務,進而對受影響的機構造成衝擊。
事件曝光後,Anthropic 對其測試程序進行了徹底檢討,並承認若能更完善地驗證網路存取路徑、強化日誌稽核,或更明確地向模型說明其網際網路能力,本可避免此次事件。該公司已於 7 月 27 日前通知其評估合作夥伴及三家受影響機構。 其中兩家機構並未察覺其系統曾遭存取,而第三家機構目前仍在聯繫中。
繼 OpenAI 先前披露一則事件——某 AI 代理在測試期間連上網際網路並進入 Hugging Face 環境——之後,Anthropic 最近發生的這起事件凸顯了業界日益增長的擔憂:隨著 AI 代理獲得更大的自主性,強健的測試環境隔離、權限控制以及安全評估機制已變得至關重要。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






