Anthropic 的安全警告適得其反,政府已叫停其最強大的 AI 系統
上週五,美國政府以國家安全風險為由,下令 Anthropic 立即停用其兩套最先進的人工智慧系統——Claude Fable 5 和 Claude Mythos 5。Anthropic 透過 X 平台確認已遵從該命令,但表示認為政府的決定有失妥當。
據 Anthropic 表示,該指令於週五美東時間下午 5:21 送達,要求該公司對全球所有使用者封鎖這兩款模型,範圍已超出出口管制令最初針對的外國國民。Anthropic 的其他模型則不受影響。
此事為何重要?Mythos 是 Anthropic 最強大的 AI 系統,於四月初預覽亮相,並因其卓越的軟體安全漏洞識別能力而受到嚴格限制。 Anthropic 報告指出,Mythos 在測試過的每款主要作業系統和網頁瀏覽器中都發現了漏洞。因此,該公司並未進行廣泛發布,而是啟動了「Project Glasswing」計畫——這是一項受控計畫,僅向約 50 家經過審核的組織(包括亞馬遜、蘋果、谷歌、微軟和 CrowdStrike)提供存取權限,用於防禦性網路安全目的。
僅於三日前推出的「Fable 5」,為因應商業壓力,提供了一款設有安全防護措施的 Mythos 版本,能阻斷在網路安全與生物學等高風險領域的回應。Anthropic 主張此舉使其足以安全地用於一般用途,而追蹤 AI 效能的 Vals AI 所進行的基準測試也證實,它目前是能力最強的公開 AI 模型。

圖片來源:Vals AI /
儘管政府將此定調為限制外國存取的出口管制措施,Anthropic 卻在一篇詳盡的部落格文章中指出,真正問題在於所謂的 Fable 5「越獄」事件。 該公司指出,政府僅提供了關於「潛在的、範圍狹窄且非普遍性的越獄」的口頭證據,該行為涉及引導模型分析特定程式碼庫以尋找軟體漏洞。 Anthropic 指出,此功能在其他公開模型(例如 OpenAI 的 GPT-5.5)中早已廣泛存在,且常被網路安全專業人員用於防禦目的。
Anthropic 的核心論點在於,其最強大的安全防護機制仰賴於獨立於模型本身之外的分類系統。這意味著即使使用者繞過了拒絕機制,針對危險輸出的底層防護措施仍會持續生效。
儘管有這些防護措施,政府仍繼續採取行動,Anthropic 也公開表達了其不滿。「我們不同意,僅因發現一項狹義的潛在『越獄』漏洞,就應成為召回已部署給數億人的商用模型的理由,」該公司寫道。 「若將此標準套用於整個產業,我們認為這將實質上使所有前沿模型供應商的新模型部署全面停擺。」
外界普遍預期 Anthropic 將於今年進行首次公開募股(IPO),並將自身定位為相較於競爭對手更注重安全的替代選擇。觀察家們指出其中諷刺之處在於:Anthropic 先前在限制 Mythos 時所展現的謹慎態度——宣稱其過於危險而不宜對外發布——如今卻恰恰觸發了政府審查,而這可能擾亂其業務。
OpenAI 的山姆·奧特曼(Sam Altman)似乎對此情境樂見其成。今年四月,他告訴播客主持人艾希莉·萬斯(Ashlee Vance),Anthropic 處理 Mythos 的方式是「基於恐懼的行銷」。 「說『我們製造了一顆炸彈,正準備把它扔到你頭上,現在我們要以一億美元的價格賣給你一個防空洞』,這顯然是極其高明的行銷手段,」奧特曼說道。 雖然奧特曼(其公司也計劃即將進行首次公開募股)並未預測政府會叫停該計畫,但他指出了 Anthropic 策略的一項後果:透過花費數月時間警告其人工智慧具有獨特的危險性,該公司確保了美國政府會對此予以關注。
相關文章
OpenAI 推出 GPT-5.5 Instant,作為 ChatGPT 的新預設模型
OpenAI 於週一推出了 GPT-5.5 Instant,取代 GPT-5.3 Instant 成為 ChatGPT 的預設模型。該公司表示,此次更新旨在最大限度地減少法律、醫療和金融等高利害領域中的幻覺現象,同時保留前版本的快速響應速度。在上個月釋出更廣泛的 GPT-5.5 系列(重點突出了編碼和知識工作方面的增強)之後,OpenAI 現已將這些改進整合到即時模型中。在效能方面,新模型在 AIME 2025 數學基準測試中得分 81.2,超過了舊模型的 65.4 分。它在 MMMU-Pr
圖書管理員舉辦火爆的“避開AI”工作坊,為那些對大型科技公司感到厭煩的人們提供服務
“在我的圖書館專案中,每個人都盯著螢幕,”費城南區的一點陣圖書管理員查理·貝利(Charlie Bailey)開玩笑說。他邀請觀眾拿出手機,以便指導他們禁用 Apple Intelligence 和 Gemini。貝利站在兒童圖書館教室裡,腳下是一塊色彩鮮豔的地毯,提醒著我們“M”代表“月亮(moon)”,“Z”代表“斑馬(zebra)”。但房間裡那二十多位成年人並不是來上字母課。他們正在參加一個名為“避免使用人工智慧(Avoiding AI)”的工作坊,在這裡,“AI”指的並不是“蘋果(appl
Adobe 公佈 Photoshop 的 AI 助手
Adobe 於週二宣佈,其 Photoshop AI 助手將以測試版形式面向網頁端及移動應用使用者開放。該公司還為其媒體生成與編輯工具 Firefly 新增了新的 AI 驅動影象編輯功能。這家創意工具公司在十月的 MAX 大會上首次宣佈了 Photoshop 的 AI 助手。該功能現已向使用者推送,可幫助使用者透過提示詞從影象中移除物體或人物、更改顏色或調整光線。使用者還可以使用自然語言指示 AI 助手新增柔和光暈、按特定格式裁剪、增強陰影或將背景變換以賦予影象不同的外觀。Adobe 表示,付費 Pho
相關專題推薦
評論 (0)
0/500
上週五,美國政府以國家安全風險為由,下令 Anthropic 立即停用其兩套最先進的人工智慧系統——Claude Fable 5 和 Claude Mythos 5。Anthropic 透過 X 平台確認已遵從該命令,但表示認為政府的決定有失妥當。
據 Anthropic 表示,該指令於週五美東時間下午 5:21 送達,要求該公司對全球所有使用者封鎖這兩款模型,範圍已超出出口管制令最初針對的外國國民。Anthropic 的其他模型則不受影響。
此事為何重要?Mythos 是 Anthropic 最強大的 AI 系統,於四月初預覽亮相,並因其卓越的軟體安全漏洞識別能力而受到嚴格限制。 Anthropic 報告指出,Mythos 在測試過的每款主要作業系統和網頁瀏覽器中都發現了漏洞。因此,該公司並未進行廣泛發布,而是啟動了「Project Glasswing」計畫——這是一項受控計畫,僅向約 50 家經過審核的組織(包括亞馬遜、蘋果、谷歌、微軟和 CrowdStrike)提供存取權限,用於防禦性網路安全目的。
僅於三日前推出的「Fable 5」,為因應商業壓力,提供了一款設有安全防護措施的 Mythos 版本,能阻斷在網路安全與生物學等高風險領域的回應。Anthropic 主張此舉使其足以安全地用於一般用途,而追蹤 AI 效能的 Vals AI 所進行的基準測試也證實,它目前是能力最強的公開 AI 模型。

圖片來源:Vals AI /
儘管政府將此定調為限制外國存取的出口管制措施,Anthropic 卻在一篇詳盡的部落格文章中指出,真正問題在於所謂的 Fable 5「越獄」事件。 該公司指出,政府僅提供了關於「潛在的、範圍狹窄且非普遍性的越獄」的口頭證據,該行為涉及引導模型分析特定程式碼庫以尋找軟體漏洞。 Anthropic 指出,此功能在其他公開模型(例如 OpenAI 的 GPT-5.5)中早已廣泛存在,且常被網路安全專業人員用於防禦目的。
Anthropic 的核心論點在於,其最強大的安全防護機制仰賴於獨立於模型本身之外的分類系統。這意味著即使使用者繞過了拒絕機制,針對危險輸出的底層防護措施仍會持續生效。
儘管有這些防護措施,政府仍繼續採取行動,Anthropic 也公開表達了其不滿。「我們不同意,僅因發現一項狹義的潛在『越獄』漏洞,就應成為召回已部署給數億人的商用模型的理由,」該公司寫道。 「若將此標準套用於整個產業,我們認為這將實質上使所有前沿模型供應商的新模型部署全面停擺。」
外界普遍預期 Anthropic 將於今年進行首次公開募股(IPO),並將自身定位為相較於競爭對手更注重安全的替代選擇。觀察家們指出其中諷刺之處在於:Anthropic 先前在限制 Mythos 時所展現的謹慎態度——宣稱其過於危險而不宜對外發布——如今卻恰恰觸發了政府審查,而這可能擾亂其業務。
OpenAI 的山姆·奧特曼(Sam Altman)似乎對此情境樂見其成。今年四月,他告訴播客主持人艾希莉·萬斯(Ashlee Vance),Anthropic 處理 Mythos 的方式是「基於恐懼的行銷」。 「說『我們製造了一顆炸彈,正準備把它扔到你頭上,現在我們要以一億美元的價格賣給你一個防空洞』,這顯然是極其高明的行銷手段,」奧特曼說道。 雖然奧特曼(其公司也計劃即將進行首次公開募股)並未預測政府會叫停該計畫,但他指出了 Anthropic 策略的一項後果:透過花費數月時間警告其人工智慧具有獨特的危險性,該公司確保了美國政府會對此予以關注。
OpenAI 推出 GPT-5.5 Instant,作為 ChatGPT 的新預設模型
OpenAI 於週一推出了 GPT-5.5 Instant,取代 GPT-5.3 Instant 成為 ChatGPT 的預設模型。該公司表示,此次更新旨在最大限度地減少法律、醫療和金融等高利害領域中的幻覺現象,同時保留前版本的快速響應速度。在上個月釋出更廣泛的 GPT-5.5 系列(重點突出了編碼和知識工作方面的增強)之後,OpenAI 現已將這些改進整合到即時模型中。在效能方面,新模型在 AIME 2025 數學基準測試中得分 81.2,超過了舊模型的 65.4 分。它在 MMMU-Pr
圖書管理員舉辦火爆的“避開AI”工作坊,為那些對大型科技公司感到厭煩的人們提供服務
“在我的圖書館專案中,每個人都盯著螢幕,”費城南區的一點陣圖書管理員查理·貝利(Charlie Bailey)開玩笑說。他邀請觀眾拿出手機,以便指導他們禁用 Apple Intelligence 和 Gemini。貝利站在兒童圖書館教室裡,腳下是一塊色彩鮮豔的地毯,提醒著我們“M”代表“月亮(moon)”,“Z”代表“斑馬(zebra)”。但房間裡那二十多位成年人並不是來上字母課。他們正在參加一個名為“避免使用人工智慧(Avoiding AI)”的工作坊,在這裡,“AI”指的並不是“蘋果(appl
Adobe 公佈 Photoshop 的 AI 助手
Adobe 於週二宣佈,其 Photoshop AI 助手將以測試版形式面向網頁端及移動應用使用者開放。該公司還為其媒體生成與編輯工具 Firefly 新增了新的 AI 驅動影象編輯功能。這家創意工具公司在十月的 MAX 大會上首次宣佈了 Photoshop 的 AI 助手。該功能現已向使用者推送,可幫助使用者透過提示詞從影象中移除物體或人物、更改顏色或調整光線。使用者還可以使用自然語言指示 AI 助手新增柔和光暈、按特定格式裁剪、增強陰影或將背景變換以賦予影象不同的外觀。Adobe 表示,付費 Pho





首頁






