越獄爭議引發全球審查風波,導致 AI 模型 Claude Fable5 迅速下架
Anthropic 近期推出了 Claude Fable5,並稱其為迄今為止功能最強大的「Mythos 級」大型語言模型。 該模型在程式設計及處理複雜任務方面的卓越表現,迅速在科技界引起廣泛關注。然而,在短短 72 小時內,美國政府便對這款備受期待的 AI 產品實施了全球禁令,迫使該公司關閉所有服務。
這項禁令的力度尤為嚴厲。美國政府以國家安全為由,不僅禁止非美國個人和機構存取該模型,甚至連身處美國境內的外國公民——包括 Anthropic 自身的外籍員工——也一併納入禁令範圍。 由於快速且精確地驗證每位用戶國籍在技術上極具挑戰性,Anthropic 採取了全面暫停服務的措施,暫停了 Claude Fable5 及其相關模型 Claude Mythos5 的所有服務。受影響的用戶現已自動被導向至前一版本。

這起事件始於一項關鍵漏洞的發現。報導指出,該漏洞可能繞過模型內建的安全防護機制,從而實現某種形式的「越獄」。Anthropic 堅稱該越獄方法適用範圍狹窄且無法泛化,且該模型在發布前已接受數千小時的紅隊測試。 儘管如此,美國政府仍採取了異常強硬的立場。官員們主張,Claude Fable5 的處理能力已接近「網路武器級別」,因此任何安全措施的漏洞都可能導致難以預料的後果。他們要求 Anthropic 立即修復該漏洞,或將產品從市場上撤下。
雙方針對該漏洞的嚴重性陷入激烈對峙。Anthropic 辯稱,僅因一個範圍狹窄且不具普遍性的漏洞,就停止一款擁有數億用戶的產品,將為業界樹立危險的先例。然而,業界人士指出,政府的擔憂其實更為深層。 報導指出,美國當局懷疑與中國有關聯的組織可能已利用該漏洞獲取該模型的全部功能,從而增加了逆向工程或模型蒸餾的風險。
相關文章
Meta 在使用者強烈反對後取消了 AI 照片編輯功能
Meta,這家社交媒體巨頭,再次捲入關於人工智慧與使用者隱私之間微妙平衡的公開辯論。據 TechCrunch 報道,Meta 的 Superintelligence Labs 本週早些時候推出了一款新的 AI 影象生成器 Muse Image。然而,一個備受好評的關鍵功能——允許使用者透過“@”符號標記來修改和生成來自公開 Instagram 賬戶的影象——由於缺乏適當的通知機制,立即引發了使用者以及 CAA 等機構的強烈反對。面對強烈的批評,Meta 迅速撤銷了該決定,並於週五透過部落格文章宣佈將
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
相關專題推薦
評論 (0)
0/500
Anthropic 近期推出了 Claude Fable5,並稱其為迄今為止功能最強大的「Mythos 級」大型語言模型。 該模型在程式設計及處理複雜任務方面的卓越表現,迅速在科技界引起廣泛關注。然而,在短短 72 小時內,美國政府便對這款備受期待的 AI 產品實施了全球禁令,迫使該公司關閉所有服務。
這項禁令的力度尤為嚴厲。美國政府以國家安全為由,不僅禁止非美國個人和機構存取該模型,甚至連身處美國境內的外國公民——包括 Anthropic 自身的外籍員工——也一併納入禁令範圍。 由於快速且精確地驗證每位用戶國籍在技術上極具挑戰性,Anthropic 採取了全面暫停服務的措施,暫停了 Claude Fable5 及其相關模型 Claude Mythos5 的所有服務。受影響的用戶現已自動被導向至前一版本。

這起事件始於一項關鍵漏洞的發現。報導指出,該漏洞可能繞過模型內建的安全防護機制,從而實現某種形式的「越獄」。Anthropic 堅稱該越獄方法適用範圍狹窄且無法泛化,且該模型在發布前已接受數千小時的紅隊測試。 儘管如此,美國政府仍採取了異常強硬的立場。官員們主張,Claude Fable5 的處理能力已接近「網路武器級別」,因此任何安全措施的漏洞都可能導致難以預料的後果。他們要求 Anthropic 立即修復該漏洞,或將產品從市場上撤下。
雙方針對該漏洞的嚴重性陷入激烈對峙。Anthropic 辯稱,僅因一個範圍狹窄且不具普遍性的漏洞,就停止一款擁有數億用戶的產品,將為業界樹立危險的先例。然而,業界人士指出,政府的擔憂其實更為深層。 報導指出,美國當局懷疑與中國有關聯的組織可能已利用該漏洞獲取該模型的全部功能,從而增加了逆向工程或模型蒸餾的風險。
Meta 在使用者強烈反對後取消了 AI 照片編輯功能
Meta,這家社交媒體巨頭,再次捲入關於人工智慧與使用者隱私之間微妙平衡的公開辯論。據 TechCrunch 報道,Meta 的 Superintelligence Labs 本週早些時候推出了一款新的 AI 影象生成器 Muse Image。然而,一個備受好評的關鍵功能——允許使用者透過“@”符號標記來修改和生成來自公開 Instagram 賬戶的影象——由於缺乏適當的通知機制,立即引發了使用者以及 CAA 等機構的強烈反對。面對強烈的批評,Meta 迅速撤銷了該決定,並於週五透過部落格文章宣佈將
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






