Anthropic 限制 Mythos 的使用,是為了保護網路,還是為了保護自己?

本週,Anthropic 宣布限制其最新模型「Mythos」的推出,理由是該模型具備非凡的能力,能揭露全球廣泛使用的軟體中的安全漏洞。
這家前沿實驗室並未將 Mythos 公開發布,而是計畫與一組精選的大型企業及組織分享,這些單位負責管理關鍵的線上基礎設施,從亞馬遜網路服務(AWS)到摩根大通(JPMorgan Chase)皆在其中。據報導,OpenAI 正考慮針對其下一款網路安全工具採取類似的做法。 官方聲稱此舉旨在讓這些大型企業能領先於可能利用先進大型語言模型(LLMs)入侵安全軟體的惡意行為者。
但上文中的「企業」一詞暗示,這項發布策略可能不僅僅關乎網路安全——或是圍繞模型能力的炒作。
AI 網路安全實驗室 Irregular 的執行長丹·拉哈夫(Dan Lahav)在 3 月 Mythos 正式亮相前向 TechCrunch 表示,雖然 AI 工具發現漏洞很重要,但任何弱點對攻擊者的真正價值取決於許多因素,包括這些弱點如何被組合運用。
「我腦海中始終萦繞的問題,」拉哈夫表示,「在於他們是否發現了某種具有高度實用價值的可利用漏洞——無論是單獨存在,還是作為一連串攻擊鏈的一部分。」
Anthropic 表示,Mythos 能比其前一代模型 Opus 更有效地利用漏洞。但 Mythos 是否真正代表了終極的網路安全模型,目前仍不明朗。 人工智慧網路安全新創公司 Aisle 聲稱,他們利用較小且開放權重的模型,複製了 Anthropic 所稱 Mythos 所達成的大部分成果。Aisle 團隊主張,這些結果表明網路安全領域並不存在單一的深度學習模型;相反地,其有效性取決於具體任務。
鑒於 Opus 早已被視為顛覆網路安全遊戲規則的突破性模型,前沿實驗室可能還有另一個理由將模型發布限制在大型組織:這不僅能為大型企業合約創造飛輪效應,同時也讓競爭對手更難透過「蒸餾」技術——即利用前沿模型以低成本訓練新大型語言模型(LLMs)——來複製其模型。
「這其實是種行銷說辭,用來掩蓋頂級模型現已受企業協議限制,小型實驗室無法再進行蒸餾的事實,」軟體工程師兼新創公司 exe.dev 執行長大衛·克勞肖(David Crawshaw)在社群媒體貼文中指出。 「等到你我能夠使用 Mythos 時,將會出現一個僅限企業使用的全新頂級版本。這種循環機制透過將蒸餾公司降為二線地位,有助於維持企業資金的流動(這佔了絕大部分資金),」克勞肖表示。
這項分析與我們在 AI 生態系統中所見的現象相符:一方面是前沿實驗室競相打造最大、功能最強大的模型;另一方面則是像 Aisle 這樣的公司,它們依賴多種模型,並將開源大型語言模型(通常來自中國,且據稱多是透過蒸餾技術開發而成)視為獲取經濟優勢的途徑。
今年,前沿實驗室對模型蒸餾採取了更強硬的立場。Anthropic 已公開揭露其所謂中國企業試圖複製其模型的行為;據《彭博社》報導,三家領先實驗室——Anthropic、Google 和 OpenAI——已聯手識別並封鎖模型蒸餾者。
蒸餾技術威脅到前沿實驗室的商業模式,因為它消除了透過投入巨額資本進行規模化所獲得的優勢。阻斷蒸餾技術固然是一項值得投入的努力,但隨著此類技術成為獲利部署的關鍵,選擇性發布的策略也讓實驗室得以區隔其企業級解決方案。
無論是 Mythos 還是任何新模型,是否真的危及網路安全仍有待觀察,而謹慎推出這項技術是負責任的前進方式。
截至發稿時,Anthropic 尚未回應我們關於此決定是否也與「蒸餾」疑慮有關的提問,但該公司或許已找到一種巧妙的方式來保護網際網路——以及自身的獲利能力。
相關文章
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化
亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
評論 (0)
0/500

本週,Anthropic 宣布限制其最新模型「Mythos」的推出,理由是該模型具備非凡的能力,能揭露全球廣泛使用的軟體中的安全漏洞。
這家前沿實驗室並未將 Mythos 公開發布,而是計畫與一組精選的大型企業及組織分享,這些單位負責管理關鍵的線上基礎設施,從亞馬遜網路服務(AWS)到摩根大通(JPMorgan Chase)皆在其中。據報導,OpenAI 正考慮針對其下一款網路安全工具採取類似的做法。 官方聲稱此舉旨在讓這些大型企業能領先於可能利用先進大型語言模型(LLMs)入侵安全軟體的惡意行為者。
但上文中的「企業」一詞暗示,這項發布策略可能不僅僅關乎網路安全——或是圍繞模型能力的炒作。
AI 網路安全實驗室 Irregular 的執行長丹·拉哈夫(Dan Lahav)在 3 月 Mythos 正式亮相前向 TechCrunch 表示,雖然 AI 工具發現漏洞很重要,但任何弱點對攻擊者的真正價值取決於許多因素,包括這些弱點如何被組合運用。
「我腦海中始終萦繞的問題,」拉哈夫表示,「在於他們是否發現了某種具有高度實用價值的可利用漏洞——無論是單獨存在,還是作為一連串攻擊鏈的一部分。」
Anthropic 表示,Mythos 能比其前一代模型 Opus 更有效地利用漏洞。但 Mythos 是否真正代表了終極的網路安全模型,目前仍不明朗。 人工智慧網路安全新創公司 Aisle 聲稱,他們利用較小且開放權重的模型,複製了 Anthropic 所稱 Mythos 所達成的大部分成果。Aisle 團隊主張,這些結果表明網路安全領域並不存在單一的深度學習模型;相反地,其有效性取決於具體任務。
鑒於 Opus 早已被視為顛覆網路安全遊戲規則的突破性模型,前沿實驗室可能還有另一個理由將模型發布限制在大型組織:這不僅能為大型企業合約創造飛輪效應,同時也讓競爭對手更難透過「蒸餾」技術——即利用前沿模型以低成本訓練新大型語言模型(LLMs)——來複製其模型。
「這其實是種行銷說辭,用來掩蓋頂級模型現已受企業協議限制,小型實驗室無法再進行蒸餾的事實,」軟體工程師兼新創公司 exe.dev 執行長大衛·克勞肖(David Crawshaw)在社群媒體貼文中指出。 「等到你我能夠使用 Mythos 時,將會出現一個僅限企業使用的全新頂級版本。這種循環機制透過將蒸餾公司降為二線地位,有助於維持企業資金的流動(這佔了絕大部分資金),」克勞肖表示。
這項分析與我們在 AI 生態系統中所見的現象相符:一方面是前沿實驗室競相打造最大、功能最強大的模型;另一方面則是像 Aisle 這樣的公司,它們依賴多種模型,並將開源大型語言模型(通常來自中國,且據稱多是透過蒸餾技術開發而成)視為獲取經濟優勢的途徑。
今年,前沿實驗室對模型蒸餾採取了更強硬的立場。Anthropic 已公開揭露其所謂中國企業試圖複製其模型的行為;據《彭博社》報導,三家領先實驗室——Anthropic、Google 和 OpenAI——已聯手識別並封鎖模型蒸餾者。
蒸餾技術威脅到前沿實驗室的商業模式,因為它消除了透過投入巨額資本進行規模化所獲得的優勢。阻斷蒸餾技術固然是一項值得投入的努力,但隨著此類技術成為獲利部署的關鍵,選擇性發布的策略也讓實驗室得以區隔其企業級解決方案。
無論是 Mythos 還是任何新模型,是否真的危及網路安全仍有待觀察,而謹慎推出這項技術是負責任的前進方式。
截至發稿時,Anthropic 尚未回應我們關於此決定是否也與「蒸餾」疑慮有關的提問,但該公司或許已找到一種巧妙的方式來保護網際網路——以及自身的獲利能力。
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日





首頁






