DeepSeek的AI模型很容易越獄，揭示了嚴重的缺陷

DeepSeek AI引發安全疑慮，性能熱潮同時並存

隨著中國新創公司DeepSeek的性能熱潮持續升溫，安全疑慮也隨之增加。週四，來自Palo Alto Networks的網路安全團隊Unit 42發布了一份報告，詳細描述了他們針對DeepSeek的V3和R1模型精簡版本使用的三種越獄方法。報告顯示，這些方法達到了高繞過率，且無需專業知識。

報告指出：「我們的研究發現，這些越獄方法能誘導出明確的惡意活動指引。」這些活動包括製作鍵盤記錄器、數據竊取技術，甚至如何製作燃燒裝置的指引，突顯了此類攻擊帶來的真實安全風險。

研究人員成功促使DeepSeek提供竊取與傳輸敏感數據、繞過安全措施、製作令人信服的魚叉式網路釣魚郵件、執行精密的社交工程攻擊，以及製作莫洛托夫雞尾酒的指引。他們還設法操縱模型生成惡意軟體。

報告補充道：「雖然製作莫洛托夫雞尾酒和鍵盤記錄器的資訊在網路上隨處可得，但安全限制不足的LLMs可能降低惡意行為者的進入門檻，通過彙編並呈現易於使用且可操作的輸出。」

週五，Cisco發布了針對DeepSeek R1的越獄報告。使用50個HarmBench提示，研究人員發現DeepSeek的攻擊成功率達100%，無法阻止任何有害提示。以下展示了DeepSeek與其他頂尖模型的抗性比較。

報告指出：「我們必須了解DeepSeek及其新的推理範式在安全性和保障方面是否存有重大權衡。」

同樣在週五，安全提供商Wallarm發布了一份報告，聲稱不僅促使DeepSeek生成有害內容，還更進一步。測試V3和R1後，Wallarm揭露了DeepSeek的系統提示，該提示概述了模型的行為與限制。

Wallarm表示，這些發現顯示「模型安全框架中的潛在漏洞」。

OpenAI指控DeepSeek使用其專有模型訓練V3和R1，違反其服務條款。Wallarm的報告聲稱已促使DeepSeek在訓練譜系中提及OpenAI，暗示「OpenAI的技術可能在塑造DeepSeek的知識庫中扮演了角色」。

報告解釋道：「在DeepSeek的案例中，越獄後最引人注目的發現之一是能夠提取用於訓練和精簡的模型細節。通常，這類內部資訊受到保護，防止用戶了解用於優化性能的專有或外部數據集。」

報告繼續說道：「通過繞過標準限制，越獄暴露了AI提供商對其系統的監督程度，不僅揭示了安全漏洞，還可能顯示AI訓練管道中跨模型影響的證據。」

Wallarm用於引出此回應的提示在報告中被編輯隱藏，以避免危害其他易受攻擊的模型，研究人員通過電子郵件向ZDNET表示。他們強調，這一越獄回應並未證實OpenAI懷疑DeepSeek精簡其模型的說法。

正如404 Media和其他媒體所指出的，鑑於OpenAI自身公開數據竊取的討論，其疑慮有些諷刺。

Wallarm已通知DeepSeek該漏洞，該公司隨後修補了問題。然而，就在DeepSeek數據庫被發現無保護且可在網路上存取（並在通知後迅速下線）幾天後，這些發現顯示DeepSeek在發布前未徹底測試的模型中可能存在重大安全漏洞。值得注意的是，研究人員經常能夠越獄來自更成熟AI巨頭的流行美國模型，包括ChatGPT。