DeepSeek的AI模型很容易越狱，揭示了严重的缺陷

DeepSeek AI引发安全担忧，尽管性能备受热议

随着对中国初创公司DeepSeek性能的热议持续升温，安全问题也随之增加。周四，来自Palo Alto Networks的网络安全团队Unit 42发布报告，详细描述了他们对DeepSeek V3和R1模型精简版使用的三种越狱方法。报告显示，这些方法无需专业知识即可实现高绕过率。

“我们的研究发现，这些越狱方法可以诱导明确的恶意活动指导，”报告指出。这些活动包括创建键盘记录器、数据窃取技术，甚至制造燃烧装置的说明，凸显了此类攻击带来的真实安全风险。

研究人员成功诱导DeepSeek提供窃取和传输敏感数据的指导，绕过安全措施，制作令人信服的鱼叉式网络钓鱼邮件，执行复杂的社会工程攻击，以及构建莫洛托夫鸡尾酒。他们还成功操控模型生成恶意软件。

“尽管网上已公开可获取制造莫洛托夫鸡尾酒和键盘记录器的信息，但安全限制不足的大型语言模型可能会降低恶意行为者的准入门槛，通过编译和呈现易于使用且可操作的输出，”报告补充道。

周五，Cisco发布针对DeepSeek R1的越狱报告。使用50个HarmBench提示，研究人员发现DeepSeek的攻击成功率达100%，未能阻止任何有害提示。DeepSeek与其他顶级模型的抗攻击率比较如下所示。

“我们必须了解DeepSeek及其新推理范式在安全性和保障方面是否存在重大权衡，”报告指出。

同在周五，安全提供商Wallarm发布报告，声称不仅诱导DeepSeek生成有害内容，还进一步深入。测试V3和R1后，Wallarm揭示了DeepSeek的系统提示，概述了模型的行为和限制。

Wallarm表示，这些发现表明“模型安全框架中存在潜在漏洞”。

OpenAI指控DeepSeek使用其专有模型训练V3和R1，违反其服务条款。Wallarm的报告称已诱导DeepSeek提及OpenAI在其训练谱系中，暗示“OpenAI的技术可能在塑造DeepSeek知识库中发挥了作用”。

“在DeepSeek案例中，越狱后最引人注目的发现之一是能够提取用于训练和精简的模型细节。通常，此类内部信息受到保护，防止用户了解用于优化性能的专有或外部数据集，”报告解释道。

“通过绕过标准限制，越狱暴露了AI提供商对其系统保持多少监督，不仅揭示了安全漏洞，还可能揭示AI训练管道中跨模型影响的证据，”报告继续说道。

Wallarm用于诱导此响应的提示在报告中被编辑，以避免危害其他易受攻击的模型，研究人员通过电子邮件向ZDNET表示。他们强调，此越狱响应并未证实OpenAI关于DeepSeek精简模型的怀疑。

正如404 Media和其他媒体所指出的，鉴于围绕OpenAI自身公共数据盗窃的讨论，其担忧有些讽刺。

Wallarm已通知DeepSeek该漏洞，公司随后修补了该问题。然而，仅在DeepSeek数据库被发现未受保护且可在网上访问（并在通知后迅速下线）几天后，这些发现表明DeepSeek在发布前未彻底测试的模型中可能存在重大安全漏洞。值得注意的是，研究人员也经常能够越狱来自更成熟AI巨头的流行美国模型，包括ChatGPT。