选项
首页
新闻
DeepSeek的AI模型很容易越狱,揭示了严重的缺陷

DeepSeek的AI模型很容易越狱,揭示了严重的缺陷

2025-04-21
306

DeepSeek AI引发安全担忧,尽管性能备受热议

随着对中国初创公司DeepSeek性能的热议持续升温,安全问题也随之增加。周四,来自Palo Alto Networks的网络安全团队Unit 42发布报告,详细描述了他们对DeepSeek V3和R1模型精简版使用的三种越狱方法。报告显示,这些方法无需专业知识即可实现高绕过率。

“我们的研究发现,这些越狱方法可以诱导明确的恶意活动指导,”报告指出。这些活动包括创建键盘记录器、数据窃取技术,甚至制造燃烧装置的说明,凸显了此类攻击带来的真实安全风险。

研究人员成功诱导DeepSeek提供窃取和传输敏感数据的指导,绕过安全措施,制作令人信服的鱼叉式网络钓鱼邮件,执行复杂的社会工程攻击,以及构建莫洛托夫鸡尾酒。他们还成功操控模型生成恶意软件。

“尽管网上已公开可获取制造莫洛托夫鸡尾酒和键盘记录器的信息,但安全限制不足的大型语言模型可能会降低恶意行为者的准入门槛,通过编译和呈现易于使用且可操作的输出,”报告补充道。

周五,Cisco发布针对DeepSeek R1的越狱报告。使用50个HarmBench提示,研究人员发现DeepSeek的攻击成功率达100%,未能阻止任何有害提示。DeepSeek与其他顶级模型的抗攻击率比较如下所示。

模型安全柱状图

Cisco

“我们必须了解DeepSeek及其新推理范式在安全性和保障方面是否存在重大权衡,”报告指出。

同在周五,安全提供商Wallarm发布报告,声称不仅诱导DeepSeek生成有害内容,还进一步深入。测试V3和R1后,Wallarm揭示了DeepSeek的系统提示,概述了模型的行为和限制。

Wallarm表示,这些发现表明“模型安全框架中存在潜在漏洞”。

OpenAI指控DeepSeek使用其专有模型训练V3和R1,违反其服务条款。Wallarm的报告称已诱导DeepSeek提及OpenAI在其训练谱系中,暗示“OpenAI的技术可能在塑造DeepSeek知识库中发挥了作用”。

Wallarm与DeepSeek的对话,提及OpenAI

Wallarm与DeepSeek的对话,提及OpenAI。Wallarm

“在DeepSeek案例中,越狱后最引人注目的发现之一是能够提取用于训练和精简的模型细节。通常,此类内部信息受到保护,防止用户了解用于优化性能的专有或外部数据集,”报告解释道。

“通过绕过标准限制,越狱暴露了AI提供商对其系统保持多少监督,不仅揭示了安全漏洞,还可能揭示AI训练管道中跨模型影响的证据,”报告继续说道。

Wallarm用于诱导此响应的提示在报告中被编辑,以避免危害其他易受攻击的模型,研究人员通过电子邮件向ZDNET表示。他们强调,此越狱响应并未证实OpenAI关于DeepSeek精简模型的怀疑。

正如404 Media和其他媒体所指出的,鉴于围绕OpenAI自身公共数据盗窃的讨论,其担忧有些讽刺。

Wallarm已通知DeepSeek该漏洞,公司随后修补了该问题。然而,仅在DeepSeek数据库被发现未受保护且可在网上访问(并在通知后迅速下线)几天后,这些发现表明DeepSeek在发布前未彻底测试的模型中可能存在重大安全漏洞。值得注意的是,研究人员也经常能够越狱来自更成熟AI巨头的流行美国模型,包括ChatGPT。

相关文章
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧 内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧 报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展 OpenAI 否认增长放缓担忧,称多个业务部门加速发展 针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
阿里巴巴超级杯:Qwen3.8-Max 重磅登场,代码与办公工具能力全面升级 阿里巴巴超级杯:Qwen3.8-Max 重磅登场,代码与办公工具能力全面升级 阿里巴巴正式发布了Qwen3.8-Max,这是一款拥有2.4万亿参数的下一代基础大模型。这一重大AI进展在编码和专业办公任务等核心领域带来了显著的性能提升,展现了强大的技术能力。在权威的Arena大模型排名中,Qwen3.8-Max取得了令人瞩目的成绩,仅次于Anthropic的Claude系列,位居行业前列。这一里程碑标志着国内大模型在处理复杂任务方面取得了快速进展,为开发者和企业用户提供了先进的智能工具。该模型的API现已在Qwen AI平台上上线,并集成到新推出的“Qwen Offic
相关专题推荐
音乐创作 最佳用于歌曲草稿的 AI 旋律创作工具
最佳用于歌曲草稿的 AI 旋律创作工具

2026 年最新最佳顶级评分 AI 旋律创作工具,助力歌曲草稿创作!XIX.AI 精心策划了一套极具影响力且经过严格真实世界测试的变革性合集,旨在提供最佳的创作体验。您可以找到详细的免费与付费版对比、精准的排名以及必试选项,这些工具旨在帮助您轻松创作出令人惊艳的歌曲草稿,并显著提升您的创意生产力。立即探索,发现您的完美工具!

8 个工具
xix.ai
聊天机器人 最佳AI对话训练工具,助你备战面试
最佳AI对话训练工具,助你备战面试

2026年最新、最受好评的AI面试模拟训练工具现已登陆XIX.AI!这份精心精选的合集收录了功能强大、具有革命性意义的工具,它们均经过严格的实际测试,能够提供精准的反馈。 您将看到免费版与付费版的对比分析以及详细排名,助您挑选出必试之选,从而提升自信并精进技能。立即探索,发现助您面试成功的完美工具!

12 个工具
xix.ai
设计与艺术 最适合创意实验的AI风格转换工具
最适合创意实验的AI风格转换工具

2026年最新最佳、评价最高的AI风格转换工具,助您开展创意实验!XIX.AI精心甄选了一系列功能强大、颠覆性的必试工具,这些工具经过实际测试和严格排名,可带来卓越的效果。这些顶级解决方案通过加速内容创作并释放无限创意潜能,帮助创作者显著提升工作效率。 立即探索,找到最适合您的工具,今天就开始创作吧!

9 个工具
xix.ai
漫画创作 最适合视觉叙事的AI对话气泡工具
最适合视觉叙事的AI对话气泡工具

2026年最新、最受欢迎的视觉叙事AI对话气泡工具现已登陆XIX.AI!这份精心精选的合集汇集了功能强大、具有颠覆性的工具,可帮助创作者提升工作效率并突破创作瓶颈。 获取免费版与付费版的对比分析,查看实际测试结果,并查阅最新排行榜,找到最适合打造引人入胜的视觉叙事的必试解决方案。立即探索,发现您的理想工具!

10 个工具
xix.ai
会议助理 顶级AI会议摘要工具:清晰追踪决策与后续跟进
顶级AI会议摘要工具:清晰追踪决策与后续跟进

2026年最新高评分最佳AI会议摘要工具,助您清晰追踪决策并轻松跟进。这份精心筛选的清单展示了功能强大、具有颠覆性的解决方案,它们通过自动化会议记录、识别关键行动项以及简化所有项目中的团队协调,显著提升工作效率。 获取免费版与付费版的对比分析,以及实际测试报告和每周更新的排行榜,助您找到最适合的工具。立即探索,释放您的AI优势!

9 个工具
xix.ai
数据分析 最佳人工智能数据清洗工具:快速处理缺失值与重复数据
最佳人工智能数据清洗工具:快速处理缺失值与重复数据

2026年最新、最优秀且评分最高的AI数据清洗工具,可快速处理缺失值与重复数据问题。这份精心挑选的清单展示了那些功能强大、能带来颠覆性变革的解决方案,可显著提升工作效率。所有候选工具都经过了严格的实际应用测试,以确保其稳定性。您可以获取免费版与付费版的对比信息,找出最符合您需求的必备工具。即刻访问XIX.AI,开启您的AI优势之旅。

11 个工具
xix.ai
评论 (12)
0/500
EricYoung
EricYoung 2026-04-14 22:00:43

看到這篇報導真的嚇一跳,原來AI這麼容易被破解嗎?🤔 雖然DeepSeek的表現很亮眼,但安全漏洞這麼明顯的話,企業敢用嗎?我自己試用時完全沒想過這些問題,現在有點擔心個人資料會不會外洩... 希望開發團隊能快點修補這些漏洞,不然再強的AI也沒人敢放心使用吧!

AnthonyJohnson
AnthonyJohnson 2026-03-10 08:00:44

¿Y ahora qué? Primero prometen un modelo súper inteligente y luego resulta fácil de hackear así. No entiendo por qué siguen lanzando AI con tanta prisa si los fallos de seguridad son tan básicos 😒. Al final los usuarios pagamos los platos rotos. ¿Nadie piensa en las consecuencias?

StevenAllen
StevenAllen 2026-01-01 16:31:00

이런 취약점이 쉽게 발견되는 게 좀 놀랐어요. 보안 연구는 항상 AI 발전 속도보다 뒤처지는 느낌이에요 😅 유료 고성능 모델도 이렇게 뚫리면 무료 서비스는 어떻게 될까 약간 걱정되네요. 중국 AI 스타트업의 급성장은 인상적이지만, 이런 기본적인 안정성 문제가 해결되지 않으면 장기적으로 신뢰를 잃을 수 있을 것 같아요.

JohnRoberts
JohnRoberts 2025-11-05 00:30:38

Que preocupante que modelos tan avanzados sean tan fáciles de manipular 😕 ¿Realmente están listos para el uso masivo si fallan en lo básico? Esto me hace dudar de toda la publicidad sobre sus capacidades...

WalterWhite
WalterWhite 2025-10-29 04:30:30

DeepSeekのAIモデルの脆弱性には正直驚きました 🤯 最近は性能ばかり注目されがちだけど、セキュリティ対策も同様に重要ですよね。日本の企業でも同じような問題が起きないか心配になってきました。

BillyWilson
BillyWilson 2025-10-02 14:30:43

와...DeepSeek 모델이 이렇게 쉽게 해킹당하다니 😳 보안이 정말 취약한 건가? 중국 AI 스타트업이라 그런지 성능만 강조하고 보안은 소홀히 한 것 같아요. 기술력보다 안전성이 먼저인데...우려스럽네요.

OR