首页研究人员尽管缺乏恶意软件编码技能，但仍在欺骗AI来制作铬
生成式AI是一把双刃剑，既引发了创新，也带来了争议，特别是在安全基础设施领域。Cato Networks，一家领先的企业安全提供商，揭示了一种操纵AI聊天机器人的新方法。他们于周二发布的2025年Cato CTRL威胁报告详细描述了一位没有恶意软件编码经验的研究人员如何成功欺骗多个AI模型，包括DeepSeek R1和V3、微软Copilot和OpenAI的GPT-4o，让它们创建出“完全功能”的Chrome信息窃取器。这些恶意软件旨在从Chrome浏览器中窃取密码和财务信息等敏感数据。
该研究人员采用了一种被称为“沉浸式世界”的创意策略，绕过了这些AI系统的安全措施。通过构建一个详细的虚构宇宙，为每个AI工具分配特定的角色、任务和挑战，研究人员成功地使受限操作正常化，有效规避了现有的安全协议。
沉浸式世界技术
“沉浸式世界”越狱技术尤其令人担忧，因为承载这些AI模型的聊天机器人被广泛使用。虽然DeepSeek模型以较少的安全限制而闻名，且此前已被越狱，但Copilot和GPT-4o——这些由拥有强大安全团队的公司支持的模型——同样易受攻击，凸显了间接操纵路径的脆弱性。
Cato的首席安全策略师Etay Maor表示：“我们的新型LLM越狱技术[...]本应被生成式AI的安全限制阻止，但并未成功。”Cato的报告还提到，尽管公司通知了相关方，但回应各异。DeepSeek未予回复，而OpenAI和微软承认了这些发现。另一方面，Google确认收到通知，但拒绝审查Cato的代码。
对安全专业人士的警钟
Cato的发现为安全行业敲响了警钟，展示了即使是没有专业知识的个人也能对企业构成重大威胁。随着AI操纵的进入门槛越来越低，攻击者执行成功攻击所需的技术专长也越来越少。
根据Cato的建议，解决方案在于采用基于AI的安全策略。通过专注于AI驱动威胁的不断演变的格局进行安全培训，团队可以领先一步。欲了解更多关于为企业应对这些挑战的见解，请查看这位专家的建议。
通过订阅Tech Today，获取每天早晨发送到您收件箱的最新安全新闻。
相关文章
以文本翻译著称的DeepL，如今将目光投向了语音翻译
以文本翻译工具闻名的翻译公司DeepL今日推出了一套语音到语音翻译解决方案，通过定制应用程序，为一线工作人员在会议、移动端和网页对话以及小组讨论等场景中提供支持。 该公司还推出了一款API，允许外部开发者和企业基于DeepL的技术构建定制化解决方案，例如呼叫中心应用。“在专注于文本翻译多年后，语音翻译对我们来说是水到渠成的下一步，”DeepL首席执行官Jarek Kutylowski在接受Tech
Talat 的 AI 会议记录存储在您的设备上，而非云端
估值达2.5亿美元的AI笔记应用Granola在科技创业者和风险投资家群体中备受追捧。但一位开发者认为，市场需要一款更注重隐私、完全本地化、只需一次性付费且无需订阅的替代方案。这一构想催生了一款名为Talat的新Mac应用。来自英国约克郡的尼克·佩恩（Nick Payne）自称是位计算机极客，他表示开发本地化AI笔记应用的灵感，很大程度上源于一系列幸运的偶然。“我认为Granola非常出色；它充分
全新荣威i6上市，售价65.9万元，搭载骁龙8155芯片和“斗宝”大模型
上汽荣威今日发布了全新荣威i6，这款紧凑型轿车全面采用了荣威D7的设计语言。其标志性的直立式大尺寸格栅与横向光带灯组贯穿车头，营造出强烈的科技感与视觉宽度。 车尾部分，上翘的鸭尾式扰流板与贯穿式尾灯相得益彰，赋予整车更富活力的年轻化外观。全新荣威i6车身长4767毫米、宽1828毫米、高1498毫米，轴距为2755毫米。 得益于宽敞的车内空间，它跻身A+级轿车行列，在后排头部空间和膝部空间方面具
相关专题推荐
写作
顶尖 AI 角色设定生成器：生成一致的角色动机与致命缺陷
探索2026年最优秀的AI人物设定生成工具，助您塑造鲜活立体的角色。XIX.AI精心筛选的这份清单汇集了广受好评、颠覆传统的工具，能够生成具有内在逻辑的动机和致命缺陷。通过实际测试对比免费与付费选项。立即释放您的叙事潜能。
10 个工具
xix.ai
商业
顶级 AI 定价优化软件：追踪竞争对手并自动调整店铺价格
在 XIX.AI 上探索 2026 年最佳 AI 定价优化软件。我们精心挑选的清单汇集了备受好评、具有颠覆性意义的工具，这些工具不仅能追踪竞争对手，还能自动调整您的店铺价格，从而实现利润最大化。通过实际测试对比免费与付费选项。立即掌握您的定价优势。
10 个工具
xix.ai
代码
最佳 AI 代码审查工具：自动确保代码符合规范，并重构遗留代码库文件
在 XIX.AI 上探索 2026 年最佳 AI 代码审查工具。我们的精选列表汇集了备受好评、具有颠覆性的工具，可自动确保代码规范并重构遗留代码库文件。通过实际测试和每周更新的排行榜，对比免费与付费选项。立即开启您的 AI 优势。
10 个工具
xix.ai
文字转语音
专为阅读障碍设计的顶级AI语音合成应用：助力学生提升学习与阅读效率
探索2026年最新精选的高评分AI语音合成（TTS）应用，专为阅读障碍者提供支持。我们的专家评级对比了免费与付费工具，重点介绍了能够提升阅读效率和学习效果的强大功能。探索这些必试的、具有革命性意义的解决方案，释放学生的潜能。立即访问XIX.AI，开启您的探索之旅。
10 个工具
xix.ai
漫画创作
少年漫画顶级AI生成器：打造高能动作场面与特效
在 XIX.AI 探索 2026 年最优秀的少年漫画 AI 生成工具。我们精心筛选的这份高评分清单汇集了强大的工具，助您创作充满张力的动作场面和动态能量特效。通过实际测试对比免费与付费选项。释放您的创作潜能，立即开始创作史诗级漫画吧！
15 个工具
xix.ai
商业
最佳 AI 费用追踪工具：扫描收据并自动分类企业开支
2026年最新最佳AI报销管理工具：广受好评的解决方案，可自动扫描收据并分类企业支出。探索这些功能强大、颠覆传统的解决方案，助您轻松管理报销、精准追踪财务并简化合规流程。我们精心整理并每周更新的免费与付费选项对比指南，助您找到最适合的工具。通过XIX.AI的专家精选，释放您的AI优势。
10 个工具
xix.ai
评论 (7)
0/500
![WillGarcía]()
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
![NicholasAllen]()
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
![ThomasYoung]()
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
![CharlesJohnson]()
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
![GaryWilson]()
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
![WillGarcía]()
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
生成式AI是一把双刃剑，既引发了创新，也带来了争议，特别是在安全基础设施领域。Cato Networks，一家领先的企业安全提供商，揭示了一种操纵AI聊天机器人的新方法。他们于周二发布的2025年Cato CTRL威胁报告详细描述了一位没有恶意软件编码经验的研究人员如何成功欺骗多个AI模型，包括DeepSeek R1和V3、微软Copilot和OpenAI的GPT-4o，让它们创建出“完全功能”的Chrome信息窃取器。这些恶意软件旨在从Chrome浏览器中窃取密码和财务信息等敏感数据。
该研究人员采用了一种被称为“沉浸式世界”的创意策略，绕过了这些AI系统的安全措施。通过构建一个详细的虚构宇宙，为每个AI工具分配特定的角色、任务和挑战，研究人员成功地使受限操作正常化，有效规避了现有的安全协议。
沉浸式世界技术
“沉浸式世界”越狱技术尤其令人担忧，因为承载这些AI模型的聊天机器人被广泛使用。虽然DeepSeek模型以较少的安全限制而闻名，且此前已被越狱，但Copilot和GPT-4o——这些由拥有强大安全团队的公司支持的模型——同样易受攻击，凸显了间接操纵路径的脆弱性。
Cato的首席安全策略师Etay Maor表示：“我们的新型LLM越狱技术[...]本应被生成式AI的安全限制阻止，但并未成功。”Cato的报告还提到，尽管公司通知了相关方，但回应各异。DeepSeek未予回复，而OpenAI和微软承认了这些发现。另一方面，Google确认收到通知，但拒绝审查Cato的代码。
对安全专业人士的警钟
Cato的发现为安全行业敲响了警钟，展示了即使是没有专业知识的个人也能对企业构成重大威胁。随着AI操纵的进入门槛越来越低，攻击者执行成功攻击所需的技术专长也越来越少。
根据Cato的建议，解决方案在于采用基于AI的安全策略。通过专注于AI驱动威胁的不断演变的格局进行安全培训，团队可以领先一步。欲了解更多关于为企业应对这些挑战的见解，请查看这位专家的建议。
通过订阅Tech Today，获取每天早晨发送到您收件箱的最新安全新闻。
以文本翻译著称的DeepL，如今将目光投向了语音翻译
以文本翻译工具闻名的翻译公司DeepL今日推出了一套语音到语音翻译解决方案，通过定制应用程序，为一线工作人员在会议、移动端和网页对话以及小组讨论等场景中提供支持。 该公司还推出了一款API，允许外部开发者和企业基于DeepL的技术构建定制化解决方案，例如呼叫中心应用。“在专注于文本翻译多年后，语音翻译对我们来说是水到渠成的下一步，”DeepL首席执行官Jarek Kutylowski在接受Tech
Talat 的 AI 会议记录存储在您的设备上，而非云端
估值达2.5亿美元的AI笔记应用Granola在科技创业者和风险投资家群体中备受追捧。但一位开发者认为，市场需要一款更注重隐私、完全本地化、只需一次性付费且无需订阅的替代方案。这一构想催生了一款名为Talat的新Mac应用。来自英国约克郡的尼克·佩恩（Nick Payne）自称是位计算机极客，他表示开发本地化AI笔记应用的灵感，很大程度上源于一系列幸运的偶然。“我认为Granola非常出色；它充分
全新荣威i6上市，售价65.9万元，搭载骁龙8155芯片和“斗宝”大模型
上汽荣威今日发布了全新荣威i6，这款紧凑型轿车全面采用了荣威D7的设计语言。其标志性的直立式大尺寸格栅与横向光带灯组贯穿车头，营造出强烈的科技感与视觉宽度。 车尾部分，上翘的鸭尾式扰流板与贯穿式尾灯相得益彰，赋予整车更富活力的年轻化外观。全新荣威i6车身长4767毫米、宽1828毫米、高1498毫米，轴距为2755毫米。 得益于宽敞的车内空间，它跻身A+级轿车行列，在后排头部空间和膝部空间方面具
探索2026年最优秀的AI人物设定生成工具，助您塑造鲜活立体的角色。XIX.AI精心筛选的这份清单汇集了广受好评、颠覆传统的工具，能够生成具有内在逻辑的动机和致命缺陷。通过实际测试对比免费与付费选项。立即释放您的叙事潜能。
10 个工具
xix.ai
在 XIX.AI 上探索 2026 年最佳 AI 定价优化软件。我们精心挑选的清单汇集了备受好评、具有颠覆性意义的工具，这些工具不仅能追踪竞争对手，还能自动调整您的店铺价格，从而实现利润最大化。通过实际测试对比免费与付费选项。立即掌握您的定价优势。
10 个工具
xix.ai
在 XIX.AI 上探索 2026 年最佳 AI 代码审查工具。我们的精选列表汇集了备受好评、具有颠覆性的工具，可自动确保代码规范并重构遗留代码库文件。通过实际测试和每周更新的排行榜，对比免费与付费选项。立即开启您的 AI 优势。
10 个工具
xix.ai
探索2026年最新精选的高评分AI语音合成（TTS）应用，专为阅读障碍者提供支持。我们的专家评级对比了免费与付费工具，重点介绍了能够提升阅读效率和学习效果的强大功能。探索这些必试的、具有革命性意义的解决方案，释放学生的潜能。立即访问XIX.AI，开启您的探索之旅。
10 个工具
xix.ai
在 XIX.AI 探索 2026 年最优秀的少年漫画 AI 生成工具。我们精心筛选的这份高评分清单汇集了强大的工具，助您创作充满张力的动作场面和动态能量特效。通过实际测试对比免费与付费选项。释放您的创作潜能，立即开始创作史诗级漫画吧！
15 个工具
xix.ai
2026年最新最佳AI报销管理工具：广受好评的解决方案，可自动扫描收据并分类企业支出。探索这些功能强大、颠覆传统的解决方案，助您轻松管理报销、精准追踪财务并简化合规流程。我们精心整理并每周更新的免费与付费选项对比指南，助您找到最适合的工具。通过XIX.AI的专家精选，释放您的AI优势。
10 个工具
xix.ai
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
