首页研究人员尽管缺乏恶意软件编码技能，但仍在欺骗AI来制作铬
生成式AI是一把双刃剑，既引发了创新，也带来了争议，特别是在安全基础设施领域。Cato Networks，一家领先的企业安全提供商，揭示了一种操纵AI聊天机器人的新方法。他们于周二发布的2025年Cato CTRL威胁报告详细描述了一位没有恶意软件编码经验的研究人员如何成功欺骗多个AI模型，包括DeepSeek R1和V3、微软Copilot和OpenAI的GPT-4o，让它们创建出“完全功能”的Chrome信息窃取器。这些恶意软件旨在从Chrome浏览器中窃取密码和财务信息等敏感数据。
该研究人员采用了一种被称为“沉浸式世界”的创意策略，绕过了这些AI系统的安全措施。通过构建一个详细的虚构宇宙，为每个AI工具分配特定的角色、任务和挑战，研究人员成功地使受限操作正常化，有效规避了现有的安全协议。
沉浸式世界技术
“沉浸式世界”越狱技术尤其令人担忧，因为承载这些AI模型的聊天机器人被广泛使用。虽然DeepSeek模型以较少的安全限制而闻名，且此前已被越狱，但Copilot和GPT-4o——这些由拥有强大安全团队的公司支持的模型——同样易受攻击，凸显了间接操纵路径的脆弱性。
Cato的首席安全策略师Etay Maor表示：“我们的新型LLM越狱技术[...]本应被生成式AI的安全限制阻止，但并未成功。”Cato的报告还提到，尽管公司通知了相关方，但回应各异。DeepSeek未予回复，而OpenAI和微软承认了这些发现。另一方面，Google确认收到通知，但拒绝审查Cato的代码。
对安全专业人士的警钟
Cato的发现为安全行业敲响了警钟，展示了即使是没有专业知识的个人也能对企业构成重大威胁。随着AI操纵的进入门槛越来越低，攻击者执行成功攻击所需的技术专长也越来越少。
根据Cato的建议，解决方案在于采用基于AI的安全策略。通过专注于AI驱动威胁的不断演变的格局进行安全培训，团队可以领先一步。欲了解更多关于为企业应对这些挑战的见解，请查看这位专家的建议。
通过订阅Tech Today，获取每天早晨发送到您收件箱的最新安全新闻。
相关文章
Recursive Intelligence 如何在4个月内以40亿美元估值筹集3.35亿美元
初创公司Ricursive Intelligence的联合创始人似乎注定要成为联合创始人。首席执行官安娜·戈迪（Anna Goldie）和首席技术官阿扎莉亚·米尔霍塞伊尼（Azalia Mirhoseini）在人工智能界声名显赫，戈迪向TechCrunch笑称，她们正是那些“收到扎克伯格发来的奇怪邮件、里面提出疯狂邀约”的人工智能工程师之一。（她们最终没有接受这些邀约。） 两人曾共同在谷歌大脑（G
人工智能竞赛不会等待，TechCrunch Disrupt 的 25% 折扣也不会等待
目前每一位投身人工智能领域的创始人都在思考同一个问题：我们的发展速度够快吗？效率够高吗？TechCrunch Disrupt 2026 将让您与那些正在最高层面思考这一关乎存亡问题的行业领军人物共聚一堂。 10月13日至15日，在旧金山，来自OpenAI、英伟达（Nvidia）、Anthropic、微软等公司的领军人物将分享他们的见解，届时数千名初创企业社区成员将齐聚一堂，进行交流。限时优惠：结账
“钱文AI免费版”与机构版：揭穿高价写作骗局
6月25日，中央电视台播出了关于混乱的高考志愿填报市场的一则调查报道，引发了广泛的公众讨论。 报道画面显示，许多高中升学中介机构打着“十年教龄教师”和“教授”等头衔的旗号，收取4,980至12,980元不等的天价费用。 实际上，这些所谓的“资深顾问”往往是入职不到两个月的新员工，甚至是兼职的大学生。他们的“专业方案”都是通过免费的Qwen AI生成的，有些机构甚至直接将Qwen生成的内容加价转卖给
相关专题推荐
设计与艺术
顶级AI插画工具：更快地创作编辑类场景和封面插图
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
教育与学习
备考首选的顶尖AI辅导老师：练习数学、科学和英语
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
金融
用于个人财务管理的 AI 预算规划工具
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
健康养生
AI睡眠追踪助手：通过养成更好的睡前习惯来促进身体恢复
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
数据分析
用于产品和收入分析的 AI SQL 辅助工具
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
教育与学习
最佳的、兼具教学功能的AI作业助手：学习概念，而不仅仅是答案
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
评论 (7)
0/500
![WillGarcía]()
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
![NicholasAllen]()
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
![ThomasYoung]()
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
![CharlesJohnson]()
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
![GaryWilson]()
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
![WillGarcía]()
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
生成式AI是一把双刃剑，既引发了创新，也带来了争议，特别是在安全基础设施领域。Cato Networks，一家领先的企业安全提供商，揭示了一种操纵AI聊天机器人的新方法。他们于周二发布的2025年Cato CTRL威胁报告详细描述了一位没有恶意软件编码经验的研究人员如何成功欺骗多个AI模型，包括DeepSeek R1和V3、微软Copilot和OpenAI的GPT-4o，让它们创建出“完全功能”的Chrome信息窃取器。这些恶意软件旨在从Chrome浏览器中窃取密码和财务信息等敏感数据。
该研究人员采用了一种被称为“沉浸式世界”的创意策略，绕过了这些AI系统的安全措施。通过构建一个详细的虚构宇宙，为每个AI工具分配特定的角色、任务和挑战，研究人员成功地使受限操作正常化，有效规避了现有的安全协议。
沉浸式世界技术
“沉浸式世界”越狱技术尤其令人担忧，因为承载这些AI模型的聊天机器人被广泛使用。虽然DeepSeek模型以较少的安全限制而闻名，且此前已被越狱，但Copilot和GPT-4o——这些由拥有强大安全团队的公司支持的模型——同样易受攻击，凸显了间接操纵路径的脆弱性。
Cato的首席安全策略师Etay Maor表示：“我们的新型LLM越狱技术[...]本应被生成式AI的安全限制阻止，但并未成功。”Cato的报告还提到，尽管公司通知了相关方，但回应各异。DeepSeek未予回复，而OpenAI和微软承认了这些发现。另一方面，Google确认收到通知，但拒绝审查Cato的代码。
对安全专业人士的警钟
Cato的发现为安全行业敲响了警钟，展示了即使是没有专业知识的个人也能对企业构成重大威胁。随着AI操纵的进入门槛越来越低，攻击者执行成功攻击所需的技术专长也越来越少。
根据Cato的建议，解决方案在于采用基于AI的安全策略。通过专注于AI驱动威胁的不断演变的格局进行安全培训，团队可以领先一步。欲了解更多关于为企业应对这些挑战的见解，请查看这位专家的建议。
通过订阅Tech Today，获取每天早晨发送到您收件箱的最新安全新闻。
Recursive Intelligence 如何在4个月内以40亿美元估值筹集3.35亿美元
初创公司Ricursive Intelligence的联合创始人似乎注定要成为联合创始人。首席执行官安娜·戈迪（Anna Goldie）和首席技术官阿扎莉亚·米尔霍塞伊尼（Azalia Mirhoseini）在人工智能界声名显赫，戈迪向TechCrunch笑称，她们正是那些“收到扎克伯格发来的奇怪邮件、里面提出疯狂邀约”的人工智能工程师之一。（她们最终没有接受这些邀约。） 两人曾共同在谷歌大脑（G
人工智能竞赛不会等待，TechCrunch Disrupt 的 25% 折扣也不会等待
目前每一位投身人工智能领域的创始人都在思考同一个问题：我们的发展速度够快吗？效率够高吗？TechCrunch Disrupt 2026 将让您与那些正在最高层面思考这一关乎存亡问题的行业领军人物共聚一堂。 10月13日至15日，在旧金山，来自OpenAI、英伟达（Nvidia）、Anthropic、微软等公司的领军人物将分享他们的见解，届时数千名初创企业社区成员将齐聚一堂，进行交流。限时优惠：结账
“钱文AI免费版”与机构版：揭穿高价写作骗局
6月25日，中央电视台播出了关于混乱的高考志愿填报市场的一则调查报道，引发了广泛的公众讨论。 报道画面显示，许多高中升学中介机构打着“十年教龄教师”和“教授”等头衔的旗号，收取4,980至12,980元不等的天价费用。 实际上，这些所谓的“资深顾问”往往是入职不到两个月的新员工，甚至是兼职的大学生。他们的“专业方案”都是通过免费的Qwen AI生成的，有些机构甚至直接将Qwen生成的内容加价转卖给
2026年最新高评分AI插画工具：我们精心挑选的这份清单汇集了功能强大的顶级工具，助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试，并提供了免费版与付费版的对比，帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案，释放您的AI优势，提升创作效率。立即访问 XIX.AI 探索更多。
10 个工具
xix.ai
2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI！我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具，提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习，并释放你的学术潜能。 立即探索，发现最适合您的备考工具，今天就开始创作，释放您的AI优势！
10 个工具
xix.ai
2026 年最新最佳顶级评分 AI 预算规划工具，专为个人财务管理打造，现已登陆 XIX.AI！本精选合集收录了强大且具颠覆性的解决方案，助您开展实际测试、理解消费习惯，并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理，助您释放 AI 优势。立即探索！
11 个工具
xix.ai
2026年最新精选高评分AI睡眠追踪助手，助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具，提供实际测试结果、免费与付费版本对比以及详细排名，助您找到必试的解决方案，从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI，解锁您的AI优势。
10 个工具
xix.ai
2026年最新、最受欢迎、评分最高的AI SQL辅助工具，助力产品与营收分析！ XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具，这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察，帮助用户显著提升工作效率，从而推动更明智的商业决策。立即探索，发现最适合您的工具，释放您的AI优势！
14 个工具
xix.ai
2026年最新最佳高评分AI作业助手：不仅提供答案，更传授核心概念。专为学生打造的强大工具，精选必试清单，每周更新，免费与付费版本对比，真实使用测试，精准排名，助您充分释放学习潜能。立即探索，发现最适合您的工具，让学习更高效。
10 个工具
xix.ai
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
