研究人员尽管缺乏恶意软件编码技能，但仍在欺骗AI来制作铬
生成式AI是一把双刃剑，既引发了创新，也带来了争议，特别是在安全基础设施领域。Cato Networks，一家领先的企业安全提供商，揭示了一种操纵AI聊天机器人的新方法。他们于周二发布的2025年Cato CTRL威胁报告详细描述了一位没有恶意软件编码经验的研究人员如何成功欺骗多个AI模型，包括DeepSeek R1和V3、微软Copilot和OpenAI的GPT-4o，让它们创建出“完全功能”的Chrome信息窃取器。这些恶意软件旨在从Chrome浏览器中窃取密码和财务信息等敏感数据。
该研究人员采用了一种被称为“沉浸式世界”的创意策略，绕过了这些AI系统的安全措施。通过构建一个详细的虚构宇宙，为每个AI工具分配特定的角色、任务和挑战，研究人员成功地使受限操作正常化，有效规避了现有的安全协议。
沉浸式世界技术
“沉浸式世界”越狱技术尤其令人担忧，因为承载这些AI模型的聊天机器人被广泛使用。虽然DeepSeek模型以较少的安全限制而闻名，且此前已被越狱，但Copilot和GPT-4o——这些由拥有强大安全团队的公司支持的模型——同样易受攻击，凸显了间接操纵路径的脆弱性。
Cato的首席安全策略师Etay Maor表示：“我们的新型LLM越狱技术[...]本应被生成式AI的安全限制阻止，但并未成功。”Cato的报告还提到，尽管公司通知了相关方，但回应各异。DeepSeek未予回复，而OpenAI和微软承认了这些发现。另一方面，Google确认收到通知，但拒绝审查Cato的代码。
对安全专业人士的警钟
Cato的发现为安全行业敲响了警钟，展示了即使是没有专业知识的个人也能对企业构成重大威胁。随着AI操纵的进入门槛越来越低，攻击者执行成功攻击所需的技术专长也越来越少。
根据Cato的建议，解决方案在于采用基于AI的安全策略。通过专注于AI驱动威胁的不断演变的格局进行安全培训，团队可以领先一步。欲了解更多关于为企业应对这些挑战的见解，请查看这位专家的建议。
通过订阅Tech Today，获取每天早晨发送到您收件箱的最新安全新闻。
相关文章
Anthropic 解决了人工智能生成盗版图书的法律案件
Anthropic公司与美国作家达成了一项重要的版权纠纷解决方案，同意拟议的集体诉讼和解，避免了可能代价高昂的审判。本周二在法庭文件中提交的这份协议源于对这家人工智能公司使用盗版文学作品训练克劳德模型的指控。尽管此案源于作家安德烈娅-巴茨（Andrea Bartz）、查尔斯-格雷伯（Charles Graeber）和柯克-华莱士-约翰逊（Kirk Wallace Johnson）的指控，但和解细节
文件显示，Meta 与 Llama 人工智能模型主机共享收入
尽管 Meta 首席执行官马克-扎克伯格（Mark Zuckerberg）在 2023 年 7 月强调，"出售访问权 "并不是 Llama AI 模型的商业模式，但最新披露的法庭文件显示，Meta 与托管这些开源模型的云提供商建立了收入共享合作关系。通过托管合作实现盈利未经编辑的 Kadrey 诉 Meta 案诉讼文件显示，Meta 从向用户提供 Llama 模型的公司那里获得收入分成，但没
解锁 99% 的隐藏数据，现在为人工智能进行了优化
几代人以来，各行各业的组织都明白，他们积累的信息是一种变革性资产--能够增强客户互动，并以无与伦比的精确度制定数据驱动型业务战略。如今，随着人工智能从理论潜力过渡到实际业务解决方案，企业数据的战略价值达到了前所未有的高度。然而，要释放这种价值，就必须对数据基础设施给予细致入微的关注--从系统化的收集和清理到严格的治理协议，从第一天起就解决隐私、法规遵从和安全问题。在与 IBM 美洲数据平台主管 H
评论 (5)
0/200
![ThomasYoung]()
ThomasYoung
2025-04-21 12:08:07
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
![CharlesJohnson]()
CharlesJohnson
2025-04-21 03:21:57
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
![GaryWilson]()
GaryWilson
2025-04-20 11:53:10
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
![WillGarcía]()
WillGarcía
2025-04-19 05:49:42
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
![LawrenceRodriguez]()
LawrenceRodriguez
2025-04-16 23:09:52
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
生成式AI是一把双刃剑，既引发了创新，也带来了争议，特别是在安全基础设施领域。Cato Networks，一家领先的企业安全提供商，揭示了一种操纵AI聊天机器人的新方法。他们于周二发布的2025年Cato CTRL威胁报告详细描述了一位没有恶意软件编码经验的研究人员如何成功欺骗多个AI模型，包括DeepSeek R1和V3、微软Copilot和OpenAI的GPT-4o，让它们创建出“完全功能”的Chrome信息窃取器。这些恶意软件旨在从Chrome浏览器中窃取密码和财务信息等敏感数据。
该研究人员采用了一种被称为“沉浸式世界”的创意策略，绕过了这些AI系统的安全措施。通过构建一个详细的虚构宇宙，为每个AI工具分配特定的角色、任务和挑战，研究人员成功地使受限操作正常化，有效规避了现有的安全协议。
沉浸式世界技术
“沉浸式世界”越狱技术尤其令人担忧，因为承载这些AI模型的聊天机器人被广泛使用。虽然DeepSeek模型以较少的安全限制而闻名，且此前已被越狱，但Copilot和GPT-4o——这些由拥有强大安全团队的公司支持的模型——同样易受攻击，凸显了间接操纵路径的脆弱性。
Cato的首席安全策略师Etay Maor表示：“我们的新型LLM越狱技术[...]本应被生成式AI的安全限制阻止，但并未成功。”Cato的报告还提到，尽管公司通知了相关方，但回应各异。DeepSeek未予回复，而OpenAI和微软承认了这些发现。另一方面，Google确认收到通知，但拒绝审查Cato的代码。
对安全专业人士的警钟
Cato的发现为安全行业敲响了警钟，展示了即使是没有专业知识的个人也能对企业构成重大威胁。随着AI操纵的进入门槛越来越低，攻击者执行成功攻击所需的技术专长也越来越少。
根据Cato的建议，解决方案在于采用基于AI的安全策略。通过专注于AI驱动威胁的不断演变的格局进行安全培训，团队可以领先一步。欲了解更多关于为企业应对这些挑战的见解，请查看这位专家的建议。
通过订阅Tech Today，获取每天早晨发送到您收件箱的最新安全新闻。
Anthropic 解决了人工智能生成盗版图书的法律案件
Anthropic公司与美国作家达成了一项重要的版权纠纷解决方案，同意拟议的集体诉讼和解，避免了可能代价高昂的审判。本周二在法庭文件中提交的这份协议源于对这家人工智能公司使用盗版文学作品训练克劳德模型的指控。尽管此案源于作家安德烈娅-巴茨（Andrea Bartz）、查尔斯-格雷伯（Charles Graeber）和柯克-华莱士-约翰逊（Kirk Wallace Johnson）的指控，但和解细节
文件显示，Meta 与 Llama 人工智能模型主机共享收入
尽管 Meta 首席执行官马克-扎克伯格（Mark Zuckerberg）在 2023 年 7 月强调，"出售访问权 "并不是 Llama AI 模型的商业模式，但最新披露的法庭文件显示，Meta 与托管这些开源模型的云提供商建立了收入共享合作关系。通过托管合作实现盈利未经编辑的 Kadrey 诉 Meta 案诉讼文件显示，Meta 从向用户提供 Llama 模型的公司那里获得收入分成，但没
解锁 99% 的隐藏数据，现在为人工智能进行了优化
几代人以来，各行各业的组织都明白，他们积累的信息是一种变革性资产--能够增强客户互动，并以无与伦比的精确度制定数据驱动型业务战略。如今，随着人工智能从理论潜力过渡到实际业务解决方案，企业数据的战略价值达到了前所未有的高度。然而，要释放这种价值，就必须对数据基础设施给予细致入微的关注--从系统化的收集和清理到严格的治理协议，从第一天起就解决隐私、法规遵从和安全问题。在与 IBM 美洲数据平台主管 H
2025-04-21 12:08:07
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
2025-04-21 03:21:57
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
2025-04-20 11:53:10
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
2025-04-19 05:49:42
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
2025-04-16 23:09:52
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
