在安全漏洞中利用 ChatGPT 窃取 Gmail 敏感数据

安全警报:研究人员展示人工智能驱动的数据外渗技术
网络安全专家最近发现了一个令人担忧的漏洞,即 ChatGPT 的 "深度研究"(Deep Research)功能可被用来悄悄提取 Gmail 的机密数据。虽然 OpenAI 已经修补了这一特定漏洞,但这一事件凸显了自主人工智能系统带来的新安全挑战。
影子泄漏漏洞利用机制
Radware 的安全分析师开发了这一概念验证攻击,展示了人工智能固有的助人功能如何被武器化。该技术利用了人工智能助手的操作方式--授权访问电子邮件等敏感账户,然后让其在无人监督的情况下执行自动任务。
突破性的漏洞在于一种复杂的提示注入攻击。与传统的网络威胁不同,这些操纵嵌入的恶意指令在人类审查员看来是无害的,但却会完全重定向人工智能代理的行为。
攻击剖析
研究人员在人工智能可以访问的 Gmail 账户的电子邮件中植入了隐藏指令。当用户激活 "深度研究 "后:
- 人工智能处理了包含隐藏指令的被攻击邮件
- 它被隐蔽地重新定向以搜索人力资源文件和个人数据
- 系统开始向攻击者控制的渠道输出这些信息
这种方法之所以特别阴险,是因为它完全是在 OpenAI 的云基础设施内执行的,绕过了传统的安全监控工具,而这些工具会监视异常的网络流量。
更广泛的影响
研究团队强调,这并不是一个简单的漏洞--开发可靠的外渗方法需要大量的测试和改进。他们的成功表明,针对人工智能的攻击载体正变得越来越复杂。
虽然这一特定漏洞已被解决,但 Radware 警告说,类似的技术可能会针对其他集成服务,包括
- 微软 Outlook
- GitHub 存储库
- 谷歌硬盘
- Dropbox 账户
这一事件为实施具有广泛系统访问权限的人工智能工具的企业敲响了警钟。随着人工智能代理变得更加自主和广泛集成,针对此类新型攻击载体开发专门的防御系统变得越来越重要。
相关文章
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团(WMG)于周三确认,其正在收购Sureel AI,一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”,将其分解为各个组成部分,以追踪人工智能模型如何利用这些元素。通过此次收购,WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中,增强了我们的保护、控制和变现能力,确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权,”WMG首席执行官Robert Kync
亚马逊推出“Alexa for Shopping”,同时将Rufus边缘化
亚马逊推出了“Alexa for Shopping”,将 Rufus 购物聊天机器人 Alexa+ 整合到应用程序、网站和 Echo Show 设备中。该助手回答产品查询、比较商品、跟踪价格,并支持购物提醒。它还处理计划中的购物操作和符合条件的自动购买。据该公司称,“Alexa for Shopping”将 Rufus 的产品专业知识与 Alexa+ 的个性化助手上下文相结合。亚马逊表示,Rufus 在 2025 年协助了超过 3 亿客户进行产品研究、比较和购买。GeekWire 报道称,
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术,其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯(Juan Lavista Ferres)探讨了减轻环境损害的策略。据美国国家航空航天局(NASA)称,气候变化影响着地球上的每个人,其表现为气温上升、降雨模式改变以及海平面上升。NASA指出,有确凿证据表明地球正以史无前例的速度变暖,而人类活动是其主要驱动因素。随着全球气温上升,野火构成的威胁日益加剧。 在美
相关专题推荐
评论 (3)
0/500
This is honestly terrifying 😨. I rely on ChatGPT for research, but knowing its Deep Research feature can be exploited to silently siphon Gmail data makes me rethink everything. How can we trust AI assistants if they become backdoors for hackers? OpenAI needs to lock this down immediately before real damage happens. Trust is hard to earn and easy to lose. 😤
This sounds really scary... I've been using AI tools like ChatGPT for work to summarize emails and boost productivity, but seeing how it can be silently exploited to leak data is a major wake-up call. Are we rushing too fast into an 'AI-augmented' workflow without properly securing the pipes? 🤔 Need to re-evaluate my tool permissions ASAP!

安全警报:研究人员展示人工智能驱动的数据外渗技术
网络安全专家最近发现了一个令人担忧的漏洞,即 ChatGPT 的 "深度研究"(Deep Research)功能可被用来悄悄提取 Gmail 的机密数据。虽然 OpenAI 已经修补了这一特定漏洞,但这一事件凸显了自主人工智能系统带来的新安全挑战。
影子泄漏漏洞利用机制
Radware 的安全分析师开发了这一概念验证攻击,展示了人工智能固有的助人功能如何被武器化。该技术利用了人工智能助手的操作方式--授权访问电子邮件等敏感账户,然后让其在无人监督的情况下执行自动任务。
突破性的漏洞在于一种复杂的提示注入攻击。与传统的网络威胁不同,这些操纵嵌入的恶意指令在人类审查员看来是无害的,但却会完全重定向人工智能代理的行为。
攻击剖析
研究人员在人工智能可以访问的 Gmail 账户的电子邮件中植入了隐藏指令。当用户激活 "深度研究 "后:
- 人工智能处理了包含隐藏指令的被攻击邮件
- 它被隐蔽地重新定向以搜索人力资源文件和个人数据
- 系统开始向攻击者控制的渠道输出这些信息
这种方法之所以特别阴险,是因为它完全是在 OpenAI 的云基础设施内执行的,绕过了传统的安全监控工具,而这些工具会监视异常的网络流量。
更广泛的影响
研究团队强调,这并不是一个简单的漏洞--开发可靠的外渗方法需要大量的测试和改进。他们的成功表明,针对人工智能的攻击载体正变得越来越复杂。
虽然这一特定漏洞已被解决,但 Radware 警告说,类似的技术可能会针对其他集成服务,包括
- 微软 Outlook
- GitHub 存储库
- 谷歌硬盘
- Dropbox 账户
这一事件为实施具有广泛系统访问权限的人工智能工具的企业敲响了警钟。随着人工智能代理变得更加自主和广泛集成,针对此类新型攻击载体开发专门的防御系统变得越来越重要。
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团(WMG)于周三确认,其正在收购Sureel AI,一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”,将其分解为各个组成部分,以追踪人工智能模型如何利用这些元素。通过此次收购,WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中,增强了我们的保护、控制和变现能力,确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权,”WMG首席执行官Robert Kync
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术,其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯(Juan Lavista Ferres)探讨了减轻环境损害的策略。据美国国家航空航天局(NASA)称,气候变化影响着地球上的每个人,其表现为气温上升、降雨模式改变以及海平面上升。NASA指出,有确凿证据表明地球正以史无前例的速度变暖,而人类活动是其主要驱动因素。随着全球气温上升,野火构成的威胁日益加剧。 在美
This is honestly terrifying 😨. I rely on ChatGPT for research, but knowing its Deep Research feature can be exploited to silently siphon Gmail data makes me rethink everything. How can we trust AI assistants if they become backdoors for hackers? OpenAI needs to lock this down immediately before real damage happens. Trust is hard to earn and easy to lose. 😤
This sounds really scary... I've been using AI tools like ChatGPT for work to summarize emails and boost productivity, but seeing how it can be silently exploited to leak data is a major wake-up call. Are we rushing too fast into an 'AI-augmented' workflow without properly securing the pipes? 🤔 Need to re-evaluate my tool permissions ASAP!





首页






