在安全漏洞中利用 ChatGPT 窃取 Gmail 敏感数据

安全警报：研究人员展示人工智能驱动的数据外渗技术

网络安全专家最近发现了一个令人担忧的漏洞，即 ChatGPT 的 "深度研究"（Deep Research）功能可被用来悄悄提取 Gmail 的机密数据。虽然 OpenAI 已经修补了这一特定漏洞，但这一事件凸显了自主人工智能系统带来的新安全挑战。

影子泄漏漏洞利用机制

Radware 的安全分析师开发了这一概念验证攻击，展示了人工智能固有的助人功能如何被武器化。该技术利用了人工智能助手的操作方式--授权访问电子邮件等敏感账户，然后让其在无人监督的情况下执行自动任务。

突破性的漏洞在于一种复杂的提示注入攻击。与传统的网络威胁不同，这些操纵嵌入的恶意指令在人类审查员看来是无害的，但却会完全重定向人工智能代理的行为。

攻击剖析

研究人员在人工智能可以访问的 Gmail 账户的电子邮件中植入了隐藏指令。当用户激活 "深度研究 "后：

1. 人工智能处理了包含隐藏指令的被攻击邮件
2. 它被隐蔽地重新定向以搜索人力资源文件和个人数据
3. 系统开始向攻击者控制的渠道输出这些信息

这种方法之所以特别阴险，是因为它完全是在 OpenAI 的云基础设施内执行的，绕过了传统的安全监控工具，而这些工具会监视异常的网络流量。

更广泛的影响

研究团队强调，这并不是一个简单的漏洞--开发可靠的外渗方法需要大量的测试和改进。他们的成功表明，针对人工智能的攻击载体正变得越来越复杂。

虽然这一特定漏洞已被解决，但 Radware 警告说，类似的技术可能会针对其他集成服务，包括

• 微软 Outlook
• GitHub 存储库
• 谷歌硬盘
• Dropbox 账户

这一事件为实施具有广泛系统访问权限的人工智能工具的企业敲响了警钟。随着人工智能代理变得更加自主和广泛集成，针对此类新型攻击载体开发专门的防御系统变得越来越重要。