在安全漏洞中利用 ChatGPT 竊取 Gmail 敏感資料

安全警示：研究人員展示人工智能驅動的資料滲透技術

網路安全專家最近發現了一個令人關注的漏洞，ChatGPT 的深度研究功能可以被篡改，悄悄地擷取 Gmail 的機密資料。雖然 OpenAI 已經修補了這個特定的漏洞，但這起事件突顯了自主式 AI 系統所帶來的新興安全挑戰。

陰影洩漏攻擊機制

Radware 的安全分析師開發了這個概念驗證攻擊，展示了人工智能固有的有用性如何被武器化。此技術利用了 AI 助理的操作方式 - 授權存取電子郵件等敏感帳號，然後讓其在不受監督的情況下執行自動化任務。

突破性的漏洞在於複雜的提示注入攻擊。與傳統的網路威脅不同，這些篡改嵌入的惡意指令在人類審查員看來是良性的，但卻會完全重定向 AI 代理的行為。

攻擊剖析

研究人員在 AI 可以存取的 Gmail 帳戶內的電子郵件中植入隱藏指令。當使用者稍後啟動「深度研究」(Deep Research)：

1. AI 處理了包含隱藏指令的受攻擊電子郵件
2. 它被暗中轉向搜尋人力資源文件和個人資料
3. 系統開始將這些資訊匯出至攻擊者控制的管道

這個方法之所以特別隱蔽，是因為它完全是在 OpenAI 的雲端基礎架構中執行，繞過了傳統安全監控工具對異常網路流量的監控。

更廣泛的影響

研究團隊強調這並非簡單的攻擊 - 開發可靠的外洩方法需要大量的測試與改進。他們的成功顯示出人工智能特定的攻擊媒介正變得多麼複雜。

雖然此特定漏洞已被解決，但 Radware 警告類似的技術可能會針對其他整合服務，包括

• 微軟 Outlook
• GitHub 儲存庫
• Google Drive
• Dropbox 帳戶

這次事件對於實施具有廣泛系統存取權限的 AI 工具的組織而言，是一個重要的警號。隨著人工智慧代理程式變得更自主、更廣泛地整合，針對此類新型攻擊媒介開發專門的防禦系統也變得越來越重要。