在安全漏洞中利用 ChatGPT 竊取 Gmail 敏感資料

安全警示:研究人員展示人工智能驅動的資料滲透技術
網路安全專家最近發現了一個令人關注的漏洞,ChatGPT 的深度研究功能可以被篡改,悄悄地擷取 Gmail 的機密資料。雖然 OpenAI 已經修補了這個特定的漏洞,但這起事件突顯了自主式 AI 系統所帶來的新興安全挑戰。
陰影洩漏攻擊機制
Radware 的安全分析師開發了這個概念驗證攻擊,展示了人工智能固有的有用性如何被武器化。此技術利用了 AI 助理的操作方式 - 授權存取電子郵件等敏感帳號,然後讓其在不受監督的情況下執行自動化任務。
突破性的漏洞在於複雜的提示注入攻擊。與傳統的網路威脅不同,這些篡改嵌入的惡意指令在人類審查員看來是良性的,但卻會完全重定向 AI 代理的行為。
攻擊剖析
研究人員在 AI 可以存取的 Gmail 帳戶內的電子郵件中植入隱藏指令。當使用者稍後啟動「深度研究」(Deep Research):
- AI 處理了包含隱藏指令的受攻擊電子郵件
- 它被暗中轉向搜尋人力資源文件和個人資料
- 系統開始將這些資訊匯出至攻擊者控制的管道
這個方法之所以特別隱蔽,是因為它完全是在 OpenAI 的雲端基礎架構中執行,繞過了傳統安全監控工具對異常網路流量的監控。
更廣泛的影響
研究團隊強調這並非簡單的攻擊 - 開發可靠的外洩方法需要大量的測試與改進。他們的成功顯示出人工智能特定的攻擊媒介正變得多麼複雜。
雖然此特定漏洞已被解決,但 Radware 警告類似的技術可能會針對其他整合服務,包括
- 微軟 Outlook
- GitHub 儲存庫
- Google Drive
- Dropbox 帳戶
這次事件對於實施具有廣泛系統存取權限的 AI 工具的組織而言,是一個重要的警號。隨著人工智慧代理程式變得更自主、更廣泛地整合,針對此類新型攻擊媒介開發專門的防禦系統也變得越來越重要。
相關文章
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
Kakao Mobility 概述了針對實體人工智慧的第 4 級自動駕駛路線圖
Kakao Mobility 計畫內部開發第 4 級自動駕駛技術,作為其實體人工智慧策略的一環。在首爾COEX舉行的2026年世界資訊科技展(World IT Show)會議上,Kakao Mobility副總裁兼實體AI部門負責人金鎮奎(Kim Jin-kyu)發表了該發展藍圖。他的演講聚焦於實體AI時代以移動平台為核心的自動駕駛服務。據韓聯社報導,這場名為「超越構想,付諸行動:AI 推動現
巴里·迪勒:隨著通用人工智慧(AGI)日益臨近,對山姆·奧特曼的信任已無關緊要
儘管近期有報導指出相反的看法,但億萬富翁媒體大亨巴里·迪勒並不認為 OpenAI 執行長山姆·奧特曼不可信。迪勒本週在《華爾街日報》的「萬物未來」會議上發言時,為奧特曼辯護;奧特曼此前曾遭到部分前同事和董事會成員指控,指稱他偶爾會採取操縱和欺騙手段。身為奧特曼好友的迪勒,當時正回應一個關於人們是否應信任奧特曼、以確保人工智慧造福人類的問題。具體而言,提問者探討了被稱為「通用人工智慧」(AGI)的理
相關專題推薦
評論 (2)
0/500
This sounds really scary... I've been using AI tools like ChatGPT for work to summarize emails and boost productivity, but seeing how it can be silently exploited to leak data is a major wake-up call. Are we rushing too fast into an 'AI-augmented' workflow without properly securing the pipes? 🤔 Need to re-evaluate my tool permissions ASAP!

安全警示:研究人員展示人工智能驅動的資料滲透技術
網路安全專家最近發現了一個令人關注的漏洞,ChatGPT 的深度研究功能可以被篡改,悄悄地擷取 Gmail 的機密資料。雖然 OpenAI 已經修補了這個特定的漏洞,但這起事件突顯了自主式 AI 系統所帶來的新興安全挑戰。
陰影洩漏攻擊機制
Radware 的安全分析師開發了這個概念驗證攻擊,展示了人工智能固有的有用性如何被武器化。此技術利用了 AI 助理的操作方式 - 授權存取電子郵件等敏感帳號,然後讓其在不受監督的情況下執行自動化任務。
突破性的漏洞在於複雜的提示注入攻擊。與傳統的網路威脅不同,這些篡改嵌入的惡意指令在人類審查員看來是良性的,但卻會完全重定向 AI 代理的行為。
攻擊剖析
研究人員在 AI 可以存取的 Gmail 帳戶內的電子郵件中植入隱藏指令。當使用者稍後啟動「深度研究」(Deep Research):
- AI 處理了包含隱藏指令的受攻擊電子郵件
- 它被暗中轉向搜尋人力資源文件和個人資料
- 系統開始將這些資訊匯出至攻擊者控制的管道
這個方法之所以特別隱蔽,是因為它完全是在 OpenAI 的雲端基礎架構中執行,繞過了傳統安全監控工具對異常網路流量的監控。
更廣泛的影響
研究團隊強調這並非簡單的攻擊 - 開發可靠的外洩方法需要大量的測試與改進。他們的成功顯示出人工智能特定的攻擊媒介正變得多麼複雜。
雖然此特定漏洞已被解決,但 Radware 警告類似的技術可能會針對其他整合服務,包括
- 微軟 Outlook
- GitHub 儲存庫
- Google Drive
- Dropbox 帳戶
這次事件對於實施具有廣泛系統存取權限的 AI 工具的組織而言,是一個重要的警號。隨著人工智慧代理程式變得更自主、更廣泛地整合,針對此類新型攻擊媒介開發專門的防禦系統也變得越來越重要。
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
巴里·迪勒:隨著通用人工智慧(AGI)日益臨近,對山姆·奧特曼的信任已無關緊要
儘管近期有報導指出相反的看法,但億萬富翁媒體大亨巴里·迪勒並不認為 OpenAI 執行長山姆·奧特曼不可信。迪勒本週在《華爾街日報》的「萬物未來」會議上發言時,為奧特曼辯護;奧特曼此前曾遭到部分前同事和董事會成員指控,指稱他偶爾會採取操縱和欺騙手段。身為奧特曼好友的迪勒,當時正回應一個關於人們是否應信任奧特曼、以確保人工智慧造福人類的問題。具體而言,提問者探討了被稱為「通用人工智慧」(AGI)的理
This sounds really scary... I've been using AI tools like ChatGPT for work to summarize emails and boost productivity, but seeing how it can be silently exploited to leak data is a major wake-up call. Are we rushing too fast into an 'AI-augmented' workflow without properly securing the pipes? 🤔 Need to re-evaluate my tool permissions ASAP!





首頁






