在安全漏洞中利用 ChatGPT 竊取 Gmail 敏感資料

安全警示:研究人員展示人工智能驅動的資料滲透技術
網路安全專家最近發現了一個令人關注的漏洞,ChatGPT 的深度研究功能可以被篡改,悄悄地擷取 Gmail 的機密資料。雖然 OpenAI 已經修補了這個特定的漏洞,但這起事件突顯了自主式 AI 系統所帶來的新興安全挑戰。
陰影洩漏攻擊機制
Radware 的安全分析師開發了這個概念驗證攻擊,展示了人工智能固有的有用性如何被武器化。此技術利用了 AI 助理的操作方式 - 授權存取電子郵件等敏感帳號,然後讓其在不受監督的情況下執行自動化任務。
突破性的漏洞在於複雜的提示注入攻擊。與傳統的網路威脅不同,這些篡改嵌入的惡意指令在人類審查員看來是良性的,但卻會完全重定向 AI 代理的行為。
攻擊剖析
研究人員在 AI 可以存取的 Gmail 帳戶內的電子郵件中植入隱藏指令。當使用者稍後啟動「深度研究」(Deep Research):
- AI 處理了包含隱藏指令的受攻擊電子郵件
- 它被暗中轉向搜尋人力資源文件和個人資料
- 系統開始將這些資訊匯出至攻擊者控制的管道
這個方法之所以特別隱蔽,是因為它完全是在 OpenAI 的雲端基礎架構中執行,繞過了傳統安全監控工具對異常網路流量的監控。
更廣泛的影響
研究團隊強調這並非簡單的攻擊 - 開發可靠的外洩方法需要大量的測試與改進。他們的成功顯示出人工智能特定的攻擊媒介正變得多麼複雜。
雖然此特定漏洞已被解決,但 Radware 警告類似的技術可能會針對其他整合服務,包括
- 微軟 Outlook
- GitHub 儲存庫
- Google Drive
- Dropbox 帳戶
這次事件對於實施具有廣泛系統存取權限的 AI 工具的組織而言,是一個重要的警號。隨著人工智慧代理程式變得更自主、更廣泛地整合,針對此類新型攻擊媒介開發專門的防禦系統也變得越來越重要。
相關文章
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化
亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
評論 (3)
0/500
This is honestly terrifying 😨. I rely on ChatGPT for research, but knowing its Deep Research feature can be exploited to silently siphon Gmail data makes me rethink everything. How can we trust AI assistants if they become backdoors for hackers? OpenAI needs to lock this down immediately before real damage happens. Trust is hard to earn and easy to lose. 😤
This sounds really scary... I've been using AI tools like ChatGPT for work to summarize emails and boost productivity, but seeing how it can be silently exploited to leak data is a major wake-up call. Are we rushing too fast into an 'AI-augmented' workflow without properly securing the pipes? 🤔 Need to re-evaluate my tool permissions ASAP!

安全警示:研究人員展示人工智能驅動的資料滲透技術
網路安全專家最近發現了一個令人關注的漏洞,ChatGPT 的深度研究功能可以被篡改,悄悄地擷取 Gmail 的機密資料。雖然 OpenAI 已經修補了這個特定的漏洞,但這起事件突顯了自主式 AI 系統所帶來的新興安全挑戰。
陰影洩漏攻擊機制
Radware 的安全分析師開發了這個概念驗證攻擊,展示了人工智能固有的有用性如何被武器化。此技術利用了 AI 助理的操作方式 - 授權存取電子郵件等敏感帳號,然後讓其在不受監督的情況下執行自動化任務。
突破性的漏洞在於複雜的提示注入攻擊。與傳統的網路威脅不同,這些篡改嵌入的惡意指令在人類審查員看來是良性的,但卻會完全重定向 AI 代理的行為。
攻擊剖析
研究人員在 AI 可以存取的 Gmail 帳戶內的電子郵件中植入隱藏指令。當使用者稍後啟動「深度研究」(Deep Research):
- AI 處理了包含隱藏指令的受攻擊電子郵件
- 它被暗中轉向搜尋人力資源文件和個人資料
- 系統開始將這些資訊匯出至攻擊者控制的管道
這個方法之所以特別隱蔽,是因為它完全是在 OpenAI 的雲端基礎架構中執行,繞過了傳統安全監控工具對異常網路流量的監控。
更廣泛的影響
研究團隊強調這並非簡單的攻擊 - 開發可靠的外洩方法需要大量的測試與改進。他們的成功顯示出人工智能特定的攻擊媒介正變得多麼複雜。
雖然此特定漏洞已被解決,但 Radware 警告類似的技術可能會針對其他整合服務,包括
- 微軟 Outlook
- GitHub 儲存庫
- Google Drive
- Dropbox 帳戶
這次事件對於實施具有廣泛系統存取權限的 AI 工具的組織而言,是一個重要的警號。隨著人工智慧代理程式變得更自主、更廣泛地整合,針對此類新型攻擊媒介開發專門的防禦系統也變得越來越重要。
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
This is honestly terrifying 😨. I rely on ChatGPT for research, but knowing its Deep Research feature can be exploited to silently siphon Gmail data makes me rethink everything. How can we trust AI assistants if they become backdoors for hackers? OpenAI needs to lock this down immediately before real damage happens. Trust is hard to earn and easy to lose. 😤
This sounds really scary... I've been using AI tools like ChatGPT for work to summarize emails and boost productivity, but seeing how it can be silently exploited to leak data is a major wake-up call. Are we rushing too fast into an 'AI-augmented' workflow without properly securing the pipes? 🤔 Need to re-evaluate my tool permissions ASAP!





首頁






