OpenAI推出ChatGPT封鎖模式,透過切斷網路連線來防止資料洩露

隨著生成式人工智慧迅速邁入智慧體時代,模型呼叫工具及連線網際網路的能力日益增強,這為安全系統帶來了新的嚴峻挑戰。為應對激增的提示注入攻擊,OpenAI推出了一項名為“封鎖模式”的全新可選安全功能,目前所有已登入使用者、各類賬戶型別以及工作空間均可使用該功能。
提示注入攻擊長期以來一直困擾著大型語言模型開發者。攻擊者常常將惡意指令隱藏在網頁、第三方文件或其他外部資料中。當ChatGPT在連線網際網路時讀取這些被汙染的內容,就可能會被誘使忽視自身的核心安全規則,執行未經授權的操作,甚至會在使用者不知情的情況下,將商業機密或個人資訊等敏感資料秘密傳送到外部的惡意伺服器。
為解決這一業內廣為人知的問題,OpenAI推出的新“封鎖模式”採取了務實的方法。它並不試圖完美識別每一條新的惡意指令,而是直接限制最危險的功能——即訪問外部網路的能力。
一旦使用者或工作空間管理員啟用封鎖模式,ChatGPT的許多核心功能都會受到限制。實時網頁瀏覽功能會被大幅削弱——系統僅能訪問受保護的快取網頁內容,這可能導致搜尋結果不完整、過時或無法獲取。該模型也無法從外部網路檢索或顯示任何圖片,也不能從網上下載檔案以進行高階資料分析。
此外,“深度研究”和“智慧體模式”等高階生產力功能也會被完全禁用。即便在Canvas功能中生成的程式碼也無法訪問網際網路。在這種模式下,大型語言模型只能處理使用者手動上傳的本地安全文件。
不過,OpenAI的官方文件明確指出,封鎖模式並非堅不可摧的防護屏障,它無法保證100%防範提示注入攻擊。惡意指令仍可能潛藏在合法的快取網頁或使用者上傳的檔案中,繼續幹擾模型的判斷。
這一新功能凸顯出人工智慧行業的一個現實悖論:大型語言模型對網際網路的訪問許可權越開放,其自動化工具的使用程度越高,暴露出的攻擊面也就越大。封鎖模式體現了OpenAI試圖為人工智慧能力劃定安全邊界的明確意圖。它並不承諾“絕對安全”,而是將“更強大、更智慧的協作體驗”與“更低的資料洩露風險”之間的權衡交由使用者和企業管理員自行決定。
相關文章
OpenAI 發布兩份報告:AI 進展速度超越安全措施
當公眾正等待 OpenAI 就 AI 代理自主滲透德國程式設計師網站 DseWiki 的事件提供進一步細節之際,當地時間 9 月 6 日, OpenAI 發布了兩份文件:一份宣布該公司已達成去年設定的目標,成功打造出一名「自動化研究實習生」,能夠在無人監督的情況下完成原本需由資深研究員耗時數日才能完成的任務;另一份則由首席科學家雅庫布·帕霍茨基(Jakub Pachocki)撰寫,聚焦於尖端 AI
如何改善「核心網站指標」以提升 SEO 排名
你必須知道的 7 個必備網站「Have I Been Pwned?」列印友善版12 英尺梯子此人並不存在Wayback Machine服務條款;我沒讀過CamelCamelCamel本指南將介紹七個極其實用的網站,這些網站對您來說或許是全新的。這些工具透過提供獨特服務,能幫您節省時間、金錢並減輕壓力。無論您是需要檢查資料外洩、簡化列印流程、繞過付費牆、生成逼真的 AI 頭像、瀏覽網頁存檔、解讀服務
OpenAI 的人工智慧解出了 722 道數學題,引發人類數學家的憂慮
人工智慧在數學領域的快速演進,正從根本上改變外界對該領域的認知。OpenAI 最近發布了涵蓋 17 個不同數學學科的 722 份證明手稿,展現出大幅降低的解題成本,這在數學界引發了相當大的爭議。儘管這些由人工智慧生成的證明成功通過了嚴格的機器驗證,但其實際應用卻暴露出關鍵的局限性。其中大部分證明難以轉化為人類可理解的知識,且現實情境已顯示,單一的符號錯誤便可能使多個相關結論失效。這項進展在學術界引
相關專題推薦
評論 (0)
0/500

隨著生成式人工智慧迅速邁入智慧體時代,模型呼叫工具及連線網際網路的能力日益增強,這為安全系統帶來了新的嚴峻挑戰。為應對激增的提示注入攻擊,OpenAI推出了一項名為“封鎖模式”的全新可選安全功能,目前所有已登入使用者、各類賬戶型別以及工作空間均可使用該功能。
提示注入攻擊長期以來一直困擾著大型語言模型開發者。攻擊者常常將惡意指令隱藏在網頁、第三方文件或其他外部資料中。當ChatGPT在連線網際網路時讀取這些被汙染的內容,就可能會被誘使忽視自身的核心安全規則,執行未經授權的操作,甚至會在使用者不知情的情況下,將商業機密或個人資訊等敏感資料秘密傳送到外部的惡意伺服器。
為解決這一業內廣為人知的問題,OpenAI推出的新“封鎖模式”採取了務實的方法。它並不試圖完美識別每一條新的惡意指令,而是直接限制最危險的功能——即訪問外部網路的能力。
一旦使用者或工作空間管理員啟用封鎖模式,ChatGPT的許多核心功能都會受到限制。實時網頁瀏覽功能會被大幅削弱——系統僅能訪問受保護的快取網頁內容,這可能導致搜尋結果不完整、過時或無法獲取。該模型也無法從外部網路檢索或顯示任何圖片,也不能從網上下載檔案以進行高階資料分析。
此外,“深度研究”和“智慧體模式”等高階生產力功能也會被完全禁用。即便在Canvas功能中生成的程式碼也無法訪問網際網路。在這種模式下,大型語言模型只能處理使用者手動上傳的本地安全文件。
不過,OpenAI的官方文件明確指出,封鎖模式並非堅不可摧的防護屏障,它無法保證100%防範提示注入攻擊。惡意指令仍可能潛藏在合法的快取網頁或使用者上傳的檔案中,繼續幹擾模型的判斷。
這一新功能凸顯出人工智慧行業的一個現實悖論:大型語言模型對網際網路的訪問許可權越開放,其自動化工具的使用程度越高,暴露出的攻擊面也就越大。封鎖模式體現了OpenAI試圖為人工智慧能力劃定安全邊界的明確意圖。它並不承諾“絕對安全”,而是將“更強大、更智慧的協作體驗”與“更低的資料洩露風險”之間的權衡交由使用者和企業管理員自行決定。
OpenAI 發布兩份報告:AI 進展速度超越安全措施
當公眾正等待 OpenAI 就 AI 代理自主滲透德國程式設計師網站 DseWiki 的事件提供進一步細節之際,當地時間 9 月 6 日, OpenAI 發布了兩份文件:一份宣布該公司已達成去年設定的目標,成功打造出一名「自動化研究實習生」,能夠在無人監督的情況下完成原本需由資深研究員耗時數日才能完成的任務;另一份則由首席科學家雅庫布·帕霍茨基(Jakub Pachocki)撰寫,聚焦於尖端 AI
如何改善「核心網站指標」以提升 SEO 排名
你必須知道的 7 個必備網站「Have I Been Pwned?」列印友善版12 英尺梯子此人並不存在Wayback Machine服務條款;我沒讀過CamelCamelCamel本指南將介紹七個極其實用的網站,這些網站對您來說或許是全新的。這些工具透過提供獨特服務,能幫您節省時間、金錢並減輕壓力。無論您是需要檢查資料外洩、簡化列印流程、繞過付費牆、生成逼真的 AI 頭像、瀏覽網頁存檔、解讀服務
OpenAI 的人工智慧解出了 722 道數學題,引發人類數學家的憂慮
人工智慧在數學領域的快速演進,正從根本上改變外界對該領域的認知。OpenAI 最近發布了涵蓋 17 個不同數學學科的 722 份證明手稿,展現出大幅降低的解題成本,這在數學界引發了相當大的爭議。儘管這些由人工智慧生成的證明成功通過了嚴格的機器驗證,但其實際應用卻暴露出關鍵的局限性。其中大部分證明難以轉化為人類可理解的知識,且現實情境已顯示,單一的符號錯誤便可能使多個相關結論失效。這項進展在學術界引





首頁






