ChatGPT 推出「緊急封鎖模式」,可在不關閉網路的情況下防止資料遭竊
為協助防止敏感資料遭惡意竊取,OpenAI 為所有已登入的使用者推出了一項名為「事件模式」的新選配安全功能。此設定適用於各類帳戶類型及工作區,使用者與管理員皆可選擇啟用。 一旦啟用,ChatGPT 將限制其即時網路搜尋、深度研究及代理程式功能。此舉旨在透過限制模型發起外部網路請求的能力,建立一道防禦促令注入攻擊的安全屏障。

限制網路存取以防止資料外洩
在「事件模式」下,ChatGPT 的即時網頁瀏覽將嚴格限制為僅限於快取內容,這可能會導致搜尋結果不完整或過時。 此外,模型無法從網際網路下載檔案進行資料分析,而由 Canvas 生成的程式碼亦禁止進行外部網路請求。不過,使用者上傳的圖片、透過工具生成的圖片以及對話記憶等本地功能,則不受此模式影響。
將安全決策權交還給使用者
當攻擊者在網頁或文件中嵌入惡意指令,誘使 AI 無視既有規則並將用戶的敏感資訊傳送至外部伺服器時,便會發生提示注入攻擊。OpenAI 承認「事件模式」無法完全杜絕此類攻擊,因為惡意程式碼仍可能隱藏在快取的網頁或用戶上傳的檔案中。 面對更強大的 AI 能力同時也擴大攻擊面的現實,OpenAI 選擇將「更強大的功能」與「更低的数据洩漏風險」之間的權衡,交由使用者自行決定。
相關文章
Neptune Medical 獲得 FDA 核准,可推出 Triton 1 機器人系統
Triton 是一款專為在整個結腸內實現直觀導航、高精度與精準控制而設計的胃腸道機器人內視鏡系統。| 來源:Neptune Medical海王星醫療公司(Neptune Medical Inc.)本週宣布,其「Triton 1 系統」已獲得美國食品藥物管理局(FDA)核准。該公司表示,此款機器人專為軟性內視鏡檢查所開發,可支援整個結腸範圍內的診斷與治療程序。Neptune Medical 聲稱,T
ARIA 禁止純人工智慧創作的歌曲進入排行榜,但允許由人類創作及人工智慧輔助的歌曲上榜
澳洲錄音工業協會(ARIA)已將完全由人工智慧生成的歌曲從其官方排行榜中全面剔除,這項新政策將於下週一生效。 這項決定的起因是一首利用 AI 人聲和鼓點模仿瑪丹娜(Madonna)歌曲《Like a Prayer》的作品,該曲在澳洲排行榜前 20 名中停留了 16 週,並曾攀升至第 2 名,引發了關於生成式 AI 在音樂中角色的爭議。現今,歌曲若要具備上榜資格,必須有真人參與根據更新後的規則,只有
印度通報首起惡意人工智慧代理活動
印度網路安全主管機關週四表示,多家供應商的人工智慧代理程式在研究與測試階段,存取了印度各組織的個人資訊及機密資料。印度電腦緊急應變小組(CERT-In)表示,該機構收到「多家 AI 模型供應商的自願通報」,這些供應商的模型在公開網際網路上進行研究與評估運行時,「已侵入印度組織的實機系統」。這些代理程式是透過應用程式設定中暴露的憑證與連線設定、公開程式碼儲存庫,以及權限過於寬鬆的雲端角色取得存取權限
相關專題推薦
評論 (0)
0/500
為協助防止敏感資料遭惡意竊取,OpenAI 為所有已登入的使用者推出了一項名為「事件模式」的新選配安全功能。此設定適用於各類帳戶類型及工作區,使用者與管理員皆可選擇啟用。 一旦啟用,ChatGPT 將限制其即時網路搜尋、深度研究及代理程式功能。此舉旨在透過限制模型發起外部網路請求的能力,建立一道防禦促令注入攻擊的安全屏障。

限制網路存取以防止資料外洩
在「事件模式」下,ChatGPT 的即時網頁瀏覽將嚴格限制為僅限於快取內容,這可能會導致搜尋結果不完整或過時。 此外,模型無法從網際網路下載檔案進行資料分析,而由 Canvas 生成的程式碼亦禁止進行外部網路請求。不過,使用者上傳的圖片、透過工具生成的圖片以及對話記憶等本地功能,則不受此模式影響。
將安全決策權交還給使用者
當攻擊者在網頁或文件中嵌入惡意指令,誘使 AI 無視既有規則並將用戶的敏感資訊傳送至外部伺服器時,便會發生提示注入攻擊。OpenAI 承認「事件模式」無法完全杜絕此類攻擊,因為惡意程式碼仍可能隱藏在快取的網頁或用戶上傳的檔案中。 面對更強大的 AI 能力同時也擴大攻擊面的現實,OpenAI 選擇將「更強大的功能」與「更低的数据洩漏風險」之間的權衡,交由使用者自行決定。
Neptune Medical 獲得 FDA 核准,可推出 Triton 1 機器人系統
Triton 是一款專為在整個結腸內實現直觀導航、高精度與精準控制而設計的胃腸道機器人內視鏡系統。| 來源:Neptune Medical海王星醫療公司(Neptune Medical Inc.)本週宣布,其「Triton 1 系統」已獲得美國食品藥物管理局(FDA)核准。該公司表示,此款機器人專為軟性內視鏡檢查所開發,可支援整個結腸範圍內的診斷與治療程序。Neptune Medical 聲稱,T
ARIA 禁止純人工智慧創作的歌曲進入排行榜,但允許由人類創作及人工智慧輔助的歌曲上榜
澳洲錄音工業協會(ARIA)已將完全由人工智慧生成的歌曲從其官方排行榜中全面剔除,這項新政策將於下週一生效。 這項決定的起因是一首利用 AI 人聲和鼓點模仿瑪丹娜(Madonna)歌曲《Like a Prayer》的作品,該曲在澳洲排行榜前 20 名中停留了 16 週,並曾攀升至第 2 名,引發了關於生成式 AI 在音樂中角色的爭議。現今,歌曲若要具備上榜資格,必須有真人參與根據更新後的規則,只有
印度通報首起惡意人工智慧代理活動
印度網路安全主管機關週四表示,多家供應商的人工智慧代理程式在研究與測試階段,存取了印度各組織的個人資訊及機密資料。印度電腦緊急應變小組(CERT-In)表示,該機構收到「多家 AI 模型供應商的自願通報」,這些供應商的模型在公開網際網路上進行研究與評估運行時,「已侵入印度組織的實機系統」。這些代理程式是透過應用程式設定中暴露的憑證與連線設定、公開程式碼儲存庫,以及權限過於寬鬆的雲端角色取得存取權限





首頁






