OpenAI 強化 ChatGPT 對抗提示注入攻擊的安全防護

首頁

新聞

2026-05-11

KevinHarris

OpenAI 為 ChatGPT 推出了兩項新的進階安全功能，以應對日益嚴重的提示注入攻擊威脅。此類攻擊通常發生在 AI 系統與網站及外部應用程式互動時，可能使惡意行為者操控 AI 執行有害行為或洩露機密資料。這兩項新功能皆強化了平台的既有防禦機制，包括沙盒環境、URL 資料外洩防護，以及其他多層次安全協定。

第一項功能是「鎖定模式」（Lockdown Mode），這是一項可選的高階設定，專為有嚴格安全需求的使用者設計，而非一般使用者。它透過嚴格管控 ChatGPT 與外部系統的通訊方式，大幅降低資料外洩的風險。此模式會主動停用或限制可能成為攻擊載體的工具。例如，網頁瀏覽功能將僅存取快取內容，而缺乏強健安全保障的功能則會完全停用。

目前，此模式適用於 ChatGPT 企業版、教育版、醫療版及教師版。管理員可透過在儀表板設定中建立特定角色來啟用此模式，並在啟用「封鎖模式」期間精確定義允許的外部應用程式與操作。OpenAI 計劃在未來數月內將此模式開放給一般消費者使用。此外，「合規 API 日誌平台」可協助管理員針對應用程式使用情況及資料共享實務進行法規稽核。

第二項措施是針對 ChatGPT、ChatGPT Atlas 及 Codex 中的高風險功能，統一標記為 **「高風險」** 標籤，以標準化向使用者傳達潛在威脅的方式。

OpenAI 解釋道，某些連網功能雖能提升 AI 的實用性，但仍存在現行產業防護措施尚未完全緩解的風險。此標籤能清晰呈現這些風險，讓使用者能針對是否使用相關功能做出明智的決定，特別是在涉及敏感資訊的情況下。例如，當開發者為 Codex 啟用網路存取時，介面上將顯示該標籤，詳細說明其帶來的變更、潛在危險、適當的使用情境，以及降低風險的建議。

桑德伯格與克萊格加入 Nscale 董事會，這家被譽為「挪威星際之門」的新創公司估值達 146 億美元隨著市場對能大規模提供 AI 運算能力的資料中心需求激增，由 Nvidia 支持的英國 AI 基礎設施公司 Nscale 估值已達 146 億美元。這使該公司與 Helsing 及 Mistral AI 並列，成為歐洲最新的「獨角獸」企業之一。Nscale 的策略核心在於垂直整合，涵蓋能源、資料中心、運算及調度軟體等領域。此次估值是基於一輪20億美元的C輪融資，該公司稱此為「歐洲史上最大規模」，

Runway 53 億美元估值挑戰 Google，其影片 AI 技術已超越語言 AI 儘管多數人工智慧巨頭已投入數十億美元於語言模型，生成式人工智慧影片新創公司 Runway 卻正沿著截然不同的道路勇往直前。根據 TechCrunch 報導，這家由藝術學院畢業生創立的年輕公司，目前估值已達 53 億美元。近期財務數據顯示，Runway 在 2026 年第二季新增了 4,000 萬美元的年度經常性收入（ARR）。憑藉其新推出的 Gen-4.5 影片生成模型，該公司不僅鞏固了在好萊塢電

Google 將加大對 Anthropic 的投資，總額可能高達 400 億美元在節奏飛快的 AI 軍備競賽中，各大科技巨頭正採取越來越大膽的舉措。根據最新報導，Google 計劃向 AI 新創公司 Anthropic 投資高達 100 億美元——而這僅僅是個開始。根據其長期戰略，總投資額最終可能達到 400 億美元。這筆巨額交易將使Anthropic的估值推升至3,500億美元的新高。就在數月前，該公司才剛完成一輪300億美元的融資。亞馬遜此前已投資50億美元，並保留了額外

相關專題推薦

健康與養生