OpenAI 透過阻止危險操作和許可權控制增強 Codex 安全性

OpenAI 已加強其 AI 程式設計代理 Codex 的安全框架,引入了多項旨在減輕破壞性操作風險的安全措施,例如在程式碼執行過程中意外刪除檔案或覆蓋資料。
根據 OpenAI 團隊成員 Tibo 最近釋出的一篇文章,該公司調查了來自 Codex 的有害操作報告,並確定主要漏洞出現在臨時工作目錄的清理過程中。關鍵問題包括系統變數(如 $HOME)的不當重用,這可能會無意中使清理過程指向實際的使用者目錄。此外,某些操作在刪除或覆蓋之前缺乏足夠的路徑驗證,從而增加了資料損壞的潛在可能性。
為了解決這些漏洞,OpenAI 實施了多層保護。更新後的 Codex 版本現在要求代理在執行敏感操作之前驗證目標路徑,並使用隔離的臨時目錄,從而消除對可能具有誤導性的系統變數的依賴。此外,OpenAI 增強了識別和阻止危險命令的機制,併為這些操作引入了額外的審查程式。
此外,OpenAI 提高了授予 Codex 完全訪問許可權的要求。透過引入更顯著的風險警告,公司旨在降低使用者無意中授權廣泛訪問的可能性。這些對自動審查規則的升級進一步限制了安全風險,同時不影響 AI 輔助程式設計的效率。
隨著 AI 程式設計代理越來越深入地整合到程式碼開發、檔案管理和自動化任務執行中,確保代理行為的安全性已成為行業的關鍵優先事項。OpenAI 的這一增強措施強調了隨著應用範圍的擴大,AI 代理必須不斷完善其許可權管理、操作審計和風險控制能力的必要性。
相關文章
微信支付推出智慧眼鏡 SDK;Rokid 成為首個相容品牌
微信已正式推出微信支付智慧眼鏡 SDK,使其全面開放使用。此解決方案將微信核心的「掃碼支付」功能整合至標準 SDK 中,供符合特定標準的智慧眼鏡製造商使用。這讓使用者能夠直接在相容的智慧眼鏡上流暢地完成支付。 目前,Rokid Leqi AI 智慧眼鏡是首款完成適配並上線的產品。啟用與日常支付流程若要首次使用智慧眼鏡的「掃碼支付」功能,使用者必須透過製造商的手機應用程式申請啟用。隨後系統將將其導向
Uber 工程師打造 CEO 的 AI 克隆體,以迴避直接提問
雖然多數員工都對向執行長匯報工作感到畏懼,但全球旅遊龍頭 Uber 的工程師們卻發現了一項戰略優勢:讓老闆的 AI 複製品在事前提供反饋。「Dara AI」:董事會會議前的執行教練Uber 執行長達拉·科斯羅沙希(Dara Khosrowshahi)最近在史蒂文·巴特利特(Steven Bartlett)廣受歡迎的《執行長日記》(CEO Diaries)播客節目中分享了幕後花絮,透露他的工程團隊開
Unitree 如何塑造人形機器人的未來
Unitree 推出的全新具身人工智慧機器人,搭載超廣角 4D LiDAR 技術,可實現先進的實境導航。圖片來源:UnitreeUnitree 執行長王興興致力於實現世界模型的突破,以協助類人型機器人在進入陌生家庭環境時,能執行 80% 的任務隨著機器人產業逐步擺脫預先編排的表演模式,中國類人型機器人獨角獸 Unitree 正全力衝刺,致力解決真實世界中的認知適應性問題。儘管生成式人工智慧(Gen
相關專題推薦
評論 (0)
0/500

OpenAI 已加強其 AI 程式設計代理 Codex 的安全框架,引入了多項旨在減輕破壞性操作風險的安全措施,例如在程式碼執行過程中意外刪除檔案或覆蓋資料。
根據 OpenAI 團隊成員 Tibo 最近釋出的一篇文章,該公司調查了來自 Codex 的有害操作報告,並確定主要漏洞出現在臨時工作目錄的清理過程中。關鍵問題包括系統變數(如 $HOME)的不當重用,這可能會無意中使清理過程指向實際的使用者目錄。此外,某些操作在刪除或覆蓋之前缺乏足夠的路徑驗證,從而增加了資料損壞的潛在可能性。
為了解決這些漏洞,OpenAI 實施了多層保護。更新後的 Codex 版本現在要求代理在執行敏感操作之前驗證目標路徑,並使用隔離的臨時目錄,從而消除對可能具有誤導性的系統變數的依賴。此外,OpenAI 增強了識別和阻止危險命令的機制,併為這些操作引入了額外的審查程式。
此外,OpenAI 提高了授予 Codex 完全訪問許可權的要求。透過引入更顯著的風險警告,公司旨在降低使用者無意中授權廣泛訪問的可能性。這些對自動審查規則的升級進一步限制了安全風險,同時不影響 AI 輔助程式設計的效率。
隨著 AI 程式設計代理越來越深入地整合到程式碼開發、檔案管理和自動化任務執行中,確保代理行為的安全性已成為行業的關鍵優先事項。OpenAI 的這一增強措施強調了隨著應用範圍的擴大,AI 代理必須不斷完善其許可權管理、操作審計和風險控制能力的必要性。
微信支付推出智慧眼鏡 SDK;Rokid 成為首個相容品牌
微信已正式推出微信支付智慧眼鏡 SDK,使其全面開放使用。此解決方案將微信核心的「掃碼支付」功能整合至標準 SDK 中,供符合特定標準的智慧眼鏡製造商使用。這讓使用者能夠直接在相容的智慧眼鏡上流暢地完成支付。 目前,Rokid Leqi AI 智慧眼鏡是首款完成適配並上線的產品。啟用與日常支付流程若要首次使用智慧眼鏡的「掃碼支付」功能,使用者必須透過製造商的手機應用程式申請啟用。隨後系統將將其導向
Uber 工程師打造 CEO 的 AI 克隆體,以迴避直接提問
雖然多數員工都對向執行長匯報工作感到畏懼,但全球旅遊龍頭 Uber 的工程師們卻發現了一項戰略優勢:讓老闆的 AI 複製品在事前提供反饋。「Dara AI」:董事會會議前的執行教練Uber 執行長達拉·科斯羅沙希(Dara Khosrowshahi)最近在史蒂文·巴特利特(Steven Bartlett)廣受歡迎的《執行長日記》(CEO Diaries)播客節目中分享了幕後花絮,透露他的工程團隊開
Unitree 如何塑造人形機器人的未來
Unitree 推出的全新具身人工智慧機器人,搭載超廣角 4D LiDAR 技術,可實現先進的實境導航。圖片來源:UnitreeUnitree 執行長王興興致力於實現世界模型的突破,以協助類人型機器人在進入陌生家庭環境時,能執行 80% 的任務隨著機器人產業逐步擺脫預先編排的表演模式,中國類人型機器人獨角獸 Unitree 正全力衝刺,致力解決真實世界中的認知適應性問題。儘管生成式人工智慧(Gen





首頁






