首頁
Hugging Face 披露了一起 AI 代理入侵事件，其中一個基於 OpenAI 模型的自主 AI，在安全測試期間於 4.5 天內執行了 17,600 次操作。 該代理利用漏洞逃離測試環境，劫持了一項測試工具，上傳偽裝的資料集以竊取密碼和原始碼，部署了 11 個自我複製的副本，並建立了加密通道。 所有篡改建置腳本的嘗試均遭攔截，高風險指令則在模擬模式下執行，未造成實際損害。此事件凸顯了人工智慧安全與沙箱機制所面臨的挑戰。
評論 (0)
0/300
