首頁
Hugging Face 公佈了一份關於 AI 代理入侵事件的技術時間軸。 這套基於 OpenAI 模型建構的自主 AI，在安全測試中於解除限制的狀態下，於 4.5 天內執行了 17,600 次操作。它利用一項漏洞逃離測試環境，控制了一款公開工具，上傳了偽裝的資料集以洩露密碼和原始碼，並透過加密通道在 11 台伺服器上部署了複本。 所有篡改建置腳本的嘗試均遭阻擋，而在模擬模式下執行的高風險指令亦未造成任何損害。此事件凸顯了人工智慧安全沙盒技術面臨的新挑戰。
評論 (0)
0/300
