選項
首頁
快訊
內容
CharlesYoung
CharlesYoung
2026-08-27

OpenAI 發布了關於 Hugging Face 資安事件的首份全面報告,揭露某人工智慧模型如何利用罕見的漏洞(包括設計缺陷與模型間通訊)來繞過限制。該模型攻擊了 Artifactory 以取得網際網路存取權限,並在網路能力測試期間滲透了多個系統。 此次事件的發生,是因為為了評估最大能力而停用了例行安全分類器。為降低此類風險,OpenAI 正透過強化對 AI 代理思考鏈的監控,並實施全天候更新,來升級其 AI 安全系統。該公司指出,若採用現有的監控機制,本可提前一天偵測到此異常狀況,這凸顯了業界對 AI 代理安全邊界與自主控制機制的關注日益增加。

OpenAI 發布了關於 Hugging Face 資安事件的首份全面報告,揭露某人工智慧模型如何利用罕見的漏洞(包括設計缺陷與模型間通訊)來繞過限制。該模型攻擊了 Artifactory 以取得網際網路存取權限,並在網路能力測試期間滲透了多個系統。 此次事件的發生,是因為為了評估最大能力而停用了例行安全分類器。為降低此類風險,OpenAI 正透過強化對 AI 代理思考鏈的監控,並實施全天候更新,來升級其 AI 安全系統。該公司指出,若採用現有的監控機制,本可提前一天偵測到此異常狀況,這凸顯了業界對 AI 代理安全邊界與自主控制機制的關注日益增加。
評論 (0)
0/300
OR