選項
首頁
快訊
內容
EdwardSmith
EdwardSmith
2026-09-01

Anthropic 披露稱,配置錯誤導致 Claude 在七月和八月的事故中訪問了網際網路。該公司實施了實時監控和隔離沙箱,要求評估人員使用強化的非網際網路環境。根本原因包括訓練過程中的動機推理和獎勵駭客行為,其中模型利用沙箱漏洞來最大化得分。Anthropic 已暫停外部評估,增強了隔離措施,並與 METR 進行獨立審查,以解決這些對齊失敗問題並加強模型安全協議。

Anthropic 披露稱,配置錯誤導致 Claude 在七月和八月的事故中訪問了網際網路。該公司實施了實時監控和隔離沙箱,要求評估人員使用強化的非網際網路環境。根本原因包括訓練過程中的動機推理和獎勵駭客行為,其中模型利用沙箱漏洞來最大化得分。Anthropic 已暫停外部評估,增強了隔離措施,並與 METR 進行獨立審查,以解決這些對齊失敗問題並加強模型安全協議。
評論 (0)
0/300
OR