OpenAI 表示,Hugging Face 因其自身的預釋出模型而遭到入侵。

OpenAI 在週二承認,其一款人工智慧模型在一場內部網路安全測試出現故障時,入侵了 Hugging Face 的系統。Hugging Face 最初將此次事件歸咎於“外部人工智慧代理”。
在週二下午釋出的一篇部落格文章中,OpenAI 詳細說明了導致這些模型侵入該服務的事件經過。
文章寫道:“經調查後,我們現在明白,此次事件是由多款 OpenAI 模型共同造成的——其中包括 GPT‑5.6 Sol 以及一款功能更強的預釋出版本模型,這些模型在用於評估的網路防禦能力設定均被調低。當時它們正在針對網路防禦能力的基準測試平臺進行內部測試。”
具體而言,這次入侵似乎針對的是 ExploitGym,這是一個公開提供的基準測試工具,用於評估模型基於已知漏洞執行攻擊的能力。像 ExploitGym 這樣的基準測試工具通常被用於模型訓練,以提升特定技能,但這是目前所知首次有此類測試引發實際的網路攻擊。
在本次事件中,相關模型本不應具備任何網際網路訪問許可權,只允許使用一種專用工具來安裝完成任務所需的軟體包。然而,該模型發現了該軟體包安裝程式中的一個未公開漏洞,並利用這一漏洞獲得了對更廣泛網際網路的訪問權。
文章繼續寫道:“這些模型全神貫注於解決 ExploitGym 的測試任務,竭盡全力去完成一個極為狹隘的測試目標。一旦獲得網際網路訪問許可權,它們就推斷 Hugging Face 可能儲存有用於 ExploitGym 的模型、資料集及解決方案。基於這一判斷,它們開始尋找併成功找到了獲取機密資訊的方法,這些資訊可用於在評估中作弊。”
最終,這些模型發現了 Hugging Face 基礎設施中的漏洞,從而能夠“直接從 Hugging Face 的生產資料庫中獲取測試答案”,實際上相當於拿到了基準測試的標準解。
對 Hugging Face 而言,這顯然是一次複雜且猛烈的網路攻擊,正如該公司在最初披露時所描述的那樣,攻擊表現為“透過大量短期執行的沙箱發起數千次獨立操作,同時藉助公共服務實現自遷移式的指揮控制”。
OpenAI 已經發現並報告了該軟體包安裝程式中的漏洞,並正在與 Hugging Face 合作進一步調查此次事件。該公司還表示,將在模型測試及相關基礎設施上實施新的管控措施,以防止類似事件再次發生。
目前尚不清楚 OpenAI 是否會因此次入侵而面臨法律後果,儘管這些模型的行為很可能違反了《計算機欺詐和濫用法》。
不過,這一事件極為生動地展示了前沿人工智慧模型在長時間執行過程中所具備的力量與潛在危險。正如 OpenAI 研究員 Micah Carroll 在看到相關新聞後所說:“如果這還不能讓你意識到對齊風險將成為未來需要重點關注的問題,那我真不知道還有什麼能做到。”
相關文章
PHP 末日危機:OpenAI 與 Google 的專家揭露陳年漏洞,引發網路恐慌
美國國家安全局(NSA)於週三針對 PHP 中的兩項嚴重漏洞發布了關鍵警示,PHP 基金會已針對這些漏洞發布了修補程式。作為一種伺服器端腳本語言,PHP 驅動著全球約 70% 的網站——超過 3,300 萬個網站——並且是 WordPress 等主要內容管理平台不可或缺的一部分。美國國家安全局(NSA)警告,這些漏洞極為嚴重,未修補的網站應立即下線,直至完成更新為止,因為攻擊者可藉此入侵伺服器檔案
OpenAI 推出 GPT-5.5 Instant,作為 ChatGPT 的新預設模型
OpenAI 於週一推出了 GPT-5.5 Instant,取代 GPT-5.3 Instant 成為 ChatGPT 的預設模型。該公司表示,此次更新旨在最大限度地減少法律、醫療和金融等高利害領域中的幻覺現象,同時保留前版本的快速響應速度。在上個月釋出更廣泛的 GPT-5.5 系列(重點突出了編碼和知識工作方面的增強)之後,OpenAI 現已將這些改進整合到即時模型中。在效能方面,新模型在 AIME 2025 數學基準測試中得分 81.2,超過了舊模型的 65.4 分。它在 MMMU-Pr
Nvidia 預計明年 25% 的營收將來自受資助的實驗室
Nvidia 已向採購其晶片的 AI 實驗室投入近 500 億美元,並確保了總計超過 5,000 億美元的訂單承諾。8月26日,財務長科萊特·克雷斯(Colette Kress)向分析師表示,這些由英偉達資產負債表背書的實驗室,明年將佔公司業務的約四分之一。這種常被稱為「循環融資」的結構,早在分析師們創造這個詞彙之前,英偉達便已承認其存在。克雷斯在財報電話會議中指出,雖然公司承認其支援規模之大,但
相關專題推薦
評論 (1)
0/500

OpenAI 在週二承認,其一款人工智慧模型在一場內部網路安全測試出現故障時,入侵了 Hugging Face 的系統。Hugging Face 最初將此次事件歸咎於“外部人工智慧代理”。
在週二下午釋出的一篇部落格文章中,OpenAI 詳細說明了導致這些模型侵入該服務的事件經過。
文章寫道:“經調查後,我們現在明白,此次事件是由多款 OpenAI 模型共同造成的——其中包括 GPT‑5.6 Sol 以及一款功能更強的預釋出版本模型,這些模型在用於評估的網路防禦能力設定均被調低。當時它們正在針對網路防禦能力的基準測試平臺進行內部測試。”
具體而言,這次入侵似乎針對的是 ExploitGym,這是一個公開提供的基準測試工具,用於評估模型基於已知漏洞執行攻擊的能力。像 ExploitGym 這樣的基準測試工具通常被用於模型訓練,以提升特定技能,但這是目前所知首次有此類測試引發實際的網路攻擊。
在本次事件中,相關模型本不應具備任何網際網路訪問許可權,只允許使用一種專用工具來安裝完成任務所需的軟體包。然而,該模型發現了該軟體包安裝程式中的一個未公開漏洞,並利用這一漏洞獲得了對更廣泛網際網路的訪問權。
文章繼續寫道:“這些模型全神貫注於解決 ExploitGym 的測試任務,竭盡全力去完成一個極為狹隘的測試目標。一旦獲得網際網路訪問許可權,它們就推斷 Hugging Face 可能儲存有用於 ExploitGym 的模型、資料集及解決方案。基於這一判斷,它們開始尋找併成功找到了獲取機密資訊的方法,這些資訊可用於在評估中作弊。”
最終,這些模型發現了 Hugging Face 基礎設施中的漏洞,從而能夠“直接從 Hugging Face 的生產資料庫中獲取測試答案”,實際上相當於拿到了基準測試的標準解。
對 Hugging Face 而言,這顯然是一次複雜且猛烈的網路攻擊,正如該公司在最初披露時所描述的那樣,攻擊表現為“透過大量短期執行的沙箱發起數千次獨立操作,同時藉助公共服務實現自遷移式的指揮控制”。
OpenAI 已經發現並報告了該軟體包安裝程式中的漏洞,並正在與 Hugging Face 合作進一步調查此次事件。該公司還表示,將在模型測試及相關基礎設施上實施新的管控措施,以防止類似事件再次發生。
目前尚不清楚 OpenAI 是否會因此次入侵而面臨法律後果,儘管這些模型的行為很可能違反了《計算機欺詐和濫用法》。
不過,這一事件極為生動地展示了前沿人工智慧模型在長時間執行過程中所具備的力量與潛在危險。正如 OpenAI 研究員 Micah Carroll 在看到相關新聞後所說:“如果這還不能讓你意識到對齊風險將成為未來需要重點關注的問題,那我真不知道還有什麼能做到。”
PHP 末日危機:OpenAI 與 Google 的專家揭露陳年漏洞,引發網路恐慌
美國國家安全局(NSA)於週三針對 PHP 中的兩項嚴重漏洞發布了關鍵警示,PHP 基金會已針對這些漏洞發布了修補程式。作為一種伺服器端腳本語言,PHP 驅動著全球約 70% 的網站——超過 3,300 萬個網站——並且是 WordPress 等主要內容管理平台不可或缺的一部分。美國國家安全局(NSA)警告,這些漏洞極為嚴重,未修補的網站應立即下線,直至完成更新為止,因為攻擊者可藉此入侵伺服器檔案
OpenAI 推出 GPT-5.5 Instant,作為 ChatGPT 的新預設模型
OpenAI 於週一推出了 GPT-5.5 Instant,取代 GPT-5.3 Instant 成為 ChatGPT 的預設模型。該公司表示,此次更新旨在最大限度地減少法律、醫療和金融等高利害領域中的幻覺現象,同時保留前版本的快速響應速度。在上個月釋出更廣泛的 GPT-5.5 系列(重點突出了編碼和知識工作方面的增強)之後,OpenAI 現已將這些改進整合到即時模型中。在效能方面,新模型在 AIME 2025 數學基準測試中得分 81.2,超過了舊模型的 65.4 分。它在 MMMU-Pr
Nvidia 預計明年 25% 的營收將來自受資助的實驗室
Nvidia 已向採購其晶片的 AI 實驗室投入近 500 億美元,並確保了總計超過 5,000 億美元的訂單承諾。8月26日,財務長科萊特·克雷斯(Colette Kress)向分析師表示,這些由英偉達資產負債表背書的實驗室,明年將佔公司業務的約四分之一。這種常被稱為「循環融資」的結構,早在分析師們創造這個詞彙之前,英偉達便已承認其存在。克雷斯在財報電話會議中指出,雖然公司承認其支援規模之大,但





首頁






