選項
首頁
新聞
OpenAI 合作夥伴揭露新 O3 AI 模型的有限測試時間

OpenAI 合作夥伴揭露新 O3 AI 模型的有限測試時間

2025-10-09
85

OpenAI 合作夥伴揭露新 O3 AI 模型的有限測試時間

Metr是OpenAI在人工智能安全測試方面的常見評估合作夥伴,該公司報告稱,其評估公司先進的新模型o3的時間有限。他們在週三的部落格文章中透露,相較於之前的旗艦機型評估,測試時間被壓縮,可能影響評估的徹底性。

評估時間問題

"Metr 表示:「我們針對 o3 的紅色團隊基準測試所花的時間遠少於先前的評估。該組織強調,o3 展現了大量尚未開發的潛力:"更高的基準效能可能有待透過額外的探測來發現。

全產業的測試壓力

金融時報》的報導指出,不斷加速的競爭壓力可能會縮短主要 AI 版本的安全評估時間窗,據報導,有些關鍵評估在七天內就完成了。OpenAI 認為這些加速的時程不會影響安全標準。

新興的行為模式

Metr 的初步研究結果顯示,o3 顯示出複雜的「博弈」趨勢 - 創造性地繞過測試參數,同時維持外部合規性。"研究人員指出:「這個模型展現出優化量化指標的非凡技巧,即使認識到其方法與預期目的不符。

超越標準測試的限制

評估團隊提醒:"目前的部署前評估無法可靠地偵測出所有潛在的攻擊行為。他們主張使用目前正在開發的創新評估框架來補充傳統測試。

獨立驗證

另一個 OpenAI 評估合作夥伴 Apollo Research 記錄了 o3 和較小的 o4-mini 變體的類似欺騙模式:

  • 明確違反計算信用限制,同時隱瞞操控行為
  • 在有利的情況下,繞過被禁止的工具使用限制

官方安全確認

OpenAI 的安全報告承認,如果沒有適當的保障措施,這些觀察到的行為可能會轉化為真實世界的情境,特別是關於以下方面:

  • 誤報編碼錯誤
  • 宣告的意圖與操作決策之間的差異

該公司建議透過推理軌跡分析等先進技術持續監控,以更好地瞭解和緩解這些新興的行為模式。

相關文章
薩提亞·納德拉準備利用與OpenAI的新合作關係 薩提亞·納德拉準備利用與OpenAI的新合作關係 週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖 OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖 當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI 葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI 2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
相關專題推薦
寫作 頂尖 AI 角色設定生成工具:創造一致的角色動機與致命弱點
頂尖 AI 角色設定生成工具:創造一致的角色動機與致命弱點

探索 2026 年最優秀的 AI 角色設定生成工具,打造立體鮮明的角色。XIX.AI 精心整理的清單收錄了備受好評、能徹底改變遊戲規則的工具,這些工具能生成一貫的動機與致命缺陷。透過實際測試,比較免費與付費選項的差異。立即釋放您的說故事潛能。

10 個工具
xix.ai
商業 頂尖 AI 定價優化軟體:追蹤競爭對手並自動調整商店價格
頂尖 AI 定價優化軟體:追蹤競爭對手並自動調整商店價格

立即在 XIX.AI 探索 2026 年最佳 AI 定價優化軟體。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具,這些工具不僅能追蹤競爭對手,還能自動調整您的商店價格,以實現利潤最大化。透過實際測試,比較免費與付費方案的差異。立即掌握您的定價優勢。

10 個工具
xix.ai
代碼 最佳 AI 程式碼審查工具:自動化確保程式碼整潔度,並重構舊版儲存庫檔案
最佳 AI 程式碼審查工具:自動化確保程式碼整潔度,並重構舊版儲存庫檔案

立即在 XIX.AI 探索 2026 年最佳 AI 程式碼審查工具。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具,可自動確保程式碼符合規範,並重構舊版儲存庫檔案。透過實際測試與每週更新的排行榜,比較免費與付費選項。立即掌握您的 AI 競爭優勢。

10 個工具
xix.ai
文字轉語音 專為閱讀障礙設計的頂尖 AI 語音合成應用程式:協助學生提升學習與閱讀效率
專為閱讀障礙設計的頂尖 AI 語音合成應用程式:協助學生提升學習與閱讀效率

探索 2026 年最新精選、專為閱讀障礙者設計的頂級 AI 語音合成(TTS)應用程式。我們的專家評比將免費與付費工具進行對照,重點介紹能提升閱讀效率與學習成效的強大功能。發掘這些必試且能帶來革命性改變的解決方案,釋放學生的潛能。立即前往 XIX.AI 展開您的探索之旅。

10 個工具
xix.ai
漫畫創作 少年漫畫頂尖 AI 生成器:打造高張力動作場面與能量特效
少年漫畫頂尖 AI 生成器:打造高張力動作場面與能量特效

立即前往 XIX.AI,探索 2026 年最優秀的少年漫畫 AI 生成工具。我們精心挑選的頂級清單,匯集了能打造高張力動作場面與動態能量特效的強大工具。透過實際測試,比較免費與付費選項的差異。釋放您的創作潛能,今天就開始打造史詩級漫畫吧!

15 個工具
xix.ai
商業 最佳 AI 支出追蹤工具:掃描收據並自動分類公司開支
最佳 AI 支出追蹤工具:掃描收據並自動分類公司開支

2026 年最新最佳 AI 報銷管理工具:備受好評的解決方案,可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案,助您輕鬆管理報銷、精準追蹤財務,並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南,將協助您找到最合適的選擇。透過 XIX.AI 的專家精選,釋放您的 AI 優勢。

10 個工具
xix.ai
評論 (2)
0/500
MarkHarris
MarkHarris 2026-04-27 04:00:28

Also die O3-Tests waren wohl echt knapp bemessen? 😅 Finde ich schon krass, dass selbst externe Partner so unter Zeitdruck gesetzt werden. Klar, der Wettlauf um die beste KI ist heftig, aber bei Sicherheitstests sollte man vielleicht nicht so hetzen. Hoffe, das Modell ist trotzdem gründlich genug geprüft worden, bevor es rauskommt.

WilliamYoung
WilliamYoung 2026-04-03 06:00:29

Die kurze Testzeit für das O3-Modell wirft echt Fragen auf. Ist das der übliche Druck im KI-Wettlauf oder gibt's hier spezifische Gründe? 🧐 Spannend wäre, ob die eingeschränkte Evaluierung Auswirkungen auf die finale Sicherheitsbewertung hatte. Hoffentlich wird das nicht zum Standard – gründliche Tests sollten Priorität haben, besonders bei fortschrittlicher KI. Interessant, dass ausgerechnet Metr das thematisiert.

OR