如果競爭對手推出潛在危險的 AI 模型,OpenAI 可能會放鬆保障措施

OpenAI 在競爭壓力下調整安全協議
OpenAI 修訂了其準備框架 (Preparedness Framework),這是指導 AI 模型安全性評估和整個開發週期保障措施實施的內部機制。更新後的政策主要包括,如果競爭公司推出高風險系統,卻沒有同等的保護措施,則可能放寬安全措施。
這項修改突顯出市場力量日益強大,迫使 AI 開發人員加快部署時程。OpenAI 面臨越來越多的審查,指控其為了加快發佈速度而降低安全優先順序,包括延遲公佈安全評估文件。最近的法律訴訟中,有 12 名前員工支持 Elon Musk 針對 OpenAI 的訴訟,並警告計劃中的公司重組可能會進一步削弱安全標準。
平衡競爭與安全
對於外界的批評,OpenAI 強調任何政策調整都會維持嚴格的保護等級。週二的部落格更新指出:「雖然我們可能會調整要求,如果競爭對手部署的高風險系統缺乏可比的保障措施,」「我們致力於徹底的風險驗證、修改的透明度,並維持優越的保護措施」。
修訂後的架構強調 OpenAI 在傳統人工測試的同時,也越來越依賴自動化評估工具。公司代表宣稱,這些自動化系統能夠在不影響評估品質的情況下,維持產品的發行速度。
出現有爭議的測試做法
有報導與 OpenAI 的官方立場相左,內部人士透露,OpenAI 壓縮了安全審查的時間。根據《金融時報》的消息,測試人員最近只有不到一周的時間來評估即將推出的模型,比之前的時間大幅縮短。此外,安全測試主要發生在預發佈的模型變體上,而非公開部署的版本,這也引起了其他的關注。
OpenAI 悄悄地減少安全承諾。
從框架變更中省略:
- 微調模型不需要安全測試
- Steven Adler (@sjgadler) 2025 年 4 月 15 日
重新定義風險分類系統
更新的框架引入了精簡的模型分類,著重於兩個能力臨界值:
- 高能力:擴大現有嚴重危害向量的模型
- 臨界能力:建立新的嚴重傷害途徑的模型
「高能力系統要求在部署前採取風險緩解保障措施,」OpenAI 澄清道。「關鍵能力模型需要額外的開發階段保護措施」。
這標誌著該框架自 2023 年以來的首次大幅修訂,反映出不斷演進的產業動態和 OpenAI 的內部營運變化。
相關文章
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
相關專題推薦
評論 (2)
0/500
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

OpenAI 在競爭壓力下調整安全協議
OpenAI 修訂了其準備框架 (Preparedness Framework),這是指導 AI 模型安全性評估和整個開發週期保障措施實施的內部機制。更新後的政策主要包括,如果競爭公司推出高風險系統,卻沒有同等的保護措施,則可能放寬安全措施。
這項修改突顯出市場力量日益強大,迫使 AI 開發人員加快部署時程。OpenAI 面臨越來越多的審查,指控其為了加快發佈速度而降低安全優先順序,包括延遲公佈安全評估文件。最近的法律訴訟中,有 12 名前員工支持 Elon Musk 針對 OpenAI 的訴訟,並警告計劃中的公司重組可能會進一步削弱安全標準。
平衡競爭與安全
對於外界的批評,OpenAI 強調任何政策調整都會維持嚴格的保護等級。週二的部落格更新指出:「雖然我們可能會調整要求,如果競爭對手部署的高風險系統缺乏可比的保障措施,」「我們致力於徹底的風險驗證、修改的透明度,並維持優越的保護措施」。
修訂後的架構強調 OpenAI 在傳統人工測試的同時,也越來越依賴自動化評估工具。公司代表宣稱,這些自動化系統能夠在不影響評估品質的情況下,維持產品的發行速度。
出現有爭議的測試做法
有報導與 OpenAI 的官方立場相左,內部人士透露,OpenAI 壓縮了安全審查的時間。根據《金融時報》的消息,測試人員最近只有不到一周的時間來評估即將推出的模型,比之前的時間大幅縮短。此外,安全測試主要發生在預發佈的模型變體上,而非公開部署的版本,這也引起了其他的關注。
OpenAI 悄悄地減少安全承諾。
- Steven Adler (@sjgadler) 2025 年 4 月 15 日
從框架變更中省略:
- 微調模型不需要安全測試
重新定義風險分類系統
更新的框架引入了精簡的模型分類,著重於兩個能力臨界值:
- 高能力:擴大現有嚴重危害向量的模型
- 臨界能力:建立新的嚴重傷害途徑的模型
「高能力系統要求在部署前採取風險緩解保障措施,」OpenAI 澄清道。「關鍵能力模型需要額外的開發階段保護措施」。
這標誌著該框架自 2023 年以來的首次大幅修訂,反映出不斷演進的產業動態和 OpenAI 的內部營運變化。
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?





首頁






