Tongyi Lab 首度推出 FIPO 演算法,32B 模型推論表現優於 o1-mini

同益實驗室(Tongyi Lab)的智慧運算團隊今日發表了一種針對大型語言模型的全新訓練後演算法——FIPO(受未來 KL 影響的策略優化)。 該演算法引入了創新的「Future-KL」機制,能有效解決純強化學習(Pure RL)訓練中常見的「推論長度停滯」技術難題。
在長文本推理與複雜邏輯對齊的訓練過程中,傳統強化的學習往往無法精確識別冗長序列中的關鍵決策點。由同義團隊開發的 FIPO 演算法,透過對關鍵標記實施差異化獎勵分配,鼓勵模型在生成「思維鏈」(CoT)時採取更具前瞻性的策略。
實驗結果顯示,在採用 32B 規模模型的純強化學習架構下,運用 FIPO 演算法的模型表現已超越 DeepSeek-Zero-MATH 及 OpenAI 的 o1-mini 等同規模模型,這代表國內大型模型在邏輯推理與數學運算能力方面取得了顯著進展。
當前,大型模型之間的競爭正從預訓練規模轉向推論階段的深度對齊。 FIPO 的發布不僅為評估邏輯推理模型中「思考過程」的品質提供了新途徑,更標誌著開源社群與國內頂尖實驗室正逐步開闢一條獨立的技術道路,致力於打造世界級的推理模型。
相關文章
攜手 7 家業界合作夥伴與 17 項核心功能,攜程商務旅行正式推出 AI 生態系統
攜程商務旅行已正式推出「攜程商務旅行 AI 生態系統」,透過運用大型語言模型,從根本上重塑企業差旅管理。 這個全面的生態系統涵蓋四大核心情境:行程安排、差旅管理、採購及能力共享。該生態系統推出七款專用的 AI 代理,涵蓋差旅問答、行程預訂、審批、洞察分析、合規風險控制、財務結算及資源採購,標誌著業界正從數位化管理邁向由 AI 代理驅動的自動化時代。在策略層面,攜程商務旅行採行開放的「打破壁壘」模式
隨著 AI 模型路由技術日益普及,Stripe 將收購 OpenRouter
Stripe 已同意收購 OpenRouter,這是一個 AI 模型路由平台,讓開發者能透過單一介面存取數百種模型。這筆交易為 Stripe 現有的 AI 應用及基於代幣的計費相關業務,增添了模型選擇與路由功能。據 Stripe 表示,OpenRouter 支援來自 80 多家供應商的 400 多個模型。開發者無需分別與各模型供應商進行整合,只需透過 OpenRouter 單一 API 即可發送請
前 OpenAI 研究員巴雷特·佐夫重返 Google,協助 Gemini 的開發工作
巴雷特·佐夫(Barret Zoph)先前因與 Thinking Machines Lab 執行長米里亞姆·穆拉拉蒂(Miriam Mularati)意見不合而突然離職並加入 OpenAI,如今他再次更換雇主。Alphabet 旗下的 Google 宣布,佐夫將以研究副總裁身分回歸,將他在強化學習與後訓練領域的專業知識帶入 Gemini 團隊。「旋轉門」研究人員的循環佐夫的職業生涯正是人工智慧人才
相關專題推薦
評論 (0)
0/500

同益實驗室(Tongyi Lab)的智慧運算團隊今日發表了一種針對大型語言模型的全新訓練後演算法——FIPO(受未來 KL 影響的策略優化)。 該演算法引入了創新的「Future-KL」機制,能有效解決純強化學習(Pure RL)訓練中常見的「推論長度停滯」技術難題。
在長文本推理與複雜邏輯對齊的訓練過程中,傳統強化的學習往往無法精確識別冗長序列中的關鍵決策點。由同義團隊開發的 FIPO 演算法,透過對關鍵標記實施差異化獎勵分配,鼓勵模型在生成「思維鏈」(CoT)時採取更具前瞻性的策略。
實驗結果顯示,在採用 32B 規模模型的純強化學習架構下,運用 FIPO 演算法的模型表現已超越 DeepSeek-Zero-MATH 及 OpenAI 的 o1-mini 等同規模模型,這代表國內大型模型在邏輯推理與數學運算能力方面取得了顯著進展。
當前,大型模型之間的競爭正從預訓練規模轉向推論階段的深度對齊。 FIPO 的發布不僅為評估邏輯推理模型中「思考過程」的品質提供了新途徑,更標誌著開源社群與國內頂尖實驗室正逐步開闢一條獨立的技術道路,致力於打造世界級的推理模型。
攜手 7 家業界合作夥伴與 17 項核心功能,攜程商務旅行正式推出 AI 生態系統
攜程商務旅行已正式推出「攜程商務旅行 AI 生態系統」,透過運用大型語言模型,從根本上重塑企業差旅管理。 這個全面的生態系統涵蓋四大核心情境:行程安排、差旅管理、採購及能力共享。該生態系統推出七款專用的 AI 代理,涵蓋差旅問答、行程預訂、審批、洞察分析、合規風險控制、財務結算及資源採購,標誌著業界正從數位化管理邁向由 AI 代理驅動的自動化時代。在策略層面,攜程商務旅行採行開放的「打破壁壘」模式
隨著 AI 模型路由技術日益普及,Stripe 將收購 OpenRouter
Stripe 已同意收購 OpenRouter,這是一個 AI 模型路由平台,讓開發者能透過單一介面存取數百種模型。這筆交易為 Stripe 現有的 AI 應用及基於代幣的計費相關業務,增添了模型選擇與路由功能。據 Stripe 表示,OpenRouter 支援來自 80 多家供應商的 400 多個模型。開發者無需分別與各模型供應商進行整合,只需透過 OpenRouter 單一 API 即可發送請
前 OpenAI 研究員巴雷特·佐夫重返 Google,協助 Gemini 的開發工作
巴雷特·佐夫(Barret Zoph)先前因與 Thinking Machines Lab 執行長米里亞姆·穆拉拉蒂(Miriam Mularati)意見不合而突然離職並加入 OpenAI,如今他再次更換雇主。Alphabet 旗下的 Google 宣布,佐夫將以研究副總裁身分回歸,將他在強化學習與後訓練領域的專業知識帶入 Gemini 團隊。「旋轉門」研究人員的循環佐夫的職業生涯正是人工智慧人才





首頁






