Tongyi LabがFIPOアルゴリズムを発表、32Bモデルの推論性能がo1-miniを上回る

Tongyi Labのインテリジェント・コンピューティングチームは本日、大規模言語モデル向けの新たなトレーニング後アルゴリズム「FIPO(Future-KL Influenced Policy Optimization)」を発表した。 このアルゴリズムは、純粋強化学習(Pure RL)のトレーニングにおいてよく見られる技術的課題である「推論長停滞」を効果的に解決する、斬新な「Future-KL」メカニズムを導入しています。
長文推論や複雑な論理的整合性の学習において、従来の強化学習では、長いシーケンス内の重要な決定ポイントを正確に特定できないことがよくあります。Tongyiチームが開発したFIPOアルゴリズムは、重要なトークンに対して差別化された報酬配分を行うことで、思考連鎖(CoT)の生成において、モデルがより先を見据えたアプローチを採用するよう促します。
実験結果によると、32B規模のモデルを用いた純粋強化学習の環境において、FIPOアルゴリズムを採用したモデルは、DeepSeek-Zero-MATHやOpenAIのo1-miniといった同規模のモデルをすでに上回る性能を示しており、国内の大型モデルの論理推論および数学的計算能力において大きな進歩を遂げている。
現在、大規模モデル間の競争は、事前学習の規模から、推論時の深い整合性へと移行しつつある。 FIPOの公開は、論理推論モデルにおける「思考プロセス」の質を評価する新たな手法を提供するだけでなく、オープンソースコミュニティや国内の主要研究機関が、世界クラスの推論モデルを追求する中で、徐々に独自の技術的道を切り拓きつつあることを示唆している。
関連記事
Ctrip Business Travel、7つの業界エージェントと17の中核機能を備えたAIエコシステムを発表
Ctrip Business Travelは、大規模言語モデルを活用して法人向け出張管理を根本から再構築する「Ctrip Business Travel AIエコシステム」を正式に発表しました。 この包括的なエコシステムは、旅行手配、旅行管理、調達、機能共有という4つの主要なシナリオに対応しています。旅行に関するQ&A、旅程予約、承認、インサイト、コンプライアンス・リスク管理、精算、リソース調達を
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
OpenAIの元研究員バレット・ゾフ氏が、Geminiの開発を支援するためGoogleに復帰
以前、Thinking Machines LabのCEOであるミリアム・ムララティ氏との意見の相違により、突然同社を退社してOpenAIに加わったバレット・ゾフ氏が、再び転職した。Alphabet傘下のGoogleは、ゾフ氏が研究担当副社長として復帰し、強化学習とポストトレーニングに関する専門知識をGeminiチームにもたらすことを発表した。「回転ドア」式研究者のサイクルゾフ氏のキャリアは、AI人
関連特集おすすめ
コメント (0)
0/500

Tongyi Labのインテリジェント・コンピューティングチームは本日、大規模言語モデル向けの新たなトレーニング後アルゴリズム「FIPO(Future-KL Influenced Policy Optimization)」を発表した。 このアルゴリズムは、純粋強化学習(Pure RL)のトレーニングにおいてよく見られる技術的課題である「推論長停滞」を効果的に解決する、斬新な「Future-KL」メカニズムを導入しています。
長文推論や複雑な論理的整合性の学習において、従来の強化学習では、長いシーケンス内の重要な決定ポイントを正確に特定できないことがよくあります。Tongyiチームが開発したFIPOアルゴリズムは、重要なトークンに対して差別化された報酬配分を行うことで、思考連鎖(CoT)の生成において、モデルがより先を見据えたアプローチを採用するよう促します。
実験結果によると、32B規模のモデルを用いた純粋強化学習の環境において、FIPOアルゴリズムを採用したモデルは、DeepSeek-Zero-MATHやOpenAIのo1-miniといった同規模のモデルをすでに上回る性能を示しており、国内の大型モデルの論理推論および数学的計算能力において大きな進歩を遂げている。
現在、大規模モデル間の競争は、事前学習の規模から、推論時の深い整合性へと移行しつつある。 FIPOの公開は、論理推論モデルにおける「思考プロセス」の質を評価する新たな手法を提供するだけでなく、オープンソースコミュニティや国内の主要研究機関が、世界クラスの推論モデルを追求する中で、徐々に独自の技術的道を切り拓きつつあることを示唆している。
Ctrip Business Travel、7つの業界エージェントと17の中核機能を備えたAIエコシステムを発表
Ctrip Business Travelは、大規模言語モデルを活用して法人向け出張管理を根本から再構築する「Ctrip Business Travel AIエコシステム」を正式に発表しました。 この包括的なエコシステムは、旅行手配、旅行管理、調達、機能共有という4つの主要なシナリオに対応しています。旅行に関するQ&A、旅程予約、承認、インサイト、コンプライアンス・リスク管理、精算、リソース調達を
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
OpenAIの元研究員バレット・ゾフ氏が、Geminiの開発を支援するためGoogleに復帰
以前、Thinking Machines LabのCEOであるミリアム・ムララティ氏との意見の相違により、突然同社を退社してOpenAIに加わったバレット・ゾフ氏が、再び転職した。Alphabet傘下のGoogleは、ゾフ氏が研究担当副社長として復帰し、強化学習とポストトレーニングに関する専門知識をGeminiチームにもたらすことを発表した。「回転ドア」式研究者のサイクルゾフ氏のキャリアは、AI人





家






