Heim
Tongyi Lab stellt den FIPO-Algorithmus vor: Die Modellinferenz mit 32B übertrifft o1-mini

Das Intelligent Computing-Team von Tongyi Lab hat heute einen neuen Algorithmus für die Nachtrainierung großer Sprachmodelle vorgestellt – FIPO (Future-KL Influenced Policy Optimization). Dieser Algorithmus führt einen neuartigen „Future-KL“-Mechanismus ein, der die häufige technische Herausforderung der „Stagnation der Inferenzlänge“ beim Training mit reinem verstärkendem Lernen (Pure RL) effektiv löst.
Beim Training für das Schlussfolgern aus langen Texten und die komplexe logische Ausrichtung gelingt es dem traditionellen verstärkenden Lernen oft nicht, wichtige Entscheidungspunkte in langen Sequenzen präzise zu identifizieren. Der vom Tongyi-Team entwickelte FIPO-Algorithmus wendet eine differenzierte Belohnungsverteilung auf Schlüssel-Token an und regt das Modell so dazu an, bei der Generierung von Gedankengängen (Chain-of-Thought, CoT) einen stärker vorausschauenden Ansatz zu verfolgen.
Experimentelle Ergebnisse zeigen, dass in einer reinen Reinforcement-Learning-Konfiguration mit einem Modell im 32B-Maßstab das Modell mit dem FIPO-Algorithmus bereits Modelle ähnlicher Größe wie DeepSeek-Zero-MATH und OpenAI’s o1-mini übertroffen hat, was einen bedeutenden Fortschritt bei den Fähigkeiten zur logischen Schlussfolgerung und mathematischen Berechnung einheimischer Großmodelle darstellt.
Derzeit verlagert sich der Wettbewerb unter den großen Modellen vom Umfang des Vortrainings hin zur tiefgreifenden Angleichung zum Zeitpunkt der Inferenz. Die Veröffentlichung von FIPO bietet nicht nur eine neue Möglichkeit, die Qualität von „Denkprozessen“ in Modellen für logisches Schlussfolgern zu bewerten, sondern signalisiert auch, dass die Open-Source-Community und führende inländische Forschungslabore auf ihrem Weg zu Schlussfolgerungsmodellen von Weltklasse allmählich einen eigenständigen technologischen Weg einschlagen.
Verwandter Artikel
Ctrip Business Travel stellt ein KI-Ökosystem mit 7 Branchenagenten und 17 Kernfunktionen vor
Ctrip Business Travel hat offiziell das „Ctrip Business Travel AI Ecosystem“ vorgestellt, das mithilfe großer Sprachmodelle das Reisemanagement von Unternehmen grundlegend neu gestaltet. Dieses umfass
Stripe übernimmt OpenRouter – Routing auf Basis von KI-Modellen gewinnt an Dynamik
Stripe hat die Übernahme von OpenRouter vereinbart, einer Plattform für das Routing von KI-Modellen, die Entwicklern über eine einzige Schnittstelle Zugriff auf Hunderte von Modellen bietet. Durch die
Der ehemalige OpenAI-Forscher Barrett Zoph kehrt zu Google zurück, um die Entwicklung von Gemini voranzutreiben
Barret Zoph, der zuvor aufgrund von Meinungsverschiedenheiten mit Miriam Mularati, der Geschäftsführerin von Thinking Machines Lab, überraschend das Unternehmen verlassen und zu OpenAI gewechselt war,
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Das Intelligent Computing-Team von Tongyi Lab hat heute einen neuen Algorithmus für die Nachtrainierung großer Sprachmodelle vorgestellt – FIPO (Future-KL Influenced Policy Optimization). Dieser Algorithmus führt einen neuartigen „Future-KL“-Mechanismus ein, der die häufige technische Herausforderung der „Stagnation der Inferenzlänge“ beim Training mit reinem verstärkendem Lernen (Pure RL) effektiv löst.
Beim Training für das Schlussfolgern aus langen Texten und die komplexe logische Ausrichtung gelingt es dem traditionellen verstärkenden Lernen oft nicht, wichtige Entscheidungspunkte in langen Sequenzen präzise zu identifizieren. Der vom Tongyi-Team entwickelte FIPO-Algorithmus wendet eine differenzierte Belohnungsverteilung auf Schlüssel-Token an und regt das Modell so dazu an, bei der Generierung von Gedankengängen (Chain-of-Thought, CoT) einen stärker vorausschauenden Ansatz zu verfolgen.
Experimentelle Ergebnisse zeigen, dass in einer reinen Reinforcement-Learning-Konfiguration mit einem Modell im 32B-Maßstab das Modell mit dem FIPO-Algorithmus bereits Modelle ähnlicher Größe wie DeepSeek-Zero-MATH und OpenAI’s o1-mini übertroffen hat, was einen bedeutenden Fortschritt bei den Fähigkeiten zur logischen Schlussfolgerung und mathematischen Berechnung einheimischer Großmodelle darstellt.
Derzeit verlagert sich der Wettbewerb unter den großen Modellen vom Umfang des Vortrainings hin zur tiefgreifenden Angleichung zum Zeitpunkt der Inferenz. Die Veröffentlichung von FIPO bietet nicht nur eine neue Möglichkeit, die Qualität von „Denkprozessen“ in Modellen für logisches Schlussfolgern zu bewerten, sondern signalisiert auch, dass die Open-Source-Community und führende inländische Forschungslabore auf ihrem Weg zu Schlussfolgerungsmodellen von Weltklasse allmählich einen eigenständigen technologischen Weg einschlagen.
Ctrip Business Travel stellt ein KI-Ökosystem mit 7 Branchenagenten und 17 Kernfunktionen vor
Ctrip Business Travel hat offiziell das „Ctrip Business Travel AI Ecosystem“ vorgestellt, das mithilfe großer Sprachmodelle das Reisemanagement von Unternehmen grundlegend neu gestaltet. Dieses umfass
Stripe übernimmt OpenRouter – Routing auf Basis von KI-Modellen gewinnt an Dynamik
Stripe hat die Übernahme von OpenRouter vereinbart, einer Plattform für das Routing von KI-Modellen, die Entwicklern über eine einzige Schnittstelle Zugriff auf Hunderte von Modellen bietet. Durch die
Der ehemalige OpenAI-Forscher Barrett Zoph kehrt zu Google zurück, um die Entwicklung von Gemini voranzutreiben
Barret Zoph, der zuvor aufgrund von Meinungsverschiedenheiten mit Miriam Mularati, der Geschäftsführerin von Thinking Machines Lab, überraschend das Unternehmen verlassen und zu OpenAI gewechselt war,











