Hogar
Tongyi Lab presenta el algoritmo FIPO: la inferencia del modelo de 32 mil millones supera a o1-mini

El equipo de Computación Inteligente de Tongyi Lab ha presentado hoy un nuevo algoritmo de posentrenamiento para modelos de lenguaje a gran escala: FIPO (Future-KL Influenced Policy Optimization). Este algoritmo introduce un novedoso mecanismo denominado «Future-KL» que resuelve de forma eficaz el reto técnico habitual del «estancamiento de la longitud de inferencia» en el entrenamiento mediante aprendizaje por refuerzo puro (Pure RL).
Durante el entrenamiento para el razonamiento con textos largos y la alineación lógica compleja, el aprendizaje por refuerzo tradicional a menudo no logra identificar con precisión los puntos clave de decisión en secuencias extensas. El algoritmo FIPO, desarrollado por el equipo de Tongyi, aplica una asignación diferenciada de recompensas a los tokens clave, lo que anima al modelo a adoptar un enfoque más prospectivo durante la generación de la cadena de pensamiento (CoT).
Los resultados experimentales indican que, en un entorno de aprendizaje por refuerzo puro con un modelo a escala de 32B, el modelo que utiliza el algoritmo FIPO ya ha superado a modelos de tamaño similar, como DeepSeek-Zero-MATH y el o1-mini de OpenAI, lo que supone un avance significativo en las capacidades de razonamiento lógico y cálculo matemático de los grandes modelos nacionales.
En la actualidad, la competencia entre los modelos a gran escala está pasando de la escala de preentrenamiento a la alineación profunda en el momento de la inferencia. El lanzamiento de FIPO no solo ofrece una nueva forma de evaluar la calidad de los «procesos de pensamiento» en los modelos de razonamiento lógico, sino que también indica que la comunidad de código abierto y los principales laboratorios nacionales están forjando gradualmente una trayectoria tecnológica independiente en su búsqueda de modelos de razonamiento de primer orden.
Artículo relacionado
Ctrip Business Travel presenta un ecosistema de inteligencia artificial con 7 agentes del sector y 17 capacidades principales
Ctrip Business Travel ha presentado oficialmente el «Ecosistema de IA de Ctrip Business Travel», que aprovecha los modelos de lenguaje a gran escala para reestructurar de forma radical la gestión de l
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

El equipo de Computación Inteligente de Tongyi Lab ha presentado hoy un nuevo algoritmo de posentrenamiento para modelos de lenguaje a gran escala: FIPO (Future-KL Influenced Policy Optimization). Este algoritmo introduce un novedoso mecanismo denominado «Future-KL» que resuelve de forma eficaz el reto técnico habitual del «estancamiento de la longitud de inferencia» en el entrenamiento mediante aprendizaje por refuerzo puro (Pure RL).
Durante el entrenamiento para el razonamiento con textos largos y la alineación lógica compleja, el aprendizaje por refuerzo tradicional a menudo no logra identificar con precisión los puntos clave de decisión en secuencias extensas. El algoritmo FIPO, desarrollado por el equipo de Tongyi, aplica una asignación diferenciada de recompensas a los tokens clave, lo que anima al modelo a adoptar un enfoque más prospectivo durante la generación de la cadena de pensamiento (CoT).
Los resultados experimentales indican que, en un entorno de aprendizaje por refuerzo puro con un modelo a escala de 32B, el modelo que utiliza el algoritmo FIPO ya ha superado a modelos de tamaño similar, como DeepSeek-Zero-MATH y el o1-mini de OpenAI, lo que supone un avance significativo en las capacidades de razonamiento lógico y cálculo matemático de los grandes modelos nacionales.
En la actualidad, la competencia entre los modelos a gran escala está pasando de la escala de preentrenamiento a la alineación profunda en el momento de la inferencia. El lanzamiento de FIPO no solo ofrece una nueva forma de evaluar la calidad de los «procesos de pensamiento» en los modelos de razonamiento lógico, sino que también indica que la comunidad de código abierto y los principales laboratorios nacionales están forjando gradualmente una trayectoria tecnológica independiente en su búsqueda de modelos de razonamiento de primer orden.
Ctrip Business Travel presenta un ecosistema de inteligencia artificial con 7 agentes del sector y 17 capacidades principales
Ctrip Business Travel ha presentado oficialmente el «Ecosistema de IA de Ctrip Business Travel», que aprovecha los modelos de lenguaje a gran escala para reestructurar de forma radical la gestión de l
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a











