Lar
O Tongyi Lab lança o algoritmo FIPO; a inferência do modelo de 32 bilhões supera o o1-mini

A equipe de Computação Inteligente do Tongyi Lab divulgou hoje um novo algoritmo pós-treinamento para grandes modelos de linguagem — o FIPO (Future-KL Influenced Policy Optimization). Esse algoritmo introduz um novo mecanismo “Future-KL” que resolve de forma eficaz o desafio técnico comum da “estagnação do comprimento da inferência” no treinamento por aprendizado por reforço puro (Pure RL).
Durante o treinamento para raciocínio com textos longos e alinhamento lógico complexo, a aprendizagem por reforço tradicional frequentemente não consegue identificar com precisão os pontos-chave de decisão em sequências extensas. O algoritmo FIPO, desenvolvido pela equipe da Tongyi, aplica uma alocação diferenciada de recompensas a tokens-chave, incentivando o modelo a adotar uma abordagem mais voltada para o futuro durante a geração da cadeia de pensamento (CoT).
Resultados experimentais indicam que, em uma configuração de aprendizado por reforço puro com um modelo na escala de 32B, o modelo que utiliza o algoritmo FIPO já superou modelos de tamanho semelhante, como o DeepSeek-Zero-MATH e o o1-mini da OpenAI, representando um avanço significativo nas habilidades de raciocínio lógico e computação matemática dos grandes modelos nacionais.
Atualmente, a competição entre grandes modelos está mudando da escala de pré-treinamento para o alinhamento profundo no momento da inferência. O lançamento do FIPO não apenas oferece uma nova maneira de avaliar a qualidade dos “processos de pensamento” em modelos de raciocínio lógico, mas também sinaliza que a comunidade de código aberto e os principais laboratórios nacionais estão gradualmente traçando um caminho tecnológico independente em sua busca por modelos de raciocínio de nível mundial.
Artigo relacionado
A Ctrip Business Travel apresenta um ecossistema de IA com 7 agentes do setor e 17 recursos principais
A Ctrip Business Travel lançou oficialmente o “Ecossistema de IA da Ctrip Business Travel”, utilizando modelos de linguagem de grande escala para reestruturar de forma radical a gestão de viagens corp
Stripe vai adquirir a OpenRouter à medida que o roteamento baseado em modelos de IA ganha força
A Stripe concordou em adquirir a OpenRouter, uma plataforma de roteamento de modelos de IA que oferece aos desenvolvedores acesso a centenas de modelos por meio de uma única interface. O acordo amplia
O ex-pesquisador da OpenAI, Barrett Zoph, retorna ao Google para apoiar o desenvolvimento do Gemini
Barret Zoph, que anteriormente havia deixado a empresa de forma repentina e se juntado à OpenAI devido a um desentendimento com a CEO da Thinking Machines Lab, Miriam Mularati, mudou de emprego mais u
Recomendações de tópicos especiais relacionados
Comentários (0)

A equipe de Computação Inteligente do Tongyi Lab divulgou hoje um novo algoritmo pós-treinamento para grandes modelos de linguagem — o FIPO (Future-KL Influenced Policy Optimization). Esse algoritmo introduz um novo mecanismo “Future-KL” que resolve de forma eficaz o desafio técnico comum da “estagnação do comprimento da inferência” no treinamento por aprendizado por reforço puro (Pure RL).
Durante o treinamento para raciocínio com textos longos e alinhamento lógico complexo, a aprendizagem por reforço tradicional frequentemente não consegue identificar com precisão os pontos-chave de decisão em sequências extensas. O algoritmo FIPO, desenvolvido pela equipe da Tongyi, aplica uma alocação diferenciada de recompensas a tokens-chave, incentivando o modelo a adotar uma abordagem mais voltada para o futuro durante a geração da cadeia de pensamento (CoT).
Resultados experimentais indicam que, em uma configuração de aprendizado por reforço puro com um modelo na escala de 32B, o modelo que utiliza o algoritmo FIPO já superou modelos de tamanho semelhante, como o DeepSeek-Zero-MATH e o o1-mini da OpenAI, representando um avanço significativo nas habilidades de raciocínio lógico e computação matemática dos grandes modelos nacionais.
Atualmente, a competição entre grandes modelos está mudando da escala de pré-treinamento para o alinhamento profundo no momento da inferência. O lançamento do FIPO não apenas oferece uma nova maneira de avaliar a qualidade dos “processos de pensamento” em modelos de raciocínio lógico, mas também sinaliza que a comunidade de código aberto e os principais laboratórios nacionais estão gradualmente traçando um caminho tecnológico independente em sua busca por modelos de raciocínio de nível mundial.
A Ctrip Business Travel apresenta um ecossistema de IA com 7 agentes do setor e 17 recursos principais
A Ctrip Business Travel lançou oficialmente o “Ecossistema de IA da Ctrip Business Travel”, utilizando modelos de linguagem de grande escala para reestruturar de forma radical a gestão de viagens corp
Stripe vai adquirir a OpenRouter à medida que o roteamento baseado em modelos de IA ganha força
A Stripe concordou em adquirir a OpenRouter, uma plataforma de roteamento de modelos de IA que oferece aos desenvolvedores acesso a centenas de modelos por meio de uma única interface. O acordo amplia
O ex-pesquisador da OpenAI, Barrett Zoph, retorna ao Google para apoiar o desenvolvimento do Gemini
Barret Zoph, que anteriormente havia deixado a empresa de forma repentina e se juntado à OpenAI devido a um desentendimento com a CEO da Thinking Machines Lab, Miriam Mularati, mudou de emprego mais u











