O novo llama-3.1 Nemotron da NVIDIA supera o Deepseek R1 na metade do tamanho

Enquanto a meta lava com o escrutínio em torno de sua mais recente família de modelos LLAMA 4, a Nvidia lançou silenciosamente um novo modelo de linguagem de grande e totalmente aberta (LLM) com base no modelo de llama-33,1-405b-instruct de Meta. Nomeado LLAMA-3.1-NEMOTRON-ULTRA-253B-V1, este modelo possui 253 bilhões de parâmetros e é projetado para se destacar em raciocínio avançado, seguidores de instruções e fluxos de trabalho assistentes de IA. A NVIDIA primeiro sugeriu este modelo durante sua Conferência Anual de Tecnologia da GPU (GTC) em março.

O lançamento ressalta o compromisso contínuo da Nvidia de melhorar o desempenho por meio de inovação arquitetônica e processos meticulosos pós-treinamento. Anunciados em 7 de abril de 2025, o código, os pesos e os dados do pós-treinamento do modelo estão agora acessíveis para abraçar o rosto. Ele foi projetado para alternar perfeitamente entre tarefas complexas de raciocínio e saídas mais simples com base nos avisos do sistema, oferecendo aos desenvolvedores flexibilidade em seus aplicativos.

Projetado para inferência eficiente

Com base nos esforços anteriores da Nvidia na otimização de LLMs para inferência, o LLAMA-3.1-NEMOTRON-ULTRA-253B incorpora um processo de pesquisa de arquitetura neural (NAS) para refinar sua arquitetura. Isso inclui recursos inovadores, como camadas de atenção ignoradas, redes de feedforward fundidas (FFNs) e taxas variáveis ​​de compressão da FFN. Essas modificações reduzem o uso de memória e os requisitos computacionais do modelo, tornando -o implantável em um único nó GPU 8x H100 sem comprometer a qualidade da saída.

A NVIDIA afirma que esse modelo oferece desempenho robusto, sendo econômico para implantações de data center. É compatível com as microarquiteturas B100 e Hopper da NVIDIA e foi testado nos modos de precisão BF16 e FP8.

Pós-treinamento para raciocínio e alinhamento

O modelo foi submetido a um regime abrangente pós-treinamento. Isso incluiu o ajuste fino supervisionado em vários domínios, como matemática, geração de código, bate-papo e uso de ferramentas, seguido de aprendizado de reforço com o Otimização de Políticas Relativas do Grupo (GRPO) para aprimorar seus recursos de seguimento e raciocínio.

Um refinamento adicional veio através de uma fase de destilação de conhecimento em mais de 65 bilhões de tokens e pré -treinamento contínuo em 88 bilhões de tokens adicionais. As fontes de dados de treinamento incluíram FineWeb, Buzz-V1.2 e Dolma, com instruções e respostas pós-treinamento extraídas dos métodos públicos de corpora e geração sintética. Essa abordagem ajudou o modelo a diferenciar entre seus modos de raciocínio.

Desempenho aprimorado em vários domínios e benchmarks

Quando ativado para o raciocínio, o modelo mostrou melhorias significativas em vários benchmarks. Por exemplo, na referência Math500, seu desempenho aumentou de 80,40% no modo padrão para 97,00%, com o raciocínio ativado. Da mesma forma, as pontuações do AIME25 saltaram de 16,67% para 72,50%, e os resultados do LivecodeBench mais que dobraram, de 29,03% para 66,31%.

O modelo também se destacou em tarefas baseadas em ferramentas e em resposta geral à resposta de perguntas (GPQA), pontuando 76,01% no modo de raciocínio em comparação com 56,60% sem. Esses benchmarks foram realizados com um comprimento máximo de sequência de 32.000 tokens e cada teste foi repetido até 16 vezes para precisão.

Comparado ao modelo MOE de última geração, Deepseek R1, que possui 671 bilhões de parâmetros, o modelo da NVIDIA se mantém próprio apesar de ter menos parâmetros. Ele supera o DeepSeek R1 em tarefas como GPQA (76,01 vs. 71.5), seguintes instruções do IFEVAL (89,45 vs. 83.3) e tarefas de codificação de LivecodeBench (66,31 vs. 65.9). No entanto, o Deepseek R1 se apaga ligeiramente em certas avaliações matemáticas, particularmente o AIME25 (79,8 vs. 72,50) e Math500 (97,3 vs. 97,00).

Esses resultados indicam que o modelo denso da NVIDIA pode corresponder ou exceder os modelos MOE no raciocínio e no alinhamento geral das instruções, embora fique ligeiramente em categorias intensivas em matemática.

Uso e integração

O modelo se integra perfeitamente à Biblioteca de Transformers de Face Hugging (versão 4.48.3 recomendada) e suporta seqüências de até 128.000 tokens. Os desenvolvedores podem alternar o comportamento do raciocínio usando os avisos do sistema e escolher estratégias de decodificar com base nas necessidades de tarefas. Para tarefas de raciocínio, a NVIDIA sugere o uso de amostragem de temperatura (0,6) com um valor Top-P de 0,95, enquanto a decodificação gananciosa é recomendada para saídas determinísticas.

LLAMA-3.1-NEMOTRON-ULTRA-253B Apoia aplicações multilíngues, incluindo inglês, alemão, francês, italiano, português, hindi, espanhol e tailandês. É adequado para vários casos de uso de LLM, como desenvolvimento de chatbot, fluxos de trabalho do agente de IA, geração de recuperação upmentada por recuperação (RAG) e geração de código.

Licenciado para uso comercial

Lançado sob a licença do NVIDIA Open Model e governado pelo Contrato de Licença Comunitário LLAMA 3.1, o modelo está pronto para aplicações comerciais. A Nvidia enfatiza a importância do desenvolvimento responsável da IA, pedindo às equipes que avaliem o alinhamento, a segurança e o viés do modelo para seus casos de uso específicos.

Oleksii Kuchaiev, diretor de modelo de IA da NVIDIA, compartilhou a emoção sobre esse lançamento aberto em X, destacando seu denso design de 253b com recursos de raciocínio alternáveis ​​e a inclusão de pesos e dados abertos.