opção
SamuelClark
SamuelClark
23 de Julho de 2026

A equipe Dots Infra do Xiaohongshu tornou o BigMac um projeto de código aberto, um paradigma de treinamento paralelo em pipeline para LLMs multimodais. Ele integra os cálculos do codificador/gerador a um cronograma otimizado do LLM, superando o conflito entre velocidade de computação e uso de memória. Em tarefas de compreensão, o BigMac alcança um aumento de velocidade de 1,08 a 1,9 vezes em relação às linhas de base, com memória estável; em tarefas de geração, ele evita a falta de memória (OOM) ao mesmo tempo em que proporciona um aumento de velocidade de 1,5 a 1,9 vezes.

A equipe Dots Infra do Xiaohongshu tornou o BigMac um projeto de código aberto, um paradigma de treinamento paralelo em pipeline para LLMs multimodais. Ele integra os cálculos do codificador/gerador a um cronograma otimizado do LLM, superando o conflito entre velocidade de computação e uso de memória. Em tarefas de compreensão, o BigMac alcança um aumento de velocidade de 1,08 a 1,9 vezes em relação às linhas de base, com memória estável; em tarefas de geração, ele evita a falta de memória (OOM) ao mesmo tempo em que proporciona um aumento de velocidade de 1,5 a 1,9 vezes. A equipe Dots Infra do Xiaohongshu tornou o BigMac um projeto de código aberto, um paradigma de treinamento paralelo em pipeline para LLMs multimodais. Ele integra os cálculos do codificador/gerador a um cronograma otimizado do LLM, superando o conflito entre velocidade de computação e uso de memória. Em tarefas de compreensão, o BigMac alcança um aumento de velocidade de 1,08 a 1,9 vezes em relação às linhas de base, com memória estável; em tarefas de geração, ele evita a falta de memória (OOM) ao mesmo tempo em que proporciona um aumento de velocidade de 1,5 a 1,9 vezes.
Comentários (0)
0/300
OR