Lar
A M6 Intelligence e a Tsinghua lançam o BitCPM-CANN de código aberto para executar modelos de grande porte em dispositivos móveis
O MBLab, em colaboração com a Universidade de Tsinghua e a comunidade de código aberto OpenBMB, lançou recentemente e disponibilizou como código aberto um grande avanço no treinamento de modelos de grande porte com baixo número de bits: o BitCPM-CANN. Desenvolvido nativamente na plataforma Ascend da Huawei, esse marco promove a redução de peso e a implantação técnica de grandes modelos de IA na borda.

Vantagem de memória seis vezes maior rompe barreiras de hardware
O BitCPM-CANN, agora de código aberto, está disponível em quatro tamanhos: 0,5B, 1B, 3B e 8B. Em comparações diretas com modelos de precisão total de tamanho equivalente, ele oferece desempenho excepcional. Em relação à precisão BF16 convencional, ele alcança uma economia de memória aproximadamente seis vezes maior durante a inferência, reduzindo drasticamente o hardware necessário para executar modelos de grande porte.
Para dispositivos móveis, essa vantagem de memória seis vezes maior significa que modelos grandes com 8B de parâmetros — que antes exigiam hardware de ponta — agora podem ser executados sem problemas em smartphones emblemáticos convencionais. Essa notável margem de memória acelera diretamente a adoção e a implantação comercial da tecnologia de IA na borda em plataformas móveis.
Alta taxa de retenção valida a reprodutibilidade da engenharia
Apesar da redução no tamanho do modelo, o BitCPM-CANN mantém um desempenho excepcionalmente alto, com taxas de retenção de capacidade que variam de 90% a 97,2%. Para os três tamanhos de modelo maiores, as taxas de retenção ficam entre 95,7% e 97,2%, enquanto mesmo a menor variante, de 0,5B, ultrapassa 90%.
Esses resultados impressionantes demonstram sistematicamente que a abordagem de treinamento de baixo número de bits oferece forte escalabilidade e reprodutibilidade de engenharia. O MBLab estabeleceu uma base abrangente para o treinamento de baixo número de bits utilizando essas tecnologias centrais, abrangendo toda a pilha de engenharia — incluindo adaptação ao ambiente, suporte a sequências longas de 32K e operadores fundidos —, proporcionando assim uma infraestrutura pública robusta para futuros trabalhos de treinamento de baixo número de bits na plataforma Ascend.
Artigo relacionado
A Apple concorda com um acordo de US$ 250 milhões devido ao atraso no lançamento da IA do Siri
A Apple concordou em pagar 250 milhões de dólares para resolver uma ação coletiva sobre sua comercialização de recursos de IA antes do lançamento do iPhone 16, conforme notificado pela primeira vez pelo Financial Times.A ação alegou que a Apple exag
A Ando lança aplicativo de mensagens em equipe que conecta a colaboração entre humanos e IA
Em 2025, enquanto Sara Du auxiliava empresas no desenvolvimento de servidores MCP, surgiu uma pergunta recorrente: como as equipes poderiam aproveitar os agentes de IA diretamente no Slack? O caminho estava obstruído por barreiras técnicas significat
Empirik, apoiada pela Sequoia, arrecada US$ 21 milhões para prever interrupções antes que ocorram
Antes de ingressar na Sequoia Capital em 2020 como diretora de tecnologia digital e informação, Avon Puri passou mais de uma década liderando a infraestrutura na Rubrik e na VMware. Há três anos, quando os grandes modelos de linguagem começaram a mos
Recomendações de tópicos especiais relacionados
Comentários (0)
O MBLab, em colaboração com a Universidade de Tsinghua e a comunidade de código aberto OpenBMB, lançou recentemente e disponibilizou como código aberto um grande avanço no treinamento de modelos de grande porte com baixo número de bits: o BitCPM-CANN. Desenvolvido nativamente na plataforma Ascend da Huawei, esse marco promove a redução de peso e a implantação técnica de grandes modelos de IA na borda.

Vantagem de memória seis vezes maior rompe barreiras de hardware
O BitCPM-CANN, agora de código aberto, está disponível em quatro tamanhos: 0,5B, 1B, 3B e 8B. Em comparações diretas com modelos de precisão total de tamanho equivalente, ele oferece desempenho excepcional. Em relação à precisão BF16 convencional, ele alcança uma economia de memória aproximadamente seis vezes maior durante a inferência, reduzindo drasticamente o hardware necessário para executar modelos de grande porte.
Para dispositivos móveis, essa vantagem de memória seis vezes maior significa que modelos grandes com 8B de parâmetros — que antes exigiam hardware de ponta — agora podem ser executados sem problemas em smartphones emblemáticos convencionais. Essa notável margem de memória acelera diretamente a adoção e a implantação comercial da tecnologia de IA na borda em plataformas móveis.
Alta taxa de retenção valida a reprodutibilidade da engenharia
Apesar da redução no tamanho do modelo, o BitCPM-CANN mantém um desempenho excepcionalmente alto, com taxas de retenção de capacidade que variam de 90% a 97,2%. Para os três tamanhos de modelo maiores, as taxas de retenção ficam entre 95,7% e 97,2%, enquanto mesmo a menor variante, de 0,5B, ultrapassa 90%.
Esses resultados impressionantes demonstram sistematicamente que a abordagem de treinamento de baixo número de bits oferece forte escalabilidade e reprodutibilidade de engenharia. O MBLab estabeleceu uma base abrangente para o treinamento de baixo número de bits utilizando essas tecnologias centrais, abrangendo toda a pilha de engenharia — incluindo adaptação ao ambiente, suporte a sequências longas de 32K e operadores fundidos —, proporcionando assim uma infraestrutura pública robusta para futuros trabalhos de treinamento de baixo número de bits na plataforma Ascend.
A Apple concorda com um acordo de US$ 250 milhões devido ao atraso no lançamento da IA do Siri
A Apple concordou em pagar 250 milhões de dólares para resolver uma ação coletiva sobre sua comercialização de recursos de IA antes do lançamento do iPhone 16, conforme notificado pela primeira vez pelo Financial Times.A ação alegou que a Apple exag
A Ando lança aplicativo de mensagens em equipe que conecta a colaboração entre humanos e IA
Em 2025, enquanto Sara Du auxiliava empresas no desenvolvimento de servidores MCP, surgiu uma pergunta recorrente: como as equipes poderiam aproveitar os agentes de IA diretamente no Slack? O caminho estava obstruído por barreiras técnicas significat
Empirik, apoiada pela Sequoia, arrecada US$ 21 milhões para prever interrupções antes que ocorram
Antes de ingressar na Sequoia Capital em 2020 como diretora de tecnologia digital e informação, Avon Puri passou mais de uma década liderando a infraestrutura na Rubrik e na VMware. Há três anos, quando os grandes modelos de linguagem começaram a mos











