Lar
A Mianbi Intelligence e a Universidade de Tsinghua apresentam o BitCPM-CANN, o primeiro modelo de grande porte de 1,58 bits da China
A Mingshi Intelligence, em parceria com a Universidade de Tsinghua e a comunidade OpenBMB, tornou oficialmente o BitCPM-CANN um projeto de código aberto — o primeiro modelo de linguagem de grande porte da China treinado na plataforma Ascend da Huawei. Utilizando quantização ternária (1,58 bit), essa inovação promove o avanço da tecnologia de treinamento de baixo número de bits e marca um marco significativo para o ecossistema de IA da China.
O BitCPM-CANN demonstra as capacidades robustas da infraestrutura de computação nacional, estabelecendo um fluxo de desenvolvimento totalmente nativo, desde operadores de quantização até algoritmos de treinamento. Disponível nas variantes de 0,5B, 1B, 3B e 8B, ele supera os modelos MiniCPM4 de precisão total de tamanho equivalente. Notavelmente, ele reduz o uso de memória na inferência em aproximadamente seis vezes, permitindo a operação fluida de modelos com 8B de parâmetros em smartphones emblemáticos convencionais e oferecendo benefícios substanciais para o setor de dispositivos móveis.

Com tecnologia da MindSpeed e do Megatron-LM, a Mingshi Intelligence construiu uma estrutura abrangente de treinamento de baixo número de bits. Essa infraestrutura oferece suporte à adaptação ao ambiente, ao processamento de sequências longas de 32 mil, a estratégias paralelas e a operadores integrados. Ao fornecer essa base pública para todo o treinamento de baixo número de bits baseado em Ascend, a empresa reduz as barreiras ao desenvolvimento e acelera a iteração tecnológica.

Para promover uma adoção mais ampla, todos os pesos do modelo BitCPM-CANN são de código aberto e acessíveis por meio do HuggingFace e do ModelScope. Essa iniciativa dota os desenvolvedores de ferramentas poderosas, incentivando aplicações inovadoras em todo o cenário da IA.
Em conclusão, o BitCPM-CANN representa um avanço crucial nas capacidades de treinamento de grandes modelos de IA da China, estabelecendo uma base sólida para futuras aplicações inteligentes.
Artigo relacionado
A Meta quer que seu próximo gadget seja alimentado por Muse
O Muse da Meta, um assistente de inteligência artificial que gerencia reservas de viagem, envio de formulários e compras, tem sido amplamente adotado, mas uma nova iniciativa pode atrair especialmente desenvolvedores e entusiastas de hardware.Na sex
Wan-Streamer v0.2 oferece chat de IA com latência ultrabaixa
À medida que a tecnologia moderna avança rapidamente, a interação entre humanos e inteligência artificial está se tornando mais comum. As chamadas de vídeo tradicionais frequentemente enfrentam problemas de atraso, latência e dessincronização áudio-v
A Meta se une à TSMC e Micron para equipar novos servidores com memória antiga
À medida que a adoção da inteligência artificial se acelera em todo o mundo, a memória DDR5 de próxima geração está enfrentando uma escassez crítica de suprimentos. Para evitar atrasos nos despliegues de data centers de IA, a Meta estabeleceu uma par
Recomendações de tópicos especiais relacionados
Comentários (0)
A Mingshi Intelligence, em parceria com a Universidade de Tsinghua e a comunidade OpenBMB, tornou oficialmente o BitCPM-CANN um projeto de código aberto — o primeiro modelo de linguagem de grande porte da China treinado na plataforma Ascend da Huawei. Utilizando quantização ternária (1,58 bit), essa inovação promove o avanço da tecnologia de treinamento de baixo número de bits e marca um marco significativo para o ecossistema de IA da China.
O BitCPM-CANN demonstra as capacidades robustas da infraestrutura de computação nacional, estabelecendo um fluxo de desenvolvimento totalmente nativo, desde operadores de quantização até algoritmos de treinamento. Disponível nas variantes de 0,5B, 1B, 3B e 8B, ele supera os modelos MiniCPM4 de precisão total de tamanho equivalente. Notavelmente, ele reduz o uso de memória na inferência em aproximadamente seis vezes, permitindo a operação fluida de modelos com 8B de parâmetros em smartphones emblemáticos convencionais e oferecendo benefícios substanciais para o setor de dispositivos móveis.

Com tecnologia da MindSpeed e do Megatron-LM, a Mingshi Intelligence construiu uma estrutura abrangente de treinamento de baixo número de bits. Essa infraestrutura oferece suporte à adaptação ao ambiente, ao processamento de sequências longas de 32 mil, a estratégias paralelas e a operadores integrados. Ao fornecer essa base pública para todo o treinamento de baixo número de bits baseado em Ascend, a empresa reduz as barreiras ao desenvolvimento e acelera a iteração tecnológica.

Para promover uma adoção mais ampla, todos os pesos do modelo BitCPM-CANN são de código aberto e acessíveis por meio do HuggingFace e do ModelScope. Essa iniciativa dota os desenvolvedores de ferramentas poderosas, incentivando aplicações inovadoras em todo o cenário da IA.
Em conclusão, o BitCPM-CANN representa um avanço crucial nas capacidades de treinamento de grandes modelos de IA da China, estabelecendo uma base sólida para futuras aplicações inteligentes.
A Meta quer que seu próximo gadget seja alimentado por Muse
O Muse da Meta, um assistente de inteligência artificial que gerencia reservas de viagem, envio de formulários e compras, tem sido amplamente adotado, mas uma nova iniciativa pode atrair especialmente desenvolvedores e entusiastas de hardware.Na sex
Wan-Streamer v0.2 oferece chat de IA com latência ultrabaixa
À medida que a tecnologia moderna avança rapidamente, a interação entre humanos e inteligência artificial está se tornando mais comum. As chamadas de vídeo tradicionais frequentemente enfrentam problemas de atraso, latência e dessincronização áudio-v
A Meta se une à TSMC e Micron para equipar novos servidores com memória antiga
À medida que a adoção da inteligência artificial se acelera em todo o mundo, a memória DDR5 de próxima geração está enfrentando uma escassez crítica de suprimentos. Para evitar atrasos nos despliegues de data centers de IA, a Meta estabeleceu uma par











