Hogar
Mianbi Intelligence y la Universidad de Tsinghua presentan BitCPM-CANN, el primer modelo grande de 1,58 bits de China
Mingshi Intelligence, en colaboración con la Universidad de Tsinghua y la comunidad OpenBMB, ha publicado oficialmente como código abierto BitCPM-CANN, el primer modelo de lenguaje a gran escala de China entrenado en la plataforma Ascend de Huawei. Mediante el uso de la cuantificación ternaria (1,58 bits), este avance revoluciona la tecnología de entrenamiento con pocos bits y supone un hito significativo para el ecosistema de IA de China.
BitCPM-CANN pone de manifiesto las sólidas capacidades de la infraestructura informática nacional, estableciendo un proceso de desarrollo totalmente nativo que abarca desde los operadores de cuantificación hasta los algoritmos de entrenamiento. Disponible en variantes de 0,5 mil millones, 1 mil millones, 3 mil millones y 8 mil millones, supera en rendimiento a los modelos MiniCPM4 de precisión completa de tamaño equivalente. Cabe destacar que reduce el uso de memoria en la inferencia aproximadamente seis veces, lo que permite un funcionamiento fluido de modelos con 8 mil millones de parámetros en los principales smartphones de gama alta y ofrece importantes ventajas al sector de la telefonía móvil.

Gracias a MindSpeed y Megatron-LM, Mingshi Intelligence ha creado un marco integral de entrenamiento de bajo número de bits. Esta infraestructura admite la adaptación al entorno, el manejo de secuencias largas de 32 000, estrategias paralelas y operadores integrados. Al proporcionar esta base pública para todo el entrenamiento de bajo número de bits basado en Ascend, la empresa reduce las barreras de desarrollo y acelera la iteración tecnológica.

Para fomentar una adopción más amplia, todos los pesos del modelo BitCPM-CANN son de código abierto y se puede acceder a ellos a través de HuggingFace y ModelScope. Esta iniciativa dota a los desarrolladores de potentes herramientas, lo que fomenta aplicaciones innovadoras en todo el panorama de la IA.
En conclusión, BitCPM-CANN representa un avance crucial en las capacidades de entrenamiento de grandes modelos de IA en China, sentando una base sólida para futuras aplicaciones inteligentes.
Artículo relacionado
Wan-Streamer v0.2 ofrece un chat de IA con latencia ultrabaja
A medida que la tecnología moderna avanza rápidamente, la interacción entre humanos e inteligencia artificial se vuelve más común. Las videollamadas tradicionales a menudo luchan con retrasos, demoras y desincronización audiovisual. Wan-Streamer v0.2
Meta se une a TSMC y Micron para equipar nuevos servidores con memoria antigua
A medida que la adopción de la inteligencia artificial se acelera en todo el mundo, la memoria DDR5 de próxima generación está experimentando una grave escasez de suministro. Para evitar retrasos en los despliegues de centros de datos de IA, Meta ha
Cómo las bases de datos de series temporales impulsan los datos de robótica en tiempo real
Doug Pagnutti de Tiger Data.Pagnutti actúa como defensor del desarrollo industrial en Tiger Data, apoyando a equipos en la construcción de sistemas industriales del mundo real.Con más de 12 años de experiencia en petróleo y gas y automatización de fa
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Mingshi Intelligence, en colaboración con la Universidad de Tsinghua y la comunidad OpenBMB, ha publicado oficialmente como código abierto BitCPM-CANN, el primer modelo de lenguaje a gran escala de China entrenado en la plataforma Ascend de Huawei. Mediante el uso de la cuantificación ternaria (1,58 bits), este avance revoluciona la tecnología de entrenamiento con pocos bits y supone un hito significativo para el ecosistema de IA de China.
BitCPM-CANN pone de manifiesto las sólidas capacidades de la infraestructura informática nacional, estableciendo un proceso de desarrollo totalmente nativo que abarca desde los operadores de cuantificación hasta los algoritmos de entrenamiento. Disponible en variantes de 0,5 mil millones, 1 mil millones, 3 mil millones y 8 mil millones, supera en rendimiento a los modelos MiniCPM4 de precisión completa de tamaño equivalente. Cabe destacar que reduce el uso de memoria en la inferencia aproximadamente seis veces, lo que permite un funcionamiento fluido de modelos con 8 mil millones de parámetros en los principales smartphones de gama alta y ofrece importantes ventajas al sector de la telefonía móvil.

Gracias a MindSpeed y Megatron-LM, Mingshi Intelligence ha creado un marco integral de entrenamiento de bajo número de bits. Esta infraestructura admite la adaptación al entorno, el manejo de secuencias largas de 32 000, estrategias paralelas y operadores integrados. Al proporcionar esta base pública para todo el entrenamiento de bajo número de bits basado en Ascend, la empresa reduce las barreras de desarrollo y acelera la iteración tecnológica.

Para fomentar una adopción más amplia, todos los pesos del modelo BitCPM-CANN son de código abierto y se puede acceder a ellos a través de HuggingFace y ModelScope. Esta iniciativa dota a los desarrolladores de potentes herramientas, lo que fomenta aplicaciones innovadoras en todo el panorama de la IA.
En conclusión, BitCPM-CANN representa un avance crucial en las capacidades de entrenamiento de grandes modelos de IA en China, sentando una base sólida para futuras aplicaciones inteligentes.
Wan-Streamer v0.2 ofrece un chat de IA con latencia ultrabaja
A medida que la tecnología moderna avanza rápidamente, la interacción entre humanos e inteligencia artificial se vuelve más común. Las videollamadas tradicionales a menudo luchan con retrasos, demoras y desincronización audiovisual. Wan-Streamer v0.2
Meta se une a TSMC y Micron para equipar nuevos servidores con memoria antigua
A medida que la adopción de la inteligencia artificial se acelera en todo el mundo, la memoria DDR5 de próxima generación está experimentando una grave escasez de suministro. Para evitar retrasos en los despliegues de centros de datos de IA, Meta ha
Cómo las bases de datos de series temporales impulsan los datos de robótica en tiempo real
Doug Pagnutti de Tiger Data.Pagnutti actúa como defensor del desarrollo industrial en Tiger Data, apoyando a equipos en la construcción de sistemas industriales del mundo real.Con más de 12 años de experiencia en petróleo y gas y automatización de fa











