Maison
M6 Intelligence et Tsinghua publient en open source BitCPM-CANN pour l'exécution de modèles de grande taille sur des appareils mobiles
MBLab, en collaboration avec l'université de Tsinghua et la communauté open source OpenBMB, a récemment publié et mis à disposition en open source une avancée majeure dans le domaine de l'entraînement de grands modèles à faible nombre de bits : BitCPM-CANN. Développée en natif sur la plateforme Ascend de Huawei, cette avancée majeure fait progresser l’allègement et le déploiement technique des grands modèles d’IA en périphérie.

Un gain de mémoire multiplié par six qui repousse les limites matérielles
BitCPM-CANN, désormais open source, est disponible en quatre tailles : 0,5B, 1B, 3B et 8B. En comparaison directe avec des modèles à pleine précision de taille équivalente, il offre des performances exceptionnelles. Par rapport à la précision BF16 conventionnelle, il permet de réaliser environ six fois plus d’économies de mémoire lors de l’inférence, réduisant ainsi considérablement le matériel nécessaire à l’exécution de grands modèles.
Pour les appareils mobiles, cet avantage de mémoire multiplié par six signifie que les grands modèles de 8 milliards de paramètres — qui nécessitaient auparavant du matériel haut de gamme — peuvent désormais fonctionner sans problème sur les smartphones phares grand public. Cette marge de mémoire remarquable accélère directement l’adoption et le déploiement commercial de la technologie d’IA en périphérie sur les plateformes mobiles.
Un taux de rétention élevé confirme la reproductibilité de l’ingénierie
Malgré la réduction de la taille des modèles, BitCPM-CANN conserve des performances exceptionnellement élevées, avec des taux de rétention des capacités compris entre 90 % et 97,2 %. Pour les trois modèles les plus volumineux, les taux de rétention se situent entre 95,7 % et 97,2 %, tandis que même la plus petite variante (0,5 milliard de paramètres) dépasse les 90 %.
Ces résultats impressionnants démontrent de manière systématique que l’approche d’entraînement à faible nombre de bits offre une forte évolutivité et une reproductibilité technique. MBLab a établi une base complète pour l’entraînement à faible nombre de bits à l’aide de ces technologies clés, couvrant l’ensemble de la pile d’ingénierie — y compris l’adaptation à l’environnement, la prise en charge de longues séquences de 32K et les opérateurs fusionnés —, fournissant ainsi une infrastructure publique robuste pour les futurs travaux d’entraînement à faible nombre de bits sur la plateforme Ascend.
Article connexe
Apple accepte un règlement de 250 millions de dollars concernant le report du déploiement de l’intelligence artificielle de Siri
Apple a convenu de verser 250 millions de dollars pour résoudre une action collective concernant sa commercialisation des fonctionnalités d’intelligence artificielle avant le lancement de l’iPhone 16, comme l’a rapporté en premier le Financial Times.
Ando lance une application de messagerie d’équipe qui fait le lien entre la collaboration humaine et l’intelligence artificielle
En 2025, alors que Sara Du aidait des entreprises à développer des serveurs MCP, une question récurrente émergeait : comment les équipes pourraient-elles exploiter des agents IA directement dans Slack ? Le chemin était obstrué par des barrières techn
Empirik, soutenue par Sequoia, lève 21 millions de dollars pour prévoir les pannes avant qu'elles ne se produisent
Avant de rejoindre Sequoia Capital en 2020 en tant que directeur numérique et de l'information, Avon Puri a passé plus d'une décennie à diriger les infrastructures chez Rubrik et VMware. Il y a trois
Recommandations de sujets spéciaux liés
commentaires (0)
MBLab, en collaboration avec l'université de Tsinghua et la communauté open source OpenBMB, a récemment publié et mis à disposition en open source une avancée majeure dans le domaine de l'entraînement de grands modèles à faible nombre de bits : BitCPM-CANN. Développée en natif sur la plateforme Ascend de Huawei, cette avancée majeure fait progresser l’allègement et le déploiement technique des grands modèles d’IA en périphérie.

Un gain de mémoire multiplié par six qui repousse les limites matérielles
BitCPM-CANN, désormais open source, est disponible en quatre tailles : 0,5B, 1B, 3B et 8B. En comparaison directe avec des modèles à pleine précision de taille équivalente, il offre des performances exceptionnelles. Par rapport à la précision BF16 conventionnelle, il permet de réaliser environ six fois plus d’économies de mémoire lors de l’inférence, réduisant ainsi considérablement le matériel nécessaire à l’exécution de grands modèles.
Pour les appareils mobiles, cet avantage de mémoire multiplié par six signifie que les grands modèles de 8 milliards de paramètres — qui nécessitaient auparavant du matériel haut de gamme — peuvent désormais fonctionner sans problème sur les smartphones phares grand public. Cette marge de mémoire remarquable accélère directement l’adoption et le déploiement commercial de la technologie d’IA en périphérie sur les plateformes mobiles.
Un taux de rétention élevé confirme la reproductibilité de l’ingénierie
Malgré la réduction de la taille des modèles, BitCPM-CANN conserve des performances exceptionnellement élevées, avec des taux de rétention des capacités compris entre 90 % et 97,2 %. Pour les trois modèles les plus volumineux, les taux de rétention se situent entre 95,7 % et 97,2 %, tandis que même la plus petite variante (0,5 milliard de paramètres) dépasse les 90 %.
Ces résultats impressionnants démontrent de manière systématique que l’approche d’entraînement à faible nombre de bits offre une forte évolutivité et une reproductibilité technique. MBLab a établi une base complète pour l’entraînement à faible nombre de bits à l’aide de ces technologies clés, couvrant l’ensemble de la pile d’ingénierie — y compris l’adaptation à l’environnement, la prise en charge de longues séquences de 32K et les opérateurs fusionnés —, fournissant ainsi une infrastructure publique robuste pour les futurs travaux d’entraînement à faible nombre de bits sur la plateforme Ascend.
Apple accepte un règlement de 250 millions de dollars concernant le report du déploiement de l’intelligence artificielle de Siri
Apple a convenu de verser 250 millions de dollars pour résoudre une action collective concernant sa commercialisation des fonctionnalités d’intelligence artificielle avant le lancement de l’iPhone 16, comme l’a rapporté en premier le Financial Times.
Ando lance une application de messagerie d’équipe qui fait le lien entre la collaboration humaine et l’intelligence artificielle
En 2025, alors que Sara Du aidait des entreprises à développer des serveurs MCP, une question récurrente émergeait : comment les équipes pourraient-elles exploiter des agents IA directement dans Slack ? Le chemin était obstrué par des barrières techn
Empirik, soutenue par Sequoia, lève 21 millions de dollars pour prévoir les pannes avant qu'elles ne se produisent
Avant de rejoindre Sequoia Capital en 2020 en tant que directeur numérique et de l'information, Avon Puri a passé plus d'une décennie à diriger les infrastructures chez Rubrik et VMware. Il y a trois











