Maison
Mianbi Intelligence et l’université de Tsinghua dévoilent le premier grand modèle chinois de 1,58 bit, le BitCPM-CANN
Mingshi Intelligence, en partenariat avec l’université de Tsinghua et la communauté OpenBMB, a officiellement mis en open source BitCPM-CANN, le premier grand modèle linguistique chinois entraîné sur la plateforme Ascend de Huawei. Grâce à la quantification ternaire (1,58 bit), cette avancée révolutionnaire fait progresser la technologie d'entraînement à faible nombre de bits et marque une étape importante pour l'écosystème chinois de l'IA.
BitCPM-CANN démontre les capacités robustes de l’infrastructure informatique nationale, en mettant en place un pipeline de développement entièrement natif, allant des opérateurs de quantification aux algorithmes d’entraînement. Disponible en variantes de 0,5 milliard, 1 milliard, 3 milliards et 8 milliards de paramètres, il surpasse les modèles MiniCPM4 en pleine précision de taille équivalente. Il réduit notamment d’environ six fois l’utilisation de mémoire en inférence, ce qui permet un fonctionnement fluide des modèles à 8 bits de paramètres sur les smartphones phares grand public et offre des avantages considérables à l’industrie mobile.

Grâce à MindSpeed et Megatron-LM, Mingshi Intelligence a mis au point un cadre complet d’entraînement en faible nombre de bits. Cette infrastructure prend en charge l’adaptation à l’environnement, le traitement de longues séquences de 32K, les stratégies parallèles et les opérateurs intégrés. En mettant à disposition cette base ouverte pour tous les entraînements en faible nombre de bits basés sur Ascend, l’entreprise réduit les obstacles au développement et accélère l’itération technologique.

Afin de favoriser une adoption plus large, tous les poids du modèle BitCPM-CANN sont open source et accessibles via HuggingFace et ModelScope. Cette initiative dote les développeurs d’outils puissants, encourageant ainsi la création d’applications innovantes dans l’ensemble du paysage de l’IA.
En conclusion, BitCPM-CANN représente une avancée cruciale dans les capacités de formation des grands modèles d’IA en Chine, jetant des bases solides pour les futures applications intelligentes.
Article connexe
Comment les bases de données de séries temporelles alimentent les données robotiques en temps réel
Doug Pagnutti de Tiger Data.Pagnutti occupe le poste de défenseur du développement industriel chez Tiger Data, où il soutient les équipes dans la création de systèmes industriels concrets.Fort de plus de 12 ans d’expérience dans les secteurs du pétro
Comment optimiser le référencement naturel (SEO) pour Google Japon et Yahoo Japon ?
Maître Loom : Créez et partagez des vidéos professionnelles avec l'IATable des matièresIntroduction à LoomAccès à LoomOptions d'enregistrementPlein écranFenêtreCaméraQualité audio et sonoreÉdition et personnalisationOptions d'arrière-planÉd
Comment fonctionne l'algorithme de Google Japan pour le SEO ?
Miniatures générées par IA pour MrBeastTable des matièresIntroductionLe défi de transformation corporelle de MrBeastExploration des concepts de miniature pour le défiAmélioration de la silhouette de MrBeast sur les photosApplication des techniq
Recommandations de sujets spéciaux liés
commentaires (0)
Mingshi Intelligence, en partenariat avec l’université de Tsinghua et la communauté OpenBMB, a officiellement mis en open source BitCPM-CANN, le premier grand modèle linguistique chinois entraîné sur la plateforme Ascend de Huawei. Grâce à la quantification ternaire (1,58 bit), cette avancée révolutionnaire fait progresser la technologie d'entraînement à faible nombre de bits et marque une étape importante pour l'écosystème chinois de l'IA.
BitCPM-CANN démontre les capacités robustes de l’infrastructure informatique nationale, en mettant en place un pipeline de développement entièrement natif, allant des opérateurs de quantification aux algorithmes d’entraînement. Disponible en variantes de 0,5 milliard, 1 milliard, 3 milliards et 8 milliards de paramètres, il surpasse les modèles MiniCPM4 en pleine précision de taille équivalente. Il réduit notamment d’environ six fois l’utilisation de mémoire en inférence, ce qui permet un fonctionnement fluide des modèles à 8 bits de paramètres sur les smartphones phares grand public et offre des avantages considérables à l’industrie mobile.

Grâce à MindSpeed et Megatron-LM, Mingshi Intelligence a mis au point un cadre complet d’entraînement en faible nombre de bits. Cette infrastructure prend en charge l’adaptation à l’environnement, le traitement de longues séquences de 32K, les stratégies parallèles et les opérateurs intégrés. En mettant à disposition cette base ouverte pour tous les entraînements en faible nombre de bits basés sur Ascend, l’entreprise réduit les obstacles au développement et accélère l’itération technologique.

Afin de favoriser une adoption plus large, tous les poids du modèle BitCPM-CANN sont open source et accessibles via HuggingFace et ModelScope. Cette initiative dote les développeurs d’outils puissants, encourageant ainsi la création d’applications innovantes dans l’ensemble du paysage de l’IA.
En conclusion, BitCPM-CANN représente une avancée cruciale dans les capacités de formation des grands modèles d’IA en Chine, jetant des bases solides pour les futures applications intelligentes.
Comment les bases de données de séries temporelles alimentent les données robotiques en temps réel
Doug Pagnutti de Tiger Data.Pagnutti occupe le poste de défenseur du développement industriel chez Tiger Data, où il soutient les équipes dans la création de systèmes industriels concrets.Fort de plus de 12 ans d’expérience dans les secteurs du pétro
Comment optimiser le référencement naturel (SEO) pour Google Japon et Yahoo Japon ?
Maître Loom : Créez et partagez des vidéos professionnelles avec l'IATable des matièresIntroduction à LoomAccès à LoomOptions d'enregistrementPlein écranFenêtreCaméraQualité audio et sonoreÉdition et personnalisationOptions d'arrière-planÉd
Comment fonctionne l'algorithme de Google Japan pour le SEO ?
Miniatures générées par IA pour MrBeastTable des matièresIntroductionLe défi de transformation corporelle de MrBeastExploration des concepts de miniature pour le défiAmélioration de la silhouette de MrBeast sur les photosApplication des techniq











