M6 Intelligenceと清華大学、モバイル端末で大規模モデルを実行するためのオープンソース「BitCPM-CANN」を公開
MBLabは、清華大学およびオープンソースコミュニティ「OpenBMB」と共同で、低ビット数大規模モデルの学習における画期的な成果である「BitCPM-CANN」を最近公開し、オープンソース化しました。 HuaweiのAscendプラットフォーム上でネイティブに開発されたこの画期的な技術は、エッジ側AI大規模モデルの軽量化と実運用展開を前進させます。

6倍のメモリ効率でハードウェアの壁を打ち破る
オープンソース化されたBitCPM-CANNには、0.5B、1B、3B、8Bの4つのサイズが用意されています。同サイズのフル精度モデルとの直接比較においても、卓越した性能を発揮します。 従来のBF16精度と比較して、推論時のメモリ使用量を約6分の1に削減し、大規模モデルを実行するために必要なハードウェアを大幅に削減します。
モバイルデバイスにおいて、この6倍のメモリ優位性により、かつては最上位クラスのハードウェアを必要としていた8Bパラメータの大規模モデルも、現在では主流のフラッグシップスマートフォン上でスムーズに実行できるようになりました。この驚くべきメモリの余裕は、モバイルプラットフォームにおけるエッジサイドAI技術の採用と商用展開を直接的に加速させます。
高い性能維持率により、エンジニアリングの再現性が実証される
モデルサイズの縮小にもかかわらず、BitCPM-CANNは90%から97.2%の能力保持率を維持し、極めて高い性能を保っています。 3つの大型モデルサイズでは保持率が95.7%から97.2%の範囲にあり、最小の0.5Bモデルでさえ90%を超えています。
これらの印象的な結果は、低ビット数トレーニングアプローチが強力なスケーラビリティとエンジニアリングの再現性を提供することを体系的に実証しています。 MBLabは、これらのコア技術を用いて、環境適応、32Kの長シーケンス対応、融合演算子など、エンジニアリングスタック全体を網羅する包括的な低ビット数トレーニングの基盤を確立し、Ascendプラットフォームにおける将来の低ビット数トレーニング研究のための堅牢な公開インフラストラクチャを提供しています。
関連記事
Appleは、Siri AIの展開遅れをめぐる問題で2億5000万ドルの和解に応じる
Appleは、iPhone 16発売前にAI機能のマーケティングに関する集団訴訟を解決するために2億5000万ドルを支払うことに合意した。これは『Financial Times』によって最初に報じられたものである。訴訟は、AppleがApple Intelligence、特にSiriの大幅なアップグレードを含む機能 overstated(過大評価)したと主張した。原告らは、企業が高度なAIツールが実際よりも早く利用可能であることを示唆することで消費者を誤解させたと主張した。特に、Siriの約束
安藤、人間とAIの協業を繋ぐチームメッセージングアプリをリリース
2025年、Sara DuがMCPサーバーの開発を企業に支援する中で、 recurringな疑問が浮上した。それは、チームがSlack内で直接AIエージェントを活用する方法である。この道筋は、メッセージ同期の複雑さ、コンテキスト管理、そしてトークン予算を使い果たすリスクなど、重大な技術的障壁によって妨げられていた。これらの課題を調査したDuは、現代のコミュニケーションプラットフォームの設計における根本的な欠陥を特定した。「深く掘り下げるほど、SlackやTeamsは、私たちに取って代わられつつ
セコイア・キャピタルが出資するEmpirik、障害発生を未然に予測するため2100万ドルを調達
2020年にセコイア・キャピタルに最高デジタル・情報責任者(CDIO)として入社する前、エイボン・プリは10年以上にわたり、RubrikおよびVMwareでインフラストラクチャの運営に携わっていました。 3年前、大規模言語モデルがその真の可能性を見せ始めた頃、プリはセコイアのもう一人のITリーダーであるスディール・ドゥルジャティと共に、AIがインフラエンジニアにとっての大きな課題――技術的な障害が
関連特集おすすめ
コメント (0)
0/500
MBLabは、清華大学およびオープンソースコミュニティ「OpenBMB」と共同で、低ビット数大規模モデルの学習における画期的な成果である「BitCPM-CANN」を最近公開し、オープンソース化しました。 HuaweiのAscendプラットフォーム上でネイティブに開発されたこの画期的な技術は、エッジ側AI大規模モデルの軽量化と実運用展開を前進させます。

6倍のメモリ効率でハードウェアの壁を打ち破る
オープンソース化されたBitCPM-CANNには、0.5B、1B、3B、8Bの4つのサイズが用意されています。同サイズのフル精度モデルとの直接比較においても、卓越した性能を発揮します。 従来のBF16精度と比較して、推論時のメモリ使用量を約6分の1に削減し、大規模モデルを実行するために必要なハードウェアを大幅に削減します。
モバイルデバイスにおいて、この6倍のメモリ優位性により、かつては最上位クラスのハードウェアを必要としていた8Bパラメータの大規模モデルも、現在では主流のフラッグシップスマートフォン上でスムーズに実行できるようになりました。この驚くべきメモリの余裕は、モバイルプラットフォームにおけるエッジサイドAI技術の採用と商用展開を直接的に加速させます。
高い性能維持率により、エンジニアリングの再現性が実証される
モデルサイズの縮小にもかかわらず、BitCPM-CANNは90%から97.2%の能力保持率を維持し、極めて高い性能を保っています。 3つの大型モデルサイズでは保持率が95.7%から97.2%の範囲にあり、最小の0.5Bモデルでさえ90%を超えています。
これらの印象的な結果は、低ビット数トレーニングアプローチが強力なスケーラビリティとエンジニアリングの再現性を提供することを体系的に実証しています。 MBLabは、これらのコア技術を用いて、環境適応、32Kの長シーケンス対応、融合演算子など、エンジニアリングスタック全体を網羅する包括的な低ビット数トレーニングの基盤を確立し、Ascendプラットフォームにおける将来の低ビット数トレーニング研究のための堅牢な公開インフラストラクチャを提供しています。
Appleは、Siri AIの展開遅れをめぐる問題で2億5000万ドルの和解に応じる
Appleは、iPhone 16発売前にAI機能のマーケティングに関する集団訴訟を解決するために2億5000万ドルを支払うことに合意した。これは『Financial Times』によって最初に報じられたものである。訴訟は、AppleがApple Intelligence、特にSiriの大幅なアップグレードを含む機能 overstated(過大評価)したと主張した。原告らは、企業が高度なAIツールが実際よりも早く利用可能であることを示唆することで消費者を誤解させたと主張した。特に、Siriの約束
安藤、人間とAIの協業を繋ぐチームメッセージングアプリをリリース
2025年、Sara DuがMCPサーバーの開発を企業に支援する中で、 recurringな疑問が浮上した。それは、チームがSlack内で直接AIエージェントを活用する方法である。この道筋は、メッセージ同期の複雑さ、コンテキスト管理、そしてトークン予算を使い果たすリスクなど、重大な技術的障壁によって妨げられていた。これらの課題を調査したDuは、現代のコミュニケーションプラットフォームの設計における根本的な欠陥を特定した。「深く掘り下げるほど、SlackやTeamsは、私たちに取って代わられつつ
セコイア・キャピタルが出資するEmpirik、障害発生を未然に予測するため2100万ドルを調達
2020年にセコイア・キャピタルに最高デジタル・情報責任者(CDIO)として入社する前、エイボン・プリは10年以上にわたり、RubrikおよびVMwareでインフラストラクチャの運営に携わっていました。 3年前、大規模言語モデルがその真の可能性を見せ始めた頃、プリはセコイアのもう一人のITリーダーであるスディール・ドゥルジャティと共に、AIがインフラエンジニアにとっての大きな課題――技術的な障害が





家






