Mingshi Intelligenceは、清華大学およびOpenBMBと共同で、Huawei Ascend上で学習された中国初の大規模モデル「BitCPM-CANN」をオープンソース化しました。このモデルは1.58ビットの3値表現を採用しており、低ビット数での学習において画期的な成果を上げています。 本モデルは0.5Bから8Bのサイズ展開があり、推論時のメモリ効率が6倍に向上しているため、8Bモデルでもフラッグシップスマートフォン上で動作可能です。すべての重みはHuggingFaceおよびModelScopeでオープンソース化されています。





家
