Option
Heim
Nachricht
M6 Intelligence und Tsinghua veröffentlichen Open-Source-Projekt „BitCPM-CANN“ für die Ausführung großer Modelle auf Mobilgeräten

M6 Intelligence und Tsinghua veröffentlichen Open-Source-Projekt „BitCPM-CANN“ für die Ausführung großer Modelle auf Mobilgeräten

1. Juli 2026
97

MBLab hat in Zusammenarbeit mit der Tsinghua-Universität und der Open-Source-Community OpenBMB kürzlich einen bedeutenden Durchbruch beim Training großer Modelle mit geringer Bitrate veröffentlicht und als Open Source zur Verfügung gestellt: BitCPM-CANN. Dieser Meilenstein, der nativ auf der Ascend-Plattform von Huawei entwickelt wurde, treibt die Gewichtsreduzierung und den technischen Einsatz großer KI-Modelle am Edge voran.

Architektur und Leistungsdiagramm des BitCPM-CANN-Modells

Sechsfacher Speichervorteil überwindet Hardware-Barrieren

BitCPM-CANN, das nun als Open-Source-Software verfügbar ist, gibt es in vier Größen: 0,5B, 1B, 3B und 8B. Im direkten Vergleich mit Modellen gleicher Größe in voller Genauigkeit liefert es eine herausragende Leistung. Im Vergleich zur herkömmlichen BF16-Präzision erzielt es bei der Inferenz eine etwa sechsmal so hohe Speichereinsparung, wodurch der für die Ausführung großer Modelle erforderliche Hardwareaufwand drastisch reduziert wird.

Für mobile Geräte bedeutet dieser sechsfache Speichervorteil, dass große Modelle mit 8B Parametern – für die früher High-End-Hardware erforderlich war – nun reibungslos auf gängigen Flaggschiff-Smartphones laufen können. Dieser bemerkenswerte Speicherpuffer beschleunigt direkt die Einführung und den kommerziellen Einsatz von Edge-AI-Technologie auf mobilen Plattformen.

Hohe Beibehaltungsrate bestätigt die Reproduzierbarkeit der Entwicklung

Trotz der Reduzierung der Modellgröße behält BitCPM-CANN eine außergewöhnlich hohe Leistung bei, mit Leistungserhaltungsraten zwischen 90 % und 97,2 %. Bei den drei größeren Modellgrößen liegen die Retentionsraten zwischen 95,7 % und 97,2 %, während selbst die kleinste 0,5-Milliarden-Variante 90 % übersteigt.

Diese beeindruckenden Ergebnisse belegen systematisch, dass der Low-Bit-Trainingsansatz eine hohe Skalierbarkeit und technische Reproduzierbarkeit bietet. MBLab hat mithilfe dieser Kerntechnologien eine umfassende Grundlage für das Low-Bit-Training geschaffen, die den gesamten technischen Stack abdeckt – einschließlich Umgebungsanpassung, Unterstützung für 32K-Langsequenzen und fusionierte Operatoren – und damit eine robuste öffentliche Infrastruktur für zukünftige Arbeiten zum Low-Bit-Training auf der Ascend-Plattform bereitstellt.

Verwandter Artikel
Apple stimmt einer Vergleichszahlung von 250 Millionen US-Dollar wegen der verzögerten Einführung der Siri-KI zu Apple stimmt einer Vergleichszahlung von 250 Millionen US-Dollar wegen der verzögerten Einführung der Siri-KI zu Apple hat zugestimmt, 250 Millionen US-Dollar zu zahlen, um einen Sammelklageprozess bezüglich der Vermarktung von KI-Funktionen vor dem Start des iPhone 16 beizulegen, wie erstmals vom Financial Times berichtet wurde.Die Klage behauptete, Apple hab
Ando startet die Team-Messaging-App, die die Zusammenarbeit zwischen Mensch und KI verbindet Ando startet die Team-Messaging-App, die die Zusammenarbeit zwischen Mensch und KI verbindet Im Jahr 2025, als Sara Du Unternehmen bei der Entwicklung von MCP-Servern unterstützte, tauchte eine wiederkehrende Frage auf: Wie könnten Teams KI-Agenten direkt in Slack nutzen? Der Weg war durch erhebliche technische Hürden versperrt, darunter die
Sequoia-gefördertes Empirik sammelt 21 Millionen US-Dollar ein, um Ausfälle vorherzusagen, bevor sie eintreten Sequoia-gefördertes Empirik sammelt 21 Millionen US-Dollar ein, um Ausfälle vorherzusagen, bevor sie eintreten Bevor Avon Puri 2020 als Chief Digital and Information Officer zu Sequoia Capital stieß, leitete er über ein Jahrzehnt lang die Infrastrukturabteilung bei Rubrik und VMware. Vor drei Jahren, als Large Language Models ihr wahres Potenzial zu entfalten
Empfehlungen zu verwandten Spezialthemen
Design & Kunst Die besten KI-Illustrationstools: Redaktionelle Szenen und Cover-Grafiken schneller erstellen
Die besten KI-Illustrationstools: Redaktionelle Szenen und Cover-Grafiken schneller erstellen

Die besten und am besten bewerteten KI-Illustrationstools 2026: Unsere sorgfältig zusammengestellte Liste enthält die leistungsstärksten Tools, mit denen Sie im Handumdrehen atemberaubende redaktionelle Szenen und auffällige Cover-Grafiken erstellen können. Jede Option wurde strengen Praxistests unterzogen und wird im Vergleich zwischen kostenlosen und kostenpflichtigen Versionen vorgestellt, damit Sie die perfekte Lösung für Ihren Arbeitsablauf finden können. Probieren Sie diese unverzichtbaren Lösungen noch heute aus, um Ihren KI-Vorteil zu nutzen und Ihre kreative Produktivität zu steigern. Entdecken Sie sie jetzt auf XIX.AI.

10 Tools
xix.ai
Bildung und Lernen Die besten KI-Nachhilfelehrer für die Prüfungsvorbereitung: Üben Sie Mathematik, Naturwissenschaften und Englisch
Die besten KI-Nachhilfelehrer für die Prüfungsvorbereitung: Üben Sie Mathematik, Naturwissenschaften und Englisch

Die besten und am besten bewerteten KI-Nachhilfetools für die Prüfungsvorbereitung des Jahres 2026 finden Sie hier auf XIX.AI! Unsere sorgfältig zusammengestellte Liste enthält leistungsstarke, bahnbrechende Tools, die einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, Tests aus der Praxis sowie wöchentlich aktualisierte Rankings bieten. Sie helfen Ihnen dabei, Ihre Schreibeffizienz zu steigern, das Erlernen komplexer Themen zu vereinfachen und Ihr akademisches Potenzial voll auszuschöpfen. Entdecken Sie jetzt Ihr perfektes Tool zur Prüfungsvorbereitung und legen Sie noch heute los, um Ihren KI-Vorteil zu nutzen!

10 Tools
xix.ai
Finanzen KI-Budgetplanungstools für das persönliche Geldmanagement
KI-Budgetplanungstools für das persönliche Geldmanagement

2026 Neueste Besten Top-Bewertete KI-Budgetplanungs-Tools für persönliches Geldmanagement sind hier auf XIX.AI! Diese kuratierte Sammlung bietet leistungsstarke, revolutionäre Lösungen, die Ihnen helfen, reale Tests durchzuführen, Ausgaben Gewohnheiten zu verstehen und personalisierte Pläne zu erstellen, um die Produktivität zu steigern. Genießen Sie einen kostenlosen vs. bezahlten Vergleich sowie detaillierte Rankings. Unbedingt auszuprobierende Tools, die darauf ausgelegt sind, das Geldmanagement zu vereinfachen und Ihre KI-Vorteile freizuschalten. Entdecken Sie jetzt!

11 Tools
xix.ai
Gesundheit Wellness KI-gestützte Schlafüberwachungsassistenten: Verbessern Sie Ihre Erholung durch bessere Gewohnheiten vor dem Schlafengehen
KI-gestützte Schlafüberwachungsassistenten: Verbessern Sie Ihre Erholung durch bessere Gewohnheiten vor dem Schlafengehen

2026 – Die neuesten, besten und am höchsten bewerteten AI-Geräte zur Schlafüberwachung, sorgfältig ausgewählt für eine optimale Erholung. Dieser vollständig aktualisierte wöchentliche Leitfaden präsentiert leistungsstarke Tools mit praktischen Tests, einem Vergleich von kostenlosen und kostenpflichtigen Optionen sowie detaillierten Ranglisten, um Ihnen die beste Lösung zu zeigen, die die Schlafqualität verbessert und bessere Gewohnheiten zum Zubettgehen fördert. Entdecken Sie ihn jetzt auf XIX.AI, um Ihren Vorteil durch KI zu nutzen.

10 Tools
xix.ai
Datenanalyse KI-gestützte SQL-Copilots für Produkt- und Umsatzanalysen
KI-gestützte SQL-Copilots für Produkt- und Umsatzanalysen

Die besten und am besten bewerteten KI-SQL-Copilots für Produkt- und Umsatzanalysen im Jahr 2026! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die anhand wöchentlich aktualisierter Rankings in der Praxis getestet werden. Diese Tools helfen Anwendern dabei, ihre Produktivität erheblich zu steigern, indem sie die Datenanalyse beschleunigen, komplexe Abfragen optimieren und präzise Erkenntnisse liefern, um intelligentere Geschäftsentscheidungen zu ermöglichen. Entdecken Sie jetzt das perfekte Tool, um Ihren KI-Vorteil voll auszuschöpfen!

14 Tools
xix.ai
Bildung und Lernen Die besten KI-Hausaufgabenhelfer, die wirklich etwas vermitteln: Lerne Konzepte, nicht nur Antworten
Die besten KI-Hausaufgabenhelfer, die wirklich etwas vermitteln: Lerne Konzepte, nicht nur Antworten

2026: Die aktuell besten und am besten bewerteten KI-Hausaufgabenhelfer, die nicht nur Antworten liefern, sondern auch Kernkonzepte vermitteln – leistungsstarke Tools für Schüler und Studenten. Eine kuratierte Liste, die Sie unbedingt ausprobieren sollten. Wöchentlich aktualisiert. Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten. Praxistests. Genaue Rankings, die Ihnen helfen, Ihr volles Lernpotenzial auszuschöpfen. Entdecken Sie jetzt das perfekte Tool für intelligenteres Lernen.

10 Tools
xix.ai
Kommentare (0)
0/500
OR