Option
Heim
Eilmeldung
Inhalt
JackSanchez
JackSanchez
17. August 2026

Xiaohongshu hat die erste Version seiner Open-Source-Serie großer Modelle „dots3-note“ veröffentlicht, die über insgesamt 280 Milliarden Parameter und 16 Milliarden aktivierte Parameter verfügt und sich durch starke multimodale Wahrnehmungs- und Verständnisfähigkeiten in den Bereichen Text, Bild und Sprache auszeichnet. Bei Aufgaben im Bereich des logischen Schlussfolgerns und der multimodalen Verarbeitung ist die Leistung mit der größerer internationaler Modelle vergleichbar. Am Tag der Veröffentlichung gab Huawei bekannt, dass es seine SuperPoD-Knoten „Atlas800A3“ und „Atlas900A3“ für dieses Modell angepasst hat und über die Open-Source-Inferenz-Engine „vLLM Ascend“ umfassende Unterstützung bei der Bereitstellung und dem Betrieb bietet. Ascend hat die gesamte Pipeline (Framework für die inkrementelle Dekodierung bei der multimodalen Verarbeitung) optimiert, um Leistungsengpässe zu beseitigen und den Inferenzdurchsatz in der MoE-Architektur zu steigern. Zudem wurde die spekulative MTP-Dekodierung nativ integriert, um die Anzahl der Vorwärtsdurchläufe bei der Dekodierung zu reduzieren, was einen effizienten und stabilen Modellbetrieb gewährleistet und die Ausführung komplexer Langzeitaufgaben unterstützt.

Xiaohongshu hat die erste Version seiner Open-Source-Serie großer Modelle „dots3-note“ veröffentlicht, die über insgesamt 280 Milliarden Parameter und 16 Milliarden aktivierte Parameter verfügt und sich durch starke multimodale Wahrnehmungs- und Verständnisfähigkeiten in den Bereichen Text, Bild und Sprache auszeichnet. Bei Aufgaben im Bereich des logischen Schlussfolgerns und der multimodalen Verarbeitung ist die Leistung mit der größerer internationaler Modelle vergleichbar. Am Tag der Veröffentlichung gab Huawei bekannt, dass es seine SuperPoD-Knoten „Atlas800A3“ und „Atlas900A3“ für dieses Modell angepasst hat und über die Open-Source-Inferenz-Engine „vLLM Ascend“ umfassende Unterstützung bei der Bereitstellung und dem Betrieb bietet. Ascend hat die gesamte Pipeline (Framework für die inkrementelle Dekodierung bei der multimodalen Verarbeitung) optimiert, um Leistungsengpässe zu beseitigen und den Inferenzdurchsatz in der MoE-Architektur zu steigern. Zudem wurde die spekulative MTP-Dekodierung nativ integriert, um die Anzahl der Vorwärtsdurchläufe bei der Dekodierung zu reduzieren, was einen effizienten und stabilen Modellbetrieb gewährleistet und die Ausführung komplexer Langzeitaufgaben unterstützt. Xiaohongshu hat die erste Version seiner Open-Source-Serie großer Modelle „dots3-note“ veröffentlicht, die über insgesamt 280 Milliarden Parameter und 16 Milliarden aktivierte Parameter verfügt und sich durch starke multimodale Wahrnehmungs- und Verständnisfähigkeiten in den Bereichen Text, Bild und Sprache auszeichnet. Bei Aufgaben im Bereich des logischen Schlussfolgerns und der multimodalen Verarbeitung ist die Leistung mit der größerer internationaler Modelle vergleichbar. Am Tag der Veröffentlichung gab Huawei bekannt, dass es seine SuperPoD-Knoten „Atlas800A3“ und „Atlas900A3“ für dieses Modell angepasst hat und über die Open-Source-Inferenz-Engine „vLLM Ascend“ umfassende Unterstützung bei der Bereitstellung und dem Betrieb bietet. Ascend hat die gesamte Pipeline (Framework für die inkrementelle Dekodierung bei der multimodalen Verarbeitung) optimiert, um Leistungsengpässe zu beseitigen und den Inferenzdurchsatz in der MoE-Architektur zu steigern. Zudem wurde die spekulative MTP-Dekodierung nativ integriert, um die Anzahl der Vorwärtsdurchläufe bei der Dekodierung zu reduzieren, was einen effizienten und stabilen Modellbetrieb gewährleistet und die Ausführung komplexer Langzeitaufgaben unterstützt.
Kommentare (0)
0/300
OR