Xiaohongshu hat die erste Version seiner Open-Source-Serie großer Modelle „dots3-note“ veröffentlicht, die über insgesamt 280 Milliarden Parameter und 16 Milliarden aktivierte Parameter verfügt und sich durch starke multimodale Wahrnehmungs- und Verständnisfähigkeiten in den Bereichen Text, Bild und Sprache auszeichnet. Bei Aufgaben im Bereich des logischen Schlussfolgerns und der multimodalen Verarbeitung ist die Leistung mit der größerer internationaler Modelle vergleichbar. Am Tag der Veröffentlichung gab Huawei bekannt, dass es seine SuperPoD-Knoten „Atlas800A3“ und „Atlas900A3“ für dieses Modell angepasst hat und über die Open-Source-Inferenz-Engine „vLLM Ascend“ umfassende Unterstützung bei der Bereitstellung und dem Betrieb bietet. Ascend hat die gesamte Pipeline (Framework für die inkrementelle Dekodierung bei der multimodalen Verarbeitung) optimiert, um Leistungsengpässe zu beseitigen und den Inferenzdurchsatz in der MoE-Architektur zu steigern. Zudem wurde die spekulative MTP-Dekodierung nativ integriert, um die Anzahl der Vorwärtsdurchläufe bei der Dekodierung zu reduzieren, was einen effizienten und stabilen Modellbetrieb gewährleistet und die Ausführung komplexer Langzeitaufgaben unterstützt.
Durch das Klicken auf „Alle Cookies akzeptieren“ stimmen Sie zu, dass Cookies auf Ihrem Gerät gespeichert werden, um die Seitennavigation zu verbessern, die Seitennutzung zu analysieren und unsere Marketingbemühungen zu unterstützen.Datenschutzerklärung Hinweis
Beim Besuch einer Website kann diese Informationen in Ihrem Browser speichern oder abrufen, hauptsächlich in Form von Cookies. Diese Informationen können sich auf Sie, Ihre Präferenzen oder Ihr Gerät beziehen und dienen hauptsächlich dazu, dass die Website so funktioniert, wie Sie es erwarten. Die Informationen identifizieren Sie in der Regel nicht direkt, können Ihnen aber ein personalisierteres Web-Erlebnis bieten. Da wir Ihr Recht auf Privatsphäre respektieren, können Sie wählen, dass Sie bestimmte Arten von Cookies nicht zulassen. Klicken Sie auf die verschiedenen Kategorietitel, um mehr zu erfahren und unsere Standardeinstellungen zu ändern. Das Blockieren bestimmter Arten von Cookies kann jedoch Ihre Erfahrung auf der Website und die von uns angebotenen Dienste beeinträchtigen. DatenschutzerklärungErklärung
Einstellungen verwalten
Unbedingt erforderliche Cookies
Immer aktiv
Diese Cookies sind für die Funktionalität der Website erforderlich und können in unseren Systemen nicht deaktiviert werden. Sie werden normalerweise nur in Reaktion auf Ihre Aktionen gesetzt, die einer Dienstanfrage entsprechen, z. B. das Einstellen Ihrer Datenschutzpräferenzen, das Anmelden oder das Ausfüllen von Formularen. Sie können Ihren Browser so einstellen, dass diese Cookies blockiert oder Sie darüber benachrichtigt werden, aber einige Teile der Website werden dann nicht mehr funktionieren. Diese Cookies speichern keine personenbezogenen Daten.