Heim
Cambricon stellt vollständige Modell-Tagesnull-Kompatibilität und open-source optimierten Code für DeepSeek-V4 vor

Cambricon hat die „Day0“-Integration der neuesten Open-Source-Modellserie von DeepSeek, DeepSeek-V4 , unter Nutzung des vLLM-Inferenzframeworks abgeschlossen. Diese umfassende Anpassung umfasst sowohl die Flash-Variante (285 Milliarden Parameter) als auch die Pro-Variante (1,6 Billionen Parameter) und gewährleistet sofortige Stabilität auf Cambricon-Hardware ab dem Release. Der entsprechende Integrationscode wurde offiziell auf GitHub als Open-Source veröffentlicht.
Unter Berücksichtigung der einzigartigen sparsamen Aufmerksamkeitsmechanismen und der komprimierten Architektur von DeepSeek-V4 beschleunigte Cambricon Kernkomponenten wie den Kompressor mithilfe seiner proprietären Vektorfusionsbibliothek Torch-MLU-Ops. Durch den Einsatz der hochleistungsfähigen Programmiersprache BangC entwickelte das Team optimierte Kernel für kritische Operationen wie sparsame Aufmerksamkeit und GroupGemm. Die Lösung unterstützt vollumfänglich die fünfdimensionale hybride Parallelität (TP/PP/SP/DP/EP), die Quantisierung mit niedriger Präzision sowie die Trennung von Prompt und Dekodierung (PD-Trennung) innerhalb des vLLM-Frameworks, was den Token-Durchsatz erheblich steigert, während strenge Latenzanforderungen eingehalten werden.
Auf Hardware-Ebene nutzt Cambricon die Speicherzugriffs- und Sortierungsbeschleunigungsfunktionen von MLU, um die komplexen Indexierungsstrukturen von DeepSeek-V4 zu verwalten. Durch die Ausnutzung hoher Interconnect-Bandbreite und latenzarmer Kommunikation wird dieser Ansatz den Overhead in den Phasen Prefill und Decode minimiert, wodurch die Inferenzeffizienz maximiert wird.
Branchenexperten weisen darauf hin, dass das Millionen-Token-Kontextfenster und die erstklassigen logischen Fähigkeiten von DeepSeek-V4 robuste zugrunde liegende Rechenarchitekturen erfordern. Die schnelle Day0-Anpassung durch Cambricon unterstreicht die Stärke inländischer Rechenplattformen bei der Unterstützung ultra-großer, komplexer Modelle und signalisiert, dass das inländische KI-Ökosystem ein reifes Niveau der Software-Hardware-Synergie erreicht hat, das eine leistungsfähige Grundlage für die weitverbreitete Einführung großer Modelle bietet.
Verwandter Artikel
Das französische Startup ZML stellt ein kostenloses Tool vor, das die KI-Inferenz über mehrere Chips hinweg beschleunigt.
Nvidias Ära unkontrollierter Marktbeherrschung neigt sich dem Ende zu, doch aus allen Richtungen tauchen Konkurrenten und Alternativen auf.ZML, ein bedeutendes französisches KI-Startup, das vom Turing-Preisträger Yann LeCun unterstützt wird, hat eine
Google Gemini 4 Argon übertrifft Open AI und könnte Programmierer bei der Codeeinreichung ersetzen
Die Tech-Community im Ausland ist begeistert von Googles neuestem Durchbruch: Gemini 4 Argon, ein KI-Modell der nächsten Generation, das derzeit schrittweise für ausgewählte Pro-Nutzer auf mehreren Plattformen verfügbar gemacht wird. Vollständig in d
Anthropic stellt Opus 4.6 vor, einen umstrittenen Content-Generator
Anthropics universelle Nutzungsstandards für Claude verbieten es dem Modell, sexuell explizite Inhalte zu generieren, einschließlich der Darstellung oder Aufforderung zu Geschlechtsverkehr oder sexuellen Handlungen, der Generierung von Inhalten in Be
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Cambricon hat die „Day0“-Integration der neuesten Open-Source-Modellserie von DeepSeek,
Unter Berücksichtigung der einzigartigen sparsamen Aufmerksamkeitsmechanismen und der komprimierten Architektur von
Auf Hardware-Ebene nutzt Cambricon die Speicherzugriffs- und Sortierungsbeschleunigungsfunktionen von MLU, um die komplexen Indexierungsstrukturen von
Branchenexperten weisen darauf hin, dass das Millionen-Token-Kontextfenster und die erstklassigen logischen Fähigkeiten von DeepSeek-V4 robuste zugrunde liegende Rechenarchitekturen erfordern. Die schnelle Day0-Anpassung durch Cambricon unterstreicht die Stärke inländischer Rechenplattformen bei der Unterstützung ultra-großer, komplexer Modelle und signalisiert, dass das inländische KI-Ökosystem ein reifes Niveau der Software-Hardware-Synergie erreicht hat, das eine leistungsfähige Grundlage für die weitverbreitete Einführung großer Modelle bietet.
Das französische Startup ZML stellt ein kostenloses Tool vor, das die KI-Inferenz über mehrere Chips hinweg beschleunigt.
Nvidias Ära unkontrollierter Marktbeherrschung neigt sich dem Ende zu, doch aus allen Richtungen tauchen Konkurrenten und Alternativen auf.ZML, ein bedeutendes französisches KI-Startup, das vom Turing-Preisträger Yann LeCun unterstützt wird, hat eine
Google Gemini 4 Argon übertrifft Open AI und könnte Programmierer bei der Codeeinreichung ersetzen
Die Tech-Community im Ausland ist begeistert von Googles neuestem Durchbruch: Gemini 4 Argon, ein KI-Modell der nächsten Generation, das derzeit schrittweise für ausgewählte Pro-Nutzer auf mehreren Plattformen verfügbar gemacht wird. Vollständig in d
Anthropic stellt Opus 4.6 vor, einen umstrittenen Content-Generator
Anthropics universelle Nutzungsstandards für Claude verbieten es dem Modell, sexuell explizite Inhalte zu generieren, einschließlich der Darstellung oder Aufforderung zu Geschlechtsverkehr oder sexuellen Handlungen, der Generierung von Inhalten in Be











