Heim
Zigong und die Tsinghua-Universität stellen die Netzwerkarchitektur „ZCube“ vor, die den Durchsatz bei der Inferenz großer Modelle um 15 % steigert und gleichzeitig die Netzwerkkosten um ein Drittel senkt
Die Inferenz großer Modelle verändert die KI-Infrastruktur grundlegend, und Innovationen in der Netzwerkarchitektur sind mittlerweile entscheidend, um das Potenzial der Hardware voll auszuschöpfen. Im September 2025 stellten Zhipu, Yuchen Network und die Tsinghua-Universität auf der ACM SIGCOMM 2025, einer führenden Konferenz im Bereich Netzwerktechnik, ihre Forschungsergebnisse zur ZCube-Netzwerkarchitektur vor.
Am 21. Mai 2026 gab Zhipu den erfolgreichen Einsatz der ZCube-Architektur in der GLM-5.1-Produktionsumgebung bekannt, was zu erheblichen Leistungssteigerungen führte. Benchmark-Tests, die mit unveränderter GPU-Hardware, unverändertem Software-Stack und unveränderten Anwendungen durchgeführt wurden, zeigten, dass ZCube die Investitionskosten für Switches und optische Module um 33 % senkte, den durchschnittlichen GPU-Inferenzdurchsatz um 15 % steigerte und die Latenz des ersten Tokens (TTFT P99) um 40,6 % reduzierte. Dieser Durchbruch auf Systemebene schafft ein Gleichgewicht zwischen hoher Wirtschaftlichkeit und hoher Leistung.

Da sich derzeit die Inferenz mit langem Kontext und die Trennung von Prefill und Decode (PD) als Industriestandards etablieren, weist die knotenübergreifende Übertragung des KV-Caches eine erhebliche Asymmetrie auf. Herkömmliche ROFT-Architekturen (Rail-Optimized Fat-Tree), die auf dem Stapeln mehrschichtiger Switches beruhen, sind durch eine statische Topologie eingeschränkt, wodurch sie anfällig für lokale Hotspots und PFC-Gegendruck sind. Dies führt zu einem strukturellen Engpass, bei dem die Gesamtbandbreite zwar ausreicht, es jedoch häufig zu lokaler Überlastung kommt.

Um dieses Problem zu beheben, löst sich die ZCube-Architektur vom hierarchischen Stapeln traditioneller Clos-Designs. Sie verzichtet auf Switches der Spine-Ebene und nutzt stattdessen zwei Gruppen vollständig flacher Switches in einer bipartiten Graph-Verbindung, kombiniert mit dem Single-/Multi-Track-Hybrid-Zugriffsmechanismus von Dual-Port-NICs. Durch ihre einzigartige Routing-Strategie garantiert ZCube für jedes GPU-Paar einen dedizierten, optimalen Pfad, wodurch ein perfekter Lastausgleich auf struktureller Ebene erreicht und eine extrem groß angelegte Erweiterung auf Zehntausende oder sogar Hunderttausende von GPUs unterstützt wird.
Während der Umstellung der Produktionsumgebung meisterte das Team von Yuchen Network die Herausforderungen der Verkabelung und der Neugestaltung der Routingstrategie erfolgreich mithilfe automatisierter Steuerungs- und Verifizierungswerkzeuge und stellte so ein schnelles und stabiles Cluster-Upgrade sicher. Der derzeitige Cluster mit tausend Grafikkarten läuft seit über zwei Wochen stabil. Die erfolgreiche Einführung von ZCube markiert einen Wandel in der intelligenten Recheninfrastruktur von einer allgemeinen Vernetzung hin zu einer durch Modelldatenverkehr gesteuerten Systemzusammenarbeit. In Zukunft wird die tiefe Integration von Netzwerktopologie, Kommunikationsbibliotheken und Planungsstrategien zum zentralen Motor für die weitere Verbesserung der Token-Produktionseffizienz und die Senkung der Gesamtkosten für MaaS werden.
Verwandter Artikel
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Die Inferenz großer Modelle verändert die KI-Infrastruktur grundlegend, und Innovationen in der Netzwerkarchitektur sind mittlerweile entscheidend, um das Potenzial der Hardware voll auszuschöpfen. Im September 2025 stellten Zhipu, Yuchen Network und die Tsinghua-Universität auf der ACM SIGCOMM 2025, einer führenden Konferenz im Bereich Netzwerktechnik, ihre Forschungsergebnisse zur ZCube-Netzwerkarchitektur vor.
Am 21. Mai 2026 gab Zhipu den erfolgreichen Einsatz der ZCube-Architektur in der GLM-5.1-Produktionsumgebung bekannt, was zu erheblichen Leistungssteigerungen führte. Benchmark-Tests, die mit unveränderter GPU-Hardware, unverändertem Software-Stack und unveränderten Anwendungen durchgeführt wurden, zeigten, dass ZCube die Investitionskosten für Switches und optische Module um 33 % senkte, den durchschnittlichen GPU-Inferenzdurchsatz um 15 % steigerte und die Latenz des ersten Tokens (TTFT P99) um 40,6 % reduzierte. Dieser Durchbruch auf Systemebene schafft ein Gleichgewicht zwischen hoher Wirtschaftlichkeit und hoher Leistung.

Da sich derzeit die Inferenz mit langem Kontext und die Trennung von Prefill und Decode (PD) als Industriestandards etablieren, weist die knotenübergreifende Übertragung des KV-Caches eine erhebliche Asymmetrie auf. Herkömmliche ROFT-Architekturen (Rail-Optimized Fat-Tree), die auf dem Stapeln mehrschichtiger Switches beruhen, sind durch eine statische Topologie eingeschränkt, wodurch sie anfällig für lokale Hotspots und PFC-Gegendruck sind. Dies führt zu einem strukturellen Engpass, bei dem die Gesamtbandbreite zwar ausreicht, es jedoch häufig zu lokaler Überlastung kommt.

Um dieses Problem zu beheben, löst sich die ZCube-Architektur vom hierarchischen Stapeln traditioneller Clos-Designs. Sie verzichtet auf Switches der Spine-Ebene und nutzt stattdessen zwei Gruppen vollständig flacher Switches in einer bipartiten Graph-Verbindung, kombiniert mit dem Single-/Multi-Track-Hybrid-Zugriffsmechanismus von Dual-Port-NICs. Durch ihre einzigartige Routing-Strategie garantiert ZCube für jedes GPU-Paar einen dedizierten, optimalen Pfad, wodurch ein perfekter Lastausgleich auf struktureller Ebene erreicht und eine extrem groß angelegte Erweiterung auf Zehntausende oder sogar Hunderttausende von GPUs unterstützt wird.
Während der Umstellung der Produktionsumgebung meisterte das Team von Yuchen Network die Herausforderungen der Verkabelung und der Neugestaltung der Routingstrategie erfolgreich mithilfe automatisierter Steuerungs- und Verifizierungswerkzeuge und stellte so ein schnelles und stabiles Cluster-Upgrade sicher. Der derzeitige Cluster mit tausend Grafikkarten läuft seit über zwei Wochen stabil. Die erfolgreiche Einführung von ZCube markiert einen Wandel in der intelligenten Recheninfrastruktur von einer allgemeinen Vernetzung hin zu einer durch Modelldatenverkehr gesteuerten Systemzusammenarbeit. In Zukunft wird die tiefe Integration von Netzwerktopologie, Kommunikationsbibliotheken und Planungsstrategien zum zentralen Motor für die weitere Verbesserung der Token-Produktionseffizienz und die Senkung der Gesamtkosten für MaaS werden.
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13











