Zhipu stellt die GLM-5.1 Speed-Version vor: 400 Tokens/s stellen neuen weltweiten API-Rekord auf

Am 22. Mai sorgte Zhipu (02513.HK) sowohl an den Kapitalmärkten als auch in der Technologiebranche für Aufsehen. Die Aktie legte während der Handelszeiten um über 22 % zu, wodurch der Marktwert des Unternehmens auf über 450 Milliarden HKD stieg. Am selben Tag stellte das Unternehmen ein wichtiges neues Produkt für Unternehmenskunden vor: die GLM-5.1 Highspeed API (GLM-5.1-highspeed).

In Praxistests liefert dieses Modell beeindruckende 400 Tokens/s (400 Tokens pro Sekunde) und durchbricht damit die bisherige Geschwindigkeitsgrenze für offizielle APIs der weltweit führenden Anbieter großer Modelle. Um das zu veranschaulichen: Die Textmenge, die ein Autor nach tagelanger ununterbrochener Arbeit produzieren könnte, lässt sich nun in nur einer Minute bewältigen. Eine Systemumgestaltung, für die ein Ingenieur drei Tage lang tippen müsste, lässt sich in der Zeit, die man zum Trinken einer Tasse Kaffee benötigt, vollständig ausführen.

Wichtigste Highlights:

Konventionen durchbrechen: Traditionell ging die Branche davon aus, dass „schnell“ gleichbedeutend mit „klein oder leichtgewichtig“ sei. Zhipu ist der erste inländische Anbieter großer Modelle, der eine nahtlose Kombination aus **„Flaggschiff-Fähigkeiten in vollem Umfang“ und „extrem niedriger Latenz“** erreicht hat.

Beeindruckende Leistungen: Die Ausgabegeschwindigkeit erreicht 400 Token/s, unterstützt ein 200K langes Kontextfenster und ermöglicht eine maximale Einzelausgabe von 128K Token.

Zugrundeliegende „Black Tech“: Dieses Modell, das in enger Zusammenarbeit zwischen dem GLM-Team von Zhipu und dem TileRT-Team entwickelt wurde, strukturiert das gesamte Inferenz-Ökosystem auf Systemebene neu.

Gezielter Pilotversuch: Jetzt für ausgewählte Unternehmenskunden über die offene MaaS-Plattform (Model as a Service) von Zhipu verfügbar.

Wie fühlt sich „sofortige Reaktion“ eigentlich an? Ein Durchbruch in geschwindigkeitskritischen Szenarien

Im vergangenen Jahr haben die Fähigkeiten zur Zusammenarbeit zwischen Codierung (Programmierung) und Agenten (Intelligenz) in großen inländischen Modellen erhebliche Fortschritte gemacht. Doch „Geschwindigkeit“ blieb der zentrale Engpass bei langkettigen, hochfrequenten Interaktionsaufgaben. Zhipu stellt fest, dass der Wandel von großen Modellen als „Werkzeuge“ hin zu „Echtzeit-Partnern“ bei 400 Token/s wirklich transformativ wird:

KI-Programmierung (Coding-Agent): Herkömmliche intelligente Agenten erfordern oft Dutzende von dateiübergreifenden Aufrufen und die Abstimmung langer Textpassagen. Eine einzige Antwortverzögerung von wenigen Sekunden kann die gesamte Aufgabe auf über zehn Minuten ausdehnen. Mit der Hochgeschwindigkeitsversion fühlt sich das Schreiben von Code an, als würde man mit 10-facher Geschwindigkeit arbeiten – Funktionen, Schnittstellen und zugrunde liegende Aufrufketten entfalten sich sofort, während der Nutzer tippt, wodurch Wartezeiten für umfangreiche technische Überarbeitungen entfallen.

Echtzeit-Interaktion und 3D-Spiele: Dank extrem geringer Latenz kann das Modell die dynamische Echtzeit-Generierung in Spielwelten, den sofortigen Aufbau von Web-Benutzeroberflächen und unmittelbare Änderungen des Systemzustands auf Basis kontinuierlicher Benutzereingaben bewältigen – und das alles ohne Verzögerung.

Cluster für Geschäftsentscheidungen: Bei parallelen Multi-Agenten-Simulationen und der Echtzeit-Big-Data-Analyse unterstützt die Hochgeschwindigkeitsversion die Ausführung komplexer paralleler Reaktionen von Web-Agenten-Clustern mit mehreren Persönlichkeiten innerhalb von 30 Sekunden, wodurch die Effizienzgrenze für hochfrequente Quantifizierung und Simulation deutlich angehoben wird.

Nahtlose Echtzeit-Sprachverarbeitung: In Szenarien des KI-Coachings und des intelligenten Kundenservices senkt die ultraschnelle Reaktion die Latenz von der Spracherkennung (ASR) bis zur Sprachsynthese (TTS) nahezu auf Null und sorgt so für einen wirklich natürlichen, gleichmäßigen, menschenähnlichen Gesprächsfluss.

Die drei Ebenen der „Black Tech“ entschlüsselt: Wie haben wir 400 Tokens/s erreicht?

Dieser weltweite Geschwindigkeitsrekord ist in erster Linie das Ergebnis einer gemeinsam vom GLM-Team und dem TileRT-Team von Zhipu entwickelten technischen Optimierung auf Systemebene. Die 400 Token/s sind kein auffälliger „Spitzenwert“ – es handelt sich um eine stabile, produktionsreife Leistungsfähigkeit. Die zugrunde liegende Optimierungslogik lässt sich in drei Ebenen unterteilen:

[Infrastructure Layer: Cluster/Load Balancing Collaboration] ─► [Scheduling System Layer: Dynamic Batching & KV Cache Scheduling] ─► [Inference Engine Layer: TileRT Architecture Rewriting Core Path] ─► 400 tokens/s Stable Output

Ebene der Inferenz-Engine (TileRT Deep Customization): Basierend auf der einzigartigen Netzwerkarchitektur von GLM-5.1 hat das Team den kritischsten Inferenzpfad und die zugrunde liegenden Operatoren komplett neu geschrieben, wodurch der Durchsatz einer einzelnen GPU und die Effizienz der Hardware-Ausführung nahe an die physikalischen Grenzen herangeführt wurden.

Ebene des Scheduling-Systems (Intelligent Merging): Durch die Einführung äußerst aggressiver dynamischer Batching- und Request-Merging-Technologien sowie einer bahnbrechenden Optimierung der KV-Cache-Planung wurden die Probleme mit der Tail-Latenz, mit denen herkömmliche Modelle bei hoher Parallelität und zahlreichen Benutzeranfragen konfrontiert sind, effektiv gelöst.

Infrastruktur-Ebene (Cluster-Zusammenarbeit): Eine umfassende, auf Hardware-Ebene stattfindende kooperative Optimierung hinsichtlich Netzwerkbereitstellung, Netzwerkverbindungstopologie und ultrahochfrequenter Lastverteilung des Inferenz-Clusters stellt sicher, dass die Rechenleistung verlustfrei über die gesamte Pipeline übertragen wird.

Neubewertung der Branche: In der zweiten Hälfte der KI geht es um die „Wert- und Zeit-Abrechnung“

Wie führende internationale Analyseinstitute wie UBS kürzlich auf Tech-Foren der Hongkonger Börse betonten, unterscheidet sich diese Runde der KI-getriebenen Neubewertung der Branche grundlegend von der „Monetarisierung von Datenverkehr und Zeit“ im Zeitalter des mobilen Internets. Die Umsatz- und Überlebensphilosophie der KI besteht nicht darin, Nutzer in Software zu binden – es geht vielmehr darum, „Nutzern und Unternehmen dabei zu helfen, Zeit zu sparen, die Effizienz zu steigern und den geschaffenen Wert zu teilen“.

Die GLM-5.1-Hochgeschwindigkeitsversion von Zhipu geht genau auf diesen Schwachpunkt ein. Indem sie die Kosten und die Zeit für die Erstellung jedes Tokens auf einen Bruchteil des ursprünglichen Aufwands reduziert, ermöglicht sie es Unternehmen, keine schmerzhaften Kompromisse mehr zwischen „hoher Intelligenz (Wahl eines großen, aber langsamen Modells)“ und „Geschwindigkeit (Wahl eines kleinen, aber leistungsschwachen Modells)“ eingehen zu müssen.