Maison
Zhipu brise le record mondial de vitesse en intelligence artificielle avec la version haute vitesse GLM-5.1
L'équipe renommée en matière d'IA de Chine, Zhipu, a officiellement annoncé aujourd'hui le lancement d'une nouvelle API haute vitesse GLM-5.1 destinée à certains clients entreprises. Dénommée “GLM-5.1-highspeed”, ce modèle a stupéfié l'industrie depuis son lancement, en offrant une vitesse de sortie de 400 tokens par seconde.
Ce chiffre dépasse directement le benchmark actuel de la vitesse des API établi par les principaux fournisseurs de grands modèles, démontrant ainsi une forte domination technique. Auparavant, l'industrie de l'IA considérait que la vitesse et la taille d'un modèle étaient incompatibles, une plus grande vitesse impliquant généralement des compromis sur les capacités du modèle.
Briser les normes de l'industrie avec des performances de pointe
Cependant, la version GLM-5.1 haute vitesse a renversé l'idée répandue selon laquelle “la rapidité signifie la petite taille”. Pour la première fois chez les grands modèles nationaux, elle a réussi à intégrer des capacités techniques de pointe et une latence ultra-basse dans des environnements de production réels.
Selon les rapports, ce modèle a été développé conjointement par l'équipe GLM de Zhipu et l'équipe TileRT. Les deux équipes ont réalisé des optimisations approfondies et complètes au niveau du système, sur trois niveaux : le moteur d'inférence, le système de planification et l'infrastructure sous-jacente, en s'éloignant des méthodes de planification dynamique traditionnelles.
Trois niveaux d'optimisation pour une sortie stable
Sur le plan technique, l'équipe de développement n'a pas seulement réécrit la trajectoire centrale d'inférence du modèle afin d'améliorer la capacité de traitement par carte, mais a également réduit la latence dans les scénarios à haute concurrence grâce à des techniques telles que le lotissement dynamique. De plus, des optimisations conjointes sur l'infrastructure ont permis de rendre une vitesse de 400 TPS une capacité stable et utilisable en production.
Ce modèle haute vitesse offre de larges perspectives d'application, en particulier dans les scénarios où la latence de réponse est un critère essentiel. Que ce soit pour la programmation intelligente, l'interaction vocale en temps réel ou la prise de décisions commerciales fréquentes, ce modèle est désormais disponible sur la plateforme MaaS de Zhipu pour certains entreprises.
Article connexe
L'intégration avancée de ChatGPT donne accès à 300 000 films et séries télévisées par simple conversation
Alors que les services de streaming saturent le marché avec un contenu infini, aider les utilisateurs à faire le tri pour trouver ce qu’ils recherchent réellement est devenu un défi majeur pour le sec
Comment optimiser les Core Web Vitals pour améliorer son référencement naturel
Transformez votre processus de montage vidéo grâce à des transcriptions générées par l'IASommaire :IntroductionPrincipaux avantages de la transcription automatiséeGarantir la précision et affiner le r
DingTalk refond son architecture grâce à MuleRun d'AliAI et inaugure l'ère des agents complets
Chen Yusen, nouveau PDG de DingTalk et directeur de la division Wukong, a annoncé une importante restructuration organisationnelle dans une note interne publiée cet après-midi. En créant le départemen
Recommandations de sujets spéciaux liés
commentaires (0)
L'équipe renommée en matière d'IA de Chine, Zhipu, a officiellement annoncé aujourd'hui le lancement d'une nouvelle API haute vitesse GLM-5.1 destinée à certains clients entreprises. Dénommée “GLM-5.1-highspeed”, ce modèle a stupéfié l'industrie depuis son lancement, en offrant une vitesse de sortie de 400 tokens par seconde.
Ce chiffre dépasse directement le benchmark actuel de la vitesse des API établi par les principaux fournisseurs de grands modèles, démontrant ainsi une forte domination technique. Auparavant, l'industrie de l'IA considérait que la vitesse et la taille d'un modèle étaient incompatibles, une plus grande vitesse impliquant généralement des compromis sur les capacités du modèle.
Briser les normes de l'industrie avec des performances de pointe
Cependant, la version GLM-5.1 haute vitesse a renversé l'idée répandue selon laquelle “la rapidité signifie la petite taille”. Pour la première fois chez les grands modèles nationaux, elle a réussi à intégrer des capacités techniques de pointe et une latence ultra-basse dans des environnements de production réels.
Selon les rapports, ce modèle a été développé conjointement par l'équipe GLM de Zhipu et l'équipe TileRT. Les deux équipes ont réalisé des optimisations approfondies et complètes au niveau du système, sur trois niveaux : le moteur d'inférence, le système de planification et l'infrastructure sous-jacente, en s'éloignant des méthodes de planification dynamique traditionnelles.
Trois niveaux d'optimisation pour une sortie stable
Sur le plan technique, l'équipe de développement n'a pas seulement réécrit la trajectoire centrale d'inférence du modèle afin d'améliorer la capacité de traitement par carte, mais a également réduit la latence dans les scénarios à haute concurrence grâce à des techniques telles que le lotissement dynamique. De plus, des optimisations conjointes sur l'infrastructure ont permis de rendre une vitesse de 400 TPS une capacité stable et utilisable en production.
Ce modèle haute vitesse offre de larges perspectives d'application, en particulier dans les scénarios où la latence de réponse est un critère essentiel. Que ce soit pour la programmation intelligente, l'interaction vocale en temps réel ou la prise de décisions commerciales fréquentes, ce modèle est désormais disponible sur la plateforme MaaS de Zhipu pour certains entreprises.
L'intégration avancée de ChatGPT donne accès à 300 000 films et séries télévisées par simple conversation
Alors que les services de streaming saturent le marché avec un contenu infini, aider les utilisateurs à faire le tri pour trouver ce qu’ils recherchent réellement est devenu un défi majeur pour le sec
Comment optimiser les Core Web Vitals pour améliorer son référencement naturel
Transformez votre processus de montage vidéo grâce à des transcriptions générées par l'IASommaire :IntroductionPrincipaux avantages de la transcription automatiséeGarantir la précision et affiner le r
DingTalk refond son architecture grâce à MuleRun d'AliAI et inaugure l'ère des agents complets
Chen Yusen, nouveau PDG de DingTalk et directeur de la division Wukong, a annoncé une importante restructuration organisationnelle dans une note interne publiée cet après-midi. En créant le départemen











