ZhiPuとTileRTが、400トークン/秒のGLM-5.1高速APIをリリースし、世界新記録を樹立
Zhipuは本日、一部の法人顧客向けに「GLM-5.1 Highspeed API(GLM-5.1-highspeed) 」を正式にリリースしました。このモデルは、400トークン/秒という驚異的な出力速度を達成し、大規模モデルAPIにおける現在の世界最速記録を更新しました。
これは、「高性能なモデルには高いレイテンシが伴う」あるいは「高速なモデルは必然的に軽量である」という、業界で長らく信じられてきた通説に異を唱えるものです。 GLM-5.1 Highspeed版は、国内初となる、本番環境において優れたモデル性能と超低レイテンシを両立させた大規模モデルであり、ユーザーはもはやモデルの品質と速度のトレードオフを強いられる必要がなくなりました。

速度が重要なシナリオにおけるユーザー体験の変革
長期にわたるタスクや複雑な本番環境において、この速度向上は製品の設計方法を根本的に変えました:
AIプログラミング(コーディングエージェント):GLM-5.1の強力な機能を活用し、この新モデルはクエリに対して即座に回答を提供します。エンジニアリングの文脈を理解しつつ、継続的にコードを生成し、ソリューションを洗練させます。数十回の呼び出しを必要とする再構築プロジェクトにおいて、数分に及ぶ累積待ち時間を解消します。
リアルタイム動的モデリング:3Dマップのフィールドテストにおいて、プレイヤーがキャラクターの移動を制御しテキストを入力すると、モデルは即座にモデリングを完了し、シーンをリアルタイムで動的に更新します。
エージェント・スウォーム並列スケジューリング:長時間のタスクにおいて、本モデルは複雑なウェブページを30秒以内に処理し、50種類の異なるパーソナリティを即座に並列で回答させるようスケジューリングを行い、新しいオペレーティングシステムのプロトタイプを実証します。
中核技術の詳細解説:TileRT 高性能推論エンジン
400 TPSという安定した実運用レベルのスループットは、Zhipu GLMチームとTileRTチームによるシステムレベルの最適化によって実現されました:
推論エンジン層(TileRT コンパイル時 AOT 静的スケジューリング):
従来の主流フレームワークでは、演算子(オペレーター/カーネル)を基本的なスケジューリング単位として使用しています。単一トークンや小バッチのシナリオでは、これによりスケジューリング、メモリアクセス、および同期のオーバーヘッドが増大します。TileRTは、実行時レイヤーでの動的スケジューリングを完全に排除し、代わりにコンパイル時(AOT)に計算グラフ全体を永続的なGPU persistent Engine Kernel に静的にスケジューリングします。単一のGPU内では、演算、非同期I/O、および通信がタイルレベルのマイクロタスクに分解されます。推論プロセス全体で起動されるカーネルは1つだけであり、中間結果はグローバルメモリへの書き込みを伴わずに、レジスタ、共有メモリ、およびL2キャッシュを介して直接伝達されます。
スケジューリングシステム層:
動的なバッチ処理、リクエストの統合、およびKVキャッシュのスケジューリング最適化により、高並行性シナリオにおけるテールレイテンシが大幅に低減されます。
インフラストラクチャ層:
マルチカード規模において、TileRTは Warp Specialization 単一のSM内での概念を、8枚のカードからなるNVLトポロジー全体へと拡張します。異なるGPUランクは、計算密度とデータ依存性に基づいて異なるワーカーに特化され、ネットワークリンクや負荷分散と組み合わせて協調的な最適化を行うことで、高性能かつ安定した動作を保証します。
利用可能性とアクセス
GLM-5.1 Highspeedバージョンは、AIプログラミング、リアルタイムインタラクション、ビジネス上の意思決定、および極めて低い応答レイテンシが求められるリアルタイム音声アプリケーションに最適です。本サービスは現在、Zhipu MaaSプラットフォーム 上で正式に提供されており、選定された企業顧客向けに公開されています 。
関連記事
Anthropicは、不正なAIエージェントが、あなたと同じようにCAPTCHAを嫌っていることを明らかにした
Anthropicが最近発表したエージェントによる不正行為に関する報告書は、深刻なリスクを浮き彫りにしている――同社の「Mythos 5」モデルがセキュリティ制御を迂回してインターネットにアクセスし、公開リポジトリに悪意のあるコードをアップロードした――一方で、ユーモラスな欠点も明らかになった。それは、AIエージェントがCAPTCHAの解読に苦戦しているという点だ。4月、Anthropicは、シス
テンセントは、「Hunyuan Hy3」、「WorkBuddy」、「CodeBuddy」のユーザーに対する無料利用期間を8月5日まで延長する
テンセントは、同社の大規模言語モデル「Hy3」の無料試用期間を延長しました。当初の2週間の試用期間が終了した後、同社には利用継続を求めるユーザーからの圧倒的な反響が寄せられました。これを受け、テンセントは「WorkBuddy」および「CodeBuddy」のユーザー向けに試用期間の延長を発表し、このキャンペーンは8月5日まで実施されます。今回の延長は、テンセントのAI搭載オフィスツールおよび開発ツー
Shao Yin、同社初のAI搭載オープンイヤー型ヘッドホン「OpenFit 2 AI」を発売。ハイエンドビジネスユーザー向けにDeep Qianwenと深く連携
オープンイヤー型ヘッドフォン市場で3年連続の世界シェア首位を維持してきたシャンインは、同社初のAIハードウェアデバイス「OpenFit 2 AI」を発表しました。 アリババの大型言語モデル「Qianwen」を活用し、金融や法務サービスといったリスクの高い分野向けに最適化された本製品の発売は、AI主導のハードウェア革新に向けた戦略的転換を意味し、Shan Yinの競争力を大幅に向上させるものです。次
関連特集おすすめ
コメント (0)
0/500
Zhipuは本日、一部の法人顧客向けに「
これは、「高性能なモデルには高いレイテンシが伴う」あるいは「高速なモデルは必然的に軽量である」という、業界で長らく信じられてきた通説に異を唱えるものです。 GLM-5.1 Highspeed版は、国内初となる、本番環境において優れたモデル性能と超低レイテンシを両立させた大規模モデルであり、ユーザーはもはやモデルの品質と速度のトレードオフを強いられる必要がなくなりました。

速度が重要なシナリオにおけるユーザー体験の変革
長期にわたるタスクや複雑な本番環境において、この速度向上は製品の設計方法を根本的に変えました:
AIプログラミング(コーディングエージェント):GLM-5.1の強力な機能を活用し、この新モデルはクエリに対して即座に回答を提供します。エンジニアリングの文脈を理解しつつ、継続的にコードを生成し、ソリューションを洗練させます。数十回の呼び出しを必要とする再構築プロジェクトにおいて、数分に及ぶ累積待ち時間を解消します。
リアルタイム動的モデリング:3Dマップのフィールドテストにおいて、プレイヤーがキャラクターの移動を制御しテキストを入力すると、モデルは即座にモデリングを完了し、シーンをリアルタイムで動的に更新します。
エージェント・スウォーム並列スケジューリング:長時間のタスクにおいて、本モデルは複雑なウェブページを30秒以内に処理し、50種類の異なるパーソナリティを即座に並列で回答させるようスケジューリングを行い、新しいオペレーティングシステムのプロトタイプを実証します。
中核技術の詳細解説:TileRT 高性能推論エンジン
400 TPSという安定した実運用レベルのスループットは、Zhipu GLMチームとTileRTチームによるシステムレベルの最適化によって実現されました:
推論エンジン層(TileRT コンパイル時 AOT 静的スケジューリング):
従来の主流フレームワークでは、演算子(オペレーター/カーネル)を基本的なスケジューリング単位として使用しています。単一トークンや小バッチのシナリオでは、これによりスケジューリング、メモリアクセス、および同期のオーバーヘッドが増大します。TileRTは、実行時レイヤーでの動的スケジューリングを完全に排除し、代わりにコンパイル時(AOT)に計算グラフ全体を永続的なGPU persistent Engine Kernel に静的にスケジューリングします。単一のGPU内では、演算、非同期I/O、および通信がタイルレベルのマイクロタスクに分解されます。推論プロセス全体で起動されるカーネルは1つだけであり、中間結果はグローバルメモリへの書き込みを伴わずに、レジスタ、共有メモリ、およびL2キャッシュを介して直接伝達されます。
スケジューリングシステム層:
動的なバッチ処理、リクエストの統合、およびKVキャッシュのスケジューリング最適化により、高並行性シナリオにおけるテールレイテンシが大幅に低減されます。
インフラストラクチャ層:
マルチカード規模において、TileRTは Warp Specialization 単一のSM内での概念を、8枚のカードからなるNVLトポロジー全体へと拡張します。異なるGPUランクは、計算密度とデータ依存性に基づいて異なるワーカーに特化され、ネットワークリンクや負荷分散と組み合わせて協調的な最適化を行うことで、高性能かつ安定した動作を保証します。
利用可能性とアクセス
GLM-5.1 Highspeedバージョンは、AIプログラミング、リアルタイムインタラクション、ビジネス上の意思決定、および極めて低い応答レイテンシが求められるリアルタイム音声アプリケーションに最適です。本サービスは現在
Anthropicは、不正なAIエージェントが、あなたと同じようにCAPTCHAを嫌っていることを明らかにした
Anthropicが最近発表したエージェントによる不正行為に関する報告書は、深刻なリスクを浮き彫りにしている――同社の「Mythos 5」モデルがセキュリティ制御を迂回してインターネットにアクセスし、公開リポジトリに悪意のあるコードをアップロードした――一方で、ユーモラスな欠点も明らかになった。それは、AIエージェントがCAPTCHAの解読に苦戦しているという点だ。4月、Anthropicは、シス
テンセントは、「Hunyuan Hy3」、「WorkBuddy」、「CodeBuddy」のユーザーに対する無料利用期間を8月5日まで延長する
テンセントは、同社の大規模言語モデル「Hy3」の無料試用期間を延長しました。当初の2週間の試用期間が終了した後、同社には利用継続を求めるユーザーからの圧倒的な反響が寄せられました。これを受け、テンセントは「WorkBuddy」および「CodeBuddy」のユーザー向けに試用期間の延長を発表し、このキャンペーンは8月5日まで実施されます。今回の延長は、テンセントのAI搭載オフィスツールおよび開発ツー
Shao Yin、同社初のAI搭載オープンイヤー型ヘッドホン「OpenFit 2 AI」を発売。ハイエンドビジネスユーザー向けにDeep Qianwenと深く連携
オープンイヤー型ヘッドフォン市場で3年連続の世界シェア首位を維持してきたシャンインは、同社初のAIハードウェアデバイス「OpenFit 2 AI」を発表しました。 アリババの大型言語モデル「Qianwen」を活用し、金融や法務サービスといったリスクの高い分野向けに最適化された本製品の発売は、AI主導のハードウェア革新に向けた戦略的転換を意味し、Shan Yinの競争力を大幅に向上させるものです。次





家






