志普、GLM-5.1高速版で世界のAI速度記録を更新
中国の有名なAIチームであるZhipuは本日、選定された企業顧客向けに新しいGLM-5.1 Highspeed APIのリリースを正式に発表しました。コードネーム「GLM-5.1-highspeed」と呼ばれるこのモデルは、リリース以来業界を驚かせており、毎秒400トークンの出力速度を実現しています。
この数値は、主要な大規模モデルプロバイダーが設定した現在の世界のAPI速度ベンチマークを直接上回っており、その優れた技術力を示しています。以前、AI業界ではモデルの速度とサイズは相互に排他的なものであり、高い速度を実現するには通常、モデルの機能性を犠牲にしなければならないと考えられていました。
業界の常識を打ち破るフラッグシップ性能
しかし、GLM-5.1 Highspeedバージョンは、「速さはサイズが小さいことを意味する」という長年にわたる業界の信念を覆しました。国内の大規模モデルとして初めて、フラッグシップレベルの技術力と超低遅延を実世界の生産環境に持ち込むことに成功しました。
報道によると、このモデルはZhipuのGLMチームとTileRTチームが共同で開発したものです。両チームは、推論エンジン、スケジューリングシステム、基盤インフラの3つのレベルで徹底的なシステムレベルの最適化を行い、従来の動的スケジューリングから脱却しました。
3層の最適化により安定した出力が実現
技術的な側面では、開発チームはモデルアーキテクチャのコア推論パスを書き換えて単一カードの処理能力を向上させるだけでなく、動的バッチングなどの技術を用いて高並行性のシナリオにおける遅延も低減しました。同時に、インフラ周辺の協調的最適化により、毎秒400トークンという安定した生産レベルの能力が実現されました。
この高速モデルは広範な応用可能性を持っており、特に厳格な応答遅延が求められるシナリオに非常に適しています。AIプログラミング、リアルタイムの音声対話、頻繁なビジネス決定など、このモデルは現在ZhipuのMaaSプラットフォーム上で選定された企業向けに提供されています。
関連記事
ChatGPTの深い統合により、会話を通じて30万本の映画やテレビ番組にアクセス可能に
ストリーミングサービスが市場を無限のコンテンツで埋め尽くす中、ユーザーが情報の洪水の中から本当に見たいものを見つけられるよう支援することが、業界にとって重要な課題として浮上している。4月9日、大手ストリーミングプロバイダー各社は、ChatGPTアプリケーションエコシステムの統合を正式に発表した。この技術をネイティブに組み込んだ初のプラットフォームとなることで、同サービスはAIを活用したインサイトを
SEOランキング向上のためにCore Web Vitalsを改善する方法
AIを活用した文字起こしで、動画編集のワークフローを一新しましょう目次:はじめに自動文字起こしの主なメリット精度の確保と出力の精緻化文字起こしデータの検索機能の活用既存ファイルのシームレスなインポートTranscript.comのご紹介Transcript.comで編集が簡単になる柔軟なエクスポート形式包括的な言語サポートまとめはじめにTranscriptedは、AIを活用して自動文字起こしを生成
DingTalk、AliAIの「MuleRun」を活用してアーキテクチャを再構築し、「フルエージェント時代」を幕開け
DingTalkの新CEO兼「悟空」事業部門責任者の陳宇森氏は、本日午後に発行された社内メモの中で、大規模な組織再編を明らかにした。「コアプラットフォーム事業部」を新設し、AIエージェントチームを完全に統合することで、DingTalkは企業向けコラボレーションエコシステムのインテリジェント化を加速させている。今回の再編は、AI技術を中核事業運営に深く統合することを主眼としている。DingTalkは
関連特集おすすめ
コメント (0)
0/500
中国の有名なAIチームであるZhipuは本日、選定された企業顧客向けに新しいGLM-5.1 Highspeed APIのリリースを正式に発表しました。コードネーム「GLM-5.1-highspeed」と呼ばれるこのモデルは、リリース以来業界を驚かせており、毎秒400トークンの出力速度を実現しています。
この数値は、主要な大規模モデルプロバイダーが設定した現在の世界のAPI速度ベンチマークを直接上回っており、その優れた技術力を示しています。以前、AI業界ではモデルの速度とサイズは相互に排他的なものであり、高い速度を実現するには通常、モデルの機能性を犠牲にしなければならないと考えられていました。
業界の常識を打ち破るフラッグシップ性能
しかし、GLM-5.1 Highspeedバージョンは、「速さはサイズが小さいことを意味する」という長年にわたる業界の信念を覆しました。国内の大規模モデルとして初めて、フラッグシップレベルの技術力と超低遅延を実世界の生産環境に持ち込むことに成功しました。
報道によると、このモデルはZhipuのGLMチームとTileRTチームが共同で開発したものです。両チームは、推論エンジン、スケジューリングシステム、基盤インフラの3つのレベルで徹底的なシステムレベルの最適化を行い、従来の動的スケジューリングから脱却しました。
3層の最適化により安定した出力が実現
技術的な側面では、開発チームはモデルアーキテクチャのコア推論パスを書き換えて単一カードの処理能力を向上させるだけでなく、動的バッチングなどの技術を用いて高並行性のシナリオにおける遅延も低減しました。同時に、インフラ周辺の協調的最適化により、毎秒400トークンという安定した生産レベルの能力が実現されました。
この高速モデルは広範な応用可能性を持っており、特に厳格な応答遅延が求められるシナリオに非常に適しています。AIプログラミング、リアルタイムの音声対話、頻繁なビジネス決定など、このモデルは現在ZhipuのMaaSプラットフォーム上で選定された企業向けに提供されています。
ChatGPTの深い統合により、会話を通じて30万本の映画やテレビ番組にアクセス可能に
ストリーミングサービスが市場を無限のコンテンツで埋め尽くす中、ユーザーが情報の洪水の中から本当に見たいものを見つけられるよう支援することが、業界にとって重要な課題として浮上している。4月9日、大手ストリーミングプロバイダー各社は、ChatGPTアプリケーションエコシステムの統合を正式に発表した。この技術をネイティブに組み込んだ初のプラットフォームとなることで、同サービスはAIを活用したインサイトを
SEOランキング向上のためにCore Web Vitalsを改善する方法
AIを活用した文字起こしで、動画編集のワークフローを一新しましょう目次:はじめに自動文字起こしの主なメリット精度の確保と出力の精緻化文字起こしデータの検索機能の活用既存ファイルのシームレスなインポートTranscript.comのご紹介Transcript.comで編集が簡単になる柔軟なエクスポート形式包括的な言語サポートまとめはじめにTranscriptedは、AIを活用して自動文字起こしを生成
DingTalk、AliAIの「MuleRun」を活用してアーキテクチャを再構築し、「フルエージェント時代」を幕開け
DingTalkの新CEO兼「悟空」事業部門責任者の陳宇森氏は、本日午後に発行された社内メモの中で、大規模な組織再編を明らかにした。「コアプラットフォーム事業部」を新設し、AIエージェントチームを完全に統合することで、DingTalkは企業向けコラボレーションエコシステムのインテリジェント化を加速させている。今回の再編は、AI技術を中核事業運営に深く統合することを主眼としている。DingTalkは





家






