オプション
家
速報
コンテンツ
RyanLopez
RyanLopez
2026年5月25日

清華大学とテンセントの共同チームが、MLSys2026のMoEモデル推論最適化チャレンジで世界チャンピオンに輝きました。彼らはNPUハードウェア上で使用されるトリリオンパラメータを持つMoEモデル向けのフルチェーン最適化ソリューションを開発し、E-Shard分割やPSUM/GEMV並行処理といった新規な戦略を採用しました。Knightと呼ばれる自動最適化ツールの助けを借りて、彼らのアプローチによりエンドトゥーエンドの推論時間が14.91秒から3.56秒に短縮され、性能が4.1倍に向上しました。これは、将来のスーパーノードコンピューティングプラットフォーム上で大規模なMoEモデルを展開するための重要な工学的パラダイムを提供しています。

清華大学とテンセントの共同チームが、MLSys2026のMoEモデル推論最適化チャレンジで世界チャンピオンに輝きました。彼らはNPUハードウェア上で使用されるトリリオンパラメータを持つMoEモデル向けのフルチェーン最適化ソリューションを開発し、E-Shard分割やPSUM/GEMV並行処理といった新規な戦略を採用しました。Knightと呼ばれる自動最適化ツールの助けを借りて、彼らのアプローチによりエンドトゥーエンドの推論時間が14.91秒から3.56秒に短縮され、性能が4.1倍に向上しました。これは、将来のスーパーノードコンピューティングプラットフォーム上で大規模なMoEモデルを展開するための重要な工学的パラダイムを提供しています。 清華大学とテンセントの共同チームが、MLSys2026のMoEモデル推論最適化チャレンジで世界チャンピオンに輝きました。彼らはNPUハードウェア上で使用されるトリリオンパラメータを持つMoEモデル向けのフルチェーン最適化ソリューションを開発し、E-Shard分割やPSUM/GEMV並行処理といった新規な戦略を採用しました。Knightと呼ばれる自動最適化ツールの助けを借りて、彼らのアプローチによりエンドトゥーエンドの推論時間が14.91秒から3.56秒に短縮され、性能が4.1倍に向上しました。これは、将来のスーパーノードコンピューティングプラットフォーム上で大規模なMoEモデルを展開するための重要な工学的パラダイムを提供しています。
コメント (0)
0/300
OR