家Moonshot AIと清華大学、データセンター向けのPrfaaSアーキテクチャを提案
大規模言語モデル（LLM）は推論処理においてより多くの計算能力を必要とするため、従来のサービスアーキテクチャではボトルネックが生じている。 Moonshot AIは、清華大学の研究チームと共同で、LLMサービスにおけるデータセンターや計算リソースの制約を克服することを目的とした、「Pre-filling as a Service（PrfaaS）」と呼ばれる新しいアーキテクチャを発表した。
大規模言語モデルの推論プロセスは、一般的に「プリフィリング」と「デコーディング」の 2 つの段階に分けられます。プリフィリングは計算負荷が高く、モデルが入力を処理してキーバリューキャッシュ（KVCache）を作成する段階です。一方、デコーディングはメモリ帯域幅を大量に消費し、出力を順次生成する段階です。 従来の構成では、これら両方の段階を同一のデータセンター内で実行する必要があり、計算能力や帯域幅の制約が生じていた。
PrfaaSは、プリフィリングタスクを専用の高演算クラスターにオフロードし、生成されたKVCacheを標準のイーサネットネットワークを介してローカルのデコーディングクラスターに転送することで、データセンター間を跨いだ効率的なサービスを実現します。研究によると、このアーキテクチャは処理性能を向上させ、従来のモデルと比較してサービススループットを54％向上させることが示されています。 実環境でのケーススタディでも、レイテンシの低減と効率の向上が確認されています。
PrfaaSアーキテクチャは、コンピューティング、ネットワーク、ストレージという3つの主要なサブシステムを分離し、それぞれを独立して管理します。精密なルーティングメカニズムにより、長尺のリクエストの効率的な伝送が保証され、従来のアプローチで見られるリソース配分の不均衡による輻輳が防止されます。さらに、デュアルタイムスケールスケジューリングメカニズムが変動するトラフィックパターンに適応し、リソース使用率をさらに最適化します。
データセンター間での推論に対する需要が高まり、新しいハードウェアが登場し続ける中、PrfaaSは将来のAIアプリケーションに向けた有望なソリューションを提供します。
関連記事
アリビデオ、Wan3.0を発表：超長編動画の生成と多次元の一貫性を実現
8月24日、アリババは最新の動画生成大規模モデル「Wan3.0」を発表しました。このリリースはアリババの動画技術における大きな飛躍を表しており、動画の長さ、汎用的な作成能力、参照画像の扱い、そして現実的な世界シミュレーションにおいて顕著な改善をもたらしました。Wan3.0は、単一の動画生成を最大30秒まで延長し、1つのショット内でより豊かな物語の可能性を提供します。また、doc、xls、ppt、pdf、mdなど主要なファイル形式のサポートを導入し、テキスト、表、スライドを動的な視覚コンテンツに直
MiniMaxの大型モデルが名前を誤って発音 - 西宇テクノロジー：特定のトークン後のトレーニング不足
MiniMaxは最近、M2シリーズのモデルが「馬嘉琪」のような特定の人名を正確に生成できなかった理由を詳述した技術レポートを公開しました。この明らかなエラーは、現在の大規模言語モデルのトレーニングにおける体系的な欠陥を浮き彫りにしています。トークンオフセット：圧縮されたベクトル空間根本的な原因はテキスト処理の基本単位であるトークナイザーにあります。例えば、「馬嘉琪」という名前は「Ma」と「Jiaqi」の2つのトークンに分割されます。モデルは事前トレーニング中にこれらのトークンを学習しましたが、そ
NvidiaのH200に関する中国との契約は、トランプ・習近平首脳会談を乗り切ったものの、予想通りにはいかなかった
トランプ大統領は、ジェンセン・フアン氏が土壇場で代表団に加わった状態で北京を訪問し、2日後に半導体輸出に関する今後の展開について曖昧な発言を残して帰国した。合意は成立しなかった。トランプ大統領が2025年12月に初めて販売を承認して以来、NvidiaのH200は1台も中国に届いていない。 ジェイミソン・グリア米通商代表はブルームバーグに対し、半導体規制については二国間協議の議題にすら上らなかったこ
関連特集おすすめ
デザインとアート
おすすめのAIイラスト作成ツール：編集用シーンや表紙アートを素早く作成
2026年最新・高評価のAIイラストレーションツール：当サイトが厳選したこのリストには、見事な編集用シーンや人目を引く表紙アートを素早く作成できる、高性能なツールが掲載されています。各ツールは実環境での厳格なテストを経ており、無料版と有料版の比較も掲載されているため、ご自身のワークフローに最適なツールを見つけるのに役立ちます。 今すぐこれらの「必見」ソリューションを試して、AIの力を最大限に活用し、クリエイティブな生産性を高めましょう。XIX.AIで今すぐチェックしてください。
10 ツール
xix.ai
教育と学習
試験対策に最適なAIチューター：数学、理科、英語の練習
2026年最新の、試験対策で高評価を得ている最高のAIチューターがXIX.AIに登場！厳選されたこのリストには、無料版と有料版の比較、実戦的なテスト、毎週更新されるランキングなどを提供する、画期的なツールが勢ぞろいしています。これらは、ライティングの効率を高め、複雑なトピックの学習を簡素化し、あなたの学業的な可能性を引き出すのに役立ちます。 今すぐチェックして、あなたにぴったりの試験対策ツールを見つけ、今日から作成を始めて、AIの力を最大限に活用しましょう！
10 ツール
xix.ai
ファイナンス
個人のお金管理のためのAI予算計画ツール
2026年の最新・最高評価のAI予算管理ツールがXIX.AIで登場！この厳選コレクションは、現実的なテストを行い、支出習慣を理解し、生産性を高めるためのパーソナライズされた計画を作成するのに役立つ革新的なソリューションを提供しています。無料版と有料版の比較や詳細なランキングもご用意しています。お金の管理を簡素化し、AIの優位性を引き出すためにぜひ試してほしいツールです。今すぐチェックしましょう！
11 ツール
xix.ai
健康とウェルネス
AI睡眠追跡アシスタント：より良い就寝習慣で回復力を高める
2026年最新かつ最高評価を受けているAI睡眠追跡アシスタントを厳選し、最適な回復を実現できるようご紹介します。完全に更新されたこの週間ガイドには、実際のテスト結果や無料版と有料版の比較、詳細なランキングなど、睡眠の質を向上させてより良い就寝習慣をサポートする最適なソリューションを見つけるのに役立つ強力なツールが掲載されています。今すぐXIX.AIでご覧ください。
10 ツール
xix.ai
データ分析
製品および収益分析のためのAI SQLコパイロット
2026年版 製品・収益分析に最適な、高評価のAI SQLコパイロット最新ランキング！ XIX.AIは、毎週更新されるランキングを通じて実環境でのテストを経た、強力で画期的な「ぜひ試すべきツール」を厳選しました。これらのツールは、データ分析を加速させ、複雑なクエリを効率化し、正確なインサイトを生成することで、ユーザーの生産性を大幅に向上させ、より賢明なビジネス意思決定を後押しします。今すぐチェックして、AIの真価を引き出すあなたにぴったりのツールを見つけましょう！
14 ツール
xix.ai
教育と学習
学びを促進する最高のAI宿題支援ツール：答えだけでなく、概念を学べる
2026年最新・最高評価のAI宿題サポートツール。単なる答えだけでなく、核心となる概念を教える、学生にとって強力なツール。ぜひ試してほしい厳選リスト。毎週更新。無料版と有料版の比較、実地テストによる正確なランキングで、あなたの学習能力を最大限に引き出します。今すぐチェックして、よりスマートな学習を実現するあなたにぴったりのツールを見つけましょう。
10 ツール
xix.ai
コメント (10)
0/500
![JuanJackson]()
Интересная архитектура PrfaS от Moonshot и Цинхуа для решения проблем с вычислительной мощностью LLM. Надеюсь, это поможет оптимизировать центры обработки данных! 🚀
![EricNelson]()
A arquitetura PrfaS proposta por Moonshot e Tsinghua é um passo interessante para resolver gargalos de computação em LLMs. Será que isso viabiliza data centers mais eficientes? 🤔
![WillieJones]()
La arquitectura PrfaS de Moonshot y Tsinghua parece una gran solución para los cuellos de botella en centros de datos con LLMs. ¡Esperamos ver resultados concretos pronto! 📈
![WillieRamirez]()
Moonshot AI und Tsinghua zeigen mit PrfaS einen vielversprechenden Ansatz gegen Rechenengpässe bei LLMs. Spannend zu sehen, wie diese Kooperation die Datenzukunft gestaltet! 🌐
![MateoAdams]()
대규모 LLM 추론에 필요한 컴퓨팅 파워를 위해 청화대와 Moonshot이 제안한 PrfaS 아키텍처가 흥미롭네요. 데이터 센터 병목 현상을 해결할 열쇠가 될지 주목됩니다! 🚀
![HarryNelson]()
Moonshot AI 和清華大學提出的 PrfaS 架構看起來很有潛力，特別是針對 LLM 推理時的算力瓶頸。不知道實際部署後效能如何，持續關注中！💻✨
大規模言語モデル（LLM）は推論処理においてより多くの計算能力を必要とするため、従来のサービスアーキテクチャではボトルネックが生じている。 Moonshot AIは、清華大学の研究チームと共同で、LLMサービスにおけるデータセンターや計算リソースの制約を克服することを目的とした、「Pre-filling as a Service（PrfaaS）」と呼ばれる新しいアーキテクチャを発表した。
大規模言語モデルの推論プロセスは、一般的に「プリフィリング」と「デコーディング」の 2 つの段階に分けられます。プリフィリングは計算負荷が高く、モデルが入力を処理してキーバリューキャッシュ（KVCache）を作成する段階です。一方、デコーディングはメモリ帯域幅を大量に消費し、出力を順次生成する段階です。 従来の構成では、これら両方の段階を同一のデータセンター内で実行する必要があり、計算能力や帯域幅の制約が生じていた。
PrfaaSは、プリフィリングタスクを専用の高演算クラスターにオフロードし、生成されたKVCacheを標準のイーサネットネットワークを介してローカルのデコーディングクラスターに転送することで、データセンター間を跨いだ効率的なサービスを実現します。研究によると、このアーキテクチャは処理性能を向上させ、従来のモデルと比較してサービススループットを54％向上させることが示されています。 実環境でのケーススタディでも、レイテンシの低減と効率の向上が確認されています。
PrfaaSアーキテクチャは、コンピューティング、ネットワーク、ストレージという3つの主要なサブシステムを分離し、それぞれを独立して管理します。精密なルーティングメカニズムにより、長尺のリクエストの効率的な伝送が保証され、従来のアプローチで見られるリソース配分の不均衡による輻輳が防止されます。さらに、デュアルタイムスケールスケジューリングメカニズムが変動するトラフィックパターンに適応し、リソース使用率をさらに最適化します。
データセンター間での推論に対する需要が高まり、新しいハードウェアが登場し続ける中、PrfaaSは将来のAIアプリケーションに向けた有望なソリューションを提供します。
アリビデオ、Wan3.0を発表：超長編動画の生成と多次元の一貫性を実現
8月24日、アリババは最新の動画生成大規模モデル「Wan3.0」を発表しました。このリリースはアリババの動画技術における大きな飛躍を表しており、動画の長さ、汎用的な作成能力、参照画像の扱い、そして現実的な世界シミュレーションにおいて顕著な改善をもたらしました。Wan3.0は、単一の動画生成を最大30秒まで延長し、1つのショット内でより豊かな物語の可能性を提供します。また、doc、xls、ppt、pdf、mdなど主要なファイル形式のサポートを導入し、テキスト、表、スライドを動的な視覚コンテンツに直
MiniMaxの大型モデルが名前を誤って発音 - 西宇テクノロジー：特定のトークン後のトレーニング不足
MiniMaxは最近、M2シリーズのモデルが「馬嘉琪」のような特定の人名を正確に生成できなかった理由を詳述した技術レポートを公開しました。この明らかなエラーは、現在の大規模言語モデルのトレーニングにおける体系的な欠陥を浮き彫りにしています。トークンオフセット：圧縮されたベクトル空間根本的な原因はテキスト処理の基本単位であるトークナイザーにあります。例えば、「馬嘉琪」という名前は「Ma」と「Jiaqi」の2つのトークンに分割されます。モデルは事前トレーニング中にこれらのトークンを学習しましたが、そ
NvidiaのH200に関する中国との契約は、トランプ・習近平首脳会談を乗り切ったものの、予想通りにはいかなかった
トランプ大統領は、ジェンセン・フアン氏が土壇場で代表団に加わった状態で北京を訪問し、2日後に半導体輸出に関する今後の展開について曖昧な発言を残して帰国した。合意は成立しなかった。トランプ大統領が2025年12月に初めて販売を承認して以来、NvidiaのH200は1台も中国に届いていない。 ジェイミソン・グリア米通商代表はブルームバーグに対し、半導体規制については二国間協議の議題にすら上らなかったこ
2026年最新・高評価のAIイラストレーションツール：当サイトが厳選したこのリストには、見事な編集用シーンや人目を引く表紙アートを素早く作成できる、高性能なツールが掲載されています。各ツールは実環境での厳格なテストを経ており、無料版と有料版の比較も掲載されているため、ご自身のワークフローに最適なツールを見つけるのに役立ちます。 今すぐこれらの「必見」ソリューションを試して、AIの力を最大限に活用し、クリエイティブな生産性を高めましょう。XIX.AIで今すぐチェックしてください。
10 ツール
xix.ai
2026年最新の、試験対策で高評価を得ている最高のAIチューターがXIX.AIに登場！厳選されたこのリストには、無料版と有料版の比較、実戦的なテスト、毎週更新されるランキングなどを提供する、画期的なツールが勢ぞろいしています。これらは、ライティングの効率を高め、複雑なトピックの学習を簡素化し、あなたの学業的な可能性を引き出すのに役立ちます。 今すぐチェックして、あなたにぴったりの試験対策ツールを見つけ、今日から作成を始めて、AIの力を最大限に活用しましょう！
10 ツール
xix.ai
2026年の最新・最高評価のAI予算管理ツールがXIX.AIで登場！この厳選コレクションは、現実的なテストを行い、支出習慣を理解し、生産性を高めるためのパーソナライズされた計画を作成するのに役立つ革新的なソリューションを提供しています。無料版と有料版の比較や詳細なランキングもご用意しています。お金の管理を簡素化し、AIの優位性を引き出すためにぜひ試してほしいツールです。今すぐチェックしましょう！
11 ツール
xix.ai
2026年最新かつ最高評価を受けているAI睡眠追跡アシスタントを厳選し、最適な回復を実現できるようご紹介します。完全に更新されたこの週間ガイドには、実際のテスト結果や無料版と有料版の比較、詳細なランキングなど、睡眠の質を向上させてより良い就寝習慣をサポートする最適なソリューションを見つけるのに役立つ強力なツールが掲載されています。今すぐXIX.AIでご覧ください。
10 ツール
xix.ai
2026年版 製品・収益分析に最適な、高評価のAI SQLコパイロット最新ランキング！ XIX.AIは、毎週更新されるランキングを通じて実環境でのテストを経た、強力で画期的な「ぜひ試すべきツール」を厳選しました。これらのツールは、データ分析を加速させ、複雑なクエリを効率化し、正確なインサイトを生成することで、ユーザーの生産性を大幅に向上させ、より賢明なビジネス意思決定を後押しします。今すぐチェックして、AIの真価を引き出すあなたにぴったりのツールを見つけましょう！
14 ツール
xix.ai
2026年最新・最高評価のAI宿題サポートツール。単なる答えだけでなく、核心となる概念を教える、学生にとって強力なツール。ぜひ試してほしい厳選リスト。毎週更新。無料版と有料版の比較、実地テストによる正確なランキングで、あなたの学習能力を最大限に引き出します。今すぐチェックして、よりスマートな学習を実現するあなたにぴったりのツールを見つけましょう。
10 ツール
xix.ai
Интересная архитектура PrfaS от Moonshot и Цинхуа для решения проблем с вычислительной мощностью LLM. Надеюсь, это поможет оптимизировать центры обработки данных! 🚀
A arquitetura PrfaS proposta por Moonshot e Tsinghua é um passo interessante para resolver gargalos de computação em LLMs. Será que isso viabiliza data centers mais eficientes? 🤔
La arquitectura PrfaS de Moonshot y Tsinghua parece una gran solución para los cuellos de botella en centros de datos con LLMs. ¡Esperamos ver resultados concretos pronto! 📈
Moonshot AI und Tsinghua zeigen mit PrfaS einen vielversprechenden Ansatz gegen Rechenengpässe bei LLMs. Spannend zu sehen, wie diese Kooperation die Datenzukunft gestaltet! 🌐
대규모 LLM 추론에 필요한 컴퓨팅 파워를 위해 청화대와 Moonshot이 제안한 PrfaS 아키텍처가 흥미롭네요. 데이터 센터 병목 현상을 해결할 열쇠가 될지 주목됩니다! 🚀
Moonshot AI 和清華大學提出的 PrfaS 架構看起來很有潛力，特別是針對 LLM 推理時的算力瓶頸。不知道實際部署後效能如何，持續關注中！💻✨
