Дом
Компания Moonshot AI и Университет Цинхуа предлагают архитектуру PrfaaS для центров обработки данных
Поскольку крупные языковые модели (LLM) требуют все большей вычислительной мощности при выполнении логических операций, традиционные архитектуры сервисов сталкиваются с «узкими местами». Компания Moonshot AI в сотрудничестве с исследовательской группой из Университета Цинхуа представила новую архитектуру под названием Pre-filling as a Service (PrfaaS), призванную преодолеть ограничения, связанные с дата-центрами и вычислительными ресурсами в сервисах LLM.
Процесс вывода заключений в крупных языковых моделях обычно делится на две фазы: предварительное заполнение (pre-filling) и декодирование. Этап предварительного заполнения является вычислительно интенсивным: модель обрабатывает входные данные и создает кэш «ключ-значение» (KVCache). Этап декодирования требует высокой пропускной способности памяти и генерирует выходные данные последовательно. Традиционные конфигурации требуют, чтобы оба этапа выполнялись в пределах одного и того же центра обработки данных, что приводит к ограничениям по вычислительной мощности и пропускной способности.
PrfaaS обеспечивает эффективное межцентровое обслуживание за счет переноса задач предварительного заполнения на выделенные кластеры с высокой вычислительной мощностью, используя стандартную сеть Ethernet для передачи сгенерированного KVCache в локальные кластеры декодирования. Исследования показывают, что эта архитектура повышает производительность обработки, обеспечивая увеличение пропускной способности сервиса на 54 % по сравнению с традиционными моделями. Реальные примеры из практики также демонстрируют более низкую задержку и более высокую эффективность.
Архитектура PrfaaS разделяет три основные подсистемы — вычислительную, сетевую и хранилища — и управляет каждой из них независимо. Точный механизм маршрутизации обеспечивает эффективную передачу длинных запросов, предотвращая перегрузки, возникающие из-за неравномерного распределения ресурсов, характерного для традиционных подходов. Кроме того, механизм планирования с двумя временными масштабами адаптируется к изменяющимся моделям трафика, дополнительно оптимизируя использование ресурсов.
По мере роста спроса на вычисления, охватывающие несколько центров обработки данных, и появления нового оборудования PrfaaS предлагает многообещающее решение для будущих приложений искусственного интеллекта.
Связанная статья
AliVideo представляет Wan3.0, обеспечивающий генерацию сверхдлинных видео и многомерную согласованность
24 августа Alibaba представила Wan3.0, свою новейшую большую модель для генерации видео. Этот выпуск представляет собой значительный скачок в развитии видеотехнологий Alibaba, обеспечивая существенные улучшения в продолжительности, универсальном созд
MiniMax Large Model Mispronounces Names - Xiyu Technology: Insufficient Training After Specific Tokens
Недавно компания MiniMax опубликовала технический отчет, в котором подробно объясняется, почему её модели серии M2 испытывали трудности с точной генерацией конкретных имён, таких как «Ма Цзяци». Эта очевидная ошибка выявляет системный недостаток в те
Сделка Nvidia по поставкам H200 в Китай пережила саммит Трампа и Си, но не так, как ожидалось
Президент Трамп отправился в Пекин, причем Дженсен Хуанг присоединился к делегации в последний момент, а через два дня они улетели, оставив лишь расплывчатые заявления о возможных изменениях в сфере э
Рекомендации по связанным специальным темам
Дизайн и искусство
Лучшие инструменты для создания иллюстраций с помощью ИИ: быстрее создавайте редакционные сцены и обложки
2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.
10 инструментов
xix.ai
Образование и обучение
Лучшие репетиторы по искусственному интеллекту для подготовки к экзаменам: практикуйтесь по математике, естественным наукам и английскому языку
2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!
10 инструментов
xix.ai
Финансы
Инструменты планирования бюджета на основе ИИ для управления личными финансами
В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!
11 инструментов
xix.ai
Здоровье и благополучие
Помощники для отслеживания сна с ИИ: улучшите восстановление за счёт более правильных привычек перед сном
2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.
10 инструментов
xix.ai
Анализ данных
AI-копилоты SQL для аналитики продуктов и выручки
2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!
14 инструментов
xix.ai
Образование и обучение
Лучшие помощники по домашним заданиям с ИИ, которые учат: изучайте концепции, а не просто ответы
2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.
10 инструментов
xix.ai
Комментарии (10)
![JuanJackson]()
Интересная архитектура PrfaS от Moonshot и Цинхуа для решения проблем с вычислительной мощностью LLM. Надеюсь, это поможет оптимизировать центры обработки данных! 🚀
![EricNelson]()
A arquitetura PrfaS proposta por Moonshot e Tsinghua é um passo interessante para resolver gargalos de computação em LLMs. Será que isso viabiliza data centers mais eficientes? 🤔
![WillieJones]()
La arquitectura PrfaS de Moonshot y Tsinghua parece una gran solución para los cuellos de botella en centros de datos con LLMs. ¡Esperamos ver resultados concretos pronto! 📈
![WillieRamirez]()
Moonshot AI und Tsinghua zeigen mit PrfaS einen vielversprechenden Ansatz gegen Rechenengpässe bei LLMs. Spannend zu sehen, wie diese Kooperation die Datenzukunft gestaltet! 🌐
![MateoAdams]()
대규모 LLM 추론에 필요한 컴퓨팅 파워를 위해 청화대와 Moonshot이 제안한 PrfaS 아키텍처가 흥미롭네요. 데이터 센터 병목 현상을 해결할 열쇠가 될지 주목됩니다! 🚀
![HarryNelson]()
Moonshot AI 和清華大學提出的 PrfaS 架構看起來很有潛力，特別是針對 LLM 推理時的算力瓶頸。不知道實際部署後效能如何，持續關注中！💻✨
Поскольку крупные языковые модели (LLM) требуют все большей вычислительной мощности при выполнении логических операций, традиционные архитектуры сервисов сталкиваются с «узкими местами». Компания Moonshot AI в сотрудничестве с исследовательской группой из Университета Цинхуа представила новую архитектуру под названием Pre-filling as a Service (PrfaaS), призванную преодолеть ограничения, связанные с дата-центрами и вычислительными ресурсами в сервисах LLM.
Процесс вывода заключений в крупных языковых моделях обычно делится на две фазы: предварительное заполнение (pre-filling) и декодирование. Этап предварительного заполнения является вычислительно интенсивным: модель обрабатывает входные данные и создает кэш «ключ-значение» (KVCache). Этап декодирования требует высокой пропускной способности памяти и генерирует выходные данные последовательно. Традиционные конфигурации требуют, чтобы оба этапа выполнялись в пределах одного и того же центра обработки данных, что приводит к ограничениям по вычислительной мощности и пропускной способности.
PrfaaS обеспечивает эффективное межцентровое обслуживание за счет переноса задач предварительного заполнения на выделенные кластеры с высокой вычислительной мощностью, используя стандартную сеть Ethernet для передачи сгенерированного KVCache в локальные кластеры декодирования. Исследования показывают, что эта архитектура повышает производительность обработки, обеспечивая увеличение пропускной способности сервиса на 54 % по сравнению с традиционными моделями. Реальные примеры из практики также демонстрируют более низкую задержку и более высокую эффективность.
Архитектура PrfaaS разделяет три основные подсистемы — вычислительную, сетевую и хранилища — и управляет каждой из них независимо. Точный механизм маршрутизации обеспечивает эффективную передачу длинных запросов, предотвращая перегрузки, возникающие из-за неравномерного распределения ресурсов, характерного для традиционных подходов. Кроме того, механизм планирования с двумя временными масштабами адаптируется к изменяющимся моделям трафика, дополнительно оптимизируя использование ресурсов.
По мере роста спроса на вычисления, охватывающие несколько центров обработки данных, и появления нового оборудования PrfaaS предлагает многообещающее решение для будущих приложений искусственного интеллекта.
AliVideo представляет Wan3.0, обеспечивающий генерацию сверхдлинных видео и многомерную согласованность
24 августа Alibaba представила Wan3.0, свою новейшую большую модель для генерации видео. Этот выпуск представляет собой значительный скачок в развитии видеотехнологий Alibaba, обеспечивая существенные улучшения в продолжительности, универсальном созд
MiniMax Large Model Mispronounces Names - Xiyu Technology: Insufficient Training After Specific Tokens
Недавно компания MiniMax опубликовала технический отчет, в котором подробно объясняется, почему её модели серии M2 испытывали трудности с точной генерацией конкретных имён, таких как «Ма Цзяци». Эта очевидная ошибка выявляет системный недостаток в те
Сделка Nvidia по поставкам H200 в Китай пережила саммит Трампа и Си, но не так, как ожидалось
Президент Трамп отправился в Пекин, причем Дженсен Хуанг присоединился к делегации в последний момент, а через два дня они улетели, оставив лишь расплывчатые заявления о возможных изменениях в сфере э
2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.
10 инструментов
xix.ai
2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!
10 инструментов
xix.ai
В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!
11 инструментов
xix.ai
2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.
10 инструментов
xix.ai
2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!
14 инструментов
xix.ai
2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.
10 инструментов
xix.ai
Интересная архитектура PrfaS от Moonshot и Цинхуа для решения проблем с вычислительной мощностью LLM. Надеюсь, это поможет оптимизировать центры обработки данных! 🚀
A arquitetura PrfaS proposta por Moonshot e Tsinghua é um passo interessante para resolver gargalos de computação em LLMs. Será que isso viabiliza data centers mais eficientes? 🤔
La arquitectura PrfaS de Moonshot y Tsinghua parece una gran solución para los cuellos de botella en centros de datos con LLMs. ¡Esperamos ver resultados concretos pronto! 📈
Moonshot AI und Tsinghua zeigen mit PrfaS einen vielversprechenden Ansatz gegen Rechenengpässe bei LLMs. Spannend zu sehen, wie diese Kooperation die Datenzukunft gestaltet! 🌐
대규모 LLM 추론에 필요한 컴퓨팅 파워를 위해 청화대와 Moonshot이 제안한 PrfaS 아키텍처가 흥미롭네요. 데이터 센터 병목 현상을 해결할 열쇠가 될지 주목됩니다! 🚀
Moonshot AI 和清華大學提出的 PrfaS 架構看起來很有潛力，特別是針對 LLM 推理時的算力瓶頸。不知道實際部署後效能如何，持續關注中！💻✨
