вариант
Дом
Срочные новости
Содержание
RyanLopez
RyanLopez
25 мая 2026 г.

Совместная команда из Университета Цинхуа и компании Tencent выиграла глобальный чемпионат на соревнованиях MLSys2026 в области оптимизации моделей типа MoE. Они разработали полноценное решение для оптимизации моделей с триллионами параметров на аппаратном обеспечении NPU, включающее инновационные подходы, такие как разделение данных на части методом E-Shard и одновременное выполнение операций с использованием алгоритмов PSUM/GEMV. Благодаря автоматизированному оптимизатору под названием Knight время выполнения всей процедуры оптимизации сократилось с 14,91 секунды до 3,56 секунды, что привело к увеличению эффективности в 4,1 раза. Это решение представляет собой важный инженерный подход для использования крупных моделей типа MoE на будущих высокопроизводительных вычислительных платформах.

Совместная команда из Университета Цинхуа и компании Tencent выиграла глобальный чемпионат на соревнованиях MLSys2026 в области оптимизации моделей типа MoE. Они разработали полноценное решение для оптимизации моделей с триллионами параметров на аппаратном обеспечении NPU, включающее инновационные подходы, такие как разделение данных на части методом E-Shard и одновременное выполнение операций с использованием алгоритмов PSUM/GEMV. Благодаря автоматизированному оптимизатору под названием Knight время выполнения всей процедуры оптимизации сократилось с 14,91 секунды до 3,56 секунды, что привело к увеличению эффективности в 4,1 раза. Это решение представляет собой важный инженерный подход для использования крупных моделей типа MoE на будущих высокопроизводительных вычислительных платформах. Совместная команда из Университета Цинхуа и компании Tencent выиграла глобальный чемпионат на соревнованиях MLSys2026 в области оптимизации моделей типа MoE. Они разработали полноценное решение для оптимизации моделей с триллионами параметров на аппаратном обеспечении NPU, включающее инновационные подходы, такие как разделение данных на части методом E-Shard и одновременное выполнение операций с использованием алгоритмов PSUM/GEMV. Благодаря автоматизированному оптимизатору под названием Knight время выполнения всей процедуры оптимизации сократилось с 14,91 секунды до 3,56 секунды, что привело к увеличению эффективности в 4,1 раза. Это решение представляет собой важный инженерный подход для использования крупных моделей типа MoE на будущих высокопроизводительных вычислительных платформах.
OR