Совместная команда из Университета Цинхуа и компании Tencent выиграла глобальный чемпионат на соревнованиях MLSys2026 в области оптимизации моделей типа MoE. Они разработали полноценное решение для оптимизации моделей с триллионами параметров на аппаратном обеспечении NPU, включающее инновационные подходы, такие как разделение данных на части методом E-Shard и одновременное выполнение операций с использованием алгоритмов PSUM/GEMV. Благодаря автоматизированному оптимизатору под названием Knight время выполнения всей процедуры оптимизации сократилось с 14,91 секунды до 3,56 секунды, что привело к увеличению эффективности в 4,1 раза. Это решение представляет собой важный инженерный подход для использования крупных моделей типа MoE на будущих высокопроизводительных вычислительных платформах.
При нажатии на «Принять все файлы cookie» вы соглашаетесь на хранение файлов cookie на вашем устройстве для улучшения навигации по сайту, анализа использования сайта и поддержки наших маркетинговых усилий.Политика конфиденциальности Уведомление
При посещении любого веб-сайта он может хранить или получать информацию в вашем браузере, главным образом в виде файлов cookie. Эта информация может относиться к вам, вашим предпочтениям или вашему устройству и в основном используется для того, чтобы сайт работал так, как вы ожидаете. Эта информация обычно не идентифицирует вас напрямую, но может предоставить вам более персонализированный веб-опыт. Поскольку мы уважаем ваше право на конфиденциальность, вы можете отказаться от разрешения определенных типов файлов cookie. Нажмите на разные заголовки категорий, чтобы узнать больше и изменить наши параметры по умолчанию. Однако блокировка некоторых типов файлов cookie может повлиять на ваше восприятие сайта и предоставляемые нами услуги. Политика конфиденциальностиЗаявление
Управление предпочтениями
Строго необходимые файлы cookie
Всегда активен
Эти файлы cookie необходимы для работы веб-сайта и не могут быть отключены в наших системах. Обычно они устанавливаются только в ответ на ваши действия, которые являются запросом на предоставление услуг, например, настройка предпочтений конфиденциальности, вход в систему или заполнение форм. Вы можете настроить браузер на блокировку этих файлов cookie или оповещение о них, но тогда некоторые части сайта не будут работать. Эти файлы cookie не хранят никакой персональной информации, позволяющей идентифицировать вас.