Un equipo conjunto de la Universidad de Tsinghua y Tencent ganó el campeonato mundial en el desafío de optimización de inferencia de modelos MoE de MLSys2026, organizado por el Ministerio de Educación. Desarrollaron una solución de optimización completa para modelos MoE con billones de parámetros, utilizando hardware NPU, y incorporaron estrategias innovadoras como la partición E-Shard y la concurrencia mediante PSUM/GEMV. Gracias a un optimizador automático llamado Knight, su enfoque redujo el tiempo total de inferencia de 14.91 segundos a 3.56 segundos, lo que representa una aceleración del rendimiento de 4.1 veces. Este resultado constituye un modelo técnico clave para la implementación de modelos MoE de gran escala en futuras plataformas de computación de super-nodos.
Al hacer clic en "Aceptar todos los cookies", usted acepta el almacenamiento de cookies en su dispositivo para mejorar la navegación por el sitio, analizar el uso del sitio y ayudar en nuestros esfuerzos de marketing.Política de privacidad Aviso
Al visitar cualquier sitio web, este puede almacenar o recuperar información en su navegador, principalmente en forma de cookies. Esta información puede referirse a usted, sus preferencias o su dispositivo y se usa principalmente para que el sitio funcione como espera. Por lo general, la información no lo identifica directamente, pero puede brindarle una experiencia web más personalizada. Debido a que respetamos su derecho a la privacidad, puede optar por no permitir algunos tipos de cookies. Haga clic en los diferentes títulos de categoría para obtener más información y cambiar nuestros ajustes predeterminados. Sin embargo, bloquear algunos tipos de cookies puede afectar su experiencia en el sitio y los servicios que podemos ofrecer. Política de privacidadDeclaración
Gestionar preferencias
Cookie estrictamente necesario
Siempre activo
Estos cookies son necesarios para que el sitio web funcione y no pueden ser desactivados en nuestros sistemas. Por lo general, solo se establecen en respuesta a acciones que realice usted que equivalen a una solicitud de servicios, como configurar sus preferencias de privacidad, iniciar sesión o completar formularios. Puede configurar su navegador para bloquear estos cookies o alertarle sobre ellos, pero algunas partes del sitio no funcionarán luego. Estos cookies no almacenan ninguna información que permita identificar personalmente.