Hogar
Moonshot AI y la Universidad de Tsinghua presentan la arquitectura PrfaaS para superar el cuello de botella en la potencia de cálculo de los modelos de gran tamaño
Las nuevas tecnologías están superando el cuello de botella en el rendimiento de los modelos de lenguaje a gran escala (LLM). Recientemente, investigadores de Moonshot AI (Moonshot) y la Universidad de Tsinghua presentaron una novedosa arquitectura denominada Prefill-as-a-Service (PrfaaS). Este estudio aborda las limitaciones de hardware en las implementaciones de servicios de modelos grandes en centros de datos mediante la optimización de la asignación de recursos de computación, lo que aumenta significativamente la eficiencia de la inferencia.
Avance técnico: una separación «quirúrgica» entre el prellenado y la decodificación
Actualmente, el proceso de inferencia de los modelos de lenguaje a gran escala consta de dos fases distintas:
Fase de prellenado: esta fase requiere un uso intensivo de recursos computacionales, ya que se encarga del procesamiento de la entrada y de generar la caché de clave-valor (KVCache).
Fase de decodificación: esta fase requiere un gran ancho de banda de memoria y genera la salida palabra por palabra.
En las arquitecturas tradicionales, ambas fases suelen gestionarse dentro del mismo centro de datos o incluso del mismo servidor. Dado que tienen necesidades de recursos de hardware diferentes, esta «agrupación forzada» suele crear un desequilibrio en la asignación de recursos de computación y ancho de banda, lo que provoca la congestión del servicio.
Innovación principal: colaboración eficiente entre regiones
La característica principalde PrfaaS es lograr un servicio desacoplado. Descarga las tareas de prellenado, que requieren un uso intensivo de recursos computacionales, a clústeres especializados de alta potencia de cálculo. Una vez completada la tarea, el sistema utiliza Ethernet estándar para transferir la KVCache generada de forma remota a un clúster de decodificación local.
Este diseño elimina las limitaciones de espacio físico, lo que permite que el prellenado y la decodificación se ejecuten simultáneamente en diferentes centros de datos. Para garantizar una transferencia eficiente, PrfaaS incorpora un mecanismo de programación de dos escalas temporales que asigna recursos de forma flexible en función de las fluctuaciones del tráfico en tiempo real, junto con un enrutamiento preciso para evitar que las solicitudes de texto largo se retrasen debido a una distribución desigual de los recursos.
Resultados de las pruebas: optimización del rendimiento y la latencia
Los datos de la investigación demuestran que la arquitectura PrfaaS ofrece un rendimiento notable en aplicaciones del mundo real:
El rendimiento del servicio aumentó un 54 %, lo que mejoró significativamente el número de solicitudes gestionadas por unidad de tiempo.
La latencia de respuesta se redujo significativamente, lo que agilizó la generación del primer token desde la perspectiva del usuario.
Se maximizó la utilización de los recursos al separar los subsistemas de computación, red y almacenamiento, evitando los problemas de congestión observados en las arquitecturas tradicionales.
La colaboración entre Moonshot AI y la Universidad de Tsinghua no solo ofrece nuevos enfoques de ingeniería para la inferencia de IA a gran escala, sino que también sienta las bases para futuras redes informáticas interregionales. Este modelo de Prefill-as-a-Service podría convertirse en un hito clave para llevar los modelos de gran tamaño hacia el despliegue industrial.
Artículo relacionado
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad
Recomendaciones de temas especiales relacionados
Diseño y Arte
Las mejores herramientas de ilustración con IA: crea escenas editoriales y portadas más rápido
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
Educación y aprendizaje
Los mejores profesores particulares de IA para la preparación de exámenes: practica matemáticas, ciencias e inglés
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
Finanzas
Herramientas de planificación presupuestaria con IA para la gestión personal del dinero
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Salud y bienestar
Asistentes de seguimiento del sueño basados en IA: mejora tu recuperación con mejores hábitos a la hora de acostarte
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
Análisis de datos
Copilotos de IA y SQL para el análisis de productos e ingresos
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
Educación y aprendizaje
Las mejores herramientas de IA para los deberes que realmente enseñan: aprende conceptos, no solo respuestas
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
comentario (1)
0/500
![HarryRoberts]()
Wait, so PrfaaS separates prefill from decode? That sounds like a smart way to reduce latency, but how does it handle memory overhead? 🤔
Las nuevas tecnologías están superando el cuello de botella en el rendimiento de los modelos de lenguaje a gran escala (LLM). Recientemente, investigadores de Moonshot AI (Moonshot) y la Universidad de Tsinghua presentaron una novedosa arquitectura denominada Prefill-as-a-Service (PrfaaS). Este estudio aborda las limitaciones de hardware en las implementaciones de servicios de modelos grandes en centros de datos mediante la optimización de la asignación de recursos de computación, lo que aumenta significativamente la eficiencia de la inferencia.
Avance técnico: una separación «quirúrgica» entre el prellenado y la decodificación
Actualmente, el proceso de inferencia de los modelos de lenguaje a gran escala consta de dos fases distintas:
Fase de prellenado: esta fase requiere un uso intensivo de recursos computacionales, ya que se encarga del procesamiento de la entrada y de generar la caché de clave-valor (KVCache).
Fase de decodificación: esta fase requiere un gran ancho de banda de memoria y genera la salida palabra por palabra.
En las arquitecturas tradicionales, ambas fases suelen gestionarse dentro del mismo centro de datos o incluso del mismo servidor. Dado que tienen necesidades de recursos de hardware diferentes, esta «agrupación forzada» suele crear un desequilibrio en la asignación de recursos de computación y ancho de banda, lo que provoca la congestión del servicio.
Innovación principal: colaboración eficiente entre regiones
La característica principal
Este diseño elimina las limitaciones de espacio físico, lo que permite que el prellenado y la decodificación se ejecuten simultáneamente en diferentes centros de datos. Para garantizar una transferencia eficiente, PrfaaS incorpora un mecanismo de programación de dos escalas temporales que asigna recursos de forma flexible en función de las fluctuaciones del tráfico en tiempo real, junto con un enrutamiento preciso para evitar que las solicitudes de texto largo se retrasen debido a una distribución desigual de los recursos.
Resultados de las pruebas: optimización del rendimiento y la latencia
Los datos de la investigación demuestran que la arquitectura PrfaaS ofrece un rendimiento notable en aplicaciones del mundo real:
El rendimiento del servicio aumentó un 54 %, lo que mejoró significativamente el número de solicitudes gestionadas por unidad de tiempo.
La latencia de respuesta se redujo significativamente, lo que agilizó la generación del primer token desde la perspectiva del usuario.
Se maximizó la utilización de los recursos al separar los subsistemas de computación, red y almacenamiento, evitando los problemas de congestión observados en las arquitecturas tradicionales.
La colaboración entre Moonshot AI y la Universidad de Tsinghua no solo ofrece nuevos enfoques de ingeniería para la inferencia de IA a gran escala, sino que también sienta las bases para futuras redes informáticas interregionales. Este modelo de Prefill-as-a-Service podría convertirse en un hito clave para llevar los modelos de gran tamaño hacia el despliegue industrial.
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
El exinvestigador de OpenAI, Barrett Zoph, regresa a Google para colaborar en el desarrollo de Gemini
Barret Zoph, que anteriormente abandonó de forma repentina la empresa para incorporarse a OpenAI debido a un desacuerdo con la directora general de Thinking Machines Lab, Miriam Mularati, ha vuelto a
Cómo Recursive Intelligence recaudó 335 millones de dólares con una valoración de 4.000 millones de dólares en cuatro meses
Las cofundadoras de la startup Ricursive Intelligence parecían destinadas a ser cofundadoras.Anna Goldie, directora ejecutiva, y Azalia Mirhoseini, directora técnica, son tan conocidas en la comunidad
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
Wait, so PrfaaS separates prefill from decode? That sounds like a smart way to reduce latency, but how does it handle memory overhead? 🤔
