Hogar
AMD lanza el complemento vLLM-ATOM para acelerar la inferencia de modelos de gran tamaño

Recientemente, AMD ha presentado oficialmente un nuevo complemento denominado vLLM-ATOM. Su objetivo principal es aprovechar al máximo el potencial del hardware sin alterar los flujos de trabajo existentes, lo que permite una aceleración significativa de la inferencia en modelos de lenguaje a gran escala de uso general, como DeepSeek-R1, Kimi-K2 y gpt-oss-120B.
Para los desarrolladores, vLLM es un marco de código abierto diseñado para optimizar el rendimiento y el uso de la memoria de la GPU en entornos de alta concurrencia. A diferencia de las herramientas tradicionales de solicitud única, se centra en la programación de solicitudes y la gestión de la caché. El nuevo complemento ATOM de AMD es una solución altamente personalizada, creada específicamente para las GPU Instinct. Su característica más destacada es la «migración sin fisuras»: los usuarios empresariales no necesitan modificar las interfaces API, los comandos ni los flujos de trabajo de extremo a extremo existentes; el complemento se encarga automáticamente de la optimización del rendimiento subyacente en segundo plano.
Desde el punto de vista de la arquitectura técnica, vLLM-ATOM emplea un diseño preciso de tres capas. La capa superior conserva la programación de solicitudes y la interfaz de compatibilidad de vLLM. La capa intermedia, el complemento ATOM, gestiona la implementación del modelo y la optimización del kernel. La capa inferior, AITER, se conecta directamente al hardware de la GPU, proporcionando capacidades de aceleración fundamentales como Flash Attention, GEMM cuantificado y MoE fusionado.
Este complemento está destinado principalmente a tarjetas de computación con GPU de alto rendimiento como Instinct MI350, MI400 y MI355X. Su lista de compatibilidad incluye modelos emblemáticos como Qwen3, GLM y DeepSeek, y ofrece una cobertura completa de diversas arquitecturas, entre las que se incluyen MoE (Mixture of Experts), modelos densos y modelos de visión-lenguaje (VLM).
Los analistas del sector señalan que el valor fundamental de esta solución radica en reducir considerablemente las barreras de implementación de la computación de alto rendimiento. Gracias a este enfoque de migración fluida y sin curva de aprendizaje, las empresas pueden trasladar más fácilmente los servicios de IA al backend de hardware de AMD, manteniendo la eficiencia de la inferencia al tiempo que mejoran de forma efectiva la estabilidad y la velocidad de respuesta de los servicios en línea con modelos de gran tamaño.
Artículo relacionado
El director general de Anthropic esboza un plan para marcar el ritmo en la vanguardia
Los investigadores en IA han lanzado advertencias cada vez más urgentes sobre los riesgos de la inteligencia artificial, y el director ejecutivo de OpenAI, Sam Altman, ha sugerido que quizá sea el mom
48 horas para TechCrunch Disrupt 2026: Escucha a los creadores que están definiendo el futuro
Con menos de 48 horas para el inicio, TechCrunch Disrupt 2026 arranca en el Moscone West de San Francisco. Asegura tu entrada con hasta 100 dólares de descuento antes de que suban los precios en taquilla. Además, obtén una segunda entrada al 50% de d
Los informes sobre ataques informáticos a OpenAI, ahora ante el Consejo de Seguridad de la IA de la ONU
Yoshua Bengio pronunció el discurso de apertura en una sesión del Consejo de Seguridad de la ONU sobre la seguridad de la IA. Crédito: ONUHan salido a la luz informes sobre un incidente relacionado co
Recomendaciones de temas especiales relacionados
comentario (1)
0/500

Recientemente, AMD ha presentado oficialmente un nuevo complemento denominado vLLM-ATOM. Su objetivo principal es aprovechar al máximo el potencial del hardware sin alterar los flujos de trabajo existentes, lo que permite una aceleración significativa de la inferencia en modelos de lenguaje a gran escala de uso general, como DeepSeek-R1, Kimi-K2 y gpt-oss-120B.
Para los desarrolladores, vLLM es un marco de código abierto diseñado para optimizar el rendimiento y el uso de la memoria de la GPU en entornos de alta concurrencia. A diferencia de las herramientas tradicionales de solicitud única, se centra en la programación de solicitudes y la gestión de la caché. El nuevo complemento ATOM de AMD es una solución altamente personalizada, creada específicamente para las GPU Instinct. Su característica más destacada es la «migración sin fisuras»: los usuarios empresariales no necesitan modificar las interfaces API, los comandos ni los flujos de trabajo de extremo a extremo existentes; el complemento se encarga automáticamente de la optimización del rendimiento subyacente en segundo plano.
Desde el punto de vista de la arquitectura técnica, vLLM-ATOM emplea un diseño preciso de tres capas. La capa superior conserva la programación de solicitudes y la interfaz de compatibilidad de vLLM. La capa intermedia, el complemento ATOM, gestiona la implementación del modelo y la optimización del kernel. La capa inferior, AITER, se conecta directamente al hardware de la GPU, proporcionando capacidades de aceleración fundamentales como Flash Attention, GEMM cuantificado y MoE fusionado.
Este complemento está destinado principalmente a tarjetas de computación con GPU de alto rendimiento como Instinct MI350, MI400 y MI355X. Su lista de compatibilidad incluye modelos emblemáticos como Qwen3, GLM y DeepSeek, y ofrece una cobertura completa de diversas arquitecturas, entre las que se incluyen MoE (Mixture of Experts), modelos densos y modelos de visión-lenguaje (VLM).
Los analistas del sector señalan que el valor fundamental de esta solución radica en reducir considerablemente las barreras de implementación de la computación de alto rendimiento. Gracias a este enfoque de migración fluida y sin curva de aprendizaje, las empresas pueden trasladar más fácilmente los servicios de IA al backend de hardware de AMD, manteniendo la eficiencia de la inferencia al tiempo que mejoran de forma efectiva la estabilidad y la velocidad de respuesta de los servicios en línea con modelos de gran tamaño.
El director general de Anthropic esboza un plan para marcar el ritmo en la vanguardia
Los investigadores en IA han lanzado advertencias cada vez más urgentes sobre los riesgos de la inteligencia artificial, y el director ejecutivo de OpenAI, Sam Altman, ha sugerido que quizá sea el mom
48 horas para TechCrunch Disrupt 2026: Escucha a los creadores que están definiendo el futuro
Con menos de 48 horas para el inicio, TechCrunch Disrupt 2026 arranca en el Moscone West de San Francisco. Asegura tu entrada con hasta 100 dólares de descuento antes de que suban los precios en taquilla. Además, obtén una segunda entrada al 50% de d
Los informes sobre ataques informáticos a OpenAI, ahora ante el Consejo de Seguridad de la IA de la ONU
Yoshua Bengio pronunció el discurso de apertura en una sesión del Consejo de Seguridad de la ONU sobre la seguridad de la IA. Crédito: ONUHan salido a la luz informes sobre un incidente relacionado co











