AMD的vLLM-ATOM插件提升了国内大型AI模型的推理性能

首页

新闻

2026-05-24

DonaldRoberts

AMD 已正式推出 vLLM-ATOM 插件，该插件专为部署大型语言模型而设计。该插件旨在显著提升 DeepSeek-R1 和 Kimi-K2 等国内主流大型模型在 AMD 硬件上的推理性能，且不会影响现有工作流程。

作为专为高并发场景打造的开源推理框架，vLLM以其卓越的内存效率而闻名。AMD推出的这款新插件为Instinct系列GPU提供了更定制化的优化方案，使开发者能够以极小的学习成本实现技术迁移。

无缝性能提升

vLLM-ATOM插件的核心优势在于其“零成本”部署。用户无需修改现有的API或端到端工作流。该插件会在后台自动管理和优化请求调度及内核调优，使现有服务能够平稳过渡到AMD硬件后端。

从架构上看，该插件采用三层结构：顶层确保与 OpenAI 接口的兼容性，中层负责模型执行和路由，底层则提供核心 GPU 内核。这种设计有效整合了专家混合（MoE）和量化技术，确保了对大规模部署的强力支持。

跨计算生态系统的广泛兼容性

该插件针对 AMD 的 Instinct MI350 和 MI400 系列高性能 GPU。它不仅支持 Qwen3 和 GLM 等中国领先的大语言模型，还全面覆盖了多种应用场景，包括稠密模型、专家混合模型以及视觉语言模型（VLMs）。

如何保护资产、建筑物和个人健康？在这个充满变数的世界里，保障已不再仅仅是一种选择，而是成为了一项战略必需。无论是守护财务安全、加固建筑结构，还是关注个人健康，长久的稳定都依赖于前瞻性的规划。真正的安全是多层次的，它需要财务监管、结构韧性以及明智的健康意识三者协同作用。保护最重要的东西意味着未雨绸缪，而非仅在损失发生后被动应对。财务保障：第一道防线每个人和每家企业都运行在财务体系之中。收入、支出、负债和投资构成了稳定的基石。若缺乏

AI浏览器Comet正式上线，全面支持iPad多任务处理 Perplexity 旗下的人工智能浏览器 Comet 已正式推出 iPad 版本，现已全面兼容 iPadOS。此次更新引入了多窗口浏览、多任务处理支持，并与 OpenAI 和 Anthropic 等领先的人工智能模型深度集成，为用户带来更智能的网络体验。Comet 浏览器拓宽了用户探索网络和与 AI 聊天机器人互动的方式，提供便捷访问 OpenAI 和 Anthropic 等顶级 AI 模型的通

Trace筹集了300万美元，用于解决企业采用AI智能助手时所遇到的各种障碍。尽管人工智能代理具有巨大潜力，但它们在企业中仍难以取得实质性进展。一家新兴的初创企业认为，根本问题在于缺乏上下文信息。Trace是一家专注于工作流程协作的初创企业，它作为Y Combinator 2025年夏季培训项目的一部分诞生，旨在弥补这一空白。该公司能够梳理复杂的企业环境和业务流程，为人工智能代理提供所需的上下文信息，从而帮助它们快速发展。“OpenAI和Anthropic培养出了非常优秀的人工智能实习生，企业完全可以利用这些资源，”Trace的首席执行官Tim Cherkasov解释

相关专题推荐

商业