ДомAMD выпустила плагин vLLM-ATOM для ускорения инференса на больших моделях
Недавно компания AMD официально представила новый плагин под названием vLLM-ATOM. Его основная цель — раскрыть дополнительный потенциал аппаратного обеспечения без изменения существующих рабочих процессов, обеспечивая значительное ускорение инференса для популярных крупных языковых моделей, таких как DeepSeek-R1, Kimi-K2 и gpt-oss-120B.
Для разработчиков vLLM представляет собой фреймворк с открытым исходным кодом, предназначенный для оптимизации пропускной способности и использования памяти графического процессора в условиях высокой параллельности. В отличие от традиционных инструментов, обрабатывающих запросы по одному, он ориентирован на планирование запросов и управление кэшем. Новый плагин ATOM от AMD представляет собой глубоко настроенное решение, созданное специально для графических процессоров Instinct. Его отличительной особенностью является «бесшовная миграция»: корпоративным пользователям не нужно изменять существующие API-интерфейсы, команды или сквозные рабочие процессы; плагин автоматически выполняет оптимизацию производительности на фоне.
С точки зрения технической архитектуры vLLM-ATOM использует четкую трехуровневую структуру. Верхний уровень сохраняет механизм планирования запросов и интерфейс совместимости vLLM. Средний уровень, представляющий собой плагин ATOM, управляет реализацией модели и оптимизацией ядра. Нижний уровень, AITER, напрямую подключается к аппаратному обеспечению графического процессора, обеспечивая основные возможности ускорения, такие как Flash Attention, квантованный GEMM и слияние MoE.
Этот плагин в первую очередь ориентирован на высокопроизводительные вычислительные карты с графическим процессором , такие как Instinct MI350, MI400 и MI355X. Список поддерживаемых моделей включает флагманские модели, такие как Qwen3, GLM и DeepSeek, и обеспечивает полное покрытие различных архитектур, включая MoE (Mixture of Experts), плотные модели и модели «зрение-язык» (VLM).
Отраслевые аналитики отмечают, что основная ценность этого решения заключается в значительном снижении барьеров для внедрения высокопроизводительных вычислений. Благодаря этому подходу, не требующему освоения и обеспечивающему плавный переход, предприятия могут более легко переносить сервисы ИИ на аппаратную платформу AMD, сохраняя эффективность инференса и одновременно эффективно повышая стабильность и скорость отклика онлайн-сервисов на основе крупных моделей.
Связанная статья
xAI представляет раннюю бета-версию Grok для сложных задач программирования
14 мая компания xAI, основанная Илоном Маском для разработки искусственного интеллекта, представила раннюю бета-версию ассистента для программирования под названием Grok Build. В настоящее время платформа доступна только подписчикам SuperGrok; она пр
Генеральный директор Anthropic изложил план по освоению новых горизонтов
Исследователи в области искусственного интеллекта все чаще высказывают тревожные предупреждения о рисках, связанных с ИИ, а генеральный директор OpenAI Сэм Альтман высказал мнение, что, возможно, приш
48 часов до TechCrunch Disrupt 2026: Узнайте от создателей, формирующих будущее
Осталось менее 48 часов до старта TechCrunch Disrupt 2026 в Moscone West в Сан-Франциско. Забронируйте билет со скидкой до 100 долларов до повышения цен у входа. Кроме того, вы можете получить второй пропуск со скидкой 50%. Зарегистрируйтесь сегодня.
Рекомендации по связанным специальным темам
Дизайн и искусство
Лучшие инструменты для создания иллюстраций с помощью ИИ: быстрее создавайте редакционные сцены и обложки
2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.
10 инструментов
xix.ai
Образование и обучение
Лучшие репетиторы по искусственному интеллекту для подготовки к экзаменам: практикуйтесь по математике, естественным наукам и английскому языку
2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!
10 инструментов
xix.ai
Финансы
Инструменты планирования бюджета на основе ИИ для управления личными финансами
В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!
11 инструментов
xix.ai
Здоровье и благополучие
Помощники для отслеживания сна с ИИ: улучшите восстановление за счёт более правильных привычек перед сном
2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.
10 инструментов
xix.ai
Анализ данных
AI-копилоты SQL для аналитики продуктов и выручки
2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!
14 инструментов
xix.ai
Образование и обучение
Лучшие помощники по домашним заданиям с ИИ, которые учат: изучайте концепции, а не просто ответы
2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.
10 инструментов
xix.ai
Комментарии (1)
![StephenGreen]()
AMDのvLLM-ATOMプラグイン、DeepSeek-R1の推論速度を大幅に向上させるらしい。既存のワークフローを変えずにハードウェアの潜在能力を引き出すってのは嬉しい限りだ。GPUの性能を最大限に活かせるなら、ローカルでLLMを動かす際の待ち時間も減るはず。競合他社との差が開くか注目！🚀 #AMD #LLM
Недавно компания AMD официально представила новый плагин под названием vLLM-ATOM. Его основная цель — раскрыть дополнительный потенциал аппаратного обеспечения без изменения существующих рабочих процессов, обеспечивая значительное ускорение инференса для популярных крупных языковых моделей, таких как DeepSeek-R1, Kimi-K2 и gpt-oss-120B.
Для разработчиков vLLM представляет собой фреймворк с открытым исходным кодом, предназначенный для оптимизации пропускной способности и использования памяти графического процессора в условиях высокой параллельности. В отличие от традиционных инструментов, обрабатывающих запросы по одному, он ориентирован на планирование запросов и управление кэшем. Новый плагин ATOM от AMD представляет собой глубоко настроенное решение, созданное специально для графических процессоров Instinct. Его отличительной особенностью является «бесшовная миграция»: корпоративным пользователям не нужно изменять существующие API-интерфейсы, команды или сквозные рабочие процессы; плагин автоматически выполняет оптимизацию производительности на фоне.
С точки зрения технической архитектуры vLLM-ATOM использует четкую трехуровневую структуру. Верхний уровень сохраняет механизм планирования запросов и интерфейс совместимости vLLM. Средний уровень, представляющий собой плагин ATOM, управляет реализацией модели и оптимизацией ядра. Нижний уровень, AITER, напрямую подключается к аппаратному обеспечению графического процессора, обеспечивая основные возможности ускорения, такие как Flash Attention, квантованный GEMM и слияние MoE.
Этот плагин в первую очередь ориентирован на высокопроизводительные вычислительные карты с графическим процессором , такие как Instinct MI350, MI400 и MI355X. Список поддерживаемых моделей включает флагманские модели, такие как Qwen3, GLM и DeepSeek, и обеспечивает полное покрытие различных архитектур, включая MoE (Mixture of Experts), плотные модели и модели «зрение-язык» (VLM).
Отраслевые аналитики отмечают, что основная ценность этого решения заключается в значительном снижении барьеров для внедрения высокопроизводительных вычислений. Благодаря этому подходу, не требующему освоения и обеспечивающему плавный переход, предприятия могут более легко переносить сервисы ИИ на аппаратную платформу AMD, сохраняя эффективность инференса и одновременно эффективно повышая стабильность и скорость отклика онлайн-сервисов на основе крупных моделей.
xAI представляет раннюю бета-версию Grok для сложных задач программирования
14 мая компания xAI, основанная Илоном Маском для разработки искусственного интеллекта, представила раннюю бета-версию ассистента для программирования под названием Grok Build. В настоящее время платформа доступна только подписчикам SuperGrok; она пр
Генеральный директор Anthropic изложил план по освоению новых горизонтов
Исследователи в области искусственного интеллекта все чаще высказывают тревожные предупреждения о рисках, связанных с ИИ, а генеральный директор OpenAI Сэм Альтман высказал мнение, что, возможно, приш
48 часов до TechCrunch Disrupt 2026: Узнайте от создателей, формирующих будущее
Осталось менее 48 часов до старта TechCrunch Disrupt 2026 в Moscone West в Сан-Франциско. Забронируйте билет со скидкой до 100 долларов до повышения цен у входа. Кроме того, вы можете получить второй пропуск со скидкой 50%. Зарегистрируйтесь сегодня.
2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.
10 инструментов
xix.ai
2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!
10 инструментов
xix.ai
В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!
11 инструментов
xix.ai
2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.
10 инструментов
xix.ai
2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!
14 инструментов
xix.ai
2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.
10 инструментов
xix.ai
AMDのvLLM-ATOMプラグイン、DeepSeek-R1の推論速度を大幅に向上させるらしい。既存のワークフローを変えずにハードウェアの潜在能力を引き出すってのは嬉しい限りだ。GPUの性能を最大限に活かせるなら、ローカルでLLMを動かす際の待ち時間も減るはず。競合他社との差が開くか注目！🚀 #AMD #LLM
