Дом
Выпущена предварительная версия модели LFM2.5 DSpark: скорость вывода заключений увеличена в 3,18 раза
Компании Liquid AI и Hugging Face официально выпустили предварительные контрольные точки моделей DSpark для серии LFM2.5, включающие LFM2.5-1.2B-Instruct, LFM2.5-2.6B и LFM2.5-8B-A1B. Данная инновация представляет собой новый спекулятивный путь декодирования, который значительно повышает пропускную способность инференса при сохранении качества вывода.
Основные улучшения производительности и практическое применение
Тесты в реальных условиях демонстрируют впечатляющее ускорение, обеспечиваемое DSpark. На графических процессорах (GPU) пропускная способность увеличивается до 3,18 раза, а на периферийных устройствах — до 2,87 раза.
При инференции на периферийных агентах LFM2.5-2.6B сокращает задержку вызова функций в среднем на 57 %. При тестировании на MacBook Pro M4 Max он достигает скорости до 139 токенов в секунду, снижая барьер для развертывания локальных агентов и обеспечивая пользовательский опыт, сопоставимый с проприетарными облачными моделями.
Понимание архитектуры и механизма работы DSpark
Традиционная инференция LLM сталкивается с «узким местом» в виде пропускной способности памяти, поскольку большая часть времени уходит на передачу весов из DRAM в SRAM. Спекулятивное декодирование решает эту проблему за счёт использования облегчённой черновой модели для генерации токенов-кандидатов, которые затем проверяются целевой моделью за один проход в прямом направлении, что позволяет эффективно распределить затраты на загрузку весов.
DSpark объединяет существующие методы с помощью трёх основных компонентов:
Параллельная базовая сеть: аналогично DFlash, она генерирует скрытые состояния для всех черновых токенов за один проход в прямом направлении на основе контекстных признаков целевой модели.Последовательная головка (головка Маркова): Моделируя марковские цепи между соседними токенами, она усиливает зависимости и повышает коэффициент принятия для последующих позиций.Валидатор планирования по уровню достоверности: он прогнозирует вероятность выживания каждого токена, автоматически отбрасывая суффиксы с низким уровнем достоверности, когда затраты на валидацию превышают экономию.Для обучения черновая модель использует разнообразный набор данных, включающий SFT, чаты, код и вызовы функций. После тщательных абляционных исследований первоначальная версия представляет собой архитектуру, основанную исключительно на механизме внимания, с 5 слоями и 9 блоками, при этом количество параметров составляет около 300 миллионов.
Обеспечение качества и интеграция в экосистему
Из-за спекулятивного декодирования алгоритм жадного декодирования принимает только черновые токены, которые идеально соответствуют распределению целевой модели. Отклоненные токены заменяются выходом целевой модели, что гарантирует соответствие сгенерированной последовательности базовой структуре алгоритма жадного декодирования без потери точности в тестах.
На момент выпуска DSpark обеспечил совместимость с основными фреймворками для инференса:
SGLang: поддерживает выполнение на ускорителях благодаря специальной интеграции и конфигурациям запуска.llama.cpp: предлагает официальную поддержку сборки, позволяя пользователям загружать соответствующие веса GGUF и файлы черновых моделей через командную строку.
Связанная статья
Почему компания Abnormal AI заключила партнерство с OpenAI в рамках проекта Daybreak
Майкл Айелло, руководитель отдела кибербезопасности в OpenAI | Источник: Майкл Айелло/LinkedInКомпания Abnormal AI присоединилась к программе Daybreak от OpenAI; по словам Майка Айелло, это партнерств
Компания «AI Agent Elements Claw» завершила разработку сверхпроводящего материала
По мере того как искусственный интеллект расширяет границы научных исследований, достигнута важная веха. 3 июля Академия DAMO компании Alibaba в партнерстве с Китайским народным университетом и Универ
Как эффективно проверить SEO-рейтинг в Google Japan и Yahoo Japan
Превратите портретную фотографию в набросок в стиле Гарри ПоттераОглавление:ВведениеПревращение фотографии в набросокИспользование фильтра «Минимум»Другой метод преобразования портретовНачало работыЗагрузка необходимого изображенияПодготовка с
Рекомендации по связанным специальным темам
Здоровье и благополучие
Лучшие инструменты искусственного интеллекта для регулирования сна: для работников с посменным графиком, при адаптации к смену часовых поясов и для улучшения режима дня
2026: Лучшие современные инструменты на базе ИИ для регулирования сна у сменных работников, преодоления смены часовых поясов и выработки более здорового режима дня! XIX.AI составила рейтинг самых эффективных инструментов, которые прошли реальные испытания и позволяют получать точные рекомендации. Вы можете ознакомиться с подробным сравнением бесплатных и платных версий и узнать, как эти незаменимые решения помогают улучшить качество сна, ускорить восстановление после смены часовых поясов и выработать более здоровый режим дня. Изучите список прямо сейчас, чтобы найти идеальный инструмент для себя!
7 инструментов
xix.ai
код
Инструменты отладки ChatGPT для ошибок Python, журналов API и анализа трассировки стека
В 2026 году лучшие инструменты для отладки ChatGPT, обработки ошибок Python, логов API и анализа трассировки стека доступны на XIX.AI. Этот тщательно подобранный список лучших решений предлагает сравнение бесплатных и платных вариантов, реальные тесты и подробные рейтинги, чтобы помочь вам найти самый мощный инструмент, который может значительно повысить вашу продуктивность и ускорить решение сложных технических задач. Исследуйте сейчас, чтобы найти идеальное решение!
9 инструментов
xix.ai
Преобразование текста в речь
Инструменты для создания озвучки с помощью ИИ для демонстрационных видеороликов о продуктах
2026 Latest Best Top-Rated AI Voiceover Tools for Product Demo Videos are here on XIX.AI! This curated list features powerful, game-changing options that help you create professional-quality audio content fast, boosting your demo efficiency significantly. We conduct real-world tests and provide a free vs paid comparison along with weekly updated rankings to help you find the perfect fit. Explore now to Unlock your AI edge!
10 инструментов
xix.ai
Бизнес
Инструменты на базе искусственного интеллекта для разработки бизнес-планов и проверки жизнеспособности стартапов
2026: Лучшие инструменты для разработки бизнес-планов на базе ИИ, предназначенные для проверки стартапов! XIX.AI составила рейтинг самых эффективных инструментов, способных кардинально изменить ситуацию на рынке, которые прошли реальные испытания и обеспечивают точные результаты. Здесь вы найдете сравнение бесплатных и платных инструментов, подробные рейтинги и понятные аналитические данные, которые помогут вам выбрать идеальное решение и повысить шансы вашего стартапа на успех. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
чат-бот
Приложения для ИИ-чата для ролевых игр и практики общения
2026 г. Лучшие приложения для ИИ-чата для ролевых игр и практики общения! XIX.AI составляет список лучших инструментов, которые проходят строгие реальные тесты и обеспечивают исключительные результаты. Вы найдете подробное сравнение бесплатных и платных версий, комплексные рейтинги и информацию о том, как эти приложения могут эффективно улучшить ваши языковые навыки и уверенность в общении. Исследуйте сейчас, чтобы найти идеальный инструмент для практики!
10 инструментов
xix.ai
дизайн
Лучшие инструменты для создания вайрфреймов на базе ИИ для продуктовых команд
2026: лучшие и самые популярные инструменты для создания вайрфреймов на базе ИИ для продуктовых команд! В этом тщательно составленном списке представлены мощные, революционные решения, которые значительно повышают продуктивность, что подтверждено реальными тестами и результатами тщательного рейтинга. Он включает подробное сравнение бесплатных и платных версий, которое поможет вам найти идеальный вариант. XIX.AI предоставляет экспертные рекомендации, которые помогут вам принять правильное решение. Ознакомьтесь с ним прямо сейчас, чтобы найти идеальный инструмент и раскрыть потенциал ИИ в разработке продуктов!
8 инструментов
xix.ai
Комментарии (0)
Компании Liquid AI и Hugging Face официально выпустили предварительные контрольные точки моделей DSpark для серии LFM2.5, включающие LFM2.5-1.2B-Instruct, LFM2.5-2.6B и LFM2.5-8B-A1B. Данная инновация представляет собой новый спекулятивный путь декодирования, который значительно повышает пропускную способность инференса при сохранении качества вывода.
Основные улучшения производительности и практическое применение
Тесты в реальных условиях демонстрируют впечатляющее ускорение, обеспечиваемое DSpark. На графических процессорах (GPU) пропускная способность увеличивается до 3,18 раза, а на периферийных устройствах — до 2,87 раза.
При инференции на периферийных агентах LFM2.5-2.6B сокращает задержку вызова функций в среднем на 57 %. При тестировании на MacBook Pro M4 Max он достигает скорости до 139 токенов в секунду, снижая барьер для развертывания локальных агентов и обеспечивая пользовательский опыт, сопоставимый с проприетарными облачными моделями.
Понимание архитектуры и механизма работы DSpark
Традиционная инференция LLM сталкивается с «узким местом» в виде пропускной способности памяти, поскольку большая часть времени уходит на передачу весов из DRAM в SRAM. Спекулятивное декодирование решает эту проблему за счёт использования облегчённой черновой модели для генерации токенов-кандидатов, которые затем проверяются целевой моделью за один проход в прямом направлении, что позволяет эффективно распределить затраты на загрузку весов.
DSpark объединяет существующие методы с помощью трёх основных компонентов:
Параллельная базовая сеть: аналогично DFlash, она генерирует скрытые состояния для всех черновых токенов за один проход в прямом направлении на основе контекстных признаков целевой модели.Последовательная головка (головка Маркова): Моделируя марковские цепи между соседними токенами, она усиливает зависимости и повышает коэффициент принятия для последующих позиций.Валидатор планирования по уровню достоверности: он прогнозирует вероятность выживания каждого токена, автоматически отбрасывая суффиксы с низким уровнем достоверности, когда затраты на валидацию превышают экономию.Для обучения черновая модель использует разнообразный набор данных, включающий SFT, чаты, код и вызовы функций. После тщательных абляционных исследований первоначальная версия представляет собой архитектуру, основанную исключительно на механизме внимания, с 5 слоями и 9 блоками, при этом количество параметров составляет около 300 миллионов.
Обеспечение качества и интеграция в экосистему
Из-за спекулятивного декодирования алгоритм жадного декодирования принимает только черновые токены, которые идеально соответствуют распределению целевой модели. Отклоненные токены заменяются выходом целевой модели, что гарантирует соответствие сгенерированной последовательности базовой структуре алгоритма жадного декодирования без потери точности в тестах.
На момент выпуска DSpark обеспечил совместимость с основными фреймворками для инференса:
SGLang: поддерживает выполнение на ускорителях благодаря специальной интеграции и конфигурациям запуска.llama.cpp: предлагает официальную поддержку сборки, позволяя пользователям загружать соответствующие веса GGUF и файлы черновых моделей через командную строку.
Почему компания Abnormal AI заключила партнерство с OpenAI в рамках проекта Daybreak
Майкл Айелло, руководитель отдела кибербезопасности в OpenAI | Источник: Майкл Айелло/LinkedInКомпания Abnormal AI присоединилась к программе Daybreak от OpenAI; по словам Майка Айелло, это партнерств
Компания «AI Agent Elements Claw» завершила разработку сверхпроводящего материала
По мере того как искусственный интеллект расширяет границы научных исследований, достигнута важная веха. 3 июля Академия DAMO компании Alibaba в партнерстве с Китайским народным университетом и Универ
Как эффективно проверить SEO-рейтинг в Google Japan и Yahoo Japan
Превратите портретную фотографию в набросок в стиле Гарри ПоттераОглавление:ВведениеПревращение фотографии в набросокИспользование фильтра «Минимум»Другой метод преобразования портретовНачало работыЗагрузка необходимого изображенияПодготовка с
2026: Лучшие современные инструменты на базе ИИ для регулирования сна у сменных работников, преодоления смены часовых поясов и выработки более здорового режима дня! XIX.AI составила рейтинг самых эффективных инструментов, которые прошли реальные испытания и позволяют получать точные рекомендации. Вы можете ознакомиться с подробным сравнением бесплатных и платных версий и узнать, как эти незаменимые решения помогают улучшить качество сна, ускорить восстановление после смены часовых поясов и выработать более здоровый режим дня. Изучите список прямо сейчас, чтобы найти идеальный инструмент для себя!
7 инструментов
xix.ai
В 2026 году лучшие инструменты для отладки ChatGPT, обработки ошибок Python, логов API и анализа трассировки стека доступны на XIX.AI. Этот тщательно подобранный список лучших решений предлагает сравнение бесплатных и платных вариантов, реальные тесты и подробные рейтинги, чтобы помочь вам найти самый мощный инструмент, который может значительно повысить вашу продуктивность и ускорить решение сложных технических задач. Исследуйте сейчас, чтобы найти идеальное решение!
9 инструментов
xix.ai
2026 Latest Best Top-Rated AI Voiceover Tools for Product Demo Videos are here on XIX.AI! This curated list features powerful, game-changing options that help you create professional-quality audio content fast, boosting your demo efficiency significantly. We conduct real-world tests and provide a free vs paid comparison along with weekly updated rankings to help you find the perfect fit. Explore now to Unlock your AI edge!
10 инструментов
xix.ai
2026: Лучшие инструменты для разработки бизнес-планов на базе ИИ, предназначенные для проверки стартапов! XIX.AI составила рейтинг самых эффективных инструментов, способных кардинально изменить ситуацию на рынке, которые прошли реальные испытания и обеспечивают точные результаты. Здесь вы найдете сравнение бесплатных и платных инструментов, подробные рейтинги и понятные аналитические данные, которые помогут вам выбрать идеальное решение и повысить шансы вашего стартапа на успех. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
2026 г. Лучшие приложения для ИИ-чата для ролевых игр и практики общения! XIX.AI составляет список лучших инструментов, которые проходят строгие реальные тесты и обеспечивают исключительные результаты. Вы найдете подробное сравнение бесплатных и платных версий, комплексные рейтинги и информацию о том, как эти приложения могут эффективно улучшить ваши языковые навыки и уверенность в общении. Исследуйте сейчас, чтобы найти идеальный инструмент для практики!
10 инструментов
xix.ai
2026: лучшие и самые популярные инструменты для создания вайрфреймов на базе ИИ для продуктовых команд! В этом тщательно составленном списке представлены мощные, революционные решения, которые значительно повышают продуктивность, что подтверждено реальными тестами и результатами тщательного рейтинга. Он включает подробное сравнение бесплатных и платных версий, которое поможет вам найти идеальный вариант. XIX.AI предоставляет экспертные рекомендации, которые помогут вам принять правильное решение. Ознакомьтесь с ним прямо сейчас, чтобы найти идеальный инструмент и раскрыть потенциал ИИ в разработке продуктов!
8 инструментов
xix.ai
