вариант
Дом
Новости
Google DeepMind представила фреймворк STATIC, позволяющий в 948 раз увеличить скорость поиска при генеративном поиске с использованием больших языковых моделей (LLM)

Google DeepMind представила фреймворк STATIC, позволяющий в 948 раз увеличить скорость поиска при генеративном поиске с использованием больших языковых моделей (LLM)

1 июля 2026 г.
179

В современных промышленных системах рекомендаций генеративный поиск (GR) на основе крупных языковых моделей (LLM) постепенно вытесняет традиционный поиск на основе вложений. Однако на практике этот подход сталкивается с серьезной проблемой: модель часто генерирует недопустимые идентификаторы товаров или результаты, нарушающие ограничения по запасам, что приводит к бессмысленным рекомендациям.

Для решения этой проблемы исследователи из Google DeepMind и YouTube совместно представили новую архитектуру под названием STATIC (Sparse Transition Matrix Accelerated Trie Index for Constrained Decoding). Эта технология использует инновационные математические методы, позволяющие ускорить декодирование с ограничениями в LLM в 948 раз.

Схема архитектуры декодирования с ограничением STATIC

Ключевые технологические прорывы:

Превращение «дерева» в «матрицу»: традиционная проверка ограничений опирается на префиксные деревья (Trie), которые работают неэффективно на аппаратных средствах, таких как GPU и TPU. STATIC преобразует сложное дерево в статическую сжатую разреженную матрицу строк (CSR), превращая проверку в векторизованную операцию, с которой аппаратное обеспечение справляется эффективно.

Исключительная скорость отклика: в тестах с моделью, содержащей 3 миллиарда параметров, STATIC достигает задержки на одном шаге всего 0,033 миллисекунды. Это почти в 1 000 раз быстрее, чем традиционный поиск на базе ЦП, и более чем в 40 раз быстрее, чем существующие решения с аппаратным ускорением.

Успешное испытание на YouTube: STATIC был внедрен в систему рекомендаций видео на YouTube, чтобы гарантировать соответствие рекомендаций бизнес-ограничениям, таким как свежесть видео (не старше семи дней). Тестирование показало рост объема просмотров свежих видео на 5,1%, а также заметное улучшение коэффициента кликов (CTR).

Кроме того, STATIC устраняет ограничения генеративного поиска на этапе «холодного старта». Благодаря применению точных ограничений декодирования модель достигает значительного повышения точности при рекомендации совершенно новых продуктов, с которыми она ранее не сталкивалась.

Связанная статья
ИИ от OpenAI решил 722 математических задач, что вызвало беспокойство среди математиков-людей ИИ от OpenAI решил 722 математических задач, что вызвало беспокойство среди математиков-людей Стремительное развитие искусственного интеллекта в математике коренным образом меняет восприятие этой области со стороны общественности. Недавно компания OpenAI опубликовала 722 рукописи доказательств
ИИ ускоряет выявление уязвимостей на фоне роста числа проблем с безопасностью и хакерских угроз ИИ ускоряет выявление уязвимостей на фоне роста числа проблем с безопасностью и хакерских угроз 28 июля агентство Bloomberg сообщило, что искусственный интеллект значительно ускоряет обнаружение уязвимостей в программном обеспечении. Судя по текущим тенденциям, в 2026 году количество уязвимостей
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче? Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче? Представляем Free Willy: Новая эра для языковых моделей с открытым исходным кодомСодержание:Woody's AI и Carper AI Lab: Стратегическое партнерствоКритическая роль обработки естественного языкаЗнакомство с Free Willy 1 и Free Willy 2Сравнение с к
Рекомендации по связанным специальным темам
Дизайн и искусство Лучшие инструменты для создания иллюстраций с помощью ИИ: быстрее создавайте редакционные сцены и обложки
Лучшие инструменты для создания иллюстраций с помощью ИИ: быстрее создавайте редакционные сцены и обложки

2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.

10 инструментов
xix.ai
Образование и обучение Лучшие репетиторы по искусственному интеллекту для подготовки к экзаменам: практикуйтесь по математике, естественным наукам и английскому языку
Лучшие репетиторы по искусственному интеллекту для подготовки к экзаменам: практикуйтесь по математике, естественным наукам и английскому языку

2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!

10 инструментов
xix.ai
Финансы Инструменты планирования бюджета на основе ИИ для управления личными финансами
Инструменты планирования бюджета на основе ИИ для управления личными финансами

В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!

11 инструментов
xix.ai
Здоровье и благополучие Помощники для отслеживания сна с ИИ: улучшите восстановление за счёт более правильных привычек перед сном
Помощники для отслеживания сна с ИИ: улучшите восстановление за счёт более правильных привычек перед сном

2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.

10 инструментов
xix.ai
Анализ данных AI-копилоты SQL для аналитики продуктов и выручки
AI-копилоты SQL для аналитики продуктов и выручки

2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!

14 инструментов
xix.ai
Образование и обучение Лучшие помощники по домашним заданиям с ИИ, которые учат: изучайте концепции, а не просто ответы
Лучшие помощники по домашним заданиям с ИИ, которые учат: изучайте концепции, а не просто ответы

2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.

10 инструментов
xix.ai
Комментарии (1)
0/500
PaulSanchez
PaulSanchez 20 июля 2026 г., 19:00:16 GMT+03:00

948 times faster? That's insane. But I wonder if the quality of retrieval drops with such speed. Still, exciting progress for LLM applications. 🚀

OR