Дом
Google и NVIDIA открыли исходный код DiffusionGemma, что позволило в 4 раза ускорить инференцию на одной видеокарте
10 июня 2026 года компания Google представила DiffusionGemma — экспериментальную языковую модель с открытым исходным кодом, которая отходит от традиционной авторегрессионной парадигмы генерации текста по одному слову за раз. Она впервые применяет механизмы диффузии, используемые в области искусственного интеллекта для обработки изображений, к генерации текста: начиная со случайного шума и итеративно уточняя результат, она выводит 256 блоков токенов параллельно за каждый шаг.

Что касается производительности оборудования, глубокие оптимизации NVIDIA позволяют модели работать почти в четыре раза быстрее, чем сопоставимые традиционные модели в режиме одного пользователя с одним графическим процессором. На графическом процессоре H100 она достигает скорости вывода до 1 000 токенов в секунду для одного запроса, а даже на высокопроизводительных потребительских графических процессорах, таких как RTX 5090, может превышать 700 токенов в секунду.
DiffusionGemma имеет 26 миллиардов параметров и использует архитектуру «смеси экспертов» (MoE), активируя лишь 3,8 миллиарда параметров за один шаг. Хотя качество и точность генерации текста в ней немного уступают традиционным моделям серии Gemma4 по стандартным тестам, её уникальная способность «учитывать весь блок» преодолевает ограничение авторегрессионных моделей, работающих только в обратном направлении. Поскольку все токены могут ссылаться друг на друга во время генерации, модель отлично справляется с задачами, связанными с нелинейными и структурированными данными, такими как автозаполнение текста, заполнение кода, решение судоку и обработка аминокислотных последовательностей.

Веса модели теперь доступны в открытом доступе на Hugging Face по лицензии Apache 2.0 и беспрепятственно работают с основными фреймворками для инференса, такими как vLLM и MLX. Данное исследование не только устраняет ограничения пропускной способности памяти, сдерживающие вычислительную мощность графических процессоров, но и открывает новый технический путь для будущих приложений искусственного интеллекта в области сложной логики и генерации нелинейного текста.
Связанная статья
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства
Соблюдение требований к автономным транспортным средствам в Калифорнии: новая эра штрафов, геозоны и 1 млн миль
Компания Guident эксплуатирует шаттл AuveTech в Южной Флориде, обслуживая маршрут протяженностью четыре мили в Вест-Палм-Бич и маршрут протяженностью одну милю в Бока-Ратоне с использованием своей тех
Рекомендации по связанным специальным темам
Комментарии (0)
10 июня 2026 года компания Google представила DiffusionGemma — экспериментальную языковую модель с открытым исходным кодом, которая отходит от традиционной авторегрессионной парадигмы генерации текста по одному слову за раз. Она впервые применяет механизмы диффузии, используемые в области искусственного интеллекта для обработки изображений, к генерации текста: начиная со случайного шума и итеративно уточняя результат, она выводит 256 блоков токенов параллельно за каждый шаг.

Что касается производительности оборудования, глубокие оптимизации NVIDIA позволяют модели работать почти в четыре раза быстрее, чем сопоставимые традиционные модели в режиме одного пользователя с одним графическим процессором. На графическом процессоре H100 она достигает скорости вывода до 1 000 токенов в секунду для одного запроса, а даже на высокопроизводительных потребительских графических процессорах, таких как RTX 5090, может превышать 700 токенов в секунду.
DiffusionGemma имеет 26 миллиардов параметров и использует архитектуру «смеси экспертов» (MoE), активируя лишь 3,8 миллиарда параметров за один шаг. Хотя качество и точность генерации текста в ней немного уступают традиционным моделям серии Gemma4 по стандартным тестам, её уникальная способность «учитывать весь блок» преодолевает ограничение авторегрессионных моделей, работающих только в обратном направлении. Поскольку все токены могут ссылаться друг на друга во время генерации, модель отлично справляется с задачами, связанными с нелинейными и структурированными данными, такими как автозаполнение текста, заполнение кода, решение судоку и обработка аминокислотных последовательностей.

Веса модели теперь доступны в открытом доступе на Hugging Face по лицензии Apache 2.0 и беспрепятственно работают с основными фреймворками для инференса, такими как vLLM и MLX. Данное исследование не только устраняет ограничения пропускной способности памяти, сдерживающие вычислительную мощность графических процессоров, но и открывает новый технический путь для будущих приложений искусственного интеллекта в области сложной логики и генерации нелинейного текста.
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства











