Gemma 2 теперь доступна для исследователей, разработчиков

ИИ имеет возможность решать некоторые из самых сложных задач, с которыми мы сталкиваемся сегодня, но это только в том случае, если каждый может получить в свои руки инструменты для их использования. Вот почему мы начали год, представив Gemma, набор легких, передовых открытых моделей, созданных из той же технологии, которая поддерживает наши модели Близнецов. С тех пор мы расширили семейство Джеммы с помощью Codegemma, Recurrentgemmma и Paligemma, каждая из которых адаптирована для различных задач AI и легко доступных через партнерские отношения с такими компаниями, как обнимание, Nvidia и Ollama.

Теперь мы рады объявить о глобальном выпуске Gemma 2 для исследователей и разработчиков. Доступные в размере 9 миллиардов (9b) и 27 миллиардов (27b) параметров, Gemma 2 предлагает превосходную производительность и эффективность по сравнению со своим предшественником со значительными улучшениями безопасности. 27B -версия - это мощный, конкурирующий модели, которые превышают в два раза больше, и он может работать на одном графическом процессоре Tensor Core или хосте TPU NVIDIA H100, что сокращает затраты на развертывание. Это довольно круто, как мы добились высокой производительности, не разбивая банк, верно?

Новый стандарт для эффективности и производительности в открытых моделях

Мы приложили много усилий, чтобы изменить архитектуру для Gemma 2, стремясь к первоклассной производительности и эффективности. Вот что выделяет:

• Огромная производительность: при 27B Gemma 2 является лучшей собакой в ​​своем классе, даже конкурируя с моделями более чем в два раза. Версия 9B также сияет, превосходя Llama 3 8b и другие открытые модели в своей категории. Для всех сочных деталей, ознакомьтесь с техническим отчетом.
• Непревзойденная эффективность и экономия затрат: 27b Gemma 2 работает плавно при полной точке на одном Google Cloud TPU -хосте, GPU NVIDIA A100 80 ГБ основного графического процессора NVIDIA H100 TENSOR CORE, а это значит, что вы можете снизить затраты, не жертвуя производительностью. Это делает развертывание искусственного интеллекта более доступным и бюджетным.
• Быстрый вывод из аппаратного обеспечения: Gemma 2 предназначена для быстрого запуска на всем, от игровых ноутбуков и высококачественных рабочих столов до облачных настройки. Вы можете проверить его в полной точности в Google AI Studio, запустить его локально с квантованной версией на gemma.cpp на вашем процессоре, или попробовать на своем домашнем компьютере с помощью Nvidia RTX или Geforce RTX с помощью трансформаторов обнимающего лица.