Gemma 2 désormais accessible aux chercheurs, aux développeurs

L'IA a le pouvoir de relever certains des défis les plus difficiles auxquels nous sommes confrontés aujourd'hui, mais seulement si tout le monde peut accéder aux outils pour l'utiliser. C'est pourquoi nous avons commencé l'année en introduisant Gemma, un ensemble de modèles ouverts légers et de pointe, conçus à partir de la même technologie qui alimente nos modèles Gemini. Depuis, nous avons élargi la famille Gemma avec CodeGemma, RecurrentGemma et PaliGemma, chacun adapté à différentes tâches d'IA et facilement accessible grâce à des partenariats avec des entreprises comme Hugging Face, NVIDIA et Ollama.

Maintenant, nous sommes ravis d'annoncer la sortie mondiale de Gemma 2 pour les chercheurs et les développeurs. Disponible en tailles de 9 milliards (9B) et 27 milliards (27B) de paramètres, Gemma 2 offre des performances et une efficacité supérieures par rapport à son prédécesseur, avec des améliorations significatives en matière de sécurité. La version 27B est une véritable puissance, rivalisant avec des modèles plus de deux fois plus grands, et elle peut fonctionner sur un seul GPU Tensor Core NVIDIA H100 ou un hôte TPU, réduisant ainsi les coûts de déploiement. C'est plutôt cool que nous ayons rendu les hautes performances accessibles sans se ruiner, non ?

Un nouveau standard pour l'efficacité et la performance dans les modèles ouverts

Nous avons mis beaucoup d'efforts dans la refonte de l'architecture de Gemma 2, visant des performances et une efficacité de premier ordre. Voici ce qui le distingue :

• Performances exceptionnelles : Avec 27B, Gemma 2 est le leader de sa catégorie, rivalisant même avec des modèles plus de deux fois plus grands. La version 9B brille également, surpassant Llama 3 8B et d'autres modèles ouverts de sa catégorie. Pour tous les détails croustillants, consultez le rapport technique.
• Efficacité et économies inégalées : Le Gemma 2 27B fonctionne sans problème en pleine précision sur un seul hôte TPU Google Cloud, un GPU Tensor Core NVIDIA A100 80GB ou un GPU Tensor Core NVIDIA H100, ce qui permet de réduire les coûts sans sacrifier les performances. Cela rend les déploiements d'IA plus accessibles et économiques.
• Inférence ultra-rapide sur divers matériels : Gemma 2 est conçu pour fonctionner rapidement sur tout, des ordinateurs portables de jeu aux ordinateurs de bureau haut de gamme en passant par les configurations cloud. Vous pouvez le tester en pleine précision dans Google AI Studio, l'exécuter localement avec la version quantifiée sur Gemma.cpp sur votre CPU, ou l'essayer sur votre ordinateur personnel avec un NVIDIA RTX ou GeForce RTX via Hugging Face Transformers.

Conçu pour les développeurs et les chercheurs

Gemma 2 n'est pas seulement plus puissant ; il est également conçu pour s'intégrer parfaitement à vos flux de travail :

• Ouvert et accessible : Comme les modèles Gemma originaux, Gemma 2 est livré avec une licence favorable aux usages commerciaux, permettant aux développeurs et aux chercheurs de partager et de monétiser leurs créations.
• Large compatibilité avec les frameworks : Vous pouvez facilement intégrer Gemma 2 à vos outils et flux de travail préférés, grâce à sa compatibilité avec les principaux frameworks d'IA comme Hugging Face Transformers, et JAX, PyTorch, et TensorFlow via le natif Keras 3.0, vLLM, Gemma.cpp, Llama.cpp, et Ollama. Il est également optimisé avec NVIDIA TensorRT-LLM pour l'infrastructure accélérée NVIDIA ou en tant que microservice d'inférence NVIDIA NIM, avec une optimisation pour NVIDIA NeMo à venir. Vous pouvez commencer à ajuster aujourd'hui avec Keras et Hugging Face, et nous travaillons sur des options d'ajustement plus efficaces en termes de paramètres.
• Déploiement sans effort : À partir du mois prochain, les clients Google Cloud pourront facilement déployer et gérer Gemma 2 sur Vertex AI.

Plongez dans le nouveau Gemma Cookbook, rempli d'exemples pratiques et de recettes pour vous aider à construire vos propres applications et à ajuster Gemma 2 pour des tâches spécifiques. Apprenez à utiliser Gemma avec vos outils préférés, y compris pour des tâches comme la génération augmentée par récupération.

Développement responsable de l'IA

Nous nous engageons à aider les développeurs et les chercheurs à construire et déployer l'IA de manière responsable. Notre Responsible Generative AI Toolkit fait partie de cet effort. Le comparateur LLM récemment mis en open-source aide à réaliser des évaluations détaillées des modèles de langage. À partir d'aujourd'hui, vous pouvez utiliser la bibliothèque Python associée pour effectuer des évaluations comparatives avec votre modèle et vos données, et visualiser les résultats dans l'application. Nous travaillons également à la mise en open-source de notre technologie de filigrane textuel, SynthID, pour les modèles Gemma.

Lors de la formation de Gemma 2, nous avons suivi nos processus internes rigoureux de sécurité, en filtrant les données de pré-entraînement et en effectuant des tests et évaluations approfondis contre une large gamme de métriques pour identifier et atténuer les biais et risques potentiels. Nous partageons nos résultats sur les benchmarks publics liés à la sécurité et aux préjudices représentationnels.

Projets construits avec Gemma

Notre premier lancement de Gemma a suscité plus de 10 millions de téléchargements et de nombreux projets incroyables. Par exemple, Navarasa a utilisé Gemma pour développer un modèle célébrant la diversité linguistique de l'Inde.