Gemma 2 désormais accessible aux chercheurs, aux développeurs

L'IA a le pouvoir de relever certains des défis les plus difficiles auxquels nous sommes confrontés aujourd'hui, mais ce n'est que si tout le monde peut mettre la main sur les outils pour l'utiliser. C'est pourquoi nous avons lancé l'année en présentant Gemma, un ensemble de modèles ouverts légers et de pointe, fabriqués à partir de la même technologie qui alimente nos modèles Gemini. Depuis lors, nous avons élargi la famille Gemma avec Codegemma, RecurrentGemma et Paligemma, chacune adaptée à différentes tâches d'IA et facilement accessibles grâce à des partenariats avec des sociétés comme Hugging Face, Nvidia et Olllama.

Maintenant, nous sommes ravis d'annoncer la sortie mondiale de Gemma 2 pour les chercheurs et les développeurs. Disponible en 9 milliards (9b) et 27 milliards (27b) de tailles de paramètres, Gemma 2 offre des performances et une efficacité supérieures par rapport à son prédécesseur, avec des améliorations de sécurité significatives. La version 27B est une puissance, rivalisant avec des modèles qui dépassent le double de sa taille, et il peut fonctionner sur un seul GPU du Tensor NVIDIA H100 TENSOR HOPU ou TPU, les coûts de déploiement de réduction. C'est plutôt cool de voir comment nous avons rendu les performances réalisables sans se casser la banque, non?

Une nouvelle norme pour l'efficacité et les performances dans les modèles ouverts

Nous avons mis beaucoup d'efforts à la refonte de l'architecture de Gemma 2, visant les performances et l'efficacité de premier ordre. Voici ce qui le distingue:

• Performances démesurées: à 27b, Gemma 2 est le meilleur chien de sa classe, même en concurrence avec des modèles plus de deux fois sa taille. La version 9B brille également, surprenant le lama 3 8b et d'autres modèles ouverts dans sa catégorie. Pour tous les détails juteux, consultez le rapport technique.
• Efficacité inégalée et économies de coûts: le 27B GEMMA 2 se déroule en douceur à pleine précision sur un seul hôte Google Cloud TPU, NVIDIA A100 80GB TENSOR CORE GPU, ou NVIDIA H100 TENSOR CORE GPU, ce qui signifie que vous pouvez réduire les coûts sans sacrifier les performances. Cela rend les déploiements d'IA plus accessibles et plus favorables à un budget.
• Inférence rapide sur le matériel: Gemma 2 est conçu pour fonctionner rapidement sur tout, des ordinateurs portables de jeu et des ordinateurs de bureau haut de gamme aux configurations de cloud. Vous pouvez le tester en pleine précision dans Google AI Studio, l'exécuter localement avec la version quantifiée sur gemma.cpp sur votre CPU, ou l'essayer sur votre ordinateur domestique avec un NVIDIA RTX ou GeForce RTX via des transformateurs de face étreintes.