Gemma 2 ahora accesible para investigadores, desarrolladores

La IA tiene el poder de enfrentar algunos de los desafíos más difíciles que enfrentamos hoy, pero eso es solo si todos pueden tener en sus manos las herramientas para usarlo. Es por eso que comenzamos el año al presentar a Gemma, un conjunto de modelos abiertos livianos y de vanguardia, creados con la misma tecnología que alimenta nuestros modelos Gemini. Desde entonces, hemos expandido a la familia Gemma con Codegemma, recurrentgemma y Paligemma, cada uno adaptado para diferentes tareas de IA y fácilmente accesible a través de asociaciones con compañías como Hugging Face, Nvidia y Ollama.

Ahora, estamos emocionados de anunciar el lanzamiento global de Gemma 2 para investigadores y desarrolladores. Disponible en los tamaños de parámetros de 9 mil millones (9b) y 27 mil millones (27b), Gemma 2 ofrece un rendimiento y eficiencia superiores en comparación con su predecesor, con mejoras de seguridad significativas. La versión 27B es una potencia y rivalización de modelos que tienen más de dos veces en su tamaño, y puede ejecutarse en un solo host NVIDIA H100 Tensor Core GPU o TPU, reduciendo los costos de implementación. Es genial cómo hemos logrado el alto rendimiento sin romper el banco, ¿verdad?

Un nuevo estándar para la eficiencia y el rendimiento en los modelos abiertos.

Hemos puesto mucho esfuerzo para rediseñar la arquitectura de Gemma 2, con el objetivo de un rendimiento y eficiencia de primer nivel. Esto es lo que lo distingue:

• Rendimiento excesivo: a 27b, Gemma 2 es el mejor perro de su clase, incluso compitiendo con modelos más del doble de su tamaño. La versión 9B también brilla, superando a Llama 3 8B y otros modelos abiertos en su categoría. Para todos los detalles jugosos, consulte el informe técnico.
• Eficiencia inigualable y ahorro de costos: el 27B Gemma 2 funciona sin problemas con una precisión completa en un solo host de Google Cloud TPU, NVIDIA A100 80GB Tensor Core GPU o NVIDIA H100 Tensor Core GPU, lo que significa que puede mantener los costos sin sacrificar el rendimiento. Esto hace que las implementaciones de IA sean más accesibles y amigables con el presupuesto.
• Inferencia rápida en todo el hardware: Gemma 2 está diseñado para funcionar rápidamente en todo, desde computadoras portátiles de juego y escritorios de alta gama hasta configuraciones de nubes. Puede probarlo a plena precisión en Google AI Studio, ejecutarlo localmente con la versión cuantificada en gemma.cpp en su CPU, o probarlo en la computadora de su hogar con un NVIDIA RTX o GeForce RTX a través de los transformadores faciales para abrazar.