opção
Lar
Notícias
Gemma 2 agora acessível a pesquisadores, desenvolvedores

Gemma 2 agora acessível a pesquisadores, desenvolvedores

10 de Abril de 2025
93

Gemma 2 agora acessível a pesquisadores, desenvolvedores

A IA tem o poder de enfrentar alguns dos desafios mais difíceis que enfrentamos hoje - mas isso é apenas se todos puderem colocar as mãos nas ferramentas para usá -lo. É por isso que começamos o ano ao apresentar Gemma, um conjunto de modelos abertos leves e de ponta, criados a partir da mesma tecnologia que alimenta nossos modelos de Gemini. Desde então, expandimos a família Gemma com CodeGemma, Recorrentgemma e Paligemma, cada um adaptado para diferentes tarefas de IA e facilmente acessível através de parcerias com empresas como Hugging Face, Nvidia e Ollama.

Agora, estamos animados em anunciar o lançamento global do Gemma 2 para pesquisadores e desenvolvedores. Disponível em 9 bilhões (9b) e 27 bilhões (27b) de tamanhos de parâmetros, o Gemma 2 oferece desempenho e eficiência superiores em comparação com seu antecessor, com melhorias significativas de segurança. A versão 27B é uma potência, rivalizando com modelos que têm mais do seu tamanho e podem ser executados em uma única GPU ou TPU do NVIDIA H100 Tensor Core ou Host, reduzindo os custos de implantação. É muito legal como tornamos o alto desempenho possível sem gastar muito, certo?

Um novo padrão para eficiência e desempenho em modelos abertos

Nós nos esforçamos muito para redesenhar a arquitetura para Gemma 2, buscando desempenho e eficiência de primeira linha. Aqui está o que o diferencia:

  • Desempenho Experado: a 27b, Gemma 2 é o cão superior da sua classe, até competindo com modelos mais que o dobro do seu tamanho. A versão 9B também brilha, superando a llama 3 8b e outros modelos abertos em sua categoria. Para todos os detalhes suculentos, consulte o relatório técnico.
  • Eficiência inigualável e economia de custos: O 27B Gemma 2 funciona sem problemas com precisão total em um único host TPU do Google Cloud, NVIDIA A100 80 GB de GPU tensor ou NVIDIA H100 Tensor Core GPU, o que significa que você pode manter os custos sem sacrificar o desempenho. Isso torna as implantações de IA mais acessíveis e econômicas.
  • Inferência rápida de Blazing através do hardware: o Gemma 2 foi projetado para executar rapidamente tudo, desde laptops para jogos e desktops de ponta a configurações de nuvem. Você pode testá -lo com precisão total no Google AI Studio, executá -lo localmente com a versão quantizada no gemma.cpp na sua CPU ou experimentá -lo no seu computador doméstico com um NVIDIA RTX ou GeForce RTX por meio de Hugging Face Transformers.

Construído para desenvolvedores e pesquisadores

Gemma 2 não é apenas mais poderoso; Também foi projetado para se encaixar perfeitamente nos seus fluxos de trabalho:

  • Aberto e acessível: como os modelos Gemma original, a Gemma 2 vem com uma licença comercialmente amigável, permitindo que desenvolvedores e pesquisadores compartilhem e monetizem suas criações.
  • Compatibilidade da estrutura ampla: você pode integrar facilmente o Gemma 2 com suas ferramentas e fluxos de trabalho favoritos, graças à sua compatibilidade com as principais estruturas de IA, como abraçar transformadores de rosto e Jax, pytorch e tensorflow via Keras 3.0 nativo, vllm, gemma.cpp, llama.cpp e polama. Também é otimizado com o NVIDIA Tensorrt-Llm para infraestrutura acelerada por NVIDIA ou como um microsserviço de inferência NVIDIA NIM, com otimização para o NEMO da NVIDIA no horizonte. Você pode começar a ajustar bem hoje com Keras e abraçar o rosto, e estamos trabalhando em opções de ajuste fina com mais eficiência de parâmetro.
  • Implantação sem esforço: a partir do próximo mês, os clientes do Google Cloud podem implantar e gerenciar facilmente e gerenciar o Gemma 2 no Vertex AI.

Mergulhe no novo livro de receitas da Gemma, repleto de exemplos e receitas práticas para ajudá-lo a criar seus próprios aplicativos e tune Tune Gemma 2 para tarefas específicas. Aprenda a usar o GEMMA com suas ferramentas preferidas, incluindo tarefas como geração de recuperação com agitação.

Desenvolvimento de IA responsável

Estamos comprometidos em ajudar desenvolvedores e pesquisadores a criar e implantar a IA com responsabilidade. Nosso kit de ferramentas de IA generativo responsável faz parte desse esforço. O comparador de LLM de código aberto recentemente ajuda com avaliações detalhadas dos modelos de idiomas. A partir de hoje, você pode usar a biblioteca Python Companion para executar avaliações comparativas com seu modelo e dados e visualizar os resultados no aplicativo. Também estamos trabalhando para que origem em nossa tecnologia de marca d'água de texto, Synthid, para modelos Gemma.

Ao treinar a GEMMA 2, seguimos nossos rigorosos processos de segurança interna, filtrando dados de pré-treinamento e realizando testes e avaliação completos contra uma ampla gama de métricas para identificar e mitigar possíveis vieses e riscos. Compartilhamos nossos resultados em benchmarks públicos relacionados à segurança e danos representacionais.

Projetos construídos com gemma

Nosso primeiro lançamento da Gemma provocou mais de 10 milhões de downloads e toneladas de projetos incríveis. Por exemplo, Navarasa usou Gemma para desenvolver um modelo que celebra a diversidade linguística da Índia.

Com a Gemma 2, os desenvolvedores podem assumir projetos ainda mais ambiciosos, ultrapassando os limites do que é possível na IA. Continuaremos explorando novas arquiteturas e desenvolvendo variantes especializadas da GEMMA para enfrentar uma gama mais ampla de tarefas e desafios de IA. Também estamos nos preparando para lançar um modelo Gemma 2 de parâmetro 2.6B, projetado para equilibrar a acessibilidade leve com um desempenho poderoso. Você pode descobrir mais sobre isso no relatório técnico.

Começando

A Gemma 2 já está disponível no Google AI Studio, para que você possa testar seus recursos completos a 27b sem requisitos de hardware. Você também pode baixar os pesos do modelo de Gemma 2 nos modelos de rosto de Kaggle e abraçando, com o jardim do modelo Ai Vertex em breve.

Para apoiar a pesquisa e o desenvolvimento, o Gemma 2 está disponível gratuitamente através de Kaggle ou por meio de um nível gratuito para notebooks da COLAB. Os clientes iniciantes do Google Cloud podem ser elegíveis por US $ 300 em créditos. Os pesquisadores acadêmicos podem se inscrever no Programa de Pesquisa Acadêmica da Gemma 2 para fazer com que os créditos do Google Cloud para acelerar suas pesquisas com a Gemma 2. Os aplicativos estão abertos agora até 9 de agosto.

Artigo relacionado
Billionaires Discuss Automating Jobs Away in This Week's AI Update Billionaires Discuss Automating Jobs Away in This Week's AI Update Hey everyone, welcome back to TechCrunch's AI newsletter! If you're not already subscribed, you can sign up here to get it delivered straight to your inbox every Wednesday.We took a little break last week, but for good reason—the AI news cycle was on fire, thanks in large part to the sudden surge of
NotebookLM App Launches: AI-Powered Tool for Instant Knowledge Access Anywhere NotebookLM App Launches: AI-Powered Tool for Instant Knowledge Access Anywhere NotebookLM Goes Mobile: Your AI-Powered Research Assistant Now on Android & iOSWe’ve been blown away by the response to NotebookLM—millions of users have embraced it as their go-to
Google’s AI Futures Fund may have to tread carefully Google’s AI Futures Fund may have to tread carefully Google’s New AI Investment Initiative: A Strategic Shift Amid Regulatory ScrutinyGoogle's recent announcement of an AI Futures Fund marks a bold move in the tech giant's ongoing qu
Comentários (60)
0/200
BenHernández
BenHernández 11 de Abril de 2025 à0 00:00:00 GMT

Gemma 2 is cool for researchers and developers, but it's a bit too technical for me. I appreciate the open access, but I wish there was a simpler version for us non-techies. Still, it's a great tool for those who can use it!

StevenSanchez
StevenSanchez 11 de Abril de 2025 à0 00:00:00 GMT

研究者や開発者にとってGemma 2は素晴らしいですが、私には少し技術的すぎます。オープンアクセスは評価しますが、技術者でない私たちのための簡単なバージョンがあればいいのに。使える人にとっては素晴らしいツールです!

AndrewHernández
AndrewHernández 11 de Abril de 2025 à0 00:00:00 GMT

Gemma 2는 연구자와 개발자에게 좋지만, 나에게는 너무 기술적이에요. 오픈 액세스는 좋지만, 비기술자들을 위한 더 쉬운 버전이 있으면 좋겠어요. 그래도 사용할 수 있는 사람들에게는 훌륭한 도구입니다!

EricPerez
EricPerez 11 de Abril de 2025 à0 00:00:00 GMT

Gemma 2 é legal para pesquisadores e desenvolvedores, mas é um pouco técnico demais para mim. Aprecio o acesso aberto, mas gostaria que houvesse uma versão mais simples para nós, não técnicos. Ainda assim, é uma ótima ferramenta para quem pode usá-la!

JasonSanchez
JasonSanchez 11 de Abril de 2025 à0 00:00:00 GMT

Gemma 2 es genial para investigadores y desarrolladores, pero es un poco demasiado técnico para mí. Aprecio el acceso abierto, pero desearía que hubiera una versión más simple para nosotros, los no técnicos. Aún así, es una gran herramienta para quienes pueden usarla!

MatthewBaker
MatthewBaker 11 de Abril de 2025 à0 00:00:00 GMT

Gemma is a game-changer for researchers and devs! It's lightweight and based on the same tech as Gemini, which is awesome. I've been using it for my projects and it's made things so much easier. Only wish it had more documentation, but still, it's a solid tool!

De volta ao topo
OR