Gemma 2现在可供研究人员,开发人员访问

AI有能力应对我们今天面临的一些最艰巨的挑战,但这是只有每个人都可以使用工具来使用它。这就是为什么我们通过介绍Gemma(由一套轻巧,尖端开放的模型,由同一技术为我们的双子座模型提供动力的技术制作而来的一组杰玛(Gemma)。从那以后,我们通过代码,重新定性和paligemma扩展了Gemma家族,每个家族都针对不同的AI任务进行了量身定制,并通过与拥抱Face,Nvidia和Ollama等公司的合作伙伴关系易于访问。
现在,我们很高兴地宣布为研究人员和开发人员发布Gemma 2的全球发行。 Gemma 2在90亿(9B)和270亿(27B)参数尺寸的情况下可用,与其前身相比,可提供卓越的性能和效率,并具有重大的安全性提高。 27B版本是一个强大的型号,其尺寸超过两倍,并且可以在单个NVIDIA H100 H100张量Core GPU或TPU主机上运行,从而削减了部署成本。我们如何在不破坏银行的情况下使高性能达到高性能,对吗?
开放模型中效率和性能的新标准
我们为重新设计Gemma 2的体系结构而付出了很多努力,旨在提高一流的性能和效率。这是使它与众不同的原因:
- 表现出色:在27B时,Gemma 2是同类产品中的顶级狗,甚至与型号竞争的尺寸超过两倍。 9B版本还闪耀,表现优于Llama 3 8B和其他类别中的其他开放模型。有关所有多汁的细节,请查看技术报告。
- 无与伦比的效率和成本节省: 27b Gemma 2在单个Google Cloud TPU主机,NVIDIA A100 80GB张量核心GPU或NVIDIA H100 H100 H100张量Core GPU上完全精确地运行。这使AI部署更容易访问和预算友好。
- 跨硬件的快速推断: Gemma 2旨在快速运行,从游戏笔记本电脑和高端台式机到云设置。您可以在Google AI Studio中的完整精度测试,并在CPU上使用gemma.cpp上的量化版本在本地运行,或者通过nvidia rtx或geforce rtx在家用计算机上通过拥抱面孔变压器进行尝试。
为开发人员和研究人员建造
Gemma 2不仅强大;它也旨在无缝地适合您的工作流程:
- 开放且易于使用:像原始的Gemma车型一样,Gemma 2具有商业友好的许可证,使开发人员和研究人员可以共享和货币化。
- 广泛的框架兼容性:您可以轻松地将Gemma 2与您喜欢的工具和工作流程集成在一起,这要归功于它与主要的AI框架,例如拥抱Face Transformers,Jax,Pytorch和Tensorflow通过本地Keras 3.0,Vllm,Vllm,Gemma,Gemma.cpp,Llama.cpp和Ollama。它还用NVIDIA Tensorrt-Llm优化了NVIDIA加速基础设施或NVIDIA NIM推理微服务,并针对NVIDIA的NEMO进行了优化。您今天可以从Keras和拥抱面孔开始微调,我们正在研究更多参数有效的微调选项。
- 轻松的部署:从下个月开始,Google Cloud客户可以轻松地在Vertex AI上部署和管理Gemma 2。
深入新的Gemma食谱,其中包含实用的示例和食谱,以帮助您构建自己的应用程序,并为特定任务进行微调Gemma 2。了解如何将Gemma与您首选的工具一起使用,包括用于检索型生成的任务。
负责的AI开发
我们致力于帮助开发人员和研究人员负责任地建立和部署AI。我们负责的生成AI工具包是这项工作的一部分。最近开源的LLM比较器有助于对语言模型进行详细评估。从今天开始,您可以使用Companion Python库与模型和数据进行比较评估,并在应用程序中可视化结果。我们还致力于为Gemma型号开源的文本水印技术SynthID。
在训练Gemma 2时,我们遵循严格的内部安全过程,过滤预训练数据,并对广泛的指标进行彻底的测试和评估,以识别和减轻潜在的偏见和风险。我们在与安全和代表性危害有关的公共基准上分享我们的结果。
用Gemma构建的项目
我们的第一个Gemma推出引发了超过1000万个下载和大量惊人的项目。例如,纳瓦拉萨(Navarasa)使用杰玛(Gemma)开发了一个庆祝印度语言多样性的模型。
使用Gemma 2,开发人员可以进行更雄心勃勃的项目,从而突破了AI中可能的界限。我们将继续探索新的架构并开发专门的Gemma变体,以应对更广泛的AI任务和挑战。我们还准备发布2.6B参数Gemma 2模型,该模型旨在平衡轻质可访问性和强大的性能。您可以在技术报告中找到有关此的更多信息。
入门
Gemma 2现在在Google AI Studio中可用,因此您可以在27B时测试其完整功能,而无需任何硬件要求。您还可以从Kaggle和拥抱面部模型下载Gemma 2的模型权重,而Vertex AI模型花园即将推出。
为了支持研究与开发,Gemma 2可以通过Kaggle或免费的Colab笔记本电脑免费获得。首次Google Cloud客户可能有资格获得300美元的学分。学术研究人员可以申请Gemma 2学术研究计划,以获取Google Cloud学分,以加快其使用Gemma 2的研究。应用程序现已开放,直到8月9日。
相关文章
Миллиардеры обсуждают автоматизацию рабочих мест в обновлении AI на этой неделе
Привет всем, добро пожаловать в новостную рассылку TechCrunch по AI! Если вы еще не подписаны, вы можете подписаться здесь, чтобы получать ее прямо в ваш почтовый ящик каждую среду.На прошлой неделе м
Запуск приложения NotebookLM: ИИ-инструмент знаний
NotebookLM теперь в мобильном: ваш AI-ассистент для исследований доступен на Android и iOS Мы поражены вашей реакцией на NotebookLM — миллионы пользователей выбрали его в качестве
Фонд будущего ИИ Google, возможно, должен действовать осторожно
Инвестиционная инициатива Google в области ИИ: стратегический поворот на фоне регуляторного вниманияОбъявление Google о создании фонда AI Futures Fund является смелым шагом в стрем
评论 (60)
0/200
BenHernández
2025-04-11 08:00:00
Gemma 2 is cool for researchers and developers, but it's a bit too technical for me. I appreciate the open access, but I wish there was a simpler version for us non-techies. Still, it's a great tool for those who can use it!
0
StevenSanchez
2025-04-11 08:00:00
研究者や開発者にとってGemma 2は素晴らしいですが、私には少し技術的すぎます。オープンアクセスは評価しますが、技術者でない私たちのための簡単なバージョンがあればいいのに。使える人にとっては素晴らしいツールです!
0
AndrewHernández
2025-04-11 08:00:00
Gemma 2는 연구자와 개발자에게 좋지만, 나에게는 너무 기술적이에요. 오픈 액세스는 좋지만, 비기술자들을 위한 더 쉬운 버전이 있으면 좋겠어요. 그래도 사용할 수 있는 사람들에게는 훌륭한 도구입니다!
0
EricPerez
2025-04-11 08:00:00
Gemma 2 é legal para pesquisadores e desenvolvedores, mas é um pouco técnico demais para mim. Aprecio o acesso aberto, mas gostaria que houvesse uma versão mais simples para nós, não técnicos. Ainda assim, é uma ótima ferramenta para quem pode usá-la!
0
JasonSanchez
2025-04-11 08:00:00
Gemma 2 es genial para investigadores y desarrolladores, pero es un poco demasiado técnico para mí. Aprecio el acceso abierto, pero desearía que hubiera una versión más simple para nosotros, los no técnicos. Aún así, es una gran herramienta para quienes pueden usarla!
0
MatthewBaker
2025-04-11 08:00:00
Gemma is a game-changer for researchers and devs! It's lightweight and based on the same tech as Gemini, which is awesome. I've been using it for my projects and it's made things so much easier. Only wish it had more documentation, but still, it's a solid tool!
0
AI有能力应对我们今天面临的一些最艰巨的挑战,但这是只有每个人都可以使用工具来使用它。这就是为什么我们通过介绍Gemma(由一套轻巧,尖端开放的模型,由同一技术为我们的双子座模型提供动力的技术制作而来的一组杰玛(Gemma)。从那以后,我们通过代码,重新定性和paligemma扩展了Gemma家族,每个家族都针对不同的AI任务进行了量身定制,并通过与拥抱Face,Nvidia和Ollama等公司的合作伙伴关系易于访问。
现在,我们很高兴地宣布为研究人员和开发人员发布Gemma 2的全球发行。 Gemma 2在90亿(9B)和270亿(27B)参数尺寸的情况下可用,与其前身相比,可提供卓越的性能和效率,并具有重大的安全性提高。 27B版本是一个强大的型号,其尺寸超过两倍,并且可以在单个NVIDIA H100 H100张量Core GPU或TPU主机上运行,从而削减了部署成本。我们如何在不破坏银行的情况下使高性能达到高性能,对吗?
开放模型中效率和性能的新标准
我们为重新设计Gemma 2的体系结构而付出了很多努力,旨在提高一流的性能和效率。这是使它与众不同的原因:
- 表现出色:在27B时,Gemma 2是同类产品中的顶级狗,甚至与型号竞争的尺寸超过两倍。 9B版本还闪耀,表现优于Llama 3 8B和其他类别中的其他开放模型。有关所有多汁的细节,请查看技术报告。
- 无与伦比的效率和成本节省: 27b Gemma 2在单个Google Cloud TPU主机,NVIDIA A100 80GB张量核心GPU或NVIDIA H100 H100 H100张量Core GPU上完全精确地运行。这使AI部署更容易访问和预算友好。
- 跨硬件的快速推断: Gemma 2旨在快速运行,从游戏笔记本电脑和高端台式机到云设置。您可以在Google AI Studio中的完整精度测试,并在CPU上使用gemma.cpp上的量化版本在本地运行,或者通过nvidia rtx或geforce rtx在家用计算机上通过拥抱面孔变压器进行尝试。
为开发人员和研究人员建造
Gemma 2不仅强大;它也旨在无缝地适合您的工作流程:
- 开放且易于使用:像原始的Gemma车型一样,Gemma 2具有商业友好的许可证,使开发人员和研究人员可以共享和货币化。
- 广泛的框架兼容性:您可以轻松地将Gemma 2与您喜欢的工具和工作流程集成在一起,这要归功于它与主要的AI框架,例如拥抱Face Transformers,Jax,Pytorch和Tensorflow通过本地Keras 3.0,Vllm,Vllm,Gemma,Gemma.cpp,Llama.cpp和Ollama。它还用NVIDIA Tensorrt-Llm优化了NVIDIA加速基础设施或NVIDIA NIM推理微服务,并针对NVIDIA的NEMO进行了优化。您今天可以从Keras和拥抱面孔开始微调,我们正在研究更多参数有效的微调选项。
- 轻松的部署:从下个月开始,Google Cloud客户可以轻松地在Vertex AI上部署和管理Gemma 2。
深入新的Gemma食谱,其中包含实用的示例和食谱,以帮助您构建自己的应用程序,并为特定任务进行微调Gemma 2。了解如何将Gemma与您首选的工具一起使用,包括用于检索型生成的任务。
负责的AI开发
我们致力于帮助开发人员和研究人员负责任地建立和部署AI。我们负责的生成AI工具包是这项工作的一部分。最近开源的LLM比较器有助于对语言模型进行详细评估。从今天开始,您可以使用Companion Python库与模型和数据进行比较评估,并在应用程序中可视化结果。我们还致力于为Gemma型号开源的文本水印技术SynthID。
在训练Gemma 2时,我们遵循严格的内部安全过程,过滤预训练数据,并对广泛的指标进行彻底的测试和评估,以识别和减轻潜在的偏见和风险。我们在与安全和代表性危害有关的公共基准上分享我们的结果。
用Gemma构建的项目
我们的第一个Gemma推出引发了超过1000万个下载和大量惊人的项目。例如,纳瓦拉萨(Navarasa)使用杰玛(Gemma)开发了一个庆祝印度语言多样性的模型。
使用Gemma 2,开发人员可以进行更雄心勃勃的项目,从而突破了AI中可能的界限。我们将继续探索新的架构并开发专门的Gemma变体,以应对更广泛的AI任务和挑战。我们还准备发布2.6B参数Gemma 2模型,该模型旨在平衡轻质可访问性和强大的性能。您可以在技术报告中找到有关此的更多信息。
入门
Gemma 2现在在Google AI Studio中可用,因此您可以在27B时测试其完整功能,而无需任何硬件要求。您还可以从Kaggle和拥抱面部模型下载Gemma 2的模型权重,而Vertex AI模型花园即将推出。
为了支持研究与开发,Gemma 2可以通过Kaggle或免费的Colab笔记本电脑免费获得。首次Google Cloud客户可能有资格获得300美元的学分。学术研究人员可以申请Gemma 2学术研究计划,以获取Google Cloud学分,以加快其使用Gemma 2的研究。应用程序现已开放,直到8月9日。



Gemma 2 is cool for researchers and developers, but it's a bit too technical for me. I appreciate the open access, but I wish there was a simpler version for us non-techies. Still, it's a great tool for those who can use it!




研究者や開発者にとってGemma 2は素晴らしいですが、私には少し技術的すぎます。オープンアクセスは評価しますが、技術者でない私たちのための簡単なバージョンがあればいいのに。使える人にとっては素晴らしいツールです!




Gemma 2는 연구자와 개발자에게 좋지만, 나에게는 너무 기술적이에요. 오픈 액세스는 좋지만, 비기술자들을 위한 더 쉬운 버전이 있으면 좋겠어요. 그래도 사용할 수 있는 사람들에게는 훌륭한 도구입니다!




Gemma 2 é legal para pesquisadores e desenvolvedores, mas é um pouco técnico demais para mim. Aprecio o acesso aberto, mas gostaria que houvesse uma versão mais simples para nós, não técnicos. Ainda assim, é uma ótima ferramenta para quem pode usá-la!




Gemma 2 es genial para investigadores y desarrolladores, pero es un poco demasiado técnico para mí. Aprecio el acceso abierto, pero desearía que hubiera una versión más simple para nosotros, los no técnicos. Aún así, es una gran herramienta para quienes pueden usarla!




Gemma is a game-changer for researchers and devs! It's lightweight and based on the same tech as Gemini, which is awesome. I've been using it for my projects and it's made things so much easier. Only wish it had more documentation, but still, it's a solid tool!












