選項
首頁
消息
Gemma 2現在可供研究人員,開發人員訪問

Gemma 2現在可供研究人員,開發人員訪問

2025-04-10
93

Gemma 2現在可供研究人員,開發人員訪問

AI有能力應對我們今天面臨的一些最艱鉅的挑戰,但這是只有每個人都可以使用工具來使用它。這就是為什麼我們通過介紹Gemma(由一套輕巧,尖端開放的模型,由同一技術為我們的雙子座模型提供動力的技術製作而來的一組傑瑪(Gemma)。從那以後,我們通過代碼,重新定性和paligemma擴展了Gemma家族,每個家族都針對不同的AI任務進行了量身定制,並通過與擁抱Face,Nvidia和Ollama等公司的合作夥伴關係易於訪問。

現在,我們很高興地宣佈為研究人員和開發人員發布Gemma 2的全球發行。 Gemma 2在90億(9B)和270億(27B)參數尺寸的情況下可用,與其前身相比,可提供卓越的性能和效率,並具有重大的安全性提高。 27B版本是一個強大的型號,其尺寸超過兩倍,並且可以在單個NVIDIA H100 H100張量Core GPU或TPU主機上運行,​​從而削減了部署成本。我們如何在不破壞銀行的情況下使高性能達到高性能,對嗎?

開放模型中效率和性能的新標準

我們為重新設計Gemma 2的體系結構而付出了很多努力,旨在提高一流的性能和效率。這是使它與眾不同的原因:

  • 表現出色:在27B時,Gemma 2是同類產品中的頂級狗,甚至與型號競爭的尺寸超過兩倍。 9B版本還閃耀,表現優於Llama 3 8B和其他類別中的其他開放模型。有關所有多汁的細節,請查看技術報告。
  • 無與倫比的效率和成本節省: 27b Gemma 2在單個Google Cloud TPU主機,NVIDIA A100 80GB張量核心GPU或NVIDIA H100 H100 H100張量Core GPU上完全精確地運行。這使AI部署更容易訪問和預算友好。
  • 跨硬件的快速推斷: Gemma 2旨在快速運行,從遊戲筆記本電腦和高端台式機到雲設置。您可以在Google AI Studio中的完整精度測試,並在CPU上使用gemma.cpp上的量化版本在本地運行,或者通過nvidia rtx或geforce rtx在家用計算機上通過擁抱面孔變壓器進行嘗試。

為開發人員和研究人員建造

Gemma 2不僅強大;它也旨在無縫地適合您的工作流程:

  • 開放且易於使用:像原始的Gemma車型一樣,Gemma 2具有商業友好的許可證,使開發人員和研究人員可以共享和貨幣化。
  • 廣泛的框架兼容性:您可以輕鬆地將Gemma 2與您喜歡的工具和工作流程集成在一起,這要歸功於它與主要的AI框架,例如擁抱Face Transformers,Jax,Pytorch和Tensorflow通過本地Keras 3.0,Vllm,Vllm,Gemma,Gemma.cpp,Llama.cpp和Ollama。它還用NVIDIA Tensorrt-Llm優化了NVIDIA加速基礎設施或NVIDIA NIM推理微服務,並針對NVIDIA的NEMO進行了優化。您今天可以從Keras和擁抱面孔開始微調,我們正在研究更多參數有效的微調選項。
  • 輕鬆的部署:從下個月開始,Google Cloud客戶可以輕鬆地在Vertex AI上部署和管理Gemma 2。

深入新的Gemma食譜,其中包含實用的示例和食譜,以幫助您構建自己的應用程序,並為特定任務進行微調Gemma 2。了解如何將Gemma與您首選的工具一起使用,包括用於檢索型生成的任務。

負責的AI開發

我們致力於幫助開發人員和研究人員負責任地建立和部署AI。我們負責的生成AI工具包是這項工作的一部分。最近開源的LLM比較器有助於對語言模型進行詳細評估。從今天開始,您可以使用Companion Python庫與模型和數據進行比較評估,並在應用程序中可視化結果。我們還致力於為Gemma型號開源的文本水印技術SynthID。

在訓練Gemma 2時,我們遵循嚴格的內部安全過程,過濾預訓練數據,並對廣泛的指標進行徹底的測試和評估,以識別和減輕潛在的偏見和風險。我們在與安全和代表性危害有關的公共基准上分享我們的結果。

用Gemma構建的項目

我們的第一個Gemma推出引發了超過1000萬個下載和大量驚人的項目。例如,納瓦拉薩(Navarasa)使用傑瑪(Gemma)開發了一個慶祝印度語言多樣性的模型。

使用Gemma 2,開發人員可以進行更雄心勃勃的項目,從而突破了AI中可能的界限。我們將繼續探索新的架構並開發專門的Gemma變體,以應對更廣泛的AI任務和挑戰。我們還準備發布2.6B參數Gemma 2模型,該模型旨在平衡輕質可訪問性和強大的性能。您可以在技術報告中找到有關此的更多信息。

入門

Gemma 2現在在Google AI Studio中可用,因此您可以在27B時測試其完整功能,而無需任何硬件要求。您還可以從Kaggle和擁抱面部模型下載Gemma 2的模型權重,而Vertex AI模型花園即將推出。

為了支持研究與開發,Gemma 2可以通過Kaggle或免費的Colab筆記本電腦免費獲得。首次Google Cloud客戶可能有資格獲得300美元的學分。學術研究人員可以申請Gemma 2學術研究計劃,以獲取Google Cloud學分,以加快其使用Gemma 2的研究。應用程序現已開放,直到8月9日。

相關文章
Миллиардеры обсуждают автоматизацию рабочих мест в обновлении AI на этой неделе Миллиардеры обсуждают автоматизацию рабочих мест в обновлении AI на этой неделе Привет всем, добро пожаловать в новостную рассылку TechCrunch по AI! Если вы еще не подписаны, вы можете подписаться здесь, чтобы получать ее прямо в ваш почтовый ящик каждую среду.На прошлой неделе м
Запуск приложения NotebookLM: ИИ-инструмент знаний Запуск приложения NotebookLM: ИИ-инструмент знаний NotebookLM теперь в мобильном: ваш AI-ассистент для исследований доступен на Android и iOS Мы поражены вашей реакцией на NotebookLM — миллионы пользователей выбрали его в качестве
Фонд будущего ИИ Google, возможно, должен действовать осторожно Фонд будущего ИИ Google, возможно, должен действовать осторожно Инвестиционная инициатива Google в области ИИ: стратегический поворот на фоне регуляторного вниманияОбъявление Google о создании фонда AI Futures Fund является смелым шагом в стрем
評論 (60)
0/200
BenHernández
BenHernández 2025-04-11 08:00:00

Gemma 2 is cool for researchers and developers, but it's a bit too technical for me. I appreciate the open access, but I wish there was a simpler version for us non-techies. Still, it's a great tool for those who can use it!

StevenSanchez
StevenSanchez 2025-04-11 08:00:00

研究者や開発者にとってGemma 2は素晴らしいですが、私には少し技術的すぎます。オープンアクセスは評価しますが、技術者でない私たちのための簡単なバージョンがあればいいのに。使える人にとっては素晴らしいツールです!

AndrewHernández
AndrewHernández 2025-04-11 08:00:00

Gemma 2는 연구자와 개발자에게 좋지만, 나에게는 너무 기술적이에요. 오픈 액세스는 좋지만, 비기술자들을 위한 더 쉬운 버전이 있으면 좋겠어요. 그래도 사용할 수 있는 사람들에게는 훌륭한 도구입니다!

EricPerez
EricPerez 2025-04-11 08:00:00

Gemma 2 é legal para pesquisadores e desenvolvedores, mas é um pouco técnico demais para mim. Aprecio o acesso aberto, mas gostaria que houvesse uma versão mais simples para nós, não técnicos. Ainda assim, é uma ótima ferramenta para quem pode usá-la!

JasonSanchez
JasonSanchez 2025-04-11 08:00:00

Gemma 2 es genial para investigadores y desarrolladores, pero es un poco demasiado técnico para mí. Aprecio el acceso abierto, pero desearía que hubiera una versión más simple para nosotros, los no técnicos. Aún así, es una gran herramienta para quienes pueden usarla!

MatthewBaker
MatthewBaker 2025-04-11 08:00:00

Gemma is a game-changer for researchers and devs! It's lightweight and based on the same tech as Gemini, which is awesome. I've been using it for my projects and it's made things so much easier. Only wish it had more documentation, but still, it's a solid tool!

回到頂部
OR