Gemma 2現在可供研究人員，開發人員訪問

AI擁有解決當今最艱難挑戰的能力——但前提是每個人都能獲得使用它的工具。這就是為什麼我們在年初推出了Gemma，一套輕量級、尖端的開放模型，採用與我們的Gemini模型相同的技術打造。自那以後，我們擴展了Gemma家族，推出了CodeGemma、RecurrentGemma和PaliGemma，每款模型針對不同的AI任務量身定制，並通過與Hugging Face、NVIDIA和Ollama等公司的合作輕鬆可得。

現在，我們很高興宣布Gemma 2面向研究人員和開發者的全球發布。Gemma 2提供9億（9B）和27億（27B）參數規模，與前代相比具有卓越的性能和效率，並在安全方面有顯著改進。27B版本是一款強大的模型，可與超過其兩倍規模的模型競爭，且能在單個NVIDIA H100 Tensor Core GPU或TPU主機上運行，大幅降低部署成本。我們實現了高性能且不需花費巨資，這是不是很酷？

開放模型效率與性能的新標準

我們投入了大量精力重新設計Gemma 2的架構，旨在實現頂尖的性能和效率。以下是其突出之處：

• 超群的性能： 27B的Gemma 2在其類別中名列前茅，甚至能與超過其兩倍規模的模型競爭。9B版本同樣表現出色，超越Llama 3 8B及其他同類開放模型。欲了解所有詳情，請查看技術報告。
• 無與倫比的效率與成本節省： 27B的Gemma 2能在單個Google Cloud TPU主機、NVIDIA A100 80GB Tensor Core GPU或NVIDIA H100 Tensor Core GPU上以全精度順暢運行，這意味著您可以在不犧牲性能的情況下降低成本。這使得AI部署更易於實現且更具預算友好性。
• 跨硬體的極速推理： Gemma 2設計為在從遊戲筆電、高端桌上型電腦到雲端設定的各種設備上快速運行。您可以在Google AI Studio以全精度測試它，在您的CPU上使用Gemma.cpp的量化版本進行本地運行，或通過Hugging Face Transformers在配備NVIDIA RTX或GeForce RTX的家用電腦上試用。

為開發者和研究人員打造

Gemma 2不僅更強大，還設計為無縫融入您的工作流程：

• 開放且易於使用： 與原始Gemma模型一樣，Gemma 2提供商業友好的許可證，允許開發者和研究人員分享並商業化他們的創作。
• 廣泛的框架兼容性： 由於與Hugging Face Transformers、JAX、PyTorch、TensorFlow（通過原生Keras 3.0）、vLLM、Gemma.cpp、Llama.cpp和Ollama等主要AI框架的兼容性，您可以輕鬆將Gemma 2整合到您喜愛的工具和工作流程中。它還針對NVIDIA TensorRT-LLM進行了優化，適用於NVIDIA加速基礎設施或作為NVIDIA NIM推理微服務，未來還將針對NVIDIA的NeMo進行優化。您可以立即使用Keras和Hugging Face開始微調，我們也正在開發更多參數高效的微調選項。
• 輕鬆部署： 從下個月起，Google Cloud客戶將能在Vertex AI上輕鬆部署和管理Gemma 2。

深入探索全新的Gemma Cookbook，內含實用範例和指南，幫助您構建自己的應用程式並針對特定任務微調Gemma 2。學習如何使用您偏好的工具與Gemma合作，包括執行如檢索增強生成等任務。

負責任的AI發展

我們致力於幫助開發者和研究人員以負責任的方式構建和部署AI。我們的負責任生成式AI工具包是這一努力的一部分。最近開源的LLM Comparator有助於對語言模型進行詳細評估。從今天起，您可以使用配套的Python庫運行與您的模型和數據的比較評估，並在應用程式中視覺化結果。我們還在努力開源我們的文字水印技術SynthID，適用於Gemma模型。

在訓練Gemma 2時，我們遵循了嚴格的內部安全流程，過濾預訓練數據，並針對廣泛的指標進行徹底測試和評估，以識別和減輕潛在的偏見和風險。我們分享了與安全和表徵危害相關的公開基準結果。

基於Gemma的項目

我們的首次Gemma發布引發了超過一千萬次的下載和眾多精彩項目。例如，Navarasa使用Gemma開發了一款慶祝印度語言多樣性的模型。