Gemma 2は、研究者、開発者がアクセスできるようになりました

AIは今日私たちが直面する最も困難な課題に取り組む力を持っていますが、それは誰もがそのツールを手に入れられる場合に限られます。そのため、私たちは年始にGemmaを導入しました。これは、Geminiモデルを支える同じ技術から作られた、軽量で最先端のオープンなモデルセットです。それ以来、CodeGemma、RecurrentGemma、PaliGemmaといったGemmaファミリーを拡張し、それぞれが異なるAIタスク向けに調整され、Hugging Face、NVIDIA、Ollamaなどの企業とのパートナーシップを通じて簡単にアクセス可能です。

今、私たちは研究者や開発者向けにGemma 2のグローバルリリースを発表できることを嬉しく思います。90億（9B）および270億（27B）のパラメータサイズで提供されるGemma 2は、前モデルと比較して優れたパフォーマンスと効率を提供し、顕著な安全性の向上も実現しています。27Bバージョンは、そのサイズの2倍以上のモデルと競合する強力な性能を持ち、単一のNVIDIA H100 Tensor Core GPUまたはTPUホストで動作し、デプロイコストを大幅に削減します。高性能を低コストで実現したのは、なかなかクールだと思いませんか？

オープンなモデルにおける効率とパフォーマンスの新しい標準

私たちはGemma 2のアーキテクチャを一から設計し直し、最高のパフォーマンスと効率を目指しました。以下がその特徴です：

• 卓越したパフォーマンス： 27BのGemma 2は、そのクラスでトップであり、2倍以上のサイズのモデルとも競合します。9Bバージョンも、Llama 3 8Bや他の同カテゴリのオープンなモデルを上回る輝かしい性能を発揮します。詳細はテクニカルレポートをご覧ください。
• 比類なき効率とコスト削減： 27BのGemma 2は、Google Cloud TPUホスト、NVIDIA A100 80GB Tensor Core GPU、またはNVIDIA H100 Tensor Core GPUでフル精度でスムーズに動作し、パフォーマンスを犠牲にせずにコストを抑えることができます。これにより、AIデプロイがよりアクセスしやすく、予算に優しいものになります。
• 幅広いハードウェアでの高速推論： Gemma 2は、ゲーミングノートPCやハイエンドデスクトップからクラウド設定まで、さまざまな環境で高速に動作するよう設計されています。Google AI Studioでフル精度でテストしたり、Gemma.cppの量子化バージョンを使ってCPU上でローカルに実行したり、Hugging Face Transformersを通じてNVIDIA RTXやGeForce RTXを搭載した自宅のコンピュータで試すことができます。

開発者と研究者のために構築

Gemma 2は単に強力なだけでなく、ワークフローにシームレスに統合できるように設計されています：

• オープンでアクセスしやすい： オリジナルのGemmaモデルと同様に、Gemma 2は商用利用に適したライセンスを備えており、開発者や研究者がその成果を共有し、収益化することができます。
• 幅広いフレームワーク互換性： Gemma 2は、Hugging Face TransformersやJAX、PyTorch、TensorFlow（ネイティブKeras 3.0経由）、vLLM、Gemma.cpp、Llama.cpp、Ollamaなどの主要なAIフレームワークと互換性があり、好みのツールやワークフローに簡単に統合できます。また、NVIDIA TensorRT-LLMを使用したNVIDIAアクセラレーションインフラや、NVIDIA NIM推論マイクロサービスとしての最適化も行われており、NVIDIAのNeMo向けの最適化も予定されています。KerasやHugging Faceで今日からファインチューニングを開始でき、よりパラメータ効率の良いファインチューニングオプションも準備中です。
• 簡単なデプロイ： 来月から、Google Cloudの顧客はVertex AI上でGemma 2を簡単にデプロイおよび管理できます。

新しいGemma Cookbookに飛び込み、実際の例やレシピを活用して、独自のアプリケーションを構築したり、Gemma 2を特定のタスク向けにファインチューニングしたりする方法を学びましょう。検索拡張生成などのタスクを含め、好みのツールでGemmaを使用する方法を習得できます。

責任あるAI開発

私たちは、開発者や研究者が責任を持ってAIを構築・デプロイすることを支援することに取り組んでいます。Responsible Generative AI Toolkitはその取り組みの一部です。最近オープンソース化されたLLM Comparatorは、言語モデルの詳細な評価を支援します。今日から、付属のPythonライブラリを使用して、モデルとデータで比較評価を実行し、アプリで結果を視覚化できます。また、Gemmaモデル向けのテキストウォーターマーキング技術SynthIDのオープンソース化にも取り組んでいます。

Gemma 2のトレーニングでは、厳格な内部安全プロセスを遵守し、事前トレーニングデータをフィルタリングし、潜在的な偏見やリスクを特定・軽減するために幅広いメトリクスで徹底的なテストと評価を行いました。安全性や表現に関する害についての公開ベンチマークでの結果を共有しています。

Gemmaで構築されたプロジェクト

最初のGemmaのリリースは1,000万回以上のダウンロードを記録し、驚くべき多くのプロジェクトを生み出しました。たとえば、NavarasaはGemmaを使用して、インドの言語的多様性を祝うモデルを開発しました。