Gemma 2は、研究者、開発者がアクセスできるようになりました

AIには、私たちが今日直面している最も厳しい課題のいくつかに取り組む力がありますが、それは誰もがそれを使用するためにツールを手に入れることができる場合にのみです。だからこそ、私たちのジェミニモデルを動かすのと同じ技術から作られた、軽量で最先端のオープンモデルのセットであるジェマを紹介することで、私たちはその年をキックオフしました。それ以来、GemmaファミリーをCodeGemma、Recurrentgemma、およびPaligemmaで拡大しました。それぞれが異なるAIタスクに合わせて、Face、Nvidia、Ollamaなどの企業とのパートナーシップを通じて簡単にアクセスできます。

現在、研究者と開発者向けのGemma 2のグローバルリリースを発表できることを嬉しく思います。 90億（9b）と270億（27b）のパラメーターサイズで利用可能なGemma 2は、前任者と比較して優れたパフォーマンスと効率を提供し、安全性が大幅に向上します。 27Bバージョンは大国であり、そのサイズの2倍を超えるモデルに匹敵し、単一のNVIDIA H100テンソルコアGPUまたはTPUホストで実行でき、展開コストを削減できます。銀行を壊さずに高性能を達成できるようにした方法はかなりクールですよね？

オープンモデルの効率とパフォーマンスの新しい標準

Gemma 2のアーキテクチャの再設計に、一流のパフォーマンスと効率を目指して、多くの努力を払ってきました。これがそれを際立たせるものです：

• Outsied Performance： 27Bで、Gemma 2はクラスのトップドッグであり、そのサイズの2倍以上のモデルと競合することさえあります。 9Bバージョンも輝き、そのカテゴリ内のLlama 3 8bやその他のオープンモデルよりも優れています。すべてのジューシーな詳細については、テクニカルレポートをご覧ください。
• 比類のない効率とコスト削減： 27B Gemma 2は、単一のGoogle Cloud TPUホスト、NVIDIA A100 80GBテンソルコアGPU、またはNVIDIA H100テンソルコアGPUで完全に正確にスムーズに実行されます。つまり、パフォーマンスを犠牲にすることなくコストを抑えることができます。これにより、AIの展開はよりアクセスしやすく、予算に優しいものになります。
• ハードウェア全体の燃えるような高速推論： Gemma 2は、ゲームのラップトップやハイエンドのデスクトップからクラウドのセットアップまで、あらゆるものをすばやく実行するように設計されています。 Google AI Studioで完全に精密にテストしたり、CPUのgemma.cppでQuantizedバージョンでローカルに実行したり、Face Transformersを介してNVIDIA RTXまたはGeForce RTXを使用して自宅のコンピューターで試してみてください。