Google: Gemma 2 9B

Gemma 2 9B は Google の 90 億パラメータのオープンウェイト言語モデルで、2024 年 6 月 27 日に 27B 版とともに Google の Gemma 2 発表で公開されました。モデルカードは、Gemma を Gemini と同じ研究から作られた軽量オープンモデルのファミリーと説明しています。英語向けのテキスト対テキスト、デコーダのみの言語モデルで、重みは公開されています。これは事前学習済みチェックポイントで、指示チューニング版の gemma-2-9b-it もあります。Google の Gemma ページは現在 Gemma 1 から Gemma 4 までの 4 世代を挙げており、Gemma 2 は前世代ですがダウンロードは可能です。

主な機能

• サイズとデータ：カードによると 9B パラメータ、8 兆トークンで学習（27B は 13 兆）。
• オープンウェイト：事前学習版と指示チューニング版の両方で重みが公開されています。Hugging Face のリポジトリはゲート付きで、ログインして Google の Gemma ライセンスに同意する必要があります。
• 想定用途：テキスト生成、チャットボット、要約、NLP 研究、語学学習ツール。ノート PC やデスクトップでの実行も想定されています。
• ベンダーのベンチマーク：カードは事前学習済み 9B について MMLU 71.3（5-shot）、HellaSwag 81.9、GSM8K 68.6、HumanEval 40.2 pass@1、MATH 36.6 を報告しています。いずれも Google の数値です。Google の発表は、9B モデルが Llama 3 8B や同サイズの他のオープンモデルを上回るとも述べています。

使用シナリオ

• 有能な小型モデルをローカルや単一 GPU で動かす。
• ドメインのテキスト生成や要約のためにベースモデルをファインチューニングする。
• 小型の英語言語モデルの研究ベースライン。

制約：カードにコンテキスト長の記載はなく、Gemma 2 は英語中心のため、多言語の要件は各自で検証してください。

料金プラン

重みは Gemma ライセンスの条件の下で無料でダウンロードできます。Google の発表は Google AI Studio でのホスト利用にも触れていますが、公式ページでホスト価格を確認していないため、本エントリでは価格を掲載しません。

はじめに

1. Hugging Face のモデルページで Gemma ライセンスに同意する。
2. Transformers で google/gemma-2-9b を読み込む。チャット用途には指示チューニング版 google/gemma-2-9b-it を使う。
3. 新規の作業では、Google の Gemma ページで最新の Gemma ファミリーと比較する。

よくある質問

Gemma 2 9B はオープンソースですか？

Google の Gemma ライセンスの下で重みが公開されており、条件への同意が必要です。用途に照らしてライセンスを確認してください。

Gemma 2 9B の後継は何ですか？

Google の Gemma ページは Gemma 4 を最新世代とし、サイズは E2B、E4B、12B、31B、26B A4B です。このカタログには Gemma 4 26B A4B があります。

何トークンで学習されましたか？

モデルカードによると、9B モデルは 8 兆トークンです。

より大きな Gemma 2 はありますか？

はい、27B モデルがあります。Gemma 2 27B を参照してください。

代替案

• Gemma 2 27B：より大きな Gemma 2 の兄弟モデル。
• Gemma 4 26B A4B：現行世代の Gemma モデル。
• EmbeddingGemma：Google の Gemma ベースの埋め込みモデル。

まとめ

Gemma 2 9B は文書が整い、公開されている小型モデルで、現在は一世代前です。既存のパイプラインや研究のベースラインに使い、新規の作業では Gemma 4 を評価してください。ほかのモデルはモデルカテゴリをご覧ください。