見出し画像

「ITニュース」｜Gemma 4 QAT — 1GB 未満に収めたのは「量子化」より「学習の仕方」

まるしょー｜ITニュース分析配信

はじめに

2026年6月5日、Google DeepMind は 公式ブログ で、オープンウェイトモデル Gemma 4 向けの QAT（Quantization-Aware Training／量子化を見越した学習） チェックポイントを公開したと説明しています。

Q4_0 形式（ノート PC やコンシューマ向け GPU 向け）と、モバイル向けの独自量子化スキーマ（wNa8o8） の2系統です。公式ドキュメントのメモリ表では、最小構成の E2B テキストのみ が 約 0.84GB（静的ウェイト＋20% オーバーヘッド込み）まで圧縮可能とされています。

4月2日の Gemma 4 初出、6月3日の 12B 追加に続く、エッジ／ローカル推論の実務線として読むのが自然です。読みどころは次の2点です。

  • 「学習後に圧縮する（PTQ）」ではなく「学習の段階から圧縮を織り込む（QAT）」 公式チェックポイントが出たこと

  • 「1GB 級」訴求とメモリ表の数字——何が含まれ、何が別枠か（KV キャッシュ・ランタイム等）

※本記事は Google の公式ブログ・開発者向けドキュメント・Hugging Face のモデルカードを中心にした整理です。投資・法務の助言ではありません。メモリ数値は環境・コンテキスト長で変動します。オープンウェイトの商用利用は組織ポリシー・ライセンス（Apache 2.0）・データガバナンスを個別確認してください。Google への取材は行っていません。

この記事での用語


1. 何が起きたのか（結論）

先に結論です。

  • 2026-06-05、Gemma 4 QAT models を公開

  • 全サイズ向けに Q4_0 QAT、E2B／E4B 向けに モバイル専用 QAT を 当日から Hugging Face 等で配布

  • 技術要素として 静的アクティベーション、チャネル単位量子化、トークン生成層の 2-bit 圧縮、埋め込み・KV キャッシュ最適化を明記

  • 音声・ビジョンエンコーダーが不要なユースケースでは、必要なモダリティだけデプロイしてさらにメモリを削れる、と説明

  • 配布・実行の連携先として llama.cpp、Ollama、LM Studio、vLLM、SGLang、MLX、LiteRT-LM、Transformers.js 等を列挙

忙しい方向けに一言でいうと、
「Gemma 4 を端末やノート PC で動かすための、Google 公式の“圧縮済み”ウェイトが揃った」——ただし 品質は公式ベンチ未公開なので、自社タスクでの比較が実務の入口、という整理です。

2. 公式情報ベースの要点

2-1. QAT と PTQ の違い（なぜ「学習の仕方」か）

公式ブログ は、量子化はコンシューマ向けハードウェアでモデルを動かす鍵だが、標準的な PTQ は品質低下を招きうる、と説明しています。

QAT は、学習後に単純圧縮するのではなく、学習プロセスに量子化を組み込むことで、圧縮時の品質低下を抑える、という位置づけです。ブログは PTQ も有効だが、QAT の結果は PTQ ベースラインより高品質と述べています。

ただし、Gemma 4 QAT 固有の公開ベンチマーク数値は 6/5 時点のブログにない（Hugging Face モデルカードは「bfloat16 に近い品質」と表現）。執筆時点では数値での裏取りはできません。

2-2. 2つの配布形式（Q4_0 とモバイル）

モバイル向けは、ブログが次の設計を説明しています。

  • 静的アクティベーション — スケーリングを学習時に前計算し、端末チップの負荷を減らす

  • チャネル単位量子化 — モバイルアクセラレータの設計に合わせたデータ配置

  • トークン生成層の 2-bit 圧縮 — 推論の一部を強く圧縮しつつ、推論コアは高精度を維持

  • 埋め込み・KV キャッシュ最適化 — 語彙リストと短期記憶部分を重点圧縮

2-3. メモリ表の読み方（「1GB」の正体）

数値は Gemma 4 コア概要（ai.google.dev） の推論メモリ表を優先します。静的ウェイトの読み込み＋20% オーバーヘッドまでで、KV キャッシュ・サポートソフト・コンテキスト長による増分は含みません（公式注記）。

ブログの 「E2B を 1GB まで」 は、おおむね Mobile 列（1.1GB） または テキストのみ（0.84GB） の 丸め表現と読むのが安全です。長い会話を載せると KV で別途メモリが増える点は見積もりに必ず足してください。

12B にはモバイル形式はない（公式ルーティング表）。16GB マシン向けの 12B Q4_0（≈6.7GB 静的） は、6/3 の 12B 訴求（16GB RAM/VRAM）と整合します。

2-4. どこから入手し、何で動かすか

Hugging Face コレクション（Q4_0）と モバイル QAT コレクション が公式の入口です。形式は大きく4つです（12B GGUF モデルカード より）。

  1. Unquantized QAT（Q4_0） — 研究・独自変換・MTP ドラフター用

  2. GGUF（Q4_0） — llama.cpp 等ですぐ動かす

  3. Mobile-optimized（wNa8o8） — 端末向け

  4. Compressed Tensors（w4a16） — vLLM 向け

MTP QAT チェックポイントも提供され、量子化しつつ MTP の速度向上を維持する、とブログは説明しています。

3. なぜ今か — 4月・6/3・6/5 の三連続

公開情報から読み取れる動機は、おおむね次の3つです。

  1. 「ローカルで動かす」路線の完成度 — 4月から量子化は言及されていたが、学習段階から織り込んだ公式チェックポイントとして品質劣化を抑えた圧縮を前面に出す

  2. サイズ拡張の直後に圧縮 — 12B → QAT の順で、「動かせるサイズ」と「動かすためのメモリ」 を続けて整備

  3. エコシステム同日起動 — 既存の Ollama／LM Studio／llama.cpp 等のツールチェーンのまま試せる意図

4. 誰に関係する話か

5. 混同しやすい点

6. 短期・中期・長期の整理

時間軸は次のとおりです。

  • 短期: 0〜3か月

  • 中期: 3か月〜1年

  • 長期: 1年以上

6-1. 短期（0〜3か月）

予想される動き — Ollama／LM Studio ユーザーに Gemma 4 QAT の試用が広がりうる。Android／Pixel 系開発者が mobile QAT で オフラインエージェント PoC を再開しやすくなる。

不確実性 — QAT vs PTQ の体感品質差はタスク依存。各エンジンの mobile 形式サポートにばらつきがありうる。

効果が出にくい条件 — 既存 PTQ 版で満足しており差し替えインセンティブが薄い。ダウンロード帯域がボトルネック。

6-2. 中期（3か月〜1年）

予想される動き — オンデバイス PoC の 最低 RAM 要件が公式表ベースで社内標準化されうる。MTP QAT が ローカルコーディングアシスタントの体感速度を押し上げる可能性。

不確実性 — NPU 世代差で mobile 形式の実効速度が端末ごとに分散。128K／256K 長コンテキスト時の KV が 1GB 訴求を帳消しにしうる。

効果が出にくい条件 — クローズド API（Gemini） の価格・品質がローカル案を常に上回り、エンタープライズはクラウド一本のまま。

6-3. 長期（1年以上）

予想される動き — 公式 QAT＋モバイル専用スキーマが、オープンモデル配布の手順の一角に。Gemini Nano／Android AICore 系と Gemma QAT の 開発者向け・消費者向けの二層が定着しうる。

不確実性 — 次世代 Gemma／Gemini で現行 QAT が陳腐化。チップ内蔵量子化へ移行し、ソフトウェア量子化の優位が薄れる可能性。

効果が出にくい条件 — マルチモーダル・エージェントが クラウド常時接続前提で設計され、ローカル圧縮の ROI が設計段階で除外される。

7. まず確認したいチェックリスト

  1. 6/5 は QAT チェックポイント追加 であり、Gemma 4 初出（4/2）ではないと押さえているか

  2. メモリ表の数字は 静的ウェイト＋20% オーバーヘッドで、KV・ランタイムは別と理解しているか

  3. 「1GB 級」 は E2B テキストのみ（≈0.84GB） または Mobile（≈1.1GB） の話で、全サイズ・全モダリティに当てはめていないか

  4. スマホ向けと ノート PC 向けで 形式（wNa8o8 vs Q4_0 GGUF） を分けているか

  5. 12B をスマホ向け mobile 形式で探していないか（存在しない）

  6. 品質を公式ベンチだけで判断していないか（公開スコアなし——自社タスクで A/B）

  7. Hugging Face の `google/` 公式リポから取得しているか

  8. 長コンテキスト PoC で KV メモリを見積もりに含めているか

  9. 社内のオープンウェイトポリシーと Apache 2.0 の関係を確認したか

  10. 6/3 の 12B と 本件 QAT を 「サイズ拡張→圧縮」 の続きとして読んでいるか

8. まとめ

2026年6月5日、Google は Gemma 4 向け QAT チェックポイントを公開しました。学習段階から量子化を織り込んだ公式ウェイトとして、Q4_0（広いエコシステム向け）と モバイル専用 wNa8o8（E2B／E4B）の2系統を 当日から配布する、というのが公式の説明です。

E2B テキストのみ ≈0.84GB という数字は、オンデバイス PoC のメモリ見積もりを書き換える材料になります。ただし KV・コンテキスト・マルチモーダルは別枠で、品質は公開ベンチ未掲載です。

最初の一歩としては、自社の想定タスクで QAT 公式版を1本試す、見積もり資料に「静的ウェイトのみ」と脚注を足す、スマホとノート PC で形式を分ける——この3つが現実的です。

主な参照

免責

本記事は公開情報をもとにした一般的な整理です。投資・法務・税務の助言ではありません。メモリ数値は推論環境・コンテキスト長・モダリティ構成で変動します。オープンウェイトの商用利用・データガバナンスは、最新のライセンス、組織ポリシー、専門家・担当部門の確認に従ってください。

【PR】
私も転職エージェントを利用して転職しました。

いいなと思ったら応援しよう！