見出し画像

[2026年7月更新] ローカルLLM必要VRAM早見表。あなたのPCで動くモデル

手元のGPUとメモリで、どのローカルLLMが動くのか。Q4_K_M量子化を基準にしたVRAM別の早見表を1枚にまとめました。

「ローカルLLMを試したいが、自分のPCで何が動くのか分からない」という質問への回答を、この1本に常設します。新しいモデルが出るたびに更新するので、ブックマークして使ってください。

この表の読み方(前提を最初に固定します)

早見表の前に、前提を3つだけ固定します。ここがずれると表の数字が意味を持ちません。

  • 量子化はQ4_K_M基準: モデルを約1/4サイズに圧縮する形式で、品質と圧縮率のバランスから事実上の標準になっています。Ollamaで ollama run したときの標準タグもほぼこの系統です

  • 「載る」と「快適に動く」は別問題: この表はあくまで「メモリに載るか」の表です。生成速度はメモリ帯域という別の要素で決まります。詳しくは『ローカルLLMの速度はメモリ帯域で決まる。スペック表の正しい読み方』で解説しています

  • KVキャッシュ分の余裕を見る: 会話の文脈を保持するKVキャッシュがモデル本体とは別に1〜2GB(長文を扱うほど増加)必要です。モデルサイズ+2GBがVRAMに収まることを目安にしてください

VRAM別早見表(2026年7月版)

モデルサイズはOllamaライブラリの実際のダウンロードサイズです。


表1: VRAM/メモリ / 動くクラス / 代表モデル(実サイズ) / 実用の目安


表の要点を文章でも押さえておきます。8GBなら4〜9B、12GBなら12B、16GBなら20B、24GBなら32Bまでが定石です。70Bクラスを動かすには48GB以上、100B超のMoEモデルには96GB以上の統合メモリが必要になります。

迷ったら、自分のVRAMの1〜2GB下に収まるモデルから始めてください。ぎりぎりを攻めると、会話が長くなった途端にメモリ不足で落ちます。

GPUなし・統合メモリの場合

CPUだけで動かす場合

GPUがなくてもローカルLLMは動きます。ただし実用になるサイズは大きく下がります。

  • 快適に使えるのは4Bクラスまで(Qwen3.5 4Bで毎秒10〜20トークン程度)

  • 9Bクラスは毎秒数トークン。「待てるかどうか」の世界

  • メインメモリは最低16GB、できれば32GBを推奨

Apple Silicon(Mac)の換算ルール

MacはGPU専用メモリを持たず、搭載RAMをCPUとGPUで共有します。macOSの既定では搭載RAMの約7割がGPU用途に使えると考えてください。

  • 16GB Mac → 約11GBまで → 12Bクラス

  • 32GB Mac → 約22GBまで → 27Bクラス

  • 64GB Mac → 約45GBまで → 70B Q4がぎりぎり

  • 128GB Mac → 約90GBまで → 100B超のMoEが視野

Macでの環境構築の手順は『MacBook でローカルLLMを動かす方法[初心者向け]』で扱っています。

大容量統合メモリ機(Strix Halo・DGX Spark)

Ryzen AI Max+(Strix Halo)搭載機やNVIDIA DGX Sparkは、96〜128GBの統合メモリを比較的安価に確保できる新しい選択肢です。メモリ帯域は控えめなので、次に説明するMoEモデルと組み合わせたときに真価が出ます。

MoEモデルの読み替えルール

2026年の主流はMoE(Mixture of Experts)型のモデルです。早見表をMoEに当てはめるときのルールは1つだけです。

メモリは総パラメータで、速度は活性パラメータで決まる。

  • gpt-oss 120Bは総パラメータ117B・活性5.1B。メモリは65GB必要ですが、毎トークンの読み出しは5.1B分で済むため、帯域が控えめなマシンでも実用速度が出ます

  • Qwen3.5 35B-A3B(活性3B)、122B-A10B(活性10B)、Gemma 4 26B MoE(活性4B)も同じ構造です

「128GB統合メモリ機で100B超モデルが実用になる」のはこの仕組みのおかげです。大容量・低帯域のマシンを持っているなら、同サイズの高密度(Dense)モデルよりMoEモデルを選んでください。

自分のマシンのVRAM・メモリの調べ方

早見表と突き合わせる前に、手元のマシンのスペックを確認します。

  • Windows: タスクマネージャー → パフォーマンス → GPU → 「専用GPUメモリ」の数値がVRAM

  • Mac: Appleメニュー → このMacについて → 「メモリ」の数値が統合メモリ(この約7割で換算)

  • Linux: ターミナルで nvidia-smi を実行し、Memory欄を確認

確認できたら、手順は3ステップです。

  1. 自分のVRAM(Macは搭載RAM×0.7)を確認する

  2. 早見表で、その数値より1〜2GB小さく収まるモデルを選ぶ

  3. まず一段小さいモデルで動作確認してから、目当てのサイズに上げる

まとめ

  • 量子化Q4_K_M基準で、モデルサイズ+2GBがVRAMに収まるかで判断する

  • 8GB→4〜9B、12GB→12B、16GB→20B、24GB→32B、48GB→70B、96GB以上→100B超MoEが定石

  • MacはRAMの約7割で換算する

  • MoEはメモリ=総パラメータ、速度=活性パラメータで読み替える

  • 「載る」と「快適」は別。速度が気になる場合はメモリ帯域を確認する

更新履歴

  • 2026年7月: 初版。掲載モデル世代は Qwen3.5(2026年2〜3月) / Gemma 4(2026年4月) / gpt-oss(2025年8月) / Llama 3.3(2024年12月)

主な参考資料: Ollamaライブラリ Gemma 4Ollamaライブラリ Qwen3.5Google AI for Developers: Gemma 4

どのモデル・どの構成で始めるか迷ったら

TodoONadaでは、ローカルLLM・生成AIの導入判断からPoC・構築までを支援しています。

  • 手持ちの機材でどこまでできるかの見極め

  • 用途に合わせたモデル・マシン構成の選定

  • 社内データを扱う場合のセキュリティ設計

いきなり本番構築ではなく、まずは30万円・2週間規模のミニ検証から始められます。「自社の用途にローカルLLMが合うのか」の判断からでもご相談ください。お問い合わせはこちら

いいなと思ったら応援しよう!