ローカルLLMはここまで進化した。Gemma 4・Qwen3.6など2026年夏の注目モデルを調べてみた

こんばんは、あるいはこんにちは。ta-taです。

ChatGPTやGeminiなど、クラウドで利用する生成AIは、この数年で驚くほど進化しました。

一方で、個人的に以前から気になっているのが「ローカルLLM」です。

ローカルLLMとは、簡単に言えば、ChatGPTのようなAIモデルを自分のMacやWindows PCにダウンロードし、自分のパソコン上で動かす仕組みです。

入力した内容をクラウドへ送らずに処理でき、インターネット接続がなくても利用できます。LM Studioのようなアプリを使えば、以前よりもかなり簡単に試せるようになりました。

私自身、これまでもMacでローカルLLMを動かしながら、その性能や使い勝手を試してきました。

以前には、M4 Pro・48GBメモリのMacBook ProでGemma 4 31Bを動かしたときの様子も記事にしています。

【関連記事】

静寂の中に、310億の知性が宿る。M4 Pro（48GB）× Gemma 4 31Bで突破した「爆速ローカルLLM」の壁

ただ、少し前までのローカルLLMには、

「動くけれど、クラウドAIほど賢くない」

「高性能なモデルを動かすには、とにかく大量のメモリが必要」

という印象もありました。

ところが、2026年になって状況がかなり変わっています。

Googleの「Gemma 4」、Alibabaの「Qwen3.6」、OpenAIの「gpt-oss」など、個人のPCでも現実的に動かせるサイズでありながら、推論やコーディング、画像理解、ツール利用など、高度な機能に対応したモデルが増えているからです。

久しぶりにローカルLLMの世界を改めて調べてみると、想像していた以上に進化していました。

今回は、2026年夏時点で特に気になったモデルを中心に、「今のローカルLLMはどこまで来ているのか」を整理してみます。

「最新モデル」と「自宅で動かせるモデル」は別になってきた

最初に押さえておきたいのが、現在のLLMでは、

「各社の最新・最上位モデル」

と、

「一般的なMacやPCで現実的に動かせる最新モデル」

が、必ずしも同じではないということです。

たとえばAlibabaは2026年8月3日、Qwenシリーズの最新フラッグシップとなる「Qwen3.8-Max」を発表しました。

総パラメータ数は2.4兆。

MoE（Mixture of Experts）を採用し、処理時には約950億パラメータを利用するとされています。

2.4兆。

もう数字が大きすぎて、少し感覚がおかしくなってきます（笑）

もちろん、これは一般的なMacにダウンロードして気軽に動かすようなモデルではありません。

つまりローカルLLMを見るときは、

「一番新しくて巨大なモデルは何か」

だけではなく、

「今、自分のパソコンで現実的に動かせるモデルの中で、何が面白いのか」

という視点が重要になってきます。

そして、その視点で見ると特に興味深いのが、GoogleのGemma 4とAlibabaのQwen3.6です。

Google「Gemma 4」

まず注目したいのが、Google DeepMindの「Gemma 4」です。

Gemma 4は2026年春に登場し、その後「Gemma 4 12B Unified」なども追加されています。

Gemmaは、GoogleがGeminiで培った研究や技術をベースに開発しているオープンモデルのシリーズです。

Gemma 4では、テキストだけでなく画像入力にも対応。

小型モデルや12Bでは音声にも対応し、推論、コーディング、Function Callingなどにも対応しています。

さらに140以上の言語で学習され、モデルによって最大256Kトークンのコンテキストを扱えます。

現在の主なラインアップは、

・Gemma 4 E2B
・Gemma 4 E4B
・Gemma 4 12B Unified
・Gemma 4 26B-A4B
・Gemma 4 31B

です。

LM Studioのモデルカタログに掲載されている代表的なモデル容量を見ると、

・E2B：約4.2GB
・E4B：約5.9GB
・12B：約7.4GB
・26B-A4B：約15.6GB
・31B：約19GB

となっています。

※ここで記載している容量は、LM Studioのモデルカタログに掲載されている代表的な配布モデルを基準にしています。量子化方式などによって、ファイル容量や実際のメモリ使用量は変わります。

この中で、個人的にかなり気になるのが、

「Gemma 4 26B-A4B」

です。

「26B-A4B」のA4Bって何？

Gemma 4 26B-A4Bは、約252億の総パラメータを持っています。

ところが、1トークンを処理するときに実際に使われるのは約38億パラメータです。

これは「MoE（Mixture of Experts）」と呼ばれる仕組みを採用しているためです。

ざっくり言えば、モデルの中にたくさんの「専門家」を用意しておき、質問や処理内容に応じて必要な専門家だけに働いてもらう仕組みです。

Gemma 4 26B-A4Bの場合、

モデル全体：約25.2B

実際に動作する部分：約3.8B

という構造になっています。

イメージとしては、

「大きな専門家チームを抱えているけれど、仕事の内容に応じて必要なメンバーだけが働く」

と考えると分かりやすいかもしれません。

これによって、モデル全体の規模を大きくしながら、1回の推論で必要になる計算量を抑えられます。

ただし、ここで注意したいことがあります。

「3.8Bしか動かないなら、4Bモデルと同じメモリで動く」

というわけではありません。

その瞬間に計算へ参加していないExpertも含め、モデル全体のウェイトを基本的にはメモリ上へ保持する必要があるからです。

そのためMoEを見るときは、

「総パラメータ数」

と、

「Active Parameters（実際に動くパラメータ数）」

の両方を見る必要があります。

これは最近のローカルLLMを理解するうえで、かなり重要なポイントだと思います。

Alibaba「Qwen3.6」

Gemma 4と並んで、今回かなり気になったのがQwenです。

AlibabaのQwen Teamは2026年4月、「Qwen3.6-35B-A3B」と「Qwen3.6-27B」を公開しました。

Qwen3.6で特に強化されているのが「Agentic Coding」です。

単にコードの一部分を書くだけではなく、コードベースを理解し、複数の工程をまたいで作業するような用途が重視されています。

また、画像入力、推論、ツール利用などにも対応しています。

ローカルLLMでのコーディングについては、以前Gemma 4 26Bでも実際に試しました。

クラウドAIのように「一発で完璧」とはいきませんでしたが、その不完全さも含めて、ローカルAIならではの面白さを感じた体験でした。

【関連記事】

ローカルLLMでのコーディングは「夢」なのか。Gemma 4（26B）の現在地と、不完全なロマンの価値

今回のQwen3.6でAgentic Codingがどこまで進化しているのか。

以前試したGemma 4との違いも、かなり気になるところです。

LM Studioでは、

・Qwen3.6-27B：約16.1GB
・Qwen3.6-35B-A3B：約20.4GB

で提供されています。

そして、この2モデルの違いがなかなか面白いのです。

Qwen3.6-27BはDenseモデル

Qwen3.6-27Bは、27Bパラメータの「Denseモデル」です。

Denseモデルでは、基本的にモデル全体のパラメータを使って処理を行います。

Qwen Teamによれば、この27Bという比較的コンパクトなモデルが、前世代の巨大モデル「Qwen3.5-397B-A17B」を複数のAgentic Coding評価で上回ったとされています。

もちろん、メーカー自身が公表するベンチマークだけでモデルの優劣を決めることはできません。

それでも、

「27Bクラスのモデルが、前世代の数百B級モデルと競える」

というのは、モデルの進化を感じる部分です。

巨大化するだけではなく、モデルの設計や学習方法そのものが進化していることが分かります。

Qwen3.6-35B-A3BはMoEモデル

一方のQwen3.6-35B-A3Bは、

総パラメータ：約35B

Active Parameters：約3B

というMoEモデルです。

Qwen Teamによれば、わずか3BのActive Parametersでありながら、前世代の27B Denseモデルを複数のコーディング評価で上回ったとされています。

LM Studioでのモデル容量は約20.4GB。

35Bと聞くとかなり巨大に感じますが、Apple Siliconの大容量ユニファイドメモリを搭載したMacなら、個人でも「ちょっと試してみたい」と思えるところまで来ています。

同じQwen3.6でも、

「27BのDenseモデル」

と、

「35B・Active 3BのMoEモデル」

という、性格の異なる2モデルが用意されているのが面白いところです。

実際に動かしたとき、生成速度や回答品質にどのくらい違いが出るのか。

これはぜひ比較してみたいところです。

OpenAIにもローカルで動かせる「gpt-oss」がある

もう一つ忘れてはいけないのが、OpenAIの「gpt-oss」です。

OpenAIは2025年8月、

・gpt-oss-120b
・gpt-oss-20b

という2つのオープンウェイトモデルを公開しました。

ChatGPTで利用するGPTシリーズとは位置付けが異なり、モデルのウェイトをダウンロードして、自分が管理する環境で動かせます。

ローカル用途で特に興味深いのが「gpt-oss-20b」です。

総パラメータは約21B。

Active Parametersは約3.6B。

こちらもMoEです。

OpenAIは16GBメモリのデバイスでも動作可能と説明しており、LM Studioでもローカルで扱えるモデルとして提供されています。

さらに、

・推論の強さをLow／Medium／Highから変更可能
・Function Callingに対応
・Structured Outputsに対応
・エージェント用途を想定
・最大128Kのコンテキスト
・Apache 2.0ライセンス

など、ローカルで試すにはかなり面白いモデルです。

一方で、Gemma 4やQwen3.6がマルチモーダルなのに対して、gpt-ossはテキスト専用モデルです。

またOpenAIは、gpt-ossの学習データについて「mostly English」のテキストデータだったことも明らかにしています。

ということは、

Gemma 4

Qwen3.6

gpt-oss-20b

へ同じ日本語の質問をしたら、どのくらい違いが出るのか。

これもかなり試してみたくなります。

Mistral、Llama、DeepSeekは？

もちろん、このほかにも主要なオープンウェイトモデルはあります。

Mistralは2026年3月に「Mistral Small 4」を公開しています。

119Bの総パラメータに対してActive Parametersは約6B。

推論、コーディング、エージェント、画像入力を1つのモデルに統合した、非常に興味深いモデルです。

ただし、公式に示されている実行環境はかなり本格的です。

量子化やCPUオフロードなどを利用すれば別の動かし方も考えられますが、今回テーマにしている「Macで気軽に試すローカルLLM」としては、Gemma 4やQwen3.6より一段ハードルが高そうです。

MetaのLlama 4もMoEを採用しています。

Llama 4 Scoutは約109Bの総パラメータに対して17B Active。

Maverickは約400Bの総パラメータに対して17B Activeです。

非常に強力ですが、モデル全体が大きいため、現在の一般的なローカル環境ではGemma 4やQwen3.6ほど気軽には扱えません。

DeepSeekも2026年にはV4世代へ進んでいます。

非常に大規模なモデルと長大なコンテキストを扱える強力なシリーズですが、こちらも個人のMacで気軽に動かすというよりは、大規模な計算環境を前提とした世界です。

こうして並べてみると、

「最新の巨大なオープンウェイトモデル」

と、

「普通のパソコンで楽しめるローカルLLM」

の間に、かなり大きな差が生まれていることが分かります。

では、今ローカルで試すなら？

今回調べた中で、個人的に特に気になっているのは次の5モデルです。

1．Gemma 4 31B：約19GB

2．Gemma 4 26B-A4B：約15.6GB

3．Qwen3.6-27B：約16.1GB

4．Qwen3.6-35B-A3B：約20.4GB

5．gpt-oss-20b：約12〜13GB

いずれもLM Studioで扱えるモデルです。

そして、このラインアップを見ていて興味深いのが、

「十数GB〜20GB程度」

という範囲に、かなり高性能なモデルが集まっていることです。

もちろん、

「モデルファイルが20GBだから、20GBのメモリがあれば快適に動く」

という単純な話ではありません。

OS自体もメモリを使用しますし、コンテキストを長くすればKVキャッシュなどでもメモリを消費します。

ブラウザやほかのアプリを同時に使うのであれば、当然その分の余裕も必要です。

それでも32GB、48GBといった大容量メモリを搭載したApple Silicon Macなら、かなり面白いモデルまで個人で試せる時代になっています。

ちなみに、私が現在使っているMacBook Proを48GBメモリにした理由の一つも、このローカルLLMでした。

当時はGemma 4 31Bを快適に動かしたくて、Mac StudioとMacBook Proのどちらにするか、かなり迷いました。

そのときのMac選びについては、こちらの記事に詳しく書いています。

【関連記事】

Gemma 4 31Bを迎え撃つ。Mac Studioを諦め、M4 Pro MacBook Pro「48GBモデル」を選んだ理由

少し前のローカルLLMと比べると、個人のMacでもこのクラスのモデルを現実的に扱えるようになったことは、大きな変化だと感じます。

「大きければ強い」だけの時代ではなくなってきた

今回調べていて、最も印象に残ったのがこの部分です。

以前は、

「パラメータ数が大きいモデルほど強い」

という、比較的分かりやすい見方ができました。

もちろん今でもモデル規模は重要です。

ただ、現在はそれだけではモデルの性格を判断できなくなっています。

同じ30B前後でも、

モデル全体を使うDenseなのか。

必要なExpertだけを動かすMoEなのか。

Thinkingを使うのか。

画像を扱えるのか。

ツールを使えるのか。

コーディングやエージェント用途を重視しているのか。

モデルによって、設計思想そのものが違います。

Qwen3.6だけを見ても、

27B Dense

と、

35B-A3B MoE

があります。

Gemma 4にも、

31B Dense

と、

26B-A4B MoE

があります。

つまり、

「35Bだから27Bより高性能」

「31Bだから26Bより重いだけ」

と単純には言えません。

パラメータ数だけを眺めるのではなく、

「実際に自分のパソコンで動かしたとき、どれが一番使いやすいのか」

を比べること自体が、今のローカルLLMの面白さなのかもしれません。

次回は、実際にMacで動かして比較してみます

今回、2026年夏時点のローカルLLM事情を改めて調べてみました。

正直なところ、以前ローカルLLMを試していた頃より、かなり面白くなっています。

中でも特に気になったのが、

Gemma 4

Qwen3.6

の2シリーズです。

そこで次回は、今回紹介したモデルを実際にLM Studioへダウンロードして、Macで比較してみたいと思います。

使用するのは、M4 Pro・48GBメモリを搭載したMacBook Pro。

同じプロンプトをそれぞれのモデルへ入力して、

・日本語の自然さ
・文章作成
・推論
・コーディング
・回答速度
・メモリ使用量

などを比較する予定です。

特に試してみたいのが、

「31B・27BクラスのDenseモデル」

と、

「Active Parametersが3〜4B程度のMoEモデル」

で、生成速度にどのくらい差が出るのかという点です。

そして、MoEによって計算量が抑えられたとき、回答品質にはどのような違いが出るのか。

スペック表だけでは分からない部分を、実際に動かして確認してみたいと思います。

最終的には、

「2026年現在、Macで使うローカルLLMならどれを選ぶ？」

というところまで比較してみる予定です。

まとめ

ChatGPTやGeminiのようなクラウドAIが進化し続ける一方で、ローカルLLMも着実に進化しています。

そして2026年現在は、

「巨大なAIモデルをどうやって個人PCで動かすか」

だけではなく、

「限られた計算量で、どこまで高い性能を出せるか」

という競争へ変わってきているように感じます。

その分かりやすい例が、Gemma 4の26B-A4BやQwen3.6-35B-A3Bです。

モデル全体では数百億パラメータを持ちながら、1トークンあたり実際に動くのは数十億パラメータ。

そして一方では、Qwen3.6-27Bのように、比較的コンパクトなDenseモデルが前世代の巨大モデルと競えるところまで進化しています。

「とにかく巨大にする」だけではない進化が始まっています。

十数GB〜20GB程度のモデルをダウンロードして、自分のMacの中だけで、ここまで高度なAIを動かせる。

数年前ならかなりマニアックだったことが、今ではLM Studioを使って気軽に試せるようになりました。

クラウドAIとはまた違う、

「自分のパソコンでAIそのものを動かしてみる」

という楽しさ。

ローカルLLMには、そんなPC好きにはたまらない面白さがあります。

そして何より、

「Gemma 4 31BとQwen3.6-27Bなら、どちらが速くて賢いのか？」

「DenseとMoEでは、実際の使用感がどのくらい違うのか？」

こうした疑問を、自分のMacで実際に確かめられるのが面白いところです。

次回は、実際に動かして比較してみます。