最新LLMに「GPUなしノートPC」でどこまで戦えるか？Gemma 4とQwen 3.6を動かしてみた

2026年4月25日 00:07

こんにちは。前回の記事で、普通のノートPCでもLLMがそれなりの速度で動かせることが確認できました。「意外といけるな」という手応えがあったので、今回はもう少し欲張ってみたいと思います。

気になったのは、最近登場したばかりの新しいアルゴリズムたちです。特に「MoE（Mixture of Experts）」という仕組みや、Googleの新しい「Gemma 4」などは、実効パラメータを抑えることで、推論速度を保ちつつ賢い応答を返せると言われています。

これなら、私の非GPUノートPCでも、これまでと同じくらいのスピード感を維持しながら、もっと知的なやり取りができるんじゃないか。そんな期待を持って、4bit量子化の力を借りつつ実験してみました。

前回に引き続き検証に使用した環境と条件はこちらです。

今回選んだのは、今まさに話題になっている最新のモデルたちです。

Gemma 4 (E2B / E4B) Googleが4月にリリースしたばかりの最新世代です。E2B（約7.2GB）やE4B（約9.6GB）といった、ノートPCでも扱いやすいサイズ感が魅力です。
Gemma 4 26B-A4B (MoE) 今回のメイン検証です。26B（260億パラメータ）という巨大な知能を持ちながら、推論時にはその一部だけを動かす「MoE（Mixture of Experts）」を採用しています。ファイルサイズは約17GBとそれなりにありますが、速度と賢さの両立に期待して選びました。
Qwen 3.6 (35B-A3B) Alibabaが開発している、論理推論に強いモデルです。数日前にリリースされたばかりだったので、おまけで「これもおそらく同様に動かせるはず」と思って追加しました。サイズは約23GBと、今回のラインナップでは最大級です。

数値を見る前に、実際にチャットしてみた時の「体感」をお伝えしますね。

Gemma 4-E2B / E4B: とにかく軽快です。質問を投げた瞬間にパラパラと文字が出てきて、チャット感覚でテンポよく使えます。
Gemma 4 26B-A4B (MoE): 今回一番の驚きでした。26Bというサイズ感なのに、全然重くないんです。人間が文章を読むスピードよりも速くスラスラと出てくるので、待たされている感じがほとんどありません。
Qwen 3.6-35B: 流石に少し「頑張っているな」という重みを感じます。文字が出るまでに一瞬の間がありますが、一度出始めれば、思考のログを追うには十分なリズムで進んでくれました。

客観的なデータとして、Ollamaで計測したベンチマーク結果をまとめました。

※「prompt eval」は質問を読み込む速度、「eval rate」は回答を生成する速度（1秒間に何トークン出るか）を指します。

こうして見ると、MoE版のGemma 4（26B）が、より小さなE4Bとほぼ変わらない出力速度を出しているのがわかりますね。Qwenも35Bという巨体ながら、7.35 tokens/sと、実用的な数字を残してくれました。

今回の検証で一番嬉しかったのは、「メモリ32GB」さえあれば、GPUがない普通のノートPCでも、20GBを超えるような最新の知能をローカルで楽しめるんだ、という発見でした。

巨大なモデルが自分の手元で、ネットワークも介さずにスラスラと喋り始める様子は、何度見てもワクワクします。以前の環境を思うと、「意外と早いな」と素直に驚きました。

ちなみに、最初の質問を読み込む際などは、PCのファンが気になるくらいには勢いよく回っていました。PCから伝わってくる確かな熱気を感じつつ、まさに「温かみのある」検証となりましたが、それだけ自分のマシンが全力で考えてくれている証拠でもありますね。

次はどんなモデルで遊んでみようか。そんなことを考えながら、今日の検証を終えたいと思います。

いいなと思ったら応援しよう！

よろしければ応援してくれると嬉しいです！いただいたチップは、記事づくりや学びの時間に大切に使わせていただきます。