自分のMacにGemma4を入れたら、ローカルLLMへの期待が高まった

2026年4月5日 07:00

毎月、AIのAPIにいくら払っていますか？

Claude、ChatGPT、Gemini……複数使い分けていると、気づいたら月数千円飛んでいる。「これ、自分のMacで動かせたらタダなのでは」という考えが頭をよぎったことがある人は多いと思います。

今回、その実験をしてみました。

Gemma 4とは

2026年4月2日、GoogleがGemma 4をリリースしました。Gemini 3と同じ研究基盤をもとに作られたオープンモデルで、Apache 2.0ライセンスのため商用利用も自由です。

26Bというサイズに見えますが、実はMoE（Mixture of Experts）という仕組みで、推論時に実際に動くのは約3.8Bのパラメータのみ。「26Bと聞いて重いと思ったら、実は4B相当の速さで動く」という、なかなか面白いモデルです。

テキストだけでなく画像も読めるマルチモーダル対応。コンテキスト長は最大256Kという贅沢な仕様。ローカルで動く選択肢として、かなり話題になっています。

導入はLM Studioを使いました。GUIで完結するので手順はシンプルです。

ダウンロードが終わると、チャット画面に「Think」と「Vision」のボタンが現れます。Thinkは回答前に推論ステップを踏むモード、Visionは画像を添付して質問できるモードです。「ローカルなのにこれが使えるのか」と、少し興奮しました。

Thinkモードをオンにすると、回答の前に「Chain of Thought（思考の連鎖）」が展開されます。ローカルでこれほど深い推論プロセスを追えるのは、まさにGemma 4の進化を感じるポイントです。

テキストで質問してみると、回答が出始めるまで数秒、その後ゆっくりと文字が流れてきます。ある程度の量の回答が完成するまで、2〜3分。数値で言うと1.74 tok/secでした。

そして生成中は、MacBook Pro M4 Pro（24GB）でも他の操作がもたつきます。Macが「全力で考えてる」状態になる感じ。

Visionも試してみました。猫の写真を添付して「この写真はどういう写真？」と質問。回答自体はちゃんとしていて、猫がテーブルで休んでいること、リラックスした様子、光の反射まで読み取れていました。精度は合格点。ただし開始まで30秒、完了まで3分ほどかかり、速度は1.41 tok/secでした。

正直に言うと、M4 Pro 24GBでも日常使いとしては速度面がキツいです。

「動くけど快適じゃない」という体験は、ある意味で正直な情報だと思っています。ネット上には「動いた！」という記事は多いですが、速度感まで書いているものは少ない。

試しにE2B-IT（2Bサイズの小型モデル）に切り替えてみたところ、体感が別物になりました。

数値で比較するとこうなります：

約51倍の速度差。26Bで2〜3分かかっていた回答が、ほぼ一瞬で返ってきます。

当然、回答の精度や深さは26Bに比べると落ちます（マルチモーダルについては言及がないですし）。ただ「ちょっとした質問に素早く答えてほしい」という用途なら、E2B-ITで十分かもしれません。用途に応じてモデルを使い分けるのが現実的な運用です。

ちなみに、仕様上はE2B-ITもVision（画像認識）に対応しているはずなのですが、私の環境（LM Studio）では「私は画像を見ることができません」と照れ隠し（？）をされてしまいました。……なのに「猫の写真ですね」とも。

面白かったのはその後で、「これは猫の写真です」とテキストで補足してあげたら、毛並み・表情・光の反射まで詳しく解説してくれました。画像は見えていないのに、言葉で誘導すると想像で補完して答える。ある意味、人間に近い動き方かもしれません。

ローカルLLMは「完全移行」ではなく「使い分け」が正解だと感じました。

こういった用途ではローカルが光ります。一方、日常の作業効率を上げたいなら、今はまだクラウドAPIの方が快適です。

Gemma 4はオープンソースのローカルLLMとして現時点でトップクラスの選択肢です。「今は遅い」が、ハードウェアの進化とモデルの軽量化が進めば、1〜2年後には話が変わっているかもしれない。そう思わせてくれるポテンシャルは確かにありました。

ローカルLLMの今後に期待しつつ、まずは環境を作っておく。それだけでも十分価値があると感じています。

あなたはローカルLLMについてどんな期待をしていますか？ぜひコメントで教えてください。気に入っていただけたら、スキもお願いします。

参考リンク：