Gemma 4 31Bを迎え撃つ。Mac Studioを諦め、M4 Pro MacBook Pro「48GBモデル」を選んだ理由

こんにちは、こんばんは。ta-taです。

前回の「iPad ProでローカルAIを動かす」という記事、想像以上に多くの方に読んでいただき、本当にありがとうございました！　「手元の薄い板で最先端の知性が動く」というロマンに共感していただけて、とても嬉しかったです。

さて。 あの時、私はiPadの手軽さを絶賛しつつも、心の奥底ではある「渇望」を抱えていました。それは、巨大なモデルである「Gemma 4 26B」や、さらにその上の「31B」という高嶺の花と対話してみたいという、ローカルLLM特有の逃れられない「沼」です。

そして本日。 Appleの認定整備済製品を監視するX（旧Twitter）のプッシュ通知が鳴った瞬間、私はついに、その沼の底へとダイブしてしまいました。

MacBook Pro 16インチ（M4 Pro / 14コアCPU / 20コアGPU / 48GBメモリ / 512GB SSD）、購入完了です。

なぜ「Mac Studio」ではなく、「M4 Pro 48GB」だったのか？

実は当初、私は据え置き機であるMac Studioの「M4 Max 36GBモデル」を本命として狙っていました。インプットはiPad、アウトプットと重い処理は自宅のMac Studio、という切り分けが美しいと考えていたからです。

しかし、ローカルLLMの検証という観点でスペックを突き詰めていくと、一番のボトルネックになるのはチップの計算速度ではなく、圧倒的に「メモリ容量」だという壁にぶち当たります。

M4 Maxのベースである36GBは、通常の作業なら持て余すほどの容量です。しかし、OSやブラウザを立ち上げたまま巨大LLMをロードすることを考えると、少し心許ない。 「やはりローカルAIの検証には、もう少し余裕を持たせて48GB以上は欲しい」

そう思い、Mac Studioで大容量メモリへのカスタマイズ（CTO）を試みました。 するとどうでしょう。価格が跳ね上がるのは覚悟の上でしたが、なんと納期が10〜12週間待ちという残酷な事実が突きつけられたのです。熱を帯びた「今すぐ検証したい！」という欲求に対して、このお預けはあまりにも酷でした。

そんな葛藤の中で白羽の矢が立ったのが、整備済製品として即納され、かつ48GBという「スイートスポット」なメモリを持つM4 Pro MacBook Pro 16インチだったのです。

M4 Proは273GB/sという広大なメモリ帯域幅を持っています。NVIDIAのRTX 4090のようなハイエンドグラフィックボードでもVRAMは24GBが限界ですが、Macの「ユニファイドメモリ」の仕組みなら、この48GBの大部分をVRAMとしてLLMのロードに贅沢に割り当てることができます。

「GPUのパワー」や「据え置きのロマン」よりも、「大容量メモリ」と「今すぐ手に入るスピード感」を取る。これが、大人の秘密基地を構築するための、私なりの最適解でした。

迎え撃つターゲットは「Gemma 4 31B」

このモンスターマシンを迎えて、明日以降やりたいことは明確です。 Gemma 4の26B、そして「31B」クラスのローカル検証です。

31Bクラスのモデルになると、4-bit量子化という圧縮を施しても20GB強、8-bitなら40GB弱のメモリを平気で食いつぶします。一般的なWindowsのゲーミングPCや、標準構成のMacでは「そもそもモデルがロードできない（Out of Memory）」という巨大な壁です。

しかし、48GBのユニファイドメモリを持つこのM4 Proなら、『LM Studio』を使ってこの巨大な知性をローカル環境で、しかも実用的なトークン生成速度（言葉を紡ぎ出すスピード）で滑らかに動かせるはずです。

ちなみに、ストレージが512GBと最小構成である点は、巨大なモデルデータを複数扱う上では少しネックになるかもしれません。しかしそこは、必要であればThunderbolt 5の超高速帯域を活かした外付けSSDを導入することでカバーしようと考えています。

明日以降、実機が届き次第、のんびりとセットアップしていく予定です。 次回は具体的な速度などをレポートしますが、「ついでにこのあたりも試してほしい」といったリクエストがあれば、気が向いた時にでもコメントで教えてください。私の検証リストにこっそり追加しておきます（笑）

ローカルAIの限界に挑む検証記事を、ぜひお楽しみに！