見ないで机を思いきり広げてみた｜スマホに乗らなかったAIを、自宅のパソコンで動かした記録
📊 世界で1億5000万回、という数字
世界で1億5000万回。これは、新しく出たAI「Gemma 4」が、登場以来ダウンロードされてきた回数だ。Gemmaという一族ぜんたいでは、累計4億回を超えている。新世代だけでもう1億5000万回というのだから、ずいぶん勢いのあるAIだ。
その一族から、ついこのあいだ「12B」という新顔が出た。特別なパソコンでなくても、普通のノートパソコンで動くらしい。ネットでもずいぶん話題になっていた。
前回スマホの中でAIに触れたばかりの私が、これに興味を持たないわけがなかった。机を広げれば、その話題のAIに自分の手で会える。今回の出発点は、半分はそこだった。
🪑 前回、机が狭くてAIが乗らなかった
前回、私はポケットの中でAIを動かそうとした。型落ちのiPhone 13 mini。結果は、机が狭すぎて大きいAIが乗らなかった、という話だった。
机というのは、メモリのことだ。AIを動かすのは、机の上に道具を広げる作業に近い。机が狭ければ、大きなAIははみ出して崩れる。私の4GBのスマホは、その机が狭すぎた。
あのとき、記事の最後にこう書いた。「今度は逆に、机を思いきり広げてみたい」と。今回はその続きだ。
🖥️ 24GBの机を借りた
机を広げるといっても、私が新しい機械を買ったわけではない。自宅にある、絵を描くための力の強いパソコンを借りた。その中にあるGPUという部品が、AI専用の机を24GBぶん持っている。
前回のスマホが4GB。今回が24GB。机の広さが、六倍になった。
数字だけ見てもピンとこないので、机でたとえ直す。前回が子ども部屋の学習机一つなら、今回は会議室の大テーブルくらいだ。スマホには絶対に乗らなかった大きいAIが、ここでは余裕で広げられる。
⚠️ 動かす前に、二つつまずいた
机を広げれば、あとは楽勝。そうはいかなかった。
一つ目。新しく出たばかりの「12B」というAIを入れようとしたら、「もっと新しい道具がいる」と断られた。AIを動かすソフトが古かったのだ。新しい版に入れ替えて、ようやく通った。
二つ目。これは私にとって他人事ではない問題だった。AIに日本語で話しかけると、入力が文字化けして「?????」に化けてしまう。普通の渡し方だと、AIはこちらの言葉を「？」の羅列として受け取っていた。
画面が見える人なら、化けた文字を一目で「おかしい」と気づける。でも音声で操作する私は、その化けに気づくのにひと手間よけいにかかる。渡し方を変えて、日本語がそのまま通る方法に切り替えて、やっと解決した。
🤖 机に乗せた、三つのAI
今回、机に乗せたのは新世代「Gemma 4」のAIから、大きさ違いで選んだ三つだ。私が試した三兄弟、と言ってもいい。小さい順に並べる。
12B。16GBのノートパソコンでも動く、三つではいちばん小さい新しめのAI。
26B。その上の、中くらいの大きさ。
31B。今回いちばん大きいAI。
机の上の道具が、だんだん大きく重くなっていくと思ってほしい。小さいAIは机の端でちょこんと動く。大きいAIは机をほぼ占領する。
✍️ 同じお題で、書かせてみた
せっかく三つ並んだので、同じ注文を出してみた。「1000文字以内で、感動的な一生の物語を作って」。
返ってきた物語は、それぞれ顔が違った。
三つでいちばん小さい12Bは、認知症の妻と庭を手入れする夫の話を、いちばん長く書いた。約900字。記憶が薄れる様子を「砂時計からこぼれ落ちる砂のように」とたとえる表現まで添えてきた。
26Bは、時計職人の師匠と弟子、受け継がれていく時間の話。31Bは、夫婦が一冊の青い手帳に綴った一生の記録を、いちばん短く、約790字で、いちばんきれいにまとめた。
どれも、ネットにつながず、自分の机の上だけで生まれた物語だ。前回スマホで日本語が崩れて「ご案内します」を連発していたのと、同じ家族のAIとは思えない。机の広さだけで、出てくるものがここまで変わるのか。
🤔 本当に大きいAIが勝つのか、予想が外れた
ここで、自分の予想が外れた。
机を極限まで広げたのだから、いちばん大きい31Bがいちばん賢いはず。そう思っていた。違った。
物語の出来でいえば、31Bは確かにうまい。でも、いちばん小さい12Bも負けていない。しかも12Bは、もっと小さい机、16GBのノートパソコンでも動く。速さと賢さと軽さのバランスでは、12Bがいちばん使い勝手がよかった。
作りの違いも面白かった。26Bは「MoE」という、必要な部屋だけを使う省エネ設計だと記録にあった。番号の大きい31Bのほうが、必ずしも単純に上位というわけではない。大きいほど偉い、とは限らないのだ。
机は、広ければいいというものではなかった。自分の用途に対して、広すぎず狭すぎない机を選ぶ。これが今回いちばんの収穫だった。
🦻 全盲の私から見えたもの
最後に、目の見えない私ならではの話を。
手元のパソコンだけでAIが動くと、打った言葉も、出てきた物語も、どこのサーバーにも送られない。中身を自分の目で見返せない私にとって、外に出さずに完結するこの感じは、やはり安心できる。
そして、AIがちゃんと働いているかどうかは、私の場合、音で分かる。注文を出した瞬間、パソコンの中のGPUについているファンが、ふっと回転数を上げる。それまで静かだったのが、急に「ごおっ」と低く唸りはじめる。画面のメーターは見えなくても、この羽根の音だけで「ああ、いまAIが頭を回しているな」と手に取るように分かった。返事が出そろうと、ファンはまた回転を落として静かになる。動き出しと止まりが、音の高さでそのまま耳に届く。
結果は、ぜんぶ耳で確かめた。物語が読み上げられていくのを聞きながら、「この机の上で、いま言葉が組み上がっているんだ」と思うと、不思議な手応えがあった。前回スマホが熱くなって計算を実感したのとは、また違う種類の納得だった。前回が手のひらの熱なら、今回はファンの音。私のメーターは、いつも体のどこかで鳴っている。
🐢 今回も、たぶん0.1
机の正体が、前よりはっきり分かった。広さ、つまりメモリで乗るか乗らないかが決まる。そのうえで、広ければ賢いとも限らない。
0から1へ。1が大きいなら、0.1でいい。前回の私が0.1なら、今回もたぶん0.1。でも、机の選び方が一つ分かっただけ、また前に進んだ。
次は、この三つのAIに、もっと意地悪な注文を出してみたい。子どもでもできる「しりとり」を、賢いはずのAIにやらせたら何が起きたか。その話は、また別の記事で。
（今回の環境）
パソコン：自宅のデスクトップ（GPUのメモリ24GB）
AIを動かすソフト：Ollama
動かしたAI：Gemma 4の 12B、26B、31B
12Bだけ、新しい版のソフトが必要だった
日本語の文字化けは、渡し方を工夫して回避した
📎 よろしければこちらの記事もどうぞ
ローカルでAIを動かす話は、これまでにもいくつか書いてきました。今回の流れの前後として、よければあわせて読んでもらえたら嬉しいです。
