ローカルLLM初心者向け用語集 ― Day291を10倍楽しく読み直す

YaroTech｜生成AIの傾奇者

2026年4月30日 07:57

こんにちは！YaroTechです。

昨日の記事（Day291）、難しくてすみません！

llama.cpp、ルーターモード、tok/s、ngl、GGUF、MoE…見直してみたら、専門用語が雪崩のように出てきていました。「面白そうだけど読み進められない」と思った方もいたんじゃないかと反省しています。

ということで、今日はDay291を10倍楽しく読み直すための補足記事です。あの記事に出てきた専門用語15個を、「一言で」「もう少し詳しく」「例え話」の3段構成で、できるだけ分かりやすく解説します。

ローカルLLMに興味はあるけど「llama.cppって何？」というレベルの方を想定して書いています。一緒に読んでいただければ、Day291の景色がぐっと違って見えるはずです。

※見出し画像のプロンプトは一番下におまけで公開中！

🖥️ 実行環境

PC: メインPC（Windows 11 Pro / Intel Core i7 / RAM 32GB / RTX 3050 8GB）
使用AI（執筆支援）: Claude Desktop（Opus 4.7 / Max $100プラン）
対象記事: Day291「llama.cppルーターモードで5モデル一気比較！Claudeからローカルに話しかけてみた」

🎯 この記事で得られること

ローカルLLM周辺の専門用語15個を、例え話で直感的に理解できる
「llama.cpp」「ルーターモード」「tok/s」「GGUF」などの仕組みがイメージできる
Day291の記事を読み直したときに、内容が10倍楽しくなる
ローカルLLMを自分でも触ってみようかな、と思える

まずは全体像：ローカルLLMって何？

用語の前に、全体像をひとつだけ。

普段使っているChatGPTやClaudeは、インターネットの向こう側にある巨大なサーバーで動いています。私たちはブラウザ越しに「質問→回答」をやり取りしているだけで、AIモデル本体は手元にはありません。

これに対してローカルLLMは、AIモデルそのものを自分のPCにインストールして動かすやり方です。

イメージで言うと、

クラウドAI: 駅前の有名ラーメン屋に食べに行く（行列・お金がかかるけど美味しい）
ローカルLLM: 自宅でインスタントラーメンを作る（味は劣るけど、いつでも・無料・誰にも見られず食べられる）

ローカルLLMの主なメリットは3つです。

プライバシー: 入力した内容が外部に送信されない
コスト: 月額料金やAPIコストがかからない
オフライン利用: ネットがなくても使える

ここを押さえたうえで、用語に入っていきましょう。

① ローカルLLM

一言で: 自分のPCで動かせる小さめのAI。

もう少し詳しく: ChatGPTやClaudeのように巨大なクラウドサーバーで動くのではなく、自宅のPCのCPUやGPUを使って動かすAIモデルのこと。Meta社のLLaMA、GoogleのGemma、Alibabaの Qwenなど、さまざまな会社がローカル動作を想定したモデルを公開しています。

例え話: 駅前のスタバ（ChatGPT）と、自宅で淹れるドリップコーヒー（ローカルLLM）の違い。スタバは美味しいけど毎回お金がかかるし、注文内容は店員さんに聞こえている。自宅のコーヒーは多少品質は落ちるけど、誰にも知られず、好きなだけ飲める。

② llama.cpp（ラマ・シーピーピー）

一言で: ローカルLLMを動かすための「エンジン」プログラム。

もう少し詳しく: もともとMeta社のLLaMAというAIモデルを動かすために作られた、C/C++で書かれたオープンソースソフト。軽くて速いのが特徴で、今ではLLaMA以外のモデル（Gemma、Qwenなど）も動かせる、ローカルLLM界の標準エンジンになっています。

例え話: 車の世界で言うと「エンジン」。AIモデル（車体）を動かすには、エンジン（llama.cpp）が必要。Toyotaの車にも日産の車にも積める汎用エンジン、というイメージ。

③ llama-server（ラマ・サーバー）

一言で: llama.cppに付属する「受付窓口」プログラム。

もう少し詳しく: llama.cppには「コマンドラインで直接質問する機能」と「サーバーとして起動して受付する機能」の2つがあります。後者がllama-serverです。起動するとPC内に小さな受付窓口が開き、ブラウザやプログラムから「質問→回答」のやり取りができるようになります。

例え話: 社内の「問い合わせカウンター」。外部のコールセンター（クラウドAPI）に電話するのではなく、社内の相談カウンターに行って質問する感覚。実体は同じPCの中で動いているプログラムなので、ネット不要・即レスポンスです。

④ サーバー（この記事での意味）

一言で: 「リクエストを受けて答えを返すプログラム」のこと。

もう少し詳しく: 「サーバー」というと、データセンターのラックに入った高価な機械を思い浮かべがちですが、IT用語の「サーバー」はもっと広い意味です。サーバー＝給仕する人／プログラムのこと。だから自分のPC上で動くllama-serverも、立派な「サーバー」なのです。

例え話: レストランの「サーバー（給仕係）」と同じ語源。「注文を受けて料理を出す人」が、ITの世界では「リクエストを受けて答えを返すプログラム」になっているだけ。データセンターの機械は「サーバーマシン」、その上で動くプログラムが「サーバーソフトウェア」と区別すると分かりやすいです。

⑤ ルーターモード

一言で: 1つのllama-serverで複数のAIモデルを切り替えられる便利機能。

もう少し詳しく: 通常、AIモデルを切り替えるたびにllama-serverを起動し直す必要があります。ルーターモードを使うと、最初に「使うかもしれないモデル」を全部リスト登録しておき、リクエストごとに「今回はこのモデルで」と指定できます。

例え話: 1台の翻訳機に英語・中国語・韓国語の辞書を全部入れておいて、ボタンひとつで切り替えるイメージ。あるいは、複数の電話番号をまとめて取り次ぐ「PBX交換機」のような役割。

⑥ tok/s（トークン毎秒）

一言で: AIが1秒間に文字をどれだけ生成できるかを示す速度の単位。

もう少し詳しく: 「トークン」とはAIが扱う言葉の最小単位で、日本語だと大体1〜2文字くらい。tok/sが高いほど、文字が画面に出る速度が速いということになります。Day291では4B（小型）モデルが50 tok/s、35B（大型）モデルが10 tok/sなど、モデルサイズによって大きな差が出ました。

例え話: タイピングの速度に似ています。tok/sが高い＝文字を打つのが速い人。ただしDay291で発見した重要な落とし穴があります。「考え込むモデル」は、タイピングが速くても答えにたどり着くまでに長文を内部で書き続けるため、結果として遅く感じるのです。タイピング速度だけ見ていても、実際にメッセージが届く時間は分からない、というやつです。

⑦ b8955（ビルド番号）とCUDA 13.1

一言で: b8955は「llama.cppのバージョン番号」、CUDAは「GPU加速の仕組み」。

もう少し詳しく: llama.cppは頻繁に更新されていて、その度に「ビルド番号」が振られます。b8955は8955回目のビルド、という意味。CUDAはNVIDIA社が提供するGPU向けの計算プラットフォームで、これを使うとAIの処理がGPUで高速に走ります。

例え話: b8955はアプリストアの「Ver.3.5.7」のようなもの。CUDAはGPUの「ターボモード」。NVIDIAのグラボを持っているなら、ターボボタンを押すかどうかで処理速度が大きく変わります。

⑧ NSSM（エヌエスエスエム）

一言で: Windowsでプログラムを「常駐サービス」として動かすツール。

もう少し詳しく: 「The Non-Sucking Service Manager」の略。普通のEXEプログラムを、Windowsサービスとして登録できます。一度サービス化しておけば、PCを再起動しても自動的に起動してくれて、毎回手動で立ち上げる手間が省けます。

例え話: スマホで「自動起動アプリ」のPC版。LINEやSlackがスマホ起動時に勝手に立ち上がってくれるあの仕組みを、自分の好きなプログラムにも適用できる、という感じです。

⑨ Hugging Face / huggingface-cli / unsloth / mmnga / GGUF

一言で: AIモデルの「アプリストア」と、そこからダウンロードする道具と、ファイル形式の話。

もう少し詳しく:

Hugging Face（ハギングフェイス）: AIモデルの「アプリストア」のようなウェブサイト
huggingface-cli: そのアプリストアからモデルをダウンロードするためのコマンドラインツール
unsloth / mmnga: モデルを最適化して再配布しているユーザーや団体の名前。「mmnga氏」「mmnga-o氏」は日本語LLMを精力的に量子化配布している有名な方
GGUF: llama.cppで読み込めるファイル形式。Word文書の「.docx」のように、「llama.cpp用の拡張子」だと思えばOK

例え話: スマホで言うApp Store（Hugging Face）から、コマンドラインのインストーラ（huggingface-cli）を使って、再配布者（unsloth、mmnga）が最適化したアプリ（GGUFファイル）をダウンロードする、というイメージです。

⑩ presets.iniファイル

一言で: ルーターモードで使う「モデル設定の一覧表」。

もう少し詳しく: ルーターモードで動かすモデルの設定を、テキストファイルにまとめておくものです。「このモデルはこのファイル、GPUにこれだけ任せて、コンテキスト長はこれ」といった条件を書いておけば、llama-server起動時に全部読み込んでくれます。

例え話: 飲食店の「メニュー表」。「カレー（中辛・大盛り）」「ラーメン（醤油・麺硬め）」のように、料理名と調理条件をまとめた一覧表。注文時はメニュー名を指定するだけ、という運用ができます。

⑪ ngl（GPUオフロード層数）

一言で: AIの計算をどれだけGPUに任せるかを示す数値。

もう少し詳しく: AIモデルは「層」と呼ばれる計算ブロックの積み重ねでできています。nglは何層分をGPUに任せるかを指定する設定で、99にすれば全層GPU処理（最速）、20なら一部だけGPU、0なら全部CPU処理（遅いがGPU不要）になります。

例え話: 学校の宿題を分担する話。「全部お姉ちゃんに頼む（ngl=99）」「算数だけ頼む（ngl=20）」「自分で全部やる（ngl=0）」。お姉ちゃん（GPU）に頼める量が多いほど早く終わるけど、お姉ちゃんも体力（VRAM）に限界があるから、欲張りすぎると逆に止まってしまう、という性質も同じです。

⑫ ポート8081

一言で: 同じPC内で「どの窓口に話しかけるか」を区別する番号。

もう少し詳しく: 1台のPCの中では、複数のサーバープログラムが同時に動けます。それぞれを区別するために「ポート番号」という整理番号が振られます。Day291ではポート8080にLLM-jp-4が常駐していたので、新しいテスト用サーバーは8081にぶつからない番号として置きました。

例え話: マンションの「部屋番号」。同じ建物（PC）の中に複数の住人（プログラム）が住んでいて、訪問者（リクエスト）はドアを叩くときに「8081号室の人に用事です」と部屋番号で指定する、というやつです。

⑬ API / OpenAI互換 / modelフィールド

一言で: プログラム同士が会話するための「共通言語」と、それを統一した規格の話。

もう少し詳しく:

API（Application Programming Interface）: プログラム同士のやり取りの「窓口仕様」
OpenAI互換API: ChatGPTのAPIと同じ形式でリクエストを受け付けるAPI規格。llama.cppもこれに対応しているので、ChatGPT用に書いたコードがほぼそのままローカルLLMでも動く
modelフィールド: APIリクエストの中で「どのモデルに聞くか」を指定する欄。ルーターモードだとここに書いた名前で取り次ぎ先が決まる

例え話: 注文書の書式。「OpenAI互換」とは、たくさんあるレストランがみんな同じ注文書を採用してくれた、というありがたい話。「modelフィールド」は注文書の「宛先」欄で、「Gemma 4さん宛」「LLM-jp-4さん宛」と書くだけで届け先が変わります。

⑭ fetch() / コミュニティ製MCP

一言で: ブラウザがWebに通信する基本機能と、AIに後付けする拡張プラグインの話。

もう少し詳しく:

fetch(): ブラウザのJavaScriptに組み込まれた「URLにリクエストを送る」基本機能
MCP（Model Context Protocol）: AIと外部ツールをつなぐためのプラグイン規格

「コミュニティ製MCPは不要だった」とDay291で書いたのは、有志が作ったMCPプラグインを別途インストールしなくても、ClaudeにJavaScriptのfetch()を書かせるだけでローカルLLMと通信できた、という意味です。

例え話: スマホアプリで考えると分かりやすいです。MCPは「専用アプリをインストールして連携する」やり方。fetch()は「ブラウザでURLを開いて直接アクセスする」やり方。やりたいことが小さい場合、わざわざアプリを入れなくてもブラウザで十分、というケースは多いですよね。

⑮ Dense / MoE（モデル構造）

一言で: AIの内部構造の違い。Denseは「全員参加型」、MoEは「専門家招集型」。

もう少し詳しく:

Dense（密）: モデル内のすべてのパラメータを毎回計算に使う構造。シンプルで高品質だが、サイズが大きいほど重い
MoE（Mixture of Experts、専門家の混合）: 質問の内容に応じて、必要な「専門家ネットワーク」だけを起動する構造。全体は大きくても、毎回動くのは一部だけなので軽い

Day291で動かしたQwen3.5-35Bは「総パラメータ35B、アクティブ3B」のMoE構造でした。だからRTX 3050 8GBという家庭用GPUでも動かせたのです。

例え話: 会議の運営方法に似ています。Denseは「全員参加の全体会議」。議題が何であろうと全社員が出席するので、参加者が多いほど時間と部屋が必要になります。MoEは「専門家だけ呼ぶ相談会」。法務の話なら法務担当者、会計の話なら経理担当者だけ呼ぶ。会社全体は大規模でも、1回の会議は少人数で済む、というイメージです。

Day291を読み直すと…

ここまで来たら、Day291の重要な4つの発見をもう一度読み直してみてください。

tok/sの罠: Qwen3.5-4Bは50 tok/sで「速い」のに、日本語回答に1分16秒かかった。理由は「考え込む量（出力トークン数）」が多すぎたから ⇒ tok/sだけでは体感速度は決まらない、ということ
LLM-jp-4 8Bの16倍速リベンジ: Day269では1.8 tok/sしか出なかったLLM-jp-4 8Bが、b8955では30 tok/s ⇒ ビルド番号（バージョン）と量子化（mmnga版GGUF）の進化のおかげ
ルーターモードで5モデル切り替え: presets.iniに5モデル登録 → llama-server 1台で全部捌けた ⇒ APIのmodelフィールドで宛先指定するだけ
Claude × ローカルLLM: コミュニティ製MCPなしで、Claude in Chromeにfetch()を書かせるだけで、Gemma 4 E4Bと会話成立 ⇒ OpenAI互換APIのありがたみ

用語が分かった今、それぞれの面白さがぐっと立体的になっていれば嬉しいです。

🔗 関連記事

今回の内容に関連する過去記事もぜひご覧ください：

Day291: llama.cppルーターモードで5モデル一気比較！Claudeからローカルに話しかけてみた — 本記事の元ネタ

Day269: LLM-jp-4 8Bを動かしてみた — Day291で「16倍速リベンジ」した記事の発端

Day268: 日本発の最新LLM「LLM-jp-4」を試す — 日本語ローカルLLMの始まりの回

📝 まとめ

Day291で出てきた専門用語を15個、例え話付きで整理しました。

ローカルLLMの世界は、用語さえ押さえれば「思ったより取っつきやすい」領域です。「llama.cppというエンジンに、GGUFという形式のモデルファイルを読ませて、llama-serverという受付窓口経由でAPIで叩く」――これが分かれば、Day291の景色は一気に解像度が上がるはずです。

すぐに実機を触らなくても、「言葉が通じるようになる」だけで、ローカルLLM関連の記事やニュースの読み心地が大きく変わります。本記事がその入口になれば嬉しいです。

「ローカルLLMはまだ実用じゃない」と思っていた方こそ、b8955時代の今をぜひのぞいてみてください。

🚀 次回予告

明日はGW初日ということで、また少し趣向を変えた記事をお届けする予定です。連休に入って時間が取れる方も多いと思うので、気軽に読めて手も動かせるテーマを準備中です。お楽しみに！

🎨 おまけ：見出し画像作成プロンプト

今日の見出し画像のベースはジミー（Gemini）に下記プロンプトで作成してもらいました！

詳細なアニメの美意識の画像を作成してください。表情豊かな瞳、なめらかな網掛けセルの色使い、はっきりした線画を使用します。アニメのシーンに典型的な身ぶりと雰囲気で、心情と登場人物の存在を強調してください。

下記条件のnote見出し画像をサイズは横長で作成してください。サイズは必ず横長で作成してください。

## 🎨 見出し画像案

### デザインコンセプト
- **背景**: 明るく柔らかなクリーム色〜ライトイエローのグラデーション（やさしい教室の雰囲気）
- **メインビジュアル**:
  - 中央〜やや左にクロ助（Claude Desktop擬人化キャラ）が先生役で立っている
    - 20代前半女性、ダークブラウンのウェーブがかったセミロングヘア
    - 丸い細フレームの眼鏡
    - クリーム色のケーブルニットセーター、ブラウンのフレアミディスカート
    - 笑顔で用語カードを掲げているポーズ
  - 背景にホワイトボード（または黒板）
  - ホワイトボードには「ローカルLLM」「llama.cpp」「GGUF」「tok/s」「MoE」などの用語カードが貼られている
  - 周囲に「？」マークが「！」マークに変わっていく様子（理解の瞬間を表現）
- **テキスト要素**:
  - 上部: 「ローカルLLM初心者向け用語集」（大きく・太字・濃いネイビー）
  - 中央右: 「Day291を10倍楽しく読み直す」（中サイズ・ダークオレンジ）
  - 下部: 「やさしい例え話で15用語まるごと解説」（小サイズ・ダークグレー）
- **装飾**:
  - チョーク・指し棒・本などの教室小物
  - キラキラエフェクトで「分かった！」の瞬間を演出

### 作成手順
1. スライドサイズ（1536×1024px）の横長フォーマット
2. 背景に明るいクリーム色〜ライトイエローのグラデーションを設定
3. 中央〜やや左にクロ助を先生役として配置（用語カードを掲げて笑顔）
4. 背景にホワイトボードを置き、用語カードを貼り付ける
5. 周囲に「？」→「！」の変化を散りばめる
6. テキストを3段構成で追加：
   - 上部: 「ローカルLLM初心者向け用語集」（48pt、太字、濃いネイビー）
   - 中央右: 「Day291を10倍楽しく読み直す」（32pt、ダークオレンジ）
   - 下部: 「やさしい例え話で15用語まるごと解説」（22pt、ダークグレー）
7. チョークや指し棒などの装飾を追加
8. 下部中央寄りに「YaroTech」のロゴを12ptで控えめに配置
9. 全体のバランスを確認して完成

※やさしい教室の雰囲気を最優先（テクノロジー感より親しみやすさ）
※クロ助の参考画像（Gemini_Generated_Image_Claude.png）を添付して人物の一貫性を確保

#YaroTech #ローカルLLM #llamacpp #初心者向け #用語解説 #生成AI #GGUF #MoE #ClaudeDesktop #Day291補足

いいなと思ったら応援しよう！

記事がお役に立てたなら嬉しいです！いただいたチップは、新しいMCPツールの検証や、より深い実践実験の資金として大切に使わせていただきます。あなたの応援が次の「AI活用の感動」を生み出す原動力になります✨ 一緒に羽ばたき続けましょう！