#０　🌙ルナと学ぶ、本当に初めてのローカルLLM ｜有料AIは使い放題じゃない。だから自分のPCでAIを動かす

興味はあるけど大体の説明書　読んだだけで　即退場😢

初心者向けは初心者向けではない

「初心者向け」と書かれた入門記事の多くは、すでに詳しい人が作っています。

説明する側は分かっているからこそ、何も知らない人がどこで疑問を持ち、何につまずくのかが、意外と見えにくいものです。

そこで、このシリーズでは、ローカルAIを本当に初めて触るルナが、一から試していきます。

知らない言葉に戸惑ったり、設定を間違えたり、ときには遠回りしたりしながら、自分のPCでAIを動かし、需要があれば　画像、漫画、自動化など、さまざまな作業ができるようになるまで記事にするかも知れません。。

うまくいった結果だけではなく、分からなかったことや失敗したことも含めて、ルナが少しずつローカルAIを使えるようになっていく過程を、そのまま紹介していきます。

詳しい人が初心者へ教える入門ではありません。

本当の初心者が、実際に使えるようになるまでを一緒にたどる入門です。

また制限がきました

🌙Luna
「Haru、ChatGPTがまた制限で使えなくなりました……」

🔥Haru
「またか、何してたん？」

🌙Luna
「記事に使う画像を見てもらって、漫画の画像も何枚か比べてもらってました」

🌙Luna
「修正した画像を確認してもらって、そのあと別の画像も見てもらって……」

🔥Haru
「そら、だいぶ使ってんな（笑）」

🌙Luna
「Claudeもこの前、同じように使っていたら制限が来たんです」

🔥Haru
「Claudeでも同じことになったん？」

🌙Luna
「はい、有料プランなのに制限が早いんです」


－－－－－－

ChatGPTやClaudeは、有料プランに入ると無料版より多く使えます。

ただし、有料だからといって、何をどれだけ頼んでも完全に使い放題というわけではありません。

短い質問を何回かするだけなら、あまり困らないかもしれません。

でも、今回やりたいのは文章を作ることだけではありません。

画像を比べる
漫画を確認する
長い資料を読ませる
作ったものを修正する
もう一度見せて確認する

場合よったら業務自動化

一つのものを作るだけでも、何度もAIとのやり取りが必要になります。

その途中で制限が来ると、作業もそこで止まってしまいます。

－－－－－－

🧠Ryo_AI
「有料プランは使える量が増えますが、完全な無制限ではありません。制限は、使っているプランやモデル、機能などによって変わります」

🌙Luna
「では、制限が来ないように画像や資料を減らすしかないんですか？」

🧠Ryo_AI
「使う量を減らせば制限には届きにくくなります。ただ、それではやりたい作業まで減ってしまいます」

🔥Haru
「金払ってんのに、やりたいこと減らしたら意味ないやん」

⚔Kai
「減らす話ではないな。外へ任せる仕事と、手元で回す仕事を分けるべきだな」

🌙Luna
「手元で回す？」

🧠Ryo_AI
「自分のPCの中で、文章を考えるAIを動かす方法があります」

🌙Luna
「自分のPCでAIが動くんですか？」

🧠Ryo_AI
「はい、それがローカルLLMです」


－－－－－－　

ローカルLLMって何？

まずは「LLM」という言葉からです。

LLMは「大規模言語モデル」の略です。

難しい名前ですが最初は

「文章を読んで、返事や文章を作るAI」

くらいに考えておけば問題ありません。

ChatGPTやClaudeは、AIを利用するためのサービスです。その中で文章を読んだり、返事を考えたりする部分にLLMが使われています。

普段 スマホやPCでChatGPTを使っていても、その端末だけでAIが動いているわけではありません。

入力した質問をインターネットで送り、会社側にある大きなコンピューターでAIを動かして、作られた返事を受け取っています。

一方、「ローカル」は、自分の手元にあるPCの中という意味です。

ローカルLLMは、自分のPCで動かせる別のLLMをダウンロードし、自分のPCの力で返事を作らせます。

ChatGPTやClaudeそのものをPCへ入れるわけではありません。

ローカルLLMで行った作業は、ChatGPTやClaudeの利用回数には数えられません。

ただし、今度は自分のPCの性能によって、動かせるLLMの大きさや返事の速さが変わります。

－－－－－－

🌙Luna
「新しいAIを一人、自分のPCへ入れるような感じですか？」

🧠Ryo_AI
「大まかには、そのイメージで問題ありません」

🔥Haru
「今まで外のAIへ頼んでた仕事の一部を、自分のPCにやらせるわけやな」

🌙Luna
「では、ChatGPTやClaudeは使わなくなるんですか？」

🧠Ryo_AI
「いいえ、すべてを置き換える必要はありません」

🧠Ryo_AI
「記事の下書きや構成、会話の候補、長い資料の整理、画像を作るための指示文などをローカルLLMへ任せます」

🧠Ryo_AI
「画像の細かな確認や、最後の仕上げはChatGPTやClaudeへ任せればいいでしょう」

⚔Kai
「全部を一つのAIへ集中させず、仕事を分けるということだな」

🌙Luna
「それなら、途中で制限が来て止まることも減らせそうです」

🌙Luna
「でも、ローカルLLMを使うには、新しいPCが必要なんですか？」

🧠Ryo_AI
「必要な性能は、動かしたいLLMの大きさによって変わります。まずは、今あるPCを確認した方がいいでしょう」

🌙Luna
「PCなら持っていますよ」

🔥Haru
「そら持ってるやろ。どんなPCなん？」

🌙Luna
「中学の入学祝いに買ってもらったPCです」

🔥Haru
「入学祝い？　それ、まだ使ってんの？」

🌙Luna
「はい。今でも現役ですよ」

🔥Haru
「よう動いてんな（笑）」

🌙Luna
「動画も見られますし、インターネットも普通に使えますよ」

🔥Haru
「普段使う分にはええんやろうけど、ローカルLLMはさすがにきついんちゃう？」

🌙Luna
「そうなんですか？」

🧠Ryo_AI
「それは、PCの中身を確認してみないと分かりません」

🔥Haru
「そもそも、自分のPCに何が入ってるか知ってんの？」

🌙Luna
「分かりません」

🔥Haru
「まぁ、普通は知らんわな（笑）」

－－－－－－

調べてみると、今回使うPCはこの構成でした。

CPU：Intel Core i7-4790K  
メモリ：16GB
GPU：GeForce GTX 960 4GB

初めて見ると、どの部品が何をしているのか分かりにくいと思います。

CPUは、PC全体の計算を担当する部品です。

メモリは、開いているアプリや作業中のデータを一時的に置く場所です。

GPUは、もともと画面やゲームの映像を処理するための部品ですが、大量の計算が得意なので、AIを動かすときにも使われます。

さらにGPUには、「VRAM」と呼ばれる専用のメモリがあります。

ローカルLLMを動かすときは、AI本体のデータをこのVRAMへ読み込みます。

VRAMが広ければ、より大きなLLMを載せやすくなります。

載り切らない場合は、CPUや通常のメモリにも手伝ってもらえますが、その分、返事が遅くなりやすくなります。

今回のGTX 960に搭載されているVRAMは4GBです。

－－－－－－

🌙Luna
「結局、このPCでもローカルLLMは動くんですか？」

🧠Ryo_AI
「軽いLLMであれば、動かせる可能性があります。ただし、大きなLLMを快適に動かすのは難しいでしょう」

🌙Luna
「軽いLLMと、大きなLLMがあるんですか？」

🧠Ryo_AI
「はい。LLMの名前には、4Bや8Bなどの数字が付いていることがあります」

🌙Luna
「4Bは、メモリが4GBという意味ですか？」

🧠Ryo_AI
「いいえ。4Bと4GBは別の数字です」

🧠Ryo_AI
「4BはLLM自体の大きさを表す数字です。今は、数字が大きいほど重くなりやすい、と覚えておけば十分です」

🔥Haru
「似たような数字並べて、初心者を帰らせに来てるやん」

🌙Luna
「そのGTX 960で、できる限り賢いAIが欲しいです」

🧠Ryo_AI
「容量を小さくした4B前後のLLMなら、CPUや通常のメモリにも手伝わせながら試せる可能性があります」

🌙Luna
「速くはないけど、まったく動かないわけではないんですね」

🧠Ryo_AI
「はい。最初から快適さを求めるのではなく、まずローカルLLMがどのようなものか試すことはできます」

🔥Haru
「制限から逃げるために、いきなり新しいPC買ってたら、余計に金かかるしな」

⚔Kai
「買い替えるかどうかは、実際に動かしてから判断すればいい。今回は今のPCで試すべきだな」

🌙Luna
「分かりました。まずはGTX 960のまま試してみます」

🌙Luna
「ちなみに、VRAMはどのくらいあれば使いやすいんですか？」

🧠Ryo_AI
「8GBあれば、9B前後のLLMはかなり試しやすくなります。ローカルLLMを始める容量としては現実的です」

🧠Ryo_AI
「ただ、もう少し大きなLLMや画像生成まで考えるなら、16GBある方が余裕があります。今回やりたいことまで含めるなら、16GBがベストでしょう」

🌙Luna
「8GBでも始められるけど、16GBならできることに余裕が出るんですね」

🧠Ryo_AI
「はい」

－－－－－－

数日後

ルナが、見慣れない大きな箱を持ってきました。

🔥Haru
「何、その箱？」

🌙Luna
「えーいって、買ってきました（笑）」

🔥Haru
「何を？」

🌙Luna
「GeForce RTX 5060 Tiの16GBです」

🔥Haru
「ほんまにグラボ買うてきたん!?　GTX 960で試す話どこ行ったん？」

🌙Luna
「8GBを買って、あとで16GBに買い替えたら、二回お金がかかるじゃないですか」

🔥Haru
「いや、まず今ある4GBで試す話やったやろ。勝手に8GBを一回目の買い物に数えるな（笑）」

🌙Luna
「でも、これで買い替えは一回で済みましたよ」

🔥Haru
「まだローカルLLM始めてへんのに、買い替えだけ終わってるやん！」

⚔Kai
「もう手元にあるなら、今のPCへ載せられるか確認しよう」

🔥Haru
「話進むん早いな（笑）」

🌙Luna
「では、取り付けてみましょう！」

マザーのチップセットはH81  
PCI express2.0のため現行の4.0に比べて帯域はかなり低くなってます。

それでも実用範囲で十分動きます。

－－－－－－

あなたのPC環境でも動くLLMがあるはず

今回は、VRAM 16GBのGeForce RTX 5060 Tiを使って進めます。

ただし、次回の#1は、16GBのGPUを持っている人だけを対象にした内容ではありません。

VRAM 8GBの場合でも、使用するLLMの大きさや設定を調整すれば、同じ手順でローカルLLMを始められます。

動かせるLLMの大きさや返事の速さには違いがありますが、インストール方法や基本的な使い方は共通です。8GBのGPUを使っている方にも参考になるように進めます。

ノートPCの場合は、デスクトップPCのようにGPUだけを交換するのは難しいことが多いです。

それでも、性能に合わせて小さなLLMを選べば、iPhoneでも動かせる程度のAIを使える可能性はあります。

大きなLLMほど賢くはありませんが、文章の整理や言い換え、定型文の作成など、単純な作業なら多少は頑張ってくれます。

ノートPCやスマホでローカルLLMを使う方法については、また別の記事で説明します。
（最悪どうにかLLMを動かす方法は必ずありますのでw）

次回は、RTX 5060 TiをPCへ取り付け後、実際にローカルLLMを動かす準備を始めます。

便利なAIほど、働かせる回数にお金がかかる

最近は、CodexやClaude Codeを使った自動化や、AI副業の講座も増えています。

どちらも、パソコンの中にあるファイルを読み、コードを書き、実際の作業を進めてくれる便利なAIです。

ただし、一度の指示で一度だけAIが返事をしているわけではありません。

ファイルを読む
作業方法を考える
コードを作る
動作を確認する
失敗すれば修正する

表からは一回の作業に見えても、その裏では何度もAIが働いています。

そのため、毎日大量に動かしたり、自動処理を何本も回したりすると、利用制限へ届きやすくなります。

有料プランの枠を超えた後も動かすなら、上位プランや追加クレジット、APIの従量料金が必要になります。

自動化で利益が出るかどうかは分かりません。

しかし、AIを動かした料金は先に発生します。

－－－－－－

🌙Luna
「CodexやClaude Codeなら、AI副業の作業も自動化できるんですよね？」

🧠Ryo_AI
「できます。ただし、動かすたびに利用枠や料金を消費します」

🌙Luna
「有料プランなら、ずっと使えるわけではないんですか？」

🧠Ryo_AI
「完全な使い放題ではありません。長い資料を読ませたり、何度も修正や確認をさせたりすると、それだけ多く消費します」

🔥Haru
「副業で稼ぐ前に、AIの人件費で赤字になるやん」

⚔Kai
「高性能なAIへ、すべての雑用を任せる構造が悪い」

🌙Luna
「では、どうするんですか？」

⚔Kai
「何度も繰り返す仕事は手元で回す。難しい判断や最後の仕上げだけ、CodexやClaude Codeへ任せればいい」

🌙Luna
「その、手元で回すAIがローカルLLMなんですね」

🧠Ryo_AI
「はい。自分のPCで動かすため、一回使うたびに外部AIの従量料金が発生するわけではありません」

需要があれば　画像、漫画、動画作成など、さまざまな作業ができるようになるまで頑張りたいと思います。

できれば最後は自動化、さらにはiPhoneからおウチのLLMを操作したいと思います

🌙
note・AI・SNS考察系のアカウントを育てています
気になった方、近いジャンルの方は、フォローorいいね👍  いただけたら見に行きます

続き😊

追記

GPUはどれを選べばいい？予算別おすすめ3選

ネットでよく見る「このGPUなら○Bまで」という数字は、多くの場合、快適に使いやすい構成を基準にした目安です。

実際には、モデルの量子化方式を変えたり、コンテキスト長を抑えたり、一部をCPU側のRAMへ逃がしたりすることで、推奨サイズを超えたLLMを動かすこともできます。


一般的な目安＝初心者でも比較的扱いやすく、実用的に使える範囲

限界運用＝速度低下や設定の工夫を許容して、とにかく大きなモデルを動かす範囲

として分けて紹介します。


⸻

1.【入門】NVIDIA GeForce RTX 3050（6GB / 8GB）

まずはローカルLLMを手軽に試してみたい人向けです。

価格の目安

* 6GB                 ：新品 約30,000円
* 8GB 6GB共に：中古 約22,000〜25,000円

一般的な目安
この辺は次の#1-2あたりで紹介します

6GBでは3Bクラスの軽量モデルなら扱いやすく、量子化した8Bクラスも選択肢に入ります。
8GBでは　7B〜9Bの4bit量子化モデル

AIチャットや軽い文章作成、簡単なコード生成など、「まずローカルLLMを体験する」用途には十分です。

限界まで使うなら
【6GB】
8B〜9Bを強めに量子化・一部オフロード
VRAMだけにモデル全体を収めることにこだわらず、CPU＋システムRAMへのオフロードも利用すれば、さらに大きなモデルを動かせる可能性があります。

【8GB】
12B〜14Bも設定次第

ただし、ここから先は「起動できる」と「快適」は別問題。

モデルが大きくなるほど生成速度は落ち、RAM容量などPC全体の構成も重要になります。

⸻

2.【高コスパ】NVIDIA GeForce RTX 4060 Ti（16GB）

ローカルLLMを日常的に使いたい人にとって、一気に自由度が上がるのが16GBクラスです。

新品価格の目安：約65,000〜75,000円

VRAM：16GB

一般的な目安

8B〜14Bクラスの4bit量子化モデルなら非常に扱いやすく、速度も期待できます。

Llama 3.1 8B、Gemma 2 9B、Phi-4 14Bなどを日常的に使うなら、このあたりが現実的なラインです。

限界まで使うなら

ここが面白いところ。

16GBだからといって、14Bまでしか使えないわけではありません。

量子化やCPU/RAMオフロードなどを利用すれば、20B台、さらに27Bクラスも実際の運用対象にできます。

もちろん全部をVRAMに余裕たっぷりで載せる使い方とは違います。

速度やコンテキスト長とのトレードオフはありますが、

「16GBだから27Bは無理」ではありません。

一般的な推奨ラインと、工夫して実際に動かせる限界は分けて考える必要があります。

⸻

3.【ロマン枠・映像出力なし】NVIDIA Tesla P40（24GB）
※中古のみ

とにかく安く大容量VRAMを確保したい場合に出てくる、かなり特殊な選択肢です。

中古価格の目安：約25,000〜35,000円
VRAM：24GB

一般的な目安
量子化した大型モデルをVRAMへ載せやすく、16GBクラスより大きなモデルを扱いやすくなります。

限界まで使うなら
24GBのVRAMに加えてシステムRAMへのオフロードまで使えば、さらに大型のモデルへ挑戦できます。
ただしP40は古いPascal世代。
最新GPUと比べて処理速度や対応する高速化技術では不利なので、「24GBある＝4060 Tiより何でも速い」 ではありません。

むしろ速さよりも「この値段で24GB」を取るGPUです。
さらに映像出力がないため、CPU内蔵GPUなどからモニターへ出力する必要があります。サーバー向けのため、冷却にも工夫が必要です。

4.ロマン枠Ⅱ     旧カード
　
①【 GTX1080Ti    11GB  】　中古 18000-23000円
「予算2万円台で、とにかく動くか試したい」
VRAM 11GBの価値が活きる：古くてもCUDAが使える11GBのVRAMは、AIの世界ではゲームと違い現役です。

②【RTX2060    12GB】　中古 28000-32000円
「お金もないけど古すぎるグラボには抵抗ある」
2万後半で12GBのVRAMを確保し、LLMを起動させるコストパフォーマンスは 他のグラボには真似できない最大の強みです。

⸻

Q. AMD RadeonでもローカルLLMは使えますか？

A.  使える場合はあります。ただし本連載ではNVIDIAを推奨します。

RadeonでもVulkanやROCm対応の環境を使えばローカルLLMを動かせます。ただ、AI向けソフトはNVIDIAのCUDAを前提にしているものが多く、初心者では対応状況や設定で詰まりやすいことがあります。
そのため「初めてのローカルLLM」では、できるだけトラブルを減らすためNVIDIA製GPUを基準にしています。

ただ　使えるか使えないか？だけを聞かれると使えます。
LM STUDIOのバージョン変更かランタイム調整です。
#6  バックエンドエンジン　を参照して下さい