文系女がゲーミングPCを改造して、「ローカルLLM」を構築した話

ローカルでAIを動かしたくて、人生初のゲーミングパソコンを購入しました。

ひと昔前までは、「あまり賢くない」「精度も低い」「遅い」と言われていたローカルLLMですが、いまはだいぶ良くなってきているらしい。

ずっとクラウドLLM（ChatGPTやGeminiなど）を使っていましたが、従量課金やプライバシーの面で不安もあるし、使えば使うほど、限界を感じてきてしまっていて……。これを機に、ローカル環境を構築することにしました。

いろいろ調べた結果、Mac miniがいちばん手軽に始めやすいみたいでしたが、ときは既に遅し。品薄で買えません。涙
どうせなら新しいチップが搭載されたマシンがいいけれど、年内に手に入れることが難しそう。

ということで、AI構築に詳しいエンジニアの友人と一緒に、「AI専用マシン」を自作することになりました。

ゲーミングPCをAI専用サーバーへ

AIを動かすためには、それなりのスペックのマシンが必要です。本当にピンキリなのですが、まずは「中古でいい」という友人のアドバイスのもと、本体とパーツをヤフオクなどで揃えました。

【今回の増設スペック】
メモリ： ３２ＧＢ → ６４ＧＢへ
ストレージ： ２５６ＧＢ → ２ＴＢへ
VRAM： １１ＧＢ → ２４ＧＢへ

このくらいのスペックがあれば、十分に動かせるそう。

ライトを当てる人、管を抑える人、はめ込む人……まるで外科手術のようでしたよ。笑
パーツを差し込むだけなので、増設作業は思いのほか早く終わりました。初期投資の費用も、当初想定していた額の4分の1に抑えることができました。

AIモデル「Gemma 4 12B」を動かしてみる

AIを動かすために、パソコンのスペックに合わせたAIのモデルを入れる必要があるとのこと。今回は、AIモデルに「Gemma 4 12B」を選びました。データサイズは8GBくらいです。

ローカルで動かす仕組みは「Hermes Agent」と「LM Studio」です。友人曰く、「Hermes Agent」が体で、「LM Studio」は頭脳とか。

そして、本当にすごいと思ったのが、プログラムやアプリのインストールさえ、AIエージェントがすべてナビゲートしてやってしまうということ。

①AIにやり方を聞く
②AIが答えてくれる
③「それ、やって」と言うと、AIが実行する

こんな感じです。

自分たちは、世間話をしながらひたすら待つのみ。エラーもすべてAIが見つけてくれます。

ローカルでAIが動いたときは本当に感動ものでしたよ。パソコンの中だけで完結するから安心感もぜんぜん違います。

まとめ

手探りながらローカルで動かせるところまで来て、自分なりに学んだことが3つあります。

１）自分のスキルにフィットするか？
チャット形式で手軽に動かすのか、それともターミナルでコマンドで動かすのか。背伸びをせず、今の自分のスキルに合ってるか？

２）事業サイズにフィットするか？
大企業のような大規模システムではなく、中小企業や個人ビジネスのサイズに合っているか？

３）マシンスペックにフィットするか？
ハイスペックや、最新AIモデルにこだわらず「どの程度のモデルを動かしたいか」から逆算して、どのくらいのメモリが必要なのかを見極めること。

＊＊＊
じつは、「ローカルAI。興味はあるけど、超ハイスペックなマシンがないと無理でしょ……」と思い込んで、ここ1～2ヶ月ほど一歩が踏み出せず、ずっとやきもきしていたんです。

でも、今は本当に環境が整ってきていて、選択肢もふえているし、自分の等身大のサイズに合わせて逆算して考えていけば、無駄なコストも時間もかけずに、ちゃんと前に進めていける。

身をもってそう実感できたのが、今回のいちばんの収穫でした。

つづく。