「LM studio」でカンタンにローカルLLMを使ってみる。

最近「ローカルLLM」を導入してみました。

なにそれ？
という方に説明しておくと、「自分のPCで動いてくれるプライベートなAI」のことです。

ローカルLLMは超簡単に使えます

AIと言えばChatGPTやGeminiなどが広く知られているものですね。
これらはビッグテックが運営しており、どうしても情報がそういった企業に漏れてしまいます。
そのため、「企業が独自に持っている貴重な情報」や「個人情報」などは、どうしても送ることを躊躇してしまいます。

しかしローカルLLMは完全に自分のPCの中だけで動きます。
プライバシーに関する問題が完全にクリアされるんですね。

また完全無料で使えるところも大きなポイント。
もう使用トークンを気にして使用をためらう必要はございません。
どれでも話し放題！これはかなり快適です。

そんなローカルLLM。
自分のPCに入れるのは結構大変なのではないかと思っていたのですが、実はそんなことはなくてめっちゃ簡単でした。

1. 「LM Studio」をインストール。

2. モデルをインストール。

以上！！
これだけで導入できました。

ここからLM studioをインストールして。

LM studio内で好きなAIモデルをダウンロードして設定するだけです。

あとは勝手にチャットウィンドウの画面が出てくるので好きなだけ話していけばよいです。カンタン。

という素晴らしいシステムなのですが、問題点もいくつかございます。

PCの性能に大きく左右される

PCの中だけで使うという関係上、使っているPCの性能によって使えるAIモデルが大きく変化します。
いいモデルはいいPCじゃないと使えない、ということですね。

AIモデルを選択する時に「このPCにはモデルが大きすぎるよ」といった表示が出るようになっておりますので、
そこを参考にして「安定して動きそうなモデル」を探していく必要がございます。

性能はどうしてもクラウドAIには劣りやすい

これもまた仕方がないのですが、現状ではビッグテックが提供するクラウドのAIの方がどうしても性能は高いですね。
いいモデルになれば話は変わってくるかもしれませんが、それでも基本的にはローカルAIで高性能な受け答えはあまり期待しない方がいいでしょう。

また、PCの性能にも左右される部分ですが、思考時間や返答の時間もそれなりにかかります。
ワタシはGoogleが作った「gemma」をメインに使っていますが、Thinkモードで質問すると数分待つのは当たり前となります。

まああらかじめそれを踏まえて別の作業をしていればいいだけなのですがね。
このへんも割り切って使いましょう。

クラウドAIとは使い分けできる

ローカルLLMを使えばビッグテックのクラウドAIはおさらばできる！
とも思いますが、現実には主に性能の面でやはり安定したクラウドのAIも使いたいな、という気持ちがございますね。

そのためどちらが優れているという話ではなくて、ローカルもクラウドも両方を使い分けていく必要が今後は出てくるのだろうなと思います。

・簡単な調べものや、プライバシーに関わる情報が必要となる場合はローカルLLM。
・難度の高い問題の解決に関してはクラウドのAI。
この使い分けが必要なのだろうと。

いずれはローカルLLMのレベルもどんどん上がっていき、現在のクラウドAIに匹敵するぐらいのパワーを見せてくれるかもしれません。
とはいえ2026年7月現在でも「GLM 5.2」なんかは非常にパワフルだと好評価を得ておりますね。(必要なPC性能もパワフル。)

なぜローカルLLMが作られたのか？

あと、個人的な余談として。

先に述べたように、ローカルLLMのモデルとしてGoogleが開発したものもございます。
OpenAIだったり、他の企業もローカルLLMを展開しているところがあります。

「なんでわざわざこんなことしてるんだろう？」という疑問が浮かびまして。

自前で有料のAIサービスを展開していない企業であればわかるんですよね。
「うちもこういうものは作れますよ」という技術力アピールができます。

しかし現在有料でAIのサービスを展開している企業であれば、ローカルで動くAIを提供していくことはあまりメリットにならないのではないかな？と。

Claudeにこの点を聞いてみたら、それらしい答えがいろいろと返ってきましたので共有しておきます。
(あくまでAIの答えなので、実際そうなのかはわかりません。)

業界の標準になるため

自社のモデルが広く使われるようになれば、ユーザーがほかのモデルに乗り換えるのは抵抗感が生まれます。
「ローカルLLM」というフィールドで自分たちがスタンダードになりたいという気持ちがある、とのこと。

実際はいいモデルが出てきたらモデルの乗り換えはそんなに抵抗ないんじゃないかなとは思うのですが。どうなんでしょ。

勝手にモデルの改良を人々がしてくれるため

LM studioでモデルを探していると、「モデル名は一緒だけど後ろに書いてある言葉が違う」、という奇妙なモデルがいっぱい出てきます。
これらはユーザーが改造を施したバリエーション違い、とのこと。
実にいろんなバリエーションがあることがわかります。

ローカルMでモデルを出しておくと、それをユーザー側が勝手に改造をしていきます。
こういったものがいっぱい出てくることで、元のモデルの評判が高まっていく、という話でした。

ライバル企業を落とすため

これは特に自前でAIサービスを展開していない企業の理由になります。

ビッグテックが有料でAIサービスを展開している中で、このように「無料でもいいAIが使えるよ」ということを見せつける。
そうすると「別にこっちでもいいじゃん」という人々が表れてきますね。
これによって現在多くのユーザーを集めているAIの土台を崩していく手法である、という話。

どれも理由としてなくはないかな、とは思いますね。
いずれにせよ、何かしらのメリットがあるからこそわざわざローカルLLMを提供しているのだろうなと。

また、メリットではないのですが。

現にこのように「無料で使えるAIサービス」というものが登場してきました。
これは有料で提供しているAIサービスが「今後どんどん利用条件を厳しくしていく理由」としても使えるのではないか。
とも、個人的には思えるのですね。

お金払ってくれる人は良いAIサービスをどんどん使っていってね。
無料で使いたいという人はそれ相応のクオリティのAIを使ってね。
という話ができるわけです。
こういった理由はそれなりにありそうじゃないかなあと。

そういうことですので、せっかくだから我々はその恩恵を享受して少しずつローカルLLMにも慣れていった方がいいんじゃないかな、と思いました。

問題点としてはそれなりにいいローカルLLMを使いたい場合はそれなりにいいPCが必要になる、ということ。
しかしながら現在はメモリが高騰しており、PCを買い換えるにしても高額な出費が必要になってくることですね。
この辺はちょっとマッチポンプ感ありますよねえ。悪い　やっぱつれえわ。

と記事を書き終えたところでこんな話題もあったので、補足として。

アメリカの企業がOpenAIやAnthropicのAIから、中国製のAIへとどんどん移っていっている、というお話です。

記事内では『中国Zhipu AIの「GLM-5.2」とMoonshot AIの「Kimi K2.7 Code」』の利用者が増えている、とあります。
これらのモデルもLM studioで検索すると出てきました。
どちらも200GB超えの巨大モデルですが、企業であれば専用のPC用意して使えそうですね。

AI企業にお金払わずに安く高性能なAIが使えて万々歳。
で終わるとよいのですが。

という話が出ておりまして。

要は「これアメリカ政府が使ってんな」と中国製AI側が認識した場合、書いたコードをわざと脆弱にしようとする動きがみられる。という話ですね。
そうすればサイバー攻撃しやすくなりますもんね。
あくまでこの記事の話なのですが、まあ普通にあり得ますよねっていう。

クラウドでもローカルでも結局は中身はブラックボックスなことに変わりはなくて、中がどうなってんの？というのは、外からはわからない。
こういう「仕掛け」もやろうと思えばできる、という点だけは忘れずに使っていきたいものですね。

当ブログではどこまでも前向きなおかか容疑者が、「おもしろいもの」や「元気が出るもの」などを、できるだけ楽しくアナタと共有してまいります。
この記事がよかったら、スキ・フォローしていただけますと嬉しいです！
また、「ここが良かった」「ここが良くなかったけど全体的には良かった」「ここは理解できなかったけど他は良かった」などのコメントをいただけると大変喜びます！

ドット絵アニメーション作成をしておりますので、併せてご覧いただけますと幸いでございます！