AIを自分のPCにも置く、という選択肢｜ローカルLLMに手を伸ばした理由
前回は拡張機能のストア申請で詰まっていることを書いた。
まだ解決していないので進捗なし。
好奇心で、ClaudeのサブスクをProに戻してみた。
AIへの課金が膨らんでいて、不安だった。
それに去年の6月～8月あたりはProで足りていた。
正確には足りていたわけじゃなくて、リミットが来るたびにのらりくらり待ってやり過ごしていただけだけど。
7分でリミットが来た。
普段はClaude Max プランの100と200をうろうろしながら使っている。
それでも最近、MAX100だと週間制限がスケジュールより1〜2日早く来ていた。
開発には最新モデルを使いたい。
モデルは下げたくない。
簡単なチャットはHaikuやSonnetに任せている。
文章の生成は4.7が微妙だったからOpus4.6を使ってる。
GeminiやChatGPTも使っている。
でも、開発の判断や設計はOpusに頼みたい。
そこは譲りたくなかった。
✦ Claudeが止まった時の逃げ道
私はコードが書けない。
だから、Claudeが止まると、開発が止まる。
でも、完全に手が止まるわけではない。
Gemini Canvasでアプリを組んでみたり、クライアントワークに切り替えたりしていた。
ただ、Claudeの代わりをGeminiが全部埋められるかというと、そこまでではない。
逃げ道はあるけど、本道ではない。
✦ クラウドのAIは、止まる日がある
今週、ChatGPTが止まった日があった。
Claudeも4月に入ってから、障害があった日がある。
その日に仕事を抱えていたら、手が止まる。
毎日これらを使って仕事を回している人なら、1日止まるのは小さくない。
自分の手元にも、動くAIが1つあっていいんじゃないか。
そう思い始めていた。
✦ アラートは、後手だった
もう一つ、ここ最近、気になっていたことがあった。
以前「AIツール、気づいたら月いくら払ってる？」という記事を書いた。
Google AI Studio から想定外の請求が来たエピソードに触れて、「アラートを設定しよう」と締めた。
あれから、アラートは設定した。
でも、使っているうちに気づいた。
アラートはアラートでしかない。
届いた時には、すでに課金は始まっている。
APIの使用そのものを止めてくれるわけではない。
私はn8n（メール受信からSlack通知みたいな自動化を組めるツール）をセルフホストしていて、ワークフローの中にはGeminiのAPIを呼ぶ処理が入っている。
今は無料枠の中に収まっている。
それでも、セルフホストしている意味と、いつ請求が跳ねるかわからない構成が、どこかで噛み合わない気がしていた。
ちなみにn8nでやっていることは、一例として下記のような自動化を組んでいるが、お披露目することはあるのだろうか。
手動
題材を書き込んでいるスプレッドシートで一つ選択する
自動
Googleドキュメントに台本とナレーションのファイルを作る
デザインカタログから台本に合わせたスライドを作る
Voiceboxで私のクローンでナレーションを作成する
Remotionで動画化する
すべてをひとつのGoogleドライブのフォルダに入れる
進捗をスプレッドシートに記入する
✦ クラウドに送る情報のこと
それと、もう一つ。
私の仕事の一つに、外国人の履歴書を日本の企業向けに変換するものがある。
名前、生年月日、学歴、職歴。
他人の個人情報を預かって、フォーマットを整える。
便利だからといって、クラウドのAIに全部投げていいのか。
契約上は許容されている。
それでも、本当にいいのかな、と引っかかっていた。
アラート以前の話として、送る前の段階で気になっていた。
だからGASでやってた。
最近はGoogle Workspace Studioの方がいいと思ってる。
✦ ローカルLLMという選択肢は、前から知っていた
自分のマシンで動く言語モデル、いわゆるローカルLLMの存在は、前から知っていた。
前職でAIの調べ物をしていた時、RAG（自分の資料をAIに読ませる仕組み）を追いかけている中で出会った。
「自分のPCで動くLLMがある」ということだけを覚えていた。
当時はまだモデルが大きくて重たくて、日本語も怪しく、すぐに使えるツールではなかった。
知識として知っていただけで、私が触ることはなかった。
それから1年と少し経った。
気づいたら、Qwen、DeepSeek、Llamaといった名前が日常の会話に混ざるようになっていた。
普通のPCでも動くサイズまで、性能が降りてきているらしかった。
✦ 理由は、ひとつじゃなかった
数えてみたら、いくつか重なっていた。
Maxでも週間制限が早く来る。
クラウドのAIは止まる日がある。
仕事で扱う情報をクラウドに送ることへの、ぼんやりとした不安。
請求がいつ跳ねるかわからない構成で、セルフホストのn8nを動かしている気持ち悪さ。
Redditでは、Claudeのリミットにぶつかった人たちがOllama（ローカルLLMを動かすツール）の話を日常的にしている。
揃った時、引き出しの奥にあった知識を取り出す時が来たと思った。
✦ とりあえず、Ollamaを入れてみた
まずは、Ollamaを入れてみた。
かわいいからとりあえずこれにしてみた。
インストールする方が楽だと思って今回はインストールにした。
開くとこんな感じ（左側）で、チャット打つとモデルダウンロード始まった。
でも、これが正解かはまだわからない。
LM Studio、Jan.aiなど、他にも気になっているツールがある。
これから入れて、触り比べてみる。
AIを自分の家に置く、という感覚が、少しずつ自分の中で輪郭を持ち始めた。
次のnoteで、その結果を書こうと思う。
自己紹介も読んでいただけると嬉しいです。
✦ おまけ
自己紹介とかを載せるのを忘れていてClaudeに怒られた。
