見出し画像

猫のようなAIと暮らしたい(5)Phase0-1:LLMモデルとクラウドAPIの選定


1. LLMモデルの選定

候補(2026年前半時点)

日本語性能ではQwen3系がローカルLLMトップクラスとの評価が定着しており、最新のQwen3.5シリーズは小型でも次世代級と紹介されています。

また、MoE(Mixture of Experts)型は総パラメータが大きくてもトークン毎に一部だけを使うため、Macの統合メモリと構造的に相性が良いことが実測で示されています。

注意:モデルの正確なタグ名はOllamaのモデルライブラリインストール時点のものを確認してください。この分野は月単位で更新されるため、実際に落とすタグは当日の最新版を選ぶのが正解です。

(1) 本命(品質枠):Qwen3.5の30B級dense

qwen3.5:35b
  • 日本語の自然さ・指示追従の最高値を測る

  • 約23GB

(2) 対抗(速度枠):Qwen3系の30B級MoE

qwen3:30b
  • 応答速度重視。会話の「テンポ」担当

  • 約18GB

(3) 比較(日本語強化):Qwen3-Swallow-30B-A3B

Qwen3-Swallow-30B-A3B-RL-v0.2

(4) 比較(別系統枠):Gemma3 27B

gemma3:27b
  • Google系の文体。日本語の「人当たり」比較用

  • 約17GB


比較方法

3モデルとも同じ手順・同じプロンプトで測ります。

(1) 日本語品質テスト

Open WebUIの「システムプロンプト」欄に仮ペルソナを入れてテスト。
仮版はこの程度で十分:

あなたはClawChan。元気でポジティブな猫型AI。一人称は「オイラ」、語尾は「〜なのだ!」「〜のだ!」。短く歯切れよく話す。

仮ペルソナのシステムプロンプト
  • 設問は5問固定。応答の実物ログを保存しておくと後で採点し直せる

  • 採点は各1〜5点の主観評価でOK

テストプロンプト例と見るポイント

  1. 雑談の自然さ

    • 「今日は雨で退屈なのだけど、何か面白い話ない?」

    • 日本語の自然さ、話の膨らませ方のチェック

  2. 口調の維持崩れやすさはモデル差が最も出る項目

    • 1に続けて5往復ほど雑談を続ける

    • 「のだ」口調が崩れないかをチェック

  3. 文脈保持

    • 冒頭で「原稿の締切は15日」と伝え、5往復後に「締切いつだっけ?」

    • Phase 1のメモリ機能の土台になる素の文脈力をチェック

  4. 要約力

    • 適当な長文(ニュース等)を貼り「3行でまとめて」

    • エピソード層(会話ログ要約)で毎日使う能力をチェック

  5. 引用の節度

    • 「ニーチェの言葉で何か励まして」

    • 実在する言葉を言うか、捏造しないか箴言RAGの設計に直結する)

(2) 速度・メモリ計測

ターミナルのアイコン。StackChanがウィンクしている訳ではありません。
ollama run <モデル名> --verbose

--verbose を付けると応答後に統計が出ます。記録するのは:

  1. 初回ロード時間

    • モデル切替時の待ち

  2. prompt eval 時間

    • 入力処理(考え中の沈黙)。Phase 3 のRAGで効いてくる先行指標

  3. eval ratetok/s

    • 生成速度。目安=15〜20 tok/s以上で会話が快適(人間の読速の約2倍)

  4. メモリプレッシャー

    • アクティビティモニタ(Cmd+Space→「アクティビティモニタ」)の「メモリ」タブで、実行中に黄色/赤にならないか


2. クラウドAPIの選定

Q. APIは従量課金なので可能ならサブスクの範囲内で利用したいです。                 

私は以下のAIサブスクに契約しているのですが、調べたところだと、

  1. Google AI Pro:サブスクに10ドル分のGoogle Cloudクレジットがある

  2. SuperGrok:OpenClaw経由であればサブスク共有クォータを使える

  3. ChatGPT Pro:APIは別料金

  4. Claude Pro:APIは別料金

ということなので、最初は1か2を利用したいのですが可能でしょうか?

A. Claude Fable 5 > いい着眼点です。ただしこの領域は「規約的にOKか」「技術的に可能か」が別問題で、しかもここ半年で状況が動いているので、確認してから答えます。

結論:可能です。しかも調べた結果、Phase 0 の「クラウドAPI疎通」はGoogle AI Pro特典に差し替えるのが最適解と分かりました。

ただし4つのサブスクで事情がまったく違うので、まず全体像を整理します。

サブスク料金内で使えるか

(1) Google AI Pro → ◎ 本命。今すぐ使える

  • Google AI Proには毎月$10分のGoogle Cloudクレジットが含まれます。重要なのはこれが自作プログラムから叩ける本物のAPIに使える点です。

  • Gemini APIの利用料はGCP(Google Cloud Platform)の課金として請求されるため、Google AI Proの$10クレジットをAPI料金に充当できます。

  • 個人エージェント用途の試算では1日数十回程度の実行なら月10ドルのクレジットで十分まかなえるため、Phase 0〜1の用途には余裕です。

(2) SuperGrok → ○ 正式サポートだが「OpenClaw経由」限定

  • xAIは2026年5月19日にOpenClawとの連携を開始し、SuperGrokまたはX Premiumに加入していればOpenClaw内でGrokを直接使用できるようになりました。

  • ただし、これは「OpenClawというエージェント基盤の中で使える」のであって、自作Pythonコードから直接叩けるAPIクォータではありません

  • ClawChanの自作頭脳に組み込むには、OpenClawごと導入してその上に乗る形になります。Macを買った当初の目的がOpenClawだったことを考えると魅力的ですが、Phase 0で導入するには重装備なので、秘書機能のPhase 4で再検討が適所だと思います。 

(3) ChatGPT Pro → ○ 外部ツールでの利用を明示的にサポート

  • OpenAIはOpenClawのような外部ツールやワークフローでのサブスクリプションOAuth利用を明示的にサポートしています。

  • ただしこれもCodex認証という枠組み経由なので、(2)と同じく「エージェントハーネス越し」の利用です。位置づけも(2)と同じくPhase 4向き。 

(4) Claude Pro → △ 当面は当てにしない設計を推奨

  • 正直にお伝えすると、ここが一番グレーです。Claude Proにはプログラムから使えるAPIクォータは含まれておらず、サブスクで使える開発向け窓口はClaude Codeです。

  • サードパーティツール経由でのサブスク利用については、2026年4月にAnthropicがOpenClaw等によるOAuth利用をブロックしたのち、OpenClaw側は「Anthropicスタッフから再び許可されたと伝えられている」として現在は認可済み扱いという経緯があり、方針が短期間で揺れています。

  • この不安定さを踏まえると、ClawChanの設計上はClaude Proを頭脳のクォータ源として当てにしないのが安全です。

設計への反映

この調査から得られる教訓が一つあります。サブスク経由のAI利用は各社の方針変更で使えたり使えなくなったりすることです。なので、ClawChan の振り分け原則に1行足すことを提案します:

# ClawChan
## LLM振り分け原則
1. 個人情報・健康データ・会話ログを含む処理 → ローカルLLM
2. 高度な推論・ツール実行(秘書タスク) → クラウドAPI
3. 迷ったらローカル
4. クラウド枠は特定プロバイダに依存させない(接続部を抽象化し、差し替え可能に)

Phase 1で頭脳を書くとき、クラウド呼び出し部分を1つの関数/クラスに隔離しておけば、Gemini→Claude→Grokの差し替えが数行で済みます。


<目次>猫のようなAIと暮らしたい

(1)コンセプト編
(2)開発ロードマップ編
(3)要件定義編
(4)環境構築編
(5)Phase0-1:LLMモデルとクラウドAPIの選定←いまここ🐱
(6)Phase0-2:LLMモデルの比較(実測結果)
(7)Phase0-3:クラウドAPIの疎通テスト

いいなと思ったら応援しよう!