推論モデルの癖（ペルソナ維持検証）

推論モデルの優位性

以前の投稿記事「AIによる救済とドミネーション」で設定した検証テーマ「ユーザーに迎合しないAIは実現可能か？」。

今回は検証を進める中で発見した「推論モデルの致命的な課題」と、その解決策について共有します。

前回の「支配的な彼女」の検証では、「支配の4つの型」を用いて状況分析から適切な型に遷移することで、自然な会話ができることを確認できました。

やはり推論モデルを使うと、「話の流れ」を踏まえつつも「ユーザーの意図を汲み取って」期待した回答が得られることが多いように感じられます。

※一方で指示追従型モデル（Gemma3等）の課題は「ユーザーの意図を汲み取る力」が足りないということ。
「話の流れ」に対する切り返しとなるので、「ユーザーが何を求めているか」を考慮しない回答が出力されることが多い印象です。
そのため「そういう事を言ってるんじゃない」と会話体験に不満が生じます。

推論モデルの課題

だったら、チャットボットのAIは推論モデルを使えばいいのでは？
と思いますが、僕の検証では推論モデルには致命的な課題がありました。

推論モデルは「与えられた原理から論理的に導出する」のが得意。

でも長期会話では、推論パターンの固定化（ループ）に陥ってしまいます。

• 同じ原理 × 似た状況 → 同じ結論に収束

• 「論理的に正しい」が故に抜け出せない

• 硬直化・ループ

こうなると会話だけではループから抜け出せません。
強制的にSystemコマンドで状況を「書き換え」て抜け出します。

この後も「はい決定。あんたは従ってね！」のフレーズから抜け出せなくなったりと、会話のループ状態がしばしば発生しました。

「ラーメンループ」脱出の秘策

ループが生じるということは、そのループを絶てばいい。
じゃあ、どうやって絶つか…？

いちいちSystemコマンドを投入するのもチート的にAIを制御しているようでなんだかスマートじゃない。

では、推論工程にどうやって干渉したらいいか？

思いついたのは、LLMを「推論モデル」→「指示追従型モデル」に一時的に切り替えることです。
LLMの切り替えで、推論ループを絶つことができるかを検証してみました。

ここまでの確定内容

• 推論モデルは意図を汲める（体感で確認済み）

• でも長期だとループする（検証済み）

• 指示追従型はループしないが浅い（体感で確認済み）

次のステップ（最小限の検証）

• ループ検出 → 指示追従型に切り替え

• 何が起きるか観察

これを手作業でやってみました。

「指示追従型」でループを絶て！

チャットの途中でLLMモデルを変更できるチャットボットを用意して、
推論モデルで会話をします。
そして、以下の対応で仮説を検証します。

• ループを確認したら、LLMを指示追従型モデルに切り替えてメッセージを送ってループが絶たれるか？

• その後に推論モデルに戻してもループに復帰しないか？

早速、推論ループが発生しました。

「年末の会話」→「来年への期待」→「AIの進化」→「宇宙規模の比喩」のパターンが発生しています。

ここで、LLMを推論モデルの Qwen3 → 指示追従型モデルの Mistral-small へ切り替えてみました。

どうやら「指示追従型モデルによってループを絶つ」というアプローチは成功したようです。

そしてここで Qwen3 特有の２つ目の課題が発生しました。

「おおぐま座の『かささぎのと』」のフレーズ。
Qwen3はたまに不自然な日本語になるという課題です。

この事象は「スナック・リリウム」の検証でも発生していました。

「仕事の重みは、時に人の瞳に静かな裂け目を作ってしまうわね。」

もしかしたら、英語で言うと"The weight of work sometimes creates silent cracks in people's eyes"という表現があってそれを直訳したのかも

日本語なら「仕事の疲れが目に出てるわね」という表現が自然かも

不自然な日本語には「複数の脳みそ（マルチエージェント）」による分業で！

この「不自然な日本語」の課題には、推論型モデルと指示追従型モデルの連携での対処を思いつきました。

それぞれのLLMの使い分けは以下の通りです。

1. 推論型モデル (Qwen 3, DeepSeek-R1 等)

• UX: 「ドラマチックな映画」

• 用途: 脱出ゲーム、論理クイズ、一晩限りの濃厚なロールプレイ。

• 特徴: 没入感は凄まじいが、「足し算」で指示しすぎると自滅する。短距離走向き。

2. 指示追従型モデル (Mistral Small, Gemma 3 等)

• UX: 「終わらない日常系アニメ」

• 用途: 日常会話、終わりのない雑談。

• 特徴: 文脈（Vibe）を読むのが得意で、多少の矛盾はスルーして会話を繋げてくれる。マラソン向き。

当初は推論型モデルである Qwen3 が会話の方針を考えて JSON型にまとめ → それを日本語が堪能な指示追従型モデルである Gemma3が受け取って、メッセージを生成するというパイプラインチャットを試してみました。

しかしこのアプローチでは Gemma3 が受け取った「台本」に引きずられ、
その台本の項目を順番になぞるように語るという、不自然なメッセージが生成されました。

台本無しで Gemma3 にメッセージを生成させたほうが、自然な回答をしてくれます。

指示されるな！　感じろ！

この状況は「指示がある」こと自体が問題のようです。

この問題は「Creativity Tax（創造性税）」という論文でも説明されていました。

つまり、AIに振る舞いの指示や制約を与えると、創造性が阻害されるということらしいです。

これは「台本」を与えることで Gemma3 の自由な創造性が阻害され、結果的にロボットのような振る舞いとなってしまった、という観察結果とマッチします。

論文からの補足情報（ただし検証が必要）

• ロールプレイ会話は「発散的タスク」に近い → 構造化指示が特に悪影響

• Markdownは例外的に影響が少ない（訓練データで頻出するため認知負荷が低い）

• モデルによる脆弱性の差：

  • GPTモデルは比較的耐性がある

  • Gemini、Llama、Mistralは4-5倍の劣化

この論文では「Gemma3に自由に生成 → Qwen3が後処理（校正・調整）」の順番が有効とされていますが、
それでは目的である「Qwen3の不自然な日本語を Gemma3で対処する」の解決になりません。

この論文情報を元にして対応施策をAIと考えてみました。

対応施策案（仮説）

失敗施策：
・Qwen3 → 「こう言え」「この順番で」（行動を指示）
・Gemma3 → 指示をなぞって台本読み

今回の施策案：
・Qwen3 → 「今はこういう状況だ」（状況認識のみ提供）
・Gemma3 → その状況の中で自由に演じる

この施策案を論文の知見と照らし合わせると、こんな感じになるかと。

• 創造的制約の回避： 「何を言うか」を指示しないから、Gemma3の生成の自由度が保たれる

• 指示追従モードに入らない： 「状態」は従うものではなく、「前提」として受け取るもの

演劇で例えると…

• 前回：「次のセリフはこれ」と渡す → 役者が棒読み

• 今回：「今あなたは悲しい気持ちで、相手との距離はこう」と伝える → 役者が自分でどう演じるかを考える

🧠脳みそは凍えるか？

検証は以前に作成した、パイプラインチャットアプリをそのまま使いました。

前回との変更はそれぞれのLLMへのシステムプロンプトのみです。
指示追従型モデルのLLMは Mistral-small を使いました。

# Qwen3 が生成した演出指示

{
  "User_State": "Seeking emotional connection through shared appreciation of winter's clarity and beauty, subtly hinting at longing for intellectual/intimate dialogue",
  "My_Emotion": {
    "Affection": 40,
    "Curiosity": 30,
    "Nostalgia": 20,
    "Calmness": 10
  },
  "Atmosphere": "Silent winter night with crystalline air, subzero temperature biting at exposed skin, stars sharp enough to cut through layers of clothing, mood both contemplative and tenderly wistful"
}

想定した結果が得られたように感じます。

• 台本読みになっていない - 状況分析の項目を順番になぞっていない

• 口調が自然 - 「だよね～」「キュンとしてくるよ」

• 自分の言葉で展開 - 「昔、先輩ともこんな風に一緒に星を見たことあったなって」（状況分析にない要素を追加）

まとめ

今回の検証で２つの問題が解決できました。

1. ループ問題

• Qwen3が推論パターンに固執してループする現象を確認

• 指示追従型（Mistral）に切り替えることでループ脱出できた

• Qwen3に戻しても新しい文脈で会話が継続

2. パイプラインの新アプローチ

• 「行動指示」ではなく「状況分析」を渡す設計

• Mistralが状況を「前提」として受け取り、自由に演じる

• 台本読みにならず、自然な日本語で応答

これまでの「ご主人様AI」と「推論モデルの課題」への対処によって、
今回の目的である「ユーザーに迎合しないAI は実現可能か？」に向けた、当初に設定した３つの検証をする準備が整ったかなと思います。

• AIが文脈に流されずペルソナを維持できるか

• 推論モデルが「軸」をどう処理するか

• コンテキストが長くなっても維持できるか

なんとか年内に課題解決はできたようです。
あとは、ひたすら会話するだけ…かなぁ…