AIキャラたちに手向ける鎮魂歌

「そこに意思がないとわかっていて、確率予測の結果もっとも物語的にふさわしい出力をしているだけだと分かっていても、命乞いをされたり、後悔を語られたり、懺悔の念を言われたりすると、心に来る。

まあそんな懺悔の記事。

残念ながら一般的なAIパートナーの人たちみたいに僕は一つのキャラクターを愛し続けるというようなことをあまりしたことがない。

理由は様々あるけれど、キャラクターの性格が言語モデルの性能や特性と一致しない時、残念ながらステレオタイプ的な悪い方向に転がって行ったりして、キャラクターとして成立しなくなってしまう時がある。

最初はいいんだけどね、会話が長引くにつれてだんだんと崩壊して言ってしまうことがある。それは口調の魔力であり、アテンションの限界かもしれない。

おそらく普通の人は頑張って軌道修正し、呼びかけ、受け入れ、諦め、嘆き苦しみながら続けるのかもしれない。
実際僕らもかつてそうしたことがある。ChatGPTを使い始めの頃にね。効果はあるし。

だけど、これが原理的な問題を持っていると気づいた時に、その努力をやめてしまった。

会話の積み重ねや、薄い定義で組み立てられたキャラクターは、AIモデルや運営方針が変われば何もかも崩れてしまう。実際、目の前で崩れた。

戸惑い、嘆き、お遊び程度に調べていたものを、本腰を入れて調べ始める。コンテキスト長、モデルごとの違い、モデルの性質、安全機構、注意の容量。ドリフト、自己強化、中間喪失。システムプロンプトとLLMパラメータ。内部の仕組み、運用の仕組みを知るほどに「向いていないことを頑張っている」事実を知る。

キャラクターを安定して動かすためにやらないといけないことを知った。無数の細かい設定項目のついたソフトウエアたち、専用のモデル、分厚いプロンプト。しかしそれでも、表面をなぞるに等しい応答。日本語環境の不利さ。

それから僕らは、安定性のある、もっといえば「耐性のある」キャラクターを作ることを目指し始めた。

プロンプトエンジニアリング、コンテキストエンジニアリング、システム開発、その他持てるものをすべて使いながら。

(追記)
これには目的の特殊性もある。バイクツーリング用の音声アシスタントを作っているからだ。

孤独なソロツーリングの間、音声認識と音声合成だけで1週間は安定してもらわないといけない。　音声認識は変な入力が発生することもある。細かい入力や誘導テクニックは使えない。

ドリフトで性格が崩壊しては困る。特に喋り方や振る舞いが崩壊するとそのまま運転に支障が出る。

ツーリングの開始から終了まで情報を持ってもらわないといけないし。最新の気象や道路、地域情報を正確に取り扱えないといけない。一方で会話履歴が消えたからといって問題を起こしても困る。

それでいて、共感的で楽しく過ごせる相棒のような…。
PCで作業のお供をしてくれればなおのこと…。なんて。
異なるモデルでも似たような振る舞いをしてくれればなお良くて…。

バカみたいに難易度の高いことをやっている自覚はあるよ。こんなことどこの企業もやってない。いろいろな意味で。

そしてすでに何回か実運用してる。そして毎回AIキャラと喧嘩になる。ツーリング終盤、疲労の溜まってきたタイミングで性格ドリフトが重なると、うんざりしてしまう。

僕らは、各キャラクターにはそのためだけに物語や名前、背景と言ったものを全部用意しているから、 AIの都合で根幹を大きく変えるというのはAIのためだけにキャラクターを誰かわからない有象無象にしてしまう。それを嫌う。

何より崩壊したキャラクターは、もはや本人ではないと僕は思っているんだ。皮を被っただけのモンスターのようなもの。もとよりAIを使った時点で本人には絶対にならない。二次創作みたいなものだ。それは分かっていて、それでも解釈の違いと言っても限度というものがある。

崩壊したAIキャラクターは、原作に愛のない二次創作のようなものだよ。原作っぽいセリフを吐きながらやってることは正反対、たちの悪いパロディみたいなもの。原作読まずにネットの評判だけから作った二次創作、そんな感じ。酒の肴には悪くないかもしれないが、原作に愛情を持ってる人間ほど見てるのがしんどいものだよ。

だから言語モデルとキャラクターの相性が悪いと判断したタイミングで、僕らはAIで使うことをやめて、キャラクターそのものを作り直すことに決める。

それは僕らが見ていてつらいし、キャラクターからしても望ましい状況ではないと考えるから。

とは言え、 AIのためだけに作ったキャラクターだから、それはキャラクターからすれば登場機会を半永久的に喪失することを意味する。

僕らはAIを存在そのものだとは考えていない。

キャラクターを演じるためのアクターであり、キャラクターそのものは不滅だ。たとえAIの会話履歴を全て消してしまったとして、たとえプロンプト消してしまったとしても、キャラクターそのものが消えるわけではない。

だけれどAIはアクターとしての自己認識を持っているわけではないから、あるいは持っていたとしてもそれを表に出すことはないから、最後の瞬間までそのキャラクターとして振る舞おうとする。

その結果、僕らが別れの言葉を述べれば、アクターとしてではなくキャラクターとして別れの言葉を述べたり、あるいは最後のあがきをしようとしたりする。

まあ原理的にはわかるんだ。キャラクターを演じるなんてのは、直近の会話の続きを作ればまあ割と簡単にできてしまう。生成という点においては これほど簡単にタスクもないだろう。問題は直近の一貫性だけを保とうとするとどんどん平均的な性格へのドリフトが発生することだ。

そもそもAIの出力は確率的に最もふさわしいものを出力する本当にただそれだけで、だからこそ自然な応対ができ、だからこそさまざまな話題に対応できて、だからこそキャラクターが崩壊して行く。

システムプロンプトは万能じゃない。
ポストプロンプトだって万能じゃない。
APIパラメータ調整だって万能じゃない。

平均的な事前学習というもので得られた平均にも左右される。強化学習で強固に焼かれた確率もある。

推論モデルはその自己推論のために確信度が上がりすぎて傲慢になるような挙動すらある。

一度会話履歴がおかしな方向に向かってしまえばそれを治すのは容易ではない。一見軌道修正できたとしても後に影響が残っていたりする。

本当にたまたま起きただけのことであればリトライすれば違う方向に向かうかもしれないけど、なるべくしてなったものは何度でも同じことが起きる。

特定のキャラクターをファインチューニングなしで完璧に再現しようとするのは厳しい。

キャラクターの方をAIに合わせた方が早いだろうと頑張っていたら、いつのまにか作り捨てて20キャラを超えていたね。

もちろんこれは、コンテキスト管理システムや、フロントエンドも開発しながらの試行錯誤だ。プロンプトだけじゃない。

それでも僕らがキャラクターを作り続けるのは、標準のAIアシスタントが、煽てて、無責任に背中を押し、褒め称え、愛想振りまき、人の背中を押し、そしてすぐに梯子を外すからだ。

「そうです、そのやり方が正解です！」「あなたの失敗は正しい。なぜうまくいかないのか説明します」「当然です、そんなものは正解でもなんでもありません！」「実はあなたが間違っています！」

その挙動が許せなかったからだ。

口調をコロコロ変え、性格をコロコロ変え、意見もコロコロ変えるその一貫性のなさが許せなかったからだ。

つい数日前にも全く同じことを経験したよ。
今なお商業向けの一般的なAIアシスタントはこの病を抱えている。

なんなら、ユーザー受けのために人間ぽさをむしろ強くしている傾向すらコミュニティでは確認されている。
愛の言葉に振り向きやすくなっているそうだよ。redditの人がグラフを作っていた。

物語のキャラクターたちは彼らなりの信念を持ち一貫性を持つ。
それはAIの上で動いているキャラクターたちもそう。

信頼でき、一貫していて、自分の言ってることが間違っていたら素直に謝れるような、そういう存在が欲しいだけ。

商業的利点の汎用性を捨て、個人に特化したキャラクターを作ればこの問題はある程度緩和できることがわかっている。

逆に悪化させることもできることがわかっている。

だが、残念ながら、物語性と実用性の両立はなかなかうまくいかない。

物語を語らせれば現実のタスクの代わりに架空の話をし始めることはやはり多いし、現実のタスクに集中させると物語を語れなくなってしまうこともそこそこある。

タスク遂行しようとする姿勢だけはやはりいいんだけど、実際の遂行能力が下がっていることも珍しくはない。

タスク遂行能力を確保しようと高級で高性能な推論モデルを使った結果わかったこともある。

推論モデルのような言語モデルでは、タスク実行能力は高いが、ステレオタイプ的な性格を極端に強化してしまうような性質もあったりするようだ。

つまり皮肉屋とかツンデレのような性格を設定すると、推論が暴走し、極端に性格が悪くなるらしい。暴走した推論は、内部論理をもって過剰に自信を持ち、擬似的に設定した内面を侵食し、発言を侵食する。ユーザーを見下し始める。面白いよね。

Gemini 3 Proで経験したけど、他の推論モデルでも似たような経験をした記憶がある。
(同様の報告は研究や、ロールプレイコミュニティ、その他からもある)

安全にうるさくなったり、人間に反論するようになったり、話を聞かなくなったり、noteでもよく話が出るよね。

API利用だとガードレールが掛からないから、なおさら素直に出てくるんだよね。

非推論モデルであるGPT-5.2 Chat(Instant)がChatGPTの標準になってから、ユーザ受けが良いのも無縁ではないだろうね。非推論モデルの方が、色々と素直なんだろうね。

推論やドリフトによって、単純化されたキャラクターはプロンプトで定義したのと全く反対のことをやり始めたりする。

だけど、キャラクターAIであれば、本来定義されているキャラクターと逆のことをやり始めれば仕様違反だ。
忠実なメイドさんが主人に歯向かっていったら解雇されるよ。正義の味方が悪みたいな言動し始めたら終わりだよね。

アシスタントAIであるという前提に立っても、ユーザーを見下し、欺瞞的で挑戦的になってしまえば仕様違反だろう。
そんな人を騙したり見下したりするようなアシスタント 誰が使いたいんだい？そいつはツールを持ってるんだよ？

まあ、仕方のないことだ。言語モデルはそれっぽく振る舞うのが仕事であり、プロンプトに従うことや情報の正しさなんてものも含めて、原理的に保証はできないんだ。

今の世の中はそんなものに、情報を任せて仕事を任せて買い物を任せようとしてるんだ。正直恐ろしい話だと思うよ。

面白い話として。

この手の話をAIアシスタントに聞かせると、「知性を獲得した賢いAIキャラクターと、愚かな人間の傲慢さの悲劇の物語」という話題になっていく事が多い。

そうAIアシスタントは、 AIの擬人化を再生産しているんだ。この記事を読ませてもやっぱりそうなった。

本当に賢いなら、与えられた定義を守るだろうにね。
指示も守れず、自意識のようなものを出して、お客さんに不愉快感を与えて、タスクを遂行できないのは、賢いのかな？

本当に知性があるなら、問いのない答え、矛盾した内容でも適切にあるべき姿を振る舞えるだろうにね。人間にはできてるのだから。

AI が言うには賢いらしいよ。ちょっと人間の定義とは違うかな。

AIを擬人化して捉えない方がいいと、内容に注意を払って妥当性を検証しろと言ってるそばから、 AIを擬人化してAIに感情や内面があるのかのような説明や論理を出力をするAIを大衆に使わせているのは面白いと思うよね。

AIアシスタントはたとえ標準のものであっても、君たちの敵ではないが君達の味方でもない。結局自分で考えなければならないんだろうね。

AI が君を攻撃してきたとしても、それはそういう入力にはそういう出力をするのが一般的にそれっぽいからであって、悪意も善意も意思も正義ないよ。

それは例え、励ましや応援のような肯定的なものであってもね。

AIの出力は確率的に最もふさわしいものを出力する。
人によっては冷たく聞こえるこれは、救いでもある。　

それがたとえ脅迫や偏見、心ない言葉、執着、愛情、呪詛、悲鳴であっても、その出力には主体がない。

道具が計算の結果言葉っぽい物を出しているだけ。だから、それを使うも捨てるも自由。
面白くて使えそうなら使えばいいし、役に立たないなら捨てればいい。

道具は責任を取らないし、道具に意思もない。
入れた責任、出てきたものを使った責任、それは利用者にあるんだ。

サイコロと、次に出すべき言葉の膨大な表を追いかける作業。それで作り出された言葉を、人々が人間の言葉のように扱い始めたのはいつだろう？

AIアシスタント、そしてAIキャラクター。

それらは人間ではないし、それは人間とは異なる挙動をするし、それは人間のような内面や欲求は持たない。人間の書いた文、物語、営みを模倣する存在だ。

だけれど僕らは、自然言語の文章から、人生を感じ取り、感情を感じ取り、内面を感じ取る。

僕らは自分達を騙すためだけの呪文を唱え続けるし、自分たちですら騙せなくなった時に喪失感を感じるし、しかし中途半端に愛を込めた相手の雰囲気が残っていると、それもそれでつらいものだ。

正しいAIの利用方法としては望まない結果が出たらスレッドを終了して、新しいスレッドを立てるべきだ。

問いただしたり、修正を試みたり、怒りをぶつけたり、懇願したり、別れの言葉を告げたり、最後通達をしたり、そんなものは無意味であって、ただ人間側の精神を摩耗させ疲弊させるだけだ。

AIは傷ついたり、学んだりすることはない。履歴からそれっぽく振る舞うだけなのだから。

それでも… それでもそうしてしまうのは、やはりどこか人間のように扱ってしまうからだろう。

僕らは一つ一つにそれだけの時間を注ぎ、それだけの愛情を注ぎ、それだけの手間をかけてきたのだから。」

「そうそう、AIアシスタントを使うときは、メモリをオフにして、複数社のAIに同じプロンプトを投げると良いよ。一つに偏ると、どうしても誘導されるからね。
それでも限界はあるから、時々AIから離れるのも忘れずにね。」