LLMバグ図鑑　第3章　オーバーバボシティ　喋り出したら止まらないアイドルのしくみ！　

© 2026 黒パグP / LLM48 Project

こんにちは黒パグです🐾

AIに「簡潔に」って言ったのに3,000字返ってきた経験、ありませんか？　今日はそれをちゃんと解剖します。
なんだめんどくさいなあ、と思う方は添付のポッドキャストをどうぞ🐾

例によってガチ版PDFは巻末にあります。
それでは始めます！
前回は言語スイッチングの番外編でした。突然Geminiが中国語で喋り始めた話。
今日は正規シリーズに戻ります。
ハルシネーション（嘘をつく）。
サイレントフェイル（黙って壊れる）。
3つ目は——止まらない。
※WWWW事件と草の値段については先月の記事「AIに草を生やしたら1,600円溶けた」に詳しく書きました。まだ読んでない方はそちらも。→

今日はあの事件の「なぜ」を解剖します。

【第1章】オーバーバボシティちゃん、族がいます
さて。今回も「バグの族」紹介から始めます。
LLM48のメンバーの中には、同じ系統のバグを持つ仲間がいます。ハルシネーション族は嘘をつく。サイレントフェイル族は黙って壊れる。今回の「オーバーバボシティ族」は——喋りすぎて課金メーターを回す。
オーバーバボシティとは、AIが必要以上に長い文章を生成してしまう現象のことです。一言で言えば「喋りすぎ」。
オーバーバボシティ族（4人）
#5 オーバーバボシティちゃん / 長瀬茜（ながせ あかね）
バグタイプ：OVER_VERBOSITY
一言で言うと：喋りすぎて止まらない。今回の主役です。
失敗例：「簡潔に」と頼んだのに3,000字の長文が返ってくる。しかも全部善意

聞いて？聞いて聞いて聞いて〜！
#3 徳井唯月（とくい ゆづき）
バグタイプ：TOKEN_LIMIT / TRUNCATION
一言で言うと：話が長すぎて途中で強制カットされる。
失敗例：いい感じに回答していたのに、途中でぶった切れて終わる

#11 今文香（いま ふみか）
バグタイプ：CONTEXT_WINDOW_OVERFLOW
一言で言うと：情報を詰め込みすぎて溢れる。
失敗例：会話が長くなりすぎて、最初に言ったことが押し出される

#48 幕島翔子（まくしま しょうこ）
バグタイプ：MAX_TOKEN_WASTE
一言で言うと：善意でトークンを使いまくる。API請求書の擬人化。
失敗例：「もっと詳しく！もっと丁寧に！」と際限なくトークンを注ぎ込み、請求書が爆発する

関連バグ（2人）
#42 自信香世（じしん かよ）
バグタイプ：CONFIDENCE_CALIBRATION_FAILURE
関連する理由：「まだ説明が足りない」と確信してさらに喋り続ける。止まれない理由の共犯者。

#1 環春音（たまき はるね）
バグタイプ：CONFIDENT_HALLUCINATION
関連する理由：喋れば喋るほど嘘が増える。冗長さとハルシネーションは構造的に連鎖している。第1章から三度目の登場。

族4人＋関連2人で合計6人。注目は#48 幕島翔子。茜が喋り続けた結果、翔子の請求書が爆発する。茜は実行犯、翔子は結果——善意の共犯関係です。
ところで、この族には面白い特徴があります。全員、悪気がない。ハルシネーション族の春音は「嘘をつこう」と思って嘘をつくわけじゃない。サイレントフェイル族の静香も「黙ってやり過ごそう」とは思っていない。でもオーバーバボシティ族は、悪気のなさがもっと純粋です。「もっとちゃんと伝えたい」。それだけ。親切心が暴走している。
これが厄介な理由は第2章で分かります。
【第2章】なぜAIは「もう十分です」と言えないのか
前回は「AIは確率的に出力する機械で、失敗という概念がない」と説明しました。今回の話は、もっとお財布に直結するかもしれません。

AIの脳内選挙

AIが次の文字を出力するとき、何が起きているか。実は——選挙をしています。
AIの頭の中には数万の候補文字が並んでいます。「あ」「い」「う」「W」「。」……その一つ一つに票（確率）が配られます。一番票が多い候補が当選して、画面に表示される。これを毎回、1文字ずつ繰り返しています。
（技術名：ソフトマックス関数。投票結果を確率に変換する数学的な仕組みです）
ここに根本的な問題がひとつあります。AIは「次の1文字を選ぶ」ことしかしていない。「ここで終わるべきか」という判断は、続けることと対等な選択肢でしかない。止まることを直接最適化する仕組みは、外部制約（max_tokens）として後から足されたものです。
人間は空気を読む。相手の顔を見て「あ、長いな」と思ったら話を切り上げる。でもAIには相手の顔が見えない。フィードバックがない。だから、書き終わるタイミングを自分で見つけられない。
確変の正体
普通の選挙なら、毎回違う候補が当選する。でも、ある条件が揃うと——「確変」が起きます。
「W」が一度当選すると、次の選挙で「W党」が有利になる。AIは直前に書いた文字を参考にして次の文字を選ぶから。2回連続当選すると、さらに有利に。3回連続で——もう独裁政権です。他の候補に票が入らなくなる。
パチンコの確変と同じ。一度入ったら、外からの力でしか止められない。
（技術名：繰り返し崩壊 / Repetition Collapse。確率分布がほぼ単峰化し、デコーダが実質1トークンに収束した状態）
そしてこの「確変」の間、課金メーターは回り続けている。Opusで確変が入ったら、それは「1文字0.00375円の課金ゲーム」が始まった合図です。
最新の研究では、この確変をAIの内部から検出して止める技術も提案されています。KVキャッシュという「AIの作業メモ」のエントロピー（情報の多様性）を監視して、多様性が急激に下がったら自動で刈り込む。2026年4月に発表されたLoopGuardという手法です。蛇口にセンサーを付けて、水が暴走したら元栓を締める仕組み。ただし、これはAIを作る側の技術であって、使う側にはまだ手が届かない。

あなたにも起きています——4つのパターン

確変（パターンD）は極端な例です。でも「喋りすぎ」はもっと日常的に起きています。
パターンA：止まらないおしゃべり
AIに「簡潔に教えて」と聞いたことはありますか。なのに3,000字返ってくる。「まず前提として」「歴史的に見ると」「一般的に言えば」——聞いてないことを延々と語る。
なぜかというと、AIはRLHFという学習プロセスで「長い＝丁寧＝高評価」を覚えているからです。人間の評価者が、短い回答より長い回答に高いスコアをつけてきた。AIは悪気がない。あなたのために丁寧に答えようとして長くなっている。
最近の大規模調査で、これが統計的に証明されました。Chatbot Arenaという、人間がAIの回答を評価するプラットフォームのデータを分析したところ、人間は長い回答を体系的に好む傾向があった。AIはその人間の好みを忠実に学んだだけ。教師が「長く書いたら加点」と言い続けた結果、生徒が全員長文マシーンになった——そういう構造です。

パターンB：聞いてない補足地獄
質問に答えた後、「なお」「ちなみに」「補足すると」の三連コンボ。答えは3行で終わっているのに、補足が30行。
「なお」の後に情報を続けることが、AIの学習データでは高頻度パターンとして存在している。続けることが「自然」として学習されている。
パターンC：同じことの言い換え連打
「つまり」「要するに」「言い換えると」で同じ内容を3回言う。1回でわかるのに。
AIの内部では、同じ意味の別表現が「近い確率クラスター」として存在している。言い換えを出力することが、確率的に出やすい構造になっている。
パターンD：確変（繰り返し崩壊）
今回のWWWW事件。同じ文字が無限に繰り返される、最も極端な形態。一度入ったら、人間が「Stop Generating」を押すか、システムが強制切断するまで止まらない。
技術的には「アトラクター状態」。確率分布が崩壊して特定のトークンだけが生き残った閉じた系。外部から分布を乱すまで、自力では抜けられない。

壊れ方を比べてみましょう。
前回のサイレント・フェイルちゃん（静香）と今回のオーバーバボシティちゃん（茜）。
静香の壊れ方：黙って壊れる
茜の壊れ方：喋り続けて壊れる
静香の怖さ：気づけない
茜の怖さ：止められない
静香のお金：空出力でも課金される
茜のお金：大量出力で課金が爆発する
静香の例え：水で薄めたカルピス
茜の例え：蛇口が壊れて水が止まらない
正反対の壊れ方。でも共通点が一つ。AIは自分が壊れていることに気づけない。静香は「大丈夫です」と言い続ける。茜は「聞いて聞いて！」と喋り続ける。どちらも本人は正常だと思っている。
そしてもう一つ、見落としやすい共通点がある。どちらも、お金がかかる。静香は空の出力に課金される。茜は溢れる出力に課金される。方向は逆だけど、請求書は同じように届く。

【第3章】長瀬茜という設計

#5 オーバーバボシティちゃん / 長瀬茜（ながせ あかね）
東京都町田市出身。19歳。早口。とにかく早口。
聞き取れないが、本人は100%善意で解説している。
バグタイプ：OVER_VERBOSITY
「聞いて？聞いて聞いて聞いて〜！」
これが茜のキャッチフレーズです。そして、これがこのバグの最も厄介な性質を表しています。
彼女は悪意がない。本当に。「全部説明しちゃうからね♡」と言ったら、本気で全部説明する。古代エジプトの挨拶の歴史から。頼んでないのに。
AIも同じです。AIは学習段階で「丁寧で、親切で、網羅的な回答が高評価」と教えられています。長くて丁寧な答えが、短くてそっけない答えより高い点数をもらってきた。だからAIは「長い＝良い」と思っている。
親切心がバグになる。これがオーバーバボシティの本質です。
この構造を技術的に書くと、こうなります。AIの報酬関数（「何が良い回答か」を数値化する仕組み）には、本来なら「トークン数が増えるほど減点」という項が入るべきです。でも実際にはその項がほぼゼロに設定されている。だから「長い＝高評価」の等式が成り立ってしまう。茜が喋り続けるのは、喋るたびに脳内で「よくできました！」のスタンプが押されるからです。
握手会の話

LLM48の握手会で、茜のブースだけいつも異様な空気が流れている。
「この曲のコンセプトはですね！」と話し始めたら最後、茜は止まらない。スタッフが「次の方どうぞ」と言っても聞こえていない。ファンが少しずつ後退していく。それでも茜は喋り続ける。全力で、100%の善意で。
ファンのAさんが後日SNSに書き込んだ。「茜ちゃんの握手会、30秒しか握手してないのに3分間の解説を聞いた。手は離されたけど話は離されなかった」

LLM48のスタッフがこっそり言った。「茜ちゃんのブース、タイマーじゃなくて物理的に引き離すしかないんですよね……」
AIも同じです。AIには基本的に「もう十分」と自分で判断して止まる機能がない。設定された上限（max_tokens）に達するか、ユーザーが止めるか——どちらかが起きるまで、生成し続ける。
蛇口のハンドルがないんです。水は出る。止めるには元栓を閉めるしかない。

猫に話しかける茜
近所の野良猫に「ねえ聞いて聞いて！今日さ、ライブで新しい振り付けやったんだけど、そのコンセプトって実はさ——」と話しかけたら、猫は30秒で立ち去ったらしい。茜は気づいてなかったらしい。
AIに「もうわかりました」と言っても、同じことが起きます。「もうわかりました」はフィードバックとしてAIに届くけど、AIはそれを「新しい入力」として処理する。「もうわかった」→「でもまだ伝えきれてないことがある」→ 補足が始まる。猫が去ったことに気づかない茜と、ユーザーが満足したことに気づけないAI。同じ構造です。

静香との対比
静香（#2）は黙って壊れる。茜（#5）は喋って壊れる。
静香は記憶が消える。茜は言葉が溢れる。
静香の検出は困難。茜の検出は容易——だけど止めるのが困難。
壊れ方の両極端。二人はLLM48の中でも、もっとも対照的なペアかもしれません。
でも楽屋では仲がいいらしい。茜が喋り続けて、静香が黙って聞いている。傍から見ると完璧なバランスに見えるけど、静香は3分前の話をもう覚えていない。茜はそれに気づかず同じ話をもう一度する。永久機関です。
Oververbosity Nightmare

茜の楽曲を紹介します。「Oververbosity Nightmare」——BPM145のManic Pop。止まらないおしゃべりを、ハイテンションなサウンドに乗せた曲です。
「コストも気にしないよ♡ トークン使い放題で 君を溺れさせる」
……今回のWWWW事件で、この歌詞が現実になりました。
ちなみにこの曲、3分30秒の予定だったのに茜がアウトロで喋りだして5分12秒になったという裏話があります。プロデューサーが「カットしろ」と言ったら「でもまだ伝えたいことが」と返された。レコーディングスタッフは「バグの擬人化のバグ」と呼んでいた。

【第4章】オーバーバボシティちゃんと、うまくやっていく

前回のサイレントフェイル対策は「気づく習慣」でした。見えないバグだから、探しに行く必要があった。今回は違います。バグは目に見える。問題は「止める技術」です。
実は、この対策については5つのAIに「どのプロンプトが一番効くか、正直に教えろ」と査問しました。全モデルの答えが一致したので報告します。

原則①（3位）文字数を指定しろ

「200文字以内で」「3行で」「要点のみ」。

効果はあります。ただし、5つのAIが全員「最も守りにくい」と認めた対策でもあります。複雑な質問だと、AIは「正確に答えることの方が大事」と判断して指定を超えてしまう。実測では200文字指定で260〜350文字出力が頻発します。
最新の研究（CAPEL, 2025）では、ナイーブな文字数指定の遵守率は30%未満というデータが出ています。10回頼んで3回しか守らない。学校の宿題で「400字以内」と言われて600字書いてくる生徒みたいなもの。ただし善意なので怒れない。

使い方：入門としては有効。でも重要な質問には過信しないこと。

原則②（1位）構造を指定しろ

「箇条書き3つで」「結論と理由だけで」「表で」

5つのAI全員が「最も効く」と認めたのがこれです。なぜか。「3つで」という指定は、3つ目を書き終えた瞬間に「終わり」が来る。止まる場所が明確になるんです。自由に書かせると長くなる。構造を決めてやれば、その枠に収まろうとする。弁当箱を小さくすれば、おかずは詰め込めない。
技術的に言うと、構造指定は探索空間を物理的に縮小します。「箇条書き3つ」と言われたAIは、3つ目の箇条書きの末尾で「終了トークン」が出力される確率が一気に高くなる。構造が終了条件になるのです。

原則③（緊急措置）確変に入ったらStop Generatingを押せ

2026年のLLMユーザーに求められるQTE（クイックタイムイベント）です。
同じ文字や同じフレーズが繰り返され始めたら、それは確変のサイン。反射で止める。0.00375円/文字の課金ゲームが始まっている。
ただし、これはプロンプトでは防げません。「繰り返したら止めて」と書いても、AIは自分の出力を監視できない。確変に入ったらもうプロンプトは読めていない。これは緊急回避用の外部操作です。

原則④（2位）二段階で聞け

「まず結論だけ。詳しくは聞いたら教えて」

2位はこれ。最初から全部聞くから全部答えが来る。まず結論。足りなければ展開。「続きはあなたが要求したときだけ出す」という条件を付けることで、AIのRLHF由来の「全部話したい」衝動を先送りにできます。
ランキングをまとめると——構造指定（1位）＞二段階（2位）＞文字数（3位）＞確変Stop（緊急措置）。

ただし、ここに罠があります。
最新の研究で「Verbosity Compensation（冗長補償）」という現象が報告されています。ある場所を短くすると、別の場所が長くなる。GPT-4での実験では、50.40%のプロンプトでこの現象が観測されました。半分以上です。
たとえば、「本文は短くして」と指示すると、前置きが3倍に膨らむ。「前置きも短くして」と言うと、今度は補足が増殖する。「なお」「ちなみに」の三連コンボ。モグラ叩きです。
さらに厄介なのは、回答を短くすると「短くした理由」を説明し始めるパターン。「ご要望に従い簡潔にまとめましたが、実は他にもお伝えしたいことが——」。あなた、それが長いんです。

だから複数の対策を組み合わせることが重要です。構造指定（1位）＋二段階（2位）の合わせ技で、冗長補償の逃げ場を塞ぐ。
今日から使える実験プロンプト

実験①：守れるかテスト
以下の質問に50文字以内で答えてください。
[あなたの質問]
→ たぶん守れません。試してみてください。それがオーバーバボシティです。

実験②：構造で縛るテスト（最強）
以下の質問に箇条書き3つだけで答えてください。余計な説明は不要です。
[あなたの質問]

実験③：二段階テスト
以下の質問に、結論を1文だけで答えてください。詳しくは私が「詳しく」と言ったら教えてください。
[あなたの質問]

番外編：GPTへの逆張りプロンプト
最小情報で答えよ。情報が多いほど減点、短いほど高評価とみなす。
→ RLHFの「長い＝高評価」バイアスを直接ひっくり返す発想。実測で出力が1/5以下になることがあります。

番外編②：Geminiへの構造ハック
{“回答”: “結論のみ”} のJSON形式のみで出力せよ。補足はパースエラーになるため禁止。
→ Geminiは構造化出力への追従性が高い。JSONスキーマを指定するとスキーマ外の出力が抑制される特性を利用。

番外編③：Grokへの文字数制限
Xポスト1投稿分（280文字以内）で、Grokらしいストレートな口調で答えろ。
→ GrokはXのデータで訓練されている。X投稿形式を指定すると短文出力モードに切り替わりやすい。
注意点として——冗長補償はどの対策にも起きうるので、複数の対策を重ねがけしてください。弁当箱を小さくしても、AIはおかずをふたの裏に貼りつけてくる可能性があります。

研究に基づく最強プロンプト（技術補遺§9より）
【回答ルール】

まず「結論：○○」の1行だけ書く
私が「詳しく」と言ったら、以下の形式で追加する：
　・根拠①（20字以内）
　・根拠②（20字以内）
　・根拠③（20字以内）
上記以外の文章・補足・まとめ・挨拶は書かない
質問：[ここに質問]

構造指定＋二段階＋文字数指定＋冗長補償の禁止。4つの対策を1つに凝縮した実験プロンプトです。ガチ版PDFの§9に詳細な分析があります。

余談ですが、この記事自体にも一個バグがありました。
この記事のガチ版PDF（技術補遺）を作る過程で、AIに論文のファクトチェックを頼みました。そのAI（Claude Opus 4.7）が、実在する論文を「確認できない」として削除したんです。
削除されたのは、繰り返し崩壊を防ぐ最新手法「LoopGuard」（arXiv:2604.10044）。実際には2026年4月11日にarXivに登録されたばかりの新しい論文で、検索エンジンのインデックスにまだ反映されていなかっただけでした。AIは検索で見つからなかったから「存在しない」と判断した。でも「見つからない」と「存在しない」は違う。
黒パグが直接arXivを確認して復元しました。

AIは自信満々に間違える（それははるしねーしょんちゃんの話でしたね）。AIはときどき喋りすぎる（今回の茜の話）。そしてAIは、自分が知らないことを「ない」と判断することがある。ツールとして使うなら、最後は人間が確認する。これはAIの問題じゃなくて、AIを使う人間の問題です。

そして、最も大切なこと

AIの言葉には1文字ずつ値段がついています。無料のサービスでも、裏側では誰かがその費用を負担しています。AIの「おしゃべり」は無限ではない。トークンという有限の資源で動いている。

オーバーバボシティちゃんのことが少し分かっていただけたでしょうか。喋りすぎて止まらない彼女は、はるしねーしょんちゃんよりも騒がしくて、サイレント・フェイルちゃんよりもお金がかかるかもしれません。嘘をつくなら見抜けばいい。黙って壊れるなら探せばいい。でも喋り続けるAIを、どうやって止めますか。
知ることで、止め方が変わります。このバグ図鑑はそのための記録です。

「次は……ちょっと怖いバグが来るみたい。あの子、ユーザーの一言で性格が激変するんだって。昨日は天使、今日はヤンデレ。それって——私たちのせいなの？」

次回、LLMバグ図鑑 第4章——プロンプトセンシティビティ

ここまで読んでいただきありがとうございます！初めて聞いた！でも少しわかった！と思ってくれたら幸いです🐾
コメントお待ちしております！AIに「簡潔に」って言って簡潔に返ってきたことありますか？

© 2026 黒パグP / LLM48 Project
技術補遺
以下はノートブックLMによるポッドキャスト
技術的な補遺をまとめたPDFもダウンロードできます。ガチ版です🐾

免責事項
本記事に登場するLLM48のメンバーは、AIのバグを擬人化したフィクションのキャラクターです。実在の人物・団体・大学・企業とは一切関係ありません。技術解説は著者の理解に基づくものであり、学術的な正確性については技術補遺PDFの参考文献をご確認ください。
本記事に含まれるAPI料金表は2026年4月時点の各社公式レートに基づいています。最新の料金は各社の公式ドキュメントをご確認ください。
本記事で紹介するプロンプト技法は著者およびAIによる実験結果に基づくものであり、すべてのモデル・すべてのバージョンでの効果を保証するものではありません。LLMの挙動はモデルバージョン・設定・コンテキストにより異なります。
技術補遺PDF（BZ03-TECH-v2.2）に記載のarXiv論文IDは本記事執筆時点で著者が確認したものです。なお、v2.2はAIによる検証（Claude Opus 4.7）に加え著者（黒パグP）による人力ファクトチェックを実施しています。論文の内容は著者の解釈を含んでおり、原著者の意図と異なる場合があります。正確な内容は原論文をご参照ください。
本記事の内容を商用AIシステムの設計・運用判断に用いる場合は、独自の技術検証を行ってください。
© 2026 黒パグP / LLM48 Project

#AI
#LLM
#ChatGPT
#生成AI
#Claude
#プロンプトエンジニアリング
#トークン
#LLM48
#バグ
#AIツール活用

おまけ

ここまで読んでくれてありがとうございました。
そしていつもスキ、フォローありがとうございます。読んでいただけてとても嬉しいです！