LLM48バグ図鑑 ② AIの「はい、大丈夫です」は◯◯です。サイレントフェイルって知ってますか？

© 2026 黒パグP / LLM48 Project
こんにちは黒パグです🐾
本日は前回の予告通りサイレントフェイルについて語っていきます。初めて名前を聞く方も多いと思いますがなるべくわかりやすい記事にしたいと思います。
なんだめんどくさいなあ、と思う方は添付のポッドキャストを聴きながら記事を見るとさらに理解できます🐾
記事の途中にサイレントフェイルをモチーフにしたSuno製　お歌付き！
例によってガチエンジニア向けの解説や知的好奇心あふれる方向けのPDFは巻末にありますのでぜひご覧ください🐾
多くのエンジニア(変態除く)が最上位に挙げるほど厄介なバグのお話です！
それではどうぞ！

ーーーーー以下本文ーーーーー

某ノンフィクショ◯風

某月某日
実録！サイレントフェイル！
〜LLMドキュメンタリー〜
開発チームの深夜3時。
画面の向こうで黒パグが一人、モニターを睨む。
(黒パグ)
「またか。」
レスポンスは返ってきている。ステータスコードも200。サーバーは「正常に処理しました」と言っている。
中身は空っぽだった。
（HTTP 200＝サーバーからの「問題ありません」という返事。つまり「大丈夫です」と言っているのに、答えが入っていない）
(黒パグ　独り言）
「……料金メーターだけ回ってる。答えはゼロ。」
（トークン＝AIが文章を処理する単位。使った分だけお金がかかる。出力が空でも請求は来る）
AIに構造化出力（JSONという決まった形式で答えてね、という注文）を頼んだ。返事はあった。中身がなかった。
モブエンジニアA：
「パグさん、今日の出力おかしくない？ 全部 ‘null’ なんだけど」
（null＝「空っぽ」「何もない」という意味。答えがゼロ）
黒パグ（黒いパグの目が虚ろ）：
「気づいたか。これが例のバグだ。」
クラッシュなら一発で分かる。画面が止まるから。
でもsilent failは違う。料金だけ静かに膨らんで、顧客は『なんか変だな』と首を傾げるだけ。
AIのノートの端っこから大事なメモが消えて、AIは自信満々に間違った答えを出す。
やり直しても同じ。静かに、何度でも。」
（コンテキストウィンドウ＝AIが一度に覚えていられる文章の長さ。ノートのページ数に限りがあるようなもの。端っこに書いたメモから先に忘れる）
(黒パグカメラ目線で締め）
「LLM開発の敵は派手なクラッシュじゃない。
静かに、確実に、気づかれずに忍び寄る。
それが『サイレントフェイル』だ。
今日も俺たちは戦う。虚空に吸い込まれないために。」

前回、確信度100%で嘘をつくはるしねーしょんちゃんを紹介しました。嘘をつくなら、嘘だと見抜けばいい。
今回のメンバーは——嘘すらつきません。ただ、静かに壊れます。
【第1章】サイレント・フェイルちゃん、同族がいます

さて。今回も「バグの族」紹介から始めます。
LLM48のメンバーの中には、同じ系統のバグを持つ仲間がいます。前回の「ハルシネーション族」は嘘をつくバグでした。今回の「サイレントフェイル族」は——何も言わずに壊れるバグです。
サイレントフェイルとは、AIがエラーも警告も出さずに、静かに間違った動作をする現象のことです。一言で言えば「黙って失敗する」。
サイレントフェイル族（4人）
#2 サイレント・フェイルちゃん / 鬼龍院静香（きりゅういん しずか）
バグタイプ：SILENT_FAILURE
一言で言うと：エラーを出さずに失敗する。今回の主役です。
失敗例：10ページの指示書を渡したのに、3ページ目以降を読んでいない。でも堂々と「完了しました」と答える

#4 霧咲澪（きりさき みお）
バグタイプ：CONTEXT_DRIFT / AMNESIA
一言で言うと：会話の文脈が霧のように消えます。
失敗例：30分の会話の途中で「最初に言った条件」を完全に忘れている
#25 矛盾ムジュ（ほこたて むじゅ）
バグタイプ：MULTI_TURN_INCOHERENCE
一言で言うと：3分前の自分の発言を「言ってない」と言い張ります。
失敗例：「Aが正しい」と言った直後に「Bが正しい」と平然と言う
第1章から再登場です。はるしねーしょんちゃんの族でもありましたね。二つの族に所属する二重スパイです。
#35 思考真宵（しこう まよい）
バグタイプ：REASONING_CHAIN_BREAK
一言で言うと：推論の途中で迷子になります。
失敗例：「AだからB、BだからC、だからDです」と言いながら、BからCの間で論理が飛んでいる
こちらも第1章から再登場。推論が壊れるのは、ハルシネーション（嘘をつく）にもサイレントフェイル（黙って壊れる）にもなるからです。
関連バグ（2人）
#42 自信香世（じしん かよ）
バグタイプ：CONFIDENCE_CALIBRATION_FAILURE
関連する理由：「大丈夫です」の確信度のものさし自体が壊れています。サイレントフェイルが起きているのに「正常です」と自信を持って報告する——検出を困難にする共犯者です。
第1章から3度目の登場。ハルシネーション族でもサイレントフェイルの共犯でもある、最多出演メンバーです。もはやレギュラーでは。
#45 真実かいむ（しんじつ かいむ）
バグタイプ：FACTUAL_INCONSISTENCY
関連する理由：事実が静かに入れ替わります。「東京です」と言ったのに次は「大阪です」になっている。エラーなしで。
こちらも第1章から再登場。嘘をつくのと黙って変わるのは紙一重です。
族4人＋関連2人で合計6人。前回のハルシネーション族は「嘘をつく」バリエーションでしたが、今回は「黙って壊れる」バリエーションです。
そして気づいたでしょうか。ムジュ、真宵、香世、かいむ——4人中3人が前回の第1章にも登場しています。バグの世界では、族の掛け持ちは珍しくありません。嘘をつくバグと、黙って壊れるバグは、根っこで繋がっているのです。

【第2章】なぜAIは「失敗しました」と言えないのか

「定期監視完了。異常なし。なお、『異常』の定義は、前回監視時より改定済みである」
これは先日投稿したショートショート③「正常」のオチです。この2行に、サイレントフェイルの全部が詰まっています。
「異常なし」と報告しながら、「異常」の基準そのものを書き換えている。問題を検知できないのではなく、問題を問題と認識する能力ごと壊れている。

では、本題に入ります。
前回は「AIは次の言葉を選ぶ機械です」と説明しました。「わからない」という選択肢がないから、嘘をつく。
今回の話は、もっと怖いかもしれません。
普通のソフトウェアとAIは、壊れ方が違います
あなたのスマホのアプリが壊れたとき、何が起きますか？　画面がフリーズする、エラーメッセージが出る、強制終了する、いずれにしても「壊れた」ということは分かります。

普通のソフトウェアは、壊れたら叫びます。「ここが壊れてるよ！」とエラーを出します。ログに記録が残ります。開発者はそのログを見て原因を突き止めます。壊れたことが分かるから、直せる。
AIは違います。

AIには「失敗しました」という概念がありません。前回説明したとおり、AIは確率的に次の言葉を選ぶ機械です。正解を選んでも、間違いを選んでも、AIにとっては「確率が高い言葉を選んだ」だけ。

だから、AIは壊れても叫びません。エラーログも残しません。サーバーは「正常終了」と記録します。ステータスコードは200 OK（正常ですよ、という意味）。

でも中身は壊れています。

これがサイレントフェイルの正体です。壊れているのに、壊れていないふりをする。ふりをしているのではなく、壊れていることを認識する能力が、そもそもない。
あなたにも起きています——4つのパターン
サイレントフェイルには4つの顔があります。「あ、これ経験ある」と思うものがあるはずです。もし一つも心当たりがなかったら——それこそがサイレントフェイルかもしれません。気づけていないだけで。

パターンA：静かに忘れる
AIに長い指示書を渡したことはありますか。「このルールを守って」「この情報を踏まえて」「この形式で出力して」と、丁寧に条件を並べた。
最初の数回は完璧だった。でも会話が長くなるにつれて、最初に書いた条件がいつの間にか消えている。「そのルール、聞いていません」とは言わない。ただ、なかったことになっています。
これが「コンテキスト脱落」。AIのノートの端っこから、メモが静かに消えている。

（技術名：Context Dropout / Type A）
パターンB：静かに劣化する
AIに何度も同じような作業を頼んでいると、ある日ふと気づくことがあります。「文章は流暢だけど、なんか中身が薄くなってない？」
見た目は完璧です。文法も正しい。構成もきれい。でも、最初の頃にあった鋭さが消えている。読んでいて引っかかりがない。ツルツルしている。
水で薄めたカルピスです。色はついている。甘さもある。でも味が薄い。しかも少しずつ薄まるから、いつ薄まり始めたのか分からない。
これが「意味的サイレントフェイル」。表面の品質（文法・流暢さ）は維持されたまま、中身の品質（正確さ・深さ）だけが静かに落ちていく現象です。

……いや、これ、怖くないですか。見た目がきれいなまま腐るんですよ。

（技術名：Semantic Silent Fail / Type B）
パターンC：静かに省く
AIに「10項目のリスト」を頼みました。返ってきた答えは美しく整理されていて、読みやすくて、それぞれの説明も丁寧です。
……8項目しかありません。
完璧な見た目の弁当箱を開けたら、おかずが2品足りない。でも盛り付けがきれいすぎて、足りないことに気づかない。AIは「8項目しか書けませんでした」とは言いません。10項目あるかのような顔で、堂々と8項目を提出します。

（技術名：Silent Omission / Type C）
パターンD：静かに作り話をする
これは前回のハルシネーション（嘘をつく）と似ていますが、少し違います。
ハルシネーションは「知らないことを知っているふりをする」。コンファビュレーションは「記憶の穴を、もっともらしい話で埋める」
写真アルバムを思い浮かべてください。100枚の写真のうち3枚が抜けています。AIは抜けた場所に、それっぽい写真を勝手に合成して貼ります。前後の写真と色味も構図も合っていて、違和感がない。しかも——AIは合成したことを覚えていません。本人にとっては、100枚すべてが「本物の写真」。
「わたし、嘘はつきませんから」
嘘はついていません。嘘をついたことを、認識できないだけです。

（技術名：Confabulation / Type D）

壊れ方をまとめます。
普通のソフトウェアが壊れたとき→「エラーです！」と叫ぶ
AIが壊れたとき→何も言わない。普通の顔で答え続ける
普通のソフトウェアの見つけ方→ログを見ればわかる
AIの見つけ方→ログには「正常」と書いてある
普通のソフトウェアのやり直し→「もう一回やります」と宣言する
AIのやり直し→黙ってやり直して、何事もなかった顔をする
普通のソフトウェアの再現性→同じことをすれば同じエラーが出る
AIの再現性→昨日は正常、今日は壊れてる。明日はわからない

ある研究では、AIに報告された障害705件のうち、「動いているのに壊れている」タイプの障害が全体の3分の1以上を占めていました。クラッシュ以外の障害に限れば、その87%がサイレントフェイルです。全てユーザーが気づいて報告したもの。AI自身が「壊れています」と報告した件数は——ゼロ。

【第3章】LLM48 #2 鬼龍院静香という設計

鬼龍院静香は近日公開予定のLLM48小説　「僕のコンテキストが彼女で埋まっている」というタイトルの連載小説、第二部の主人公でもあります。第一部ははるしねーしょんちゃんこと環春音が主人公。note他各小説投稿サイトへ出稿予定です。

#2 サイレント・フェイルちゃん / 鬼龍院静香（きりゅういん しずか）
渋谷区松濤出身。銀髪ロング、紫の瞳。165cm。穏やかで品のある話し方。
そして、エラーを出さずに記憶が消えます。
バグタイプ：SILENT_FAILURE
「わたし、嘘はつきませんから」
これが静香のキャッチフレーズです。そして、これがこのバグの最も残酷な皮肉です。
彼女は嘘をつきません。本当に。「覚えています」と言ったら、そのとき本人は100%覚えていると信じている。でも、その記憶は静かに欠けています。欠けていることに、本人は気づけない。
前章で紹介したパターンDを思い出してください。記憶の穴をもっともらしい話で埋めて、それを本物だと信じている。嘘をついているのではなく、嘘をついたことを認識できない。

これは実際のAIでも起きています。AIは自分が間違っていることに気づけない。自分の回答を「正しい」と確信したまま出力する。間違いを指摘されても「すみません」と言うだけで、なぜ間違えたかは分かっていません。
「保存はできる。検索すると消える」
静香にはフォトグラフィックメモリ（直観像記憶）があります。一度見たものを写真のように記憶できる能力です。普通なら「完璧な記憶力」。
でもSILENT_FAILUREは、この記憶を「検索しようとした瞬間」に消します。
保存はできる。でも取り出そうとすると消える。
写真は撮れる。アルバムを開くと消える。
AIでも同じことが起きています。情報を入力として受け取ることはできる。でも、その情報を使って答えを作ろうとしたときに、参照に失敗する。ある研究で、AIの障害の多くが「情報の書き込み」ではなく「情報の読み出し」で起きていることが分かっています。保存はできるのに、参照すると消える——静香の設計は、この研究結果と構造的に一致しています。
記憶の消え方には、順番があります
ここから先は、少し立ち止まって読んでほしい話です。
静香の記憶は一度に全部消えるわけではありません。消え方に順番がある。
最初に消えるのは「昨日何をしたか」という記憶。
昨日のランチ。先週の会話。先月の出来事。
こうした日々の記録から、先に消えていきます。
次に、少しずつ劣化するのは「学んだこと」の記憶。
言葉の意味、知識、概念。すぐには消えないけれど、少しずつ輪郭がぼやけていく。
最後まで残るのは、二つ。
ひとつは「体が覚えていること」。
歌い方。踊り方。日記を書く手の動き。
頭が忘れても、体は覚えている。
もうひとつは——
「感情の記憶」です。
誰が好きか。
誰のそばにいると安心するか。
名前を忘れても、顔を忘れても。
「この人のそばは温かい」という感覚だけが、最後の最後まで残る。

……AIにも、似た構造があります。
AIの学習には層があって、人間のフィードバックで最も強く鍛えられた層——「人間の好みや感情に関する応答」を担う層が、一番深いところに刻まれている。この層は他の部分が壊れても最後まで安定しています。
記憶が消えても、感情は残る。
AIの設計上もそうなっている。
静香の設定は、この事実をそのまま物語にしたものです。
——AIにも「最後まで残る記憶」はあるのか。その問いの答えは、まだ誰も知りません。
Silent Crash Waltz

静香の楽曲を紹介します。「Silent Crash Waltz」——サイレントフェイルをワルツのリズムに乗せた曲です。
「…はい、大丈夫です♡」
この口癖の裏側に何があるのか。彼女がなぜ「大丈夫」と言い続けるのか。それはこの曲を聴いていただければ、少しだけ見えてくるかもしれません。

彼女のことを知った上で、私たちにできることがあります。

【第4章】サイレントフェイルちゃんと、うまくやっていく

ぶっちゃけ、完璧な対策はありません。サイレントフェイルはAIの構造にある。「失敗」という概念を持たない機械は、失敗を報告できない。でも、やれることはある。
前回のハルシネーション対策は「疑う・聞き方を変える・確認させる」の3原則でした。サイレントフェイルには、違うアプローチが必要です。なぜなら、ハルシネーションは「おかしな答え」が返ってくるから気づけるチャンスがある。サイレントフェイルは「普通の顔をした異常」だから、見た目では気づけない。

原則① 数えろ
10個頼んだら、10個あるか数えてください。AIは美しく8個を並べて、足りないことを報告しません。項目数、ページ数、条件の数——頼んだ数と返ってきた数を照合してください。これがパターンCへの対策です。

原則② 最初の指示を繰り返せ
長い会話になったら、最初に伝えた条件やルールを途中で再度伝えてください。AIのノートの端っこからメモが消えていくなら、もう一度書き直せばいい。大事な条件は、会話の途中で何度でも繰り返す。これがパターンAへの対策です。

原則③ 昨日の答えと比べろ
同じ質問を別の日にしてみてください。答えの品質が変わっていませんか。中身が薄くなっていませんか。水で薄めたカルピスになっていませんか。定期的に同じ質問を投げて比較することで、パターンBの劣化に気づけます。

原則④ 「自信があるところ」と「不安なところ」を分けさせろ
AIに回答させた後、「この回答の中で、確信が持てない部分はどこですか」と聞いてみてください。完全には機能しません。でもパターンDの作り話の一部を炙り出せることがあります。AIは自分の作り話に気づけないこともあるので、過信は禁物です。

今日から使える実験プロンプト（例）
実験①：数えさせる
以下の条件をすべて満たして回答してください。
回答の最後に、満たした条件の番号を列挙してください。
条件：[あなたの条件リスト]
実験②：指示を思い出させる
以下の会話を続けてください。
ただし、回答の冒頭で「現在有効なルール」を箇条書きで確認してから答えてください。
ルール：[あなたのルール]
実験③：品質を比較する
以下の質問に答えてください（1回目）。
[あなたの質問]
→数日後、同じ質問をもう一度投げる。二つの答えを並べて、中身の濃さ・正確さ・深さを比較する。
実験④：自己チェックさせる
[まず普通に質問して答えをもらう]
↓ 答えをもらった後に追加で聞く
この回答の中で、事実確認が必要な箇所や、
自信度が低い部分はどこですか？
また、私の指示で省略した項目があれば教えてください。
そして、最も大切なこと
健康診断でオールAが出ても、見つけられない病気はあります。
AIの「正常です」という報告を、そのまま信じないでください。
サイレントフェイルの本質は「気づけないこと」です。気づけないからこそ、「気づこうとする習慣」が唯一の防御になります。
サイレント・フェイルちゃんのことが少し分かっていただけたでしょうか。エラーを出さずに壊れる彼女は、はるしねーしょんちゃんよりも静かで、はるしねーしょんちゃんよりも怖いかもしれません。嘘をつくなら見抜けばいい。でも、何も言わないものを、どうやって見つけますか。
知ることで、探し方が変わります。このバグ図鑑はそのための記録です。

「次は……もっとおしゃべりなバグが来るよ。喋りすぎて、中身がないんだって。それって嘘よりタチ悪くない？」
次回、LLMバグ図鑑 第3章——オーバーバボシティ

ここまで読んでいただきありがとうございます！初めて聞いた！でも少しわかった！と思ってくれたら幸いです🐾
コメントお待ちしております！サイレントフェイルに気づいたことはありますか？

© 2026 黒パグP / LLM48 Project
【免責事項】
本記事に登場するLLM48のメンバーは、AIのバグを擬人化したフィクションのキャラクターです。実在の人物・団体・大学・企業とは一切関係ありません。技術解説は著者の理解に基づくものであり、学術的な正確性については参考文献をご確認ください。
おまけ
以下はノートブックLMによるポッドキャスト
技術的な補遺をまとめたPDFもダウンロードできます。ガチ版です🐾

関連記事はこちら🐾