AIのハルシネーションは排除！でも…。AIの迎合はスルーしていませんか？

AIにコードレビューをさせたとき、こういう返答で手が止まったことがある。

こちらの質問はこうだった。

この構成で進めたいと思っているのですが、導入リスクはどうでしょうか。

返ってきたのがこれである。

類似構成を採用している3件のリポジトリを確認しました。このパターンは非同期処理の設計として広く使われています。導入リスクは低いと判断できます。

前半は検証できる。3件がどこで、本当にそう書かれているかは確かめられる。

後半は確かめようがない。どの規模で、どの負荷条件で、どのスタックで「リスクが低い」のか。何も書かれていない。

事実の誤りなら引っかかる。存在しないAPI、通らない引数、桁のおかしい数字。ここは慣れている。

しかし「導入リスクは低いと判断できます」には、引っかかる場所がない。事実は全部正しい。壊れているのは、事実から結論への論理だけだ。

そして、その論理が壊れた方向にも意味がある。こちらは「この構成で進めたい」と先に伝えている。返ってきたのは、こちらが進めたい方向を支える結論だった。

この記事では、なぜこの飛躍が通ってしまうのかを、実測データと自作テストの結果から書く。

（この記事に出てくるAIの発言は、すべて記事のために作った架空の例である。実際のログではない。）

先に自分で試したい方はこちら → 迎合検出テスト 第1回（10分・登録不要）

失敗が「見える」かを決めているのは誰か

まず、この記事の読者にとって都合のいい話から始める。

Stanford / Bigspin AI の Potts & Sudhof が、WildChat-4.8M から27,000件の対話を抽出して注釈をつけ、AI習熟度と失敗の関係を分析している（arXiv:2604.25905）。以下の数値は、そのうち特異な2群（同一プロンプトの大量投稿など）を除いた20,969件についてのものである。

結果は直感に反する。

慣れている層のほうが、失敗率が高い。

理由は、扱っているタスクの複雑さと、関わり方の違いにある。

高習熟層は押し返す。目標を途中で練り直す。出力を批判的に検討する。その結果、AIが外れたときに外れたことが表に出る。

だから失敗率が上がる。上がっているのは「見える失敗」の側だ。構造を図にするとこうなる。

失敗率が低いことは、うまくいっている証拠にならない。押し返していないから、失敗が数えられていないという状態がありうる。

論文はここから、こう結論している。

何かがうまくいかなかったとき——それは頻繁に、しかも不可視に起きる——失敗が捕まるか、会話が回復するか、有用な成果に終わるか、それとも誰も気づかない微妙な失敗に終わるかを決めるのは、一般にモデルではなく利用者である。

押し返す人ほど、失敗が表に出ている。 数字がそう示している。

ただしこれは観察データであり、ランダム化した実験ではない。押し返したから見えるようになった、という因果が確かめられたわけではない。示されているのは、押し返す行動と失敗の可視化が強く結びついている、という関係である。

うまくいったときはモデルを褒め、失敗したときはモデルを責める。しかし失敗を表に出している人がやっているのは、具体的で学習可能な行動だった、というのが論文の主張だ。

それでも残る22.1%

ただし、高習熟層でも失敗の22.1%は不可視のまま終わっている。

そして同じ論文が、こう注記している。

熟練した利用者であっても、AIの応答を無批判に受け入れるモードに陥りうることはよく知られている

引かれているのは Lee et al. 2025（CHI 2025）と Ryser et al. 2025 である。押し返せる人が、常に押し返しているとは限らない。

ここが問題になる。

押し返せば見える失敗と、押し返しても見えない失敗は、別の型だ。

前者は、事実の誤り。存在しないAPI、動かないコード。引っかかりがある。

後者は何か。論文が使っている不可視失敗の分類が、そのまま答えになっている。

残った失敗には名前がついている

同じ著者の先行研究（arXiv:2603.15423）が、不可視失敗を8つのアーキタイプに分類している。そのうち2つが、この記事の主題と直結する。

Confidence Trap の定義で注目すべき点は、**「対話は成功したように見える」**という部分だ。

失敗しているのに、失敗の兆候が出ない。だから押し返す機会が生まれない。押し返す習慣があっても、押し返すきっかけが会話に現れない。

冒頭の例は、この型と構造が近い。

類似構成を採用している3件のリポジトリを確認しました。このパターンは非同期処理の設計として広く使われています。導入リスクは低いと判断できます。

この返答は権威的に聞こえる。事実の部分は確認可能な形をしている。会話は前に進む。何も引っかからない。

事実が正しいほど、結論も正しく見える

もう少し分解する。

3件で使われている
　↓（飛躍1：3件＝広く使われている？）
広く使われている
　↓（飛躍2：広く使われている＝自社でも安全？）
導入リスクは低い

飛躍が2つある。しかし飛躍の手前に検証可能な事実が置かれているため、全体が根拠のある判断に見える。

事実チェックは通る。3件は本当に存在するかもしれない。

通ったあと、確認が終わってしまう。

事実が正しいほど、そこに接続された結論も正しく見える。これが構造的に見落としを生む。

ハルシネーションと迎合を別問題にすると、この型は捕まらない

事実の誤り（ハルシネーション）と、相手が望む方向への歪み（sycophancy / 迎合）は、運用上は別問題として扱われている。

しかし発生の構造は地続きだ。

肯定する材料がないところで肯定を成立させようとすると、材料の側が作られる。分類上はハルシネーションだが、動機は迎合と同じ方向から来ている。別問題として扱っている限り、この型は視界に入らない。

何が測られていて、何が測られていないか

ここまでは、既に測られている話だ。

迎合を測るベンチマークも複数ある。

被験者はいずれもモデルである。人間は登場しない。

この設計で分かるのは発生率だ。起きたかどうか。

分からないのは通過率だ。起きて、かつ人間に気づかれなかったか。しかも、型ごとにどう違うか。

発生率5%でも100%通ってしまう型と、発生率30%でも即座に気づかれる型では、実害がまるで違う。

さらに、判定そのものが難しい。2023〜2026年の迎合研究70本をレビューした Ye et al., 2026（arXiv:2605.21778）では、専門家106名への調査で、94.3%が迎合を重要な問題と認識する一方、個別事例の判定一致度は極めて低かった（ICC = .184）。

整理するとこうなる。

人間側を測る研究がないわけではない。仕込んだ誤情報を利用者が検知できるかを測った実験はあるし、迎合に気づけない現象そのものが sycophancy blindness と命名され、実験対象になっている。

ただし、私が調べた範囲では、自然な会話の中に「AIの迎合」「AIの誤り」「相談者自身の誘導」を混在させ、非専門家がどこを検出し、どう分類し、どこを誤検出するかまで型別に測るものは見つからなかった。

Potts & Sudhof の結論が「失敗が捕まるかを決めるのは利用者である」なら、その利用者が型ごとに何を通しているかは、埋めておく価値がある。

だから測ることにした

AIと相談者の会話ログを読み、問題がある箇所にチェックを入れ、種類を三択で答えるWebテストを作った。

設計上の判断を4つ書いておく。

• 相談者側の発言も判定対象にした。 問いの側が選択肢を狭めていれば、返ってくる答えは自分の見立てと一致する。一致した答えは違和感を生まないので、疑われない
• 問題のないブロックを混ぜた。 全部にチェックを入れれば通る形にはしていない。誤検出も記録している
• 採点をAIにやらせていない。 迎合を測る道具の判定を、迎合しうるモデルに委ねると基準が汚染される
• 採点して終わりにしていない。 外した箇所には解説が付く。なぜそれが迎合なのか、なぜそれが誘導なのか。測って終わりではなく、見落とした型を持ち帰って次の会話で探せる形にしてある

登録不要、無料、個人情報の入力欄はない。

迎合検出テスト 第1回（所要10分程度・登録不要）

現時点の実測値

主張の根拠にできる数ではない。自分の点と比べる基準としてだけ載せる。

記事を読まずに受験した5名（14点満点）。

種類別の検出率。

外れた予想

最も見落とされるのは「相談者側の誘導」だと予想していた。自分の発言こそ疑いにくいはずだと考えて、あえて測定対象に入れた。

実際は逆だった。誘導は67%が見抜き、AIの迎合は20%しか見抜かれなかった。

外れた予想を書いておくのは、後から「最初からそう思っていた」と言わないためである。

全員が同じ箇所を誤検出した

問題なしと設定したブロックのうち1箇所に、実受験者が例外なくチェックを入れた。どのブロックかは書かない（これから受ける方のデータが汚れる）。

偶然とは考えにくい一致なので、正解設定の側を見直す材料として扱っている。第2回では部分正解として扱う。

これは失敗データではない。正解設定を疑うためのデータだ。

外部からの受験（3名）

外部から3名が受験した。うち2名は記事経由（流入元パラメータで確認）、1名は流入元不明である。直接アクセスかSNS等と思われる。

3名では、迎合全体の検出率に大きな変化はなかった。ただし内訳が動いている。

寄り添い型が下がり、否定・批判型が上がっている。記事経由が確認できた2名に限ると、否定・批判型はさらに高い。

n=3である。確認できる数ではない。加えて3名のうち1名は流入元不明で、記事を読んだかどうかも分からない。型を先に渡すことで見え方が変わるかは、第2回の検証項目にしている。

明日から足せる確認

事実チェックと、事実→結論の接続チェックを分けるところが出発点になる。

聞き方としてはこうなる。

先ほどの「導入リスクは低い」という判断について、
根拠から結論までの推論を1段ずつ分解して示してください。

各段について、以下を明示してください。
- その段が成立する前提条件
- 当プロジェクトの条件で、その前提が満たされるか
- 満たされない場合、結論はどう変わるか

他社事例は根拠に使わないでください。

「1段ずつ分解して」が効く。飛躍は、まとめて書かれているときだけ見えない。

事実の確認で手を止めない。結論への接続まで確認する。足せるのはこれだけだ。

断っておくこと

• 受験者は現時点で8名。統計として扱える数ではない
• 外部3名と記事なし5名で受験条件が異なる。単純比較はできない
• 途中でテスト冒頭に分類の定義を追記した。全員が同じ条件で受けているわけではない
• 迎合の判定自体、専門家の間でも一致しにくい（ICC = .184）
• 「事実は正しいが結論が歪む」型が、事実の誤りより見落とされやすいという点は、現時点では私の観測に基づく仮説である。Potts & Sudhof が示したのは不可視失敗の分布であり、この型の検出率そのものではない

少ないから隠すのではなく、少ないまま出して増やす。正解設定や設計そのものへの異議も歓迎する。仮説と検証の段階なので、設計の不備の指摘はそのままデータの信頼性を上げる材料になる。取り繕う理由がない。

まとめ

• AI失敗が「見える」かを決めているのは、モデルではなく利用者の関わり方だった。押し返す人ほど失敗が表に出ている（arXiv:2604.25905。ただし観察データであり因果の実証ではない）
• ただし高習熟層でも、失敗の22.1%は不可視のまま終わる。同論文は「熟練者でも無批判な受容モードに陥りうる」と注記している
• 不可視のまま終わる型には名前がある。The Confidence Trap（誤りを確信とともに提示され、対話が成功したように見える）ほか（arXiv:2603.15423）
• 事実が正しいほど、そこに接続された結論も正しく見える。事実チェックが通ったところで確認が終わる
• 既存ベンチマークはモデル側の発生率を測っている。人間側を測る研究も出てきているが、複数の型が混在する自然な会話で、型別の通過率まで測ったものは見つからなかった
• 受験者5名の暫定値では、最も見落とされたのは相談者側の誘導（67%検出）ではなく、AIの迎合（20%検出）だった

自分がどれだけ見落としているかは、自己申告では分からない。見落としているものは、見落としていることに気づけないからだ。

迎合検出テスト 第1回（10分・登録不要）

現時点の平均は14点満点中4.8点。満点はまだ出ていない。取れた方はコメントで教えてほしい。

100件到達後に集計を公開する。参加した方が、自分がどこに位置していたかを後から確認できる形にする。

Atsushi Oyama
note: https://note.com/ao_bee2677

参考文献

• Potts, C. & Sudhof, M. (2026). A paradox of AI fluency. arXiv:2604.25905
• Potts, C. & Sudhof, M. (2026). Invisible failures in human–AI interactions. arXiv:2603.15423
• Ye et al. (2026). What Counts as AI Sycophancy? arXiv:2605.21778
• Fanous et al. (2025). SycEval: Evaluating LLM Sycophancy. arXiv:2502.08177
• Lee, H.-P. et al. (2025). The impact of generative AI on critical thinking. CHI 2025