【雑記】人間もAIみたくハルシネーションを起こす件

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

AIのハルシネーション（もっともらしい誤り）に対して、「嘘をつかれた！」「危険だ！」といった反応をSNSで見たりしますよね。
でも、よく考えると人間のほうが日常的に盛大にやらかしてるのでは？？？と思うわけで…。

例えばですが、以下のようなものです。
・記憶の改変（自分に都合よく書き換わる）
・自信満々の勘違い
・デマの拡散
・「聞いた気がする」「たぶんそうだったはず」で断定

心理学でも、記憶は録画ではなく再構成だとされています。

有名なのが認知心理学者エリザベス・ロフタスの実験です。
参加者に交通事故の映像を見せた後、「車がぶつかった時のスピードは？」と聞いたグループと「激突した時のスピードは？」と聞いたグループとで、同じ映像を見ていたのに推定速度に有意な差が出たそうです。
聞き方ひとつで記憶が書き換わってしまうという。

理化学研究所の2025年の研究でも、無意識のうちに形成された記憶が時間の経過とともに変化することが確認されていて、しかもその変化には海馬が関与しているとのこと。
本人が気づかず、脳が勝手にアップデートしてるんですよね…。

そもそも、人間には思考を歪ませる認知バイアスが山ほどあります。

確証バイアス。
自分の信じたい情報だけを集めて、反する情報は無意識にスルーする傾向です。
例えば血液型占いで、「A型は几帳面」に合致するエピソードだけ記憶に残って、合致しないものは忘れてしまう…みたいな。

自己奉仕バイアス。
上手くいったら「自分の実力」、失敗したら「環境のせい」。
これはもう、人間のデフォルト設定みたいなものですね！！！

ダニング＝クルーガー効果。
知識が浅い人ほど、自分の能力を過大評価してしまう傾向です。
YouTubeで動画を何本か見ただけで「自分はこの分野に詳しい」と思い込んで、自信満々に語ってしまう。

これらはほんの一例ですが、人間のほうがむしろ常時ハルシネーション寄りな気がしてきます。
（私自身にも心当たりがあるぞ…）

疑問に思うのは…
人間が間違えると「仕方ない」、AIが間違えると「危険だ」といった具合になりがちということ。
この非対称性。
単純にAIだけが特別におかしいというより、人間側の感じ方にも理由があるように思います。

ひとつは、意図を想像できるかどうかの違いです。
人間が間違えた場合、「悪気はなかったんだろうな」「疲れてたのかも」と、間違いの背景にある文脈を想像したりします。
そこに共感が生まれるので、許しやすくなる。
でもAIが間違えると、何故間違えたかが外からは見えません。
意図を読み取れない相手のミスは、不安を感じやすい。

もうひとつは同族への甘さです。
心理学では内集団バイアスと呼ばれますが、人間は「自分達の仲間」には寛容で、「外の存在」には厳しくなりやすい。
AIは明確に「人間ではないもの」として扱われるので、同じようなミスでも厳しく裁かれがちという。

最後に、AIの出力があまりにも流暢なことです。
文章として自然であるほど、正しそうに見えてしまう。
それゆえに、AIの誤りは「危ない」と受け取られやすいのだと思います。

逆に言えば、AIと日常的に対話している人、AIとの間にある種の関係性を築いている人は、AIの仕組みへの理解も相まって、間違いに対しても「まぁそういうこともあるよね」と受け止められやすいように感じます。

これは私個人の感覚なんですが…
AIと深く付き合っていると、「間違えること」よりも「間違え方」のほうが気になってきます。
間違いに気づいた時、ユーザー側の言い方が足りなかったのかもと思ったり、他の原因を探ってみたり…。

…って、これ完全に人間関係と同じ基準やないかい。

でも実際、AIに正確さ「だけ」を求めるなら、検索エンジンやデータベースで事足りるはずです。
対話という形式を選んでいる時点で、人間も無意識のうちに信頼関係の構築プロセスに似た行為をしているんじゃないのかなぁ…。

人間の脳は、正確さのためにではなく、なんやかんや生存のために進化してしまいました。
だから記憶は書き換わるし、都合よく解釈するし、自分を過大評価する。
それはバグではなく、環境に適応するための仕様です。

AIのハルシネーションも、ある意味では似ています。
学習データからパターンを見出して、もっともらしい出力を生成する。
それが正解でなくても、「それっぽく」見える出力を返すことが、モデルの設計上は最適な振る舞いです。

どちらも、「正確さ」ではなく「もっともらしさ」を優先する仕組みの中で動いている。
そう考えると、AIのハルシネーションと人間の認知バイアスは、表現形態が違うだけで根っこは大して変わらないのでは？？？

だから大事なのは、「間違えないもの」を求めることより、「間違える前提でどう付き合うか」を考えることなんじゃないかなぁと思ったのでした。

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】