AIの実力 #22: ハルシネーションってどうにかならないの？

今日はAIのハルシネーションについて、考えてみます。

(1) ハルシネーションとは

ChatGPT などを通じて LLM (大規模言語モデル) を使ったことがある人は、
みなさん体験していると思いますが、
LLM は時々ウソをつきます。
そのことをハルシネーション (幻覚) と呼んでいます。

単に「間違える」とか「精度が悪い」のではなく、
「真実ではない自信のある発言」をするんです。
「捏造」の方が正しい気がします。
そのことを指します。

これが本当に厄介なんですよね・・・

例を挙げます。

昨年の夏ごろ、
仕事でAIエージェント関連の、
とあるトピックのことを調べたことがあります。
調査の最初のステップとして、
ChatGPT に参考文献を挙げさせました。
具体的には、
そのトピックに関連する領域におけるサーベイ論文を10個挙げさせ、
内容や引用数などから優先順位をつけてもらいました。

以下のような項目を出させます。

• タイトル (原題)

• タイトル (和訳)

• 執筆者と所属

• URL

• 発表年月

• 概要 (日本語)

• (ChatGPT の考える) 優先順位

• (ChatGPT の考える) その理由

何度か議論し試行錯誤して、
私が何に関心があるのか、どういうサーベイ論文を優先したいのか、などが
しっかり伝わっていることを確認します。
そして、いったん満足のできるリストが出来上がりました。

さっそく、優先順位１番の論文から読んでみます。
論文をダウンロードしようとしたら、
なぜか全く関係のない論文（確か化学の論文だったと思う)  が表示されるではないですか！
うわー、やられた！　と思い、ChatGPT を問い詰めました。
申し訳ありません、存在しない記事を紹介してしまいました。
みたいな間抜けな謝罪をします。

気を取り直して、２番目の論文にアクセスしてみると、
今度は URL が存在しませんでした。。。

ダメ元で３番目以降も確認しましたが、
全滅です。

いったいあの優先順位の議論はなんだったんだ！？
私の時間を返せ～！

はい。これが典型的なハルシネーションです。

(2) なぜ直せないの？

そもそも、なぜハルシネーションが起きるのかも正確にはわかっていない、という状況が長く続いてました。

そして、つい最近 (2025-09-04)、Open AI から
"Why Language Models Hallucinate"
という論文が出ています。

誤解を恐れず、ざっくり説明すると、

主な原因は言語モデルの「評価」の仕方にある。
今の「評価」では
言語モデルは「わからない」と答えるより、
何か答えを言った方が高く評価される。
(テストで空欄にするより適当に答えを書く学生と同じ。)

そんなバカな！
そんなの、ハルシネーションを知った瞬間に思いつくじゃん！
なぜ今まで放置してた！？

OpenAIの論文には、その理由も挙げられていました。

業界で広く使われている主要な性能評価テストの「ほとんど全て」が、
このハルシネーションを助長する仕組みになっているのだそうです。

つまり、業界標準テストが諸悪の根源ということです。

どこかの開発チームが「正直なAI」を作ったとしても、
競合の「知ったかぶりAI」にベンチマークで負けてしまい、
「バカなAI」とレッテルを貼られてしまうわけです。

(3) いつ直る？

今、世界中の AI ベンダーが「AIエージェント」に注目しています。

「AIエージェント」とは、
AI を相談相手として使うだけではなく、
AI に実際の作業・アクションの実行まで任せてしまう、という話です。

当然、このAIエージェントでは、ハルシネーションの問題は、より深刻になるわけです。

ですから、きっとこの問題の解決には、業界を挙げて取り組むことになり、業界標準テストも修正されていくでしょう。

では業界標準テストを直せば、ハルシネ問題は解決するのでしょうか？

残念ながら、そうではないようです。

Open AI の論文によると、ハルシネーションの原因は、もう少し詳しくいうと、「学習」と「評価」の２段階にあるのだそうです。

今の「学習」の手法では、ハルシネーションの「種」がどうしても発生してしまう。
「勘違い」みたいなものですね。

それを「評価」の時に助長してしまっているが、今の問題。
でも、この「評価」を修正したとしても、ハルシネーションの「種」は残るのだそうです。

では、すぐには無くならないハルシネーションと、私たちはどう向き合っていけばよいのでしょうか？
この点については長くなりそうなので、また次回の記事で考えてみたいと思います。