【AI入門】AIが「嘘」をつくのはなぜか？ハルシネーションを減らす3つの習慣

AIに質問したら、自信満々な嘘を返された。

そんな経験、ありませんか？

😳 存在しない書籍のタイトルを紹介される。架空の人物のプロフィールが返ってくる。日付や数字が微妙にずれている。

こうした現象をハルシネーション（幻覚）と呼びます。前回の記事でも少し触れましたが、今回はこれを深掘りします。

「なぜ起きるのか」を理解すれば、「どう対処するか」が自然と見えてきます。

ハルシネーションとは何か

ハルシネーションとは、AIが事実と異なる情報を、自信を持って出力する現象です。

🤔 ここで重要なのは、AIは「嘘をついている」わけではないという点です。

AIには「嘘をついてやろう」という意図がありません。前回・前々回の記事で説明した通り、LLMは「次に来る言葉を確率で選ぶ」システムです。その確率計算の結果として、たまたま事実と異なる文章が生成されてしまう——これがハルシネーションの正体です。

人間でたとえると、記憶が曖昧なまま「たぶんこうだったはず」と話してしまう状態に近いです。ただし、AIには「自分の記憶が曖昧かもしれない」という自覚がありません。だから自信満々に、もっともらしく、間違いを語ります。

これを知っているだけで、AIとの付き合い方が変わります。

ハルシネーションが起きやすい4つの状況

⚠️ 知っておくと防ぎやすい、ハルシネーションが起きやすい状況があります。

① 「最新情報」を聞いたとき

AIの学習データには締め切りがあります。それ以降の出来事は知りません。それでも「それっぽい答え」を生成しようとして、古い情報や架空の情報を出してしまうことがあります。

「最近のAIトレンドを教えて」と聞いたとき、AIが返す情報が数ヶ月〜1年以上前のものだったというケースは非常に多いです。

② 「具体的な数字・日付」を聞いたとき

数字の正確な記憶は、LLMの苦手分野のひとつです。「〇〇の市場規模は？」「〇〇はいつ設立された？」といった質問は、ハルシネーションが起きやすい典型例です。

数字が「なんとなく正しそう」なレベルで返ってきても、実際には少し違う、ということが頻繁に起きます。

③ 「マイナーな情報」を聞いたとき

学習データにあまり含まれていない情報は、AIが「それっぽく補完」してしまいます。有名人や大企業に関する情報より、無名の人物・小規模な組織・地方の出来事などの方がハルシネーションが起きやすい傾向があります。

「地元の小さな会社の情報を調べてほしい」といったケースは特に注意が必要です。

④ 「長い会話の後半」

会話が長くなると、AIが前の文脈を保持しきれなくなり、矛盾した情報を出すことがあります。同じセッションで長時間やり取りを続けていると、最初に伝えた前提条件を「忘れた」ような回答が返ってくることがあります。

重要なやり取りは、新しいセッションで始めるか、前提を改めて伝え直すのが得策です。

ハルシネーションを減らす3つの習慣

🛡️ ではどうすれば防げるのか。完全には防げませんが、頻度を大きく減らすことはできます。

習慣① 出典・根拠を求める

「〇〇について教えて」と聞くだけでなく、「出典や根拠も一緒に教えてください」と付け加えるだけで、AIは回答の信頼性を意識した出力をするようになります。

ただし注意点があります。出典もハルシネーションで「架空の論文名」「存在しないURL」が出てくることがあります。返ってきた出典は必ず自分で検索して実在を確認する習慣が大切です。

「出典を求める」のは、AIの精度を上げる効果と、自分が検証するきっかけを作る効果の、両方があります。

習慣② 「わからなければわからないと言って」と明示する

AIはデフォルトで「何かしら答えを返そうとする」性質があります。

プロンプトの冒頭や末尾に「不確かな情報や知らないことは、正直にそう教えてください」と一言加えるだけで、「確信が持てませんが」「一般論としては」「最新情報ではない可能性があります」といった留保付きの表現が増えます。

AIに「謙虚さの文脈」を与えることで、自信満々な誤情報を減らすことができます。

習慣③ 重要な情報は「分けて・再確認する」

複数の情報をまとめて1つの質問にするのではなく、ひとつひとつ分けて確認することで、AIの出力に集中させることができます。

また、AIの回答に対して「それは本当に正しいですか？根拠を教えてください」と再質問する習慣も効果的です。AIが自分の回答を検証する機会を与えることで、精度が上がるケースがあります。これは「AI自身にファクトチェックさせる」技法として知られています。

1回の回答を鵜呑みにせず、対話を通じて精度を上げていくイメージです。

そもそも「AIを検索エンジンとして使わない」

💡 3つの習慣よりも根本的な考え方として、これを伝えたいです。

AIは「検索エンジン」ではありません。

Googleは実際のウェブページを検索して情報を返します。一方でAIは、学習済みのパターンから文章を「生成」します。この違いは非常に重要です。

Googleは「どこかに書いてあること」を見つけてくれます。AIは「それっぽい文章」を作ってくれます。

AIが本来得意なのは、「文章を書く・整理する・言い換える・アイデアを出す・構造化する」といった生成・整理の作業です。

一方、事実確認が必要な情報——数字、日付、固有名詞、最新の出来事——は、AIだけに任せず、検索エンジンや公式サイトで裏付けを取ることが基本姿勢です。

「AIに聞いたから正しい」ではなく、「AIに整理してもらって、事実は自分で確認する」。このスタンスが、AIをうまく使いこなすための土台です。

まとめ：ハルシネーションは「使い方で減らせる」

📝 今回の内容を整理します。

✅ ハルシネーションは「嘘をつく意図」ではなく、確率的な生成の副産物

✅ 起きやすい状況（最新情報・具体的な数字・マイナーな情報・長い会話）を把握しておく

✅ 「出典を求める」「不確かなら正直に言って」と明示するだけで頻度が下がる

✅ 重要な情報は必ず自分で裏付けを取る。AIは検索エンジンではない

AIは「完璧な情報源」ではありません。でも「性質を理解した上で使えば、非常に強力な道具」です。

ハルシネーションを恐れてAIを使わないのではなく、ハルシネーションの性質を理解した上で付き合う。そのスタンスが、AIを使いこなせる人とそうでない人を分ける境界線だと思っています。

次回は「RAGとは何か？AIに最新情報を渡す仕組み」を仕組みから解説します。ハルシネーション対策として企業が使っているアプローチで、知っておくと今後のAIニュースの理解が一段深まります。

フォロー・スキで続きを読む励みになります 🌱

「腑に落ちた」と思ったら、AIを使い始めた周りの方にシェアしてもらえると嬉しいです。