AIが自信満々に嘘をつく理由を理解する　#3

まず、私がやらかした体験を話す。

仕事でAIに社内規定を調べてもらったとき、
返ってきた回答に具体的な規定の内容が書かれていた。
丁寧に、具体的に、もっともらしく。
「これは使える」と思って担当部署に確認したら——
そんな規定、存在しなかった。

この記事では、生成AIが持つ3つの性質上のリスクを整理する。
「怖いから使わない」ではなく、「知った上で賢く使う」ための話だ。

ハルシネーション AIが「嘘をつく」のはなぜか

「ハルシネーション」とは、AIが事実ではないことを自信満々に出力する現象だ。日本語では「幻覚」と訳されることもある。

なぜ起きるのか。第1回の記事で触れたとおり、
生成AIは「次に来る言葉の確率を予測する」仕組みで動いている。
つまり、「正しい情報を出す」のではなく「自然な言葉のつながりを出す」のが本来の動作だ。

人間で言えば、「それっぽい答え」を言ってしまうタイプの人に近い。
自分でも気づかずに、堂々と嘘をついてしまう。
しかもAIの場合、謝罪もなければ照れもない。常に同じトーンで、同じ自信で出力してくる。

冒頭に書いた「存在しない社内規定」はまさにこれだった。
AIは「社内規定っぽい文章を生成する」ことは得意だ。
でも「その規定が実際に存在するかどうかを確認する」機能は、基本的には持っていない。

「もっともらしさ」と「正確さ」は別物。
この感覚を持てるかどうかが、AIをうまく使えるかどうかの分岐点になると思っている。

ハルシネーションが起きやすい場面と見分け方

ハルシネーションは何でもない場面でも起きるが、特に注意が必要な場面がある。

① 具体的な数字・統計を求めたとき
「〇〇の市場規模は？」「〇〇の割合は？」といった質問は危ない。
もっともらしい数字を自信満々に出してくることが多い。

② 固有名詞・URLを求めたとき
「この分野の専門家を教えて」「参考になるサイトを教えて」という質問。
存在しない人物名・存在しないURLが平然と出てくることがある。
URLは特に要注意で、開いてみたら全然別のサイトだった、という話はよく聞く。

③ 法律・制度・規則を確認したとき
「〇〇法の第〇条では〜」という引用。これが一番怖い。それっぽく聞こえるだけに、確認せずに使ってしまうリスクがある。

④ 「最新情報」を求めたとき
後述するカットオフの問題とも絡むが、「最新の〇〇を教えて」という質問への回答は信頼度が下がる。

コラム：医療現場での事例が示すこと

「自分の仕事には関係ない」と思っている方にこそ、知っておいてほしい話がある。

2026年、マサチューセッツ州の病院でAI診断ツールを活用する取り組みが報道された（WBUR, 2026年5月）。
医師たちはAIの診断サポートに可能性を感じつつも、「実際にどこまで役立つか、まだ判断は難しい」とコメントしている。

さらに注目すべきは、Mass General Brighamの研究だ。
AIチャットボットは鑑別診断を適切に行うことに80%以上の確率で失敗し、「虚偽を事実として提示した」「正確さよりも役に立とうとすることを優先した」という結果が報告されている。
別の研究（medRxiv, 2025年）では、医療AIのハルシネーション率が64〜68%に達するという試算もある。

AIは「それらしい回答を生成する」ことに長けているが、「その回答が事実かどうかを確認する」機能は持っていない。医療なら命に関わる。法律なら訴訟リスクがある。仕事なら信用を失う。
リスクの大きさは文脈によって変わるが、ハルシネーションの性質は変わらない。

見分けるためのヒント

残念ながら、ハルシネーションを100%見分ける方法はない。
ただ、怪しいと感じるサインはある。「〜という研究があります」と言いながら出典が示されない、数字が妙に具体的すぎる（「87.3%」「2,341件」など）、URLや人名が出てきた——こういう場合は、
必ず一次情報（公式サイト・論文・行政の資料など）で確認するのが鉄則だ。

AIの回答は「仮説の出発点」として使う、というのが私のスタンスだ。
たたき台、方向性の確認、アイデアの整理——そういう用途では十分すぎるほど役立つ。
でも「これが正しい答えだ」と結論として扱うのは危険だ。賢い同僚のアイデア出しくらいの感覚で参考にしつつ、最終判断は自分でする。

カットオフ AIには「知識の期限」がある

もう一つ知っておきたいのが
「カットオフ（知識の締め切り）」だ。

生成AIは、大量のテキストデータを「学習」して作られている。その学習データには締め切りがあり、
それ以降に起きた出来事は基本的に知らない。 たとえばカットオフ以降の出来事を聞いても答えられないし、古い情報を自信満々に「最新情報」として答えることもある。

特に注意が必要なのは、法律・制度・税制の確認（頻繁に改正される）、
ソフトウェアのバージョン・仕様（開発現場では特に要注意）、
企業やサービスの料金・プラン情報などだ。

ウェブ検索機能との関係

最近のAIサービスには「ウェブ検索機能」が付いているものが多く、
これを使えばカットオフ以降の情報もある程度カバーできる。
ただし、ウェブ検索機能がオフの状態のAIは、過去の知識しか持っていない。
同じAIでも、検索機能をオンにしているかどうかで回答の新しさが大きく変わる。自分が使っているAIが今どちらのモードで動いているかを把握しておくと、ミスが減る。

バイアス AIの回答には「偏り」が潜んでいる

ハルシネーションとカットオフに比べると、
少し見えにくいリスクが
「バイアス（偏り）」だ。

AIは人間が書いたテキストを学習して作られている。
つまり、そのテキストに含まれていた偏り——
人種・性別・文化・政治観などの偏りが、AIの回答にも混入している可能性がある。

バイアスを完全になくすことは難しい。
ただ、「AIの回答は一つの視点にすぎない」という意識を持っておくだけで、ずいぶん変わる。
特に意見・評価・倫理に関わる質問では、AIの答えを鵜呑みにせず複数の情報源を当たることをすすめる。

「AIが言ったから正しい」ではなく
「AIはこう言っているが、自分はどう思うか」という問い方をするようにしている。

3つのリスクを踏まえた「賢い使い方」

ここまで3つのリスクを見てきた。

• ハルシネーション：もっともらしい嘘。確認が必要な情報は一次情報で裏取りする

• カットオフ：知識の期限切れ。最新情報は検索機能や公式サイトで確認する

• バイアス：学習データ由来の偏り。一つの回答を結論にしない

「じゃあAIって使えないんじゃないか」とはならないでほしい。
包丁は使い方を間違えると怪我をするが、使い方を知っていれば料理の幅が広がる。
AIも同じで、性質を知った上で使えば、それだけ恩恵が大きくなる。

セルフチェック：「それ、確かですか？」と一回押し返す

私がやっている簡単なチェックを紹介する。

重要な情報が出てきたら、
「先ほどの情報の出典を教えてください」と聞き返すのが最初の一手だ。
「実は確認できない情報でした」と返ってくることが意外と多い。
もしくは、プロンプトエンジニアリングでファクトチェックを予め組み込むことも可能だ。これは後の回で解説する。

一回聞いてみるだけで、精度がかなり上がる。数字や固有名詞が出てきたら30秒の検索で裏取りする習慣もつけておくといい。
「AIを使った仕事のミス」のほとんどはここで防げる。

ハルシネーションを「許容できるシステム」をつくる

個人の習慣と並んで重要なのが、
ハルシネーションが起きても致命的にならない仕組みをつくるという発想だ。

「AIが嘘をつかないようにする」のは難しい。
でも「AIの嘘が通ってしまわないようにする」のは、設計の問題だ。具体的には3つのことを意識している。

①AIの出力を「最終決定」にしないこと
AIの回答をそのまま報告書やメールに貼り付けるのではなく、
必ず人間の目を通すフローを設ける。
医療・法律・財務など影響が大きい領域では、公式資料や専門家による確認を組み込む。

②「出典を示せるか」を基準にすること
「出典を教えてください」と聞いて答えられないケースは、
ハルシネーションの可能性が高い。根拠を示せない情報を重要な判断の根拠にしないことが原則だ。

AIを使いこなすとは、AIを信じることではなく、
AIをどう組み込めばミスが起きにくいかを設計することだと思っている。

知ることは、怖がることとは違う。

「ハルシネーションがある」と知っていれば確認するようになる。
「カットオフがある」と知っていれば最新情報を別途調べるようになる。「バイアスがある」と知っていれば一つの回答に依存しなくなる。

知った分だけ、道具として使いこなせる。

次回は、AIを使う上でのもう一つの大きなリスク——
情報漏洩・著作権・法的なグレーゾーンについて整理する。
「便利だから使ってる」が「気づいたらアウト」になる前に読んでほしい内容だ。

「AIに嘘をつかれた経験、ありますか？」
——ある方は、ぜひコメントで教えてください。
「役に立った」と思ったらスキを押してもらえると励みになります。