葦原翔の「思考を形にする」　note AI活用術 Vol.4

ハルシネーションを飼い慣らす「攻めのファクトチェック」

こんにちは、葦原翔です。

AI活用術の連載も第4回を迎えました。これまでは、AIを「共著者」として迎えるためのペルソナ設定や、タグ付けを爆速にする「あし・まー」メソッドなど、効率と創造性を高める攻めの技術をお伝えしてきました。

しかし、AIと深く付き合うほど、必ず誰もがぶつかる「巨大な壁」があります。

それが、ハルシネーション（AIがもっともらしい嘘をつく現象）です。

「AIが嘘をつくから、怖くて発信には使えない」

「結局、ファクトチェックに時間がかかって自分で書いた方が早い」

そんな風に匙を投げそうになっていませんか？

結論から言います。AIのハルシネーションをゼロにすることは不可能です。しかし、それを逆手にとって「思考を深める触媒」にし、チェックを仕組み化することは今すぐできます。

今回は、僕が実践している「ハルシネーション対策と、時間を溶かさないファクトチェックの極意」をお届けします。

1. そもそも、なぜAIは「平気で嘘をつく」のか？

対策を立てる前に、敵の正体を知りましょう。

AI（大規模言語モデル）の本質は、超高性能な「確率予測マシン」です。

AIは事実を記憶しているのではなく、「この単語の次には、この単語が来る確率が一番高い」という計算を繰り返して文章を作っています。

つまり、AIにとって大切なのは「真実かどうか」ではなく、「文章として流暢で、もっともらしいかどうか」。

だからこそ、知らない歴史の出来事や、存在しない架空の文献を、まるで見てきたかのような美しい日本語で出力してしまうのです。

これを「嘘つき」と切り捨てるのは簡単です。でも、裏を返せば「事実の枠に囚われない、圧倒的な妄想力（アイデア創造力）を持っている」ということでもあります。

僕たち書き手がすべきなのは、AIに「正しい答えを求める」ことではありません。「不完全なアウトプットを、どうチェックし、どう自分の思考のジャンプに繋げるか」という仕組み作りなのです。

2. 嘘を見破り、精度を跳ね上げる「3つのプロンプト防衛術」

まずは、出力される段階でハルシネーションの確率を極限まで下げる、具体的なTipsです。プロンプトに以下の「制約」を仕込みましょう。

① 「知らない場合は『知らない』と答えなさい」の徹底

AIはプライドの高いアシスタントのようなもので、指示されないと「分かりません」と言えずに話を盛ってしまいます。

• 追加する一言： 「確実な事実に基づかない情報は出力しないでください。データがない、または不確実な場合は、憶測で書かずに『情報なし』と明記してください」

② 根拠（ソース）をセットで出力させる

AIに情報元を意識させるだけで、適当な記述がグッと減ります。

• 追加する一言： 「記述した事実について、可能であればその根拠や、どのデータに基づいているかを併記してください」

③ 「事実」と「解釈」を分離して出力させる

ハルシネーションが起きやすいのは、客観的な事実と、AI独自のまとめ（解釈）が混ざり合う瞬間です。

• 追加する一言： 「出力は【客観的事実】と【そこから導き出される考察・解釈】の2つのセクションに明確に分けて記述してください」

3. 葦原流：時間を溶かさない「3ステップ・ファクトチェック法」

どんなに対策をしても、すり抜けてくる嘘はあります。かと言って、すべての文章を1からググり直していては、AIを使う意味がありません。

僕が実践している、最も効率的なファクトチェックの手順がこちらです。

1.「固有名詞」と「数字」だけをマークする:ステップ 1。
AIが生成した文章全体をダラダラ読むのはやめましょう。まずは「人名、地名、書籍名、商品名」などの固有名詞と、「年号、％、金額」などの数字だけを視覚的にピックアップ（あるいは別メモに抽出）します。ハルシネーションの9割はここに潜んでいます。

2.検索エンジン・一次ソースとの「部分照合」:ステップ 2。
抽出した固有名詞や数字を、信頼できる公的機関のサイトや一次情報（ニュースの公式発表など）とだけ照らし合わせます。文章全体ではなく「単語の正誤」だけを見るため、数分で終わります。

3.AI自身に「自分の嘘」をレビューさせる:ステップ 3。
これが最も強力です。生成された文章を、あえて「別のAIモデル」か「新規のまっさらなチャットセッション」に放り込み、こう指示します。

「以下の文章に含まれる事実関係（固有名詞、歴史的背景、数値など）に、誤りやハルシネーションの疑いがないか、客観的に検証し、問題点を箇条書きで指摘してください」

人間が見落としがちな「もっともらしい矛盾」を、AIが恐ろしい精度でセルフ論破してくれます。

おわりに：ハルシネーションは「クリエイティブの種」

ファクトチェックを仕組み化してしまえば、ハルシネーションはもはや恐怖ではありません。

むしろ、僕が小説のプロットを練ったり、新しい記事の切り口を考えている時、AIが突拍子もないハルシネーション（嘘）を出してくると、「あ、その嘘面白いな。その設定、創作として使えるかも」と、新しいアイデアの引き金になることすらあります。

• データや事実を扱うときは、徹底的に冷徹なチェッカーになる。

• アイデアを広げるときは、AIの「大嘘」を面白がる。

この二面性を持って接することこそが、AIを本当の意味で「手懐ける」ということであり、僕たちの思考をさらに遠くへ進めるための鍵になります。

あなたの共著者は、今日どんな面白い「嘘」をつきましたか？

それを暴き、手懐けるプロセスすら、楽しんでいきましょう。

それでは、また次回のVol.5でお会いしましょう。葦原翔でした。

追記：
簡易的なやり方としては出来上がった原稿に「ファクトチェック」と命令してチェックさせると信頼性についてチャックしてくれます。