【新連載：AIとの賢い付き合い方】その仕組みとリスクを学ぶ【第1回（序章）：ハルシネーションとバイアス】

このたび、noteで「AIとの賢い付き合い方」というテーマで連載を始めることにしました。
「AIは時々、もっともらしい嘘をつく」。ChatGPTなどの生成AIを使う中で、多くの方がそう感じているのではないでしょうか 。AIが提示する、一見完璧に見える情報が、実は架空の事実（ハルシネーション）だったという経験は、もはや珍しくありません 。
この連載では、AIとの対話で誰もが直面する、こうした「落とし穴」に焦点を当てます。「ハルシネーション」や「バイアス」などの問題がなぜ起きるのか、その背景にあるAIの仕組みを分かりやすく解き明かします 。
さらに、単なる解説に留まらず、具体的な失敗例を元に、AIのリスクを回避し、その能力を最大限に引き出すための「実践的なプロンプトの書き方」までを提案していきます 。
本連載は、AIを使いこなしたいと願うすべての人のための「実践マニュアル」です 。AIという、時に手強い「新しい友人」と上手に付き合っていくための知恵を、皆さんと一緒に探求していければ幸いです。どうぞ、最後までお付き合いください。

はじめに：AIは「単なる嘘つき」なのか、それとも「詐欺師」なのか？

「AIは、嘘つきだ！」。 最近、ChatGPTをはじめとする生成AIを日常的に使う人々から、そんな声が聞こえてきます。AIに調べ物を頼んだら、存在しない論文や判例を堂々と引用された。歴史上の出来事を尋ねたら、微妙に事実と異なるストーリーを語り出した。まるで、平気で嘘をつく人と話しているようだ、と。

しかし、本当にAIは「救いようのないほどの嘘つき」なんでしょうか？

実は、私はAIと対話する中で、「嘘つき」ということの意味を吟味すべきだと言うことに気づきました。つまり、A私たちは「単なる嘘つき」と「詐欺師のような嘘つき」とを区別して考える必要があります。だから、「AIは嘘をつく」としても、その嘘の付き方がどちらなのかを吟味した方が良さそうなのです。

結論から言えば、「AIは嘘つきだが、詐欺師ではない」。 この違いを理解することこそが、私たちがAIという、人類史上最も強力で、最も不可解なツールと賢く付き合っていくための、全ての始まりとなります。

人間の詐欺師は、あなたを騙して自己の利益を得るという明確な「意図」を持って、合理的に嘘をつきます。その嘘には目的があり、法則性があります。逆に言えば、詐欺師がつく嘘は、注意深く観察すると見破ることができる場合もあります。

一方、AIのつく嘘（これは、後述するようにハルシネーションと呼ばれますが）に、意図や悪意は一切存在しません。AIはあなたを騙そうなどとは微塵も考えていません。AIの嘘は、あくまで学習した膨大なデータに基づき、統計的な確率に従って「次に来るべき、もっともらしい言葉」を繋げた結果、偶然に事実と異なってしまったシステム上のエラー、いわば「無邪気な嘘」あるいは「悪意のない嘘」なのです。


このハルシネーションに加えて、AIは、もう一つの厄介な性質を持っています。それは、学習データとなった人間社会の偏見や固定観念を、まるで鏡のように映し出してしまう「バイアス」の問題です。

この連載では、AIを使いこなす上で避けては通れない、この二大リスク「ハルシネーション」と「バイアス」と、それに加えてAIの仕組み上避けられない様々な問題点に焦点を当てます。


毎回、具体的な失敗例を挙げ、その現象がなぜ起きるのかをAIの仕組みから解き明かし、そして、そのリスクを回避するための実践的なプロンプト（指示文）の書き方を提案していきます。

この連載の記事を読むことで、あなたはAIを過度に恐れる必要はないこと、しかしその一方で万能だと盲信すべきでもないことに気づかれると思います。

この連載は、AIという平気で嘘をつく新しい友人の性格を正しく理解し、その能力を最大限に引き出すための、あなたのための実践マニュアルです。

１．AIはなぜ、もっともらしい嘘をつくのか？（ハルシネーション）

① 実例（１）：「その判例、存在しません」事件

これはアメリカで起きた有名な出来事です。

ある弁護士が、彼が関わっている事件について、過関連する判例がないかをAIに尋ねました。するとAIは、事件番号、裁判年月日、判決の要旨まで、実に詳細かつ、もっともらしい文章で回答しました。

この弁護士はその完成度の高さに感心し、その判例を元に資料を作成し裁判所に提出しました。

しかし、裁判所と相手方の弁護士が調べたところ、AIが提示した判例は、架空の巧妙に作り上げられたハルシネーションだったのです。

・実例（２）：まったく存在しない本を参考文献として紹介（私の経験）

これは私自身の経験ですが、歌舞伎の歴史についての文献を調べていたときに、服部幸雄 (2004) 『江戸の役者たち』 (岩波現代文庫)という本をAIが紹介しました。しかも、AIの紹介は、この本の内容要約を伴ったものでした。

しかし、この本は存在しない本でした。

服部幸雄さんという著者は実在して、歌舞伎関連の本を多数出版しておられます。しかし、彼の著作にこのタイトルのものはありませんし、岩波書店から彼が出版している本の中にもこのタイトルの本はありませんでした。

国会図書館の検索システムで『江戸の役者たち』を検索してみると、確かに一冊だけそのタイトルの本はありました。しかし、その本の著者は津田類さんで、出版社はぺりかん社、出版年は1987年でした。

② 仕組み：AIは「知っている」のではなく「予測している」

★AIがもっともらしい嘘をつくこと、つまりハルシネーションは、以下の2つの要因の重なりで起きます。

それは、①「AIは世の中の全ての情報にアクセスできない」ということと、もう一つの要因は.②「AIは確率論を使って分からないことを推測している」ということです。

AIが参照する情報は、基本的にはデジタル化された情報だけで、しかも誰もが利用できる（オープンアクセスな）情報だけです。

例えば、紙の本でだけ出版された書籍の内容を、AIは利用することができません。また、デジタル化されていても、例えばKindleのように、お金を払って買った人だけが利用できる情報（文献）は参照できません。

世の中に紙だけでしか刊行されていない本がたくさんあることだけを考えても、AIが正確に利用できる情報源は非常に少ないことが分かるでしょう。

しかし、その一方でAIは「推測」ができます。これは昔のコンピュータソフトなどにはなかったAIの優れたところなのですが、この優れたAIの能力があだになってしまうのがハルシネーションなのです。

つまり、例えば、あるデジタル化されていない紙の本について調べていたとします。その本はデジタル化されていないので、AIは直接その本の内容を把握できません。

しかし、世の中には、オープンアクセスな論文や書評などの中でその本の内容の一部を引用するなど、その本についての断片的な公開情報は存在しています。AIはそういう断片的な情報を使って、その本の全体像を推測してしまうのです。

もちろん、その推測が成功すれば万々歳なのですが、推測が推測を呼んで、さらにその推測の推測が新たな推測を呼ぶ…と言うやうにして、似ても似つかないものになってしまうことがあるのです。

これはまさに推論の暴走とでも言うべき事態ですが、推論が暴走してしまうともう手の付けようがありません。そのような暴走した推論の帰結が、間違い、つまりハルシネーションなのです。

★それでは、なぜこのような推論の暴走が起きるのでしょうか？それはAIが「考える」つまり「推論をする」仕組みによります。

なぜ、こんなことが起きるのでしょうか？ それは、AIが私たち人間とは全く異なる方法で「思考」しているからです。

私たちは、AIを巨大な知識データベースのように考えがちですが、その実態は「超高性能な、次に来る単語の予測マシン」なのです。

（ａ）人間の思考: 私たちは、物事を常識や経験、あるいは学んだ知識などに基づいて構築されたから「型（カテゴリー）」と言うフィルターに当てはめて理解します。（ちなみにカントの哲学では、このような型を「悟性」と呼んでいます。）

「これは法律の文章だ」「これは歴史の話だ」という「型」や枠組みの中で、知識や論理を組み立てます。そして、推論を勧めていくプロセスの中で、型に照らして、「なんか変だ」ということになると、そこで推論をストップさせてしまいます。こうして、私たちの思考では「推論の暴走」は起こりにくいのです。

（ｂ）AIの思考:  AIには、この種の「型」がありません。AIは、あなたが入力した単語の次に、統計的に最も出現する確率が高い単語は何かを計算し、それを繋いでいくだけです。

例えば、先ほどのデタラメな判例の提示の例でも、AIは「判例とは何か」を法律学的に理解しているわけではなく、「“判例”という単語の後には、“事件番号”や“裁判所”、“判決要旨”といった単語が来やすい」という確率を知っているに過ぎません。

こうして「推論の暴走」が起こっても、その暴走を食い止める「型」をAIは持っていないのです。

その結果、AIは「それらしい文章」を生成することには長けていますが、その内容が「事実かどうか」あるいは「妥当かどうか」などを検証する能力は持っていません。

確率の連なりが、偶然に事実と合致することもあれば、偶然に事実と異なる、もっともらしいだけの嘘（ハルシネーション）を生み出してしまうのです。詐欺師のように法則性を持って嘘をつくのではなく、「確率的」に、何の前触れもなく嘘をつく。これこそがハルシネーションの厄介な点です

③ 対策：「答え」を求めず、「根拠」を尋ねるプロンプト術

ハルシネーションのリスクを減らす鍵は、AIを「判定者」ではなく「リサーチアシスタント」として使うことです。

• 悪いプロンプト例（AIに判断を委ねる）

「〇〇は事実ですか？」 「この文章は正しいですか？」

• 良いプロンプト例（AIに判断材料を集めさせる）

「〇〇という主張について、その根拠となる信頼できる情報源（公式サイトや報道記事など）を3つ、URLと共に提示してください」

あるいは、「先ほどのあなたの回答について、その情報の出典は何ですか？」と重ねて問うことも大切です。

AIが「はい、事実です」と答えても、そこで思考を止めてはいけません。「その根拠は？」と問いをさらに重ね、提示された情報源を必ずあなた自身の目で確認する。

この一手間が、AIの無邪気な嘘からあなたを守る、最も確実な方法です。

２．AIはなぜ、偏見を持つのか？（バイアス）

① 実例：「CEO」は男性？「看護師」は女性？

あるユーザーが、画像生成AIに「CEOの画像を作って」と指示しました。

生成されたのは、いずれもスーツを着た白人男性の画像ばかりでした。

次に「看護師の画像」を指示すると、今度はほとんどが女性の画像になりました。

これでは、AIが「CEOは男性であるべきだ」「看護師は女性であるべきだ」という偏見（バイアス）を持っているかのように見えます。

② 仕組み：AIは「社会の鏡」：しかし鏡が歪むと、結論も歪んでしまう

AIは、特定の思想や偏見を持って生まれてくるわけではありません。AIのバイアスは、その学習データに由来します。

AIは、インターネット上の膨大なテキストや画像、書籍などを学習しますが、そのデータは、残念ながら偏見やステレオタイプに満ちた、私たち人間社会の状況や歴史を反映しています。

• 過去のニュース記事や書籍で、「CEO」として登場する人物の大半が男性であれば、AIは「CEOという単語と男性という単語は、統計的に結びつきが強い」と学習します。

• 社会に存在するジェンダー、人種、職業に関する固定観念がデータに反映されていれば、AIはそのパターンを忠実に再現します。

つまり、AIは「偏見を修正しないままに、そのまま写し出してしまう鏡」なのです。AI自身に悪意はなくとも、歪んだ社会の姿をそのまま映し出してしまう。それがAIのバイアスの正体です。

③ 対策：「無指定」を避け、「具体的」に指示するプロンプト術

AIのバイアスを完全に消すことは困難ですが、プロンプトを工夫することで、その影響を減らすことは可能です。鍵は「具体性」です。

• 悪いプロンプト例（AIのバイアスに任せる）

「医者の画像を作って」 「プログラマーのイラストを描いて」

• 良いプロンプト例（多様性を具体的に指示する）

「車椅子に乗った、東南アジア系の女性医師が、子供の患者に優しく話しかけている画像を作って」 「義手を使った、ラテン系のトランスジェンダーのプログラマーが、チームメンバーと笑顔で議論しているイラストを描いて」

AIに漠然と指示を出すと、学習データの中で最も確率の高い、ステレオタイプな結果が出力されがちです。

それを避けるためには、私たちが意識的に多様な要素をプロンプトに含め、AIをより具体的で、より公平な方向へと導いてあげる必要があるのです。

おわりに

この連載を通じて、私たちはAIとの対話術をさらに深掘りしていきます。

次回は、AIの「記憶力」の限界、いわゆる「コンテキストウィンドウ」の問題について、具体的な事例と対策を探っていきます。

AIとの賢い付き合い方を学び、この強力なツールを、あなたの人生や仕事を豊かにするための、真のパートナーへと育てていきましょう。

この連載では、AIを使うときの落とし穴とそれを回避させる方法、について、わかりやすく解説していきたいとおも思います。

今の時点では、次のようなテーマを考えていますが、読者の皆様に「こう言うことも取り上げて欲しい」というご希望がありましたら、取り上げたいと思いますので、コメントなどでお知らせ下さい。
·  序章（今回）：AIは「嘘つき」か、それとも「詐欺師」か？
·       AIの「ハルシネーション（非意図的な嘘）」と人間の「意図的な嘘」の違いから、AIとの基本的な向き合い方を提示する。
·  第1回：なぜAIは長文が苦手なのか？-「作業机の広さ」でわかるAIの限界
·       コンテキストウィンドウの概念を分かりやすく解説し、AIに仕事を頼む際の前提知識を共有する。
·  第2回：「これは正しいですか？」- AIに絶対聞いてはいけない質問
·       ファクトチェックや法的判断をAIに委ねることの危険性と、その理由を深掘りする。
·  第3回：AIを「思考のパートナー」に変える対話術
·       「根拠は？」と問いを重ねる対話法で、AIからより正確で深い情報を引き出すテクニックを紹介する。
·  第4回：「思考の型」がないということ - AIがもたらす独創性の源泉
·       AIの確率的思考が、人間の創造性をいかに刺激し、拡張しうるかについて考察する。

お読みいただき、ありがとうございます。
よろしかったら、ぜひアカウントの「フォロー」と「スキ」で応援していただけると嬉しいです。また、基本的に月曜日と金曜日に新しい文章を公開しておりますので、公開を見逃さないためにも、ぜひ「フォロー」をお願いいたします。