生成AIが嘘をつく理由

生成AIが身近なツールになってきましたが、日本では個人の利用率がわずか9.1%なんだそうです。中国56.3％、米国46.3％、英国とドイツの30％台と比べるとかなり低いですね。使わない理由としては「使い方がわからない」「生活に必要ない」といった声が多いようです。

でも、個人的にはもうひとつ理由があるのではないかと考えています。自分にも言えることなんですが、「日本人は正確さや慎重さを重視し、間違いを嫌う傾向がある」という点です。（個人の考えです）

生成AIは、ときどき嘘をつきます。これを「ハルシネーション」と呼びます。英語のhallucination（幻覚）からくる用語です。嘘をつく仕組みさえ理解すれば、生成AIはもっと便利に、そして楽しく使えるツールになります。

この記事では、生成AIが嘘をつく理由や、嘘（ハルシネーション）を減らすコツ、そして生成AIと楽しくつきあう方法をお伝えします。

生成AIが言葉をつくる仕組み

生成AIは、膨大な量の文章データを学習して、その中から「次にくる言葉」を予測しながら文章を生成します。例えば、「犬が」という言葉の次に「吠える」「走る」「寝る」などが続きそうだな、と統計的に判断して言葉を選んでいくわけです。この仕組みを、個人的に「人間の言葉をつなぎ合わせて紡ぐ文章」と表現しています。この仕組みについては前の記事でまとめていますので、よかったらご覧ください。

この仕組み自体はとても賢いのですが、ここにAIの嘘、ハルシネーションが生まれる原因が隠れています。生成AIは「正しいかどうか」よりも「自然に聞こえるかどうか」を優先して言葉をつなぐ傾向があります。そのため、事実と異なる内容でも、それっぽく聞こえれば平気で出力してしまうのです。

例えば、「日本で一番高い山は富士山で、標高は12メートルです」なんて、明らかな嘘を堂々と言ってしまう可能性もあります。これは、AIが「標高」という言葉と「数字」を関連づけて、それらしい数字を適当に埋めた結果かもしれません。

嘘を減らすコツ

できるだけ生成AIの嘘、ハルシネーションを減らしたいですよね。だれでもすぐできる簡単なコツがあるので、ご紹介します。

具体的な指示を出す

まず、質問や指示を具体的にすることが大事です。例えば、「日本の山について教えて」と聞くよりも、「日本で一番高い山の名前と標高を正確に教えて」と聞くほうが、AIは嘘をつきにくくなります。

あいまいな質問だと、AIは広範囲の情報の中からそれっぽいものを探し出して、適当に回答として当てはめてしまいます。

一方、具体的で焦点を絞った問いかけをすると、参照する情報の範囲が狭くなるので、AIが誤解をする余地が減ります。したがって、正確な回答が得られやすくなります。

情報の根拠を求める

次に、AIに「出典を挙げて」とか「信頼できる情報源に基づいて答えて」と頼むことで、ハルシネーションが減る傾向があります。AIが回答を提示したら、「それはどこからの情報？」と出典を聞き返してもいいですね。

AIが参照する情報が信頼できるものであれば、正確な回答を作ってくれます。また、出典や根拠が分かれば、その内容を自分で確認できるので、もし間違いがあっても気づくことができます。

自分でも確認するクセをつける

最後に、自分で間違いに気づくこと！これがミスを防ぐコツ。生成AIの答えをそのまま信じないで、自分で確認するクセをつけておくことが大切です。特に数字や歴史的な事実など、正確さが求められる場合は、他の情報源で事実を確かめておくと安心です。AIはあくまで「助手」として使う意識を持つと、嘘に振り回されにくくなります。

嘘と楽しくつきあうコツ

でも、正直なところ、生成AIの嘘ってちょっと面白いと思いませんか？もちろん、ビジネス上でミスが許されない状況は除く、という前提ですが、ユーモアとして楽しむ視点を持つと、AIとの会話がもっと豊かになります。

例えば、AIが「月にはピンク色のウサギが住んでいます」なんて言い出したら、「へえ、どんなウサギなの？」と聞いてみるのも楽しいです。そこから、「ピンク色のウサギが月で何をしているのか物語を作って」と頼めば、AIが奇想天外なストーリーを紡いでくれるかもしれません。嘘を「間違い」と捉えるのではなく、「創造性のきっかけ」として遊んでみると面白いですね。

生成AIで小説が書ける時代です。いろいろ会話しているうちに、ファンタジー小説が作れてしまうかもしれません！

生成AIをもっと楽しもう！

生成AIが嘘をつく理由は、その仕組みにあります。人間の言葉をつなぎ合わせる過程で、「自然さ」を優先するあまり、事実がねじ曲がってしまうことがあるのです。でも、その特性を理解すれば、嘘を減らすことも、逆に楽しむこともできます。

生成AIは完璧ではありませんが、日常に取り入れることで、調べ物を手伝ってくれたり、アイデアを広げてくれたりと、便利で楽しい相棒になってくれます。

生成AIを相棒にすると、退屈な調べ物が冒険に、日常が物語に・・・と、日常が今よりちょっと豊かになるかもしれません。ぜひ、言葉を作る仕組みを少し意識しながら、気軽に使ってみてください。