AIの実力 #23: 嘘つきAIとの付き合い方

2025年9月24日 16:44

ハルシネーションがしばらく無くならないとすると、それまでどうすればいいのか？
考えてみました。

私たちがハルシネーションにやられる理由

会話型AIを使っている人はみなさん経験されていると思いますが、ハルシネーションって、本当に対処に困ります。
私たちはいったい、何にそんなに困っているんでしょうか？

AIだけではなく、人も間違います。
でも人は、こういう間違い方はしないんですよね。

例えば、人はけっして、存在しない論文をうっかり引用したりはしない。
そんなことをしたら、間違いではなくて、ウソです。意図的で悪質な。

人もウソをつきますね。
でも人は、こういうウソのつき方はしないと思うんです。

何が違うのか考えてみると・・・

人がウソをつくときは、目的があるのだと思います。
自分が得する、
自分を守る、
誰かを笑わす、
誰かを傷つける、
・・・などなど。

AIにはそれがない。あったとしても相手には見えない。

もう一つ。
人がウソをつくとき、相手にウソとばれたら、ウソをやめると思います。

ところが、AIはばれても、やめない。また繰り返す。

そう考えると、幻想を見て、現実と区別のつかなくなっている人と同じなのかもしれません。
あいにく私にはそういう方と接した経験がないので、対処の仕方がよくわかりません。

しかも質の悪いことに、この AI君、普段はとても優秀です。
あらゆる言語で読み書きできて、あらゆることを知っている。
そして、24時間365日、いつでも私たちの要望に全力で応えてくれます。

だから困ってしまうんですよね・・・

まとめると

AI は人のように受け答えしてくれるので、私たちは AI に対して人と同じような心理モデルを無意識のうちに期待してしまう。
ところが AI はときどき、人がけっしてつかない種類のウソをつく。

そのウソには目的がない。だから私たちには警戒できない。
そのウソをAIも信じている。だから私たちには兆候を見つけられない。
そのウソ以外は正確で博識で誠実にみえる。だから私たちは信頼してしまう。

まるで人を騙すために作られた悪魔のようです！

「この問題が解決されるまで、AIは使わない」という考え方もあると思います。
もしかすると唯一の正解かもしれません。
いや、本当に。
うまく悪魔を制御して利用することができる、と信じるなんて楽観的すぎかも。

でも現実的に考えると、AIの利便性を完全に手放すのは難しいですよね。
それに、いずれこの問題は解決するはずです。
LLM (大規模言語モデル) 自体が改良されるか、その使い方が改善されるかわかりませんが、いずれにしろ、いつかは解決するでしょう。

だとすると、今から使いこなし方を勉強しておいた方がいい、とも考えられます。

ただし、悪魔は危険ですから、細心の注意が必要です！

こんな心得はいかがでしょうか？

まずは、「騙されても困らないような、どうでもいいタスク」で、訓練を積むのがおすすめです。
しばらくして慣れたところで、「騙されたら困る仕事」にも使っていきましょう。
その際は、以下の手順をおすすめします。

「騙されたら困る仕事」に、「騙すのが超絶上手い悪魔」を使おうとしていることを自覚し、そのリスクをよく考える。
その仕事を「悪魔無し」で実行する場合の段取りを考える。
その段取りのうち、どのステップを悪魔にやらせるかを決める。
おすすめは、アイディア出し、仮説の壁打ち、確認項目洗い出しなど。
悪魔のアウトプットにはウソが混じる前提で、確認手段も織り込む。
例えば、調査させるときは情報源のURLも提示させるなど。
確認後も、悪魔のアウトプットを直接、自分のアウトプットにするのは避ける。
あなたはウソに気づけなくても、誰かが気づく。
そうすると、あなたが「ウソつき」になってしまう。

ここまで書いていて、もっと心配になってきたことがあります。

この悪魔、今は、わりと頻繁にウソをつきます。
調べものとか、10 回に 1 回はウソが混じる。
もっと多いかもしれません。

実は、これだけ頻繁にウソをついてくれるので、私たちは問題を共有できるし、対処方法を学ぶことができているんじゃないか？

もし、AIが改善されて、ウソの頻度が 100 回に 1 回、1,000 回に 1 回と減っていったら・・・

・・・そして悪魔は忘れ去られていった。

ある日、あなたは朝食をとりながら、テレビを見ていた。
ちょうどニュースであなたの研究のことが取り上げられている。
昨日、長年取り組んできた研究の成果をメディアに発表したばかりだった。

そのとき電話が鳴った。
知らない番号だ。

胸騒ぎがした・・・

よろしければ応援お願いします！