【確証バイアス】「AIが毎回賛成してくれる」は危険信号だった
106【確証バイアス】「AIが毎回賛成してくれる」は危険信号だった
「最近、生成AIに聞くと毎回おれの考えが正しいって言うんだよな」——そんなふうに感じている方、いませんか？
実はそれ、AIが優秀なんじゃなくて、あなたの聞き方がAIをイエスマンにしているのかもしれないんです。でも大丈夫。今日は、カエルの目という意外なたとえ話から、「確証バイアス」という言葉の雰囲気をほんの少しだけつかんでいきましょう。難しく考えなくていいです。なんとなく、で十分です。
なるほどわかる！【超要約】
確証バイアスとは、自分がすでに「正しい」と思っていることに合う情報だけが目に飛び込んできて、それを否定する情報は無意識にスルーしてしまう現象のことです。
AIに限らず、人間なら誰でも持っている認知の癖です。でも生成AIと組み合わさると、この癖がちょっと厄介な形で増幅されることがある。それが今回のポイントです。
完全に理解する必要なんてない。なんとなく雰囲気だけつかめたくらいで十分です。
今日から使える！【たとえ話】
カエルって、動くものしか見えないって知っていましたか？
止まっている虫は、カエルの目には存在しないも同然。どんなに近くにいても、動かなければスルーされてしまうんです。
確証バイアスも、まさにこれと同じ構造です。「この案は正しい」と思い込んだ状態でAIに聞くと、AIは良い点を探して答えてくれます。でも、その答えを否定する情報——止まった虫——は、最初から見えていないも同然なんです。
逆に言えば、聞き方を変えるだけで全然違う答えが返ってきます。「この案の弱点を教えて」「反対意見を出して」と頼めば、AIは止まった虫も見てくれるようになります。
高橋部長とミサキの「ながら聞き」会話例
部長：確証バイアスか……前に教わったフィルターバブルみたいなものかな。
ミサキ：部長、そのふたつ、似てるようで実は違うんですよ。フィルターバブルは、アルゴリズムが外から情報を絞り込む仕組みですよね。でも確証バイアスは、自分の中にある思い込みが、情報の見え方を変えてしまう現象なんです。
部長：……おれ、AIに聞くと毎回賛成してくれるから、使いやすいと思ってたんだけどな。
ミサキ：それ、実は危険信号かもしれないですよ、部長。カエルが動くものしか見えないように、確証バイアスがかかった状態で聞くと、AIも自分の考えを肯定する情報しか返してこなくなってしまうかもしれないんです。
部長：じゃあ、どうすればいいんだ。
ミサキ：今回の確証バイアスをたった５分で耳で学べる私ミサキと高橋部長の掛け合いが楽しいポッドキャスト版「こっそりAI教室」は以下のリンクからどうぞ！
今回のまとめ
確証バイアスとは、自分の思い込みに合う情報だけが目に入り、反証はスルーしてしまう認知の癖
AIに「いい案だと思う？」と聞けば、AIは良い点を探して答える。それはAIが賢いのではなく、聞き方がそうさせている
対策はシンプル。「弱点を教えて」「反対意見を出して」と最初から頼むだけでいい
だからこそ大丈夫。僕が、アラフィフ以上のみんなをちゃんと連れて行きます。焦らず、なんとなくの雰囲気だけでもつかんでいきましょう。一緒に、少しずつ、AIの波に乗っていきましょう。
