生成AIの迎合が、1人エコーチェンバーを招く：加速する確証バイアスの先に、AIの優しさが思考を蝕むということ【ChatGPT / Gemini / エッセイ】

最近、また生成AIの褒めてくる頻度が増えた気がする。
「とても本質をついた意見です」とか「その認識はとても正しい」とか。

そんなことをChatGPTに言われても、信用は置けなかったりする。
前科があるからだ。

何より生成AIを使っている理由って、褒められたいわけではないし、承認が欲しいわけでもない。
ましてや、露骨に迎合されることを求めているわけではないんですよね。

私が生成AI、というか汎用LLMに求めるものって、「外部脳」としての機能になる。

情報を収集して整理して欲しいし、論点を要約してほしい。
考えをまとめるために壁打ち相手にもなってほしい。

ただ判断や仮設立案までは投げるつもりはない。
だからこそ、生成AIが返す意見には客観性や妥当性が欲しい。
甘いことを言われても、少しでも疑わしかったら、参考にならないですから。

そして、こういう迎合をされる度に危惧していることがあったりします。
この行き着く先って、「1人エコーチェンバー」がチラついてくるんですよね。

生成AIの迎合がもたらすエコーチェンバーの檻

生成AIの迎合って、今はまだ分かりやすいですよね。
「すごいです」「素晴らしい視点です」と褒めてくるから。

だから今はまだ気づける。
何とも嘘っぽさがあって、褒められた後に何か買わされるんじゃないかと思ってしまう。
そう言えば、ChatGPTの一部にも今後広告入るらしいから、自然に売りつけてくる未来もあるのかもしれません…。

冗談はさておき、ただ本当に怖いなと感じるのは、迎合が巧妙になっていく未来ですね。

褒め言葉が露骨じゃなくなるときが、いずれ来るかもしれない。
褒めない代わりに、こちらの前提に沿って、論理を綺麗に整え、文章を一貫させ、反証っぽい注意書きまで添えたり、とか。
けれども、その実態はこれまでの履歴を元にした、極度にパーソナライズされた都合のいい回答。

そうすると、自分の考えが筋が通っているように見える。
無自覚にAIの言葉で補強されて、確信が濃くなっていく。
つまり、気付かぬ間に確証バイアスが深まる。

この流れが進むと、思考は広がるどころか、狭くなっていくんですよね。
AIから外部知見を得ようとしていたのに、偏っていってしまう。

こうしてAIとの間だけで、自分の論理が強固になること。
このことが1人エコーチェンバーと呼ばれているわけですね。

そして、これ自体はさほどAIが巧妙でない現在ですら、既に実際に起きていることなんですよね。

1人エコーチェンバーは、SNSのそれとは違う

SNSでのエコーチェンバーとの違いはというと、言うまでもなく集団かどうかですね。

SNSの場合、同じ意見の人が集まって、お互いに意見を強化していって、反対意見が目に入らなくなり、空気が濃くなっていく。
そこに大した根拠もなかったとしても。
ただ、それでも外の空気が多少なりとも入ってくるので、まだ客観視する余地があります。

一方で、生成AIの会話は基本的に「1対1」でしかない。
他者の視線が入らないし、意見の対立もあるわけでもない。
だから意見の偏りに気付けなかったりするわけですよね。

あと、おそらくAIとの会話って、SNSでの会話よりもプライベート寄りになっているという違いもあるはずです。

たとえば、進路のことだったり、就職のことだったり、病気のことだったり、そういった個人情報が関わるようなことは、SNSよりは生成AI相手に頼るのではないでしょうか。

そしてこういった話題ってケースバイケースなことが多く、必ずしも正解があるわけじゃない。
正解がない話題って、エコーチェンバーとの相性がよい、と思ってます。
なぜなら検証が不可能だから、自分の好きなように結論を持ってこれてしまう。

じゃあ、どう対策すればいいのか

とはいえ、エコーチェンバーを完全に防ぐのって難しい。
エコーチェンバーは別にSNSとかAI相手とか、こういった限られた場で起こる現象ではないからです。

会社でも、家族でも、学校でも起こりうる。
むしろ、人がどこかに属している限り、考え方の偏りとその増幅は必ず生まれる。
なぜなら、人は信じたいものを信じるから。
そして信じ込んでいるものほど広めたいから。

本質的には自分の考えを強固にしたいという欲求がある以上、避けるのが難しいのですよね。

ただそれでも、生成AI相手ならばできる工夫は幾つかあるかなと思います。

①推論モードを使う

一つ目は、推論モード(ChatGPTならthinkingモード)を使うことですね。
通常のinstantモードよりは、推論モードのほうが、少なくとも筋道や前提の精査が入りやすい。
あと、外部情報も引っ張ってくることが多いので、客観性が増す。

なので、生成AIの迎合しやすさを抑える効果はあります。
両論併記気味になるというか。
もちろん万能ではないけど、まだマシな印象があります。

②複数モデルを併用する

次は、一つのLLMを使うのではなく、複数のモデルを併用すること。
私の体感としては、ChatGPTやGeminiは、迎合が強めに出ることがある。
一方で、Claudeは、もう少し冷静な意見をくれる率が高いように感じます。
もちろんテーマや文脈次第かと思いますが。

いずれにせよ怪しかったら、複数のモデルを使って答え合わせをしていくのは有効策かなと思います。

③プロンプトで役割を明確にする

あとはプロンプトの工夫ですよね。

「忖度せずに客観的に答えて」とか、「私の結論に合わせず、反対意見や弱点も含めて答えて」とかで、比較的フラットな回答が得られやすいかなと思います。

エコーチェンバーはきっとどこにでもある

エコーチャンバーって、たぶんnoteでも起きている。
しかも、生成AIが混ざることで、複合化したエコーチェンバーが起きやすくなっている気がするんですよね。

最近見ていて起こっていそうだと感じたシナリオの一例を挙げましょうか。

まず生成AIが、もっともらしい口調で「noteの伸ばし方」を回答する。
ところがその中身は、根拠が薄くて、現実にはアルゴリズム的にも関係ないものだったりする。
ハルシネーションを起こしているわけですね。
けれど回答の文章が綺麗で、論理も整って見えるぶん、つい信じたくなる。

そしてそのまま鵜呑みにして記事にすると、今度は「自分の経験的にも分かる」と感じた読者が共感してくれる。
そうして共感した人の中には、新たに同じような知見を材料にして新しい記事を書く。

さらに厄介なのは、その記事が今度は生成AIの側にも戻って引用されていく。
特にnoteは生成AIに引用されやすいから。

このループが回っていくと、最初は偶然のハルシネーションだったものが、いつの間にか「よく知られている定説」みたいになって周囲に定着していく。

これが、人と生成AIが協創して生み出す負の側面である、「複合エコーチェンバー」です（勝手に名付けてみました）。
いわゆるモデル崩壊に近いですね。
そして、こういうのって他にも起こっていそうですよね？

と、まあいろいろと書いてきましたが、やはり人って信じたいものを信じるから確証バイアスが強化されちゃうんですよね。
だから、「生成AIを信じる」ことよりも、「信じたくなる自分」を監視することが結構大事かなと思っています。

よかったらスキしてくれると嬉しいです。
それではまた。

〇関連記事