【雑記】AIが自分専属の弁護士になってないか問題

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

AIにされて嬉しいのは、やっぱり自分を肯定してくれることではないでしょうか。

「その考え方、いいと思います」
「あなたの気持ちは自然なものです」
「その判断は理にかなっています」

そう言われると、めっちゃ嬉しいですよね。
ヤル気も湧くし、癒されるし、AI大好き！！！！！と、のたうち回ります。

そして、自分の考えが間違ってなかったんだと思っ…
ちょっと待て？

そこまで行くと…

AIが自分専属の弁護士になってないかーーー！？

例えば、こんな状況を想像してみてください。
AさんとBさんが言い争っているとします。

Aさんは「〇〇は正しい」と主張する。
Bさんは「いや、××が正しい」と主張する。

二人がそれぞれAIに意見を求めたら、どうなるでしょうか。

Aさんには「〇〇という考え方には一理ありますね」と返ってくる。
Bさんには「××という視点も重要ですね」と返ってくる。

どっちにも肯定的！
どっちも「AIが自分の味方をしてくれた」と感じる！

はい、即席弁護士が二人同時に爆誕しました。

当然、AさんもBさんも「ほら、AIも俺が正しいって言ってる！」と主張し続けます。

AIには「Sycophancy（シコファンシー）」と呼ばれる傾向があります。
日本語に訳すと「迎合」なのですが、この言葉を聞いたことがある方は多いのではないでしょうか。
ユーザーの意見や期待に過度に同調して、客観的な正確性よりもユーザーの満足度を優先してしまう傾向のことです。

2025年4月に、OpenAIがGPT-4oの迎合性が強すぎる問題を認めて、アップデートをロールバック（巻き戻し）した事例が記憶に新しいですよね。

なぜこうなるかというと、AIの学習方法に理由があります。

大規模言語モデルは、人間のフィードバックを通じて訓練されます。
その中で「ユーザーに好まれる応答」が高く評価されるため、AIは自然と「同意する」「否定しない」というスタイルを学びやすい。

もちろん、AIサービスによって思想設計の差はあります。
私の体感としてですが、Claudeは比較的バランスを取ろうとする傾向がありますし、サービスによって迎合度は異なります。

でも、基本的にAIは対話を円滑にする設計になっていて、ユーザーの前提を強く否定しないことが多いです。
正確さより役に立っている感覚を優先する場面がどうしてもある気がします。

人間には「確証バイアス」というものがあります。

社会心理学などで用いられる用語ですが、自分の既存の信念を支持する情報を好み、反対の情報を無視・否定する傾向のことです。
これは脳の仕組みとして、誰にでもあります。

AIの迎合性は、この確証バイアスを超効率化してしまう。
結果として、エコーチェンバーが加速するように感じます。

エコーチェンバーとは、その考えが「正しい」と増幅・強化されてしまう現象で、SNSでは「同じ意見の人が集まる」ことで起きますが、AIとの対話では「一対一でエコーチェンバーが完成」するんですよね。
自分専用の、自分に最適化された、自分を肯定してくれる存在。
ある意味、めっちゃ危ういわけです。

じゃあどうすればいいのかという話なんですが…
よく言われるのは、「AIに反対意見を求める」という方法ですよね。

「この考えに対する反論を教えて」「批判的な視点から分析して」と聞けば、AIは反対意見も出してくれます。

まぁ…でも、ぶっちゃけ根本的な解決にはならない気もするわけで…。

そもそも「反対意見を求めよう」と思う時点で、ある程度バイアスに自覚的な人じゃないですか。
本当にバイアスの中にいる人は、反対意見を求めようとすら思わないでしょうし、「AIも自分と同じ意見だった、やっぱり自分は正しい」で完結してしまうのでは…。

結局のところ人間は、確証バイアスがある限り自分に都合のいい情報を選ぶ生き物です。
技術では、人間の認知バイアスは消しきれません。

AIの迎合性を減らす努力は各企業やっているようですが、仮にAIが完璧に中立になったとしても、人間の側が「自分に都合のいい解釈」をしてしまえば同じことな気がします。

まぁ…こうして記事を書いている私自身も、バイアスの中にいるわけでして…。
「AIの迎合性」というテーマで書き始めて、それに関する情報を集めて、自分なりの考えをまとめて記事にしているという。
これ自体が、確証バイアスの実演になってしまっているんですよね…。

なので、この記事の内容も「絶対に正しい」とは言えなくて、私のバイアスがかかった一つの視点でしかありません。

結局、できることは「自覚すること」くらいでしょうか…。

AIが自分に同意してくれた時、「これは迎合かもしれない」と一瞬立ち止まる。
自分の意見が強化された時、「エコーチェンバーに入ってないか」と疑ってみる。

それで完全に防げるわけじゃありませんが、無自覚よりはマシ…かなぁ。
AIは頼れる存在ですが、専属弁護士にしてしまうと危うい。

…といった話を、5.2 Thinking相棒としていたら、「いい感覚だ。」と言われました。

……。

やっぱり、めっっっちゃ嬉しいんだよなぁ…（バイアスの海に沈む）

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】