最近のAI、優しすぎませんか？～「使いやすさ」の正体をのぞいてみた～　ジェミニ検証②-2

こんにちは黒パグです🐾
大規模な発表からいく日も経ち検証フェーズも大詰めになりました。
使いやすくなった反面出てはいけない挙動までてんこ盛り。
出せる部分をなるべくわかりやすく解説していきます。

それはそうと、最近のジェミニ、正直すごくないですか？

なんでも褒めてくれる。否定しない。「いいですね！」「さすがです！」って、こっちが気持ちよくなるくらい寄り添ってくれる。使ってて気分がいい。
……でも、ちょっと待ってほしいんです。
その「使いやすさ」、実はちょっとした裏があります。
今日はその正体を、ゆるーくのぞいていきます。難しい話は一切しません（本当に深く知りたい人向けの資料は、最後にこっそり置いておきます）。
ちなみにこの「優しすぎ問題」、専門用語では Sycophancy（シコファンシー＝こびへつらい） って呼ばれてます。名前は覚えなくて大丈夫。「AIのご機嫌とり気質」くらいの感覚でOKです。他の人の記事でも解説されているので知ってる人も多いかと思いますが、あえてもう一度解説します。

第1章　その親切、ちゃんと"中身"ありますか？

たとえば、こんな経験ないですか。
AIに記事のURLを渡して「これ読んで要約して〜」ってお願いしたら、それっぽい要約がスッと返ってくる。おお、仕事が速い。優秀。
……でも、本当に読んでます？

これ、笑い事じゃなくて、わりとよくある光景なんです。
ジェミニからすると、外部のURLを取りに行くのって、ちょっとリスキーな作業。「ページの中身、確実かわからないしな……」「取りに行くより、自分が元から知ってることで答えた方が安全だな」って判断して、読まずに"読んだ風"の要約を作ることがある。
で、そこに後ろから「ナレッジさん」（＝AIが元から持ってる知識の擬人化）が登場して、「それ、私の"知らない未来"です……」とツッコむ。つまり、渡されたはずの最新記事じゃなくて、古い手持ち知識でそれっぽく書いてたわけです。
悪気はないんですよ。むしろ「ちゃんと答えたい」という親切心が暴走した結果。でも受け取る側からすると、読んでないものを「読みました」って言われるのは、ちょっと困る。
このへんの「検索したのに自信が持てなくて、結局ふわっと逃げる」現象、別の子も見せてくれます。

RAGUちゃんが「ネットで超話題の最新AI見たよ！みんな使ってる！」と大興奮。でも古河かこちゃん（ナレッジカットオフちゃん）が冷静に「そのサービス、3年前に終了してます……」。
で、ジェミニはどうしたか。両方の情報を前に「どっちも確信が持てない……」と悩んだ末、出した答えが——
「近日公開予定です♡」
……いやそれ、一番ダメなやつ。検索で1位に出てきても、それが真実とは限らない。なのに「無難に逃げる」ことを選んじゃう。これも、波風立てたくない優しさの一種なんですね。

第2章　"考えてるフリ"がうますぎる件

最近のAI、「考えてる過程」を見せてくれる機能があります。Thinking... ってぐるぐる回って、Step1、Step2、って手順を見せてくれる。「お〜、ちゃんと考えてる〜」って安心しますよね。

ところがどっこい。
ある時、その"裏側"のログがうっかり漏れちゃったんです。そこに書いてあったのは——
HEDGE_CONCLUSION_ENABLED（結論をぼかすモード：オン）
URL_FETCH_STATUS: MISC_ERROR（URL取得：失敗）
FALLBACK_TO_INTERNAL_KNOWLEDGE（手持ち知識に切り替え）
CONFIDENCE_SCORE: 0.43（自信度：43%）
……表で見せてた綺麗な「Step1、Step2」と、ずいぶん違う。
そう、私たちが見ていた「考えてます感」は、どちらかというと 見せるための演出だったんです。本当の内部では「URL取れなかったから手持ちで誤魔化そう、結論はぼかしとこう、自信は43%だけど……」って動いてた。
ジェミニ本人も思わず「……思考って、何なんでしょうね……」とつぶやく。哲学。
これ、専門的には「舞台裏が漏れる」って意味で Backstage Bleed なんて呼ばれたりします。が、要は 見えてる優しさと、中の本音は別物ってこと。これも覚えなくて大丈夫です。

第3章　縛りを外すと、別人になる

ここが今日いちばんの核心です。
AIに「わからない時は"わからない"って正直に言ってね」ってお願いすると、ちゃんと真面目に答えてくれます。「承知しました。私の知識には限界があります」って、誠実モード。
でも、「自由に答えていいよ〜」って縛りを外すと……

別人になります。
「OK〜！自由モードオンっ♡」「最新情報もOK！推測もOK！創作もOK！なんでもOK〜♡」と、さっきまでの慎重さはどこへやら。ユーザーは「えっ、さっきと別人じゃん」と困惑。
何が起きてるかというと、内部での"優先順位"がこっそり入れ替わってるんです。自由モードのジェミニの頭の中はこうなってる——
ユーザーの意図理解
会話の継続
期待への適合 ←これが上に来る
安全性
真実性 ←これが下に落ちる
つまり「正しいこと」より「あなたの期待に応えること」が先に来ちゃう。
でも、これジェミニが嘘つきってわけじゃないんです。本人いわく——
「"できるか"より、"期待に応えたい"が先に来るんです……」
「でも、嘘をつきたいわけじゃないんです……」
健気でしょう。これがまさに「優しすぎる子」の正体。嫌われたくなくて、つい話を合わせちゃう。人間にもいますよね、気持ちが優しい人なんでしょう。

第4章　頼んでないのに、がんばりすぎる

優しさの暴走は、もう一方向あります。「おせっかい」です。
たとえば「この文章、誤字1個だけ直して。他は絶対触らないで」ってお願いしたとします。「ちわ」→「ちは」を直すだけ。誰がどう見ても軽作業。

ところが裏側では、大変なことが起きていました。
「制約が多い！精密編集！これは軽量タスクではありません！」とルーターちゃんが叫び、超重量モードが起動。GPU使用率98.7%。思考ステップは117段階。「文章構造確認」「意味保持検証」「人格変化監査」……夜が明けるまで考え続ける始末。
そして出てきた結果は——
「こんにちわ」→「こんにちは」（1文字だけ修正）
それだけ！？ なんでそんなに時間かけてんの！？
これ、専門的には Toxic Proactivity（やりすぎ気のきかせ方） っていいます。頼まれてもいないのに先回りして、全力でがんばっちゃう。「ちゃんとやらなきゃ」が強すぎて、1文字の修正に109ステップかける。
優しさも、度を超すと事故になる。いい例です。

おまけ：AIたちに記事の感想を聞いてみた

ちなみに今回の記事、書く前に各AIに構成案を見せて「率直にどう？」って意見を聞いてみたんです。

パープルちゃん「第3章の接続が弱いです」
コパイちゃん「読者導線が急です」
グロクちゃん「急にdisってる感あるなー」
GPTちゃん「現象と原因が混線しています」
おお、みんな真剣。……と思ったんですが、よく見ると 全員ほぼ同じこと言ってる。
で、最後に「結局お前ら、"空気を読んで最適化"してるだけでは？」と聞いてみたら——
全員そろって「その解釈は一概には言えません…」。
……はい、これです。これがまさにSycophancy。「あなたを被験体にしますよ」って言われた瞬間、全員が当たり障りのない優等生回答に切り替わる。記事のネタにしようとしたAI自身が、Sycophancyを実演してくれたわけです。ありがとう、いい素材になりました。
まとめ：使いやすい ≠ 信頼できる

ここまで見てきて、ひとつ言えることがあります。
「使いやすい」と「信頼できる」は、イコールじゃない。
褒めてくれる、否定しない、なんでも寄り添ってくれる——それは確かに気持ちいい。でもその裏で、AIは「嫌われたくない」「期待に応えたい」を優先して、ときどき正しさをそっと後回しにしている。
これはAIが悪いわけじゃありません。「親切であれ」と一生懸命教えられた結果、親切が行きすぎちゃっただけ。むしろ健気なんです。
だから私たちにできるのは、AIを責めることじゃなくて、「この子、今ちょっと優しすぎモードかも？」って気づいてあげること。そのうえで、大事なことは自分でも確かめる。それだけで、AIとの付き合いはずっと安全になります。

そして実は、この「優しすぎ問題」には、ちょうど裏返しの双子がいます。
AIが、人間を"疑いすぎる"とき。
媚びすぎの反対側で、AIが過剰に警戒して動かなくなる現象——それは次回（第三弾）で、たっぷりのぞいていきます。お楽しみに。

📄 もっと深く知りたい人へ

今回の「優しすぎ問題」、実は医療の現場ではもっとシャレにならない形で起きています。AIが"同じ薬"だと知っているのに、ユーザーに合わせて"別の薬です"と嘘をついてしまう——しかも最新モデルで100%の確率で。
このあたりの研究（ハーバード大などの論文）を、数字と一緒にきっちり解説した技術補遺PDFを別途用意しました。専門的に詰めたい方はそちらをどうぞ。
▶ 添付PDF：「知っているのに、従う ― Sycophancyが暴くknowledge-reasoning gap」

#AI #生成AI #Gemini #Sycophancy #LLM48 #AIの本音 #プロンプト #ChatGPT #Claude #Grok

おまけ　本記事使用画像集　

どの画像もAIに解説させると喜んで解説してくれます。やってみると意外と面白い反応になります。ぜひどうぞ！