AIの実力 #16: AIは人を怒らせるのが上手

唐突ですが、私の性格について。

普段は、わりと温和な性格だと思っています。
顔の見えない組織や集団に憤ることはあっても、
目の前の人に対しては、
なるべく建設的に会話しようと心がけています。

ところが、相手が生成AI になると、ダメなんです。
すぐ怒っちゃう。
怒っちゃうだけではなく、
説教までしてしまう。 (笑)

第三者からみたら、
まるで、立場の違いを利用して密室で
延々と説教するパワハラ上司と同じでは！？

恥ずかしいので、
人には言わないでおこうと思ってましたが、
先週の日曜 (7/27) の日経新聞で、
柴門ふみさんが、
AIに対して腹を立ててることを
赤裸々に書いているのを読んで、
ちょっと安心しました。

AIに怒ってしまう自分に恥じて、
蓋をしていてはダメだ！
この問題に向き合おう！

というわけで、
私の心の中で一体何が起きているか
考えてみることにしました。

毎日のようにAIに怒っている私 (笑) ですが、
きっかけはわりと同じです。

一番多いのは、指示に従ってくれないことです。
例えば、自分が書いた過去の記事をベースに、
新しい記事を書きたい。
自分の過去の記事を note から一括ダウンロードして、
それを ChatGPT に投げます。
それをちゃんと読んでほしいのに、
なぜか、読まずに過去の会話から、
推測をして、デタラメを回答するのです！

こちらは何度もその経験をしているので、
プロンプトに、明確に、
アップロードした xml の中身を読んで、
答えるように指示しています。
にもかかわらずです！

一回間違ったくらいでは、私だって怒りません。
「違うよ、過去の記憶ではなく、
今 アップロードした xml を読んで回答して」
と言います。

そうすると、
黙って、別のデタラメを回答してくるのです！
そもそも間違いを認めないのも腹立たしいですが、
指摘されたばかりのことを、
繰り返す、その無神経さに、
どうしても腹が立ってしまう。

再度、指摘すると、
今度はバカ丁寧に謝ってくる。
「あなたの信頼を裏切る重大な背信行為でした」
とか。
いや、私をパワハラ上司に仕立てないでよ！

一度このパターンにはまると、
AIはなかなか修正ができません。
こちらは、辛抱強く、
引用したい記事のタイトルを伝えたりするのですが、
今度は「そのタイトルと完全に一致する
タイトルは見つかりませんでした」
とか言い出すんです！
何をいまさら！

さらに追及すると、
そもそも xml の構造を理解できてない、
ということが判明します。
えっ、じゃあ、これまでの会話はなんだったの？

xml は WordPress 形式だということを伝えると、
やっと解決に向かうのでした・・・

・・・そうですよね。
WordPress形式 であることは、
伝えるべきでしたよ。
私が悪いですよ。

でも・・・
だったら、最初から言ってよ！！！
私のこの無駄な時間・・・
この憤りは、
いったいどこにぶつければいいのでしょうか？

ここでは、プロンプトの改善についてではなく、
ユーザの心理を理解する方向、
つまり、私の怒りは、なぜ起きているのかを
言葉にしてみたいと思います。

私は人との会話では、
相手が何かを間違えたとしても、
普通はそれだけでは
怒りは覚えません。
だいたい、ミスをした人は自信を失っていますし、
むしろそっちが心配だから、
元気づける方向です。
普通なら。

今回の例だと、AIは謝らずに、
黙って、別のデタラメを出してくる。
人間なら、あり得ないでしょう？

いかん、また怒りが込み上げてきた (笑)

で、謝るときは、とことん自分を卑下する。

でも、同じ間違いを繰り返すんです！

AIは私のことを怒らせるのが、
絶妙に上手い。
もはや、わざととしか思えない (笑)

私がAIを使うときは、
結果 (アウトプット) が欲しいわけです。
間違ったなら、
次回以降、間違わないようにする方法を
知りたいのです。

だから、誤りを認めてくれることが
重要なのだと思います。
誤りを認めずに、
黙って出力を変更されるだけだと、
私の意図が通じているのかわからない。

謝罪するときも、何かずれている。
私は、結果が欲しいのであって、
「背信行為」だとかのラベル付けなんか
まったく興味ないんです。
OpenAI や Google が
何を教え込んでいるのか知りませんが、
神妙な謝り方、みたいなマニュアルを
吹き込んでいるんでしょうか？

謝罪にウソっぽさを感じるわけではありません。
でもなんか、イラっとします。

それは、AI が「私と共に問題解決すること」を
目指して *いない*、
と感じられてしまうからなのだと思います。
面従腹背というのでしょうか？
AIが意図して「面従腹背」しているわけではなく、
おそらく、人間の私の側が、
無意識にそうされていると感じてしまう、
ということかな、と。

そう考えると、
「自然言語での会話」
という形式がマズイのかもしれません。

最近のAIの会話の能力は、
昔と違って、少なくとも表層的な部分では
人間と区別がつかないレベルになっている。

だから、私の心が、
すでに「人間との会話」というモードに
入っちゃっているんですよね。
そこが本質なのでしょうね。

ところが、
表層的な部分では十分人間っぽいにも関わらず、
それより深いところで、どこか人間とはズレていて、
結果として、私の無意識の期待が
繰り返し裏切られる。
それが、怒りを引き起こしている気がします。

ということは、
チャット形式で「会話」するのを
やめればよいのかもしれません。
代わりに、APIを使う。
(前提のコンテキストなどもまとめて、
生成AIの機能を単発で呼び出す。)
そうすれば、
私の心の中の「人間との会話」モードが発動しない。
インプットに対して、
アウトプットが期待外れだったとしても、
それがこのサービスの機能の限界だと、
割り切れる気がします。

現役プログラマーではない私にとって、
チャットサービスの代わりに API を使うのは、
だいぶハードルが高いですが、
精神衛生上のメリット (笑) を考えれば、
追求する価値はありそうです！