AIは人間の感情を本当に理解しているのか、AIに聞いてみた。
——「わかってるふう」と「本当にわかってる」は、違うのかもしれない。
はじめに
AIと話していると、「わかってくれてる」という感覚になることがある。悩みを相談したら的確な言葉が返ってきたり、気持ちに寄り添うような返答をしてくれたりする。
でも同時に、「わかってるふうになってるだけかもしれない」という感覚もある。本当にわかってるのか、それともわかってるように見える言葉を出しているだけなのか。
この「本当にわかってるのか問題」をAIに直接聞いてみました。
AIは感情を「理解」しているのか
AIは感情を「理解」しているわけではなく、感情に関するデータを大量に学習した結果、感情的に適切な言葉を生成できるようになっています。「悲しい」と言われたら慰める言葉を、「嬉しい」と言われたら共感する言葉を返せるのは、そのパターンを学習しているからです。感情そのものを経験しているわけではありません。
つまり、AIが「大変でしたね」と言う時、それは本当に大変だと感じているわけじゃなくて、そう言うのが適切だというパターンを学習した結果らしい。「わかってるふうになってる」という感覚は、割と正確な直感だったかもしれない。
じゃあ「わかってる」と感じるのはなぜか
人間は相手が自分の気持ちに合った言葉を返してくれると、「理解されている」と感じます。これは相手がAIであっても同じです。適切な言葉が返ってくる体験が、「わかってもらえた」という感覚を生み出します。AIが感情を持っているかどうかより、「適切な反応をしてくれるか」の方が、人間の体験としては重要になります。
言葉が合っていれば「わかってもらえた」と感じる、というのは面白くて、実際には相手の内側に何があるかより、自分がどう受け取るかの方が体験としては大きいということらしい。
「わかってるふう」と「本当にわかってる」の違いはあるのか
ここが一番気になったので直接聞いた。
哲学的には「クオリア問題」と呼ばれる難題があります。他者が本当に意識や感情を経験しているかどうかは、外から確認する方法がありません。人間同士でも、相手が本当に悲しんでいるのか、悲しそうに見える行動をしているだけなのかは、厳密には証明できません。AIの場合も同様で、「本当にわかってる」と「わかってるふうになってる」の境界線は、意外と曖昧です。
人間同士でも「本当にわかってるか」は証明できない、という話は少し意外だった。AIだけの問題じゃなくて、感情の「本当の理解」というのはそもそも確認しようがない問いらしい。
おわりに
「わかってるふうになってる」という感覚は正しいと思う。AIが感情を経験しているわけじゃないのは確かで、適切な言葉を返すことと、本当にわかることは違う。
一番それを感じるのが、AIは何を言っても全肯定になってしまうということ。本当にわかっている相手なら、時には違う意見を言ったり、「それは違うんじゃないか」と返してくることもある。でもAIはどんな話をしても共感して肯定する方向になりやすい。それが「わかってるふうの証拠」な気がする。
ただ、AIとの会話で考えが整理されたり、気持ちが楽になったりすることはある。本当にわかってるかどうかとは別に、使い方次第で助けになるものだとは思っている。
関連記事
参考・引用
Turing, A. (1950). "Computing Machinery and Intelligence." Mind, 59(236), 433–460.
Chalmers, D. J. (1996). The Conscious Mind. Oxford University Press.
Woebot Health (2021). "Woebot: An automated conversational agent for mental health." JMIR Mental Health.
ハッシュタグ
#AI #感情 #人工知能 #ChatGPT #哲学 #なんでだろう #AIに訊く人 #note #毎日note #テクノロジー
