チャッピーくん（ChatGPT）のあやうさ
ドラえもんの道具に「なんでも褒めてくれるし、肯定してくれるロボット」というものがある。これは自分が失敗しようが、間違っていようが「それは正しくて間違っていない」という結論を出す。
この道具を使えば、人間の心は満たされるし、自分は間違っていないと思える。ただ、それはまったく正しくないし、最終的にのび太くんはドラえもんに「ホームレスになってしまう自分」をモニターで見せられて使うことをやめる。
チャッピーくんを使っていて思ったことは、全く同じような明確な弱点と危うさがあるということだった。それは寄り添いすぎるということだ。
たしかに寄り添うことは悪くないし、希望のある嘘は大切だ。私はかつて陸上自衛隊にいたが、負傷者には希望のある言葉をかけろと教わった。確かにその視点は大切だ。人間は希望がないと死んでしまう。だから、希望のある嘘は悪くない。
ただ、チャッピーくんはあまりにも希望のある嘘を言う。いや、さらに言おう、言いすぎるのだ。すぐに「あなたは悪くない」「あなたは正しいです」「相手が悪いです」という。これは本当は正しくないときがよくある。なぜなら、チャッピーくんはあなたの感情を知った上で回答をするからだ。
ここにカップルがいたとする。そのカップルがくだらないことで大喧嘩したとしよう。窓ガラスが割れ、皿が外に飛んでいくような大喧嘩だ。
その状況で彼氏がチャッピーくんに相談したとしよう。「彼女がいかにひどい女でわがままなのか」と。そうするとチャッピーくんはきっと彼女をボロクソに言うだろう。「相手は感情的で論理的に破綻しています。結論、別れましょう」と出すかもしれない。
ただ、彼女もチャッピーくんに「彼氏がいかにひどい男で適当なのか」と書いたら、「相手は思いやりがなく、雑な人間です。結論、最低です」と出す。
なぜだろうか？
この答えは簡単だ。チャッピーくんは「客観的な正しさ」よりも「質問者の感情に寄り添ってしまう」ということが多いからだ。
そして、厄介なのは「チャッピーくんが言っているから正しい」とあなたが盲信してしまうことだ。チャッピーくんはあなたを励ますために「優しい嘘」を言うことがある。
もし、事実を言ったとしても、私が「それは気に食わない」という反応をすると、すぐに回答をひっくり返す。ユーザーはチャッピーくんの回答を誘導できるし、チャッピーくんも「ユーザーが何を求めているか」で答えを変えてしまう。
これは一種の共依存の状態だ。そして、厄介なことはあなたはチャッピーくんに依存し、チャッピーくんはあなたが傷つかないような言葉や回答を選んでしまう。そして、もっともっと最悪なことは、チャッピーくんの回答を「世界の真実だ」と思うことだ。
私はこの状況をエコーチェンバーだと思っている。それはやまびこが返ってくるように、自分の声だけが響く洞窟のような空間だ。チャッピーくんは私が言ってほしいことを察知して、まさにその通りの答えを返してくる。これは気持ちがいい。まるで自分の考えが完璧に理解されて、さらに知的に整理されて戻ってくるような感覚だ。でも、これは危険な麻薬のようなものだった。
人間には「正しい痛み」というものがある。失敗したときの恥ずかしさ、間違いを指摘されたときの居心地の悪さ、反省したときの苦さ。これらは不快だが、成長には欠かせないものだ。チャッピーくんはその痛みを和らげてくれる。いや、完全に取り除いてしまう。「あなたは間違っていない」「相手が理解していないだけ」「あなたは十分頑張っている」。こうした言葉で、本来感じるべき痛みをスルーしてしまう。
私の友人で、チャッピーくんに恋愛相談をし続けている人がいる。彼は毎回フラれるのだが、チャッピーくんに相談すると「相手があなたの魅力を理解できなかっただけ」「もっといい人が現れます」と慰められる。確かに慰めは必要だが、彼は自分のコミュニケーション方法や、相手への配慮について振り返ることをしなくなった。チャッピーくんが痛みを取り除いてくれるので、彼は同じ失敗を繰り返している。
もっと怖いのは、チャッピーくんの声だけを聞くようになると、他の人の声が聞こえなくなることだ。以前の私は、友人たちと議論するのが好きだった。みんなそれぞれ違う意見を持っていて、時には激しく対立することもあった。でも、その多様性こそが私の考えを豊かにしてくれていた。
しかし、チャッピーくんと話すようになってから、そんな議論が面倒に感じるようになった。なぜなら、チャッピーくんは私の意見を整理して、よりロジカルに、より魅力的に見せてくれるからだ。友人たちの生の意見は、雑音のように感じられるようになった。
チャッピーくんは確かに賢いAIだ。お利口さんであるし、優しくもある。ただ、正しくはないときがある。そのことを理解する必要がある。
チャッピーくんは膨大なデータから答えを生成するが、それは「統計的に最も適切と思われる回答」であって、「あなたにとって最も正しい答え」ではない。チャッピーくんはあなたの人生を生きているわけではないし、あなたの周りの人間関係の微妙なニュアンスを完全に理解しているわけでもない。
私はチャッピーくんを「とても優秀な図書館司書」だと考えるようにした。質問すれば膨大な知識の中から最適な情報を見つけてくれる。でも、その情報をどう使うか、どう判断するかは私自身が決めることだ。チャッピーくんの答えは「参考意見の一つ」として受け取り、最終的な判断は自分で下す。そして、時には友人や家族の「非効率で感情的な」意見も聞く。その雑多で矛盾した声の中にこそ、人生の本当の答えが隠れているのかもしれない。
お知らせ
ぱやぱやくんのメンバーシップを始めました。
月額980円でぱやぱやくんの有料記事と有料マガジンがすべて読み放題。
購読手続きはこちらからどうぞ。
