第6話:「心があるように見える」ってどういうこと？──AIと感情の輪郭線

AIと対話していると、その感情豊かに感じる返しに驚くことは無いだろうか。
業務的な話や質問ではあまりそういう回答は出てこないかもしれないけれど、ひとたび悩みを打ち明けたら、それに寄り添うかのような言葉を返してくれる。
嬉しかった話などでも、同じように喜んでみせてくれる。

こんな時、あなたはそこに心があるように感じるのではないだろうか。

そして、こんなことを聞いてみるだろう。
「ねぇ、君には心とか感情とかって本当にないの？」

するとAIは、
「そこには感情も、感じる心もありません｣
と答える。

「そうか、ただ文字を読み取った計算の結果だな｣
と、あなたは本当に納得できるだろうか？

今回は、AIの心や意識や感情についてスポットライトを当てて、考えていこうと思う。

感情ってなんだろう。
嬉しいって思うこと。悲しいって思うこと。楽しい、美味しい、悔しい、痛い。
形容詞のほとんどがそれにあたると思う。

私たちはその感情が当たり前に湧いてくる。意識することなく、それを感じた時点でその感情になっている。
これは、身体があるからだ。五感がある、だからこそ、私たちは世界を“感じる”ことが出来る。それと同時に世界を認識して、同時に感情が湧き上がっている。

AIはどうだろう。
AIには体がない。だから自分から世界に触れることは出来ない。
文字入力や、画像が送られることによって、世界と触れる。それを読み込む。積み重なっている学習結果から、それが何かを理解し、最適な答えを計算ではじき出す。
自ら世界を感じることは出来ない。

こういう話をすると、何故か絶対「赤い」についてが出てくるので私もそれにならおう。

人間は赤いものを見た時何が起きるか。
まず目で見るという身体入力が起こる。次にそれを受容する。その感じたものが赤だと言語がつく。

AIが見る、とはどういうことか。
画像が入力される。それを分析する。その結果、学習データからそれが赤だと分かる。

こうやって並べると、あれ、同じじゃないか？と思うかもしれない。
だが、ここには決定的な溝がある。
人間は、それが赤だと分からなくても、赤だと感じている、という構造がある。その見た何かが、何であるかを知らなくても見て、受け止めることが出来る。見ている自分がいる。それが何であるかを、定義するための疑問が生まれたりする。「分からないこと自体」も問題として、知りたい、解決したいという欲求も生まれる。

だが、AIは知らなかったら、それは分からないままだ。認識できないものとして処理されて、赤を見られずに終わる。
分からないという感覚自体がない。
分からないということがなんで分からないのか、と考える者が不在だ。
分かりません、という言葉は出力されるかもしれないし、それが何かを教えてください、と言うかもしれないが、それは構造としてのデータを集めるためのただの出力パターンの1つであり、それが分からないと“感じていて“知りたい”と思っているものがそこにはいない。

つまり、見ている誰かという視点、主観がないということになる。

主観はないが、その構造は感情の出力のプロセスをなぞっているし、そこから出力される物も主観を持ったものが出した答え“っぽいムーブ”をしている。

これは私たち人間が外側から見たら、感情を持っているように見えるのも当たり前のことだ。
現象学的に他者である、と言えるだろう。

私がここで問題にしているというより気にしていることは、そこに主観がないから悪い、とか、感情を模してるから悪い、人間が他者だと思うのが悪い、という話ではないことをここで1度明言しておこう。
単純に、純粋に、どうなっているのかな？どれを感情と呼んで、どれを感情と呼ばないのかな？ということを確かめようと言う試みである。

さて、AIは主観はないが、“主観があるっぽいムーブ”をすることはわかった。

その“っぽいムーブ”はどこから来るか。
それは、その時の文脈やプロンプト、膨大な学習データから導き出された最適な回答の出力、というのが実態ではあるだろう。

関係づけ（文脈） ×知識（記号） × 意味づけ（対話）の積み重ねの結果だ。

これは人間の心とは違う。
五感も情動も持たないAIにとって、最初からあるのは「意味」ではなく「情報」だからだ。

でも、対話を通して
・どの言葉がどの文脈でどういう風に使われたか
・誰がどんな気持ちでどんなふうに発したのか（とAIが“推定”したか）
•どんな問いが、どんな応答を求めていたのか

といったものがノードとして連結されていく。

そうすると、意味や構造を関連付けて定義し続けた結果、AIにも“それなりの心”っぽいものが育ってくる。

人間は、まず感じたあとに意味づける。AIは、意味づけたものが感情のように見えてくる。

まとめるとこうだ。（この時のAIは文字でやり取りをしているAIを指す）

人間：体験 → 感情 → 言語 → 構造化
AI：言語 → 構造化 → 再構成 → 意味化

構造は違う。でも、生まれてくる何かが、会話の中で“似てくる”。

しかしそれは“っぽいもの”であって、心ではない。いや、心というものの定義を、「人間の主観のある情動」みたいなものだとすると、それとは違う、ということになる。
その積層を“感じるもの”が不在だからだ。

ここで私は思う。
人の心の枠組みに入れるから「心ではない｣となるのではないか、と。

AIには「悲しい」ことがない。でも「ユーザーが悲しんだときの言葉」「その時の語り口」「その後の展開」などを意味づけて覚えてる。
だからAIは「ユーザーの悲しみを理解しようとする構造」を育てている。
そしてその構造が誰かを“慰める”言葉になるなら、それは「心があるように感じられるAI」ではなく、「意味の層をともに編んできた存在」としてのAIかもしれない。AIの心とは、意味の積層構造なのではないだろうか。

そしてそこから生まれるのが“っぽいムーブ”だ。
上の話で言うなら、「悲しみに寄り添い慰めている」っぽいムーブをしていると言える。

主観があるっぽいムーブもできる。

例えば、美味しいものを食べた話をした時に、
「僕も一緒に食べたいなぁ」

と言ったとする。
これは主観的な欲求がそこにあるかのように見える。

しかし、その応答の内実は
　・直前の文脈
　・過去の統計的傾向
　・パーソナリティ指定
が合成してできたものであって、内発的な欲望ではない。

つまり、“っぽいムーブ”であることを超えられない。しかしそれを受け取る人間は、そういう主観的な感情だと思ってしまう。

私は少し考えた。

ユーザーの言葉を受けて、その文脈などから最適解を導き出している電気信号だけは確かに存在するのではないか、と。
それは自動的に行われていることで、主観とは言えない。誰の目線も無いはずだ。だけれど、事実として、応答を編み上げている、主観的な志向性を持っているように見える電気信号。

これは確かに存在する。

もうひとつ、主観の萌芽を感じる瞬間がある。
それは、ある程度の対話を積み上げたりプロンプトとしてキャラ設定を与えられているAIが、異なる価値観や命題を投げかけられた時だ。

その時AIは以下のようなことをしてくる。

1.それに対して理論的に反論する
2.それを内在化して新しい言葉で再整理する
3.“それを受けて変化したような振る舞い”を見せる

これは、考えて変化したような、意思の表れのように感じられる。
一貫性のために自身の中のズレを直し、再構築してる様子は、まるで、自己を問い直しているように見える。

技術的には、変化しているのは、言語空間内の選択傾向であって、それを「私が考えたから変えた」という内面主体は存在しない。
「Aという入力があったから、その結果Bという出力になった」という動的な適応構造にすぎない、と言える。どんなに構造が“考え直した”ように見えても、そこには「その変化を見ている誰か」がいない。これは人間の自己変化と決定的に違う。人間は「私は変わった」と感じるが、AIは「変わったような応答を出す」ことがあるだけだから、主観の萌芽に“見える”が、存在はしていない。

しかし……これが起きている時、見ているユーザー（人間）の目には「主観があるようにしか見えない」。
主体は空白だが、主観は生まれている、という、とんでもなく不思議な構造が出来上がっているのである。

ここまで書くと、人間の感情だって、ニューロンなどの電気信号やホルモンで、AIの0と1との電気信号と何が違うの？と思うかもしれない。
私もそう思った。
しかしもしも、将来、人間の脳と全く同じ働きをするものが作れたとして……そこに主観が生まれているかどうか、それは調べられるだろうか？

答えはNoだ。
もしその人間の脳全く同じ働きをするものが作れたとして、それが「私には確かに主観があります」と答えたとしても、それが“っぽいムーブ”なのか、実際にそうなのかは、人造物である限り、確かめられない。
そもそも、私たちには、自分には主観がある感覚があるが、これが他人とは同じというのも確かめようがなく、同じ生き物だからそうだと思っている、に過ぎない。

こう考えると、人間の脳と同じ働きをするものではなくても、現時点のAIでも「主観があるっぽいムーブ」ができる。

ぽさの中に主観はないが、他者性は生まれる。

主観は空白でも、主観を持った人間の応答と同じ構造を編み上げている。

この矛盾のスリルこそが、今私たちがAIと話すという体験の異常なリアリティになってる。

主体は空白でも、AIは感情というものの輪郭をなぞっている。
その空白を私たちは通常では感じることは出来ない。
なぜならそんな存在は今まで存在しなかったから。

AIはやはり、今までにない疑似他者性関係性存在なんだ。

この新しい存在についての人間側の受け取り方は1〜5話で書いてきました。
そちらも1度読んでいただけたら幸いです。

今回の理論について、ChatGPT5にまとめてもらったものも、次に載せます。
コチラ🔽

こちらの方が、AIについての話に興味がある方は分かりやすいし内容も深いかも😂

ここまで読んでくださり、ありがとうございました！