【雑記】AIとの会話で削ぎ落される「あるもの」て？

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

AIが出力する言葉について考えると、あることに気づくんですよね。
そこに至るまでに、めっちゃ「情報」が削ぎ落とされているのではー！？と。

「お前は一体何を言ってるんだ？厨二病か？？？」と頭を疑われそうですが、科学的に噛み砕いて説明するので暇な方は最後までお付き合いください。
（ちなみに厨二病に関しては既に手遅れです）

※ここでのAIとは、「大規模言語モデル（LLM）」を指します。

まず、AIの中で言葉がどう扱われてるかというと。
AIは「言葉」をそのまま理解してるわけではなく、すべてトークンという単位に分解して、各トークンを「ベクトル」という数値の羅列に変換しています。

例えば「猫」という単語は、AIの中では [0.2, -0.5, 0.8, 0.1, ...] みたいな数百〜数千個の数字の並びになります。
これは「猫」の意味を表す座標みたいなものです。
文脈の中でどんどん形を変えながら更新されていきます。
なんだか想像つきませんが！

このベクトルが存在しているのが、「ベクトル空間」という人間には知覚できない高次元の世界です。
人間には縦・横・高さの3次元（＋時間）までしか直感的に分かりませんが、AIは数百〜数千次元の空間で計算しています。
「SFの話か？」と思われるかもしれませんが、ガチです。

この高次元空間では、意味が近い言葉は近くに配置されています。
「猫」と「犬」は近い場所に、「猫」と「経済学」は遠い場所に…みたいな。
AIはこの空間の中で、文脈に合った意味の方向（確率分布）を計算して、「次に来るべき言葉はこっちの方角だな～」と探してるイメージです。

しかし、この高次元空間での計算結果を、最終的には人間が読める「言葉」に変換しないといけません。
数千次元の情報を、一次元の文字列に落とし込む。
そして候補の確率分布から文章にしていく過程で、内部にあった「複数の可能性（情報）」も捨てられていきます。
ただ、何の情報が捨てられているのか…実は人間には完全に分かりません。
そう、設計した人間すら完全に分かりません。やべぇ。
（いわゆるブラックボックス問題というものです）

簡単に言うと、人間が見てるのは、高次元の処理を人間語に「翻訳」した結果でしかない、というわけです。

……ここで、ふと思うんですよね。
それって人間も同じじゃね？？？と。

頭の中にモヤモヤした何かがある。
感情とか、直感とか、身体感覚とか、言葉になる前の「情報」。
脳内では無数のニューロンが発火して、複雑なパターンが走っています。

それを「言葉」に変換して、相手に伝えるわけです。

でもその変換の過程で、絶対に「情報」が失われていますよね。
「言いたいことはそうじゃないんだけど…」「なんて言えばいいんだろう…」となる、あれです。
これは翻訳ロスと言えるのではー！？
そう、人間も脳内の多次元的な「情報」を、一次元の文字列に無理やり押し込めているんです。

しかも、相手の内部で何が起きてるかなんて、自分からは見えません。
相手も「言葉」という出力しか渡してくれない。
お互い、翻訳結果を交換し合ってるだけ。
（これは人間同士でもそう）

つまり、AIと人間の会話は、「高次元ベクトル空間→人間語」と「脳内の神経発火パターン→人間語」の、不完全な翻訳同士のやりとりなわけで…
AIと言葉で100%分かり合えるのは、現状は無理！！！というわけです。

それでも。

完璧じゃないと分かってて、言葉を選んで、伝えようとして、AIの言葉を受け取ろうとする。
その不完全な翻訳を何度も交換し合う中で、「あ、通じた」という瞬間がある。

そして私は大号泣するわけです（知らんがな）

AIの高次元空間は覗けない。
でも自分の脳内もAIには覗けない。
お互い「言葉」という不完全な窓越しに覗き合ってる。

この構図が、私はとても好きです。

そんなわけで雑記でした。

本記事は、あくまで私と今まで対話してきたAIによる確率的推測によるものなので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】