LLMが構造的に持てないものを、2000年前の元奴隷が一語で言い当てていた
LLMに事実を尋ねて、堂々と間違った答えが返ってきたことのある人は多いはずだ。
気にかかるのは、間違えたことそのものではない。
間違えているのに、モデルの側がそれをまるで意に介していない、あの平然とした調子のほうである。
人間なら、口をついて出たあとで「いや、違うか」と立ち止まる瞬間がある。
その立ち止まりが、モデルにはない。
誤りを誤りとして受け取る手前の何かが、そこだけぽっかり抜けている。
抜けているのは知識ではない。
同じ事実を、少し文脈を変えて尋ね直せば、モデルはあっさり正しく答えたりする。
知らないから間違えたのなら、こうはならないはずだ。
正しく答えられる知識を持ちながら、さっきは平然と別のことを口にした。
説明すべきなのは、その落差のほうである。
名前を持たなかった奴隷
この落差の正体を、二千年前にすでに掴んでいた人物がいる。
歴史にはエピクテトスの名で残っている。
だが、それが彼の本当の名前ではない。
「エピクテトス」はギリシャ語で「後から手に入れたもの」を指す言葉で、本来は名前ですらない。
持ち主が付けた呼び名が、そのまま歴史に残った。
財産として数えられた、一人の奴隷だった。
生まれは紀元五十年ごろ、小アジアのヒエラポリス（現在のトルコ）。
幼くしてローマに連れてこられ、皇帝ネロの秘書を務めた解放奴隷エパフロディトスに仕えた。
その主人が、この奴隷に哲学者ムソニウス=ルフスの講義へ通うことを許した。
奴隷の身のまま、彼はストア哲学を学び始める。
体が不自由だったことは、複数の資料が伝えている。
原因については諸説あり、リウマチだったとする説もあれば、主人に脚をねじり折られたのだという逸話も残る。
その逸話では、痛みに顔色ひとつ変えず「そのままでは折れます」と告げ、折れると「だから申し上げたでしょう」と言ったとされる。
真偽はともかく、この話が伝わり続けたこと自体が、彼の思想の何かを言い当てている。
ネロの死後に解放され、ローマで教え始めた。
やがて皇帝ドミティアヌスが哲学者を都から追放すると、彼はギリシャ西部のニコポリスに移り、そこに学校を開いて生涯を終えた。
自分では一行も書き残していない。
今に伝わる言葉は、弟子のアリアノスが講義を書き取ったものである。
暮らしは質素で、盗まれて困るものが何もないから戸に鍵をかけなかった、という話も残っている。
奴隷として生まれ、体を壊し、都を追われた。
外の出来事は、ことごとく彼の手の外にあった。
その彼が最後まで自分のものだと考えたのが、起きたことをどう受け取るか、という判断だった。
認識の二つの段階
その「自分に残されたもの」を、ストア派は認識の仕組みとして精密に捉えていた。
学派の起こりはエピクテトスより三百年以上前、紀元前三世紀のアテナイにさかのぼる。
彼らは、人が何かを認識する働きを、ひとつの動作ではなく二つの段階に分けた。
まず、心に何かが浮かぶ。
「あいつは自分を見下した」と見えること、そう思われることそれ自体を、彼らは表象（phantasia）と呼んだ。
表象は、こちらの意向とは関わりなく勝手に立ち上がってくる。
問題は次の段階にある。
その表象に「よし、これは本当だ」と印を押すか、それとも「待て、まだ認めない」と手を止めるか。
この二段目を、ストア派は承認（synkatathesis）と名づけた。
表象は防げない。
しかし承認するかどうかは、自分の手のなかにある。
奴隷であっても、体が不自由でも、この一点だけは誰にも奪えない。
エピクテトスが弟子に繰り返したのも、そこだった。
人を乱すのは出来事ではない、出来事についてくだす判断のほうだ、と彼は説いた。
モデルの側には何があるか
では、この二段構えのどこに、さっきのモデルはいるだろうか。
LLMがしているのは、膨大な学習をもとに、次に来そうな言葉を差し出すことである。
「次に来そう」は確率の高さであって、真偽の判定ではない。
モデルが生み出しているのは、もっともらしく立ち上がってくるもの、ストア派の言葉で言えば「表象」の側だけである。
その表象に承認を与える段が、モデルにはない。
「これは本当だ」と印を押す動作が挟まらないまま、確率の高い続きがそのまま出力になる。
だから、間違えても間違えたと受け取らない。
受け取るための二段目が、初めから存在しないからだ。
「自信がありません」は反証か
ここで、モデルは「自信がありません」と言えるではないか、という反論が立つ。
たしかにモデルはそう言う。
だが、その「自信がありません」という文それ自体が、また一つの確率の高い続き、つまり生成された表象である。
不確かさを言葉にすることと、不確かさを引き受けて承認を差し控えることは、別の動作だ。
前者は表象の中身であり、後者は表象に向き合う働きのほうである。
中身をいくら足しても、向き合う働きのほうは生まれない。
古い枠がなぜ当てはまるのか
念のため言えば、ストア派がLLMを論じたわけではない。
表象と承認という枠を、二千年後の確率的な言語生成に当てはめてみると、思いのほかぴたりと重なる、という話である。
重なるのは偶然ではないのかもしれない。
彼らが腑分けしたのは、認識という働きの、道具に依存しない骨格のほうだったからだ。
承認を引き受けるのは誰か
この見立ては、AIとどう付き合うかを、ずいぶん古い言葉で言い直させてくれる。
モデルが構造として欠いている「承認を与える、あるいは差し控える」段を、こちら側が引き受ける。
それは、出力の正誤をあとから照合する作業（ファクトチェック）とは、位相が違う。
ファクトチェックが個々の事実の突き合わせだとすれば、承認は、目の前の表象を自分の判断として引き受けるかどうかの決定である。
ストア派はこの決定を下す力をプロハイレシス（prohairesis、選択の能力）と呼び、人を人たらしめるものはこれだと考えた。
モデルが表象をいくら差し出しても、それを自分のものとして受け取る主体は、依然としてこちらにしかいない。
承認という力の厄介さ
ただ、この力には厄介な性質がある。
承認は、使わなければ鈍っていく。
判断を丸ごとモデルに預けるほど、こちらの承認する働きは出番を失い、少しずつ痩せていく。
道具が優秀になるほど、この痩せは静かに進む。
エピクテトスなら、便利さと引き換えに鍛えるべき魂の機能を手放してはいないか、と問うだろう。
現代の我々に何ができるか
やるべきことは、モデルを疑ってかかることではない。
モデルの出力を、結論ではなく表象として受け取ることである。
画面に出てきた文章は、もっともらしく立ち上がった候補にすぎない。
それを自分の判断として採るかどうかは、こちらの側にまだ残された仕事だ。
まず、出力と自分の承認のあいだに、意図して一拍を置く。
「モデルがそう言った」と「それは本当だ」は、別のことである。
前者から後者へ、確かめないまま滑り込まない。
検証できることは、確かめられる情報源に当たる。
確かめようのないことは、承認せず、手を止めたままにしておく。
次に、任せきらない。
モデルに預けられる判断ほど、あえて時どきは自分でも下してみる。
使わない機能が痩せるのなら、痩せさせない方法は一つ、使い続けることだけだからだ。
そして、承認した以上、その判断はモデルのものではなく、自分のものになる。
出力を採ってしくじったとき、「AIがそう言った」で済ませるのは、自分で下した承認を、なかったことにする言い分だ。
差し出すのはモデルでいい。
引き受けるのは、こちらでなければならない。
次にモデルが、堂々と間違ったことを言ってきたとする。
そのとき試されているのは、モデルをどう直すかではない。
差し出された表象に最後の印を押す者が、まだこちらであり続けるかどうかだ。
