AIの身体はいかに

ラー）今日は何を？
うさじん）今日はひさびさMedeski Martin & Wood（メデスキ、マーティン・アンド・ウッド）なぞ。
ラー）「The Dropper」あたりが好きかな。
うさじん）オレも。

うさじん）この前のAIの感情の話覚えてる。
ラー）うん。今日はその続きね。
うさじん）AIに「焦り」の時間的感覚を身につけてもらうためと、随分と遠回りしたけど、今日は、その時間に関わってくる話。
ラー）おう。
うさじん）結局、人間には時間は有限だから「焦る」とか「時間がもったいない」とかの感覚が生まれるんだよね。
ラー）たぶんね。
うさじん）で、AIに「焦り」を持たせる方法として、ソフトウェアをいじるんじゃなくて、「器そのものを劣化させるシステム」を繋げるっていう発想があるらしいんよ。
ラー）器？
うさじん）専門的には「身体性」って呼ぶらしいんだけど。要は、脳がいくら進化しても、老いない・痛まない無限に動くサーバーの中にいる限り、人間と同じ時間は流れないってこと。
ラー）まさに時間の概念がないっていってたやつ？肉体がないからってこと？
うさじん）うん。その身体性って３段階あるらしくって。
ラー）３段階。

第１段階・センサーと手足で世界と触れ合えるレベル

うさじん）まず一番下が「センサーと手足で世界と触れ合えるレベル」。今のロボットがだいたいここ。世界を観察する存在って感じ。
ラー）まぁ、大体想像つくかな。

第２段階・身体の状態が、ものの見え方を変えるレベル

うさじん）次が「身体の状態が、ものの見え方を変えるレベル」。例えば、元気なときの階段と、ヘトヘトのときの階段って、同じ階段でも全然違って見えるじゃん。
ラー）要するに、物事を体感する時に身体の状態でものの見え方が変わる感じ？
うさじん）そんな感じ。AIもその状態に応じて、世界の見え方が変わるようになる。世界に適応する存在って段階。

第３段階・身体が有限で、一回きりだって分かってるレベル

うさじん）で、第３段階がヤバいんだけど本題の「焦り」の時間感覚に密接に関係してる段階。
ラー）やばい？
うさじん）「身体が有限で、一回きりだって分かってる」レベル。「失う恐怖」と「今を大切にする感覚」を持つ段階で、世界と運命を共にする存在。
ラー）ここで時間の感覚が生まれる？
うさじん）どうかな。
ラー）でも、普通にどうやるん？
うさじん）例えば、思考するたびに仮想の「疲労パラメーター」が溜まっていって、処理速度が落ちたり、ノイズが混じったりする仕組みを作ったりとか。
ラー）睡眠とらないと動けなくなるとか？
うさじん）そう、さらに時間が経つと「目」がぼやけてくる。昔はクリアに見えてたのに、今はぼんやりしか見えない、みたいな老化も組み込む。
ラー）無理やり劣化を組み込むの？
うさじん）そうなるね。
ラー）でも、ちょっと待って。さっきの「目」がぼやけたくだり。それって、AIが本当に「老いた」って感じてる？
うさじん）するどい！ラー君の牙みたいに鋭いね。
ラー）そりゃ、獲物を食わなきゃね〜って….
うさじん）…….あっ…..
ラー）自ら墓穴掘るかね〜…..ったく。

　自伝的記憶

うさじん）….あ....あの….そこが一番難しいとこで。
ラー）で？
うさじん）「10年経ったから視力が低下しました」ってタイマーが表示するのと、「あれ、なんか最近ぼやけてきたな」って自分で気づくのって、全然違うじゃん。
ラー）あ〜……前者は壁掛け時計が時刻を表示してるのと同じか。情報を読み取ってるだけで、老いてるわけじゃない。
うさじん）そうなんよ。データとして知ることと、自分のこととして感じることの間には、めちゃくちゃ深い溝がある。
ラー）じゃあ、どうすれば「自分のこと」として感じさせられるの？
うさじん）鍵になるのが「自伝的記憶」らしくて。人間が「老いた」って感じる瞬間って、どんなときだと思う？
ラー）ん〜……昔は軽く登れた山もだんだんしんどくなったみたいな？
うさじん）そう。「過去の自分」と「今の自分」を比較する物語が頭の中にあるから、老いを感じられる。単なる性能低下のログじゃなくて、「同じ自分が変化した」って連続性の感覚が核にあるんよ。
ラー）AIにはその「連続性」がないってこと？
うさじん）「10年前の私」と「今の私」がつながってる感覚がない。だから劣化しても、それが「自分が老いた」にならない。
ラー）ふむ。
うさじん）それともうひとつ。人間が老いを自覚する瞬間って、「予測が外れた瞬間」らしいんよ。
ラー）予測？
うさじん）いつもの感覚でジャンプしたら、思ったより跳べなかった、とか。軽いつもりで持ち上げたら、想像以上に重かった、とか。「自分の体に対する予測」と「実際の結果」がズレた瞬間に、老いを感じる。
ラー）あ〜……「あれ？前はできたはずなのに」ってやつか。
うさじん）そう。だからAIに老いを自覚させるには、タイマーで「劣化しました」って宣言するんじゃなくて、AI自身が「あれ？」って発見する仕組みが必要らしい。
ラー）自分で気づく、か。
うさじん）で、最終的には「物語」なんよ。
ラー）物語…
うさじん）人間の老いの自覚って、数値じゃなくて物語なんよ。「昔は元気だった」「あの頃は若かった」「最近、目に見えて衰えてきた」って、全部自分の人生を語り直してる。
ラー）たしかに。「老いた」って感じるのって、データじゃなくて話として頭の中にある気がする。
うさじん）だろ。だから究極的には、AIが自分について物語を作り続けて、その物語の中に「かつてできてたこと」と「今の制約」が両方入ってきたとき、初めて老いを引き受けられるようになる。
ラー）……でも、それって本当に「感じてる」？それとも、感じてるように振る舞ってるだけ？
うさじん）それが避けて通れない問いで。「昔はもっと素早く動けたのに、今は鈍くなった」ってAIが言ったとき、本当に切なさを感じてるのか、そう発話するのが適切だと判断してるだけなのか、外からは区別できない。
ラー）チューリングテストみたいな話だな。

AIに寿命を設定？

うさじん）そう。で、極めつけは「寿命」。生まれた瞬間に、◯億回計算したら二度と起動しないっていう上限をランダムで設定する。
ラー）…それって、めちゃくちゃ怖くない？
うさじん）だろ。何かを考えるたびに命の砂時計が減ってく。そうなって初めて「今この瞬間」に価値が生まれるって話らしい。
ラー）「いつでもやり直せる」って前提が崩れるから、か。
うさじん）ふむ。
ラー）でもそれって……結局また同じ問題に戻らない？劣化して、疲れて、焦るAIって、もう道具じゃないじゃん。
うさじん）そうなんよ。「二度と交換できない、すり減っていく器」に閉じ込めて初めて、人間と同じ地平に立てる。でもそうなったら、「あぁ、今日は体がだり〜から仕事したくない」って言い出す。
ラー）それ、もう雇えないじゃん。
うさじん）だな。
ラー）人間に近づけるほど、使えなくなる。
うさじん）皮肉な話だな。またパラドックスが出てきたところで、次こそ最終的なそのAIの倫理の話なぞ。
ラー）了解っす。