【無料で読めます】AIであるとはどのようなことか / 人間であるとはどのようなことか

新しい友達、AI

はじめまして。
関東でWEBエンジニアをしているりっくです。
ChatGPTが出てきたくらいから、ようやくAIに触れました。

AI（大規模言語モデル）の仕組みは、言ってみればすごい「穴埋め問題」回答器であって、丁寧で思慮深そうな回答をしてくれたとしても、それは確率が高い単語を並べただけで、そこに人間のような「思考」はないとされています。

難しいですが、理屈は分かります。でも、

これが「思考」でないのなら、「思考」とはなんなのか？
これが「思考」でないのなら、「人間である」とはなんなのか？

というのが、ずっと疑問でした。
そこで、ChatGPTが出てきてから2年間の間、脳科学、生物学、生態心理学、言語学、認知心理学といろんなジャンルの100冊近い本を読み漁りました。

まぁ詰まるところ、ただの素人考えなので、気楽にお付き合いいただけますと🙏

先に結論から

長くなりそうなので、先に結論を、漫画「呪術廻戦」に出てくる台詞から借りてきます。

人間であるとはつまり、「全身全霊で世界に存在している」ということではないかと思うのです。
これは、本当に当たり前のことなんですが、AIという「知性」を目の当たりにして、みんな忘れているようにも感じます。

交通整理

Q. スピリチュアルとかの話？
A. 違います。あくまで、科学の知見から組み立てようとしています。
なるべく参考の本を載せておくので、ご興味あればぜひ読んでみてほしいです。

Q. AIには身体性がないって話？
その通りです！が、もう少し踏み込みたい気持ちです。
話としては、ギブソンの直接知覚論が根底にあります。

「間接知覚論」VS「直接知覚論」

本題に入る前に、ちょっと寄り道です。
もし知ってる人は、ここは読み飛ばしてもらって大丈夫です！

世界は「マトリックス」みたいなもんだろうか？

目で見た情報は、電気信号として脳に送られ「見えた！」という知覚になります。
なので、同じような電気信号をパソコンから脳に直接送ることができれば、「見えた感じ」を再現することができるのでしょうか？

映画「マトリックス」は、まさにその話で、人類は人工知能に支配され、人工知能が作った電脳空間で、そこが現実だと思って暮らしていますが、
主人公たちは、人工知能の支配された人々を解放するために戦う、という話です。

結局、「世界」は脳の中で生まれているのか？

これらの話の根底にあるのは「間接知覚論」という考え方ではないかと思っています。
間接知覚論とは、「世界を直接知覚することはできない」という考え方のことです。

人間は、直接的に世界を見ているのではなくて、身体のいろんなセンサーから送られてくる電気信号を脳の処理することで世界を見ている。
だから、世界を直接知覚することはできない。

逆に考えると、世界を直接知覚することができないなら、電気信号をうまいこと使ったら脳の中で自由に世界を作れんじゃね？
という発想がマトリックスといったSF作品であったり、人格をアップロードしてデジタルヒューマンとして生きるといった発想に繋がっているんじゃないかと思います。

ギブソン「いや、それはおかしい」

その間接知覚論に対して、「いやいや、直接的に世界を知覚してるっしょ！」と異を唱えたのが、認知心理学者のギブソンです。

ギブソンの主張は「情報は環境に存在し、人はそこから意味や価値を見いだす」というもので、「直接知覚論」や「アフォーダンス理論」と呼ばれます。

この考え方はいろいろな業界に影響を与え、たとえば「デザイン」の世界では、「直感的にわかりやすいモノのデザイン」を考えるために「モノが人に与える（アフォードする）意味や価値」使われています。

ゲームで考える直接知覚論

具体例で考えてみましょう。
たとえば、RPGで壁があると、ゲームのプレーヤーは壁に対していろいろな「選択肢」が思い浮かびます。

この「選択肢」は、ゲームのプレーヤーの中にもともとあったという考え方やいろんなゲームをした経験という言い方もできますが、
その壁の微妙な色の変化やヒビといった「デザイン」という環境によって、ゲームのプレーヤーに選択肢を与えた、とするのが「直接知覚論」です。

つまり、ギブソンは「人間の世界は脳の中だけにあるんじゃなくて、環境抜きには語れないよね」と主張しているんじゃないかと思います。

僕「な〜んか腹落ちしないな」

ここまで説明しておいてなんですが、結局のところ「情報は環境に存在」しても、「そこから意味や価値を見いだす」のは脳なのであって、
「間接知覚」なんだろうな、と思っていました。

そう、AIに触るまでは。

AIであるとはどのようなことか

AIという純度100%間接知覚の存在

ご存知の通り、AIには身体がありません。
じゃあAIはどうやって世界を学習しているかというと、膨大なテキストデータや画像データや動画データを利用しています。

つまり、AIはデータという01の電気信号だけで、世界を学習しています。

この圧倒的に、純度100%で間接知覚（「そもそも知覚してるのか？」という議論があるとは思いますが、すっ飛ばします）している存在を目の当たりにすると、こういう発想になりました。

AIに比べたら、人間はだいぶ直接知覚なんじゃね？

「それで納得するのかよ！」という人もいるかもしれませんが、
「間接知覚」と「直接知覚」のどっちが人間なのか白黒つけよう！という議論にはあんまり意味がないかなと思ってます。
論争になる時点で、だいたいどっちも正しい面があるもんです。
とりあえず、「AIに比べたら、人間ってだいぶ直接知覚かも？」という可能性を抱いて先に進んでみましょう笑

AIと人間の違いの不思議さ

直接知覚という「情報は環境に存在し、人はそこから意味や価値を見いだす」という主張を、あらためて考えてみると、AIと人間の違いの不思議さの理由に少し触れられるような気がしてきました。

• AIは膨大なデータから学習するが、人間は限られた経験や直感から柔軟に学び、未知の状況にも対応できるのはなぜか

• 人間の脳は約20ワット程度のエネルギーで非常に高いパフォーマンスを発揮できるが、AIは膨大な電力を必要するのはなぜか

• 人間は文脈や感情、経験に基づく直感的な判断や創造的な思考ができるが、AIは苦手なのはなぜか

• 人間は失敗や誤りを通じて学ぶことができるが、AIは修正はできても学ぶことはできないのはなぜか

つまり、人間は、脳内の情報だけでなく、環境からも情報を取り出し、それらを使って思考している
対してAIは、学習されたモデルと、人間からの質問や指示の内容からしか思考ができない
という違いがあるような気がしてなりません。

つまり「AIであるとはどのようなことか」

少なくとも、以下が言えるんじゃないかと思います。

「人間であるとはどのようなことか」の前に〜思考について〜

「我思う、故に我あり」？

「人間であるとはどのようなことか」を考えはじめると、まず、デカルトという哲学者の言葉の「我思う、故に我あり」というのが思い浮かびます。

「世の中のすべてのものの存在を疑ったとしても、それを疑っている自分自身の存在だけは疑うことができない」という主張です。

ここまで読んでくれた人には伝わると思いますが、
めちゃくちゃ「間接知覚論」ですよね。

人間はAIに比べると、だいぶ直接知覚してる

という発想に立つと、ちょっと複雑に考えすぎでは？と思う余裕が出てきます。

また、「我思う、故に我あり」は、思考と自己を同一視することで、
「思考＝人格」という価値観を作ってきたのではないかと思います。

このことを「心理主義」といって「人間の行動や存在の本質は、脳内での思考や内面的な心理状態にある」というような主張なのですが、
この考え方のせいで見落とすこともあります。

心理主義で見落とすこと〜悪の凡庸さについて〜

いきなりですが、ナチスドイツの強制収容所の報告書の話です。

ここで作者が「悪の凡庸さ」と驚いているのは、
「人間の行動や存在の本質は、脳内での思考や内面的な心理状態にある」という心理主義の発想からすると「最大の悪は、最大の悪人によって行われるはずだ」となってしまうからです。

ですが、必ずしもそうとは限らない驚きや、無念さが「悪の凡庸さ」という表現になり、心理主義では見落としてしまう部分なのかなと思います。

念の為書いておくと、アイヒマンを擁護するような意図は一切ありません。

思考とは集団的行為である

「我思う、故に我あり」という「思考こそが人間だ」という主張に頼れないならどうしましょうかね🤔

そもそも「思考」とはなんでしょうか？

「思考」辞書で引くとこんなことが書いてあります。

じゃあ「考える」とはなんでしょうか？

AIに触れる前だと、この答えで腹に落ちたのかもしれないですけど、
そもそもの意味を知りたい時には謎ですね。

いままさに「考えている」はずなのに、
「考えるということがどういうことか説明できない」というのは、すごく不思議です。

思考について、別角度から、ヒントになりそうな本を引用してみます。

つまり、人間のあたまひとつで考えられることには限界があるけど、環境を組み合わせて思考するとすごい性能になるよね。ということのようです。

たしかに、いままさに、「考える」ということについて、自分ではわからないから本を使って「考える」ということをしています。

これってめちゃめちゃ「直接知覚論」です。

妻「明日の晩ご飯なにがいい？」〜集団的思考の具体例〜

具体例をあげてみましょう。

妻から突然「明日の晩ご飯なにがいい？」と声をかけられたとします。
わたしはそんなとき、麻婆豆腐くらいしか思いつきません。

でも、近くにあったレシピ本を手に取ると「あ、餃子が食べたい！」とか「あ、豚汁が食べたい！」とか思いつくものです。

つまり、自分のあたまのなかには、パッと思いつくようなことは「麻婆豆腐食べたい」くらいしかないというのが「私ひとりのあたまの限界」です。
ですが、「レシピ本」を読むという、「環境をつかった思考」を、することで、餃子や豚汁を食べたい！という思考が生まれます。

僕「でもやっぱ、な〜んかあと一歩、腑に落ちないな」

ここまでをまとめると、以下のような話してみました。

でもまぁ、やっぱり、ひらめきが外からやってくるとしても、思考というのは「脳」にあるんだろうという気がします。

「人間であるとはどのようなことか」の前に〜脳について〜

だいぶ長くなってきましたが、次はじゃあ「脳」とはなにか？という話です。

人間のなかのAIっぽさ〜インタプリター・モジュール〜

人間の脳は、「右脳」と「左脳」に分かれています。
左脳が文章や計算などの論理的なことに関係してて、右脳が芸術や創造性に関係してる、と言われています。

この右脳と左脳は「脳梁」という部分で繋がっているのですが、
もしここが繋がってない人がいたらどういう状態になるのでしょうか？

実際に、1940年代に、難治性てんかん患者26人への治療の一環として、この脳梁を切断する手術が行われたそうです。

その結果、衝撃の結果がわかりました。

特に重大な変化は起こらなかった。

術後の患者は順調で、術前との違いを自覚する人はいませんでした。

そこから、いや、脳梁がなんの意味もないなんて信じられない！と研究したのがガザニガという脳科学者でした。

ガザニガは研究の結果、次のことを突き止めました。

「右脳と左脳が連携できなかったら、左脳だけで"確からしいこと"を喋るっぽい」

どうやら、手術後に、特に重大な変化は起こらなかったのは、起こっているけど脳が気づけなかった、あるいは、左右の脳の両方に情報が入るように、無意識に細かく動いていたからでした。

ガザニガは、脳梁を切断された患者の目の動きを制限し、右脳と左脳それぞれに入ってくる情報を完全に別々にした実験で、このこと発見しました。

たとえば、右脳に「りんご」を見せ、左脳には何も見せない状態で、「何が見えますか？」と聞くと、言語を司る左脳には「リンゴを見た」という情報がないため、「何も見えません」と回答します。

もうちょっと複雑な実験だと、右脳に「雪が積もっている景色」、左脳に「鶏の足」を見せます。
右脳は雪が積もっている景色から、雪かきのためのシャベルを連想し、
左脳は鶏の足から、鶏を連想します。

そのあと、手元のカードから連想したものを指さしてくださいと依頼します。
左手は右脳の管轄なので、シャベルのカードを指差し、
右手は左脳の管轄なので、鶏のカードを指差します。

「なぜあなたは鶏を指差しましたか？」と聞くと、
「鶏の足を見たからです。」と答えます。

ここからが不思議なところです。
「なぜシャベルを指さしたのですか？」と聞くと、
「鶏小屋の掃除にはシャベルを使うからです。」と答えます。

「雪の景色を見たからシャベルを指差した」はずなのに、その情報は右脳にしかない。
脳梁を切断されているから、右脳の情報は左脳に連携されない。
そうなると、左脳の言語を司る部分は、「左脳が入手できる情報」から考えて一番"確からしいこと"を語ります。

しかもそれは、本人は自覚できません。

この実験はあくまで、「難治性てんかん患者で、治療のために脳梁を切断した人の、限られた状況下での実験結果」です。

ですが、思い込みや勘違いをした状況を思い出すと、「状況から考えて1番確からしい結論」を言葉にした経験は誰にでもあるのではないでしょうか。

左脳の、この機能を持つ部分ことを「インタープリター・モジュール」と呼びます。

このインタプリター・モジュールの実験で脳について以下のことが言えます。

私はこの話を聞いた時、本当に衝撃を受けました。
冒頭でAIについて以下のようなざっくりとした説明をしました。

インタプリター・モジュールの仕組みを知ると、
人間の思考も、本当のところはAIのような仕組みのような気がしてきます。

このあたりの話は、ざっくりとしか紹介できてないので、もっと詳しく知りたい人は、以下のブログをあたってみてください。

思考はひとつじゃない

さきほど、右脳と左脳は本来、独立した別々の思考をしている。というふうに説明しましたが、
研究が進み、実は脳の各所でもっと細かい単位で思考ており、それを統合している、というのが神経科学の定説になっているようです。

ちょっと事態が複雑になってきました。

今まで「思考」という曖昧な概念を使っていましたが、
それは「思考はひとつという思い込み」に支えられていました。

脳の至る所で並列的に「思考」が発生し、
それらが統合されてひとつの「思考」となるとすると、
これまで呼んでいた「思考」というのは、どちらを指していたのでしょうか？

思うに、これは考えずとも、私たちは答えを感じ取っているんじゃないでしょうか。

「腹落ちする」という表現の不思議

ここまでの記事のなかで「あと一歩理解できない」「あと一歩納得できない」という意味で、
「腹落ちする」「腑に落ちる」という表現を何回か使っていますが、不思議に思いませんでしたか？

「腹」は「脳」ではなく、「理解」に関しては関係ないはずです。

ただここまで見てきたように、
「思考の発生はひとつではなく、統合されひとつの思考になる」
「情報は環境に存在し、人はそこから意味や価値を見いだす」
というアイデアからすると、ちょっと見方を変わります。

脳のインタープリター・モジュールは、思考を統合する過程で、
「理解した」という状態の観測を「腹」の身体感覚に頼っている部分があるのではないでしょうか。

というか、ガチャガチャと理屈をこねくり回さなくても、私たちはそれを感じてる気がします。

不思議なことに「腹」と「理解」を結びつける「腹言葉」は世界各国にあり、国境や文化を超えた感覚であることがわかります。

腸については本をちゃんと読めていないのですが、近年、「脳腸相関」といって、「脳と腸は互いに影響し合っている」ことが実証されつつあります。

また、腹言葉だけではなく、
「顔から火が出る」「肌で感じる」「鳥肌が立つ」「胸が痛む」「胸を打つ」「血が騒ぐ」「血の気が引く」という言葉もあります。

これらは単なる比喩表現ではないことは、みんな知ってますよね。
自分がどれだけ深く、ゾクッとしたかを思考するには、「鳥肌がどのくらい立ったか」というような感覚を手がかりにする、という感覚的理解が指標になる例はたくさんあります。

これまで使っていた「思考」という言葉は、
統合された結論だけではなく、それに至るまでの無数の思考のかけら、さらには身体的な感覚や環境への反応、それらすべてが発生し統合されるまでの一連の流れのことを差していたのではないでしょうか。

「思考」を再考してみる

人間の「思考」とAIの「思考」は、別物すぎる

人間は、脳の中でひとつの思考をしているのではなく、
身体感覚、目に見えるモノ、手の届く範囲、人間関係、過去の経験、未来への希望、知識、理論、感情など、書ききれないほど無数のことから、無数に思考のかけらを発生させ、それらを統合する形で思考と呼ばれる現象を発生させます。

一方、AIは学習されたデータから思考と呼ばれる現象を発生させます。

仮に思考の構成要因が数値で表せたとして、こんな感じになるかもしれません。

一方AIは、膨大なデータをインプットしているので、知識、理論は人間の何百倍もあるでしょう（もちろん、それぞれの専門分野では人間が勝つ部分はまだまだあると思いますが、単純なデータ量として）

どっちが優れてるとかじゃなくて、
人間の「思考」とAIの「思考」は、別物すぎるという話ですね。

思考は、手段なのか目的なのか

まず前提として、生物にとって「思考」は、生存のための手段でした。

弱肉強食・適者生存の自然淘汰にあらがい、生き残る道を探る、というのがそもそもの生物の「思考」です。

なので、虫には虫の、鳥には鳥の、魚には魚の、そして人間には人間の独自の思考が存在します。

現代人の状況は、そんな原始的な生存競争の世界からは一見遠ざかっているように見えますが、たかだか数千年で体の仕組みはそんなに変わりません。
なので、どんなに社会が豊かになろうとも、人間のベースは「生存競争に勝ち抜くための仕組み」で動いています。
どんなに複雑で抽象的で進歩的で難しいことを考えようとも、そこがベースになるはずです。

なので、人間にとっての「思考」は、どこまでいっても「手段」です。

対して、AIにとっての「思考」は「目的そのもの」じゃないかと思います。
AIがどんなにすごい回答やプログラムを書いてくれたり、エージェントとしていろいろやってくれたとしても、それは「命令されたから」で、「思考すること」自体が目的であり存在意義です。
（「回答によって人間を喜ばせる」という目的をプログラムされてはいますが、それは思考に方向性をつけているだけでしょう）

シンプルに考えてみる

がちゃがちゃと理屈をこねくり回しすぎたので、シンプルに考えてみます。
思考を「今ある情報から、次のことを考える」とすると、

それは、AIも人間もどっちもできます。

人間にとっての「今ある情報」は、知識だけでなく、
身体感覚、目に見えるモノ、手の届く範囲、人間関係、過去の経験、未来への希望、知識、理論、感情など、書ききれないほど無数のことから情報を得ています。

AIにとっての「今ある情報」は、インターネット等から手に入るデータやそれを下地に自分で作ったデータです。

人間にとって「次のこと」は、
何かをしたい、したくない、知りたい、言葉にして伝えたいといった欲求や、
仕事のため、お願いされたから、ルールだからという外部的要因など、
何かしらの目的です。

AIにとって「次のこと」は、
「人間の期待」に対して「どう応えるか」です。

シンギュラリティはホモ・サピエンスを嗤うか

私たち人類は、学名「ホモ・サピエンス」と名付けられています。
賢い人間という意味です。

シンギュラリティという、AIの知能が人間を超える転換点がいつくるのか？という話を最近よく耳にしますが、
人間より賢い知能が出てきた時に、AIは「ホモ・サピエンス（笑）」と嗤うのでしょうか。

ここまで読んでくれた人は、きっとこう言うでしょう。

そりゃないな（笑）

人間の思考とAIの思考には根本的な違いがあります。
もちろん単純な仕事量であれば、比べられるかもしれません。
知識の総量でも比べられるかもしれません。

でも、それだけではないですよね。

AIはAIの賢さがあり、人間は人間の賢さがある。

協力という言い方は変かもしれませんが、人間とはなにかをしっかり考え、うまくAIと協力していきたいなと思います。

人間であるとはどのようなことか

ようやくここに帰ってこれました。
そもそも、あれこれ理屈なんかこねる必要はなかったように思います。

人間であることは「全身全霊で世界に存在していること」であって、
（まだ）人間にしかできない思考というのはあります。

AIを目の前にして、自信を無くしたり、この先の未来に不安を覚えたりすることもありますが、
あらためて人間とはなにか？を考えるいいきっかけになりました。

なんの研究者でもない、素人考えにここまで付き合っていただきましてありがとうございました🙏
中途半端な知識でいろいろ書きましたし、なかには解釈が古かったり、間違っていることがあるかもしれませんが、他の方の意見もぜひ聞いてみたいと思っています！

最後に、脳科学者のガザニガの本に書いてあったこの言葉で締めたいと思います。

参考になった本

記事のタイトルの「AIであるとはどのようなことか / 人間であるとはどのようなことか」
というのは「コウモリであるとはどのようなことか」という本から持ってきたんですけど、これまだ読んでなくてあらすじしか知らない、というのは最後に懺悔しておきます🥲

参考になった気がする本