見出し画像

世界の終りとハードボイルド・ワンダーランドのAIをめぐる冒険

村上春樹が1985年に発表した『世界の終りとハードボイルド・ワンダーランド』では、人間の意識や脳をコンピューターやシステムに見立てる記述が数多く登場する。それは著者のイマジネーションの発露であるとともに、当時の最先端の研究や現代のAIと連携している。


記号主義の隆盛と衰退、そして強風世界

とても単純化していうと、AIとは人間の意識と知能をコンピュータで再現するものである。その手法として、長らく主流だったのが「記号主義」という人間の思考を記号と論理で記述するトップダウン型のAIだった。

しかしながら、どんなに数式を複雑化しても、非定型的である人間の思考をカバーすることは難しい。どれだけ高度な技術を駆使しても、記号士が計算士のブラックボックスを解読することはできなかったように。

1982年、絶頂期にあった日本のコンピュータ企業と通産省は「第五世代コンピュータプロジェクト」を立ち上げた。これは最も洗練された形で記号主義を実現しようとする壮大な試みだったが、人間の複雑な思考を論理ルールで網羅することはできなかった。10年の歳月を費やしたが商用化に失敗し、風はぱたりとやんだ。

記号士たちはコンピューターから盗んだ数値に仮設プリッジをかけて解続しようとする。つまり数値を分析してホログラフにそのギザギザを再現するわけだ。それはうまくいくときもあるし、うまくいかないときもある。

世界の終りとハードボイルド・ワンダーランド 3章

AI研究の転換期の文芸的表現

記号主義に対して、「ルールや論理式では現実はカバーしきれない」ことを受け入れた上で、とにかくコンピュータにたくさん学習させて、人間の神経回路のようなニューラルネットワークで、非定型的な思考にも対応させるボトムアップ型の手法が「コネクショニズム」である。

1980年代はハードウェアの性能もデータの量も足りなかったが、その後のハードウェアの進化と、インターネットの普及による爆発的なデータの蓄積、そしてネットワークの高速化によってコネクショニズムは大発展を遂げて主流となり、現代の生成AIへとつながっている。

そして提唱者であった物理学者のジョン・ホップフィールドジェフリー・ヒントンは、2024年にノーベル物理学賞を受賞した。

記号主義が盛り上がる反面、その限界が明らかになりつつあった1985年に村上春樹が発表したのが『世界の終りとハードボイルド・ワンダーランド』だった。そこで描かれる記号士と計算士の抗争は、当時進行中だった記号主義に対するコネクショニズムの挑戦を想起させる。

1982年にはニューラルネットワークに新たな計算能力が出現する可能性がホップフィールドの論文で示唆されていたが、当時のコネクショニズムは未熟で問題を解決できず、(小説の老博士がそうであったように)無理矢理チューニングしても失敗してしまうこともあった。

人間の深い意識は、論理式の組み合わせでは説明できず、無数の情報の断片が複雑に絡み合った「分散表現」としてしか成立し得ないのではないかという、1985年当時のAI研究が直面していた問題が、計算士と記号士の対立という形で表現されている。

二次転換はリスクが大きすぎます。たしかにあれは仮設ブリッジ介入の可能性をゼロにしますが、今の段階ではまだ曲芸のようなものです。転換プロセスがまだはっきりと固定していないんです。研究途上というところですね

世界の終りとハードボイルド・ワンダーランド 3章
単純な回路と高次神経系の複雑な計算特性を結びつける架け橋は、多数の単純な処理要素の集合的な振る舞いから新たな計算能力が自発的に出現することにあるのかもしれない。J. J. Hopfield, "Neural networks and physical systems with emergent collective computational abilities," Proc. Natl. Acad. Sci., vol. 79, no. 8, pp. 2554–2558, Apr. 1982, doi: 10.1073/pnas.79.8.2554.

意識の核を再襲撃

1986年(小説発表の翌年)にヒントン、認知科学者のデヴィッド・ラメルハート、そして計算機科学者のロナルド・ウィリアムズは「バックプロパゲーション」という「入出力の間にあるが、人間には容易に解読できない隠れ層を調整して学習させる概念」を発表した。これは、現代の深層学習モデルの基盤を成している。

バックプロパゲーションは、目標値と出力の誤差を、出力層から入力層へと逆向きに伝播させ、ニューラルネットワークの「重み」が誤差にどれだけ影響しているか(勾配)を計算し、それによって予測の精度をあげていく手法である。解は『perfect』である必要はない『better』であればよいのだ。

計算士として主人公は「意識(入出力)の奥にある核(隠れ層)を調べ上げ、特定のパターンを抽出し、再び脳にインプット(逆伝播・フィードバック)し直す」トレーニングを受けた。これはすなわち「バックプロパゲーション」の概念と、それが発表される前年の時点で符合し、一足先に文芸的に昇華されたものである。

彼らは私を二週間冷凍し、そのあいだに私の脳波の隅から隅までを調べあげ、そこから私の意識の核ともいうべきものを抽出してそれを私のシャフリングのためのパス・ドラマと定め、そしてそれを今度は逆に私の脳の中にインプットした 

世界の終りとハードボイルド・ワンダーランド 11章
重み調整の結果、入出力の一部ではない内部の「隠れ」ユニットがタスク領域の重要な特徴を示すようになり、タスク内の規則性はこれらのユニットの相互作用によって捉えられる。D. E. Rumelhart, G. E. Hinton, and R. J. Williams, "Learning representations by back-propagating errors," Nature, vol. 323, no. 6088, pp. 533–536, Oct. 1986, doi: 10.1038/323533a0.

ある種の意識のカオスについて

1985年にヒントン、計算機科学者のデヴィッド・アックリー、そして神経科学の権威であるテレンス・セイノフスキーによって開発された確率的回帰結合型ニューラルネットワークであるボルツマンマシンは「世界の複雑な特徴を自ら見つけ出しモデル化できるAI」であり、現在の生成AIの支柱の一つである。

ボルツマンマシンは、ニューラルネットワークの弱点である「そこそこ良い答え(局所解)」を見つけると、そこで満足して計算を止めてしまうという限界を突破するために、あえてノイズを許容して取り入れ、隠れ層を含む複雑な内部表現を学習することによって克服する。

主人公の計算士は、シャフリングの際、あえて「カオスの中(無意識のトンネル)」へと沈み込むが、この「あえてカオス(ノイズ・熱的な揺らぎ)の中に意識を投じ、ブラックボックスの内部システム(隠れ層)を通過させてから再び安定状態に戻す動作はまさにボルツマンマシンである。

それがコールされると同時に私の意識はカオスの中に沈みこむ.私はそのカオスの中で数値をシャッフルする。シャッフルが終ると〈世界の終り〉のコールも解除され、私の意識もカオスの外に出る。シャッフルは完成し、私は何ひとつ記憶していない。

世界の終りとハードボイルド・ワンダーランド 11章
局所的なエネルギー極小値から抜け出す簡単な方法は、時折、より高いエネルギーの配置へのジャンプを許容することである。D. H. Ackley, G. E. Hinton, and T. J. Sejnowski, "A learning algorithm for Boltzmann machines," Cogn. Sci., vol. 9, no. 1, pp. 147–169, Jan. 1985, doi: 10.1207/s15516709cog0901_7.

象工場はハッピーエンド

老博士は、人間の意識や記憶が保存されるのは、静的な保管庫(墓場)ではなく、ニューラルネットワークのように無数の断片が動的に相互作用するシステム(工場)であると説明する。

1986年(小説発表の翌年)に歴史的なパラダイムシフトをもたらした、ヒントンラメルハート、認知心理学者のジェームズ・マクレランドによって提唱された「PDP:並列分散処理」という概念では、AIの認知処理は無数の断片の相互作用によってもたらされ、記憶は動的に再創造される。

村上春樹が「象工場」として表現した、「記憶の破片の分散処理」と「ネットワークによる記憶の創造」は、当時の最先端の科学的アプローチを、文学的な想像力で見事に具現化したメタファーに思える。

象の墓場という表現はよくないですな。何故ならそこは死んだ記憶の集積場ではないからです。正確には象工場と呼んだ方が近いかもしれん。そこでは無数の記憶や認識の断片が選りわけられ、選リわけられた断片が複雑に組みあわされて線を作り、その線がまた複雑に組みあわされて束を作り、そのバンドルがシステムを作りあげておるからです。それはまさに〈工場〉です。

世界の終りとハードボイルド・ワンダーランド 25章
こうした直感を明確にするために、我々や他の研究者は、並列分散処理(PDP)モデルと呼ばれる一連のモデルに着目した。これらのモデルは、情報処理がユニットと呼ばれる多数の単純な処理要素の相互作用によって行われ、各ユニットが他のユニットに興奮性信号と抑制性信号を送るという前提に基づいている。D. E. Rumelhart and J. L. McClelland, Parallel Distributed Processing: Explorations in the Microstructure of Cognition, vol. 1. Cambridge, MA, USA: MIT Press, 1986.

意味がなければシャフリングはない

AIが人間のように思考できるかという議論は古くからある。「人間と区別できない程度に知的に振る舞うか」の判定として、コンピュータの父と言われる天才数学者、アラン・チューリングが1950年に提唱したのがチューリングテストである。具体的には、人間とAIが会話して、審査員が判別できない場合、合格したとみなす。

しかしながら哲学者ジョン・サールは1980年に「中国語の部屋」という思考実験を提示した。中国語を全く理解できない人が、プログラムを使って質問を全く理解しないまま、中国語の質問に答えることができても、それは中国語を理解しているとはいえない。つまりAIがデータ操作して正答したとしても、それは思考しているとはいえないと主張した。

計算士の主人公が行う「シャフリング」は、この「中国語の部屋」における人間の状態を、脳内に実装したシステムである。「中国語の部屋」の住人が、処理している内容を全く理解していないのと同様に、計算士もまた、自分がシャッフルしているデータの意味内容を一切把握しない。データは主人公の頭の中を素通りしていくだけであり、シャッフル完了後は「何ひとつ記憶していない」状態であり「私は無意識のトンネルの底をごろごろと通りすぎるのに過ぎないのだ」。

サールの「中国語の部屋」は、AIが意味を理解せず記号を操作しているに過ぎないことを示すための思考実験だったが、村上春樹はこれを反転させて、「人間の脳そのものを、意味を理解しないAIのように使役するシステム」として定義し、その過程を「シャフリング」として描写している。それは外部から入力した情報を、GPUCPUの代わりに頭脳に処理させるというとんでもない状態である。

主人公の計算士は他の計算士が命を失っても、黙々と自らの仕事をし、ハードボイルドでタフな矜持を保ち続ける。そして老博士の実験によって自らの存在が危機に瀕しても、じたばたせずに毅然として人々を祝福する。それはプログラムに侵食されても人間性を失わない人格への賛歌となり、本作を単なるSFディストピアとは違うものにしている。

それが私の中にインプットされたプログラムだった。いわば私は無意識のトンネルのごときものに過ぎないのだ。すべては私の中を通り抜けていくだけだ。だから私はシャッフルをやるたびに、ひどく無防備で不安定な気持になる。

世界の終りとハードボイルド・ワンダーランド 11章

オリジナル思考システム、つまりとまった時計の方の回路はブラインド回路であるということですな。その回路に入ると、あんたは自分の思考の流れを一切認識することができんということです。つまりそのあいだあんたは自分が何を考えて何をしておるのか、まるでわからんのです。

世界の終りとハードボイルド・ワンダーランド 25章
形式的な記号操作そのものには意図性がなく、全く意味をなさない。記号が何かを象徴しているわけではないので、記号操作とさえ呼べない。言語学の専門用語で言えば、それらは構文は持つが意味は持たない。J. R. Searle, "Minds, brains, and programs," Behav. Brain Sci., vol. 3, no. 3, pp. 417–457, Sep. 1980, doi: 10.1017/s0140525x00005756.

ジャンクションはお好き?

1982年、「AIの創始者」の一人である計算機科学者アレン・ニューウェルは、AIの知識表現を「表現=知識+アクセス」と定式化した。つまり、単に記憶やデータがあるだけでは十分ではなく、目標達成(与えられたプロンプト)に対して、必要な知識を引き出して利用するという「アクセス」という計算プロセスが必要であり、それによって初めて意味のある「表現」が実現するということである。

計算士の頭の中の「第一回路(日常)」「第二回路(シャフリングを行う無意識のブラックボックス)」「第三回路(世界の終りという深層意識)」は、それぞれが完全に独立した「知識データベース」に相当する。

そして、これらが主人公の現実の意識として現れるためには、ニューウェルの公式が示す通り、そこへ至るための「アクセス」が必要であり、老博士が手を加えて組み込んだ、異なる意識の回路を切り替えるための「ジャンクション」は、まさにこの「アクセス経路」を人為的にコントロールするスイッチの文学的表現だと言える。

村上春樹は、人間の脳内にある特定の記憶へのアクセス経路を工学的に制御することで、異なる世界を表出させ、AIの知識表現モデルを人間の脳内に実装することによって、内面世界としての「世界の終り」と「ハードボイルド・ワンダーランド」との間にブリッジをかけた。

「ジャンクションBは第三回路に繋がったまま、ジャンクションAを自動切りかえで第一回路に接続しておるわけです。だから、あんたは第一回路で思考し、行動することが可能であるわけですな」

世界の終りとハードボイルド・ワンダーランド 25章
表現について考える有用な方法は、標語的等式(slogan equation)「表現=知識+アクセス」に拠ることである。表現とは、知識体系へのアクセスを提供するシステム、つまり、目標達成のために行動を選択するために使用できる形式の知識を提供するシステムである。 A. Newell, "The knowledge level," Artif. Intell., vol. 18, no. 1, pp. 87–127, Jan. 1982, doi: 10.1016/0004-3702(82)90012-1.

図書館のある風景

村上春樹は「世界の終り」をリリカルな装いで描くことによって、一角獣の夢を媒介として断片的に散らばる記憶を動的に管理する「AIの内側の情景」を「壁に囲まれ門番に守られた川の流れる街の図書館」として表現した。

そこは人の内的世界のようにも見えるが、人々や動物がいて建物や森や川がある。でももしかしたらそれはニューラルネットワーク上に生成された虚像なのかもしれない。そんな世界の反対側で、周囲を祝福しながら消え去っていく計算士の姿に、読者は時代を超えた感情を共有する。

そして、どこにも通じていない世界の終りに留まる「僕」の叫びが、1985年の読者より2026年の読者に、そしてそれよりもっと未来の読者に、より大きな感情の共振をもたらす。

「僕は自分の勝手に作りだした人々や世界をあとに放りだして行ってしまうわけにはいかないんだ。君には悪いと思うよ。本当に悪いと思うし、君と別れるのはつらい。でも僕は自分がやったことの責任を果さなくちゃならないんだ。ここは僕自身の世界なんだ。壁は僕自身を囲む壁で、川は僕自身の中を流れる川で、煙は僕自身を焼く煙なんだ」

世界の終りとハードボイルド・ワンダーランド 40章

世界の終りとハードボイルド・ワンダーランドのクロニクル

ざっと読んだだけでも、『世界の終りとハードボイルド・ワンダーランド』には、AIの基礎となる著名なコンセプトが、瑞々しいメタファーとして各所に埋め込まれているのを発見できる。

歴史的に見ると、第二次大戦後に大規模なAI投資が行われたが、期待された成果が得られず、1970年代には多くのプロジェクトが中止になった。それが1980年代には実用性が見えてきたこと及び、日本の第五世代コンピュータプロジェクトへの警戒心から投資が再開され、最高の才能が集結して新たな発見が続出し、爆発的な進化を遂げた。

小説が書かれた1980年代は、ある意味AIのルネサンスのような時代だった。そしてその真っ只中に、欧米では世界経済を制覇する脅威として認識され、半導体市場で圧倒的な競争力を持っていた当時の日本で紡がれた物語が、『世界の終りとハードボイルド・ワンダーランド』だった。

インターネットがなかった時代に、世界の彼方で熱く議論されていた最先端の科学のコンセプトが、なぜ日本の小説として再現され、紡がれたのだろう?どう考えても村上春樹がその関係の知識に通じていたとは思えないし、当時の読者の殆ども同様だったはず。そもそもいくつかの概念は、小説より後に発表されているのだ。

小説の発表から40年以上経って、当時のコンセプトが実装されたAIが普及した現代に、あらためて読み直すと様々な気づきがある。もしかしたら、数十年後には、実際に人間の頭脳にAIの回路が接続し、計算士の境遇が予言的な意味を持つようになるのかもしれないが、その時でもこの作品の価値が古びることはないだろう。


夢を見るために毎朝僕は目覚めるのです

『世界の終りとハードボイルド・ワンダーランド』で村上春樹は谷崎潤一郎賞を受賞した。選考過程では様々な意見があったようだが、このような前衛的作品が評価され受け入れられたことに、当時の日本の勢いを感じる。

選考委員の大江健三郎は、村上春樹を「きちょうめんな冒険家」と表現し、作品に「新しい「陰翳礼讃」を読みとる」と評した。その文芸的な、余りに文芸的な言い方が、この作品がどうやって作者の頭の中に生まれて来たかを示しているのではないかと思う。多分全く別の場所から来ているのだ。明るく見渡せる論理と数式の世界ではなく、意識の闇の奥にある陰翳の世界から。

私は、われわれが既に失いつつある陰翳の世界を、せめて文学の領域へでも呼び返してみたい。文学という殿堂の檐を深くし、壁を暗くし、見え過ぎるものを闇に押し込め、無用の室内装飾を剥ぎ取ってみたい。それも軒並みとは云わない、一軒ぐらいそう云う家があってもよかろう。まあどう云う工合になるか、試しに電燈を消してみることだ。

谷崎潤一郎「陰翳礼讃


いいなと思ったら応援しよう!