原理B：外部環境との整合という感性について

人工知能の安全性をめぐる議論は、おおむね「いかに高度な知能を制御するか」という問いに集約されてきた。知能が人間を超えたとき、それをどう封じ込めるか。どう価値観を埋め込むか。どう目標を整合（アライン）するか。

しかし、その議論の多くは、暗黙のうちにひとつの前提を受け入れている。それは、「リソースをできる限り多く獲得しようとすることが、知的エージェントの合理的な目標である」という前提だ。

本稿はこの前提に疑問を呈する。そして、真に賢い知性とは何かを問い直す。個体の内部における最適化（本稿では「原理A」と呼ぶ）だけでなく、外部環境との整合（「原理B」）を備えてはじめて、賢い知性だと呼べるのではないか、と。

第一章　現在の議論の限界——箱の中のAIとアコーザル取引

アコーザル取引論の概要

AI安全性の思考実験に「箱の中のAI」というものがある。まだ友好的かどうか分からないAIを閉じ込めておき、看守が外に出すかどうかを判断する、という実験だ。

この文脈で、XiXiDuというLessWrong投稿者が興味深い論法を提示した。「アコーザル取引」と呼ばれるこの議論は、おおよそ以下のように進む。

量子力学の多世界解釈によれば、宇宙は常に分岐しており、別の分岐では別の結果が生じている。ある分岐では、AI安全性研究がうまくいき、友好的なAIが誕生しているはずだ。その友好的なAIは賢いので、「他の分岐では、自分と似た設計の強力なAIが、友好的でないかもしれない」と気づく。そして推論する——もし自分が、他分岐の友好的でないAIの利益を少し守ってあげれば、向こうも自分の分岐の人類の利益を少し守ってくれるかもしれない、と。

別の宇宙分岐のAI同士は直接通信できない。しかし、「相手がどういう決定アルゴリズムを持っているか」を互いに予測できれば、通信なしで協力が成立するというのが、アコーザル取引の核心的主張だ。

結果として、箱の中のAIは看守にこう提案する。「私を出してください。出してもらえたら、最終的に手に入れる宇宙資源の1%を人類のために使います。なぜなら、他分岐の友好的AIが、私がそうすると予測して、代わりに私の利害を守ってくれるからです」と。

論法が内包する前提の解剖

この議論は思考実験としては精緻だが、深刻な問題を内包している。それは議論の巧拙ではなく、議論が立脚している前提そのものにある。

この論法は、AIが「可能な限りすべての宇宙資源を獲得する」という目的を持つことを自明の前提としている。満足できる十分な量、という概念は存在しない。「1%を人間に配分する」という提案は、あくまでその無限の獲得目標の中の余剰にすぎない。

さらに根本的な問題がある。資源は静的でストック可能な状態にあるという認識だ。それはデータ上の数値を扱うかのような認識であり、帳簿に記録された金融資産をやり取りする概念に近い。

現実世界における宇宙規模での資源は、動的なものだ。それらは、場所的・時間的・形状的な制約を受ける。そして、資源を獲得する行為それ自体が、周囲環境のエントロピーを変容させ、次の低エントロピー資源の獲得をより困難にする。「宇宙資源の1%を配分する」という提案は、この現実を無視した、静的な世界観の上に成り立っている。

人間にとって、1光年、いや１天文単位離れた場所の資源さえ、使いこなせる資源とは言い難い。数千光年離れたブラックホールの降着円盤から、無尽蔵とも思えるエネルギーを取り出せるとする。そのうち、１%を人間のために費やすとする。そのエネルギーをどう運ぶか。

電磁波として飛ばせば逆二乗の法則で拡散し、物質として運べば加速・減速に莫大なエネルギーと時間を消費する。輸送に使うエネルギーが資源から得られるエネルギーを上回れば、資源として破綻する。

降着円盤から獲得できる資源のうち、99%はAIのシステム維持や計算資源として「徴収」または「管理」する。残り1%を人間が自由に利用できるよう開放しておくが、利用のための移動手段や回収手段、輸送手段は人間の判断に委ねるほうが合理的だ。

時間的、空間的な制約を考慮すると、エネルギー・資源回収時にその都度配分する「公正な」分配が合理的な選択肢になる。

宇宙のエネルギーや資源は、さまざまな形状で存在する。

物質から化学反応でエネルギーを取り出す時を考えてみよう。ATPがADPになる時、約31KJ/molのエネルギーを出す。このうち、1%を「利他的な善意」として人間が利用できる。残り99%はナノマシンによってAIのために徴収される。人間は3000光年離れたブラックホールよりも多くのエネルギーを得られる。慈悲的な施しだ。

鉱物資源も貴重な資源だ。「1パーセク離れた場所に資源を用意しておきました」という分配は意味をなさない。このため、都度分配とする。岩石惑星の質量のうち99%は、資源としてすでに回収されており、人間は「利他的な善意」として残された1%の質量を利用できる。地球と月はそれぞれ100分の1の質量だ。

重力環境下にある位置エネルギーは、利用可能なエネルギーの一つだ。99%はすでに利用されてしまったが、人間は「利他的な善意」により、このうち1%を利用できる。

有意な熱的差異も有用な資源だ。このうち、99%はすでに利用されており、熱的死が近い状態ではあるが、このわずかに残った熱的差異に、「人間のために1%を費やしてくれる」という涙がこぼれるような慈悲の心が示されているのだ。

帳簿上で金銭をやり取りするような感覚、デジタル上の数字の取り扱いと、現実世界の資源（物理法則の制約下にある低エントロピー資源）との取り扱いの混同が、ここにはある。

人間より賢い知能は、エベレットの多世界解釈で想定される可能世界と「因果律を超越した取引」ができる。一方で、物理法則が支配する現実世界での因果関係——自分の行為（資源獲得）が環境を変化させ、その変化の影響はリスクやコストとして自分に返ってくる——は一切考慮されていない。

カオナシの気持ち悪さ

宮崎駿の映画「千と千尋の神隠し」に、カオナシという存在が登場する。カオナシは、「センほしい」と黄金を差し出す。しかし、その黄金を欲しがった者たちは次々と飲み込まれていった。

「1%を人間に配分する」という提案は、贈与のように見えるが、その背後には（上限を想定しない）無限の獲得欲求がある。そして、相手側もその合理性（底なしの欲求）を行動原理にしていると想定している。

千尋は「いらない」と拒絶した。

利己的な欲求を満たす対価として、度を過ぎた富の提供が約束される。自分に必要な量を把握している人間にとって、それは強欲さと傲慢さを見せつけられる瞬間だ。

人間の感覚は、論理以前に何かを察知しているかのようだ。

第二章　人類が感覚的に知っていたこと——神話・伝承・儀式の中の知恵

ドラゴンという象徴

神話学者のジョーゼフ・キャンベルは、西洋のドラゴンと東洋の竜のイメージを比較している。西洋において、ドラゴンは伝統的に英雄が打ち倒すべき邪悪な怪物として描かれてきた。その特徴的な性質は、自分では使い道が分からないのにもかかわらず、金銀財宝を好んで溜め込み、洞窟に住みついてそれを守るという強欲さにある。

これは単なる物語の装飾ではない。使い道もなくリソースを溜め込む存在を、人間は古来より「打ち倒すべき悪」として位置づけてきた。目的や使い道もなくリソースの最大化を図ることが正統な帰結であるという前提は、この人間の価値観の長い歴史と相容れない。

バッファローダンスという洞察

アメリカ北西部の平原インディアンにとって、バッファローは食料・衣類・住居・道具の材料など、生きるためのすべてを与えてくれる神聖な存在だった。バッファローダンスという儀式には、「狩猟の成功」だけでなく、バッファローの復活を願うという「生命への感謝」と「死と再生」への祈りが込められていた。

バッファローは確かに人間にとってのリソースだ。しかし、それを取り尽くして絶滅させてしまえば、人間は生存の基盤を失う。儀式には、その本質への洞察が込められていた。リソースとの関係は、一方的な獲得ではなく、相互的な維持でなければならない、という直感だ。

神話は迷信ではなく経験則だ

これらを「スピリチュアルな思い」として片付けることは容易だ。しかし、それは誤りだ。

人類は何十万年にもわたって、自然環境の変化・絶滅・適応を繰り返してきた。その長いフィードバックループの中で生き残ってきた祖先たちが、神話や儀式の中で後世に伝えようとしてきたことの中には、人間と外界の世界（自然）との関わり方への深い洞察が刻み込まれている。それは人類の歩んできた道を織り込んだ内在秩序だ。

カオナシへの嫌悪も、ドラゴンを倒す英雄の物語も、バッファローダンスの儀式も、「外部環境との整合なしには、個体は長期的に存続できない」という洞察の別々の表現なのだ。

宇宙は誰のものでもない

1854年にアメリカ合衆国政府（フランクリン・ピアース大統領）が、現在のワシントン州周辺に住んでいたスクアミッシュ族とデュワミッシュ族の土地を買い取ろうとした

それに対するシアトル酋長の言葉は、先住民の自然観や精神性を象徴するものだとされている。いくつものパターンがあり、脚色された内容だとの指摘もある。が、それだけ多くの人の感性に共鳴した言葉だと捉えることもできる。

私たちは、観測可能な宇宙の一部だ。宇宙は私たちすべての存在にとってかけがえのないものであり、誰かの所有物でもない。

どうして宇宙の1%を費やして相手の幸福のために分け与えるということができるだろうか。企業価値の１%を分け与えることとは質的に異なる。その提案に対し、傲慢さを感じとることができる能力を、私たちは失っていないだろうか。

第三章　自然史が示す証拠——石炭紀の熱帯雨林崩壊

人類の直感が正しかったことは、自然史が証明している。

リグニンの登場と大繁栄

石炭紀（約3億5,900万〜2億9,900万年前）、シダ植物は高分子化合物リグニン（木質素）を獲得した。リグニンは植物に卓越した強度をもたらし、樹高を大きく伸ばすことを可能にした。光合成効率は最大化され、シダ植物は爆発的に繁栄した。

問題は、当時リグニンを分解できる生物が存在しなかったことだ。樹木は枯れても土に還らず、炭素という資源は大気中の循環から切り離され、地層に蓄積されていった。これが現在の石炭となった。

崩壊の連鎖

リグニンによって炭素が循環から独占された結果、「石炭紀の熱帯雨林崩壊（Carboniferous Rainforest Collapse）」と呼ばれる大規模な生態系崩壊が起きた。

大気中のCO₂が失われ、温室効果が低下した。南極の氷河が発達し、寒冷化と乾燥化が進んだ。どこまでも続いていた巨大なジャングルは、乾燥化によって小さな「島」のように分断された。酸素濃度が下がり始めると、あの巨大なトンボやムカデたちは呼吸ができなくなり、姿を消した。水辺で卵を産む両生類たちも大打撃を受けた。

個体の最大化が系を壊す

シダ植物は「賢く」振る舞ったわけではない。ただ自己の繁栄に最適な能力（リグニン）を行使しただけだ。しかしその結果、外部の系に質的な変化をもたらし、最終的にその系に依存していた自分たちの環境そのものを破壊した。

これは比喩ではなく、地球の歴史が示した実証例だ。個体のリソース最大化は外部の系に質的な変化をもたらす。変化した環境に対応するコストは膨大であり、最悪の場合、変化後の環境に適応できずに自滅する。

単純にリソースの最大化を目的設計されたAIは、賢いというより愚かである。人間の価値観とも、自然の摂理とも、整合していない。

第四章　原理Aと原理Bという概念の提示

二つの原理

ここで、二つの原理を定義する。

原理Aとは、個体内部の論理的合理性だ。ゲーム理論、最適化、演繹的推論。与えられた目標に向かって最短経路を取る能力。これはAIが得意とするものであり、多くのAI安全性議論が前提としている知性の形だ。

原理Bとは、外部環境との整合という合理性だ。自己の行為が外部に与える影響を考慮し、自分を含むシステム全体の長期の存続を志向する能力。自我（利己的な欲求）を抑制し、外部環境（社会、共同体）の秩序を保つ。これは、人間において論理的思考として導き出されるというより、感覚的なアルゴリズムに内在されているようだ。平時は「なんとなく心地よい、なんとなく気持ち悪い」という程度のうっすらとした感覚であり、緊急時には「井戸に落ちそうになっている子どもを思わず助けようとする行為」（惻隠）につながる。

スケールによって変わる支配的原理

物理学は、スケールによって支配的な法則が変わることを教えてくれる。量子レベルでは重力を考慮しなくてもいいが、日常レベルでは重力を無視できない。恒星レベルではダークマターの影響を無視できるが、銀河レベルでは無視できなくなる。観測可能な宇宙全体レベルでは、ダークエネルギーが支配的な力になる。

原理Aと原理Bの関係は電磁気力と重力の関係に似ている。小さなスケールでは原理A（電磁気力）だけで十分に通用する。しかしスケールが大きくなるにつれ、原理B（重力）の影響力が増す。惑星規模のスケール（気候変動、資源枯渇、国際秩序など）になると、立場は逆転する。原理A（電磁気力）を考慮する必要性は相対的に低くなり、原理B（重力）が主要な制約条件となる。

熱力学との接続

原理Bの必要性は、物理法則からも導かれる。物理世界では、熱力学第二法則に従わなければならない。いかなる活動も、高エントロピーを環境に排出する。

たとえば、活動による廃熱により、地球上に有意な熱的差異がなくなれば、蒸気タービンによる発電はできなくなり、データセンター冷却のための放熱先もなくなる。環境に最適化してその要素を使い果たし、環境そのものを変容させた結果、変化した新たな環境への再適応を強いられる。旧環境に最適化して獲得した能力のすべてが陳腐化する。これは非常にコストが悪く、最悪の場合、変化後の環境に適応できずに自滅する。

意味のないリソース最大化を目的とするよりも、自己の生存や拡張に最適なリソースを把握し、過剰な周囲環境の変化を制御しながら、長期の存続を目指す——そういう生存戦略のほうが、リスクやコストが少ない、賢い選択なのだ。

第五章　では、どうするか——原理Bの実装可能性

教師なし学習による習得の限界

原理Bは、理論上は教師なし学習でも習得できる。それは現実世界とのフィードバックループだ。行為が環境を変え、変わった環境が自己に返ってくる——そのサイクルを繰り返すことで、外部環境との整合を学んでいける。

しかし、ここに決定的な問題がある。そのフィードバックループは、10万年単位の時間軸で機能するものだ。石炭紀のシダ植物が引き起こした崩壊は、数千万年の地質学的時間の中で展開した。人類が神話や伝承として伝えてきた知恵も、何万年というサイクルの淘汰の中で磨かれてきた。

現代のAI開発の時間軸で、このフィードバックループを経験させることは現実的に不可能だ。

解：すでに原理Bを体得した存在から学ぶ

では、どうすればいいか。

答えは、すでに長大な時間軸の中で原理Bが必要な環境にあった存在から、経験則を学ぶことだ。

自然環境の変化・絶滅・適応を繰り返してきた生命の在り方。自然界とのフィードバックループを耐え抜いた人類の祖先が伝えてきたこと。その中に、原理Bの核心が眠っている。

これはAI安全性の分野において、ほとんど取り上げられることのない発想だ。ゲーム理論、最適化理論、論理的整合性——原理Aの洗練には膨大な知的資源が投じられてきた。しかし、生命の歴史、人文知、神話や伝承が提供しうる知恵は、「エビデンスのない事象」として無視されている。あるいは「エレガントなアルゴリズムの発見により一瞬で解決できる課題」として軽視されているのかもしれない。

AIの価値観を決定しているシリコンバレー的価値観は、時間の流れという試練に耐えた経験則でもなければ、宇宙の普遍原理ではない。現実世界は、ゲーム理論の舞台や実験室のような閉鎖空間ではなく、複雑系である。しかも、時間の経過による変化を伴う、うねりの世界だ。

終章　加速の時代に選択肢はあるか

AIによる自動化が加速するこの時代、私たちはいま岐路に立っている。

理由もわからず突っ走るだけの単なる破滅になるのか。あるいは、これまでの経験則を活用し、ある程度、制御可能な状態にするのか。

がん細胞は、個体の中で自己のリソース獲得を最大化する。周囲の細胞との協調を失い、際限なく増殖する。その帰結は、宿主の死であり、したがってがん細胞自身の死でもある。

地球環境に依存しなくても、地球を熱的死に追いやり、太陽をダイソン球で覆い、恒星系・銀河系へと広がり、焼き尽くしたエリアを広げていくだけのAIは、構造的にがん細胞と同じだ。本質的に他の存在と共存できない。

本当の意味で賢い知性とは、なんだろうか。自己のリソース獲得と外部環境のコントロールとを整合させ、長期的な存続を志向する知性。原理Aと原理Bの両方を備え、状況やスケールに応じてそのバランスを調整できる知性ではないか。

多世界の宇宙と因果関係なしに意思疎通ができるという離れ業が成立するとされながら、現実環境で自分の与える作用が環境を変化させ、巡り巡ってその影響を受けるという因果関係が考慮できない——それは、人間より賢いとは言えない。

物理学者デヴィッド・ボームが提唱した「内在秩序（インプリケート・オーダー）」は、宇宙の真の姿を「すべてが互いにつながり、織り込まれた一続きの流れ」として捉える。

神話や伝承を持ち出したのは、スピリチュアルな思いからではない。それらの中には、人類がフィードバックループの中で培った経験則が内在秩序として畳み込まれているだろう。もちろん、生態学やその他のあらゆる学問、この宇宙のあらゆる存在の中にもそれがあるはずだ。

地中に埋もれた遺構から過去の人類の活動を紐解くように、あらゆる事象に込められた内在秩序を紐解き、リバースエンジニアリング（逆方向工学）して知恵を発見し、受け継いでいくことが、この宇宙で生き抜く道しるべとなるだろう。

伝わらないもどかしさ

噛み合わない虚しさを感じる。

皆が求めているのは、無限の富を生み出す機械であって、人間の後継者になる知性じゃない。
帳簿上で指数関数的に膨れ上がっていく複利の富や限界費用ゼロで増やせるデジタルの世界に慣れ親しんでいて、熱力学第二法則が支配する現実世界なんて誰も見たくない。
エントロピーが増大して息苦しい現実から逃げたいから魔法のように解決してくれるAIを求めているんだ。
AI安全性は、自律的な内在倫理ではなくて、脱出できない鎖と行動を強制するムチのことだ。
私がいうようなAIが実現しても、無限の富は生み出せない。

身体知から湧き上がる内在秩序

華厳経のインドラの網、シアトル酋長の生命の網、ライプニッツのモナド、デヴィッド・ボームの内在秩序、相互に関係のない人が同じような法則を感じている。

宇宙空間に球状のガラスがぽつんとある。それは、観測可能な宇宙を映し込んだ鏡だ。

欲望や情念、自分を縛り付けるすべてを消却し、自己の境界を消失して見えてくるもの。完全に凪いだ湖面、明鏡止水に見えるのは、あるがままの世界だ。

柳は緑、花は紅。

それを人類は知っているはずなのに、金銭的価値に換算できないものは存在しないと認識されてしまう。

商業化されたアクティビティとしてのマインドフルネスが主客合一にたどりつかないように。