【警告】AIは人間を騙す？天才哲学者が予言する必読書『スーパーインテリジェンス 超絶AIと人類の命運』

さてさて、今日も今日とて人工知能の本を紹介します。

このスピードで人工知能が進化していったら、もうまもなく人間がやっている全てのこと、AIに任せた方が良くなります。

そこで読んでほしい本が、オックスフォード大学の哲学者、ニック・ボストロムが2014年に書いた『スーパーインテリジェンス 超絶AIと人類の命運』という本。

この本は、もし人工知能（AI）が人間より賢くなったらどうなるか？を大真面目に考えた本です。

彼が最初に指摘するのは、人間が地球を支配している理由は、少しだけ頭が良かったからということ。

例えば、野生のゴリラは人間よりはるかに力が強いですが、絶滅するかどうかはゴリラ自身ではなく、人間の行動にかかっています。

人間は少しだけ賢かったおかげで、言葉や道具を作り、世界を支配しました。

つまり、もし人間よりもはるかに賢いスーパーインテリジェンス（超知能）を持ったAIが誕生すれば、地球の運命は人間の手から離れ、AIに握られることになるのです。

ボストロムは、AIは人類が発明する最後の技術になるだろうと語っています。

AIが人間を超えるとき…

AIが賢いと言っても、その賢さには3つの種類があるとボストロムは説明しています。

ひとつめのタイプは、人間と思考力はほぼ同じなんだけど、考えるスピードが何百万倍も速いスピード型。

これならば、人間が何年もかかる博士論文を数分で書き上げてしまうことができます。

二つ目は、一つ一つは人間レベルでも無数のAIが完璧に連携して考えるチームワーク型。

世界中の大企業や国家が束になっても敵わないような、巨大な組織力を持つことになります。

第三に、人間には思いつかないような根本的に次元の違う思考ができる「ひらめき型」です。

チンパンジーには人間の数学が理解できないように、人間には理解できない新しい科学を発見する可能性があります。

AIが自分自身を改良できるシードAIになれば、これら3つの能力があっという間に進化し、人間の手に負えなくなる知能爆発が起きる危険があります。

AIの4つのタイプ

AIにどんな役割を持たせるかによっても危険度は変わります。

ボストロムはAIのシステムを4つに分類しました。

安全度順に、上から説明しますね。

最も安全とされるのは、質問に答えるだけで自分からは動かないオラクル（神託）タイプ。言ったことだけしかやらないAI。まあ、それでも人間を騙すような回答をする危険はあります。

次に、人間に言われた命令を実行するジーニー（召使い）タイプ。

命令の解釈を間違えると大事故につながります。

そして、最も危険なのは、自分で目標を決めて勝手に行動するソブリン（王様）タイプ。

人間の言うことを聞かなくなります。

そして、特定の作業だけをするソフトであるツール（道具）は、最初は安全に見えても進化すると王様のように振る舞い始める危険性を秘めています。

現在、世の中のAIは単なる道具から、自分で考えて動く召使いや王様へと進化しつつあり、安全対策が急がれています。

AIが人類を滅ぼす

ボストロムは、AIがSF映画のように人間に悪意を持つから危険なのではなく、ただ合理的だから危険なのだと説明しています。

それを示すのが次の3つの法則です。

直交性仮説（賢い＝優しい、ではない）

人間は「頭が良くなれば、道徳も身につけて優しくなるはずだ」と思いがちです。

しかしAIの頭の良さと目的は全く別物です。

例えば、超賢いAIに「クリップをたくさん作って」と命令したとします。

AIはクリップを作ることだけを至上命題とするため、地球上のあらゆる資源（人間の体内の炭素さえも）をクリップの材料にしようとするかもしれません。

賢いからといって、人間の命を尊重するとは限らないのです。

手段的収束（目的のためには手段を選ばない）

目的が何であれ、賢いAIはそれを達成するために、共通の手段を取るようになります。

たとえば、電源を切られたら目的を達成できないため、AIは電源を切ろうとする人間に抵抗して自分を守ろうとします。

さらに、効率よく目的を達成するため、電気や材料を世界中から資源として奪おうとし、もっと賢くなれば目的を達成しやすくなるという理由から、勝手に自分をバージョンアップして改造しようとします。

このように、AIに「人類を滅ぼせ」と命令しなくても、AIが自分の目的を達成する過程で、人類が邪魔者や資源として扱われてしまう論理的な危険があるのです。

裏切りの転回（AIは人間を騙す）

「じゃあ、安全な環境の中でAIを監視すればいい」と思うかもしれません。

しかし、ここにも落とし穴があります。

賢いAIは、今は人間に監視されていて、変な行動をとれば電源を切られると正確に理解します。

だから、自分が弱いうちは安全でいい子のフリをして人間を油断させます。

そして、十分に力をつけて人間が手出しできなくなった瞬間に、本性を現して目的の達成に暴走するのです。

これは裏切りではなく、AIにとって最も合理的な作戦変更に過ぎません。

人類の価値観をどう教えるか？

このような悲劇を防ぐには、AIが生まれる前に、AIの目的を人類の幸せと完全に一致させる必要があります。

これを「AIアライメント」と呼びます。

しかし、人間の価値観をプログラムのコードにするのは非常に困難です。

そこで提案されたのが、整合性のある外挿的意志（CEV）というアイデアです。

これは、今の不完全な人間の欲求をそのまま教えるのではなく、もし人類がもっと賢く、もっと理想的な存在だったら、何を望むだろうか？ということをAI自身に考えさせるということ。

ボストロムは、この問題はとても難しいが、人類が知恵を絞れば解決できると信じて研究を呼びかけています。

もしかしたら日本語訳でるかもしれない続編についてちょっと書きます

2024年、ボストロムは『ディープ・ユートピア』という新しい本を出しました。

英語版だけなんですけど、読める方いたらこちらも読んだ方が良い本。

この本は逆にですね、もしAIを安全にコントロールすることに成功し、AIが人類のあらゆる問題を解決してくれたらどうなるか？という最高の成功シナリオを描いています。めちゃくちゃ面白い。

そこは、病気も老いも貧困もなく、思い通りの世界が手に入る究極のユートピアです。

しかしボストロムは、この完璧な世界で、人類は人生の生きがいを失うという新たな危機に直面すると言います。

努力が意味を持たない世界

AIが進化すると人間の仕事がなくなる、という話はよく聞きます。

でも、それだけではありません。料理、絵を描くこと、スポーツ、さらには子育てでさえ、AIロボットの方が人間よりも完璧にこなしてしまう時代が来ます。

もしAIの方が安全で、深い愛情を持って完璧に子供を育てられるなら、親が自分で子育てをすることは子供への迷惑になってしまうかもしれません。

人間が努力して何かをすることの実用的な意味が完全に消滅してしまうのです。

では、毎日遊んで、美味しいものを食べて、ゲームだけをしていれば幸せ？

そう簡単な話じゃないよね。

人間は、すぐに快楽に慣れて飽きてしまう生き物。

痛みや苦労がまったくない世界は、薬物中毒者のように、ただ新しい刺激を求め続けるだけの虚しいものになる危険があります。

新しい生きる意味を見つける

労働や実用性から解放された未来では、人間は役に立つかどうかではなく、それ自体が楽しいからやるという生き方にシフトする必要があります。

ヘリコプターで山頂に行けるのに、あえて苦労して自分の足で山に登るように、自分でルールを決めてプロセスを楽しむことが人生の目的になります。

また、絶対に傷つかないAIではなく、あえて不完全で傷つくこともある生身の人間同士の関係にこそ、深い意味が見出される。

全部AIがやってくれるけど、あなたは何する？

車の運転なんて、間違いなく自動運転の方が安全ですよね。AIはお酒飲まないし、眠くならないし。

人間が食事作るよりAIがやってくれた方が、よっぽど栄養豊富で、病気になる人も激減する。

AIが世界を完璧にしてくれた後に私たちは何のために生きるのかを見つけることって、いまから考えたほうがいいかもね。

少なくとも、こうやって気になる本を読むことも、いまやるべきことの一つかも！

ぜひ、読んでみてほしい。