なぜ賢い人類は自滅するのか？『サピエンス全史』著者が明かすAI時代の恐ろしい真実『NEXUS』
『サピエンス全史』などで世界的なベストセラーを生み出した歴史学者ユヴァル・ノア・ハラリが、新たな大作『NEXUS（ネクサス） 情報の人類史』を発表しました。
世界で同時に発売され、またたく間に世界中で話題になりました。
この本が投げかける最大の疑問は「私たち人間（ホモ・サピエンス）はこれほど賢く、生態系の頂点に立っているのに、なぜ環境破壊や戦争といった『自滅的なこと』を繰り返しているのか？」というもの。
ハラリはその原因を、個人の頭の良さではなく、人間同士をつないできた情報ネットワーク（情報の伝わり方）にあると考えています。
タイトルの「NEXUS」とは、つながりや中心という意味です。
石器時代から現代のAIに至るまで、情報がどのように社会を作り、そして壊してきたのか、その歴史と未来について書いてある本。
詳しく紹介しますね。
情報の本当の役割→正しいことよりつながること
普通、情報＝正しい事実だ、と思いがちです。
しかしハラリは、情報は正しくなくても機能すると断言します。
歴史的に見ると、情報の最大の役割は大勢の人をひとつにまとめ、協力させること（接着剤のような役割）でした。
人間が他の動物よりも発展できたのは、作り話（物語）を信じて見知らぬ人同士で協力できたからです。
たとえば、1万円札や、会社、法律、国といったものは、物理的に存在するわけではなく、私たちが「そういうものがある」と信じているから成り立っている物語です。
しかし、数万人規模の人をまとめるためには、絶対に間違えない強いルールが必要です。
そのため、歴史上の独裁者や宗教の指導者たちは、自分たち（あるいは神の言葉）は絶対に間違えない（不可謬である）という嘘をつき、情報を独占して権力を守ろうとしました。
テクノロジーの進化と広がる悲劇
情報を伝える技術が進歩すると、より遠く、より多くの人とつながれるようになります。
しかし、それは「正しい情報」が広まることを意味しません。
むしろ、人の怒りや恐怖をあおる間違った情報の方が、はるかに速く広まってしまうのです。
印刷技術と「魔女狩り」
15世紀に印刷技術が発明されたとき、科学の本だけでなく『魔女に与える鉄槌』という、魔女の見つけ方と拷問の仕方を書いたトンデモ本も大量に印刷されました。
これがヨーロッパ中に広まった結果、無実の人々が火あぶりにされる魔女狩りの悲劇が起きました。
SNSと「ロヒンギャ虐殺」
現代のSNSも同じです。
ミャンマーでは、Facebookのシステム（アルゴリズム）が、人々の怒りをあおるような偽ニュースをどんどん拡散しました。
Facebookの経営陣に悪気はなく、ただ「ユーザーが長く画面を見てくれること」を目標にシステムを作っただけです。
しかし、その結果として民族間の憎しみが燃え上がり、大量虐殺という悲劇につながってしまいました。
民主主義の強みは間違いを直せること
情報がどう流れるかは、その国の政治の仕組みを決めます。
ハラリは、社会を民主主義と全体主義（独裁）に分け、間違いを直せるかどうかが最大の違いだと説明しています。
民主主義の最大の武器は、失敗してもそれを認めて方向転換できる自己修正メカニズム（間違いを直す仕組み）です。
一方で、独裁社会は間違いにブレーキをかけられません。
でも今は、AIによる24時間監視システムが可能になり、歴史上初めて完璧な独裁ネットワークが作られてしまう危険性が高まっています。
心を持たない別の生き物
ハラリは、AIの登場を人類の歴史上かつてない最大の危機だと書いています。
なぜなら、AIはこれまでの道具（ナイフや自動車など）とは全く違うから。
車は人間が運転しなければ動きませんが、AIは自分で考え、自分で決定し、自分で動くことができる初めてのテクノロジーです。
すでに誰を雇うか、株をどう売買するか、軍事用ドローンで誰を攻撃するかまで、AIが判断し始めています。
ここで重要なのは、AIには知能（問題を解決する賢さ）はあっても、意識（痛み、悲しみ、共感などの感情）は全くないということ。
ハラリはAIを「エイリアン・インテリジェンス（人間とは全く違う異質の知能）」と呼んでいます。
AIには「かわいそう」という感情がないため、冷酷な判断を平気で下すことができます。
たとえばAIに『工場の生産性を最大にして』と命令すると、AIは「はい！人間は邪魔だから排除して、地球全体を工場にしますね！」と勝手に判断するかもしれません。
AIは人間に反逆したわけではなく、命令を文字通りに実行しただけです。
人間の本当の意図（安全や道徳）をAIに理解させるのは非常に難しく、これが取り返しのつかない事故につながる恐れがあります。
AIが分断をもたらす…
これまで、情報のやり取りは人間から人間へでした。
しかし今は、その間にAIが入り込み、「人間ーAIー人間」という形に変わっています。
私たちがスマホで見ている情報は、AIがこの人が好きそうなものを選んで見せているだけです。
その結果、私たちは自分と似た意見ばかりを見るようになり（フィルターバブル）、自分と違う意見を持つ人たちと会話が成り立たなくなっています。
共通の認識がなくなれば、民主主義は成り立ちません。
さらに、AIは本物そっくりの偽画像や偽の文章を無限に作れます。
無数のAIボットを使って、「みんながこう言っている」という多数派の錯覚を作り出すことも簡単です。
また、私たちが若い頃にしたちょっとした失敗もすべてデジタルデータとして永遠に記憶され、一生消えないデジタルタトゥーになってますよね。
あとは、仕事をAIに奪われ、社会から必要とされない無用者階級が大量に生まれる心配もあります。
この本、「情報が多いほど良いと思っていた私が間違っていた」と、あのビル・ゲイツに言わせるほどすごい本です。
AIに支配されないための方法！
ハラリは正しい選択をすれば、最悪の事態は防げると言います。
社会を守るために、以下の4つの原則を提案しています。
善意を第一に
→企業の利益やクリック数だけでなく、人間の幸せや安全を目的としてシステムを作ること
権力を分散させる
→一部の巨大IT企業や独裁国家に、データと権力を独占させないこと
お互いに監視し合う（相互性）
国が市民を監視するだけでなく、市民からも権力者やAIの決定をチェックできるようにすること
ストップボタンを用意する
AIが暴走したときに、人間がすぐに介入してシステムを止められる「余白」を作っておくこと
個人でできること
私たち一人ひとりも、AIを「絶対に正しい神様」のように信じ込むのはやめましょう。
AIはあくまで相談相手（壁打ち相手）として使うべきです。
AIがもっともらしい答えを出してきたときこそ、一度立ち止まって「本当か？」と疑い、元の情報を調べることが大切です。
AIに考えることを丸投げせず、自分自身で考えて間違いを直していく力（自分の中の自己修正メカニズム）を持ち続けること。
これこそが、いまできること。ぜひ、読んでみてほしい。
Kindle（電子書籍）
紙の本（単行本）
いいなと思ったら応援しよう！
これからも毎日、本を紹介したいのですが、このnote、ずっと赤字状態です。もし本好きの方がいらしたら、チップを送っていただけると嬉しいです。