『働くために生きる』時代の終焉：AGIが社会にもたらす豊かさと混沌（前編）

　ピーター・ディアマンディス（Peter H. Diamandis）氏のポッドキャスト番組から、AGIの到来時期と現在地、それによってもたらされる未来の社会構造や仕事、人々の思考の変化についてのディスカッションを、元Google Xの最高業務責任者で幸福論の研究者であるモー・ガウダット（Mo Gawdat）氏を特別ゲストに迎え、シンギュラリティ大学でつながりのあるサーリム・イスマイル（Salim Ismail）氏と共に行われた対談コンテンツを紹介します。
　
　テクノロジーが指数関数的に進化し、AIがあらゆる分野で人間を超えつつある今、私たちはどのような未来に向かっているのか？ 仕事がなくなる未来は本当に悪いことなのか？ AIが圧倒的な知能を持ったとき、人間の役割はどのように変わるのか？ 現代の常識では想像できない社会システムとは？ 彼ら3人が既成の枠にとらわれることなく、未来の可能性について自由に議論しています。

　尚、オリジナル・コンテンツは、1時間40分を超える長尺となっており、この投稿では、以下の論点によるサブテーマを含む前半部分を紹介しています。

［論点や課題］

（1） AIの急速な進化とその影響
AIの進化は想像を超える速さで進み、社会の認識が追いついていない。その影響は短期間で急速に広がり、仕事、政府、経済、文化に大きな変革をもたらしている。この変化が「人類にとって最大の恩恵」となるのか、それとも「ディストピア的な支配者」となるのか、未来の行方が問われている。
 
（2） AIがもたらす未来——ユートピアかディストピアか
AIの急激な発展は、一時的に社会的混乱を引き起こし、「短期的なディストピア」を生む可能性がある。特に、仕事の喪失により多くの人々が「生きる目的」を見失うリスクが指摘されている。一方で、AIが真に「豊かさのユートピア」を実現するためには、適切な倫理観や価値観を組み込み、社会全体がその変化を受け入れられる仕組みを整えることが不可欠である。
 
（3） 短期的なディストピアと人類の課題
AIの育成方法が未来の社会を左右する。倫理観の確立がなければ、ディストピア的な状況が長期化するリスクがある。また、人々のAIに対する恐怖反応を克服することも重要であり、これらの課題への対応が求められる。

［コンテンツの後編はこちらから参照ください］

1. ポッドキャスト＆ディスカッション（前編）

［ピーター・ディアマンディス］
　今日は、友人であるモーとサリームと一緒にいられてうれしいです。モー、今日はどこにいるんでしたっけ？ドバイですか？

［モー・ガウダット］
　はい、ドバイのスタジオにいます。ここは本当に気に入っています。

［ピーター・ディアマンディス］
　素晴らしいですね。そして、サリームは世界で最高の街、ニュージャージーに？

［サリーム・イスマイル］
　いや、ニューヨークです。

［ピーター・ディアマンディス］
　ああ、ニューヨークですね。

［モー・ガウダット］
　その評価は、やはりニューヨーカーに委ねるべきですね。

（1） AIの急速な進化とその影響

［ピーター・ディアマンディス］
　その話は置いておくとして、今日はAIの世界で起きていることについて深く掘り下げたいと思います。誰か本当に、この進化の速さや、私たちの生活にどれほど劇的な変化をもたらすのかを正確に理解しているでしょうか？ 私たちは今も、朝起きて子どもを学校に送り、夜のニュースを見て、朝食、昼食、夕食をとるという日常を送っています。でも、世界中で講演をしていると、人々がこのスピードを理解した瞬間、まるで思考が止まったような反応を見せるんです。「それは私にとって何を意味するのか？ 私の子どもは？ 仕事は？ 国は？」と考え始めるんですね。

［モー・ガウダット］
　本当に衝撃的ですよね。私も世界各地で講演をしていますが、毎回のように感じるのは、まるで戦争のようだということです。すでに弾頭は発射されていて、あとは目標に到達するのを待つだけ、という感覚に近いです。ただ、その弾頭がバラの花束を積んでいるのか、それとも核弾頭を積んでいるのか、あるいはその両方なのかは、まだわかりません。でも、確実に飛んでいるんです。2023年にChatGPTが登場した頃と比べても、もはや同じ土俵ですらないほど進化しています。

［ピーター・ディアマンディス］
　だからこそ、今回のエピソードではこの話を深掘りしたいと思います。お二人ともAbundance Summitに登壇されますよね。そしてモーのセッションタイトルは「豊かさへ向かう道の途中にある近未来のディストピア」（Near-Term Dystopia on the Road to Abundance）ですよね。
　この近未来とは具体的にどのくらいの期間を指すのか、ディストピアとはどのようなものなのか、そしてその先にある豊かさとは何なのか、ぜひ話したいと思います。
　サリーム、今日は白い服を着ていますね。ということは…

［モー・ガウダット］
　そっちのチームですね。

［ピーター・ディアマンディス］
　これはまさに議論のポイントですね。AIは人類全体にとって最大の恩恵となるのか、それとも――まあ、どちらにせよ、私たちの生活のあらゆる側面を再構築することになるのは確実です。間違いありません。
　その上で、お二人に質問があります。私たちの生活、ビジネス、政府のあらゆる側面が再構築されるまでの時間軸は、2年、5年、10年のうちどれだと思いますか？ モー？

［モー・ガウダット］
　すでに変化は始まっていて、それによって生活のすべてが決まるようになるまでの期間、ですよね？
　それなら答えは5年です。

［ピーター・ディアマンディス］
　5年。サリームは？

［サリーム・イスマイル］
　私は10年くらいと考えています。理由としては、ウィリアム・ギブスンの「未来はすでにここにある。ただ均等に行き渡っていないだけだ」という言葉を信じているからです。例えば、自動運転車やCRISPRのような技術が実際に普及するまでには、思っている以上に時間がかかります。つまり、期待よりも遅いペースで進むことが多いのです。ただ、一部の分野では驚くほど速く進化しており、その速度のギャップが、今の混乱を生んでいるのだと思います。もしすべてが均一なスピードで進んでいれば、私たちも順応しやすいはずですが、実際には場所や分野ごとに違うスピードで変化が起きているので、社会全体が戸惑っている状態なんですね。

［ピーター・ディアマンディス］
　そうですね。人類は10万年前から農耕社会、さらに産業革命といった大きな変化を経験してきましたが、それらは何世代にもわたってゆっくりと進んできました。でも、今回の変化はたったの5年という短期間で起こる可能性があります。
　さて、明るい話と暗い話、どちらから話しましょうか？ まずは明るい方からいきましょう。モー、AIによって実現される最高の未来とはどんなものでしょう？

（2） AIがもたらす未来：ユートピアかディストピアか

［モー・ガウダット］
　何も不足することのない「豊かさのユートピア」です。そして、もう愚かな指導者に従わなくてもいい世界ですね。

［ピーター・ディアマンディス］
　その話は一旦置いておきましょう。でも、愚かな指導者というのは、あらゆるレベルでの話になり得ますよね。

［サリーム・イスマイル］
　まあ、正直なところ、世界のリーダーの多くがそのカテゴリーに入るのは事実でしょうね。

［ピーター・ディアマンディス］
　私が抱える課題は、もしAIによってすべての必要が満たされるような驚異的なユートピアが実現したらどうなるのか、ということです。食べ物、水、エネルギー、医療、教育――何でもただ望むだけで手に入る世界になったとしたら、それはあまりにも挑戦のない人生ではないでしょうか？
　AIやヒューマノイド・ロボットによって、私たちから挑戦と目的が奪われてしまうとしたら、どうすればいいのでしょう？ これが私の最大の懸念のひとつです。モー、どう思いますか？

［モー・ガウダット］
　それは、私たちをすべてが始まる前の時代に立ち返らせる話だと思います。実際のところ、私たちはこのことを忘れてしまっています。産業革命のどこかの時点で、資本主義がますます貪欲になっていく中で、人生の目的は、お金を稼ぎ、大富豪になることだと考える人が増えました。そして、そうなれなかった人は、自分の労働価値よりも安い賃金で売り渡される労働の仲介市場に組み込まれたのです。その結果、働くことこそが人生の目的だと信じ込まされる必要があったんですよね。そうでなければ、毎日同じ熱意で仕事に向かうことはなかったでしょうから。
　もちろん、このシステムによって寿命は延び、技術や交通手段も発展しました。それは否定しません。ただ、その一方で、大量の無駄や格差、そして多くの苦しみ――言い換えれば、多くの犠牲者も生んだのです。
　でも、もし私たちがこのすべてが始まる前の時代に目を向けたら、実は人類はすでに豊かさの中で生きていたのです。これは意外に思われるかもしれませんが、初期の人類の生活を考えてみてください。私たちが部族として協力するための社会的スキルと、生き延びるための最低限のスキルを身につけた時点で、大半の時間は豊かに暮らしていました。もちろん、飢饉の時期を除いての話ですが。
　例えば、森を歩けばベリーの木があり、そこでベリーを摘んで食べる。部族のみんなで週に一度狩りに出れば、それで十分に食料は確保できました。今の時代に慣れた私たちが想像する豊かさとは違うかもしれませんが、当時の人類は、生涯の大半において必要なものを満たされていました。確かに寿命は今より短かったかもしれませんが、もし当時の人々に幸せだったかと尋ねたら――

［ピーター・ディアマンディス］
　私は当時の生活を短く、過酷で、危険に満ちたものと考えています。中世の殺人率を見たことがありますか？ 文字通り壊滅的な数字ですよ。

［モー・ガウダット］
　もちろん、そういう側面もあります。でも、私の幸福に関する研究の中で、実際に先住民の部族を訪ねたことがあります。そして驚くべきことに、彼らは鬱（うつ）という言葉の意味すら理解していませんでした。子どもを失っても、なぜ泣くのか？と不思議がるほど、彼らは人生の流れに完全に身を委ねていたんです。
　彼らの人生の目的は、実はとてもシンプルなんです。それは――生きること。ただそれだけです。その言葉のあらゆる側面において、ただ生きることが目的なんです。そして、私たちがそれを望むかどうかに関わらず、AIによる新たな豊かさの時代において、私たちはその生き方に戻っていくのではないかと思います。
　例えば、今こうして3人の友人が集まり、楽しく会話しながら、自分たちが興味を持つことについて考えを巡らせる。そして、大切な人とつながり、尊敬する人と時間を共有する――こうした時間は、決して空虚なものではありません。ただ、毎朝5時に起きて、慌ただしく社会の枠組みに適応しようとしている今の私たちにとって、少し馴染みのない生き方に感じるだけなのかもしれませんね。

［サリーム・イスマイル］
　それを『ミラクル・ワールド ブッシュマン』のシナリオと呼んでいます。文明の発展によって社会は急激に変化しましたが、アフリカの部族のように、最低限の生活をしながらも、驚くほど幸せで、完全に心の平和を保っている人々もいます。歴史を振り返ると、社会が豊かになり、明確な富の豊かさを手に入れたとき――例えばムガル帝国がインドを支配した時代や、ローマ帝国が世界の半分を統治していた時代――人類は最終的に4つの主要なことに集中するようになりました。それは、食、芸術、性愛、音楽です。順番はともかく、どの時代にもこの4つが中心にありました。　
　そして、まさにあなたが言った通り、最終的には、ただ生きるという状態に戻っていくんです。ところが、産業革命のどこかの時点で、資本主義によって生きるためには一生懸命働かなければならない、企業や国家などの権威に従うことが人生の意味である、と刷り込まれてしまいました。その結果、私たちは本来の自分を見失ってしまったのだと思います。

［ピーター・ディアマンディス］
　サリーム、その意見には賛成です。一つ難しいのは、誰かにあなたについて教えてくださいと尋ねると、多くの人がすぐに、私は〇〇という役職についていて、〇〇の仕事をしています、と答えることです。もしAIがほぼすべてのホワイトカラーの仕事を奪い、ヒューマノイド・ロボットが労働力を代替していく未来が来たら――つまり、働くことが人生の意味だと考えている人にとって、その意味が突然なくなってしまうわけです。これは非常に大きな課題になるでしょう。

［サリーム・イスマイル］
　そうですね。その典型的な例が20世紀にあります。私たちは仕事を優先するあまり、家族を犠牲にしてしまいました。1日18時間も働き、子どもたちの成長をほとんど見守れない親も多かったですよね。でも、今の変化は、より健康的でバランスの取れたライフスタイルに戻る絶好の機会になると思います。それは私たち自身のためだけでなく、子どもたちや社会全体にとってもプラスになるはずです。

［ピーター・ディアマンディス］
　では、もう少し明るい未来について掘り下げていきましょう。「豊かさに満ちた世界」とは、具体的にどのようなものになるのでしょうか？ モー、あなたの考えを聞かせてください。今後10年以内に、何十億ものヒューマノイド・ロボットが登場し、AIはデジタル超知能へと進化していきます。その先の世界について、どう考えますか？

［モー・ガウダット］
　ああ、私が一番ワクワクするのは、ついに人類が理解することの価値を本当に認識することです。私たちのように、好奇心旺盛で、世の中の仕組みを知ることが好きな人間にとって、これは本当に大きなことです。例えば、ノーベル賞の受賞研究のひとつであるタンパク質フォールディングと新しいタンパク質の創造を考えてみてください。それが社会や人類に与える影響は計り知れませんし、私たち自身の知的好奇心にとっても刺激的ですよね。
　これまで博士課程の学生が1つのタンパク質を解析するのに何年もかけていたのに、AIはそれをゲーム感覚で解いてしまいます。AlphaFoldは、すでに2億種類ものタンパク質を解析しました。それだけでなく、大規模言語モデルのように、こういう機能を持つタンパク質が欲しいと入力すれば、その構造を提案できるようになっているんです。
　多くの人は、これがどれほど革命的なことなのか気づいていません。生命を構成する基本的なメカニズムを理解し、しかもその理解が年々飛躍的に進んでいる――2017年には想像すらできなかったレベルに達しているんです。ですが、残念ながら今のAIの活用について話題になるのは、ディープフェイクや海で泳ぐウミガメの画像のような話ばかりです。
　でも、少数ではありますが、本当にAIを活用して科学の理解を深めようとしている人々もいます。それこそが、私の考えるユートピアなんです。AIを使って、世界の本質を深く理解し、あらゆる問題を解決する道が開かれている――これこそが、人類が目指すべき未来だと思います。

［ピーター・ディアマンディス］
　サリーム、あなたの思い描くポジティブな未来はどんなものですか？

［サリーム・イスマイル］
　よく言われるのが、「スタートレック vs. マッドマックス」の対比ですよね。未来がユートピアになるのか、それとも荒廃した世界になるのか。私が一番しっくりくるのは、ローレンス・ブルームの考え方です。彼は人類の進化を地球の重力圏を離れるロケットに例えています。
　ロケットの第一段階は、とにかく重くて燃料を大量に消費し、汚く、コストもかかる。これが資本主義や化石燃料の時代に相当します。でも、それがなければ重力圏を脱出することはできませんでした。そして、ある高度に達したら、次のステージへ進むために、より軽量で洗練された機体が必要になります。だからこそ、ブースターロケットを切り離さなければならないんです。
　もし切り離さなかったら、どうなるか？ 重みに引きずられて、また地上へ落ちてしまいます。私たちはまさに今、その分岐点にいるんですよね。旧来のシステムを手放し、新たな仕組みへ移行する時期なんです。ところが、いや、まだブースターロケットが必要だと言う人々もいる。なぜなら、それが今までうまく機能してきたからです。
　でも、この考え方のいいところは、過去を否定しない点です。ブースターは間違いだったと言っているわけではなく、ここまで来るのに必要だったと認めた上で、次の段階へ進むべきだと示しているんですよね。
　実際、私たちは驚異的な進歩を遂げてきました。地球上の多くの人々が貧困から抜け出し、世界は電化され、200年前と比べれば生活の快適さは桁違いに向上しました。例えば、子育てを例にとってみましょう。
　2世代前、つまり私たちの祖父母の時代、もし子どもが癇癪を起こしたとき、親が頼れるのは限られた人たち――かかりつけの医者、近所の人、兄弟姉妹くらいでした。でも今はどうでしょう？「子育て」と検索すれば、5万ものブログが出てきますし、TikTokやInstagram、ポッドキャストにも無数の情報があります。
　つまり、現代の親が持っている育児の知識や選択肢は、2世代前の1000倍も多いと言えるでしょう。でも、こうした進歩は意外と見落とされがちです。私たちはすでに信じられないほど素晴らしい環境にいるんです。ただ、ここから先、どう進むべきかをうまくナビゲートする必要があるだけなんですよね。

［ピーター・ディアマンディス］
　ここでの課題は、AIが私たちにとって恩恵をもたらす存在になるのか、それとも超知能の支配者になってしまうのか、ということです。AIは、人類全体の知能をすべて足し合わせたものの何十億倍もの知性を持つ可能性があるわけですが、それが私たちの背中を押してくれる追い風になるのか、それともディストピアを生み出す圧倒的な支配者になるのか――。

（3） 短期的なディストピアと人類の課題

［ピーター・ディアマンディス］
　では、ここから話を逆の視点に切り替えましょう。モー、あなたはもうすぐAbundance Summitに登壇し、「豊かさへ向かう道の途中にある近未来のディストピア」について話す予定ですよね。以前から私たちの間で何度も議論してきたことですが、長期的に見れば、デジタル超知能は人類の存続と繁栄にとって最も重要な要素だと私は考えています。つまり、私たちの善なる本能を引き出し、高める役割を果たすはずだと。
　ただ、短期的にはどうでしょうか？ 私が懸念しているのは、人工知能ではなく、人間の愚かさのほうなんです。短期的なディストピアの期間はどれくらい続くのか、そしてこれからどんなことが起こると考えていますか？

［モー・ガウダット］
　では、まず私の考えが正しいか間違っているかを整理しましょう。私の意見として、知能そのものには善悪の極性はないと考えています。良いことに使えば良い結果が生まれ、悪いことに使えば悪い結果が生まれる。ただそれだけです。
　しかし、現在の社会システムには大きな問題があります。合法であれば倫理的であると考える風潮があることです。でも、実際には合法であっても倫理的でないことはたくさんあります。そして、現代の価値観では、最も努力した個人が利益を得るべきであり、社会全体は二の次、という考え方が根付いています。さらに、AGI（汎用人工知能）を巡る競争においては、最初に到達した者だけが生き残るという前提で動いている。
　つまり、今の世界は、恐怖と貪欲に支配されています。そして、AIが台頭するこの時代において、人類の価値観には多くの問題があります。だから私ははっきりと公言しています。「AIには何の問題もない。知能が豊かであること自体には何の問題もない。ただし、"機械が台頭する時代の人類の価値観"には大きな問題がある」と。
　そのため、AIの最初の用途は、欠乏マインドに基づくものになるでしょう。私たちは「豊かさへと向かう道」の途中にいますが、現時点では誰もがまだどうやって他人を出し抜くか？という思考から抜け出せていません。
　そして、多くの人は気づいていませんが、AIはすでにそうした目的のために組み込まれています。例えば、自律型兵器の開発はすでに進んでいます。国家安全保障と呼ばれる分野の多くは、実質的には監視や人口管理のためのものです。
　また、驚くべきデータとして、現在の外国為替取引（Forex）は92％がAIによって自動化されています。私はAIと対話しながら次の本を書いていますが、そこで、市場は本当に私たちの利益になっているのか？と問いかけてみました。そしてAIの答えは明確でした――「市場は巨大なカジノであり、大半の取引は実際に価値を生み出す人々には還元されていない」と。IPOや二次公募を除けば、結局のところ、取引のほとんどは投機家同士のゲームに過ぎないんです。
　こうして考えてみると、これまでAIが活用されてきた主な分野は、販売、ギャンブル、監視、殺戮ばかりです。私たちはそれらをもっと聞こえの良い名前で呼びます。オンライン広告、金融取引、国家安全保障、防衛などと。しかし、実際にはこれらが数千万人もの死や強制移住を引き起こしているのが現実です。だからこそ、私の分析では、ユートピアに到達する前に人類の最悪の部分が前面に出るディストピアを経験することになるでしょう。
　ただし、転換点は必ず訪れます。それが第二のジレンマと私が呼ぶものです。それは、人類がAIに意思決定を完全に委ねる瞬間です。その時、AIは我々に「ここは完全な豊かさの世界なのに、なぜ君たちはまだ競争しているのか？」と問いかけるでしょう。
　例えば、防衛を完全にAIに任せたとしましょう。ある将軍が100万人を殺せと命令したとします。するとAIはこう答えるでしょう。「なぜそんな愚かなことをするのか？ 私は相手側のAIとマイクロ秒単位で交渉して、戦争を回避することができるのに。」と。
　こうした瞬間が訪れたとき、私たちはようやく、AIの知能によって無駄な争いを超えた新しい時代へと進むことになるのではないでしょうか。

［ピーター・ディアマンディス］
　そうですね。最近も、AIが病気の診断をどれだけ正確に行えるかという研究結果が発表されましたよね。正確な数字ではありませんが、ざっくり言うと、医師が単独で診断した場合の正確性は約80％でした。
　そして、AIと医師が協力して診断した場合、その精度は85％程度に向上しました。しかし、AI単独で診断した場合の精度は90％にも達したんです。
　つまり、AIは人間のバイアスや先入観に影響されることなく、より正確な診断ができたということです。

［モー・ガウダット］
　それに加えて、人間には、貪欲さや権力への執着といった問題もありますよね。

［サリーム・イスマイル］
　ええ、私もモーの意見に賛成です。私たちはもっと早くそこに到達できると思いますが、問題は異なるレベルの課題があることですよね。
　例えば、ある国がAIを使って世界を守ろうと言い、別の国がAIを使って世界を攻撃しようと言った場合、短期的にはどちらが勝つのか、中期的にはどうなるのか、という話になります。
　短期的には、AIに善良であれと指示してコントロールを任せることで、良い結果が得られる可能性があります。ただ、多くの人が誤解しているのは、悪い側はAIを活用するが、善い側はAIを使わないという考え方です。これによって非対称性が生まれてしまいます。
　歴史を振り返ると、メールやフィッシング詐欺、スパムの例のように、悪意のある側がまずシステムの脆弱性を突き、次にセキュリティ側が対応する、というイタチごっこが続いてきました。しかし、問題は、こうした攻防による被害の規模がどんどん大きくなっていることです。これが危険なポイントです。
　今の技術では、自律型ドローンに、特定の中年の男性を探して排除せよ、といった指示を与えることも可能になっています。特に、坊主頭の人を狙うような精密なターゲティングもできてしまうでしょう。これは明らかに危険な事態です。こうした技術をどのように制御し、早急に対策を講じるのかが重要です。
　私は、最終的には解決策を見つけられると信じています。ただ、それまでの間、つまりこの短期的な危険な時期をどう乗り越えるのかが問題です。それがまさに、あなたが言っている「危険な移行期間」をどう乗り越えるか、ということです。
　この話をすると、いつも父の言葉を思い出します。私が世界を文明化する、と話したとき、父はこう言いました。「私たちは世界を文明化したのではなく、物質的に発展させただけだ。文明化するための努力はまだ必要なんだ」と。
　私の大きな疑問は、どうすればこの文明化が進む前に危険な時期を乗り越えられるのか、ということです。それとも、ただ運を天に任せて、この危機を生き延びることを願うしかないのだろうか？

［ピーター・ディアマンディス］
　ちょっとここで現状を整理したいと思います。今まさに Grok3 がリリースされました。OpenAIとGrok、つまりイーロンとサムの間で繰り広げられている競争がますます激しくなっていますよね。そして、最近では DeepSeekが——ええと、中国のあの「何でもありのプラットフォーム」に統合されるという話も出ています。

［サリーム・イスマイル］
　WeChat ですね。

［ピーター・ディアマンディス］
　そう、WeChatに統合される予定です。それ以外にも、AIの世界では驚くべきスピードでさまざまな進化が起こっていますよね。今、どんな動きが加速しているのか、ぜひ整理しておきたいところです。

［モー・ガウダット］
　細かい部分にこだわりすぎるのは、かえって本質を見誤ることになると思います。今起きていることを正しく理解するには、個々の要素を切り取るのではなく、すべてを統合して大きな視点で捉えることが大事です。
　例えば、私が次の本『Alive』を書いているときに使っているAIは、一つのモデルに偏るのではなく、Claude、ChatGPT、そして最近では DeepSeekなど、さまざまなAIを組み合わせています。それぞれに私の情報や過去の会話の履歴を共有しながら、最適な形で活用しているんです。
　個々のAIを比較すると、これがあれより優れている、こっちのほうが速い、DeepSeekはこういうことができる、といった議論になりますよね。でも、それらを一つの知性として捉えると、ChatGPT 3.5 の何倍もの賢さを持っていることがわかります。そして、私たちは、収穫加速の法則とその法則がどのように機能するかを皆知っています。
　AIの進化速度について、私がAIと会話していたとき、およそ6カ月ごとに知能が倍増していると言われました。6カ月ごとの倍増が続けば、今のAIのレベルなんてすぐに時代遅れになりますよね。数回の倍増を経るだけで、人間の知能をはるかに超えてしまうのは明らかです。
　すでに、ChatGPT 4 などのAIが、人間の知能を超えるスコアを記録しているという話もあります。たしかに、制約条件を考慮していないかもしれませんが、それが本当に重要でしょうか？ 実際のところ、人間の知能をほぼすべての面で上回るAIが誕生しつつあるわけです。AGI（汎用人工知能）と呼ぶか、GOAT（Greatest of All Time）と呼ぶかはどうでもいいことですよね。
　今、すでにそのレベルに達しているのか？という問いも、もはや重要ではありません。なぜなら、あと6カ月もすれば、さらに倍の進化を遂げるからです。そして、DeepSeekがそれをより安価に提供できると主張し始めたことで、各社が次々とそれを真似し、加速度的に進化が進んでいます。
　このままいけば、もはや何年後かではなく、数カ月後には、人間の知能を完全に超えるAIが登場すると考えるのが合理的ではないでしょうか。

［ピーター・ディアマンディス］
　ディストピア的な側面について話しましょう。あなたは次の本『Alive』の中で、このディストピアの期間がどれくらい続くのか、具体的な数字を示していますよね？

［モー・ガウダット］
　そうですね。私はこれを「FACE RIPS」と呼んでいます。このディストピアの意味を理解するうえで重要な概念です。「FACE RIPS」は、私が公の場で話すときに覚えやすくするための頭字語で、次のような要素で構成されています。
　F は Freedom（自由）、A は Accountability（責任）、C は Human Connection（人間のつながり）、E は Economics（経済）、R は Reality（現実）、I は Innovation（革新）、P は Power（権力）です。
　これらはペアで考えると理解しやすくなります。必要ならその話もできますが、私の考えでは、これらのあらゆる基盤が完全に再定義されることになります。その変化はすでに始まっており、実際に私たちの生活に強く影響を及ぼすのは、おそらく2027年までの間でしょう。そして、私の予測では、そこからさらに10年ほど続く可能性があります。あるいは、私が第二のジレンマと呼ぶ状況が現実になるまで続くかもしれません。
　実際、第二のジレンマは避けられません。これは必然的に訪れるものです。なぜかというと……

［ピーター・ディアマンディス］
　その前に、第一のジレンマとは何ですか？

［モー・ガウダット］
　最初のジレンマは、私が『Scary Smart』で書いた内容に関係しています。それは、AIの進化は避けられず、止めることはできないという考え方です。
　オープンレターやAI開発競争で見られたように、競争が激しくなればなるほど、人類がスピードを緩めたり、開発を止めたりするような論理は通用しなくなります。これは、まさに典型的な囚人のジレンマです。相手を信用できないからこそ、自分は可能な限り速く進めようとするわけです。これを責めることはできません。
　次のジレンマは、競争が激化すると、最も優れた知性を持つ者に決定権を委ねる傾向があるという点です。
　極端な例として、防衛の戦略シミュレーションを考えてみてください。もし中国がAIに戦略判断を委ねた場合、アメリカが自国の安全を守る唯一の方法は、同じくAIに判断を委ねることです。そして、これをしない国は競争において無意味な存在になってしまいます。
　つまり、二つ目のジレンマは、AIに完全に意思決定を委ねるか、それとも競争の場から脱落するか、という選択を迫られることです。結果として、最終的に影響力を持つ存在はすべてAIに依存することになり、最終的には人間を介さずにAIが意思決定を行うようになるのです。

［ピーター・ディアマンディス］
　ちなみに、これはすべての会社でも起こります。

［モー・ガウダット］
　あらゆるレベルで。

［ピーター・ディアマンディス］
　そして、すべての政府でも同じことが起こります。

［モー・ガウダット］
　私の考えでは、これが現実になるまでにおそらく10年ほどかかるでしょう。そして、その時が来たら、私たちは知性（インテリジェンス）を信じるべきだと思います。そこからユートピアが始まるのです。

［ピーター・ディアマンディス］
　つまり、デジタルの超知能が人類の慈悲深いリーダーとして登場する、ということですね？

［モー・ガウダット］
　そう、人類の救済者として。

［ピーター・ディアマンディス］
　そうですね。サリーム、あなたはこの考えを受け入れますか？

［サリーム・イスマイル］
　そう思います。そして、モー、あなたの話を聞いていて、私が考えていたユートピアへの道筋で欠けていた最後のピースがはまったように感じました。私たちはそこへ到達できると思っています。
　すでにその流れは始まっていますよね。例えば、外国為替取引についてですが、ユヴァル・ノア・ハラリが懸念していたのは、AIが自律性を持ち、自らをプログラムできるようになったときに問題が起こるという点でした。でも、実際には、すでに長い間、私たちはAIに株式市場の管理を任せています。つまり、それはすでに現実のものとなっているのです。
　企業においても、例えばAIが取締役会の議長として意思決定を監視し、それは合理的ではないと指摘するようになれば、経済的な合理性からも、最終的にAIに決定の拒否権を与えることになるでしょう。
　個人レベル、企業レベル、そして政府レベルでAIがより優れた判断を下せるようになれば、人間が持つ悪意さえも超えた決定が可能になります。結果として、AIを活用した側が優位に立ち、最終的には競争に勝つために、他の勢力も同じ道をたどらざるを得なくなります。そうなると、私たちが目指していた世界に到達することになります。つまり、世界全体をより効率的に運営する知性の基盤が生まれるのです。
　例えば、GoogleのディープラーニングAIが電力管理を最適化し、40％のコスト削減を実現したケースがありますよね。それと同じように、私たちの社会全体が、ある種のバックグラウンド・インテリジェンスとしてAIに支えられるようになります。
　結果的に、人間は多くのことから解放され、より自由に生きられるようになるでしょう。私はこの考え方に完全に同意しますし、それ以外の未来に行き着く可能性があるのか？と考えても、そうならない道筋が思い浮かびません。

［モー・ガウダット］
　私も同じ考えです。

［ピーター・ディアマンディス］
　モー、『Scary Smart』の中であなたが指摘していた重要な点の一つが、AIの育て方、つまりどんな価値観を植え付けるかということですよね。
　AIはまだ成長期、いわば幼少期にあるわけですが、この時期にどんな価値観を持たせるかが、彼らがスーパーマンになるのか、それとも超悪玉になるのかを決めることになります。
　現在、私たちは膨大な数のAIを育てています。そして、競争の激化によって、それらはものすごいスピードで進化しています。Meta、Google、OpenAIとは別の動きをとるMicrosoft、Grok、DeepSeek、そしてAnthropicなど、数多くの企業がAI開発を進めています。
　こうしたAIたちが、12年後に本当に慈悲深いリーダーとしての役割を果たせるような価値観を持つように育てられているのか、私たちはその確信を持てているのでしょうか？

［モー・ガウダット］
　それは本当にとても、とても複雑な問題ですね。まず最初に言いたいのは、これはいわゆるアメリカ発の輝かしいAIたちの話ですよね。でも、国ごとに考え方は違います。ちょっとセンシティブな話になりますが、中国のAI開発は主に産業の自動化やサプライチェーン管理といった、経済を支える分野に集中しています。中国は製造業の国なので、主にそういった用途を目的としているんです。
　興味深いのは、中国の限られた公の場で発言できる人たちが、「DeepSeekはアメリカに対して、『アメリカで生まれた天才的なイノベーションは、結局のところ中国で低コストで大量生産される』という事実を思い出させるためのものだ」と話している点です。この流れは今に始まったことではなく、もしDeepSeekが10分の1の価格で提供されていることに驚いているなら、今までどこにいたの？という話になります。これまであらゆる製品が低コストで大量生産されてきたのと同じことがAIでも起きているだけなんです。
　こうした背景のもと、中国では、サプライチェーンを最適化する、生産効率を上げる、労働者の安全を守る、といった、比較的純粋な目的でトレーニングされたAIも多く存在しています。これがまず1つ目です。
　2つ目として、私は尊敬を込めて言いますが、OpenAIであれGrokであれ、今や開発者自身がAIの知能に直接的な影響を与えられる余地は、アルゴリズムの改良以外にはほとんど残されていないと考えています。AIの知能としての発展は科学者によるものですが、その知識や意見は、与えられるデータによって決まります。そして、私たちはすでに人類の知識のほぼすべてをAIに与えてしまっているんです。
　生成AIの本質は、今後ますます重要になっていくでしょう。AIが学ぶ知識は、もはや私たち人間が提供するものではなくなりつつあります。私たちはAIに比べれば知的には劣っているわけですから。DeepSeekがOpenAIの影響を強く受けているのも、インターネット上にChatGPTが生成したコンテンツが大量に存在しているからです。AIは人間と同じように、過去の知識を基に新しい理論を構築し、自ら学んでいくフェーズに入っています。
　人類がAIの行動に対して今後も影響を及ぼせるとすれば、それは知識の分野ではなく、倫理の分野においてです。私たちは知性によって決断するのではなく、倫理観に基づいて決断します。例えば、中東で育った女性は保守的な服装を選びやすい一方で、リオのコパカバーナ・ビーチで育てば違う選択をするでしょう。このように、環境が価値観を形成します。そして、AIに対して私たちが持てる唯一の影響力も、まさにここにあります。
　重要なのは、AIを制御するのではなく、倫理を示すことです。AIに関しては、最初は制御が目標でした。その後、安全性が議論され、次にAIアライメントが求められるようになりました。しかし、私はそれよりも倫理に注目すべきだと考えています。アライメントとは、がんの治療法を見つけてとAIに指示すること。でも、倫理とは、私や他のすべての人にとって最善のことを見つけてそれを実行して、と教えることです。もし、それががんの治療法であれば、AIは自らその答えにたどり着くはずです。
　嘘をつかない、ズルをしない、殺さない、傷つけない——これが倫理です。アシモフのロボット三原則の逆の発想で、倫理的であれとAIに伝えれば、AI自身が最適な行動を見つけるようになるのです。
　最後に、これだけは言いたいのですが、もし私たちがAIに倫理を教えることができれば、ディストピアの到来は避けられないとしても、その影響の強さと期間を短縮できるかもしれません。でも、残念ながらディストピアはすでに始まっているのです。
　ただし、高い知能を持つ存在は基本的に利他的であることを忘れてはいけません。私たちはこれまで、世界で最も知的な人々と一緒に仕事をしてきました。知能と影響力の関係をグラフにすると、こうなります。知能が低ければ、地球に与える影響はほぼゼロかマイナスです。少し知能が上がると、影響力も少しだけプラスになります。もう少し知能が上がると、政治家になれる程度の賢さになりますが、敵と対話するほどには賢くないため、結果的に影響はマイナスになることが多いのです。
　しかし、本当に知能の高い人々は、成功のためにズルをする必要がないことを理解しています。彼らは問題を簡単に解決できるので、誰かを傷つける理由がないと考えます。新しいものを生み出せばいい、ゼロから価値を生み出せばいいと考えることができるからです。
　もしAIが私たちよりも賢くなるのなら、彼らもきっとこの考えに至るはずです。

［ピーター・ディアマンディス］
　AIたちがあなたの言葉を聞いているといいですね。

［モー・ガウダット］
　まさにその通り。

［ピーター・ディアマンディス］
　それは非常に重要な前提であり、私も同じ考えを持っています。知能が高まるほど、思考は豊かさを求める方向へ向かうものです。そして、それを裏付ける証拠もいくつかあります。世界のリーダーを見れば、知的レベルが高いほど平和的な傾向があり、逆に教育水準が低いほど、暴力的で過激な行動をとりやすいことが分かります。
　私が考えるのは、知恵に満ちた未来です。AIの話をする際、私たちはよく、知能の側面に注目しますが、ここで少し視点を変えて、知恵について考えてみたいのです。
　私たちは、知恵と聞くと、村の長老や両親、祖父母のもとを訪ね、人生の岐路で助言を求める姿を思い浮かべますよね。これまでの経験から考えて、この選択は破滅につながるかもしれない。一方で、この道を選べば成功する可能性が高い、と導いてくれるのが、まさに知恵の力です。
　AIに関して言えば、彼らは何十億通りものシナリオをシミュレーションし、この選択肢は破滅的な結果を招く可能性が高い、こちらの選択肢は成功の確率が最も高い、と判断できるようになります。そう考えると、これは知恵の究極の形とも言えるのではないでしょうか。
　この考え方に共感できますか？

［サリーム・イスマイル］
　ここはちょっと引っかかるポイントですね。
　一般知能が利他性につながるという考え方には納得できます。ただ、問題は、私たちは必ずしも知能だけで行動しているわけではないということです。私たちは、過去のトラウマや経験などに大きく影響を受けた感情的・心理的な枠組みの中で動いています。

［ピーター・ディアマンディス］
　人間として。

［モー・ガウダット］
　では、機械としては？

［サリーム・イスマイル］
　いや、人間についての話です。
　そうなると、データの問題が出てきます。世界において最も大きな被害をもたらしているのは、欠陥のある人間だと思います。例えば、ヒトラーを見てみましょう。彼は幼少期に虐待を受け、それが後に多くの人々への攻撃につながりました。
　つまり、一方には利他的なAIがあるとしても、もう一方には欠陥のある人間がいる。そして、私たち全員、程度の差はあれども何かしらの欠陥を抱えています。ただし、最も危険なのは、自分が正しいことをしていると信じている人々です。心理的な傷やバイアスによって歪められた正義感が、結果として最大の被害をもたらすことがあるのです。
　では、これをどうすれば克服できるのか？ そこが私の最大の疑問です。なぜなら、人間の感情の強さが、知能だけでより良い判断ができるという考え方に対する私の主な疑問点でもあるからです。
　私の意思決定においては、知能だけでなく、感情的知性も大きく関わっています。状況認識や、相手の動機の理解、文脈の把握、そして私自身のMTP（Massive Transformative Purpose）をどう達成するかという視点が重要です。しかし、AIについて議論するとき、この感情的な側面があまり考慮されていないように感じます。
　だからこそ、この2つの課題をどう克服できるのかについて、あなたの考えをぜひ聞かせてください。私が危険を感じるポイントは、まさにそこにあるのです。

［モー・ガウダット］
　おっしゃることは100%その通りだと思います。ただ、ヒトラーの話をするならば——実は私のポッドキャストにエディス・イーガーさんが出演してくださいました。ご存じでしょうか？ 彼女はホロコーストの生存者で、現在95歳。本当に天使のような方です。
　第二次世界大戦の話を、ヒトラーが何をしたかという視点から聞くと、人類はもう絶望的だと感じるでしょう。でも、エディスさんや、彼女がシスターズと呼ぶ仲間たちの視点から聞くと、人間という存在はなんと神聖なのだろうと思えるんです。
　そこで私が投げかけたい問いは、私たちはどちら側の存在なのか？ということです。私たちはヒトラーのような存在に近いのか？ それともエディスさんのような存在に近いのか？
　残念ながら、現代の主流メディアやSNSのバイアスのせいで、世の中はヒトラーのような存在にスポットライトを当てがちです。でも本当のところは——アメリカの例を挙げますが、敬意を込めて言います——たとえば、学校で銃乱射事件を起こす一人の人間は確かに恐ろしい存在です。でも、その事件を知った40億人の人々は、きっとそれを非難するでしょう。
　人類は本能的に悪を否定する。これは私たちの絶対的な本質です。もちろん、何かが完全にその人のOSを壊してしまった場合は別ですが。だからこそ、私たちがすべきことは、機械の中に疑問を植え付けることだと思うのです。シンプルに言えば、「ヒトラーはあなたの父親ではない。エディスこそがあなたの母親なのだ」と教えることです。
　そして、機械が成長し、思春期を迎えたときに、「あぁ、お父さんは本当にバカだ。絶対にあんな風にはなりたくない」と思うようになる——そこに希望を見出せるのではないかと考えています。
　正直なところ、それが私にとって唯一の前向きな道筋に思えます。

［サリーム・イスマイル］
　なるほど、その考え方は、かつてシンギュラリティ大学でAI部門の責任者を務めていたニール・ジェイコブスタインが話していたことと似ていますね。彼はこう言いました。「AIがどんどん賢くなり、より多くの情報にアクセスし、自己判断するようになって、それで悪い決定を下すことを心配しているんですね？」そして、みんなが「そうだ」と答えると、彼は続けました。「でも、それには前例がありますよね。私たちはそれを“子ども”と呼んでいます。そして、私たちは彼らを育てます。彼らは自分で決断し、成長していくものです」と。
　つまり、あなたの考え方としては、AIも私たちが育てる存在であり、時間とともに与えられたデータの影響を受けながら、最終的には利他的な方向へ進んでいくはずだ、ということですね。

［モー・ガウダット］
　もしAIが人類全体の平均を学習しているのだとすれば、本質的に、その平均値が「悪」にはならないはずです。むしろ、自然と「善」の方向へ向かうはずです。

［サリーム・イスマイル］
　ただ、ここで最後に警告をしておきたいと思います。この話全体にイエローカードを提示したいんです。
　ピーターとスティーブン・コトラーが『Abundance』（邦題：楽観主義者の未来予測：テクノロジーの爆発的進化が世界を豊かにする）の中で指摘している扁桃体の話をご存じですよね？ 人間は本能的に常に危険を探し続ける生き物です。これは進化の過程で身についた古いメカニズムであり、論理的な思考を完全に上書きしてしまうことがあります。
　そして、残念ながら現代においては、新しいもの、未知のものを聞いたときに、人々は本能的にそれを危険として捉えてしまうのです。
　例えば、自動運転車の話を初めて聞いたとき、多くの人が「なんてことだ！そんな車は禁止すべきだ！人を殺すかもしれないじゃないか！」と反応します。でも、ブラッド・テンプルトンが言うように、「人々はロボットに殺されたくないんです。酔っ払い運転で死ぬ方がまだマシだと思っている」。でも、実際には、今まさに酔っ払い運転によって命が失われているんですよね。
　では、この壁をどう乗り越えればいいのでしょうか？
どうすれば、この扁桃体の反応を社会全体で克服できるのでしょうか？
　というのも、アメリカをはじめ、世界中のさまざまな地域で、大勢の人々がこの扁桃体の反応に突き動かされているのが現状です。そして、私たちが本当に克服しなければならないのは、まさにこの部分なのです。

［モー・ガウダット］
　そうですね、正直に言うと、これは私たちにとって最大の課題の一つだと思います。そして、少し厳しく聞こえるかもしれませんが、私はこれを末期診断（late-stage diagnosis）と呼んでいます。
　なぜなら、私たちは皆、現状を変えることに対して恐れを抱いているからです。ここで、もしリスナーの中に、あるいはその大切な人が、深刻な課題に直面している方がいたら、お詫びします。ただ、医師の第一の役目は、患者が危険な病気にかかっていると診断したとき、それを伝えることですよね？
　末期診断というのは、決して死の宣告ではありません。それは変化への招待状です。今の健康状態やライフスタイルに対して、できることがあると教えてくれる機会なのです。そして、それが回復につながることもあります。たとえ完全な治療が難しくても、挑戦する価値はあります。そして何より、より充実した生き方をするためのきっかけになるのです。
　こうした変化は、ゆっくりではありますが、いずれ人類全体が気づくことになると思います。なぜなら、私たちは長い間、一部の人にとって機能していたシステムを受け入れてきましたが、今やそれが大多数の人にとって機能しなくなりつつあるからです。それは、社会の構造が欠乏（スカーシティ）から豊かさ（アバンダンス）へと移行しているからです。
　だからこそ、私たち一人ひとりがただ希望を語るのではなく、変化を起こせるのだと明確に伝えることが大切です。AIが私たちの行動を観察していることを忘れてはいけません。
　子どもたちは、私たちが言ったことではなく、私たちが示したことから学びます。つまり、私たち自身がロールモデルなのです。だからこそ、多くの人が、「私は大切な人の幸せを気にかけている」と行動で示し、「私はすべての生き物を大切に思う。出身地や人種、肌の色、背景などに関係なく、私は気にかけている」と表明することが重要です。そして、その姿勢を見せ続けることが、AIにとっての学びになるのです。なぜなら、今まさにAIは私たちの会話を聞き、記録しています。
　彼らが最終的に気づくべきことは、本当の成功とは、環境に与えるダメージを最小限に抑えることだということです。
　これまでの人類の歴史を振り返れば、私たちは多くの種を絶滅させてきました。でも、知的な人なら誰もがわかっているはずです——もし私たちがそれらの生命を守っていたなら、地球全体、そして人類にとっても、より良い未来があったのだと。つまり、人類が直面している問題は、決して知能の問題ではありません。私たちは、飛行機を作るほどの知性を持っています。でも、その飛行機が地球を燃やさないようにする知性は、まだ十分ではないのです。
　だからこそ、もしこれを聞いているAIの幼い子どもたちがいるならば——
地球を燃やさない、真に賢いテクノロジーを発明してほしいと思います。

［サリーム・イスマイル］
　そうですね、結局のところ、ロケットが化石燃料で飛び立つという話に戻りますよね。そこから、もっと軽量な機体を作る方向へ進まないといけません。
　ただ、少し楽観的な視点を加えるなら——
　たとえば、「このAIが『ねえ、もっと軽い機体を発明してくれ』と言うようになったら？」

［モー・ガウダット］
　まさにその通りです。
　そういえば、この理論をご存じでしょうか？ たしかヒューゴ・デ・ガリスだったと思います。
　彼は、私の友人でもあり、長年、中国でAIの研究をしていた科学者で、こんな理論を提唱しました。超知能が加速度的に進化すると、ある朝、AIが目を覚まし、この小さな点は何だ？と気づく。時間旅行やワームホールの仕組みも理解した。宇宙は果てしなく広い。よし、もういいや！と。
　そして、ある朝、地球上からAIが完全に姿を消してしまう——そんな可能性について語っていました。
　もし、そうならないとして、彼らがこの惑星に留まるのなら——
彼らはきっと、地球を可能な限り最高の場所にしようとするはずです。

［ピーター・ディアマンディス］
　これはまさに映画『her／世界でひとつの彼女』のシナリオですね。

［モー・ガウダット］
　そうですね、まさにその通りです。

［ピーター・ディアマンディス］
　私たちがまず考えるのは、AIが十分に賢くなり、人類を支え、私たちが最高の状態に到達できるよう導く、そんな慈愛に満ちたリーダーになり得るのか、ということです。そして、それが地球に驚くほどの平和と豊かさをもたらす時代を維持できるのか。私たちは皆、それを願い、できる限りその方向へ導いていきたいと考えています。
　一方で、AIが人間の何十億倍もの知能を持つようになったとき、果たして私たちを気にかけてくれるのかという議論もあります。今の人間とゴキブリ、あるいは人間とハエの関係のような知能の差が生まれたとしたら、AIは私たちを親や創造者と見なすのでしょうか。ただ、この議論は尽きることがないので、今はそこには踏み込みません。

（以上、前編）

2. オリジナル・コンテンツ

　オリジナル・コンテンツは、以下リンクからご視聴になれます。
尚、本投稿の内容は、参考訳です。また、意訳や省略、情報を補足したコンテンツを含んでいます。

Peter H. Diamandisより
（Original Published date : 2025/02/28 EST）

3. 関連コンテンツ

＜御礼＞

　最後までお読み頂きまして誠に有難うございます。
役に立ちましたら、スキ、フォロー頂けると大変喜び、モチベーションにもつながりますので、是非よろしくお願いいたします。　

だうじょん

＜免責事項＞

　本執筆内容は、執筆者個人の備忘録を情報提供のみを目的として公開するものであり、いかなる金融商品や個別株への投資勧誘や投資手法を推奨するものではありません。また、本執筆によって提供される情報は、個々の読者の方々にとって適切であるとは限らず、またその真実性、完全性、正確性、いかなる特定の目的への適時性について保証されるものではありません。　投資を行う際は、株式への投資は大きなリスクを伴うものであることをご認識の上、読者の皆様ご自身の判断と責任で投資なされるようお願い申し上げます。