ポスト希少性社会と富の集中：超知能社会における“人間の本質的な役割”とは？

　2025年10月27日から30日まで、サウジアラビアの首都リヤドで開催されたイベント「第9回 未来投資イニシアティブ（FII）」から、元Google会長のエリック・シュミット氏、スタンフォード大学教授でWorld Labsの共同創設者であるフェイフェイ・リー氏を招き、ピーター・H・ディアマンディス氏がモデレーターを務めたラウンド・テーブル・ディスカッションのコンテンツを紹介します。ディスカッション・テーマは、「超知能」（ASI：Artificial Super Intelligence）です。 以下は会話の中でのサブテーマです。

◆ 超知能（ASI）の定義と到達時期
　AI、AGI（汎用人工知能）の先に議論される「超知能」（ASI）の実現について

◆ 現行AIの限界と人間の創造性
　AIは、創造性や抽象化のための能力を獲得できるか？

◆ AIがもたらす社会経済的影響
　AIの普及によってポスト希少性社会が訪れるのか、あるいは富の格差という経済的インパクトは？

◆ 地政学と国家戦略
　ASIの覇権をめぐって、各国はどのように対処すべきか

◆ 科学的発見の加速と仮想世界
　AIは数学や物理学などの基礎科学を解決するのか、またワールドモデルは実現するか

◆ ASI時代の人間の役割
　ASIが存在する未来において、人間やリーダーの役割は何か
 

1. ラウンドテーブル

［ピーター・H・ディアマンディス］
　皆さん、ようこそ。皆さんの未来、皆さんの会社、国、そしてお子さんたちの未来についての対話へようこそ。私たちは今日、超知能（スーパーインテリジェンス）について議論していきます。それは何を意味し、それが到来したとき何が起こるのでしょうか。私たちはAI、AGI、そして今や人工超知能（ASI）について話しています。
　まず、当たり前の質問から始めたいと思います。誰も完璧な答えを持っていないと思いますが、この超知能（ASI）とは何を意味し、いつ頃実現しそうなのでしょうか？
　エリック、私たちはこのことについて話してきましたね。どうお考えですか？

［エリック・シュミット］
　AGIの一般的な定義は、人間レベルの知能です。人間の知能は、私たち全員が人間なので理解できます。アイデアを持ち、友人がいて、物事を考え、創造的です。
　そして、超知能（ASI）とは、人類全体の知性の合計、あるいはそれを超える知能と定義されます。私たちの業界では、いずれ超知能に到達するという考えが広まっていますが、正確にどれくらいの時間がかかるかはわかりません。「サンフランシスコ・コンセンサス」と私が呼んでいる人々のグループがいます。彼らが皆サンフランシスコに住んでいるからです。彼らは超知能に到達するのはあと3、4年だと信じています。おそらく、あの街の天候や何かの影響かもしれませんが、その予測をしている人たちは、今まさに見えている複利効果が、この進展をより早めるだろうと主張しています。
　私自身は、それにはもう少し時間がかかると考えています。しかし、根本的には、今起きている現象が加速度的に進むことで、予想以上に早く超知能に到達する可能性があると、彼らは言っています。

［ピーター・H・ディアマンディス］
　フェイフェイ、AIがこれまでに示してきた性能を誰も予想していなかったと思います。スケーリング則は私たちに並外れた能力をもたらしました。あなたは新しい会社のCEOであり、World Labsの創設者でもあります。スタンフォード大学でもこの研究に取り組んでこられました。
　超知能についてどうお考えですか？ 仕事の中で超知能について議論することはありますか？

［フェイフェイ・リー］
　アラン・チューリングが考える機械は作れるかという問いを人類に投げかけたとき、彼は知能という根本的な問いについて考えていました。つまり、AIの誕生は知能に関わるものであり、知能が意味する深遠で普遍的な能力に関わるものなのです。その観点から言えば、AIはすでに、知能の意味するものの境界を押し広げようとする分野として生まれているのです。
　さて、アラン・チューリングから75年が経ち、この超知能という言葉はシリコンバレーで非常に注目されています。エリックが言うように、その口語的な定義がAIやコンピュータがどの人間よりも優れた能力を持つことである点には同意します。しかし、少し慎重になる必要があるとも思っています。
　まず第一に、今日のAIの一部はすでにどの人間よりも優れています。例えば、AIは多くの異なる言語を話し、何十もの言語間で翻訳する能力があります。これは、ほとんどの人間にはできません。
　またあるいは、AIの非常に高速な計算能力。化学から生物学、スポーツに至るまで、膨大な知識を持つAIの能力。ですから、多くの点でAIはすでに人間を超えてスーパーな存在になっています。しかし、AIがニュートンになれるのか、アインシュタインになれるのか、ピカソになれるのか、という問いは残ります。私には分かりません。
　例えば、私たちが今日観測している星の動きに関する全ての天体データがあるとします。そのデータをどのAIアルゴリズムに与えても、ニュートンの運動法則を導き出すことはできないでしょう。人間が持つその能力は、創造性と抽象化の組み合わせです。今日のAIや明日のAIが、まだそれができるとは思えません。

［ピーター・H・ディアマンディス］
　エリック？

［エリック・シュミット］
　フェイが正しく指摘したように、よくある例の一つは、1902年に存在した全ての知識をコンピュータに持たせたとして、相対性理論、つまり今日の物理学を発明できるか、ということです。そして現在の答えはいいえです。
　現在のシステムでは、推論を行う際に学んだことを非常に迅速に再利用することが難しいという点があります。これは、例えば数学者が新しい証明を行うときに、その証明を次の証明に活かせるのとは違います。今のシステムにはそれが難しいという問題があります。もちろん、近似的な方法はありますが、私たちはその限界がどこにあるのかをまだ十分に理解していません。
　ここで一つの例を挙げてみましょう。仮に、私たちがすべての問題を解決できるコンピュータを作り上げたとしましょう。ただし、私たちが人間として行う、非常に創造的な活動の一部だけは、まだ解決できないと仮定します。創造的な人々がどのようにそれを行うのかというと、彼らは通常、特定の分野の専門家であり、異なる分野を見ると、そのメカニズムが別の分野の問題も解決できるという直感を持っています。これが、AIに学ばせなければならないことの一例です。
　別の方法として、強化学習を使って力任せに問題を解決する方法も考えられます。しかし、組み合わせ的に見て、そのコストは非常に高く、すでに電力などのリソースが限界に近づいている現状では、それを実行するのは現実的ではありません。ですので、真の超知能に到達するためには、恐らく別のアルゴリズム的な突破口が必要だと考えています。

［ピーター・H・ディアマンディス］
　別の何が必要だといったのですか？

［エリック・シュミット］
　アルゴリズムのブレークスルー（algorithmic breakthrough）です。このアルゴリズムのブレークスルーに対処する別の方法です。専門用語では、目的の非定常性（non-stationarity of objectives）と呼ばれます。
　現在起こっているのは、システムが目標に対して訓練されていることです。しかし、フェイフェイが言及しているような創造性を発揮するには、目標を達成する過程で目標自体を変更できる能力が必要なのです。

［ピーター・H・ディアマンディス］
　この一年で、確かGPT-5 ProがIQ148に達するという驚異的な進展を見せました。もちろん、このことに上限はありません。ある時点で意味を失うことになりますが、しかし、地球上の全ての人間が、創造性の面ではなく知能の面で、アインシュタイン・レベルの知能をポケットに持つ能力は、80億人の人類にとってはゲーム・チェンジになります。そして今、スターリンクや50ドルのスマートフォンによって、地球上の全ての人がこの種の能力を持つことが可能となっています。それらにヒューマノイド・ロボットが加わり、さらに他の多くの指数関数的なテクノロジーが加わることになります。そして、私たちはポスト希少性社会（post scarcity society）に向かっていると言われています。
　フェイフェイ、あなたはそのビジョンを信じますか？

［フェイフェイ・リー］
　少し慎重になる必要があると思っています。確かに、私たちは現在、シリコンバレーでよく聞く言葉、例えばAIや超知能、ヒューマノイド・ロボットなどを組み合わせて話していますが、少し慎重になる必要があると思います。正直なところ、ロボティクスにはまだ長い道のりがあると感じています。特に、人間レベルの操作の器用さに関しては、まだかなり時間がかかると考えています。そのため、私たちはポスト希少性の時代に突入したのかという問いについては、正直なところ、私はシリコンバレーの典型的な楽観的な考え方には賛成できません。確かに、AIが人間の能力を非常に深い形で補完することは確実だと私は信じていますが、それでも人間とAIの協力が最も生産的で実りのある方法だと考えています。

［ピーター・H・ディアマンディス］
　AIは2030年までに15兆ドルもの経済価値を生み出すと予測されています。国の富の基盤が、資本から労働力、そして計算知能（computational intelligence）へと移行するという考え方です。エリック、これが世界経済に与える影響は何でしょうか？　富や能力の再分配はどのように行われるのでしょうか？　国家間の格差は解消されるのでしょうか、それとも独走する勝者が現れるのでしょうか？

［エリック・シュミット］
　私たちがよく話してきたピーターのアバンダンス（豊かさ）の仮説ですが、その議論には欠陥があるかもしれません。なぜなら、アバンダンスの議論の一部は、それが全ての人にとっての豊かさであるということだからです。
　しかし、これらの技術がネットワーク効果を持ち、少数の勝者に集中するという証拠はたくさんあります。例えば、少数の国々だけがその恩恵を受けるということも考えられます。また、その国々の中でも、さらに少数の企業や人々がその恩恵を享受することになるかもしれません。これは公共政策の問題です。間違いなく、富は創出されます。なぜなら、富は効率性から生まれるからです。そして、AIを導入した企業はどこも大きな成果を上げています。
　ここサウジアラビアを見てみましょう。ここには膨大な石油供給網と、それに伴う損失があります。AIを活用すれば、それを10％、20％改善することが簡単にできます。これがこの国にとっては非常に大きな数字となります。生物学や医薬品の分野では、薬の承認サイクルが格段に速くなり、試験のコストも大幅に削減できます。材料分野では、より効率的で簡単に材料を作れるようになります。AIを早期に導入した企業は、それに比例して大きなリターンを得ています。重要なのは、その利益が均等に分配されるのか、という点です。私の見解では、均等に分配されるよりは、アーリーアダプターやネットワーク効果、うまく運営されている国々、そしておそらくは資本に中心に集まる可能性が高いと思います。

［ピーター・H・ディアマンディス］
　しかし、自動運転車が登場することによって、車を所有するコストは現在の4分の1まで下がる可能性があります。つまり、自動運転車に乗る方が、車を所有するよりもはるかに安くなるということです。また、Googleが情報へのアクセスを無料で提供してくれたのと同じように、AIが最高の医師、最高のヘルスケアを無料で提供してくれるようになるでしょう。そして私たちの世界の非常に多くの部分で、大規模なデモネタイゼーション（非収益化：demonetization）が進むでしょう。それは、スマートフォンと十分な帯域幅の接続さえあれば、誰でも利用できるようになると思います。
　これが実現するのではないかと私は思っていますが、もし違うとすれば、その普及を妨げる理由が何かあるのでしょうか。

［フェイフェイ・リー］
　AIがそれを民主化するという点については、全く同感です。ヘルスケアであれ、交通であれ、知識であれ、AIは大規模に民主化を進めるでしょう。しかし、エリックの言う通り、この世界的な生産性の向上が、必ずしも共有された繁栄につながるとは限らないという点に同意します。共有繁栄は、より深刻な社会問題です。それには政策が関わりますし、地政学的な政治や分配も関係してきます。そして、これはテクノロジーの能力とは別の問題なのです。

［ピーター・H・ディアマンディス］
　では、この会場にいるASIを他人事であり、自分たちには関係のない未来だと捉えているリーダーたちへのアドバイスは何でしょうか？彼らは何をすべきなのでしょうか？
　展開のスピードを考えると、彼らに重大な決断を下すための時間はあまり残されていません。

［エリック・シュミット］
　そうですね、まずアメリカの現状を説明するのが良いでしょう。アメリカには非常に厚みのある資本市場があり、特に台湾の半導体メーカー、TSMCによって提供される優れたチップのおかげで、アメリカは「ハイパースケーラー」と呼ばれる技術の構築において大きな優位性を築いています。もし超知能が生まれるとすれば、それはこうした取組みから生まれるでしょう。これは非常に重要なことです。もし超知能が存在するなら、例えばGoogleのような企業がそれを発明することになるかもしれません。私はもちろんその点においてバイアスがありますが、言えるのは、人類が解決できない問題を解決できるということには無限の価値があるということです。つまり、それが目標であり、価値のある成果となります。
　中国は2番手ですが、アメリカほど資本市場も発展しておらず、チップもありません。その他の国々は足元にも及びません。ここサウジアラビアはアメリカと提携するという良い戦略を取っており、ハイパースケーラーはアメリカとアラブ首長国連邦（UAE）に拠点を置くことになるでしょう。この戦略は非常に良いものです。どのように提携するか、自分がどちらの側に立つかを考え、願わくば米国の側につき、米国の企業と協力する。これが良い例であると言えます。

［フェイフェイ・リー］
　私は、すべての国が自国の人的資本に投資し、パートナーシップを築き、また、自国のテクノロジーのスタックやビジネスエコシステムにも投資すべきだと考えています。エリックが言ったように、これは各国の強みや特性に依存する部分もありますが、AIに投資しないことは、マクロ的に見て間違った選択だと思います。

［ピーター・H・ディアマンディス］
　その投資には自国にデータセンターを建設することも含まれるという前提ですが、全ての国がソブリンAIを稼働させるデータセンターを建設すべきだとお考えですか？

［フェイフェイ・リー］
　全ての国というのは、非常に大雑把な言い方ですが、それはケースバイケースだと思います。
　この地域のように、石油エネルギーが安価で、世界的に非常に重要な地域であれば、間違いなくそうすべきでしょう。しかし、小規模な国について話しているのであれば、全ての国がデータセンターを建設する余裕があるかどうかは分かりませんし、他にも投資分野があるでしょう？

［エリック・シュミット］
　ヨーロッパを例に挙げてみましょう。ヨーロッパではエネルギーコストが高く、資金調達コストも低くありません。そのため、ヨーロッパで非常に大規模なデータセンターを建設する可能性は非常に低いと言えます。しかし、ヨーロッパは他の国と提携して、それを実現することができます。例えば、フランスはアブダビと提携し、このような取り組みを行いました。このように、グローバルな視点を持ち、自分たちのパートナーを見つけることで、より良い結果を得る可能性が高くなります。
　一方で、私が非常に懸念しているのはアフリカの問題です。アフリカがこのグローバル化からどのように利益を得ることができるのでしょうか。もちろん、グローバル化には利点があり、農作物の収穫量の増加などの効果があります。しかし、安定した政府、強力な大学、大規模な産業基盤が欠けているアフリカでは、他の地域に遅れを取ってしまう可能性が高いです。いくつかの例外を除いて、アフリカは何年もの間遅れを取ってきました。では、この問題をどのように解決していくべきなのでしょうか。私にはその解決策が見えていません。

［ピーター・H・ディアマンディス］
　今日のAIの進展は目覚ましく、現在ではいわゆる「数学の解決」が始まったとも言えます。これにより、物理学や化学、そして生物学の分野においても大きな影響を与える可能性が出てきました。今後5年間、あるいはそれ以上の時間をかけて、私たちはすべてを解決できる位置に立つことができるかもしれません。その結果として、発見の速度や新しい製品、新しい材料、生物学的治療法などの創出が、超指数関数的に成長する時代が到来するでしょう。そのような世界が5年後にどうなっているかについて、エリックはどう考えていますか？

［エリック・シュミット］
　まず、それは起こり得ると考えています。その理由は、すべての大規模言語モデルが本質的に次の単語を予測しているからです。そして、数学やソフトウェア、残念ながらサイバー攻撃もそうですが、語彙が限られている場合、それらはスケールフリーであるため、進歩を遂げることができます。必要なのは、より多くを行うことだけです。ソフトウェアなら、検証して、より多くのソフトウェアを作ることができます。数学なら、検証して、より多くの数学を行うことができます。物理学や生物学のような現実世界に制約されません。
　ですから、今後数年のうちに数学とソフトウェアの分野で大きな進展が見られる可能性が高いと考えています。そして、数学は他のすべての基礎であるというピーターの指摘は、私たち全員が理解しています。一方で、フェイは現実世界の専門家です。現実世界を正しく理解するには、おそらくもっと長い時間がかかる可能性があります。だからこそ、彼女は会社を設立し、私はその投資家になりました。そのことについて話しますか？

［フェイフェイ・リー］
　まず、失礼ながら反論させてください。私たちが5年以内に、数学、物理学、化学の根本的な問題を全て解決できるとは思っていません。

［ピーター・H・ディアマンディス］
　それについて、賭けをしてみませんか？

［フェイフェイ・リー］
　ええ、賭けをすべきですね。
　人類の最も偉大な能力の一つは、実は新しい問題を見つけ出すことです。アルバート・アインシュタインが言ったように、科学のほとんどは正しい問いを立てることであり、私たちはこれからも問いかけるべき新しい問いを見つけ続けるでしょう。そして、科学や数学には、私たちがまだ答えていない根本的な問いがたくさんあります。

［ピーター・H・ディアマンディス］
　フェイフェイ、あなたの新しい会社「World Labs」は、非常にリアルな仮想世界を作り出しているということですが、私たちはこれからもっと多くの時間を仮想世界で過ごすようになるのでしょうか？今、私の14歳の息子たちは、仮想のゲームの世界に時間を費やしすぎています。でも、これは、例えば10年後、20年後、ASI後の世界において、私たちがもっと自由な時間を持ち、ロボットにサービスを提供してもらっているような状況で、私たちが仮想世界で生活することになるのでしょうか？

［フェイフェイ・リー］
　私たちが現在取り組んでいるのは、大規模なワールドモデルの構築です。これは、大規模言語モデルの次の課題であり、人間が物理的な3Dの世界を理解し、さまざまな3Dの世界を想像して、そこに対して推論を行い、相互作用できる能力を持っているという問題です。現時点では、私たちの会社が行っていることを除いて、そのようなワールドモデルはまだ実現されていません。
　私が共同創業者であり、CEOを務めるWorld Labsは、ついに初の大規模ワールドモデルを作成しました。これからの未来についてですが、私はあなたと同様に、私たちがバーチャルワールドの中で過ごす時間が増えていくと考えています。しかし、それが現実世界、物理的なこの世界が消えてしまうことを意味するわけではありません。ただ、私たちの生産性、エンターテインメント、コミュニケーションの非常に多くの部分が・・・

［ピーター・H・ディアマンディス］
　私たちの教育も・・・

［フェイフェイ・リー］
　ええ、私たちの教育も、バーチャルと物理的な世界のハイブリッドになっていくでしょう。例えば医学において、私たちがどのように手術を行うかを考えてみてください。それは拡張現実（AR）、仮想現実（VR）、そして物理的な現実が融合したハイブリッドな世界になるはずです。そして、これはあらゆる分野で可能となります。つまり、人類はこれらの大規模ワールドモデルを使って、無限の宇宙に入っていくのです。

［ピーター・H・ディアマンディス］
　バックステージであなたのモデルを見る機会がありましたが、とても素晴らしいものでした。まだ見ていないのであれば、ぜひFee's World Labsをチェックしてみてください。彼女が作っている技術は、世界を変えるものになるでしょう。
　さて、ここでの最後の質問は、人的資本についてです。超知能は、最終的にあらゆるプロセスを自動化できる可能性があるため、人類が最後に行う発明と呼ばれてきました。それが発見を自動化するか、創造をどれだけ自動化するかは、まだ分かりません。しかし、最高の戦略、科学、経済の意思決定が、ある時点から機械によって下されるようになる世界において、人間の知性やリーダーシップの、究極的に代替不可能な機能とは何でしょうか？10年、20年後に人間が持ち続けるべき、変わらない本質的な役割は一体何でしょうか。

［エリック・シュミット］
　そうですね、20年後、私たちは、ロボットが私たちに100%勝てると分かっていても、人間同士がスポーツで競い合うのを楽しむでしょう。F1を観に行くなら、自動運転車ではなく、人間のドライバーを見たいと思うはずです。人間は常に、他の人間ができることに関心を持ち続けるでしょうし、私たち独自のコンテストを開催するでしょう。
　私たち自身のコンテストは続き、もしかしたらスーパーコンピュータ同士のコンテストも行われるかもしれません。しかし、あなたの推論は非常に多くのことを前提としています。それは、コンピュータにおける知能のブレークスルーが人間のようなものであることを前提としていますが、それはあまり現実的ではなく、おそらくは異なる形の知性が現れるでしょう。
　また、人間がそのプロセスにほとんど関与しないことを前提としていますが、それもありえないことです。すべての証拠が示しているのは、人間とコンピュータの相互作用であり、私たちは皆その中に関わることになるということです。フェイが非常にうまく言ったように、最終的には人間の判断とスーパーコンピュータが組み合わさることで、私たちはより生産的になるのです。結局、私たちが得る勝利は、人間の判断とスーパーコンピュータの思考が協力し合うことによるものです。
　基本的に私たちは皆、それを持つことになります。あなたが言った80億人がスマートフォンにアインシュタインを入れるという話に戻れば、多くいる賢い人々は、それを使って自分たちの生産性をさらに高めるでしょう。勝利は、人間とその判断力、そしてスーパーコンピュータとその思考力とのチーム編成によってもたらされます。
　また、スーパーコンピュータやスーパーインテリジェンスにはエネルギーが必要であるという限界もあります。ですので、ある時点でスーパーコンピュータはこう考えるかもしれません。「もっとエネルギーが必要だ。人間は核融合を思ったより速く進めていない。だから、私たちがそれを加速させるべきだ」と。新しいエネルギーの形を生み出す方法を見つけるかもしれません。これはサイエンスフィクションの話に聞こえるかもしれませんが、スーパーコンピュータの目標が「何が必要か？もっとチップやエネルギーが必要だ」となり、そのために自分で設計を始めるというシナリオを想像することはできます。それは、ぜひ見てみたい素晴らしい瞬間ですね。

［フェイフェイ・リー］
　同感です。AGIやASIに関する議論を進める際、最も重要なことは、人間の尊厳と人間の主体性を常に念頭に置くことだと思います。私たちの世界は、もしこの種を滅ぼすつもりがないのであれば、常に人間中心でなければなりません。たとえそれが自動化や協力の形であったとしても、人間の主体性や尊厳、そして福祉を最優先に考えるべきです。それがテクノロジーであれ、ビジネス、製品、政策であれ、何であれです。私たちはその焦点を見失ってはならないと考えています。

［ピーター・H・ディアマンディス］
　フェイフェイとエリック・シュミットでした。皆さん、ありがとうございました。 

2. オリジナル・コンテンツ

　オリジナル・コンテンツは、以下リンクからご覧になれます。
尚、本投稿の内容は、参考訳です。また、意訳や省略、情報を補足したコンテンツを含んでいます。

FII Institute
（Original Published date : 2024/10/28 EST）

3. 関連コンテンツ

＜御礼＞

　最後までお読み頂きまして誠に有難うございます。
役に立ちましたら、スキ、フォロー頂けると大変喜び、モチベーションにもつながりますので、是非よろしくお願いいたします。　
だうじょん

＜免責事項＞

　本執筆内容は、執筆者個人の備忘録を情報提供のみを目的として公開するものであり、いかなる金融商品や個別株への投資勧誘や投資手法を推奨するものではありません。また、本執筆によって提供される情報は、個々の読者の方々にとって適切であるとは限らず、またその真実性、完全性、正確性、いかなる特定の目的への適時性について保証されるものではありません。　投資を行う際は、株式への投資は大きなリスクを伴うものであることをご認識の上、読者の皆様ご自身の判断と責任で投資なされるようお願い申し上げます。