AI推論革命の経済学——Groq創業者・Google TPU発明者Jonathan Rossが語った「次の波」
AI業界の議論はモデルの性能比較に集中しがちだが、実際に産業としての競争力を左右するのは、「推論（Inference）」の経済性だという認識が、投資家・エンジニアの間で急速に広まっている。
本稿では、NvidiaのChief Software Architect、Groqの創業者兼CEO、そしてGoogle TPUの発明者であるJonathan Ross氏と、ヘッジファンドマネージャーのJohn氏によるパネル討論（Iris Stone Conference）をもとに、AI推論インフラの現在地と投資・ビジネス上の示唆を整理する。
1. 推論とは何か——「月に着くこと」と「月面に降り立つこと」の違い
1-1. トレーニングと推論は「別の問題」
AIの開発プロセスには、大きく分けて「トレーニング（学習）」と「推論（Inference）」の2つの工程がある。この2つはしばしば混同されるが、Jonathan氏は明快なアナロジーで区別した。
「月に到達することと、月面に着陸することは、まったく別の問題だ。トレーニングと推論もそれと同じだ」
トレーニングは、膨大なデータを使ってモデルに「知識」を持たせるプロセスであり、推論はそのモデルを実際に動かして答えを出すプロセスだ。数年前まで「推論とは何か」を知る人はほとんどいなかったが、今やAI産業の中心的な論点となっている。
1-2. AIインフラは「一箇所だけ見ても意味がない」
投資家がAI業界を分析する際、「今の最大のボトルネックはどこか」という問いを立てることが多い。しかし、Jonathan氏はこの見方に慎重な立場を取る。
「チップ、パッケージング、システム、ネットワーク、データセンター、サーバー、ラック、電力——すべてが必要だ。一部分だけを見て"これが最重要"と言う人が多いが、AIを機能させるためにいかに多くを構築しなければならないかを理解していない人が多い」
AIインフラはスタック全体の連携で成立しており、どこかひとつを取り出して議論しても全体像は見えてこない。
2. ボトルネックの経済学——「大きすぎる問題は解決される」
2-1. メモリは今日最大のボトルネックか
現在のAI業界では、「メモリ（HBM：高帯域幅メモリ）」が最大の制約として語られることが多い。しかし、Jonathan氏は、この見方そのものに対してある種の留保を示した。
「ボトルネックが大きくなりすぎると、人々はそれを解決しようとする。これがこの産業の動き方だ。常にその時点で最大の問題を探し、それが解決できるかどうかを問い続ける」
ここで登場するのが「ギッフェン財（Giffen Good）」という経済学の概念だ。通常、価格が上がれば需要は下がる。しかし、ギッフェン財——例えば、主食である米——は価格が上がると、他の選択肢（ステーキなど）に使える予算が減り、むしろ需要が増える逆説的な財だ。
高価なメモリも、ある程度まではこの構造に近い。しかし、メモリが「高すぎる問題」になりすぎると、エンジニアたちはアルゴリズムで代替しようとする。
2-2. DeepSeekとジェヴォンズのパラドックス
その具体例として挙げられたのがDeepSeekだ。同社の最新モデル（V4）は、KVキャッシュを約90%圧縮する手法を採用し、メモリの制約を技術的に回避しようとした。
ただし、ここで問題になるのが「ジェヴォンズのパラドックス」だ。これは、技術的な効率化によってリソースの消費単価が下がると、需要が増えて総消費量はむしろ増加するという現象を指す。
「DeepSeekがメモリ圧縮に取り組んでいるエンジニアたちは、メモリが十分にあれば別のことをやっていたはずだ。それがチャンスコスト（機会費用）だ」
ボトルネックを技術で突破した結果、次のボトルネックが生まれ、需要全体はさらに膨らむ——これがAIインフラ産業の基本的な構造だとJonathan氏は整理する。
3. 「知性に飽和はない」——知性の需要をめぐる論争
3-1. オープンソースはクローズドに追いつくか
Johnは、「AIの知性には収穫逓減があり、モデルがPhDレベルを超えると人間はもはや差を認識できなくなる」という見立てを示した。さらに「オープンソースモデルはクローズドモデルに対して約6ヶ月遅れであり、知性の収穫逓減が進めばその差は縮まる」とも述べた。
この見方に対して、Jonathan氏は明確に異論を示した。
「知性に対する需要を満たす方法はない。知性が増えれば増えるほど、人はさらに多くの知性を求める」
3-2. 需要が止まらない3つの理由
Jonathan氏は、「知性への需要が飽和しない」根拠として三点を挙げた。
ひとつ目は「未解決の課題の存在」だ。
「がんが治癒されておらず、老化で人が亡くなり続けており、AIモデルを動かすための十分なコンピュートがまだない。より賢いマシンを作る経済的インセンティブは消えない」
ふたつ目は「競争の原理」だ。
「この部屋の全員がおそらく引退できるだけの資産を持っているだろう。それでも投資を続け、競争する。なぜか。それが人間というものだ」
たとえ自分ではAIの性能差を認識できなくても、それを使った投資リターンの差は現れる。だから人は常により優れたAIを求め続ける。
みっつ目は「AIがAIを使う」という構造だ。
「AIはより賢いAIを認識し、そのAIを利用する。それがエージェントの本質だ」
AIシステム自身が、より高性能なAIを選んで活用するようになると、人間が性能差を体感できなくなっても、機械的な需要は続く。
4. 「思考の速さ」と「思考の深さ」——Thinking FastとThinking Slow
4-1. AIの知性の二層構造
Jonathan氏は、AIの知性を、Daniel Kahneman（ダニエル・カーネマン）の「ファスト思考・スロー思考」という枠組みで説明した。
「ファスト思考」は、直感的・即時的な判断であり、「スロー思考」は、複数の可能性を探索しながら丁寧に考えるプロセスだ。チェスに例えれば、スピードチェスはファスト思考、通常のチェスはスロー思考に相当する。
AIは実はファスト思考——直感的な判断——において、すでに人間を超えていると Jonathan 氏は指摘する。
「AIは、膨大なデータで訓練されているため、直感的な判断が非常に得意だ。Waymoは、1日で人間が一生かけて得る運転経験に匹敵するデータを収集しつつある。I型ビームが落ちてくる状況にも対処できる——それを2〜3回見ていれば、すでに答えを知っているからだ」
4-2. モデルが自分自身を訓練するループ
さらに注目すべきは、モデルの自己改善サイクルの構造だ。
かつてはモデルを人間が生成したデータで訓練していた。今は「モデルが生成したデータで、モデルを訓練する」というループが成立している。
「あるレベルのモデルがそのレベルのデータを生成し、品質を評価して上位のデータだけを残す。それで訓練してレベルが上がり、また、次のデータを生成する——というサイクルが繰り返されている。今のところモデルは線形的に改善し続けており、頭打ちになる理由は見当たらない」
5. 「知性」と「感性（Sentience）」の違い
5-1. Jonathan氏の独自定義
ポッドキャストの終盤で、Jonathan氏は、「感性（Sentience）」という概念に独自の定義を与えた。
「知性とは、予測し、望ましい結果を生み出す能力だ。固定されたもの。感性はその知性の改善速度（Rate of Change）だ」
感性は、オン・オフのバイナリではなく、「どれだけ感性的か」という連続的な指標だという。世界最高の囲碁プレイヤーが、対戦相手がいなくなると成長が止まる（漸近する）ように、感性の発現には環境との相互作用が必要だ。
5-2. 感性は「文明」の属性
さらに、Jonathan氏は、感性を個体のものではなく「文明全体の属性」として捉える視点を提示した。
「言語は情報を転送する能力を与える。AIが知性を生産し、それと対話することで人間が賢くなり、より良い質問をすることでAIがさらに賢くなる。このフィードバックループが社会全体の感性を加速させている」
インターネットが前の世代より私たちを賢くしたように、AIが次世代をさらに賢くする——そう彼は締めくくった。
まとめ——投資家・ビジネスパーソンへの示唆
Jonathan Ross氏の議論から浮かび上がるのは、以下の三点だ。
ひとつは、ボトルネック投資の相対化だ。メモリであれ電力であれ、「今の制約」は常に解決に向かう。制約が大きければ大きいほど、解決のインセンティブも高まる。投資対象として「今の制約」だけを追うのではなく、「解決された後に需要が増えるもの」を考える視点が重要になる。
ふたつ目は、知性への需要の持続性だ。AIの性能向上に対して「もう十分だ」という点は、少なくとも現在のところ見えていない。競争・未解決問題・AIのAI利用という三重の構造が、継続的な需要を支えている。
みっつ目は、文明的スケールでの知性の加速という視点だ。AIと人間のフィードバックループが社会全体の生産性と知性を高めていくとすれば、AIインフラへの投資は単なるテクノロジー投資を超えた意味を持つかもしれない。
