見出し画像

SemiAnalysis創業者DylanPatel氏「8倍ではなく100倍になる」― ハードウェア・ソフト・モデル協調設計の正体

半導体業界専門のリサーチ会社SemiAnalysisの創業者、ディラン・パテル氏が、Sequoia CapitalのポッドキャストでAI半導体の最前線について語った。モーテル経営の家庭で育ち、Xbox修理から半導体への興味を深めたという同氏の経歴は異色だが、現在は、90人規模の組織を率い、業界で最も注目される独立系リサーチ機関の一つを築き上げている。本稿では、同氏が語ったハードウェア・ソフトウェア協調設計の重要性と、データセンター業界の現状について整理する。


1. 推論ベンチマーク「InferenceX」という業界横断プロジェクト


1-1. 50社以上から5,000万ドル超のハードウェア提供

パテル氏は、SemiAnalysisが手がける推論性能ベンチマークプロジェクト「InferenceX」について説明した。同プロジェクトには、CoreWeave、Crusoe、Nebius、Oracle、Microsoft、Amazon、Googleといった大手クラウド事業者がコンピュート資源を提供し、Nvidia、AMD、Googleがハードウェアの協力に加わっているという。パテル氏は、「これまでに5,000万ドルを超えるハードウェアの提供を受けている。TPUとTrainiumの追加後には1億ドルを超える見通しだ」と明らかにした。

1-2. モデルコストは年間60倍のペースで低下

同氏は、推論ソフトウェアの更新サイクルが多くのライブラリで週2回に達しており、性能が常に変化し続けていることを指摘した。「同等の品質を維持したまま、モデルのコストは、年間で約60倍のペースで下落している」と述べ、こうした急速な変化を捉えるため、固定時点でのベンチマークではなく、常時稼働する「生きたベンチマーク」が必要だったと説明している。

2. ハードウェア・ソフトウェア協調設計という「真の100倍」


2-1. Hopper世代からBlackwell世代で約30倍の改善

パテル氏は、過去3年間でHopperからBlackwellへの世代交代によって、最適化された推論環境において、DeepSeekモデルで約30倍の性能改善が見られたと説明した。一方で、同じ期間においてモデル層そのものの改善がより大きな効率向上を生んでいるとも指摘している。

2-2. 単純な掛け算ではなく「100倍」になる仕組み

同氏は、ハードウェア層、ソフトウェア層、モデル層という3つの層がそれぞれ個別に2倍の改善を達成しても、それらを掛け合わせただけでは8倍にしかならないと説明した。「本当の飛躍的なブレイクスルーは、これら3つの層を共同設計したときに起きる。そうすれば8倍ではなく100倍になる」と述べ、Anthropicが、TrainiumやGPUを使いながらモデルとハードウェアを徹底的に共同最適化している例を挙げている。

3. NvidiaとTPUの競争構造 ― CUDAの堀は変化したのか


3-1. CUDAの「堀」は部分的に解体されつつある

パテル氏は、コーディングに強いAIモデルの登場により、特定のチップ向けにカスタムカーネルを書くことへの心理的ハードルが下がったと説明した。「CUDAという堀は、少なくとも一部分は確実に解体されている」と述べつつ、実際の競争優位の核心は、CUDA自体ではなく、DeepSeekやAlibabaなど中国系の主要モデルがGPU向けに最適化されている事実にあるとの見方を示した。

3-2. オープンソースモデルのエコシステムが優位性を作る

同氏は、こうしたオープンソースモデルを利用する推論API提供企業やRL関連企業が、結果的にNvidiaのエコシステムに依存する構造になっていると指摘した。一方、AnthropicやGoogleのような大手研究機関は、自社でPyTorchをフォークするなど独自のソフトウェア基盤を持つため、オープンソースへの依存度が低く、ハードウェアとモデルを自由に共同最適化できる立場にあるという。

4. データセンター業界の現状 ― 2026年20ギガワット、2027年30ギガワット超


4-1. コンピュート需要は供給の伸びを上回る

パテル氏は、データセンターの建設遅延を考慮しても、2026年には20ギガワット、2027年には30ギガワットを超える新規容量が稼働する見通しだと述べた。一方で、「OpusからMythos、Fableへの飛躍的な性能向上に対して、世界全体のコンピュート量はその期間に倍増していない」と指摘し、AIが処理できる有用なタスクの需要が、コンピュート供給の伸びを上回っている現状を説明した。

4-2. Anthropicの収益性とトークン単価の利益率

同氏は、Anthropicが、第2四半期に株式報酬を除いたベースで純利益が黒字化したことに触れ、「Opusトークンの利益率は、API価格で80%を超えている」と述べた。同氏は、こうした高い利益率を背景に、AnthropicのようなAI企業がGPUやTPUを市場価格を上回る価格で調達する経済合理性があると説明している。

5. NeoCloudが存在する理由 ― ハイパースケーラーの「専門性」が裏目に出た領域


5-1. 従来型クラウドの強みがAI時代には弱みに

パテル氏は、2023年に自身が執筆した分析レポート「Amazon Cloud Crisis」を振り返り、Amazonのテナント分離技術や独自ネットワークなど、従来型クラウドにおける強みの多くが、AI向けワークロードでは逆にパフォーマンスを損なう要因になっていたと指摘した。「これらの技術は、テナント分離やストレージ性能の向上には有効だったが、AIクラウドの世界では多くがパフォーマンスにとって不利に働いた」と説明している。

5-2. スピードと意思決定の速さが競争力に

同氏は、CrusoeやCoreWeaveのようなNeoCloud企業が成長した理由として、データセンター構築のスピードと、迅速な意思決定の重要性を挙げた。「巨大組織の中では、データセンターを早く建設したからといって誰も金銭的に得をするわけではない。一方、CrusoeやCoreWeaveのような企業のチームは、コンピュートを早く提供できれば直接的に富を得られる立場にある」と述べ、インセンティブ構造の違いが両者の差を生んでいると分析した。

まとめ ― 多極化する半導体エコシステムへの視点


パテル氏が一貫して強調するのは、ハードウェア、ソフトウェア、モデルという3つの層を個別に評価するのではなく、それらの相互作用を理解することの重要性だ。同氏は、NvidiaのジェンスンファンCEOについても「ハイパースケーラーだけが力を持つ世界を、彼は心から望んでいない」と述べ、NeoCloudや新興AI研究機関への投資が、多極化したエコシステムを維持するための戦略的な動きだと分析している。投資家にとっては、個別企業の技術力だけでなく、こうした業界全体の構造的な力学を理解することが、今後の判断material重要になりそうだ。

オススメ記事


Next Big Wave――成長株・アイデアの種・トレンド深掘り



いいなと思ったら応援しよう!

この記事は noteマネー にピックアップされました

noteマネーのバナー