AIは本当に儲かるのか？──Groq＆Cohere CFOが語る「ROI over AGI」のリアル

――「AIは本当に儲かるのか？」

生成AIブームの熱狂とは裏腹に、現場のビジネスパーソンの頭の中には、いつも同じ問いが渦巻いています。
「このAI投資、本当に回収できるのか？」

Big Technology Podcast の公開収録で、Groq（推論チップのスタートアップ）のCFO Simon Edwardsと、Cohere（エンタープライズ向けLLM企業）のCFO François Chadwickが、この「AIのROI（投資対効果）」をめぐって率直に語りました。

1. MITは「95％がROIなし」、Whartonは「74％がROIあり」という矛盾

議論の出発点は、真逆の結論を出した2つの研究です。

• MITの研究：
  →「AI導入企業の95％はROIが出ていない」

• Whartonの研究：
  →「AI導入企業の74％はROIが出ている」

どちらも一流ビジネススクール。なのに結果はほぼ正反対です。

CohereのChadwickは、このギャップを「タイムスタンプの違い」で説明します。

• MITの調査時点：多くの企業はまだPoC（概念実証）段階。

• 社内インフラも、業務プロセスも、「AI前提」に作り替わっていない。

• そのため、「お試しで終わり、ROIが見えない」状態が多数。

一方、Whartonの調査が行われた頃には、

• PoCを越えて本番運用に入った企業が増え、

• ROIを測るためのプロセスや指標がようやく整ってきた。

つまり、「AIには価値がない」から「価値がないように見えていた」へとフェーズが変わった、というのが彼らの見立てです。

2. 現場の実感 vs 経営陣の期待：誰が「ROIあり」と言っているのか

ただし、Whartonの研究にも重要な“差し込み注”があります。

• ROIを「測っている」と答えた企業のうち、74％がROIありと回答

• そもそも「ROIを測っている」と答えた企業は、全体の約75％に過ぎない

さらにデータを分解すると、VP以上（経営層）のほうが、マネジャー層よりも「ROIあり」と答える比率が高いことも示されました。

司会のAlex Kantrowitzはここを突きます。

これに対してChadwickは、Cohereの顧客の例を挙げます。

• あるグローバル企業は、わずか2週間で4〜5件のユースケースを立ち上げ、

• 「ROIが出た」と判断したうえで、さらに案件を積み増している。

つまり、

• 「手触りのある事例がどんどん増えている」企業も確かに存在し、

• 同時に、「そもそもROIを測っていない」「測るフレームがない」企業も多い。

“AIは儲かるか”という問いの前に、「あなたの会社はROIをちゃんと測れているか」が問われている、というわけです。

3. ROIは「ChatGPT Proの契約数」では測れない

GroqのEdwardsは、ROIの本質を次のように整理します。

たとえば、AI導入の効果は次のような軸で測るべきだと指摘します。

• 人員効率

  • 事業がスケールしても、必要な人員増を抑えられるか

• 売上成長

  • 競争優位性が高まり、売上成長率を押し上げているか

• 粗利率の改善

  • 提供コストが下がり、グロスマージンが改善しているか

つまり、「AIツールを入れたかどうか」ではなく、「ビジネスの数値がどこでどう変わったか」まで設計しない限り、本当のROIは見えないということです。
CohereのChadwickも、「最初に戦略と測り方を決め、あとからパートナーを入れる」という順番の重要性を強調していました。

4. GPUか電力か──AIインフラの“ボトルネック”はどこにある？

ROIを考えるうえで無視できないのが、インフラコストです。

Edwardsが所属するGroqは、

• 推論専用チップとインフラを自社設計・製造する企業で、

• 「既存GPUよりも高いスループットと低コストでトークンを生成する」ことを売りにしています。

ただし、彼が強調したのは「どのチップが勝つか」ではありません。

ここに、電力という新たな制約が加わります。

• Satya Nadellaは、「すでに“コンセントにつながっていないチップ”がある」と発言。

• 2028年までに、米国の総発電量の4分の1がAIワークロードに使われるという試算もある、とEdwardsは紹介します。

つまり、GPUの価格だけでなく、電力インフラの整備状況が、AIビジネスの採算とスケールを左右し始めているのです。

Groqはここを「省電力かつ高性能」という差別化ポイントと捉え、電力制約を“競争優位”に変えようとしている、と語っています。

5. 小さな企業ほどAIで“得をする”構造

Whartonの調査では、年商20億ドル超の大企業よりも、中小規模の企業のほうが高い割合で「AIでROIが出ている」と回答していました。

この結果について、CohereとGroqの両CFOは次のように分析します。

• 小さな企業の特徴

  • 組織やシステムの「過去の遺産」が少ない

  • 意思決定が早く、AIエージェントやワークフローを一気に全社へ展開できる

  • 成長余地が大きく、AIがレバレッジ（少ない人手で高い成長）を生みやすい

• 大企業の特徴

  • 既存システムやプロセスの歴史が長く、「剥がしてからAIを載せる」必要がある

  • AIをうまく入れると、むしろコスト削減（人員削減）をしないとROIが立たないケースもある

つまり、

という構図が浮かび上がります。

AIを「攻め」に使うのか、「守り（効率化）」に使うのかで、同じ技術でもROIの出し方がまったく変わるという示唆です。

6. 4000億ドルのインフラ投資はバブルか、それとも次の“鉄道”か

司会は、もうひとつの核心質問も投げかけます。

• ビッグテックによるAIインフラ投資は、当初3000億ドル規模と言われていたが、

• いまや4000億ドル規模に膨らんでいる。

• 一方で、Googleの決算では、Geminiの利用事例が「数百万ドル規模の売上」にしか見えないケースもある。

Edwardsは、歴史を引き合いに出してこう答えます。

• 鉄道への投資

• インターネット前夜の光ファイバー網

これらも、当時はバブルと呼ばれ、実際にバリュエーションは崩壊しました。
しかし、インフラ自体はその後の産業の土台になり、誰も「鉄道を敷かなければよかった」とは言わない。

彼の見立てはこうです。

• 一部の企業や領域では、明らかにバブル的な過熱がある

• しかし、インフラ投資そのものは、10年後に振り返れば「必要だった」と評価される可能性が高い

• 今のベンチャー・グロース投資は、「次の1兆ドル企業」を当てにいくゲームになっている

対してChadwickは、「AI全体」ではなく「領域ごとにバブルがあるかを見ろ」と冷静です。

• AIという2文字に含まれる分野は幅広く、

• ある領域では過熱、別の領域ではまだ投資不足、という非対称な構図になっている、と指摘します。

ただし両者が一致していたのは、

7. CFOたちの結論：「AGIよりROI」

セッションの最後の質問は、やや哲学的でした。

これに対するCohereのChadwickの答えが象徴的です。

• Cohereのスローガンは、「ROI over AGI（AGIよりROI）」

• つまり、「AGIという夢」ではなく、「いま目の前の企業が、ちゃんと投資を回収できているか」を最優先しているという宣言です。

一方で、彼は同時にこうも言います。

• 技術者ではないが、将来の可能性にはワクワクしている

• しかし、CFOとしては、顧客企業のキャッシュフローと投資回収に責任を持つ立場にある

この距離感こそが、現在のAIビジネスのリアルでしょう。

結論：AIのROIは「測られる者」にしか宿らない

このセッションから見えてくるメッセージはシンプルです。

• AIは、何となく入れても儲からない

• PoCで終わるか、本番でROIを積み上げられるかは、

  • 最初にどの業務に、どの指標で、どれくらいの期間で効果を出すかを設計できるか

  • インフラコスト（GPU・電力）や組織構造を踏まえて、現実的な「レバレッジの出し方」を描けるかにかかっている。

そして、もうひとつ重要なのは、

AGIの夢に酔う前に、自社はどのユースケースで、どのコストを削り、どの売上や粗利を伸ばし、いつまでに投資を回収するのか。

GroqとCohereのCFOが示したのは、きわめて地に足のついたメッセージでした。
「AIで勝つ企業」とは、AIの性能ではなく、ROIの設計能力と測定能力で勝つ企業である。

オススメ記事

Next Big Wave（成長株・アイデアの種・トレンド深掘り）