見出し画像

トークンショックに備えて、各社のAI費用管理を調査した

Uberは、Claude Codeを全社導入して4ヶ月で年間のAI予算を使い切った。
2時間のコーディングセッション1回に、約19万円の請求が来たこともあるという。
「AIは安くなり続ける」と聞いていたはずが、世界の大企業が請求書に慌てている。
この現象には名前がついた——トークンショック。各社が実際にどう対処しているのか、調べてみた。



トークンショックとは——Uberは年間予算を4ヶ月で使い切った

まず、いちばん具体的な事例から。Uberだ。

Uberは2025年12月、Anthropicのコーディングエージェント「Claude Code」をエンジニア組織に導入した。普及は財務モデルの想定をはるかに超える速さで進んだ。エージェント型コーディングツールを使うエンジニアの割合は、2月に32%、3月には84%。そして2026年の年間AI予算は、わずか4ヶ月で溶けた。報道によれば、たった2時間のコーディングセッションが1,200ドル(約19万円)に達した例もあったという。

Uber burned through its entire 2026 AI budget in four months(Fortune)


Uberの7ヶ月——予算枯渇は技術ではなくインセンティブ設計の失敗だった


Uberだけではない。エージェント型AIを導入した企業127社の調査では73%が予算超過、想定の2.4倍を燃やした例も報じられている。Microsoftは1人あたり月500〜2,000ドルに達した社内のClaude Codeライセンスを停止したと伝えられ、Walmartやフランスの大手保険会社も利用制限に動いた。この現象は「トークンショック」と呼ばれ始めている。日本でも、LayerXの調査で企業のAIコストは月平均274万円、73%の企業が「経営課題」と回答済みだ。

「トークンショック」はAI普及の妨げになるか(Investing.com)

https://jp.investing.com/news/economy-news/article-1607478

なぜこうなるのか。理由は課金構造の転換にある。2026年、GitHub CopilotもClaudeも主要AIツールは定額制から従量課金へ舵を切った。そしてエージェントは、人間がチャットで1回聞く裏で、検索・実行・やり直しを何十回も繰り返す。見えている成果物は1つでも、裏で流れるトークンは膨大になる。「使い放題の社員」だと思って採用したら、成果報酬の傭兵だった——そういう話だ。

では、各社はどう対処しているのか。調べていくと、対策は経営・ガバナンス・エンジニアリングの3つの層に綺麗に分かれていた。


経営レイヤー:AIの請求書を「人件費」と同じ棚に置く

最初の変化は、AIコストの「勘定科目」の扱いだ。

国内企業5社のAI責任者への取材では、生成AIの請求書を人件費と並べて管理する動きが語られている。ツール代(ITコスト)ではなく、労務費に準ずる変動費として読む。エージェントに仕事を任せるなら、その請求書は「何人月ぶん働いたか」の請求書だからだ。

海外ではさらに進んで、MetaやAmazonは社内のトークン消費量をクラウド費用や水道料金と同じように追跡する社内プログラムを持つと報じられている。FinOps(クラウド費用管理)の実務者調査では、AI支出を管理している割合が2024年の31%から2026年には98%へ——2年で3倍に跳ねた。

ただし面白いのは、その98%のうち「うまく管理できている」と感じるチームはごく少数で、しかもFinOpsチームの78%はCTO/CIO配下、CFO直下はわずか8%という点だ。つまりAIの財布はまだ、利益率ではなく稼働率をKPIとする人たちが握っている。トークンショックの正体の半分は、技術の問題ではなく「誰の財布か」が決まっていない組織の問題らしい。

Uberの事例は、この組織問題の見本のような話だった。報道によれば、Uberは社内にClaude Codeの利用量リーダーボードを置き、エンジニアを使用量でランク付けして競わせていた。しかも普及を推進するチームは、予算に責任を持たない別のチームだった。アクセルを踏む係と、ブレーキを持つ係が別の車に乗っていた——予算が4ヶ月で溶けたのは、技術の失敗ではなくインセンティブ設計の失敗だ。UberのCOOは後に「トークンコストの増加が、消費者に届く価値を生んでいるか。そのつながりはまだ示せていない」と率直に認めている。


ガバナンスレイヤー:部門ごとに「トークンの蛇口」を付ける

2つ目の層は、社内の利用ルール設計だ。調査で見つかった実務は、想像よりずっと具体的だった。

① 上限(クォータ)。いちばん分かりやすい対処で、Uberが実際にやったのがこれだ。予算枯渇の後、Uberは全従業員に対してAIコーディングツール1つあたり月1,500ドルの利用上限を設定した(Bloomberg報道)。より進んだ企業では、APIゲートウェイ(プロキシ)でチーム別に「1分あたりのトークン上限」を強制する。上限に達したリクエストは待ち行列に入るか、自動的に安いモデルに格下げされる。上限を上げたいチームは申請を出す——まるで残業申請だ。

② チャージバック(費用の付け替え)。部門のP/Lに直接AIコストを載せる方式。大企業では機能するが、部門損益のないスタートアップでは機能しないとされる。実務上の壁は、OpenAIもAnthropicも請求書がAPIキー単位でしか出ないこと。事業部単位・コストセンター単位の内訳が出ないので、タグ付けで支出を部門に振り直す専用ツール(FinOps系SaaS)が育っている。

③ 4つの可視化指標。国内の解説では、部門別の月間トークン消費・ユーザー別の消費分布・モデル別のコスト内訳・エージェント利用とチャット利用の比率、の4つを見よとされている。特に最後が重要で、コストが暴れるのはほぼエージェント側だからだ。

ベンダー側もこの流れに対応し始めている。Anthropicはサブスクリプションで「人間の対話利用」と「プログラム的利用」のクレジットプールを分離した。人間の相談と、エージェントの労働は、別の財布で数えるということだ。


エンジニアリングレイヤー:トークン削減の定石は5つに集約されていた

3つ目の層が、開発側の削減術だ。国内外の実践記事を横断すると、手法はほぼ5パターンに集約されている。組み合わせで50〜80%削減という報告が多い。

① キャッシュ——同じ文脈を毎回送らない。プロンプトキャッシュで、システムプロンプトや資料の再送コストを大幅に下げる。

② 圧縮——コンテキストを要約してから渡す。会話履歴を全部引きずらない。

③ モデルの使い分け——全タスクに最上位モデルを使わない。分類や抽出は小型モデル、複雑な判断だけ上位モデルにルーティングする。

④ バッチ処理——急がない処理は非同期のバッチAPIに回す(半額になる)。

⑤ 自前抽出——正規表現や既存コードで済む処理をAIに投げない。AIの前後に「AIを使わない工程」を挟む。

LLMトークン節約5パターン(FD-X)


トークン削減の定石5パターン——組み合わせで50〜80%減


この5パターンを全部まとめて実装した見本が、Coinbaseだ。CEOのブライアン・アームストロングが公表した内容が具体的で、エンジニアの利用を制限せずに、AI請求額をほぼ半減させている。やったことは:

  • 社内LLMゲートウェイを構築し、エンジニアのデフォルトモデルをオープンウェイトの「GLM 5.2」と「Kimi K2.7 Code」に切り替え(単価は100万トークンあたり1.40ドル——最上位モデルの数分の一)

  • 最上位のフロンティアモデルは「本当に必要なタスク」だけに温存

  • プロンプトの難易度を判定して自動でモデルを振り分けるルーティング層を実装

  • キャッシュを徹底し、キャッシュヒット率を5%から60%へ引き上げて重複推論を排除


Coinbaseの配管——キャッシュとルーティングで、制限せずに半減


つまり「上限で縛る」Uber型ではなく、「配管を作り替える」型だ。トークン使用量自体は増え続けているのに、請求は半分になった。なお、Coinbaseが採用したのは中国発のモデルで、米議会がセキュリティ調査を始めているという論点は付記しておく。日本企業がそのまま真似るなら、国産や欧米のオープンウェイトも含めて選択肢は広い。

Coinbase halved its AI bill without restricting engineers(Startup Fortune)

そしてもうひとつ、評価指標の転換。OpenAIは企業向けガイドで、AI投資の評価を「トークン単価」ではなく「完了したタスク・削減された時間・改善された意思決定」で測るべきだとしている。安く呼ぶことではなく、1タスクを何円で完了させたか。コスト管理の単位が、トークンからタスクへ移りつつある。


Tips:オープンソースの道具だけでも、削減はここまでできる

Coinbaseのような専用の配管を作らなくても、個人や小さなチームが今日から使える道具は揃っている。調査中に名前がよく挙がっていたものを、用途別にまとめておく。

▼ そもそもAPIを呼ばない(トークン代ゼロ化)

  • Ollama / LM Studio——オープンウェイトモデル(Llama、Qwen、Gemma、gpt-ossなど)を自分のPCで動かすローカル実行環境。定型の分類・要約・下処理をローカルに逃がせば、その分のトークン代はゼロになる。ただしGPUと電気代・品質とのトレードオフは要検証

  • vLLM——自前サーバでオープンウェイトを高速に動かす推論エンジン。チーム規模で「社内モデルサーバ」を立てるならこれが定番

▼ 配管を作る(ゲートウェイ・ルーティング)

  • LiteLLM——オープンソースのLLMゲートウェイ。各社のモデルを同じAPIで呼べて、チーム別のキー発行・予算上限・自動フォールバックが設定できる。Coinbaseの「社内ゲートウェイ」の個人版を、これで再現できる

  • OpenRouter——モデルの価格比較と振り分けのサービス。同じ性能帯でいちばん安い供給元に流す、という調達の発想を1つのAPIキーで試せる

▼ 測る(可視化・原価計算)

  • Langfuse / Helicone——リクエスト単位でトークン消費とコストを記録する可視化ツール(Langfuseはオープンソース)。「この機能は1回いくらか」が分かると、削減はゲームになる

▼ 削る(キャッシュ・圧縮)

  • 公式のプロンプトキャッシュとBatch API——道具を足す前に、AnthropicとOpenAIが公式に持つ2機能を使い切る。キャッシュは繰り返しの文脈を大幅割引にし、バッチは急がない処理を半額にする

  • GPTCache——意味の近い質問に過去の回答を返すセマンティックキャッシュのOSS。FAQ的な用途で効く

  • LLMLingua——Microsoft発のプロンプト圧縮ライブラリ。長い文脈を意味を保ったまま圧縮してから渡す

▼ エージェントの「出力」を削る(Claude Code界隈で話題)

  • rtk(Runtime Token Killer)——エージェントが実行したコマンドの出力を、モデルに渡す前に60〜90%圧縮するRust製の単一バイナリ。エージェントのコンテキストを太らせる主犯は、実は人間のプロンプトではなくコマンド出力なので、そこを狙い撃つ発想だ。同じ領域では、Claude Codeの月額を$287から$110に下げたという報告があるHeadroomなど、ツールが急増している

AIエージェント時代のトークン削減手法を整理する(Qiita)

道具の数は多いが、順番はシンプルでいい。まず測る(Langfuse)→ 公式機能を使い切る(キャッシュ・バッチ)→ それでも高ければ配管(LiteLLM)とローカル(Ollama)。この順で試せば、大抵は3割前後の削減までは道具代ゼロで届くはずだ。


中国勢は「管理」ではなく「単価そのもの」を潰しに来ている

ここまでは主に米国の話だが、中国を見ると、トークンショックへのアプローチが根本から違うことが分かる。需要側で管理するのではなく、供給側で価格を破壊するという答えだ。

今年5月、DeepSeekはV4-Proの価格を恒久的に75%引き下げ、出力は100万トークンあたり0.87ドルになった。1ドルを切った。対抗してアリババはQwenの料金を最大97%引き下げ、百度も新版Ernieの値下げと軽量版の無料提供に踏み切っている。中国国内のAI価格競争は、日本の感覚では考えられない水準で進んでいる。

DeepSeekが価格を75%恒久引き下げ(BigGoファイナンス)

https://finance.biggo.jp/news/qrWqXJ4BLfE1EzqP3bFN

この安さを支えているのが垂直統合だ。DeepSeekのV4-Proは、NVIDIAではなくHuaweiの国産チップ(Ascend 950)に完全最適化した初の中国フロンティアモデルで、チップの量産が進む2026年後半にはさらに値下がりすると見られている。モデルもチップも自前なら、価格は戦略変数になる。

そして、この価格破壊はすでに国境を越えて効いている。米決済プラットフォームRampの支出データでは、コスト高騰を受けてOpenAI・Anthropicから中国製モデルへ乗り換える米国企業の動きが確認され、モデル比較サイトOpenRouterでは週間トークン使用量の1〜4位を中国発モデルが独占した。先に紹介したCoinbaseの「GLM 5.2をデフォルトに」という判断も、この供給側の地殻変動の上に乗っている。

AIコスト高騰で中国DeepSeekへの乗り換え続出か(ITmedia)

https://news.yahoo.co.jp/articles/83e5efa37e0024851e90a5eaa6f75c477ea0f0b0

つまりトークンショックの解き方は2つある。使い方を賢くする(管理)か、単価の安い供給を選ぶ(調達)か。 後者にはデータの扱いや規制リスクという代金が付くが、「フロンティアモデル一択」の時代が終わったことだけは、はっきりした。


日本企業の現在地は「軽量な国産モデルとの使い分け」

では日本はどうか。調べた範囲では、米国型の管理機構でも中国型の価格破壊でもない、第三の道が形になりつつある。軽量な国産モデルとの「使い分け」だ。

象徴はNTTの「tsuzumi 2」だ。日本語に特化した軽量設計で、GPU1枚で推論が動くことによる低コストと、国内完結のセキュリティを売りにする。NTTには生成AI関連の相談が1,800件超寄せられ、AI受注額は急増していると報じられている。デジタル庁の基盤「源内」でも国産モデルが選定された。PFNのPLaMo、NECのcotomiも同じ路線にいる。

国産LLM「tsuzumi 2」が示す新たな選択肢(NTTデータ)

実務での使い分けはこうだ。日本語の文書処理・社内データの分析は軽量な国産モデル、コーディングや高度な推論は海外のフロンティアモデル。 全部を最上位モデルに投げない、という点ではCoinbaseのルーティングと同じ思想だが、動機がコストだけでなく「機密データを外に出したくない」というセキュリティ要件から来ているのが日本らしい。

ただし弱点もはっきりしている。調達の選択肢は増えたのに、それを原価計算する管理側がまだ薄い。AIコスト月平均274万円・73%が経営課題という冒頭の数字は、その裏返しだ。使い分けの「感覚」はあるのに、1タスクいくらで測る「計器」がまだない——日本のトークンショック対策は、いまここにいる。


日米中で答えが違う——賢く使うか、安く作るか、適所で分けるか



番外——イーロン・マスクだけは、この争いの盤面を見ていない

日米中の3つの答えを並べたが、実はこの構図の外に、ひとりだけ立っている人物がいる。

SpaceXは今年6月、軌道上データセンター衛星「AI1」を発表した。翼幅70メートルの機体に、計算モジュールと巨大な太陽光アレイ、熱を宇宙に逃がす液体ラジエーターを積み、衛星同士をレーザーリンクで繋ぐ。マスクは「Starlink衛星より設計はシンプルだ」と語っている。1月にはFCC(米連邦通信委員会)に最大100万機のコンステレーション申請を出し、実証打ち上げは2027年末、商用は2028年を目標にしている。そして今年2月、SpaceXはxAIを吸収合併した。ロケット、衛星、AIモデル(Grok)、地上の計算基盤——全部がひとつの会社になった。

SpaceX reveals its first orbital data center(Yahoo Finance)

SpaceX files for million satellite orbital AI data center megaconstellation(DCD)

https://www.datacenterdynamics.com/en/news/spacex-files-for-million-satellite-orbital-ai-data-center-megaconstellation/


AI1の仕組み——太陽光で発電し、計算し、熱は宇宙へ放射する。地上の3制約が構造ごと消える


この構想が意味するところを、この記事の言葉で言うとこうなる。賢く使うのでも、安く作るのでも、適所で分けるのでもない。電力(宇宙なら太陽光が遮られない)・土地(軌道に地代はない)・冷却(熱を宇宙に放射する)という、トークン単価を構成する制約そのものの外に出る——第4の答えだ。

実現するかどうかは、正直、私には判定できない。技術的な難所も多いと報じられている。ただ、各社がトークンの請求書と格闘しているこの2026年に、その争いの盤面ごと降りようとしている人がいる、という事実だけは書き留めておきたい。この構想の話は、別の記事でゆっくり書く。


そもそも論——「削る企画」しかない会社は、管理しても救われない

最後に、調査していて一番考えさせられたデータを置いておきたい。コスト管理の記事なのに、コスト管理を裏切る話だ。

Gartnerの調査によれば、AI導入企業の80%が人員削減を実施したが、削減とROIの間に相関はなかった。自動化で大きな成果を出した企業も、成果が出なかった企業も、同じペースで人を切っていた。MITの報告では、企業のAIパイロットの95%が、測定可能な損益インパクトをゼロしか生んでいない。そしてForresterによれば、AIを理由に人を減らした雇用主の55%が、すでに後悔している

AI isn't paying off in the way companies think(Fortune)

一方で、「AIで収益を成長させたい」企業は74%いるのに、実際にできているのは20%にとどまる。

この数字が示す構図はシンプルだと思う。多くの会社はAIを「コストを削る道具」として導入する。業務が自動化され、人が浮く。でも、浮いた人と浮いた時間を投入する先——収益を生む企画——が用意されていない。だから削減は帳簿の上だけの話になり、余った人材のコストが利益を食い、株主には「AIで効率化しました」という説明だけが残る。

順序が逆なのだ。先に必要なのは、トークンの管理でも人員の削減でもなく、「浮いた力で何を稼ぐか」という企画と戦略だ。それが先にあれば、自動化は人を「余らせる」のではなく「解放して再配置する」施策になり、AIコストは削減額ではなく創出した売上と比べられるようになる。トークン管理は、あくまで守りの技術にすぎない。攻めの企画がない会社は、どれだけ上手に管理しても、95%の側に入る。


私はどうしているか——白状すると、まったく管理していない

ここまで8,000字かけて各社の管理術を調べておいて、白状する。私自身は、AIのコストをまったく気にしていない。

私のAI費用は月1〜2万円ほどだ。noteの運営も、調査も、コードもエージェントに任せて、この金額。一方で、フリーランスとしての私の単価は月100万円を超える。この比率になると、トークンを何割削るかを考える時間のほうが、トークンより高くつく。月2万円のAIが成果と評価を少しでも上げてくれるなら、それで十分に元が取れている。実際、確定申告書をAIに見せたら100万円以上の払い過ぎが見つかったこともある。あの1回で、これまでのAI代は全部回収された。

つまり私がやっているのは、コスト管理ではない。さっきのGartnerの話の実践だ。AI費用を「削るべきコスト」の枠ではなく、「成果に対する投資」の枠に置いている。 管理しないのは無頓着だからではなく、分母(自分の単価と成果)に対して分子(AI費)が小さすぎるからだ。削る努力より、AIで出せる成果を増やす努力のほうが、桁違いに割がいい。

ただし、これは規模の関数だとも思っている。Uberのように数千人が使えば月数億円になって管理は必須になるし、エージェントを本番システムに組み込んで24時間回すなら、1リクエストの原価が事業の粗利を直接決める。個人でも、AIで作ったものを「売る側」に回った瞬間に、原価計算からは逃げられない。だから次回は、その人たちのために、5パターンの筆頭にあったキャッシュを実際にAPIで測って、何%安くなるのかを数字で確かめようと思う。私の財布は困っていないが、数字は知っておきたいからだ。


おわりに——トークンショックは「AIが本物になった」音でもある

調査してみて思ったのは、トークンショックは「AIが高すぎる」という話ではない、ということだ。

予算が溶けるのは、AIが実際に大量の仕事をこなし始めたからだ。誰も使わないツールの請求書は膨らまない。だから各社の対応も「使うのをやめる」ではなく、採用(モデル選定)・配置(ルーティング)・査定(1タスクあたりの原価)という、人件費の管理とそっくりの形に収斂しつつある。

AIの請求書は、これからの損益計算書で人件費の隣に並ぶ。その読み方を先に身につけた会社と個人が、次の局面で安くて強い。

ただし、Gartnerの数字が教えてくれたことを忘れずにいたい。管理は守りにすぎない。トークンを何割削ったかより先に、浮いた力で何を稼ぐか。その企画がある会社にとってだけ、この記事に書いた管理術は武器になる。


過去の関連記事:


いいなと思ったら応援しよう!