AIエージェントの限界とは？クラルナが示した自動化の罠

AI導入は驚くべき効率を上げた。それは本物だった。
なのに、1年後、同じCEOが「あれは、やりすぎたった」と言った。
いったい、何が起こったのだろうか。

クラルナが気づいた「効率化の罠」

2024年2月、世界中のメディアが一斉に報じた。

スウェーデンのフィンテック企業 クラルナ が、AIアシスタントを導入した。たった1か月で230万件の会話を処理し、顧客サポートの2/3をカバーした。

35以上の言語に対応し、返金・返品・支払いの問い合わせを24時間365日、待ち時間なしで処理した。顧客満足度スコアは人間と同水準を維持し、処理コストは劇的に下がった。

CEOのセバスチャン・シミアトコウスキーはこう宣言した。
「このAIは、700人分の働きをしている」

しかし、2025年5月。同社は静かに人材採用を再開した。

CEOの言葉も変わっていた。
「やりすぎた。効率とコストにこだわりすぎて、品質が落ちた。
これは続けられない」

劇的な成功劇と、その代償。
この一年あまりの間に、いったい同社に、何かが起きていたのか。

AIが処理していたのは、定型的な問い合わせだった。「返品の手続きを教えてほしい」「支払い期日を確認したい」。ルールが明確で、正解がある仕事。AIはこの領域で、確かに人間を上回った。

しかし、電話をかけてきた人の状況や気持ちはさまざまだ。例えば、

「先月、担当者と話して解決するはずだったのに、また同じ請求が来ている。どういうことか」

この人との対話するには、前回の会話の記憶が必要だ。状況を把握し、優先度を見極めないといけない。そのうえで「一人ひとりの事情と感情」に寄り添う共感の姿勢がないと、怒りが増幅してしまう。

しかし、AIはこれらが苦手だった。

顧客との信頼、話の文脈の継続、安心感。これらは数値化しにくい質的な価値である。この測りにくいものに対する不満が積み重なると、顧客体験の質が変わってしまう。

測定できるもの──処理件数、速度、コスト──は上がった。測定しにくいもの──信頼、話の流れ、安心感──は静かに失われていた。それが数字になり、危険信号として経営者に届くまで、一年がかかったのだ。

今、AI導入で、最も求められるものは「効率化」「生産性」である。「測定しやすい価値」が見える化されると、「測定しにくい価値」は埋もれていく。

スタンフォード大学の研究チームによると、84本のAI論文のうち、測定しやすい性能（速度・精度など）を基準にしていた論文は83%であるのに対して、測定にくい性能 (信頼性、使いやすさなど) を基準にしていた論文は30%しかなかった。

アカデミーの世界も、ビジネスの世界も、測ることが大好きなのだ。

しかし、CEOが最後に言った言葉が、すべてを物語っている。
「顧客に対して『いつでも人間と話せる』と伝えることが、絶対に必要だ」

世界が「エージェント」に熱狂している

今、世界的に注目されているのが「AIエージェント」と呼ばれる存在だ。

従来のチャットボットとは違う。目標を与えると、自分で考え、計画を立て、行動し、結果を確認して、次の手を決める。「聞けば答えるもの」ではなく、「自分で仕事を進めるもの」だ。

BCGとMITスローン・マネジメント・レビューの共同調査では、AIエージェントの導入率はわずか2年で35%に達し、従来型のAIを上回るスピードで組織に浸透している。

マイクロソフトは「全社員がAIエージェントを持ち、それを指揮する『エージェント・ボス』になる時代」を宣言した。

マッキンゼーは「少人数の人間チームとAIエージェントの集合体が、価値連鎖全体の責任を担う『エージェンティック・チーム』が組織の未来形だ」と言う。

ビジネス界は、今、エージェントに熱狂しているのだ。

一方で、ガートナーが発表した「テクノロジーのハイプサイクル」では、AIエージェントが「過度な期待のピーク」に達していることがわかる。言い換えると、大きな「幻滅期」がはじまる一歩手前の状態にある。

そもそも、今のエージェントブームは、主にテクノロジーのイノベーターによるものだ。そして、彼らの熱狂の理由を３つほどあげてみよう。

ひとつめは、彼らの仕事。プログラミングや調査レポートなどがオンラインで完結するため、一般社会人よりも効率化のインパクトを感じやすいこと。

ふたつめに、ハロー効果。素晴らしいところがあると、問題に目がいきにくくなる認知バイアスである。

みっつめに、ビジネスへの期待感。エージェント化がAI投資の大きな波として期待されていることである。

AIエージェントが極めて重要なテクノロジーで、それがビジネス界に与える経済的インパクトは疑う余地がないことだ。一方で、礼賛されすぎると、バブルのような過剰投資を生み、幻滅も激しくなってしまう。

このレポートでは、あえて厳しい視点を持ち、現在のエージェントへの熱狂にメスを入れていきたい。

仕事には、三つの種類がある

AIエージェントが力を発揮できる仕事と、できない仕事がある。

世界経済フォーラム（WEF）が2025年に発表した『Future of Jobs Report 2025』は、現在のビジネス現場において、何に時間が使われているかを1,000社以上への調査で明らかにした。そこから、筆者による加筆を加えて、分析をしていきたい。

① 実行業務──機械が中心（2025年時点で、22%と推測）
ルールが明確で、量と速度が価値の本体だ。事務・経理、データ収集・集計、定型レポートの作成、プログラミング。正解があり、繰り返しが効き、判断の余地が少ない。

② 思考業務──人間と機械の協働（30%）
情報を意味に変え、問いを深める仕事だ。コンテンツの企画と制作、マーケティング、新規事業のたたき台づくり、経営判断の言語化。人間の解釈と洞察が価値の本体になる。

③ 関係業務──人間が中心（47%）
信頼・合意・共鳴が価値の本体だ。営業・顧客対応、採用・人事、組織マネジメント、経営の意思決定。感情と文脈が不可欠で、正解のない問題、人間関係が絡む適応課題を解決する仕事である。

この調査では、これらの仕事の比率が、AIの浸透によって、2030年までに、以下のように変化するだろうと予測している。

この調査では、「2030年までに1億7000万の新しい仕事が生まれ、9200万の仕事が失われる」と予測しているが、消えていく仕事の正体は、①実行業務である。

この業務の削減こそ「AIエージェント効果」といえるものだ。一方で、人間に新しく生まれる仕事は、②思考業務、③関係業務に集中している。仕事は減らない。ただし、②と③に移動するのだ。

AIの効果は、仕事の種類によって変わる

2024年、MITにおいて「人間とAIの協働効率 〜 人間とAIが一緒に仕事をすると、どちらかだけより良い結果が出るのか」という興味深い研究が行われた。まさに仕事の未来を占うような調査である。

さきほどの３つの分類に準拠させると、興味深い結論が導かれる。

① 実行業務：「AIエージェント単独」が最適である
定型的な判断を求める仕事──「この申請は規定に合っているか」「この数値は正常範囲か」──では、AIエージェント単独が最も高い精度を出した。ここに人間が関与すると、かえって精度が落ちることさえあった。人間がAIの答えを確認しようとして時間を使い、しかし結局AIの判断を覆せず、精度もスピードも下がる。①においては、人間はむしろ「邪魔」になりうるのだ。

② 思考業務：「人間 × AIの組み合わせ」が最大の力を発揮する
何かを生み出す仕事──文章を書く、アイデアを出す、戦略を考える──では、人間とAIの組み合わせが単独を大きく上回った。AIが膨大な情報を整理し、人間がそれに「それは違う」「そういうことか」と応答する。この往復が思考を深め、一人では到達できない洞察を生む。

③関係業務：人間が主役でなければならない
信頼・感情・合意を扱う仕事では、AIが深く関与するほど質が落ちた。顧客との関係構築、困難な交渉、組織の意思決定──これらは人間と人間の間で起きる営みだ。AIは情報整理や議事録作成で補佐できる。しかし主役になった瞬間、信頼と感情の文脈が失われる。

研究を率いたマローン教授はこう結論づけた。
「仕事の種類によって、組み合わせ方が根本的に変わる」

この三つを並べると、クラルナの失敗の構造が鮮明に見えてくる。

クラルナが任せたのは、表面上は①実行業務だった。しかし顧客対応の中には、②思考業務（複雑な状況の把握と判断）と③関係業務（信頼の形成と感情への対応）が混在していた。①を任せるつもりが、いつの間にか②と③まで侵食していた。それが「やりすぎた」の正体だった。

問い方そのものを、変える

AIエージェントは、確かに驚くべき可能性を持っている。一方で、それが最も効率的に働くのは "① 実行業務" である。エージェントを中心とした業務の自動化により、その割合は、今後5年間で22%から34%へと拡大する。

言い換えると、+12ポイント──
これがAIエージェントのインパクトの範囲である。

2030年においても、残り66%──②思考業務と③関係業務──は人間が中心となって担い続ける仕事なのだ。

「AIエージェントで何を自動化できるか」という問いは、間違っていない。しかし、ハイプサイクルの頂点の後には、必ず「幻滅期」が来る。

クラルナはその一歩手前で気づき、引き返した。

気づかないまま進んだ組織が、次に直面するのは「測れなかったもの」が崩れていく現実だ。顧客の信頼。従業員の意欲。組織の判断力。これらは、一度失うと、取り戻すことが難しい。

正しい問いはこうだろう。

①実行業務をエージェントに渡したあと、②思考業務と③関係業務をどう設計すればいいのか。

①が解放した人間の認知を、②と③に再投資する。WEFが示す通り、2030年においても66%のタスクは人間が中心を担い続ける──この66%に人間の力を集中させる組織だけが、AIエージェントの熱狂の先に進める。

BCGの調査が示す「future-built企業」──全体のわずか5%──が成果を上げているのは、この連鎖を意図的に設計しているからだ。

では②と③を担う「人間」とは、AIとは根本的に何が違うのか。
速度でも正確さでもない、もっと本質的な違いがある。

次回はこの問いを正面から解きほぐしていきたい。

【引用・参照文献】

• Klarna CEO Sebastian Siemiatkowski, Bloomberg interview, May 2025 / MLQ.ai, "Klarna CEO Admits Aggressive AI Job Cuts Went Too Far", October 2025

• World Economic Forum, "Future of Jobs Report 2025"

• BCG × MIT Sloan Management Review, "The Emerging Agentic Enterprise", 2025

• Microsoft, "Work Trend Index 2025"

• McKinsey, "The Agentic Organization", 2025

• Gartner, Hype Cycle for Artificial Intelligence, 2025

• Stanford University / arXiv, "The Measurement Imbalance in Agentic AI Evaluation", 2025. https://arxiv.org/pdf/2506.02064

• Vaccaro, M., Almaatouq, A., & Malone, T. "When combinations of humans and AI are useful: A systematic review and meta-analysis." Nature Human Behaviour 8, 2293–2303, 2024.

• BCG, "The Widening AI Value Gap: Build for the Future 2025"

最後まで読んでくださって、ありがとうございます。

noteをフォローしていただくと、新着記事の通知が届きます。

また、週1通の無料メルマガ「とんとん通信」では、毎週月曜 朝7時30分に、その週の記事サマリーと、noteには書いていない小さな裏話をお届けしています。

忙しくてSNSを追いきれない方は、ぜひご登録ください。
いつでも解除できますので、お気軽にどうぞ。

[メルマガ登録する]

毎月、無料のオンライン講演でお話してます。申し込みはお気軽にどうぞ。

斉藤 徹（とんとん）
だかぼく三部作 公式ページ：https://torusaito.com/
株式会社hint：https://hint.co.jp/