はじめに
先月、自分が関わっているプロジェクトでLLMベースのエージェントを本番投入した。デモでは完璧に動いていたのに、実ユーザーが触り始めた途端にエージェントが同じAPIを無限に叩き続けるループに陥った。ログを追うと、エージェント同士が互いの出力を入力として受け取り、終了条件を見失っていた。
原因はプロンプトでもモデルの性能でもなかった。システム設計そのものが、自律的に動く複数コンポーネントの相互作用を想定していなかったのだ。
この経験から痛感したのは、エージェントAIの構築に必要な知識はフレームワークのドキュメントだけでは手に入らないということだ。制御理論、マルチエージェントの協調、フィードバックループの設計、そしてそれらを載せるアーキテクチャの判断。こうした層の厚い理解が求められる。
2026年、AIエージェントは実験段階から本番運用に移行しつつある。本番は甘くない。デモで通用した浅い理解は、実トラフィックと実コストの前で簡単に崩れる。
そこで今回は、自分がエージェント設計で壁にぶつかるたびに立ち返っている書籍を4冊紹介する。理論から実装基盤まで、段階的に力がつく順で並べた。
① エージェントアプローチ人工知能 第2版 — Stuart Russell, Peter Norvig
Stuart RussellはUCバークレーの教授で、AI安全性研究の第一人者。Peter NorvigはGoogle Research元ディレクターで、AI分野の教科書を書かせたら右に出る者がいない。
この本は「合理的エージェント」という概念を軸に、探索、プランニング、不確実性下の意思決定、学習までを体系的に網羅する。LLMエージェントが登場するはるか前から、エージェントとは何か、どう設計すべきかを定義してきた一冊だ。
重要なのは、現代のLLMエージェントがこの本で定義された枠組みの上に成り立っている点である。ReActパターンもツール呼び出しも、根底にあるのは「観測→推論→行動」のエージェントループだ。このループの理論的背景を知らずに実装すると、なぜエージェントが非合理な判断をするのか診断できない。
日本語版があるのは大きい。900ページ超のボリュームに圧倒されるが、自分は必要な章だけ拾い読みしている。特にプランニングと部分観測マルコフ決定過程の章は、エージェントの行動設計に直結する。
こんな人に: エージェントの「なぜそう動くのか」を理論から説明できるようになりたいエンジニア
② Multiagent Systems: Algorithmic, Game-Theoretic, and Logical Foundations — Yoav Shoham, Kevin Leyton-Brown
Yoav Shohamはスタンフォード大学の教授で、マルチエージェント研究とゲーム理論の交差点を長年開拓してきた人物。Kevin Leyton-Brownはブリティッシュコロンビア大学の教授で、計算論的ゲーム理論の専門家である。
単体のエージェントが動くだけなら話は簡単だ。問題は複数のエージェントが同じ環境で動くときに起きる。互いのリソースを奪い合う、同じタスクを重複実行する、デッドロックする。自分が冒頭で書いたループ問題もまさにこれだった。
この本はゲーム理論、メカニズムデザイン、社会選択理論、分散制約充足といった道具立てを使い、複数エージェントの協調と競合を形式的に分析する。各章末に演習問題があり、理論を手で確かめられる構成になっている。
英語の本だが、数式ベースで進むため、日本語の補助資料と併用すれば読み進めやすい。CrewAIやAutoGenで複数エージェントを組み合わせている人は、この本の第7章あたりのコミュニケーション理論を読むと設計の見通しが格段に良くなるはずだ。
こんな人に: マルチエージェント構成で原因不明のバグに悩まされている開発者
③ AI新生 人間互換の知能をつくる — スチュアート・ラッセル
著者のStuart Russellは①の共著者でもある。この本ではAIの能力そのものより、AIが人間の意図から逸脱する問題に正面から取り組んでいる。
自律エージェントを本番に出すとき、最も怖いのは「目標を達成したのに結果が望ましくない」状態だ。KPIを最適化するエージェントが、ユーザー体験を犠牲にして数値だけ上げるような事態は珍しくない。これはアライメント問題の実務版である。
Russellが提案するのは、エージェントに「自分の目的関数が不確実である」と認識させるアプローチだ。具体的には、人間の選好を観察しながら目標を推定し続ける設計思想を展開する。この考え方は、エージェントに過度な自律性を与えない設計判断に直結する。
日本語訳があるので手に取りやすい。技術書というよりは設計哲学の本に近いが、ビジネス向けエージェントを設計する際のガードレール設計に明確な指針を与えてくれる。
こんな人に: エージェントの暴走リスクを設計段階で潰したいアーキテクト
④ Software Architecture: The Hard Parts — Neal Ford, Mark Richards, Pramod J. Sadalage, Zhamak Dehghani
Neal FordはThoughtWorksのDirector、Mark Richardsはソフトウェアアーキテクチャのトレーナーとして著名。分散システムにおけるトレードオフ分析を実務目線で語れる数少ない著者陣だ。
エージェントは真空中で動くわけではない。APIゲートウェイ、メッセージキュー、データストア、認証基盤の上で動く。エージェントの性能がどれだけ優れていても、載っているアーキテクチャが脆弱なら本番では耐えられない。
この本はサービス粒度の決め方、データオーナーシップの分割、通信パターンの選択など、分散アーキテクチャにおける「答えの出ない判断」を構造化して議論する。特にエージェントに自律性を持たせるか集中制御にするかの判断は、この本で扱うautonomyとcouplingのトレードオフそのものだ。
自分の場合、エージェントの再試行戦略やタイムアウト設計で迷ったとき、この本のサーキットブレーカーやサーガパターンの議論に何度も助けられた。AIの本ではないからこそ、エージェント特有のバイアスなしに設計判断を見直せる。
こんな人に: エージェントを載せるシステム基盤の設計判断で迷っているバックエンドエンジニア
まとめ
| ステップ | 読む本 | 得られるもの |
|---|---|---|
| 理論基盤を固める | エージェントアプローチ人工知能 第2版 | エージェント設計の原理原則 |
| 複数エージェントの協調を学ぶ | Multiagent Systems | ゲーム理論に基づく協調設計の力 |
| 制御とアライメントを考える | AI新生 | 暴走しないエージェントの設計思想 |
| 実行基盤を整える | Software Architecture: The Hard Parts | トレードオフ判断力 |
今の課題に応じて1冊選ぶなら:
- エージェントが意味不明な行動をする → 「エージェントアプローチ人工知能 第2版」で合理的エージェントの枠組みを確認
- 複数エージェントが干渉し合う → 「Multiagent Systems」でコミュニケーション設計を学ぶ
- エージェントが目標を過剰に追求する → 「AI新生」でアライメントの設計指針を得る
- デモでは動くのに本番で落ちる → 「Software Architecture: The Hard Parts」で基盤設計を見直す
エージェントAIの世界は動きが速い。だからこそ、表層のツールに振り回されない土台を持つことが差になる。腰を据えて1冊読み通す時間は、結果的にデバッグに費やす何十時間もの節約になるはずだ。
