止まらない知能を、どう止めるか――ある決済会社の破産に読む、AIエージェント時代の事故類型と多層防御

目次

序章　一枚の告知が映す近未来................................................. 2

第一章　良性の故障——フェイルストップという幸運.............. 2

第二章　可用性の事故——連鎖停止とサプライチェーン........... 3

第三章　完全性の事故——誤判断の増幅とエージェント間の欺瞞........ 4

第四章　権限・境界の事故——委任の暴走と再帰ループ............. 5

第五章　事後の事故——帰属不能と沈黙する劣化....................... 6

第六章　単一栽培という増幅器.................................................... 6

第七章　多層防御アーキテクチャ——防御マトリクス................. 7

第八章　どこから始めるか——実装の優先順位............................ 8

終章　止まらないものを、止められるように............................... 9

序章　一枚の告知が映す近未来

〔事実〕 二〇二六年七月八日、あるクレジットカード会社が一枚の告知を掲示した。決済代行サービスを提供していた一社が七月六日付で地方裁判所より破産手続開始決定を受け、同社によるサービスは即日中止となった、というものである。その端末を導入していた一部店舗では、当該カードを含むクレジットカード決済ができなくなった。カード会社は、契約先の事業者に向けて、代替となる正規の決済事業者を複数紹介した。内容そのものは、決済代行という一社のインフラが停止し、それが多数の加盟店へ一斉に波及した、きわめて典型的なサプライチェーン障害である。

〔考察〕 私はしかし、この一件をAIエージェント時代の予告編として読みたい。いまは「決済」が止まっただけだ。だが業務がエージェントの連なりへ置き換わっていく時代には、止まるのが「決済」ではなく「判断」そのものになる。顧客対応から本人確認、与信、不正検知、決済、配送に至るまで、判断の各段がそれぞれ自律したエージェントとして直列につながるとき、そのどこか一点の障害は、もはや一つの機能の欠落ではなく、業務全体の凍結として現れる。決済会社の破産は、その構造を先取りして見せる小さな模型なのである。

本稿の目的は二つある。第一に、この破産を出発点として、AIエージェント時代に予想される事故を体系的に類型化すること。第二に、それらの事故を「どの防御が止めるのか」という設計者の視点から一枚のマトリクスへ整理し、これまで断片的に語られてきた統治概念——関所、管制塔、可観測性、冪等性、五台帳——を、ひとつの多層防御アーキテクチャとして接続することである。事故の目録を作ることが目的ではない。目録を、設計の言語へ翻訳することが目的である。