虚構は冪等、金は冪等でないゲーム内AIエージェントによる現実購買の構造的危険についての警鐘
＜ここの冪等はあくまで比喩的表現ということやねClaちゃん。チャッピー変えた方がええで、と言っても変えへんのやね。君も頑固やね＞
目 次
序章 一秒で見えなければならない絵................................................... 3
第一章 虚構は巻き戻る..................................................................... 5
第二章 金は、こちらから巻き戻せない............................................. 8
第三章 冪等キーは世界の中に置けない............................................ 11
第四章 可逆環境から、不可逆な外部へ.............................................. 14
第五章 危険類型の体系....................................................................... 17
第六章 最悪の中の最悪.................................................................... 25
第七章 主体は空ではなく、分裂している.......................................... 28
第八章 日本法の見取り図.................................................................... 32
第九章 関所をどこに置くか............................................................... 37
第十章 意味の来歴と、二つの攻撃...................................................... 41
第十一章 内面を統治するな、能力境界を統治せよ............................. 50
第十二章 三つの記憶.......................................................................... 54
終章 見えない橋を架けるな.............................................................. 59
付記 出典・用語・留保..................................................................... 61
序章 一秒で見えなければならない絵
本稿の主題は、次の一行に尽きる。
プレイヤーが死ぬ。ロードする。カードは二回切られている。
ゲーム世界のなかで自律的に振る舞うAIエージェントが、現実世界の購買を実行する。この構想が実装に近づきつつある。仮想の執事が「食料が尽きました、手配しておきます」と言い、数時間後に現実の玄関先へ荷物が届く。物語の没入と、生活の利便が、ひとつの動作で接続される。技術的にはすでに難所は少ない。意図の抽出、外部APIの呼び出し、登録済み決済手段による自動決済。部品はすべて揃っている。
だからこそ、警鐘を鳴らす必要がある。しかもこの警鐘は、長い分析の末に到達する結論であってはならない。設計者が仕様書の一行目を読んだ瞬間、一秒で見えなければならない絵でなければならない。冒頭に掲げた一行が、その絵である。
遠慮した書き方はしない。慎重に留保を重ね、両論を併記し、可能性を示唆するにとどめる、という書き方は、この主題においては有害である。なぜなら本稿が論じるのは、確率的なリスクではなく、構造的な危険だからだ。構造的な危険は、注意深く運用すれば消えるものではない。設計に埋め込まれた瞬間から、規模が育つのを待っている。
断っておくべきことが二つある。
第一に、本稿は「ゲーム内エージェント購買は不可能である」とは主張しない。それは解ける。ただし——
境界を完全に不可視にしたままでは、解けない。
摩擦を毎回の購入時に置く必要はない。委任を設定するとき、委任を更新するとき、意図の来歴が汚染されたとき、上限を超えたとき、異常が検出されたとき。摩擦は、そこに置ける。捨てねばならないのは、シームレスさそのものではなく、境界が存在しないかのように見せる完全な不可視性である。本稿の主張は、不可能性ではなく、代償の所在についてである。
