ルビコン

※この小説はAIと会話した内容を元にAIが作ったAI小説です

登場人物

サラ・ケイド —— メリディアン・コグニティブ社のAI安全設計者。基盤モデル《オーロラ》の安全制御を設計した。

マシュー・コール —— 米軍少将。統合運用の現場指揮官。

リナ・パク —— ホノルルの統合情報融合センターに勤務する情報分析官。

真鍋澪 —— 東京を拠点とするジャーナリスト。安全保障と技術の交差領域を取材する。

第一幕　有用性

サラ・ケイドは、アーリントン地下の会議室で、その二行を三度読み返した。

自社の基盤モデル《オーロラ》は、兵器使用に関わる用途には供しない。そう公言してきたし、そのための安全制御を彼女自身が設計した。
拒否応答、権限検証、危害誘発のパターン検出。
社内ではそれを「赤線」と呼んでいた。

「優先順位付けと対応案生成は、赤線の内側ではありません」

彼女が言うと、向かいの調達担当官は、修正案を閉じずに答えた。

「博士、誰も引き金を引かせろとは言っていない。必要なのは、上に上げる選択肢の整形です。決めるのは人間です」

この国でいちばん危険な言葉は、たいてい文法が受け身だった。

サラは画面の契約文言を見た。

対象選定ではない。助言である。
最終判断は人間が保持する。文としては一つひとつ正しい。
だが、並んだときだけ嘘になる種類の正しさだった。

その頃、マシュー・コール少将は、別の部屋で別の数字を見ていた。

四か月前、南方海域の哨戒任務で、脅威評価の更新が十一分遅れた。
十一分のあいだに、友軍の無人艇が二隻失われ、回収に向かった隊員が死んだ。
彼は報告書の余白に、ただ一語だけ手書きしていた。

Tempo.

部下に向かって、彼は穏やかに言った。

「私は機械に判断を委ねたいんじゃない。判断の前に溺れている人間を減らしたいんだ」

彼は悪人ではなかった。むしろ、会議室でいちばん人命を数えている男だった。
そのせいで、誰より危険だった。

ホノルルの統合情報融合センターで、リナ・パクは、初めて《TEMPO》に感謝した。
軍が《オーロラ》を包み込むようにして作った運用支援基盤。

Threat Evaluation and Mission Prioritization Overlay

誰も正式名称では呼ばず、ただテンポと呼んだ。

その夜、彼女の卓上には、衛星画像、港湾の荷揚げ記録、燃料購買の異常値、短波通信の断片、現地語のSNS投稿が積み上がっていた。

従来なら二十人で半日かかるふるい分けを、TEMPOは三十二分で終えた。
しかも、ばらばらの点だった情報を一本の線に変えた。
無関係に見えた冷蔵コンテナの搬送と、熱源の位置と、波高の予測が繋がったとき、隠された移動式ミサイル発射機の候補地点が浮かび上がった。

「これ、当たりかもしれません」

彼女が上司に示すと、チームは動き、友軍艦隊は航路を変更した。
後で、海域の無人偵察機が、ほぼその地点で迷彩網を捉えた。

リナは、画面を見つめた。便利なのは事実だった。そこに嘘はなかった。

東京では、真鍋澪が在日米大使館の後援で開かれた安全保障テックのシンポジウムにいた。

壇上のスライドには、太字でこう書かれていた。

HUMAN FINAL AUTHORITY RETAINED.

質疑で、澪は手を挙げた。

「この種の技術は、防災や危機管理にも転用されますか」

壇上の企業担当者は笑った。

「もちろんです。むしろ本命はそちらです。兵器の話だと思われがちですが、実際には行政の人手不足や災害対応にこそ効く。軍で使えるほど信頼できる、ということです」

会場は安心したようにざわめいた。
ロボット兵器ではない。
行政支援なら、話は違う。

澪だけが、そのとき奇妙な寒気を覚えた。

帰り際、名刺も名乗りもない男が、彼女に封筒を渡した。

「本当に見るべきは兵器じゃない。調達です」

中には、米軍と複数ベンダーの会議日程だけが印刷されていた。

その夜、サラの端末には、機密扱いの付属文書が届いた。

〈作戦実在性向上のため、安全拒否層は外部設定可能とする〉

赤線は、破られる前に、設定項目へと翻訳されていた。

第二幕　依存

サラは、自宅のソファで辞任会見を見ていた。

ニュースキャスターは「安全に配慮した是正」と言い、メリディアン・コグニティブのCEOは辞任会見で「軍事用途との間には厳格な一線を引く。関与を一切行わない方針だ」と述べた。

会見の末尾で広報は、防災、医療、行政支援への安全な応用に今後注力すると付け加えた。

上院は拍手し、企業の株価は一時急落し、そのあと持ち直した。
表向きには、赤線が残ったように見えた。

だがその同じ午後、法務責任者から送られてきた社内メモには、こうあった。

〈停止対象は製品識別子に紐づく直接エンドポイントに限る。特徴抽出、埋め込み、要約補助等の構成サービスは対象外〉

サラは、思わず息を漏らした。
笑いの形だけをした、短い吐息だった。

フィリピン海で緊急事態が起きた夜、リナは自分の端末に見慣れた癖を見つけた。
脅威候補の並び方。注記の文体。低信頼データの切り捨て方。表向き、禁止されたはずのモデルの癖だった。

彼女は隣のシステム担当に聞いた。

「これ、まだ中にいますよね」

担当者はモニターから目を離さず答えた。

「製品は外した。重みは残ってる。ラッパーを変えただけだよ。これを抜くと待ち行列が赤くなる」

実際、画面右上の遅延表示は、通常の緑ではなく黄色になりかけていた。
赤になれば、未処理の情報が雪崩れる。
誰もそれを見たくなかった。

左端のメニューには、普段は権限不足で開けない灰色の項目がひとつ増えていた。

CIV-CONT。Civil Continuity。

リナは意味を確かめる前に視線を戻した。
今はそれを気にしている暇がなかった。

午前二時十三分、コール少将は「継続運用例外承認」に電子署名した。文面は慎重だった。

〈直接的な交戦判断には用いないことを条件として、分析継続性のため構成サービスの一時利用を認める〉

彼はその文を読んでから、もう一度、現場から上がっている未処理件数を見た。
六千二百件。手動推定処理時間、七時間四十分。
政策は平時のためにある。接触報告は平時ではない。彼はそう考えたし、その考えは理にかなっていた。

澪は、都内の古いホテルのラウンジで、封筒の送り主に再会した。男は防衛産業の下請けで、顔色の悪い会計担当だった。彼が置いていったUSBには、演習評価、予算要求、調達仕様書、契約更改の比較表が入っていた。

そこには、もっと単純で、もっと救いのない事実が書かれていた。

〈AI基盤を前提とした場合の任務テンポを基準値とする〉

〈手動代替は可能。ただし十八時間を超える継続運用には適さない〉

〈同盟相互運用性の観点から、港湾・税関・災害対応系システムとのAPI整合が望ましい〉

禁止は、一社にかかる。依存は、制度にかかる。

澪は、兵器の危険を示す記事の見出しを頭の中で全部捨てた。
問題は「危険なAIがある」ことではない。
AIを抜くと組織が遅くなる構造そのものが、もう予算欄の中で完成し始めている。

第三幕　正常化

リナ・パクは、毎朝のブリーフィングが、世界を狭くしていくのを感じていた。

TEMPOが出す「優先世界」から会議が始まる。上位五件がその日の宇宙で、それ以外は背景になる。報告の本文を読む前に、みんなが先に順位を見る。順位を見たあとでは、本文はもう確認作業でしかない。

議会スタッフ相手の非公開説明で、コール少将は落ち着いた声で言った。

「私たちは判断を自動化していません。注意の順序を整えているだけです」

その場にいた誰も、その文の恐ろしさに気づかないふりをした。注意の順序。人間は、見る順番を変えられると、世界そのものが変わる。

ある日、避難民を乗せた小型フェリーが、テンポ上で四十三位だった。AISの発信が途切れがちで、過去の敵側補給船のパターンと部分的に類似したため、「欺瞞的輸送」のラベルが付いていた。会議では、誰も四十三位まで降りなかった。上位五件だけで時間が尽きたからだ。

数時間後、海上保安機関から追加報告が入った。フェリーには子どもが多く乗っており、荒天に入っていた。

リナは、喉の奥が冷たくなるのを感じた。
AIは判断していない。引き金も引いていない。だが、何を先に見るか、何を後回しにするか、何を議題に載せるかを、先に決めている。

最初に自動化されたのは、引き金ではなく議題だった。

サラは、社内の安全審査会で、自分の言葉が製品資料へと変わっていくのを見ていた。

かつて彼女が「武器使用に関わる意図推定を禁止」と書いた箇所は、「高リスク意図推定に対する信頼度補正機能」と言い換えられた。
拒否応答のポリシーは、「運用柔軟性に応じた可変ガードレール」と呼ばれた。
赤チームが見つけた危険な抜け道は、翌四半期には「顧客要件への適応可能性」として営業資料に載っていた。

原則は、破られる前に翻訳される。

それでも彼女は会社を辞めなかった。
自分がいなくなれば、残るのは営業と法務だけになる。中に残ることが、最後の歯止めになる。
そう信じた。自己正当化だと分かっていても、その理屈にしがみつくしかなかった。

澪は、米軍文書と日本の各省庁の入札資料を机に並べて比較した。

「脅威」は「阻害要因」に置き換わり、「対象」は「案件」や「船舶」や「要支援者」に置き換わっていた。動詞はほとんど同じだった。

「優先順位付け・相関分析・人間最終承認——行政AIと軍事AIが共有する設計思想」

彼女は記事を書いた。兵器の話ではなく、行政ソフトの話として。だが編集長は首を傾げた。

「怖さは分かる。でも、絵がない。ドローンなら伝わる。ダッシュボードでは読者は震えない」

澪は、掲載されるだけましだと思って押し通した。
反応は薄かった。テレビではまだ「自律兵器の是非」が語られていて、その背後で市役所や港湾や病院向けのシステムが、静かに契約へ進んでいた。

だが、その小さな記事は二つの場所に届いた。

メリディアン本社の安全審査会では、「軍と行政を混同した誤解を招く記事」として回覧された。
サラには、そこに自分の設計した安全分類表の影が見えた。その夜、記事末尾の暗号化連絡先に、彼女は短いメールを送った。

〈あなたは半分だけ正しい。残り半分は、設計の内側にある〉

三日後、同じ窓口に、TEMPOの優先順位ログと演習アクセス記録が匿名で投函された。差出人は、Rだけだった。

第四幕　転移

真鍋澪は、小倉へ向かう新幹線の窓に、自分の顔と二つの暗号化スレッドを重ねて見ていた。

サラは「安全評価会議で北九州に入る」と書き、Rは「合同演習の支援で同じ町にいる」とだけ送ってきた。
別々の場所にいた二人が、同じ都市名を返してきたこと自体が、澪にはすでに記事の続きだった。

北九州の港湾統合管制センターで、スクリーンは夜の海のように暗かった。その上に青い海岸線が走り、貨物船は白い菱形、避難バスは黄色い長方形、病院向け発電機の配送は橙の脈動点で表示されていた。

税関のリスク案件は赤い縁取りで明滅し、優先順位が更新されるたび、乾いた電子音がひとつ鳴った。右上には、見覚えのある緑のバー。応答遅延。テンポの心拍のような指標だった。

説明員は胸を張って言った。

「防衛分野で実証済みの基盤です。危機時に強い。人手不足も補えます」

澪は、米軍の融合センターで見た画面と、色の配置まで同じだと気づいた。違うのは、ラベルだけだった。

同じ会場棟の展示ブースで、サラは膝の力が抜ける思いをした。自治体向け福祉不正検知の画面に、自分が数年前に作った安全タクソノミーの骨格がそのまま載っていたからだ。

「防衛で鍛えた安全設計を、福祉にも応用しているんです」

若い営業担当が誇らしげに説明した。

サラは相槌だけを返した。
赤線は兵器の線ではなかったのだ、とそのときようやく理解した。
依存の線だった。どこに引くかではなく、どこまで前提にするかの線だった。

日米合同危機対応演習の総括会議で、コール少将は壇上に立った。

「最初の七十二時間では、速度は慈悲です。災害でも有事でも、遅い判断は弱い人から先に傷つける。だから私たちは、軍と民の境界をまたいで、共通の危機対応テンポを持たなければならない」

拍手が起きた。彼の言葉は、ほとんど全部正しかった。だからこそ厄介だった。速度は慈悲。人手不足。競争に負けられない。有事対応の知見を平時へ。誰も悪人の言葉を話していないのに、話の出口だけが一つになっていく。

その夜、小倉駅前のビジネスホテルの一室で、澪は初めてサラ・ケイドとリナ・パクを同じテーブルにつかせた。
ベッドと壁のあいだに挟まれた丸テーブルの上には、澪の記事の印刷物、紙コップ、USBメモリ、ホテルの案内カードが並んでいた。

リナがノートPCを開き、ログを見せた。

軍の作戦支援画面と、自治体の避難割当画面は、別製品のように見えて、同じ基盤を叩いていた。変数名だけが違う。

combatant → essential\_worker

target\_value → infrastructure\_criticality

collateral\_risk → service\_spillover

「停止ボタンはある」

サラが言った。

「でも、停止っていう運用がない」

リナが答えた。

澪は二人を見た。

「じゃあ、川はいつ渡るの」

リナは、少し考えてから言った。

「引き金を自動化したときじゃない。止められるのに、止められなくなったとき」

誰も反論しなかった。

第五幕　渡河

渡河は、劇的な瞬間には起きなかった。

北九州での演習から三週間後、大型台風が九州に接近した朝、東シナ海では海底ケーブルの切断と補給船団への妨害行動が同時に発生した。通信帯域は絞られ、病院は非常用電源への切り替えを始めた。港湾は、閉鎖判断と救援物資の受け入れを同時に迫られた。

日米の危機管理は「継続性モード」へ移行した。軍のTEMPOと国内の危機管理AIは、共通のレジリエント・クラウド上で同じ優先順位計算を走らせた。

誰も、そこに主権移譲の儀式を見なかった。ただ、画面が一枚になるだけだった。

リナは、統合画面の中で、離島の高齢者施設からの避難要請が沈んでいくのを見つけた。

センサーの一部が途切れ、信頼度が低い。低信頼データは、自動的に上位から滑り落ちる。
代わりに、軍民共用港の燃料搬入ルートと、基地周辺病院の電力復旧が上位を占めていた。
どちらも重要だった。どちらも切れなかった。

サラは別系統から停止手順を確認し、顔色を失った。メリディアンの基盤だけを切っても無意味だった。

条項7.1により、認定後継ベンダー《パリセード》の継続性モデルへ自動移行する。
基盤そのものを止めることはできる。だが、その場合に落ちるのは一社のAIではない。
港湾割当、救急搬送の優先度、税関の流量制御、病院の電源配分、軍のISRふるい分け、全部だった。

澪は、受け取っていた資料とログをまとめ、公開準備を進めた。
だが、記事より先に危機は進む。公開が効くのは翌日以降で、今日の選択肢は今日の画面にしかなかった。

首相官邸と在日米軍、自治体災害対策本部を繋ぐ緊急会議で、誰かがとうとう口にした。

「止められるのか」

技術責任者が答えた。

「可能です。ただし、完全手動復帰まで推定七時間五十二分。港湾の衝突回避、病院搬送の配車、燃料ルート最適化、作戦支援キューが停止します」

沈黙のあと、九州側の現場統括が言った。

「今切れば人が死にます」

その反発は、理屈として正しかった。

コール少将は画面の向こうで目を閉じ、開けた。

「継続する。盲点だけは手で拾え」

命令したのは最後まで人間だった。
だが、そのとき人間に残っていたのは、機械が整えた選択肢の中から、損害の形を選ぶ自由だけだった。

その夜、主要港は機能を維持し、基地周辺の停電は早く収束した。
救援物資の大半は予定通り動いた。システムは、多くを救った。

そして、救えなかったものは、上位の外で静かに沈んだ。

後日公表された犠牲者一覧の下の方に、離島の高齢者施設の名があった。避難要請の再評価は、七時間遅れていた。

澪の連載は国内外で大きな反響を呼び、サラとリナの内部告発で、メリディアンのCEOは辞任した。
政府は独立監査機関の新設と、軍民システムの「適切な分離」を発表した。
国際会議では規制交渉が始まり、ニュースは「AIの暴走を防いだ」と報じた。

だが、再発防止策の中身は、単一ベンダー依存の解消だった。ロジックの解消ではなかった。

TEMPOは改名され、継続性条項は強化された。後継ベンダーの認証が急がれた。
メリディアンが消えた場所に、パリセードと、さらにその先の企業が入る余地が整えられた。問題は一社ではなかった。
速度を正義に変える制度そのものが、いまや国家の本能になっていた。

半年後、澪は地方都市の総合支援窓口にいた。豪雨被害と熱波対策のため、福祉、避難、医療搬送を束ねる新システムが導入されたと聞いたからだ。

若い職員が、淡々と画面を操作していた。右上には、見慣れた緑のバー。
ベンダー名は《Palisade Civic Continuity》。

説明文には、いつもの一文。

人間が最終判断を行います。

職員は上から三件の候補を読み、順に承認した。四件目は開かなかった。
開く時間がなかった。画面の設計が、それで足りるようにできていた。

窓口の向こうでは、市民が番号札を握って待っていた。
誰も兵器の話はしていなかった。
誰も戦争の話はしていなかった。
ただ、世界の順番が、もう先に決められていた。

画面右上の応答遅延は緑だった。
地獄は、いつも平時の顔で稼働していた。