殺人ロボットに条約は間に合わない〜AI兵器と国際法の袋小路〜

7月2日の北海道新聞が、AIの軍事利用を特集していました。人間が関与しない「殺人ロボット」が戦場へ、という見出しです。同紙によれば、米軍は1月のベネズエラ攻撃で生成AIを使いマドゥロ大統領夫妻を約5時間で拘束し、イラン攻撃ではAIの古いデータに基づく分析で小学校を誤爆、少なくとも175人の児童が死亡しました。事実関係は丁寧に押さえられた記事でした。

読んで最初に浮かんだのは、これは条約違反ではないのか、という素朴な疑問です。調べて分かったのは、もっと悪い答えでした。

違反すべき条約が、存在しない。

三つの層

実態を整理すると、AI兵器には三つの層があります。

第一層はAIによる標的選定支援。これは完全に実用化済みです。イスラエルがガザで使った「Lavender」は殺害対象リストをAIが生成し、人間がほぼ追認するだけの運用だったと報じられています。米軍のベネズエラ作戦もこの延長線上にあります。人間は最後にボタンを押すだけ。

押すだけ、と書きましたが、その「押す」すら形骸化しつつあります。AIが出力する情報量は膨大で、人間の確認速度が追いつかない。AIを過信して確認を怠る「自動化バイアス」は人間の側に組み込まれた性質であり、EYストラテジー・アンド・コンサルティングの城田真琴ディレクターが記事中で「人間が安全装置として十分機能しない恐れがある」と指摘した通り、human in the loopの「人間」は制度上の建前として残りながら、機能としては薄まっていきます。

第二層は部分自律兵器。2020年のリビア内戦で、トルコ製の徘徊型弾薬「カルグ」が自律飛行で人の殺傷を含む目的に使われた疑いを国連報告書が指摘しました。ウクライナでは電波妨害で操縦が切れた瞬間、終末誘導をAIが自律実行するドローンが日常化しています。

第三層が、見出しの言う完全自律型の「殺人ロボット」、いわゆるLAWSです。公式には「存在しない」建前になっています。米国は保有していないとされますが、開発も配備も禁止していません。

見出しは第三層を匂わせ、本文の実態は第一層と第二層の話。新聞の見出しとしては標準的な範囲ですが、この切り分けは必要です。

条約不在

2023年12月、国連総会はLAWS（自律型致死兵器システム）への対応を求める決議を賛成152、反対4、棄権11で採択しました。日本を含む圧倒的多数の賛成。それでも法的拘束力のある条約には一歩も進めていません。反対したのはロシアとインド、棄権に中国とイスラエル。CCW（特定通常兵器使用禁止制限条約）という条約の枠組みで10年以上議論して、定義すら合意できていない。米国も禁止には乗らない。多数決で圧勝しながら、縛りたい相手だけが縛られない構図です。