AI新興リスクと米国の賠償責任 / 自動運転とAIエージェントの法適用 雑感

Ⅰ　技術の進展と不法行為責任の再編

　オックスフォード大学などの研究チームが人工知能の技術的進展が米国の不法行為責任法制および保険市場に与える影響を論じた報告書が、2024年11月に発表したホワイトペーパー「Insuring Emerging Risks from AI」である〔注1〕。未知の技術リスクに対して米国の賠償責任制度がいかに適応しようとしているかは常に関心を寄せる主題である。同報告書を素材として、AIによる自動化がもたらす不法行為法理の変容と保険の役割について検討する。

　同報告書は、自動化の進展が既存の保険市場の縮小と新たなリスク領域の拡大という対照的な現象を同時に引き起こすと予測している。とりわけ自動運転車、AIエージェント、ならびにサイバー空間での攻撃手法の高度化を取り上げ、過失責任から厳格責任へと至る法理の展開を追っている点が特徴的である。

1　過失責任の減退と製造物責任への移行

　自動運転技術がレベル4からレベル5へと移行するにつれ、交通事故における法的責任の構造は大きく変化する。これまでの米国不法行為法では、交通事故の大半は運転者の過失責任として処理されてきた。しかしシステムが運転タスクを完全に代替するようになれば、人間の過失を問う余地は消滅する。

　同報告書によれば、米国では毎年約520万件の交通事故傷害と約4万件の死亡が発生しており、その大半は運転者の不注意や判断ミスに起因している。レベル4・5の完全自律車両が普及すれば、法的責任の焦点は運転者の行為から車両およびソフトウェアの設計へと移行する。原告はメーカーに対して製造物責任を追及することになる。個人の運転者が責任を負う場面が減少すれば、従来の個人向け自動車保険の需要は後退する。自動車メーカーは巨大な資本を背景に自社のフリート全体でリスクを内部化し、自家保険で対応する能力が高い。技術の向上による事故件数自体の減少も相まって、自動車保険市場全体は縮小に向かうと理解される。

2　設計欠陥の立証と法の適応

　製造物責任法理の下では、原告はシステムの設計欠陥を証明する必要がある。米国ではリスクと効用の衡量テストや消費者期待テストが用いられる。同報告書は、完全自律車両の設計欠陥判断に関して複数の学説上の提案を整理している。合理的な代替設計を要求する標準的な製造物責任アプローチではなく、合理的な人間の運転者基準を類推適用することで人間と機械の競争条件を揃えるという学理上の構想も紹介されている。判断主体が人間から機械へと置き換わる中で、過失や欠陥の評価尺度そのものの再構築が迫られていると考える。

　人間の運転者よりも統計的に安全なシステムに対して過酷な製造物責任を負わせることは、社会全体の事故を減らす技術の普及を阻害するおそれがある。もっとも、完全自律車両の製造物責任を緩和する方向での制度改正論と、厳格責任を課す方向への改正論の両方が論じられており、制度設計の方向性はいまだ定まっていない。

Ⅱ　AIエージェントの自律性と巨大リスクへの法的応答

　自動車保険市場が縮小に向かう一方で、AIエージェントとサイバーセキュリティの領域は保険産業の新たな市場として浮上している。

1　厳格責任と使用者責任の模索

　利用者の指示を受けて自律的に行動計画を立てるAIエージェントは、能力の不足、目的の不整合であるアライメントの失敗、あるいは悪用による損害リスクを伴う。純粋なソフトウェアであるエージェントを有体物たる製品とみなして製造物責任を問うことや、予測困難な自律的行動に対して開発者の過失を立証することは容易ではない。

　この不確実性に対処する法的手段として、AIエージェントの開発や運用を異常に危険な活動とみなして厳格責任を課すアプローチが論じられている。米国不法行為法第二次リステイトメントおよび第三次リステイトメントの定式によれば、当該活動が合理的な注意を払ってもなお高度なリスクを生じさせ、かつ一般的な使用態様でないと評価されれば厳格責任が適用されうる。ただし同報告書は、この法理をAIエージェントに拡張することは現時点では教義上の革新を意味し、デフォルトの結果とみなすべきではないとも指摘している。

　さらに、AIエージェントを被用者と見立てて、respondeat superiorの法理を開発者や利用者に類推適用する議論も取り上げられている。もっともAIを法的な代理人と認めることは教義上の大きな飛躍を伴う。第三次代理法リステイトメントはコンピュータプログラムが本人または代理人として行動する能力を持たないと明記しており、同報告書はこれを乗り越えるには何らかの法人格論が必要であると整理している。利用者が十分な賠償能力を持たない場合に背後にある開発企業に責任を負わせるための選択肢として、引き続き検討に値する問題である。

2　保険の義務化と懲罰的損害賠償の拡張

　AIはサイバー攻撃の標的となるだけでなく、攻撃を自動化する手段としても悪用される。同報告書は、特定のAIアプリケーションに対して賠償責任保険の加入を義務付ける案を提示している。被害者の救済を確実にするだけでなく、リスクに応じた保険料の算定を通じて開発者に安全対策を講じる経済的誘引を与えることが企図されている。

　筆者がとりわけ目を引かれたのは、保険引受の限界を超える巨大リスクに対する懲罰的損害賠償の拡張である。重要インフラの破壊など、企業が補償しきれない壊滅的な事態をもたらすリスクが存在する。同報告書は、現実には小規模な損害にとどまったニアミスの事案において、その背後に存在した巨大リスクの規模を評価し、開発者に対して巨額の懲罰的損害賠償を命じるという構想を提示している。具体的な試算例として、被告の開発したAIエージェントが5万ドルの損害を実際に引き起こしつつも、5兆ドルの損害に相当する大量被害事象を0.001%の確率で引き起こすリスクを生じさせていた場合、原告は5万ドルの補償的損害に加えて5000万ドルの懲罰的損害賠償を請求できるとされている〔注1〕。引き受け不可能なリスクの総量を企業に内部化させ、未然に事故を防ぐための強力な抑止力として機能させることを意図した構想と読める。

Ⅲ　むすびにかえて

　新技術の社会実装において、事後の責任追及と保険による被害回復の仕組みは事前の安全規制と並ぶ制度基盤である。自動運転車のようにリスクが定量化しやすくなる領域と、AIエージェントのようにリスクが不確実で大規模化しうる領域とでは、求められる法的対応も保険の機能も全く異なる。

　損害を金銭的に補填するという法と保険の伝統的な機能は、技術の進化に伴い、社会全体での合理的なリスク配分を実現し安全基準を形成するための制度的装置へと変容しつつある。米国における責任法理の変容論議が司法判断や実務にどのような影響を与えていくか、引き続き動向を注視していく。

（参考）

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。