AI保険 / 生成AIリスクと米国における保険業界の慎重姿勢への転換雑感
「AIと法雑感」では保険法の論点には一切立ち入らない。保険法上の論点については学会発表や論文で将来触れることとし、ここでは法的論点以外の情報提供にとどめる。
AI保険については、以下を読んでいただくことで背景理解が深まると思料する。
また、今回この題材を取り上げる理由としては以下の記事の執筆時からAIと保険における米国の動向に一定の変化があったといえるためである。
1. はじめに
米国における主要な保険会社が、企業向け保険契約から人工知能（AI）に起因するリスクを除外しようとする動きが顕在化している。米国の保険大手グループは、チャットボットやAIエージェントを含むAIツールを導入する企業に関連して生じる賠償責任を補償対象外（＝免責）とする許可を、米国の規制当局に申請している。
この背景には、急速に発展するAI技術が将来的に引き起こしかねない大規模な損害賠償請求リスクへの強い警戒感がある。企業が競争的に最先端技術の導入を急ぐ一方で、モデルが「ハルシネーション（幻覚）」を起こし事実を捏造することによる、コストのかかるミスの事例は既に発生している。
ある免責条項案では、AI技術を「組み込んだ」製品やサービスに関連する請求を含め、AIの「あらゆる実際または申し立てられた使用」に関わる請求を排除する内容が含まれているという。
本来リスク移転の主要な担い手であるはずの保険業界が包括的な補償の提供に難色を示す現状は、AI時代特有のリスクの性質が、従来の保険の枠組みでは捉えきれないほど特殊かつ巨大であることを物語っている。
2. AIリスクの特殊性：「ブラックボックス」とシステミック・リスク
保険会社がAIリスクの引き受けを敬遠する根底には、二つの主要な要因がある。第一は、AIモデルの不透明性である。高度なAIモデルの出力プロセスは予測不可能かつ不透明であり、保険を引き受けるにはブラックボックスの領域が広すぎるのかもしれない。
この不透明性は、責任の所在を不明確にする。何か問題が起きた場合に誰が責任を負うのか、責任関係は複雑である。従来の技術面のエラーであれば容易に責任主体を特定できるのに対し、AIリスクには開発者・ベンダー・ユーザーなど多数の関係者が関与しており、責任の特定が格段に困難になる。
第二に、より深刻なのは、AIリスクが持つ潜在的な巨大規模と連鎖性、すなわちシステミック・リスクである。AIプロバイダーがミスを犯し、それが大規模な損失につながる場合等システミックで、相関的で、集積されたリスクには対応できない。特定の基盤モデルの欠陥が、それを利用する多数の企業で同時に損害を引き起こす事態は、従来の保険スキームでは支えきれない可能性が高い。
3. 顕在化する事例と保険の空白
AIに起因する高額な損害事例は既に多数報道されている。これらの事例は、既存の保険契約ではカバーされない保険の空白を生み出す可能性がある。AIのハルシネーションは通常、セキュリティ侵害やプライバシー侵害を念頭におく標準的なサイバー保険の対象外となることが多い。技術分野のE&O業務過誤保険がAIのミスをカバーする可能性はあるものの、保険会社が包括的なAI免責条項を導入すれば、その適用範囲は大幅に狭められることになる。
4. 保険業界の限定的な対応
こうした保険の空白に対し、一部の保険会社は特約によってAI関連リスクに対応しようと動いているが、その内容は極めて限定的である。
例えば一部の保険会社は、世界で最も厳しい規制とされるEUのAI法（AI Act）に基づく罰金などをカバーするエンドースメントを導入しているようである。しかし、他の保険会社も追随したこのエンドースメントでは、AIの使用に起因する罰金に対する支払額がポリシー全体の限度額から制限される可能性もある。また、一部の保険会社では、モデルの問題が多数の顧客に同時に影響を与えるような「広範な」AIインシデントは除外しているように見受けられる。その他、チャットボットの不適切な応答・設定など、狭く定義されたAIリスクをカバーするアドオンを導入する動きも見られる。こうしたエンドースメントが、場合によっては結果的に補償範囲を狭めることにつながる可能性があり、海外のAIに関する保険利用を検討する場合は内容を綿密に精査する必要性が高まる。
5. おわりに
保険業界によるAIリスクの除外という動きは、AIがもたらす新たなリスクの性質と規模に対する、現時点での率直な警戒の表れであるといえる。不透明な判断プロセスと、システミックに連鎖しうる巨大な損害可能性を前に、従来の保険スキームは機能不全に陥りつつあるとも捉えられる。
生成AIの社会実装が不可逆的に進む中、そのリスクを誰が、どのように負担するのかという問題は、技術開発や法制度設計と不可分である。技術の恩恵を享受しつつ、その副作用たる損害リスクを社会全体でどう吸収・分散していくのか。AI時代におけるリスクガバナンスと責任配分のあり方を構築すべく、保険領域でもさらなる議論と創意工夫が求められていきそうである。
（マガジン）「AIと法-雑感」
※目次は以下を参照
note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。
