AIと医療 / 医療AIの責任帰属問題――TRUSTフレームワークが示す法的ガバナンスの方向性雑感

0　はじめに

　医療とAIの世界の動向を確認したい場合は以下を確認いただきたい。1分で読める内容である。

　今回は2025年に『The Lancet Primary Care』誌に掲載されたAllenらの論考「Artificial intelligence in primary care: frameworks, challenges, and guardrails」を取り上げる。今回の関心は、同論文が提起する多岐にわたる問題群のうち、特に法的責任の帰属（Liability Attribution）に関する論点にある。プライマリ・ケア（初期診療）という、患者の抱える健康問題の初期段階における包括的な対応が求められる領域において、AIの自律性が高まることがいかなる法的緊張をもたらすのか。以下、検討を行う。

1　問題の所在

　Allenらの論考は、プライマリ・ケア領域におけるAI導入の現状を整理し、安全かつ公平な統合のための「TRUSTフレームワーク」を提唱するものである。

　現在、医療におけるAIの利用は、画像診断支援のような単一タスクの自動化にとどまらず、トリアージ、文書作成、そして治療方針の提案へとその適用範囲を拡大させている。AIが診断や治療方針の決定といった、医師の裁量が従来排他的に支配していた中核的領域に関与する場面において、過誤が生じた場合の責任をいかに配分すべきか。この問いは、従来の医療過誤法理、すなわち医師の予見可能性と結果回避義務（過失）を軸とした責任追及の射程を超える可能性を孕んでいる。

　特に、プライマリ・ケアは専門診療科と異なり、未分化な健康問題や多疾患併存（Multimorbidity）を抱える患者を扱うため、AIに入力されるデータは文脈依存性が極めて高い。このような環境下でAIが誤った判断を下し、医師がそれを看過、あるいはAIの判断に過度に依拠した場合、その法的責任は「道具」を使用した医師にあるのか、それとも「欠陥」あるシステムを提供したベンダーにあるのか。Allenらが提示する現状分析は、この古典的かつ新しい問いに現代的な視座を提供している。

2　断片化という問題と因果関係の特定

　Allenらは、医療AIの導入が「断片化（fragmented）」した状態にあると指摘する。

　同論文によれば、現在の医療現場には、ルールベースの古いシステム、機械学習（ML）、自然言語処理（NLP）、そして生成AI（GenAI）が混在している。個別のAIツールが散発的に導入される一方で、システム全体としての整合性が欠如しているという現状認識である。例えば、あるツールは眼底画像のスクリーニングを行い、別のツールは問診の自動化を担い、さらに別のツールが電子カルテの要約を作成するといった具合に、相互運用性（Interoperability）を欠いたまま臨床ワークフローに組み込まれている。

　この断片化は、運用上の非効率性を招くだけでなく、法的観点からも重大な問題を惹起する。データの分断と責任所在の曖昧化が、医療過誤発生時の因果関係特定を困難にするからである。

　異なるベンダーの異なるAIツールが介在した結果として過誤が生じた場合、責任の按分は極めて困難となる。例えば、トリアージボットが患者の主訴を不正確に要約し、そのデータを基に診断支援AIがリスクスコアを算出し、医師がそのスコアに基づいて帰宅を指示した後に患者が急変したとする。この場合、ボットの誤訳が主因か、診断AIのアルゴリズムが主因か、あるいは統合判断しなかった医師の監視義務違反か。システムが断片化していればいるほど、「システムの欠陥」と「使用者の過失」の境界線は溶融し、被害者救済の観点からも、予見可能性の確保という観点からも、極めて不安定な法的状態を招来することになる。

3　エージェンティックAIの登場

　同論文が整理する医療AIの技術的進化のうち、法的観点から最も注目すべきは「エージェンティックAI（Agentic AI）」への言及である。

　Allenらが展望するように、技術の潮流は受動的なツールからエージェンティックAIへと向かっている。エージェンティックAIとは、高次の臨床目標（例えば「この高血圧患者の管理を行う」）を与えられると、自律的に計画を立案し、予約取得、検査オーダー、患者教育資料の作成、さらには他のAIツールの実行等をマルチステップで遂行する「主体」を指す。これは単なる道具ではなく、目標指向型の自律性（goal-directed autonomy）を有する存在である。

　従来、医療過誤の法的構成は、医師が「道具」としての医療機器を使用して診療行為を行うという前提に立っていた。メスやMRIがいかに高度化しようとも、それらは医師の操作を待って初めて機能するものであり、最終的な行為主体性は常に人間に留保されていた。しかし、エージェンティックAIはこの前提を揺るがす。医師の個別の指示（マイクロマネジメント）なく業務を遂行しうる存在だからである。

　ここで生じる法的論点は多岐にわたる。エージェントが自律的判断に基づき行った検査オーダーが不適切であった場合、その過失責任の帰属先はどこか。医師の監督責任か、開発ベンダーの製造物責任か、あるいは新たな責任法理の創設が必要か。

　例えば、エージェントが患者の生活習慣改善のために自律的に外部データベースを参照し、不適切な食事療法を患者に直接送信した場合、医師がその全てを事前に検閲することは現実的ではない。医師が予見不可能な自律的動作によって生じた損害について、医師に過失責任を問えるのか。一方で、自律的に学習・適応するAIの挙動を、開発ベンダーが設計段階で完全に予見することも困難である。エージェンティックAIの登場は、「人間対機械（道具）」という二項対立的な責任モデルの限界を露呈させ、法システムに対し、自律的エージェントの「行為」を法的にどう位置づけるかという根源的な問いを突きつけている。

4　TRUSTフレームワークの法的含意

　Allenらが提唱するTRUSTフレームワークは、Tailoring（適合性）、Responsibility（責任）、Universality（普遍性）、Sustainability（持続可能性）、Transparency（透明性）の5原則から構成される。このうち、法的観点から特に重要なのは、ResponsibilityとTransparencyの2原則である。

　Responsibility原則について、同論文は「人間によるオーバーライド（介入・拒否）の権限」と「監査証跡（Audit Trails）の確保」を「交渉の余地のない必須事項（Non-negotiable）」と位置づける。これは、いわゆるHuman-in-the-loop（HITL）の確保を法的要件として明確化する方向性を示唆する。

　ただし、法的に重要なのは、これが単なる形式的な要件ではなく、実質的な権限の担保を求めている点である。形式的に人間が介在するだけでは足りず、実質的にAIの判断を覆しうる能力と権限の担保が必要となる。AIが提示した推奨事項を医師が却下しようとした際、システム側が過度に複雑な手順を要求すれば、医師は心理的な抵抗感（Automation Bias）からAIの判断に従属してしまう恐れがある。したがって、実効性のある介入権限のデザインが法的な義務となりうる。

　また、監査証跡の確保は、訴訟における立証の観点からも決定的に重要である。AIがいかなる入力データに基づき、いかなる推論を経て特定の出力を生成したか、その判断過程が事後的に検証可能な形で記録されていなければ、過誤の原因特定と責任帰属の判断は著しく困難となる。わが国の医師法における診療録の記載義務（医師法24条）との関係で、AIの判断過程の記録（ログ）をいかに位置づけるかが今後の検討課題となろう。ログが診療録の一部とみなされるならば、その保存義務や開示義務もまた、従来のカルテと同様の法的規律に服することになる。

　Transparency原則について、同論文は、出力の解釈可能性と使用目的・限界の明示を要求する。これは、インフォームド・コンセントの実質化に関わる論点である。

　患者は、自己の診断にAIが関与しているか、当該AIがいかなるデータで訓練されたかを知る権利を有するか。特にLLM（大規模言語モデル）のようなブラックボックス性の高いAIが用いられる場合、医師自身もAIの出力根拠を完全には説明できない可能性がある。その状況下で、医師は患者に対し何をどこまで説明すれば「説明義務」を果たしたことになるのか。EU AI規則（AI Act）における透明性義務との比較法的検討も有益であろう。Mundzicらの研究（2025）が示すように、患者はデータのプライバシーやバイアスに対して懸念を抱いており、AIの関与に関する透明性は、医師と患者の信頼関係（Fiduciary Relationship）を維持する上でも不可欠な要素となる。

5　モデルドリフトと継続的監視義務

　Allenらは、技術的課題として「モデルドリフト（Model Drift）」の問題を指摘する。AIモデルの精度は不変ではなく、患者層の変化や新たな治療法の登場、あるいは疫学的な変化により、当初は正確であったモデルが時間経過とともに劣化し、誤った予測を出力し始める現象である。

　この問題は、法的には継続的監視義務（Post-market surveillance）の問題として把握しうる。従来の医療機器であれば、物理的な故障がない限り性能は一定であると想定できたが、AIは環境の変化に応じて性能が動的に変化する。

　したがって、AIを導入した医療機関及びベンダーは、導入時点のみならず、運用期間全体を通じてモデルのパフォーマンスを監視し続ける義務を負うか。負うとすれば、その義務の内容と範囲はいかなるものか。例えば、ドリフトを検知した場合、直ちに使用を停止し、再学習を行う義務があるのか。

　わが国においては、薬機法における市販後調査制度との関係が問題となる。AIを搭載した医療機器（SaMD：Software as a Medical Device）については同法の規制対象となりうるが、モデルドリフトへの対応を市販後調査の枠組みでいかに位置づけるかは、なお検討を要する。特に、学習し続ける「適応型AI」の場合、承認時と現在の性能が異なることが前提となるため、従来の「承認＝安全性の固定」という規制パラダイムからの脱却が求められる。

6　脱スキル化と医療水準

　Allenらは、倫理的・社会的課題として「脱スキル化（De-skilling）」のリスクに言及する。問診やカルテ記載、鑑別診断のリストアップをAIに委ねることで、医師が患者の微細な変化を察知する能力（暗黙知）を喪失する懸念である。これは「Automation complacency（自動化への過信）」とも関連し、AIが停止した際に医師が独力で対応できなくなる脆弱性を生む。

　この問題は、医療水準（Standard of Care）の定義に直結する。将来的にAIの精度が人間を凌駕したとき、「AIを使用せずに診断すること」自体が、最善の医療を提供する義務に違反するとして過失と評価される可能性がある。その一方で、「AIに過度に依存して自身の判断能力を喪失すること」もまた、専門家としての注意義務違反と評価される可能性がある。

　医師は「AIを使うべき」義務と、「AIを盲信してはならない」義務の板挟みとなりうるかもしれない。いずれの方向に医療水準が形成されていくかは、技術の発展と社会的受容の程度に依存するであろうが、法的にはいずれの事態にも対応しうる柔軟な解釈論の構築が求められる。AI利用が標準化された未来においては、医師に対し「AIの提案を批判的に吟味する能力（AIリテラシー）」の維持・向上が、新たな法的義務として課されることになるだろう。

7　雑感

　Allenらの論考が示すように、医療AIの導入は、単なる技術的課題にとどまらず、責任法理、説明義務、継続的監視義務、医療水準といった法的諸概念の再検討を迫るものである。

　特に、エージェンティックAIの登場は、従来の「医師が道具を使用する」という図式を根本から問い直す契機となる。AIが「パートナー」ないし「代理人」としての性質を帯びるとき、法的枠組みもまたその進化に応じた更新を必要とする。医師の専門職としての自律性を守りつつ、AIの自律性を法的規律の下に置くという、極めて繊細なバランスが求められているのである。

　TRUSTフレームワークが提示する諸原則は、抽象的な倫理原則を具体的な法規制や契約条項へと架橋するための有用な視座を提供している。今後は、これらの原則を日本法の文脈、特に医師法、医療法、薬機法、そして民法不法行為法理の解釈においていかに具体化していくかが課題となろう。

8　思考の材料

（マガジン）「AIと法雑感」

※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。