AIスクリブと診療録 / 書く自動化がつくる二重の空白雑感

0　はじめに

　生成AIが医療現場に入ってくる経路は、診断支援や画像解析のような判断領域だけではない。むしろ近時の実装速度が速いのは、書く領域である。診療の会話を録音し、逐語録を起こし、診療録っぽい要約を生成する。こうしたAIスクリブは、臨床家の事務負担を軽くしうる一方で、法的には妙にやっかいな場所に刺さる。

　やっかいさの中核は、AIスクリブが医療をする装置というより医療を記録する装置である点にある。記録は、治療の継続のためだけのものではない。後日の説明、苦情対応、医療安全、監査、支払、紛争、場合によっては雇用や保険加入・保険金支払の前提にまで波及する。記録は医療のインフラであり、同時に法のインフラでもある。

　2026年1月、カナダ・オンタリオ州の情報プライバシー務官（Information and Privacy Commissioner of Ontario）が、AIスクリブに関する包括的なガイダンスを公表した〔1〕。今回は、このガイダンスを素材に、AIスクリブを診療録という法的オブジェクトを揺らす装置として捉え、どこに空白が生じるのかを雑感として整理する。

1　問題の所在

　医療記録は、法律上の作成・保存が強く意識される領域である。日本でも、医師には診療録への記載義務と保存義務が置かれている〔2〕。紙か電子かはさておき、誰が・いつ・何を・どう残したかが制度的に問われる領域である。

　ところがAIスクリブは、ここに二重の層を作る。

　第一の層は表の記録である。医師がレビューし、正としてカルテに取り込んだ要約がこれに当たる。第二の層は裏の記録である。録音データ、逐語録、プロンプト、生成ログ、修正履歴、ベンダー側に残るメタデータ等がそれである。医療現場は、従来も裏の記録を抱えてきたが、AIスクリブは裏の記録を高解像度化し、複製・移転・解析可能にする点が質的に異なる。

　法はしばしば第一の層を前提に設計されている。他方で、AIスクリブのリスクは第二の層から噴出する。にもかかわらず、裏の記録は運用次第で保存も廃棄もでき、外部ベンダーやクラウドに押し出されもする。ここに、制度設計と実装のズレが生じる。

2　「書記」がAIになるときに起きること

　AIスクリブの典型的な処理は、録る・起こす・要約する・記録へ投入する、である〔1〕。この流れ自体は、従来の音声入力や医療秘書の作業に似て見える。しかし、違いは要約の主体が人からモデルへ移る点にある。要約は、単なる圧縮ではない。何を残し、何を捨てるかの選別であり、分類であり、時に解釈である。しかも、その選別が学習済みの統計的規則によってなされる。

　ガイダンスが明示するように、AIスクリブは臨床意思決定支援を直接の目的としないとしても、記録に含める情報の選別それ自体が、その後の診断・治療や、保険・雇用などの帰結に影響しうる〔1〕。記録は後工程の入力であるから、入力の質が帰結を規定する。

　加えて、AIスクリブは機能拡張しやすい。単にカルテの下書きを超え、紹介状、患者向け説明文、タスク抽出、場合によっては他システムへの連携まで接続しうる。ガイダンスが、Model Context Protocol（MCP）のような外部ツール接続プロトコルとの統合が情報漏えいリスクを大きくしうると警告しているのは、この点の感度が高い〔1〕。書記がエージェント化すると、記録の問題は一気にアクセス管理とセキュリティの問題へ変形する。

3　データ最小化と「全部録る」誘惑

　AIスクリブの導入が最初にぶつかるのは、データ最小化と目的限定の問題である〔1〕。会話を録音し逐語録を作るという発想自体が、目的と手段の距離を縮めすぎる危険を孕む。診療録に必要なのは、通常、診療上必要な事項であって、会話の全量ではない。

　ガイダンスは、録音・逐語録が極めて詳細な個人情報を含みうること、音声は声紋等によって個人識別に結びつきうること、したがって音声の匿名化・非識別化が実質的に困難になりうることを指摘する〔1〕。ここがミソである。医療情報はそれ自体がセンシティブであるが、音声は内容だけでなく媒体自体が識別性を帯びる。声紋技術の進展により、声の調子から話者の感情、社会経済的地位、さらには特定の疾患まで推論することが可能になりつつある〔1〕。

　さらに、録音は患者本人以外の情報も拾う。付き添い者の発話、オープンスペース診療での近傍会話、医療者の雑談。これらが混入し、記録の混線や精度低下、同意なき収集の問題を生む〔1〕。要約が精度よく見えるほど、その背後にある拾いすぎが見えにくくなる。AIスクリブの怖さは、便利さと透明性が反比例しがちな点にある。

　ここで現場が迷うのが保存である。録音・逐語録を残すか、要約だけ残すか。ガイダンスは、医療過誤訴訟への備えとして録音等を保持したくなる動機を挙げつつ〔1〕、同時に最小化原則から必要以上の収集に当たりうること、保管資源や漏えい時の危険から保持しないという判断もあり得ることを整理する〔1〕。記録は残すことが正義の領域であるが、AIスクリブは残さないことの合理性を同時に突きつける。

　日本法に引き寄せれば、個人情報保護法に基づく利用目的の特定・制限や安全管理措置等が関係し〔3〕、医療・介護分野のガイダンスや安全管理ガイドラインが具体的な実務対応の参照点になる〔4〕〔5〕。ただし、最小化原則のような概念は、条文上の必要な範囲や適正取得等の言語に分散して現れるため、組織内ルールとしての翻訳が不可欠である。

4　同意と説明の射程

　AIスクリブの同意は、単に録音してよいかという話ではない。少なくとも、会話がAIによって処理されること、要約が記録として残ること、録音・逐語録を保持するか否か、外部ベンダーや国外サーバに処理・保存される可能性、モデルの限界と人による確認、このあたりまで説明の射程に入る〔1〕。

　ガイダンスは、同意が拒否・撤回された場合にも代替の記録方法を用意し、ケアが不利益を受けないようにすべきことを述べる〔1〕。これは、同意を形式的チェックボックスにしないための最低条件である。実務的には、同意がないと診療が回らない設計をしてしまうと、同意は同意でなくなる。

　日本法上も、AIスクリブベンダーへの情報提供が委託に該当するか、それとも第三者提供・共同利用・二次利用に当たるかで、同意・公表・契約管理の要件が変わる〔3〕〔5〕。AIベンダーが学習・改善目的でデータ利用を求める場合、委託的な建付けは崩れやすい。無料トライアルでも法的義務が消えるわけではない、という注意喚起は、ガイダンスでも強調される論点である〔1〕。

　さらに、同意の射程は性能とも結びつく。言語、方言、騒音環境、専門語彙、患者の発話特性等により、モデルの精度は揺れる。ガイダンスが、学習言語でない言語での利用等では慎重であるべきと述べるのは、単なる技術論ではなく、同意が知識ある同意たり得るかという法的・倫理的論点に直結する〔1〕。

5　Shadow AIという実存的脅威

　ガイダンスの中で実務的な警鐘として注目すべきは、Shadow AIに関する記述である〔1〕。Shadow AIとは、組織の承認や監督を経ずに、職員が個人的に調達したAIツールを業務に使用することを指す。

　ガイダンスでは、実際に起こりうるシナリオとして、以下の事例を紹介している〔1〕。ある医師が、自身の業務効率化のために個人のデバイスにAIスクリブアプリをダウンロードした。このAIアプリは、医師のカレンダーと連携し、予定された会議に自動的に参加する機能を持っていた。その後、この医師は病院を退職したが、病院側のシステムから医師のアカウントが完全に削除されていなかった。その結果、医師が不在であるにもかかわらず、個人のAIスクリブが病院のバーチャル回診に出席し続け、元同僚たちによる患者の機微な情報を含む臨床的な議論を勝手に録音・文字起こしし続けていた。

　ここで起きているのは、モデルの暴走というより、アクセス管理と情報資産管理の破綻である。BYODの管理不備と、AIのエージェント機能が結合した際に起こりうる、新たな類型の深刻なプライバシー侵害と言える。退職者のアカウント管理という古典的なセキュリティ課題が、AIによって致命的な情報漏洩へと増幅される。

　この種の事故は、日本でも起こりうる。医療機関に限らず、企業でも会議の文字起こしや議事録作成を名目に、個人が勝手にAIツールを入れ、会議URL・音声・画面共有が吸い上げられる構図は容易に想像できる。AIガバナンスの実務は、AIの性能評価と同じくらい、ID管理、端末管理、会議運用、ログ監査、教育・再教育の地味な作業でできている。

6　記録の真正性と責任

　診療録にAIが介在すると、誰が書いたかが曖昧になる。しかし責任は曖昧にならない。ガイダンスも、出力の正確性確認における人の役割を明確に置き、要約が利用・開示される前に人が監督することを求める〔1〕。AIが書いた文章は、医師のレビューを経て初めて医師の記録になる。この順序の固定が重要である。

　同時に、真正性の観点からは、AIが生成・改変した部分を識別できること、誰がいつ承認したかの監査ログが残ることが要請される〔1〕。ここが、裏の記録の統治とつながる。患者が記録の訂正や説明を求める場面では、AIがどの情報を要約に採り入れ、どのように解釈したのかという不満が出る。説明責任は技術的説明を競う話ではなく、紛争になりやすい点を先回りで見える化する話である。

　また、診療録は医療の外に流れる。ガイダンスが、記録の内容が後続の診断・治療のみならず、保険・雇用等に重要な含意を持ちうると指摘するのはこの点である〔1〕。AIスクリブが何を残すかの選別を誤れば、患者の将来にまで尾を引く。したがって、AIスクリブの品質管理は、単に医療安全の問題ではなく、人生のリスク配分の問題でもある。

7　グループ・プライバシーという論点

　ガイダンスは、個人のプライバシーにとどまらず、グループ・プライバシーという概念にも言及している〔1〕。AIは、個人が自覚していない集団への所属や特性を、膨大なデータから推論する能力を持つ。特定の人種や属性を持つ集団に対して、AIが予期せぬ差別的な推論や不利益な判断を下すリスクがある。

　これに対し、個人のプライバシー権だけでなく、集団としての利益や権利をいかに保護するかという問いが、規制当局の間で浮上している。人は、AIの計算によって初めて発見されるような集団に属しうる。その集団が発見されないままでいる権利、単なる所属による推論から保護される権利、そうした集団についてのデータをコントロールする権利。従来の個人情報保護法制は個人を単位として設計されているが、AIの能力はその前提を揺さぶる。

8　雑感

　AIスクリブは、派手なAI規制論よりも先に現場へ入る。なぜなら、判断を置き換えるより、記録を自動化する方が導入障壁が低いからである。しかし、記録は判断の入力であり、紛争の証拠であり、制度の接合点である。ここを自動化するのは、実は高リスクである。

　AIスクリブをめぐる議論を医療のAI化として眺めると、論点が散る。むしろ記録のAI化として眺めた方が、裏の記録の統治、最小化と保存、同意と説明、Shadow AI、真正性と監査、という骨格が立つ。AIが進むほど、法は何を記録として扱うかを再定義せざるを得ない。

　日本の制度環境では、医療情報システムの安全管理ガイドラインがセキュリティの具体策を示し〔4〕、医療・介護分野の個人情報ガイダンスが透明性や責任体制の整備を求める〔5〕〔6〕。AIスクリブは、これら既存枠組みの外にあるのではなく、むしろ既存枠組みを最も試す場所にあるように思える。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。