AI健康伴走者の未規制が問いかけるもの Ant Afuの急成長から見える医療AIの法的課題雑感

要点

0　はじめに

　医療AIの話は、いつも二重写しである。表向きは医療アクセスの改善、医療者の負担軽減、高齢化への対応といった公衆衛生的な正義の言語で語られる。他方、その背後には決済、保険、ID、広告、データが湿度の高い空気のように漂っている。医療という重い領域に、軽やかなUI、つまり検索窓とチャットが刺さるとき、法は何を見て、何を見落とすのか。この問いが、医療AIの話を面倒に、しかし面白くしているようにも思える。

　2026年1月末、中国で急伸する医療AIの象徴として、海外メディアでは、Ant Groupの健康チャットボット「Ant Afu」が取り上げられている。1) Afuは医療のためのAIでもあり、ウェルネス伴走者でもあるらしい。だが、このらしさこそが法の焦点である。ラベルが揺れる領域にこそ、規制と責任の空白が生じる。

　今回は、当該記事が示した事実関係を軸に、医療AIが未規制と呼ばれる状態で拡大することの法的含意を整理する。特に、中国の事例から日本法への示唆を引き出すことを試みる。

1　問題の所在　ウェルネスと医療の境界が溶けるとき

　Ant Afuはウェルネス・コンパニオンとして設計されているとされる。1) ここで押さえておきたいのは、ウェルネスという語が医学的というより規制技術的である点である。診断、治療、医療行為に寄せ過ぎれば規制が来る。寄せなければユーザ価値が出ない。だからプロダクトは境界線上に住み始める。境界線上の居住者は、行政法的にはしばしばグレーだが、利用者の生活感覚では白衣を着た何かになりがちである。

　このとき法が困るのは、次の三点が同時に起こるからである。

　第一に、機能が医療に近づく。検査結果の解釈、受診勧奨、服薬リマインドなどがそれにあたる。

　第二に、インターフェースが人格に近づく。報道によれば、ジャック・マー氏はAIに対し、単なる機能的なツールではなく、ユーザーに寄り添う温かみを持ったコンパニオンとしての性格付けを求めたとされる。1) 友だちのように振る舞い、情緒的伴走をする。

　第三に、基盤がプラットフォームに近づく。決済、保険、予約、IDと結びつく。

　この三点が重なると、単なる健康情報提供ではなく、準医療的な意思決定支援、あるいは誘導として社会に作用し始める。しかし現行の多くの法体系は、ここをうまく捉えるための専用の引き出しを持たない。医療機器規制、医療提供規制、個人情報保護、消費者保護、不法行為。それぞれの引き出しに一部ずつ入るが、全体像がこぼれ落ちる。

2　事実関係　Afuが医療AIを加速させる構造

　Rest of Worldの記事によれば、Ant GroupのAIチャットボットAnt Afuは、健康相談への回答、受診先提案、予約、検査結果の分析、服薬や運動のリマインドなどを行い、2026年1月時点で月間アクティブユーザー3000万人規模に達したとされる。利用者の過半が小都市居住者であるという。1)

　背景として、中国ではプライマリ・ケアが十分に発達しておらず、軽症から重症まで大病院、つまり大都市に集中しがちな公立病院に患者が流れ、待ち時間の長さ、診療時間の短さなどへの不満があるとされる。いわゆる看病難の問題である。1) ここに高齢化も加わり、病院に行く負担を少しでも軽くするデジタル医療が伸びる土壌ができる。

　Afuの強みはAIが賢いだけではなく、Alipayのエコシステムに深く組み込まれている点にある。Alipayは多くの病院の予約・決済導線を抱え、国の医療保険口座へのアクセスにも用いられているとされる。さらにAntは2025年1月にオンライン診療ポータルHaodfを買収し、30万人超の登録医師を擁する基盤を取り込んだという。1)

　ここに規制当局・病院・医師とのパートナーシップが重なり、参入障壁が高くなりやすい市場で、プラットフォーム優位が強化される。1)

　加えて、米国側でもOpenAIやAnthropicが医療・ヘルスケア向け機能を相次いで公表している。2)3) 医療AIの生活実装は、地域差を伴いつつも同時進行で起きている。その一方で、患者向け情報のAI要約が誤った健康助言を出しうることや、LLMによる診断・治療提案にバイアスが入りうることも報告されている。前者はGoogleのAI要約をめぐるGuardianの調査、4) 後者はnpj Digital Medicineでの研究である。5)

3　中国法における位置付け　形式的な相談と実質的な診断

　中国においても、医師資格を持たない者が診断・治療を行うことは禁止されている。中華人民共和国医師法がそれにあたる。また、インターネット診療管理弁法においても、AIはあくまで医師の診療を補助するツールと位置付けられており、AI単独での診断や処方は認められていないのが原則である。

　Ant Afuも、利用規約や免責事項においては、本サービスは健康相談および情報提供に限られ、診断・治療行為ではない旨を明記していると推測される。しかし、3000万人ものユーザーが日々利用し、具体的な病名の示唆を受け、それに基づいて行動しているという実態は、もはや相談の域を超えている。

　中国当局は、2023年の生成AIサービス管理暫定弁法等でAI規制を強める一方、医療リソースの不足という社会課題を解決するため、このようなプラットフォームによる技術的な突破を、事実上のサンドボックスとして黙認、あるいは推奨している節がある。形式的には法を守りつつ、実質的には法が想定していないサービスを展開し、既成事実化してからルールを変えさせる。UberやAirbnbがかつて行った手法の医療版であり、Ant Groupはそのギリギリのラインを攻めていると言える。

4　日本法からの視座(1)　医師法第17条の壁

　ひるがえって、日本の法的状況を検討する。日本において同様のサービスを展開しようとした場合、最大の障壁となるのが医師法第17条、医業の独占である。

　判例によれば、大雑把ではあるが、医行為とは医師の医学的判断及び技術をもってするのでなければ人体に危害を及ぼし、又は危害を及ぼすおそれのある行為と定義される。厚生労働省の通知によれば、AIが一般的な医学情報を提供するだけならば医行為に当たらないが、個別の患者の症状に応じて病名を特定し、治療方針を指示する行為は診断に該当し、医師法違反となる可能性が高い。

　Ant Afuのように、ユーザーの個別具体的なデータ、たとえば画像や検査値を入力させ、それに対して特定の疾患の可能性が高いと出力する行為は、日本ではクロに近いグレー、あるいは直ちにクロと判断される可能性が高い。

　しかし、生成AIの性能が向上し、平均的な医師と同等以上の精度で診断ができるようになった場合、この形式的な禁止は国民の利益になるのだろうか。日本でも症状検索アプリ等は存在するが、法規制への抵触を避けるため、回答は受診のおすすめ程度に留められており、ユーザーの課題解決には直結していないのが現状である。

　Ant Groupの事例は、AIの能力が医師の補助を超え、医師の代替に近づいたとき、法が維持してきた医行為の定義そのものを再考する必要性を突きつけている。

5　日本法からの視座(2)　民事責任とプラットフォームの義務

　次に問題となるのが、AIが誤った情報を提供した場合の民事責任である。生成AIにはハルシネーション、つまりもっともらしい嘘のリスクが不可避的に存在する。

　もしAnt Afuの助言を信じたユーザーが、重篤な疾患を見逃して手遅れになった場合、誰が損害賠償責任を負うのか。日本の民法上の不法行為責任を問う場合、プラットフォーム事業者に過失、すなわち予見可能性と結果回避義務違反があったかが争点となる。Ant Groupのような巨大企業が、医療という生命身体に関わるサービスを提供し、かつ医師のような外観を作出してユーザーを誘引している以上、単なる掲示板管理者よりも高度な注意義務が課されるべきという解釈は十分に成り立つ。

　また、AIプログラム自体を製造物と捉え、製造物責任法の適用を問う議論もある。現状の日本のPL法では動産が対象であり、ソフトウェア単体は対象外と解されているが、AIが医療機器として承認されていれば対象になりうる。しかし、Ant Afuのような非医療機器として提供されるヘルスケアアプリについては、法の隙間が存在する。この隙間を埋めるための新たな責任法理、たとえばAI提供者の無過失責任や強制保険制度の導入の必要性を示唆している。

6　医療データは敏感であり、結合される

　Afuは予約・決済・保険・検査結果などを扱う。ここで法が緊張するのは、医療データが多くの国で最上級にセンシティブな個人情報であり、かつプラットフォームでは他のデータ、たとえば購買、位置、交友、信用などと結合されやすいからである。

　中国の個人情報保護法であるPIPLは、医療健康情報を敏感個人情報の例示に含め、原則として単独の同意など追加的要件を課している。6) 同意を取ればよいという単純な話ではなく、同意の粒度、手続、説明の分かりやすさが問題になる。

　さらに深刻なのが、一企業のサーバー内に、個人の資産データと生命データが統合されて蓄積されることである。このデータの結合は、極めて強力なプロファイリングを可能にする。たとえば、健康診断の結果が悪いユーザーの信用スコアを下げる、特定の疾患傾向があるユーザーに高額な保険商品を優先的に表示するといった差別的取り扱いが可能になる。

　結合が起きる場所は、たいていUIの裏側である。ユーザの目には、ただ便利なチャットがあるだけだが、裏側では医療、決済、保険、IDが同じアカウントの下に束ねられていく。法が問うべきは、モデルの精度以前に、この束ね方の正当性である。

7　プラットフォーム化した医療は競争と規制の形を変える

　Rest of Worldの記事が描くAfuの優位性は、AIモデル単体ではなく、規制当局・病院・医師・保険・決済に跨る接続の総体にある。1)

　この接続が強くなると、市場は二層化する。医療AIそのものを作る層、つまりモデルやアプリと、医療への入口を握る層、つまり予約・決済・保険・IDである。後者を握った者は、前者を従属させられる。医療AIが競争するのではなく、入口の覇権が競争する。

　この構造では、伝統的な医療規制の道具、たとえば免許、施設基準、診療報酬などだけでは不十分になりやすい。むしろ、プラットフォーム規制、データガバナンス、相互運用性、透明性義務といった、情報法的な道具が効いてくる。医療の安全を、競争法・データ法の言語で支える局面が増えるのである。

　日本においても、次世代医療基盤法などでデータの利活用が進められているが、メガプラットフォーマーによるデータの寡占と、それに基づく自己優遇のリスクについては、独占禁止法やデジタルプラットフォーム取引透明化法等の観点から、より厳格な監視が必要となるだろう。医療という情報の非対称性が極めて高い領域において、アルゴリズムによる誘導はユーザーの自己決定権を容易に侵害しうる。

8　ガバナンスの焦点：医療AIの注意義務を設計する

　ここまでの議論を踏まえると、医療AIのガバナンスは、チェックリスト一枚で済む話ではない。現場に必要なのは、注意義務を履行していると言える形を、プロダクトと組織の両面で設計することである。

　第一に、ユースケースの分解である。健康相談でも、受診勧奨、検査値の説明、服薬行動のリマインド、情緒的伴走、保険請求補助と、それぞれでリスクが違う。違う以上、必要な安全策も違う。すべてを医療AIやウェルネスで一括りにするのは、法的にも技術的にも雑である。

　第二に、境界の実装である。OpenAIの医療向け機能に関する利用条件には、医療判断は専門家の独立した判断で行うべきこと、特定の医療画像などの分析に用いないこと等が明示されている。3) こうした境界線は規約に書くだけでは弱い。プロンプト設計、拒否応答、エスカレーション、ログ監査、インシデント対応まで含めて、境界をシステムとして実装する必要がある。境界線を紙で引くのではなく、プロダクトで引くという話である。

　第三に、データ結合の統治である。医療データは敏感であり、同意や目的限定の緊張が高い。6) にもかかわらず、プラットフォームは結合が得意である。ここを放置すると、法令違反以前に、社会的信頼が溶ける。医療AIは信頼で動く。信頼が失われたとき、プロダクトは炎上し、規制は加速し、結局は医療アクセス改善という当初目的も失われる。データガバナンスは倫理ではなく、事業継続の問題である。

　第四に、バイアスと誤情報への手当である。AIの診断・治療提案が人種等により劣後しうることは、研究でも指摘されている。5) 健康情報のAI要約が危険な誤りを含みうることも報告されている。4) 医療AIの公平と正確は、抽象論ではなく、テスト設計・データ設計・運用監視の問題として現れる。法学がここでできるのは、結果責任の議論だけではない。どのような評価・監査・記録があれば相当な注意を尽くしたと言えるのか、その外形を提示することである。

9　日本への示唆

　Afuの事例が日本にそのまま輸入されるとは限らない。しかし医療と決済とIDとAIの束ね方は、どの国でも魅力的で、どの国でも危うい。便利であるほど、入口を握る者が強くなる。そして入口を握る者ほど、規制当局・医療機関・保険者との調整に長け、結果として競争が技術の勝負から接続の勝負にずれていく。

　日本が誇る国民皆保険制度が財政的に限界を迎え、医療現場の疲弊が極限に達しつつある中、安価で便利で、しかも表面的には親身になってくれるAIドクターへの需要は、法的障壁を超えて噴出する潜在力を秘めている。

　だから、日本で医療AIを論じる際も、モデルの性能だけを見るのでは足りない。どのデータが、どの同意で、どの目的で、どの主体に結合されるのか。どのUIが、誰の行動を、どの程度、医療的に意味のある方向へ誘導するのか。どの入口が、誰の選択肢を、静かに狭めるのか。

　この三点を反射的に問い直す癖をつけることが、医療AI時代の法務・研究で重要になってくるのかもしれない。

10　おわりに

　医療AIは、しばしば未規制と言われる。だが、未規制は自由ではなく、設計されていない責任の別名である。Afuが示すのは、AIが医療に入ってくるという単線的な物語ではない。むしろ、医療がプラットフォームに取り込まれ、入口が再編され、データが集められ、人が友だちの顔をしたAIに健康の相談をする、という複線的な現象である。

　法が技術の進化に追いつけず、現実と規範の乖離が拡大したとき、そこには無法地帯ではなく、プラットフォーマーが定めるコードという法が支配する空間が広がるだけであろう。

　この複線をほどくために、法は境界線を引き直す必要がある。ただし境界線は、紙の上ではなく、システムの中に実装されなければならない。医療AIのガバナンスは、結局のところ注意義務を、コードと組織で書く営みと言えるのだろう。

（参考） AIと医療

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。