WHOの医療AIに関する提言から、調剤薬局でAIを使うときの注意事項を改めて考える

こちらはWHOの欧州地域事務局が発表したニュースリリースで、2026年7月13日～16日に医療AIに関する国際会議が開催されたことが報告されています。

今回の記事では、まずこのニュースリリースで何が報告されているのかを簡単に確認し、その内容をもとに、調剤薬局でAIを導入・活用するにあたって注意すべきことを改めて考えてみたいと思います。

ニュースリリースの内容

1. 主なテーマ

今回の会議では、主に以下のテーマが扱われました。

• 国家レベルのAI戦略とリーダーシップ

• 法的責任・倫理的責任

• 医療データの管理と相互運用性

• 医療従事者のAIを活用する能力

• AIへの責任ある投資

• 医療の格差を広げない仕組み

特にWHOは、AIが資金やデータを持つ医療機関だけに恩恵を与えることにより、医療資源の少ない地域との格差が広がることを懸念しています。

2. ガバナンスの整備が追いついていない

WHOは、医療AIのガバナンスを以下の3領域に分けています。

1. Rules（ルール）
   AIをどのように規制するのか、問題が起きた場合に誰が説明責任・法的責任を負うのかという領域。

2. Tools（ツールと基盤）
   AIを安全に利用するための、データ、システム、評価手法、相互運用性などに関する領域。

3. People（人と組織）
   AIを実際に使用する医療従事者、行政担当者、医療機関などの能力を整備する領域。

会議では、AI導入のスピードに対してこれらのガバナンスの整備が追いついていないと指摘されました。
WHOの調査では、対象国の約3分の2がすでに診断領域でAIを導入している一方で、医療分野に特化したAI戦略を持つ国は8％、AIが「失敗」した場合の責任の主体を定めた基準が存在する国も8％にとどまると報告されています。

つまり、AIは現場に入り始めているものの、事故が起きたときに誰が責任を負うのか、どのように安全性を確認するのかという仕組みが十分ではないことが示唆されています。

3. 生成AIについての危機感

WHOによると、患者さんは既に受診前に生成AIやチャットボットに症状を入力しているとされています。これは、行政や医療機関が様々な方針を決める前から、（生成）AIが患者さんの意思決定に影響を与えていることを意味します。
ゆえにWHOは、「規制が難しいからといって放置すると、患者さんへの健康被害、医療全体への信頼の低下、医療格差の拡大につながる」と警告しています。

Collingridge dilemmaという問題

新しく開発された技術が社会にもたらす悪影響を予測するのは困難ですが、その悪影響が明らかになる頃には技術が社会に深く浸透しすぎていて、制御が困難になるというジレンマを「Collingridge dilemma（コリングリッジのジレンマ）」と呼びます。

医療AIの「ガバナンスの整備が追いついていない」という話や、政府や医療機関が正式に方針を決定する前から患者さん側に生成AIが普及している状況は、まさにCollingridge dilemmaの典型例といえますが、このような環境においては広く規制することは難しいですし、ましてや「AIが普及する前の状態」に戻すことも不可能です。

WHOはこのような状況において、「単一の模範的な解決策を提示するのではなく、各国が共有できる優先課題を明確にする」と説明しており、これは「一度規制を作って終わりにするのではなく、運用しながら学習し、規則を更新していく」といったアプローチを見据えているものと考えられます。

AI薬歴の「Rules」「Tools」「People」を考える

WHOは医療AIガバナンスの課題として「Rules」「Tools」「People」を挙げていますが、いわゆる「AI薬歴」を例に、これらを考えてみましょう。

1. Rules（運用ルール）

運用ルールについては、例えば以下の点を薬局内で徹底する必要があります。

• AI薬歴の文章を未確認で保存しない

• AI薬歴を利用できる業務の範囲を明確にする

• 万が一誤出力を発見した場合、どのように報告するかを決めておく

• 音声データや生成前の情報の保存期間や保存場所を明文化しておく

• AI薬歴のサービスが停止したとしても、薬歴を作成できる手順を残しておく

特に、AI薬歴の出力した内容を承認するだけにならないよう、注意が必要です。

2. Tools（システムとデータ）

AI薬歴は、患者さんの要配慮個人情報を大量に扱います。
厚生労働省の医療情報システム安全管理ガイドラインでは、「生成AIに医療情報を入力する場合、入力情報がAIの学習などに利用されないことを契約等で担保する必要がある」と示されていることを踏まえると [1] 、導入時には以下の項目をAI薬歴の開発者側（ベンダー）に確認しておきましょう。

• 入力データがAIの再学習に利用されないか

• データの保存場所は国内か、国外か（具体的にどこか）

• ベンダー側の担当者が内容を閲覧できるか

• 音声データはどこに保管され、いつ削除されるか

• 通信内容とデータは暗号化されるか

• 薬局側がデータを出力・移行できるか

• 障害時に薬歴を閲覧できるか

そして、これらの内容は契約書、特約、利用規約または正式な仕様書などの書面に残る形で明文化されている状態にしましょう。

3. People（薬剤師の能力）

薬剤師は、AI薬歴が出力した内容を自分の能力で監査できなければなりません。
もちろん、出力内容が正確であることを確認できる能力は大前提ですが、それに加えて以下のような能力が必要です。

• AI薬歴が記載した事実と実際の評価を区別できる能力

• 服薬指導で触れていない内容が含まれていないかを確認できる能力

• 間違いとまでは言えないが、根拠に乏しい記述を見抜く能力

• 「一般的に」ではなく、患者さんごとに見てその内容が適切かを確認・評価できる能力

• 患者さんや他職種の方から必要な情報を収集し、適切な情報を正確に伝える能力

特に最後の能力は、薬歴の品質だけでなくその後の患者さんのケアの質にも大きく影響するので、非常に重要です。

これが自作のAIシステムだと、さらに話はややこしくなり

AI薬歴システムであれば、先述の「Rules」「Tools」「People」の課題にベンダーと協力しながら取り組むことが出来ますが、自作のAIシステムの場合は自分たちで全責任を負わなければなりません。

特にToolsの部分に関しては、いわゆる「3省2ガイドライン」への対応が必要となり、自分たちで解決するのは相当大変です。個人情報の管理、データの保管、システムが使えない時の代替手段など、全て自分たちで責任を持って考える必要があります。

自作のAIシステムは自分たちの環境に合った使いやすいものになりえますが、自分たちだけで安全性の担保や安定した保守管理ができる状態にしておかないと、重大なリスクにつながるということは忘れないようにしましょう。

生成AIも注意が必要

現在はスマートフォンひとつで気軽に生成AIに触れる時代なので、薬局で許可していない端末からの生成AIの活用や、薬局で許可していない生成AIサービスの活用を完全に制限するのは、決して簡単ではありません。

しかし、WHOの「医療AIを規制することは難しい。しかし、規制しないとさらなる困難をもたらす」という言葉が示す通り、その状況を黙認して放置していると、ハルシネーションによるトラブルが生じたり、個人情報や機密情報の漏洩につながったりする可能性があります。
なので、まずは基本的な対策として、薬局内でアクセスできる端末、使用できる生成AIサービス、そして使用できる用途をスタッフと話し合いながら決めておき、調剤薬局内でマニュアルとして明文化しておくと良いでしょう。

マニュアルだけで100％の安全性が確保できるわけではありませんが、対策せずに放置するよりは良いですし、ルールを決めるときにスタッフで話し合うことによってコミュニケーションも生まれるので、生成AIを業務で使うか否かに関わらず、いちど話題にあげてみても良いかもしれません。

参考資料

[1] 厚生労働省「医療情報システムの安全管理に関するガイドライン　第7.0版」

最後までお読みいただき、ありがとうございました。
Webサイト「薬剤師のためのAIノート」も、是非ご覧ください。

記事に関する内容以外のお問い合わせは、以下のフォームよりお願いいたします。

また、書籍「超知能時代の調剤薬局」発売中です。
Kindle Unlimited会員の方は無料で読むことができます。