AIセミナー 質問と回答

Q：ChatGPTなどの生成AIに情報漏えいのリスクはあるのか？

インターネットを介している以上、リスクはゼロではありません。
また、ChatGPTやGeminiには「チャット履歴」を保存する機能があり、アカウント情報が漏えいした場合に、チャット履歴から情報漏えいが起こる可能性もあります。
ChatGPTやGeminiは、無料版では入力したデータがAIの学習に利用されます。オプトアウトと言って、学習利用を拒否することができますが、その場合は過去の履歴が一切保存されません。
有料版ではAIの学習には使われないとのことです。弊社のアプリも、同様にAIの学習には使われません。

Q:チャットGPTに入れられる管理データの範囲について、施設の許可を必要とするものかどうか

「チャットGPTに入力する」というのは、「Google検索に入力する」ことと同じものだとお考えください。入力したデータが、どの病院のどの部署のデータなのかということを紐づけるのも難しいので、機密情報としての価値は低いと思われます。
多くの組織では、特にルールを設けていないようですが、ご心配な方は施設にご確認ください。（AI利用についての特段の注意喚起がない場合には、AIに管理データを入力しただけで責めを受ける可能性は低いでしょう）

Q:詳細をAlに覚えてもらっても行き届いた勤務表作成はできないのか

まずAIは「私について何かを覚える」という機能を（単体では）持っていません。AI自体が学習している知識や情報は莫大ですが、「私とのチャット」は毎回ゼロスタートで始まります。
ですから、AIに指示する内容をメモしておけば、毎月非常に細かく指定して勤務表を作成してもらうことは不可能ではありません。しかし、この条件を論理的に記述して書いていくことがとても難しいと考えられます。

このように丁寧に条件を書いていく必要がありますが、これを正確に全て書き出すのがとても難しいのです。そして、実際に勤務表を作らせてみると色々とうまくいかない部分が出てくるので、微妙な修正をしなければなりません。文章で指示をしても、思ったように動いてくれないことも少なくありません。
勤務表については、現時点では勤務表作成ソフトのAI機能を使う方が、まだ使いやすいのではないかと考えられます。
しかし、数百名の管理者が協力してデータ収集し、そのノウハウをうまく集約してプログラムを作れば、かなり手の込んだ勤務表を作成できるAIも理論的には開発できると思われます。

Q：看護師は生成AIを使用する段階でハードルが高いのですが、質の良い回答を得るためにはプロンプトの生成が大事で、そこのハードルがさらに高いと感じます。どのような工夫ができますか？

私たちも同じ問題意識です。それゆえに、プロンプトをプリセットする（つまり用途別にたくさんのプロンプトを作っておき、それらをツールボックスから選んで使用する）というサービスを開発するに至りました。
有償提供にする理由として、AI自体がどんどん進化していくため、プロンプトにもメンテナンスが必要という点もあります。プロンプト自体が、業務の変化やAIの変化に応じて、常にテスト・検証し、ブラッシュアップしていかないと陳腐化してしまうというのも課題です。

Q:AI導入してDX取り組んでいる！というのは本質ではない様に思っていて、まずはデジタルリテラシーを身につけた組織改革が必要ではないでしょうか？

本当にその通りだと思います。そもそも「DX：デジタルトランスフォーメーション」という言葉自体が眉唾だとすら思います。しかし、デジタルリテラシーを高めるというのは本当に難しいことでもあります。特に生成AI領域は進化が早すぎて、かなりエネルギーをかけて探求してもすぐに置いていかれるのではないかと感じるほどのスピード感です。
難しいことを言わなくても人々の行動が変わって行くことこそが本来のイノベーションだと思いますので、まずは師長さん・主任さんが「これを使わない手はない！」と感じるような道具にしていくことが大事ではないかと私達は考えております。

Q:安全性はどのように守られているのか気になります

生成AI自体が非常に歴史の浅いものであり、今後どのようなリスクが判明してくるかわからない側面があります。ですから、現時点ではある程度の力量がある方の仕事をサポートする、という領域から使っていくのが現実的ではないかと考えています。
AI業界では、情報漏えいのリスクよりは、倫理的なリスク（AIの回答内容が一部の人を傷つけたり、社会に不適切なメッセージを与えてしまったりするリスク）や、AIの暴走（AIがある方向に人や社会を誘導してしまう）といったリスクの方が注目を集めています。

Q：普段の管理業務で記録、データなどを記憶させていけば次の課題がわかる。と言うお話について、具体的にどのようにデータをAIに記憶させるのですか？今身近にあるシステムを活用してチャレンジできますか？

MC看護管理AIplusでは、職務満足度調査、管理記録などのデータを記録し、そのデータをAIを使って解析することで次の課題を提案したり、管理報告書を生成する、といったサービスを企画しています。
ChatGPTなどで実践するのは簡単ではありませんが、例えば新人の学習履歴やその振り返りなどをデータとして蓄積し、「これまでの学習履歴・振り返りデータ」と「次に習得すべき課題」の両方を入力して、その指導において留意すべき点や有効なアプローチを教えて、と指示すれば、それなりに有用な示唆を得られる可能性があります。
しかし、このような使い方は、AIから良い反応・回答が得られるまで何度も試行錯誤することが必要になります。長い目で見れば効率化になる側面もありますが、短期的に見れば時間効率が良いアプローチにならない場合もありますので、その点はご理解ください。

MC看護管理AIplusのご案内はこちら

Q&A

当日ご回答できなかった質問やご意見への回答を、セミナー後も順次アップデートして参ります。