対話型生成AIにできないこととは？
この記事は、冊子「AIがひらく看護管理の未来〜人間にしかできない仕事をするために〜」（2025年2月発行）の内容を投稿記事の形にしたものです。
AIが文章を作るメカニズム
AIは、様々なジャンル・レベルの膨大な文章を数学的に処理し、どんな言葉の後にどんな言葉が来ることが多いのか、どんな質問に対してはどんな答えが多いのかというパターンを無数に学習しています。「意味を理解して考えている」のではなく、あくまでも「与えられた言葉に対して、近い言葉や出てくる確率の高い言葉をあてはめ、それをよく使われている文法で組み立てている」だけなのです。しかし、以前のAIに比べると学習の量も質も非常に優れているため、かなり人間に近いやりとりができるようになっていると言えます。
対話型生成AI の大まかな仕組み
AIは自分で考えて答えを出しているわけではないんだ！
そのため、対話型生成AIが最も強みを発揮するのは、テキストやデータの要約なのです。
しかし、与える情報が少ない場合、対話型生成AIはそれらしい情報を自身の学習データの中から適当につなぎ合わせて、いい加減な文章を作ってしまう可能性があります。たとえば、弊社の社員の名前を出して経歴を尋ねてみたところ、前半部分については正確な情報だったものの、後半部分で出てくる学会や勤務先とは一度も関わりをもったことがありませんでした（社員の氏名は仮名に置き換えています）。
能登幸子さんについて教えて下さい
能登幸子さんは、看護領域で活躍されている専門家です。2023年9月号の『看護展望』では、石巻赤十字病院における「学習する看護組織」をつくるためのアプローチの実践例について紹介されています。
また、一般社団法人日本脳神経看護学会の編集委員会に所属し、目白大学に勤務されています。これらの情報から、能登幸子さんは看護教育や組織づくりに関する活動を行っていることが伺えます。
（太字部分はすべて誤り）
このように対話型生成AIが「しれっとそれらしい嘘をつく」ことを「ハルシネーション（幻覚）」と呼びます。
AIは責任を取れない
対話型生成AIの学習データは更新され続けているため、情報の精度はどんどん向上しています。しかし、ハルシネーションの問題が根本的に解決したわけではありません。また、対話型生成AIはインターネット上に公開されているテキストデータから学習しているため、それらが誤っていると対話型生成AIの回答も必然的に誤ったものになってしまいます。そのため、特に専門外の分野に関する知識を得たい場合には、自身で信頼できるソースにあたる必要があります。
※このマガジンは、AI技術の中でも、特に「対話型生成AI」の看護領域への活用について論じるものです。本記事では、「対話型生成AI」を、「生成AIのうち、人間と自然な言葉で会話ができ、文章生成を得意とする性質を持つAI」と定義します。
▼続きはこちら
