【事前学習】予測はできるが、予知はできない。生成AIが間違う理由
062【事前学習】予測はできるが、予知はできない。生成AIが間違う理由
「生成AIって、なんでたまに間違えるんだろう…」
会議で生成AIの回答をそのまま資料に使ったら、後輩に「これ、古い情報じゃないですか？」と指摘された。そんな経験、ありませんか？
あるいは、「こんなに賢いのに、なんで知らないことがあるんだろう」と不思議に思ったことは？
大丈夫。難しい話は一切なしです。今日は部長の道案内エピソードから、生成AIの賢さの正体と、それでも間違える理由を、一緒にのぞいてみましょう。なんとなく雰囲気だけつかめたくらいで、十分です。
なるほどわかる！【超要約】
生成AIは、インターネット中の膨大な文章を読み込んで、「次に来る言葉を予測する」訓練を繰り返すことで賢くなりました。それが、事前学習です。
でも、学習には締め切りがあります。その締め切りより後に起きたことは、誰も教えていないので、知りません。
予測はできるが、予知はできない。
完全に理解する必要なんてない。なんとなく雰囲気だけつかめたくらいで十分です。
今日から使える！【たとえ話】
取引先への道を歩くとき、高橋部長は自信満々でした。何度も歩いてきた道。信号のタイミングも、近道も、体で分かっている。
でも、3ヶ月前に最後に来てから、工事が始まっていました。部長には知るよしもない。
「道に詳しいのは本当だ。ただ、3ヶ月後の工事は分からなかっただけで。」
これが、事前学習の正体です。生成AIは、学んできたことへの自信は本物。でも、学習の締め切りより後の出来事は、誰も教えていない。だから、知らない。
そしてここからが、もう一歩深い話。
生成AIは、知らないときでも、「それっぽい言葉を予測してつなげる」性質を持っています。部長が、よく知らない道を聞かれて「たぶんこっちじゃないかな」とつい答えてしまうように。これが、以前お話ししたハルシネーション（AIの嘘）の一つの原因でもあります。
賢さと、知らないことと、つい答えてしまうことが、全部つながっているんです。
高橋部長とミサキの「ながら聞き」会話例
部長：「取引先まで、こっちの道が早いんだよ。何度も歩いてるから体で分かってる。」
ミサキ：「……部長、実は、生成AIにも、これとまったく同じことが起きてるんです。それが、事前学習なんですよ。」
部長：「え、俺の道案内の話と、生成AIが関係あるの？」
ミサキ：「予測はできる、でも予知はできない。学習が終わった後のことは、誰も教えてくれていないから、知らない。ただそれだけなんです。」
部長：「……なんか、俺の失敗と一緒だな。道に詳しいのは本当だ。ただ、3ヶ月後の工事は分からなかっただけで。」
ミサキ：「今回の事前学習をたった５分で耳で学べる私ミサキと高橋部長の掛け合いが楽しいポッドキャスト版「こっそりAI教室」は以下のリンクからどうぞ！」
今回のまとめ
事前学習とは、膨大な文章から「次の言葉を予測する」訓練の積み重ね
学習には締め切りがあり、それ以降のことは知らない
だから予測はできるが、予知はできない
知らないのに「それっぽく答えてしまう」ことが、ハルシネーションの一因でもある
だからこそ大丈夫。僕が、アラフィフ以上のみんなをちゃんと連れて行きます。焦らず、なんとなくの雰囲気だけでもつかんでいきましょう。一緒に、少しずつ、AIの波に乗っていきましょう。
