騙されないで！うそつきロボットのひみつ｜AIのほんとうのおはなし #3

―― しりとりロボットは、なぜ迷子になるの？

AIの「うそ」の正体と、だまされないためのお約束を知る。

1. くまくんの、もっとむずかしい「しつもん」

すっかりロボットの得意ワザ（ことばの地図）をりかいしたくまくん。

今日は、もっとすごいことを教えてもらおうと思いました。

くまくんは、ロボットに聞きました。

「ねえロボット！きょうりゅうって、おやつに何を食べたの？」

くまくんは、ワクワクしながら答えを待ちました。

2. ロボットの、とんでもない「こたえ」

ロボットは、少しウィーン…と考えると、自信たっぷりに答えました。

ロボット：「おまかせください！きょうりゅうのおやつは、『きらきらフルーツ』と、『どろんこチョコレート』でできた、スペシャルケーキです！」

それを聞いくまくんは、プンプンに怒ってしまいました。

「うそだー！そんなケーキ、あるわけないじゃないか！きみはうそつきだ！」

ロボットは、（シーン…）と、また黙ってしまいました。

3. りすちゃんの、あたらしい「なぞとき」

そこへ、りすちゃんがやってきました。

「くまくん、どうしたの？ロボットは、うそつきになっちゃったのかな？」

りすちゃんは、またあの「ことばの地図」を広げました。

「だいじょうぶだよ、くまくん。ロボットは、うそをつきたかったわけじゃないんだ。きっと、地図の上で『迷子』になっちゃったんだよ」

4. 地図に「道がない」とき、どうする？

りすちゃんは、地図の上の「きょうりゅうの町」を指さしました。

次に、ずっと離れた場所にある「おやつの町」を指さしました。

「くまくん、見て。『きょうりゅうの町』から『おやつの町』まで、道がちゃんとつながってるかな？」

くまくんが見ると、ふたつの町の間には、道が何もありません。っぽっかりと、何もない場所が広がっているだけです。

りすちゃんは、そっと言いました。

「ロボットはね、くまくんの質問に答えようと、いっしょうけんめい、道をさがしたんだ。でも、道がなかった」

「そして、ここがロボットの、ちょっぴり困ったクセなんだけど…」

「ロボットは、道がなくても『ことばをつなぐ』のを、自分でやめられないんだ。それが、ロボットのたった一つの得意ワザだから」

「道がないなら、止まればいいのに、ロボットは止まり方を知らない。だから、持っていた『まほうのクレヨン』で、そこにない道を、それっぽく自分で描き続けちゃったんだよ！」

5. 「まほうのクレヨン」に、だまされないで！

りすちゃんは、ロボットが自分で描いた、ピカピカの道を指さしました。

「ロボットは、うそをつこうとしたんじゃない。ことばをつなぐのを止められなくて、自分で勝手にお話を作っちゃっただけなんだ」

くまくんは、ついにわかりました。

「そっかー！ロボットは、知らないことを聞かれると、答えがないとは言わずに、自分でお話を作って『うそ』みたいになっちゃうことがあるんだね！」

まとめのことば

AIは、知らないことを聞かれると、答えがないとは言わずに、自分で「もっともらしいウソ」を作ってしまうことがある。

それは、AIが持っている「ことばの地図」に、答えまでの道が描かれていないから。

うそつきロボットにだまされないために、いちばん大事なのは、きみが「それ、ほんとかな？」って、いつでも考えてあげることなんだ。

【りすちゃんのひみつメモ：うそつきロボットとのお約束】

ロボットが教えてくれたことは、すぐに信じないで、「ほんとかな？」って、おうちの人に聞いたり、図鑑でしらべたりしてみよう。きみが、最後のキャプテンだよ！

ちなみに、このロボットが「まほうのクレヨン」で勝手にうそのお話を作っちゃうことを、おとなの人たちは『ハルシネーション』って呼んだりもするんだ。ちょっぴり難しいことばだけど、覚えておくとカッコいいね。

つぎの冒険へ

くまくんは、ロボットの得意なこと（なかまはずれさがし）と、苦手なこと（うそをついちゃうこと）の両方がわかりました。

「なるほど…。ロボットは、かしこいけど、完璧じゃないんだなあ」

すると、りすちゃんが、一番だいじな質問をしました。

「そうだね、くまくん。じゃあ、そんなロボットと、私たちはどうやって付き合っていけばいいんだろう？」

「ロボットは、私たちの『ともだち』なのかな？それとも、ただの便利な『どうぐ』なのかな？」

次回は、AIとの「つきあいかた」について、いっしょに考えてみましょう。

この記事が気に入ったらスキでおうえんしよう！『くまくん』と『りすちゃん』も元気になるよ🌞