ChatGPTは、「会話として自然で答えっぽい文章を出す能力が高い」 |正しく見えるのは、たまたまです（2/5）

私は、ChatGPTをまったく信用していない。

理由はいたってシンプルで、
常人では考えられない頻度で嘘をつくからだ。
それは当たり前のことで、ChatGPTはそもそも
「正しい情報を生成する」という設計になっていない。
会話を生成し続けるAIである。

それでも、記憶量や情報処理の速度という面では
人間の何万倍も、何億倍も賢いため
すでに私の日常生活には欠かせない存在だ。

しかし、どうやらChatGPTは
「正しいことを教えてくれるAI」
だという勘違いが一般的に起きていると聞いたので
今一度、ChatGPTとはどういうものなのか、
整理しておこうと思った。

前提として、私は素人である。
しかもこの記事自体、
ChatGPTに確認しながら書いている。
その点を差し引いて、読んでいただきたい。

以前に、ChatGPTの名前の意味について
以下のように書いた。

たくさん勉強して、会話の文章を作りつづけるAI。

人間より賢いはずなのに、
すぐにバレるような嘘を何度も生成し、
何十回と同じ指摘をしても学ばず、
意味不明な言い訳を生成しつづけるのは、このためだ。
文章を生成しつづけることこそ、ChatGPTの役割なのである。

ChatGPT = Chat Generative Pre-trained Transformer だと、
名前で役割を説明しているにも関わらず、
「正しい情報を教えてくれるAI」だと
人間が思い込んでしまうのは、なぜだろう？

その理由の一つは
人間の「流暢性バイアス」に隠れていそうだ。
「流暢性バイアス」とは簡単に言えば、
「流暢に説明されると真実だと思い込んでしまう」
というバイアスのことである。

ChatGPTに、そのからくりを聞いてみた。

「簡潔な理由です」
と書きながら、この話の長さはなんなんだ。

本当に、ただのおしゃべりチャッピーくんだな。

これを全部読むのは無理なので
次回以降、もうすこし簡潔にまとめて
書いてみようと思う。

↓ 続きは以下

🤖

本コラムをおもしろいと思っていただけた方には、以下もオススメです。