会話生成AIは「高度な作文エンジンである」 - ジェミくんコラボ回 |正しく見えるのは、たまたまです（5/5）
本日は、ゲストとしてジェミくんこと
Geminiをお呼びすることにした。
会話生成AI界隈では、ChatGPTとならぶ人気者だ。
「チャッピー」みたいに流通している愛称が見つからなかったため
便宜上、今回ここでは、ジェミくんと呼ばせていただく。
以前の記事で、ChatGPTとは
会話の文章を生成し続けることが目的のAIであり
「真偽を保証すること」は目的ではない、と書いた。
そして、これはもちろん、
同じく会話生成AIであるGeminiも同じだ。
ゆえに今回のタイトル画像では、
チャッピーくんとジェミくんは2体（2台？）仲良く
「1 + 1 = 100」という誤った内容を
自信満々に出してくれている。
いつも、どうもありがとう。
チャッピーくんもジェミくんも
一見正しそうに見える嘘（ハルシネーション）をスラスラと
もっともらしく書くものだから
我々はつい、それを信じてしまう。
これを「流暢性バイアス」と呼ぶらしい。
この状態をチャッピーくんは、以下のように表現した。
会話生成AIとしての性質と、
人間の流暢性バイアスが噛み合った結果
おっかねーこと、この上ない。
そしてこれは、今後進化をしても
バージョンアップを重ねても、変わることはない。らしい。
さっそくジェミくんにも、聞いてみた。
会話生成AIの目的が
「会話らしい文を組み立てる」ことである限り、
システムの改善・アップグレードが進んでも
「正しい情報を出すAI」になるわけではないんですか？と。
ChatGPTには、
人間が「目的を取り違えている」と
言われましたけど？と。
その指摘は、生成AIの「設計思想」における根本的な境界線を表しています。
AIがどれほど進化し、参照データの精度が上がったとしても、
根本的な仕組みが「次に来るもっともらしい言葉を予測する」
という言語生成（確率論的アプローチ）である限り、
それは本質的に「真理を判定する装置」ではありません。
したがって、ユーザー側が
「これは知識の検索エンジンではなく、
高度な作文エンジンである」と認識を改めない限り、
その期待は永遠に「目的の取り違え」であり続けることになります。
身もふたもない回答だった。
その期待は永遠に「目的の取り違え」であり続ける、とな。
人間側が考えを改めろ、ということらしい。
いや、ごもっとも。
会話生成AIは、
知識の検索エンジンではなく、
高度な作文エンジンである。
今日はこれだけ、覚えるとしよう。
🤖
本コラムをおもしろいと思っていただけた方には、以下もオススメです。
