【TPSxAI 22】第2話😐AIは嘘をついているように見える― ハルシネーションが生まれる瞬間 ―
😗AIは嘘をついているように見える
AIを使っていると、
ときどき不思議な感覚に出会います。
一見すると、
それらしい答えが返ってくる。
でも、
よく読むと何かがおかしい。
事実が微妙に違う
論理が少しズレている
自信満々なのに、信用できない
このとき、
多くの人がこう感じます。
AIは嘘をついている。
1️⃣実際、
「ハルシネーション」という言葉は、
この感覚をとても分かりやすく表しています。
AIが、
もっともらしい嘘をつく。
だから危険だ。
だから信用できない。
そう語られることも、
珍しくありません。
2️⃣でも、
ここで少し立ち止まってみましょう。
本当に、
AIは「嘘をつこうとして」
答えているのでしょうか。
3️⃣第1話で触れたように、
AIは入力された言葉に対して
出力を返しているだけです。
では、
もしその入力自体が――
曖昧だったら
前提が抜けていたら
目的がはっきりしていなかったら
どうなるでしょうか。
AIは、
その曖昧さを含んだまま、
最も自然そうな形で
言葉を返します。
その結果が、
「嘘のように見える」
と、いうだけかもしれません。
4️⃣ここで、
責任の置き場所が
少しだけ揺れ始めます。
AIが間違えたのか
それとも
自分の聞き方が曖昧だったのか
この問いが浮かんだ瞬間、
視点が一段、手前に戻ります。
5️⃣多くの人は、
この段階でこう考え始めます。
もしかすると、
指示の出し方が悪いのかもしれない
これは、
とても大きな変化です。
なぜなら、
それまでAIに向いていた責任が、
初めて自分の側に
戻り始めるからです。
6️⃣とはいえ、
この時点ではまだ不安が残ります。
本当にそれだけの問題なのか
いくら工夫しても
変わらないのではないか
だから、
人は試します。
言い方を変えてみる。
条件を少し足してみる。
聞き直してみる。
すると――
出力が変わります。
7️⃣この経験が、
次の気づきを呼びます。
同じAIでも、
聞き方で結果が変わる。
この事実は、
とても静かですが、
決定的です。
8️⃣AIが嘘をついているように見えた理由は、
AIの中にあったのではなく、
やり取りの中にあった。
そう考え始めると、
ハルシネーションという言葉の
意味合いが、
少し変わってきます。
✍️次の話では、
この「聞き方で変わる」という現象を、
もう一歩だけ掘り下げてみましょう。
もし結果が変わるのなら、
本当に変わっているのは
どこなのでしょうか。
AIなのか、
それとも入力なのか。
（第3話へ続く）
#AI , #人工知能 , #ChatGTP , #Qwen , #Gemini , #GoogleAIstudio , #IT , #Grok , #未来の働き方
