生成AIが現実を書き換えるとき：人生の選択を外部委託してしまう前に【哲学エッセイ / 創作 / ChatGPT / 画像生成AI】

生成AIは、不意に現実を書き換える。

そんなことを感じさせる出来事が増えてきた。
下記記事の、タスマニアに作られてしまった「架空の温泉」は代表的な例と言える。

事の起こりは、生成AIがハルシネーションによって存在しない温泉地を生み出したことに始まる。
それを大して吟味しないまま、旅行会社が記事としてサイトに掲載し、おすすめスポットとして紹介してしまう。
そして、それを読んだ読者が実際に現地に訪れるまでに発展してしまった。

記事自体はのちに訂正されたものの、それは騒動として露呈したからに過ぎない。
誰にも気づかれずに、けれどある程度の規模感で、生成AIが現実を書き換えるような事象が既に存在していたとしても、おかしくはないのかもしれない。

虚構が現実化していく中で

動画が氾濫する現代にあっても、文章という媒体は強い。
時として人を動かす。
人が動けば、現実は変わりうる。

ハルシネーションを起点に、こうした流れが成立したときに、訂正は必ずしも間に合うわけじゃない。

もちろん誤りなんて昔からあった。
デマも。流言も。都市伝説も。

ただ生成AIの誤りは性質が違う。
速度、量、体裁に差がある。

特に体裁は厄介で、冒頭のように誤情報が観光記事として出てくると、そこにはすでにある種の権威が宿る。
本格的なブログ記事、地名の固有名詞、アクセス方法、近隣の見どころ、写真。
それらが揃えば、人は「ある前提」で読んでしまう。

疑うにはコストが要る。
一次情報に当たって調べることを、誰もがするわけではないのだから。

地名の話で思い出すのは、アグロー（Agloe）だ。
地図の著作権トラップとして作られた、地図上にしか存在しなかったはずの架空のアメリカの町。
ところが、その名前が現実に使用されて、気づけば地名として成立してしまった。

このように、生成AIの関与があろうがなかろうが、虚構が現実化することはありうる。
地図だったり、記事だったり、人が現実だと信じてしまったときに、それは現実を書き換えうる。

意思決定さえ外部委託されるのなら

生成AIが現実を書き換えるという意味において、ハルシネーションはまだ分かりやすい。
最も危険なのはおそらく意思決定の外部委託にある。

既に、生成AIによるリコメンドは相当程度進んでいる。
私自身を振り返っても、食事の場所だったり、旅行に行く計画だったり、頼る機会が増えつつある。
AIに聞けば外れが少ないという状況が続けば、頼る頻度はより増えていくだろう。

それが繰り返されていくと、最初は「参考にする」だけだったはずなのに、いつのまにか「疑問を持たずに従う」だけに変わっていく。
最終判断を自分で決めることが消えていく。

その延長線上に、いずれ進路だったり、仕事だったり、より大きな判断すら依存するようになりかねない。
人はいつだって保証を欲しがっている。
自分だけで判断するのは時として怖いのだから。

そうして、AIが語る正解に、自分の人生の現実が書き換えられるときがくるのかもしれない。

個人の判断だけでなく環境も変わっていく

個人の意思決定よりさらに広いものとして、環境の変化がある。
生成AIは、すでに様々なプラットフォームでアルゴリズムとして使われている。
noteも例外ではない。

検索で勝つための文章術があったように、AIに評価されるための文章術が生まれつつある。
AIがスコアリングする世界ができれば、人はその基準に適応する。

もちろん、プラットフォームが実際に何を見ているかは外からは分からない。
ただ、生成AIが内容の分別だけでなく、内容の善し悪しにまで踏み込むこともいずれあるのかもしれない。

そうなったときに、AIが気に入るかどうかで決まる環境に、人の作るものが寄っていく。
その瞬間に、現実の書き換えの入口になる。

AIに相談するのはいい。
むしろ使った方がいい場面も多い。
でも、最後の最後にある、決める瞬間だけは、自分で決めるようにありたい。
なぜそれを選ぶのか。
選ばなかったものは何なのか。
その判断だけは外部委託したくはない。

便利さは、判断を軽くする。
ただ軽くなりすぎた判断は、同時に、いつのまにか自分のものではなくなっていく。

自分の選択が自分の外へ流れていくとき、やがて現実を見失うのかもしれない。
それは偽りの観光名所のようなハルシネーションよりも、大事なことのように感じる。

よかったらスキしてくれると嬉しいです。
それではまた。

〇関連記事