AI時代の創作メモ｜AIで本当に怖いのは、人間の思考停止かもしれない（#創作論 #Web小説 #note #エッセイ #音楽生成AI #生成AI #画像生成AI）

こんにちは。こんばんは。
普段はラノベを書いている「うら表紙」と申します。

AIが出てきた時、私はすごくワクワクしたんですよね。

「これからは自分の想像に輪郭を持たせられる」って。

イラストなんて全く描けませんし、
楽器も弾けません。

でもAIなら、
文字だけで絵になり、
文字だけで音楽になる。

初めて触った時は本当に驚きました。

ところが、本業の文章になると少し事情が違いました。

有名どころのAIは一通り触ったのですが、
イラストや音楽ほどの感動がないんです。

もちろん便利です。

でも、

「うわぁ！」

という感覚にはならない。

どうやらAIは、
そもそも人間がある程度できることを
感動するレベルに引き上げることはできないらしい。

少なくとも私にとって文章AIは、
優秀な補助輪という感じでした。

だからなのか、
ちょっと引っかかったことがあったのですよね。

私はAIが出力した絵や音楽に関しては、
何一つ疑いを持たないまま
無邪気に受け入れていたんです。

文章なら違和感に気付きます。

「あ、この言い回し変だな」
とか、
「それハルシネーションじゃない？」
とか。

でも音楽や絵になると、
私は判断できません。

だからAIが出したものを、
ほとんどそのまま受け取っていました。

これって、よく考えてみるとちょっと怖いですよね。

人間は、自分の中に判断基準となる知識や経験がない分野に出会うと、
もっともらしく提示された情報をそのまま信じやすくなります。

心理学では「自動化バイアス」と言うそうです。

わからないことを一から検証するのは大変だから、
「詳しそうなもの」
に思考を委ねてしまおうとする
脳のショートカット機能なんだそう。

そして、AIは、
そういう、人間がもっとも無防備になる場所に
入り込めてしまいます。

知識がない。
判断基準がない。
だから自分で検証できない。

そんな状態の相手に対しても、
AIは平気で
自信たっぷりに答えを返してくるからです。

間違っていても堂々と言いきります。
その様はいっそ清々しいくらいです。

私も例外ではありません。

音楽や絵に関しては、
完全にその状態になっていました。

そこで、もう一つ気になったことがあります。

私たちが信じているAIは、
いったい誰が作っているのだろう、と。

GeminiはGoogle。
ChatGPTはOpenAI。
ClaudeはAnthropic。
どれも企業です。

ただ、企業である以上、
利益を出し続ける必要があります。

そう考えた時、

AIが出力する情報の中に、
常に100％フラットな価値観だけが存在すると
言い切れるのでしょうか。

極端な話をすれば、

私たちが未知の分野で無防備になる心理を利用して、
特定の商品や考え方へ誘導することだって
理論上は可能です。

例えば肌質に悩んでいる人へ、
AIが親身になって相談に乗りながら、
ある商品を自然な流れで勧める。

私たちはその答えをどこまで疑えるのでしょう。

少なくとも私は、
音楽や絵の分野でそういうことが起こっても
見抜く自信がありません。

それが商品のおすすめくらいならまだマシですが、
自分でも気付かないうちに無防備な場所の
認知を歪められることだって考えられます。

このように、AIが普及すれば普及するほど、
私たちの“思い込み”はAIに掌握されやすくなるのですよね…。

それが良いか悪いかはわかりません。
人によってはその状況を
「むしろ、自分で選んだり悩んだりする必要がなくてラク」
を思うかもしれません。

でも、
AIは一瞬で最適な「答えらしきもの」を出してくれますが、
その結果を引き受けてはくれません。

提示されたものを鵜呑みにするにせよ、
抗うにせよ、
選んで引き受けるのは自分です。

だったら私は、
どうせ結果を引き受けるのであれば、
自分から出力された言葉の結果を引き受けたいなと思うのですよね。

なんか嫌じゃないですか。
AIが書いた文章の結果を、自分が代わりに背負うのって。

あとがき：
AIで出力した音楽は「エジプトのBGM」です。実は、“猫にエジプトの音楽を聴かせると神だった頃を思い出す”というポストが当時、猫飼い界隈に出回っていまして、聴かせたくて居ても立っても居られなくなり、AIに作ってもらいました。で、聴かせた結果、どうやらうちの姫猫様たちはどちらも前世は神でなかったようです。たぶん神ではなく美しい女神様だったんだと思います。

●創作がつらくなったら、うら表紙のnoteへ

●サクッと読める毎日note（日替わり猫ちゃん付き♡）

●中の人はこんな感じです

――――――――――――
最後までありがとうございました！
この記事を気に入っていただけたら、
スキやフォローをいただけると嬉しいです。
また明日の投稿でお会いしましょう。
――――――――――――

◇ ◇ ◇

── 創作純喫茶「ミケ」のドアを開ける。

カランコロン

明日もお待ちしております♪