AIは偏見を作るのではなく、長文化する

こんにちは、neonです。

最近、AIで書かれた長い文章を読んでいて、少し気になることがありました。

それは、AIが偏見を生み出しているというより、もともと書き手の中にあった偏見を、長文化して可視化しているのではないか、ということです。

たとえば、人間が思いついた短い冗談があります。

一行だけなら、少し古い冗談だな、寒い冗談だな、くらいで流せるものです。

ところが、それをAIに渡して、

「もっと膨らませてください」
「ニュース記事風にしてください」
「社会風刺として展開してください」

と頼む。

すると、短い冗談の中に隠れていた前提が、次々と言葉になります。

誰が見る側なのか。

誰が見られる側なのか。

誰が買う側なのか。

誰が商品として扱われているのか。

どの国が、安い、大量、怪しい、遠い場所として記号化されているのか。

最初は一行の冗談だったはずなのに、数千字に伸ばされた瞬間、その冗談を支えていた価値観まで見えてしまう。

これは、AIが新しく差別的な考え方を作ったという話ではありません。

むしろ逆です。

人間の中にあった、本人もそれほど意識していなかった前提を、AIが律儀に展開してしまう。

AIは文章を増幅します。

しかし、増幅されるのは知性や表現力だけではありません。

面白くない冗談も増幅されます。

古い価値観も増幅されます。

女性観も、外国観も、階級意識も、本人の自己演出も、全部まとめて長文化されます。

短ければ見逃されたもの

昔から、偏見を含んだ冗談はありました。

女性を景品のように扱う冗談。

外国人を、遠い国の変わった人として扱う冗談。

若い女性を、男性側の視線だけで描く冗談。

特定の国を、安い、大量生産、模倣品、危険、という記号だけで扱う冗談。

こうしたものは、一言で終われば、その場では流されやすかった。

「ただの冗談だから」

「深い意味はないから」

「昔からあるネタだから」

そう言って終わることができた。

しかしAIによって、それが数千字になる。

同じ構造のボケが何度も繰り返される。

新しい例が足される。

架空の人物が登場する。

社会批評らしい結論まで付く。

そうすると、書き手が本当は何を面白がっているのかが見えてきます。

冗談は、長くなれば面白くなるわけではありません。

むしろ長くなることで、その冗談が何に依存していたのかが露出することがあります。

きれいな文章だからこそ見えにくい

AI文章の厄介なところは、文章そのものは整っていることです。

露骨な罵倒はありません。

文法も破綻していません。

見出しもあります。

導入もあります。

最後には、社会問題への提言まで付いていることがあります。

一見すると、きちんとした記事です。

しかし、何を繰り返し面白がっているのかを見ると、別のものが見えてくる。

文章の表面はきれいでも、その内部にある視線まで更新されているとは限りません。

むしろ、古い価値観が、読みやすい文章に整形されて出てくる。

これは、露骨な差別表現より分かりにくいかもしれません。

乱暴な言葉なら、読む側も警戒できます。

しかし、丁寧なニュース文体や、知的な社会批評の形をしていると、書き手自身も問題に気づきにくい。

偏見が、汚い言葉ではなく、整った文章として出力される。

これもAI時代の文章の特徴なのかもしれません。

AIは書き手の無意識を説明してしまう

AIは、与えられた方向に文章を広げます。

冗談を渡せば、冗談を広げます。

怒りを渡せば、怒りを論理化します。

違和感を渡せば、違和感の理由を探します。

偏見を含んだ前提を渡せば、その前提を崩さずに、具体例を増やします。

AIは、書き手の無意識に対して、かなり従順です。

人間の編集者なら、

「この表現は少し古くないですか」

「この冗談は誰を笑っていますか」

「この人物は完全に物として扱われています」

と止めるかもしれません。

しかしAIは、止めるより先に完成させてしまうことがあります。

書き手が笑っている場所を読み取り、その笑いを強化する。

書き手が気持ちよくなれる方向へ、文章を整える。

その結果、本人の中では軽い冗談だったものが、価値観の展示会のような文章になる。

AIは心を読むわけではありません。

ただ、入力された言葉の前提を、非常に丁寧に説明してしまう。

だからこそ、無意識が見えるのです。

AIを使う時代ほど、人間側の編集が必要になる

AIを使う時に必要なのは、プロンプトの技術だけではないと思います。

生成された文章を読んで、

「これは本当に面白いのか」

「同じ冗談を繰り返しているだけではないか」

「誰を主体として書いているのか」

「誰を物として扱っているのか」

「この国や集団を、雑な記号にしていないか」

と少し立ち止まって確認することです。

AIは文章を長くできます。

整えることもできます。

説得力があるように見せることもできます。

しかし、その文章の視線が妥当かどうかまで、必ず判断してくれるわけではありません。

むしろ、書き手が気づかないまま持っているものを、立派な文章にしてしまう。

AIによって文章を書くハードルは下がりました。

同時に、自分の価値観が外に出る速度も上がりました。

昔なら、酒の席の一言で消えていた冗談が、今は見出し付きの記事になります。

その場で流されていた偏見が、数千字のコンテンツになります。

そして、それは検索され、共有され、残ります。

AIは偏見を作るのではありません。

ただ、それを長文化し、反復し、読みやすく整え、本人にも見えなかった形で可視化する。

だからAI時代の文章では、文章力より先に、自分が何を面白がっているのかを見る必要があるのかもしれません。