【AI×Kindle出版】AIは「それらしい嘘」を書く。事実は著者にしか直せない

AIと一緒に、犬と猫のエッセイをKindleで出しました。

制作の工程を、順番に記録していくシリーズです。今回は、AIが書く文章にひそむ「事実の間違い」の話です。

AIが整えた文章は、なめらかで、きれいです。

でも、そのまま信じていいのでしょうか。

答えは、いいえ、でした。

AIは、わたしの記憶を知りません。

知らないことは、それらしく埋めてしまう。

放っておくと、うまい文章の中に、静かに嘘が混ざります。

この記事では、AIと本を書いたとき、どこをわたしがチェックしたのかをご紹介します。

記憶を持たないAIは、それらしい嘘を書く

まず、仕組みの話をさせてください。

AIは、体験も記憶も持っていません。

だから、書けない部分は、それらしく埋めてしまうんです。

わたしの本でも、いくつも起きました。

たとえば、犬のモモの体重。

第1章では0.9キロ、第2章では1.2キロと、数字が食い違っていました。

たとえば、毛の色。

猫のハッピーから見た犬のモモが、なぜか「白いふわふわ」になっていた。

実際のモモは、茶色です。

どれも、文章としてはなめらかでした。

うまく書けているぶん、間違いに気づきにくく、危うくそのままにするところでした。

事実確認は、著者にしかできない

間違いを直せるのは、その場にいた人だけです。

つまり、わたししかいません。

いちばん手のかかった第4章では、17か所の事実を修正しました。

母の「情けないお母さんでごめんね」という言葉。

AIが書いた文ではビデオ通話ということになっていましたが、実際に会ったときの言葉です。

モモとハッピーが出会った場所も、直しました。

AIの文章で二匹が会う場所が、遠くまで歩いた描写になっていたのです。

しかし、実際は家から2軒ほど先です。

なめらかな文章を、実際の記憶で上書きしていく。

その作業を怠ると、それらしい嘘が、そのまま本に残ってしまいます。

だからAIには「決め打ちせず質問させる」のがいい

ここで、AIに必要な指示が増えました。

「分からないことは、勝手に決めないで質問して。」

その後、体重の食い違いに気づいて、AIはこう聞いてきました。

「モモが来たときの体重は、0.9キロと1.2キロの、どちらですか」

決め打ちせず、確認してきたんです。

事実にかかわる場所で質問が来ると、間違いは本に入りません。

このやり取りで、AIは万全ではないということがわかりました。

• 文章の形を整えるのは、AIの仕事

• 事実を答えるのは、自分の仕事

なんども食い違いがないか、確認をくり返しました。

疑いながら読む作業は、編集の訓練になる

事実確認をくり返すうちに、思いがけない変化がありました。

文章を見る目が、変わってきたんです。

AIの原稿は、なめらかに書かれています。

だからこそ、いちいち立ち止まって読む必要がありました。

• どこが事実で、どこが推測か

• 言い切っていい部分か、ぼかすべき部分か

• 読み手が引っかかるのは、どこか

毎回、そこを考えながら読むことになります。

9章ぶん続けたころには、すっかり癖になっていました。

自分が書いた文章も、同じ目で読み返せるようになったんです。

書く力とは別に、直す力が育ってきました。

AIと組んで本を作ると、直す練習を毎日することになります。

これは、以前編集の仕事をしたときのことを思い出しました。

そして、文章がなめらかな文、編集者目線が磨かれる気がします。

まとめ

AIの文章は、うまい。

でも、正しいとは限りません。

うまさと正しさは、別のものなんです。

• AIは記憶を持たないから、それらしく埋めてしまう

• 事実を握っているのは、いつも書いた本人

• きれいな文章を疑える人が、間違いを防げる

AIは嘘を書くから使わない方がいいという話ではありません。

記憶がない、という仕組みの話です。

その仕組みを分かっていれば、AIは頼れる相棒になります。

しかも、疑いながら読む時間は、そのまま編集の練習にもなりました。

事実をひとつずつ確かめる時間は、本への責任そのものだと感じます。

その事実を、ひとつずつ確かめて仕上げたのが、こちらの本です。

『マレーシアの空の下で ―犬と猫とにいなの毎日―』

最後まで読んでいただきありがとうございます。

AIは、もっともらしい嘘を書くことがあります。ここでは事実確認の話をしました。

こうしたつまずきも含めて、企画から電子出版までの流れを実践ガイドにまとめています。

完璧でなくても、直しながら1冊にしていけました。

「必ず出せます」ではなく、私がやった手順のご紹介です。

本を出したいけれど、本当にできるのと不安な方の参考になればうれしいです。（¥1,500）