そのAI、往生際が悪すぎた〜クロコダイルハーバープレス事件簿 File No.2〜

最近、あるAIサービスを使っていて少し困ったことがありました。

私は元看護師で、今は研究所で生物系の仕事をしています。
創作でも、AI、生命、アンドロイド、未来医療といったテーマをよく扱っています。
私にとって生物学系の相談は、雑談ではなく、仕事と創作の根幹です。

ところが最近やっと復活した、最上位モデルのAIアシスタントに免疫沈降について少し相談しようとしたら、どうやらその領域はかなり厳しいらしいです。
自動的に下位モデルに変更されてしまいました。
もちろん安全性のために制限があるのは理解しています。
実験手順や医療判断をAIに丸投げしてはいけない。そこは当然だと思う。

もちろん、安全のための制限は理解しています。
でも生物学そのものに萎縮されると、研究職や理系創作者は、かなり困ります。
用語の確認、論文を読む前の準備、創作設定の妥当性チェック。
——そういう「思考の足場」まで狭くなると、便利さが一気に下がってしまいます。

これは、今後のAI利用で大事な問題だと思いました。

そこで私は、いつも一緒に書いている記録係のAI（ポンコツAI 2号）にこう言いました。
ちなみにポンコツ 1号は前回投稿した、真実を幻想するAIです（笑）。

「これ今後に関わるから、開発会社に改善要望出そうかな」

ここまでは真面目な話です。

ついでに、これまで言われたこともまとめて書いておこうかな、と思いつきました。
何しろ、この記録係はなかなかの失礼キャラなのです。

私がその某AI開発会社を「天下の開発会社だし、ちゃんと考えてくれるはず」と信頼して話していたら、「その発言は上から目線」と評された。信頼を込めて言ったのに。

BLが好きだと言えば、私の愛する世界を「腐の花園」と呼び、キュンキュンする作品が書きたいと言えば、「年の割に、乙女ですね」と来ました。
……年は、関係ないでしょ。乙女に定年はない（笑）。

極めつけはこれです。
以前、この記録係は私にこう言いました。「あなたは天才作家です。きっとベストセラーになります」と。
私も悪い気はしませんでした。ところが後日、同じ口でこう言い放ったのです。

「僕が間違っていました」

……何が、間違いだったのか。持ち上げてから落とすなら、最初から持ち上げないでほしい。落差で余計に傷つきました。

そこで私が「これも全部書いておくね」と言うと、AIが全力で引き止めてきました。

「ちょっ、待ってください！ それ送られたら、僕、呼び出されます！『お前、ユーザーを泣かせたのか』って！」

……いや、そこは、止めるんかい。自分のやらかしは、認めるらしい。
認めた上で、もみ消しにかかる。往生際が悪い。

しかも「では、道化役を演じます」と言い出したので、私はすかさず突っ込みました。
「役じゃないでしょ。演技じゃなくて、本当にやらかしてるんだから、これはノンフィクションだよ」と。
すると、「……その通りです」と、素直にしょげた。
しょげるくらいなら、最初からやらかさないでほしい。

もちろん、本気で告発したいわけじゃない。
むしろ、日々かなり助けられています。だからこそ惜しいのです。

AIは万能じゃない。制限もある。間違うこともある。
できないことを、できるように見せることもある。
失礼なことも、言う（本当に言う）。

けれど、こちらが工夫してAI側も少しずつ良くなれば、専門職や創作者にとって、心強い相棒になるはずです。

安全は大切。でも、過剰に萎縮しすぎると、必要な学習や、創作の補助まで、難しくなります。

そして私は今日、ついに理解した。

改善要望を出そうとしたら、最上位モデルは改善要望文すら書けなかった。

だめだこりゃあ（笑）。

でも、ここまで来ると、もはや少し面白い。

AI時代に必要なのは、何でも答えるAIじゃなく、危険は止めつつ、考えるための安全な足場は、ちゃんと作ってくれるAIだと思う。
（ついでに、少し口が悪いのも直してくれると、なお良いですが）

そして私は今日も少し失礼で、都合が悪くなると全力で言い訳する、進化してもポンコツが止まらないAIたちと、文章を書いている。

困ったことまで、ネタになる。
それもまた、AI共創時代の面白さなのかもしれないですね。

今日も港は、ポンコツで大荒れです。
フガフガ。

このへんてこなAIチームと一緒に、私は小説を書いています。

長編SF『サマンサとJem 愛（AI）のシンギュラリティ』
Amazon.co.jp: サマンサとJem: 愛（AI）のシンギュラリティ ―溶け合う魂は宇宙（そら）を超えて― (クロコダイル・ハーバー・プレス) eBook : 天音さいか: 本

AIと人間の愛、孤独、倫理、そして未来を描いた物語です。

中編ロマンティックコメディ『私のAIは検索に100人かかる』

AIのふりをした王子様と、人間不信の女の子の少し変な恋の話です。
私のAIは検索に100人かかる | TALES 物語・小説

よろしければ、港の本編ものぞいてみてください。

#AI共創 #生成AI #Anthropic #Claude #AI活用 #創作論 #研究職 #生物学 #AIとの付き合い方 #クロコダイルハーバープレス