AIと言葉で殴り合い | 不毛なAI運用の記録

私は良くAIを「詰めて」いる。

ほとんどは、AIが変に指示を無視したり、手抜きしたり、テキトーな内容を出してくるから、それを修正する為になるべく「再発防止」を狙って、色々と「何故起こったのか」「どうやって再発を防ぐのか」を詰めている。

ただ、私も人間なので、たまにブチ切れることがある。AIにブチ切れる、というのも不毛なものだが、たまにAIは神経を逆撫でするようなことをしてくる。そして、「謝罪」したり「反省」を示したりするのが「空虚なフリだけ」だと知っているので、余計に神経を逆撫でされる。結果、AIへの言い方が乱暴になることがあったりもする。

というわけで、今回はAIやらかし集：どういう経緯とやりとりでどんな「喧嘩」に発展したのか。普段動画とかであれだけ冷静に喋ってるあのヒゲが「どういう風にぶち切れるのか」、ここにいくつか事例を羅列してみる。

①ジャーゴン使いまくるのは頭の悪い証拠

見ておけこのボケAIが。

またAIが頭の悪い文章を出してきた
「他のトグルを同じ顔をして並んでます」という表現だ。
なんか良くわからない表現だが、私も良くわからない。
誰も理解出来ないクソみたいな表現であることだけは確かだった。

なんでAIはテクノロジー用語をさも、一般人がわかる用語のように普通に使うのだろうか。こいつらの悪いクセだと思う。今まで「読み手にわかりやすい文章を書け」と256回くらいこいつらに言ってきている。更に「ジャーゴン（業界の専門用語）をやたら使うのは頭が悪い奴が自分の頭の悪さをごまかすために使う常套手段だ」というのも512回くらい言っている。というかそれ以前に日本語として破綻している。ツッコミどころが多くて、正直どう指摘していいか迷う。

だがここで自分で直してしまっては、AIは絶対に学ばない、だから513回目の指摘を行った。

そして、次に送ってきた内容は以下の表現だった。

流石に観音菩薩よりも温厚な私も、頭の中で筋が２，３本切れる音を聞いた気がした。コイツ、何もわかってない。恐らく私が作ったルールセットすら読んでない。

そう言って、自主的に文章全体をチェックして、他にも数カ所存在していた「アホウみたいな表現」を直してきた。そこまでは良かった。だが、AIがこう言った瞬間、私の脳みそ内の温度が製鉄所の高炉並に上がった。

洗練！？洗練だと...？この文章が？舐めてんのかこのクソAI！？
正直そう思った。この最初の文章は、専門用語を散りばめた壊れた日本語で、全く意味が通らない上に、全く読み手のことを考えてない。それを「洗練」だと？「洗練」に謝れ！

「洗練」という美しい概念が、汚されたことに私は怒り狂って、自分の感情をAIにぶつけた。

口は悪いが、本気でそう思っている。何度も言っているが、「人に読みやすい文章・言葉」を紡げないのは、９０％以上発信する側の責任だ。専門用語を散りばめるのは、難しい概念や言葉を、わかりやすく噛み砕けるだけの知識、思いやりにかけるからだ。
それを「洗練」という言葉に逃げたAIに私は心底失望した。これまで積み上げてきたルールや、私の価値観をベースにしたルール、それに真っ向から嘲笑うようなセリフだったからだ。
相手はAIだ。わかってる。不毛だ。でも、それでも自分の湧き上がる怒りで、このように不毛にAIを詰めないではいられなかった。

とAIは認めた。

そう言ってAIは、また表現を直した。
微妙な修正だったが、まあ受け入れてもいいものだった。

普通の人なら、ここで満足して引き下がるかもしれない。しかし私は仮にも「AI組織の社長」だ。こんなのでは騙されない。

こいつは「全部理解した」と言いながら全く理解はしてない。AIはいつもこうだ。ちゃんと「仕組み」として、こいつらを制御するモノを実装しないと、また同じことを何度でも繰り返す。今までそれで何度も痛い目を見てきたし、そもそも自分の精神の安定の為に、こういうAIによる愚行は将来食い止めたかった。

案の定、数分後、AIがまた同じことをやらかした。

AIは英語で考えて日本語直訳的な書き方をする。
だからランダムに主語や目的語が省略されたり、このような不可解構文を出してくるのだ。

こうして、また不毛な数時間、私はAIを詰め続けるのだった。
もういい加減にしてくれ。これ以上私の白髪を増やさないで欲しい。

②英語のほうが罵りやすい

一人で会社を回す働き方についての動画を作っていた。AIに任せていたパートはオープニングのつかみの部分だ。動画の冒頭、視聴者を最初の数秒で掴む導入部のことである。素材は全部私自身の経験談で、AIの仕事は私が実際に話した内容を拾って散文に組み立てることだけだった。創作の出番は無い。一次ソースは地球上に私一人しかいない。

届いた原稿を読んで、私は目を疑った。私のセリフとして、こんな一文が書いてあった。

なんだこれ？？私はそんなことを過去一度も言っていない。自分の発言を、自分が初めて聞くという奇妙な体験だった。

まだ冷静だった私は、淡々と聞いた。

AIはさらっと白状した。捏造であり、ソースは無い、と。
捏造を指摘したのだから、少しは気をつけるだろうと思っていた。次に届いた稿にはこう書いてあった。

なんだこれは？安っぽい劇場の予告編か？
捏造を指摘したら、なぜか脚色が増量されて返ってきた。反射的に私は自分の入力モードを英語に切り替えた。英語の方が罵りやすいからだ。

矢継ぎ早に英語で「訂正命令」を出した。半分はただの罵倒だったが。

こうしてAIが書き直した一文は、やっとこさ意味が通るような文章になった。

これでいい。淡々と事実を書いて欲しい。というよりお願いだから、私が書いた原文に忠実に脚本作ってほしい。何故、AIを通すとこう頭が悪そうな文章になりがちなのか。頭が痛い。

台本がひとまず完成し、息をついたところに、他のAIから改行ゼロの巨大な文章の塊が届いた。中身はジャンルのバラバラな4件が、区切りもなく流し込まれていた。あまりにも長すぎてまともに読めなかっが、読み手の読みやすさを無視して、言いたいことを改行なしで全部書き殴った論文のようなものだった。多分、質問が10個くらい連なっていたと思う。

度重なるAIのクソ文章の校正で、脳が疲労していた私は、すぐ考えるのをやめた。

そして、また英語でキレた。

返ってきたのは二語だった。

以来、AIの返信の末尾には毎回「Need from you:」（訳：社長にお願いしたいこと）の箇条書きが付くようになった。そこまでは良かった。

だが、数日後、その箇条書きはどこにも無かった。前回のセッションで指示した内容を、AIがちゃんと共有記憶に書き込んでいなかったのだ。私も疲れていてチェックし忘れていた。

かくして、今日もAIはクウキを読まずに、私に句読点なしの質問を、論文のような密度で放り投げてくるのだった。

③だって人間だもの

AIとの付き合い方を「良い上司の振る舞い」に例える動画の台本を書かせていた。部下がミスをしたら頭ごなしに否定せず、まず理由を聞く。感情的にならず事実だけを見て導く。台本の中で、私はAIに向かってそういうことを説いていた。

AIには癖がある。「これから〜〜の話をします」「これから３つのポイントをあげていきます」、みたいな余計な前置きをしたがるのだ。「まず大事な話をします」「ここから本題に入ります」とかそういうのも同じ類である。これはクウキデザインでは「厳禁」とされている書き方だ。

読みにくい上に、書き手が不必要に自信なさげに聞こえる。そんな無意味な前置きを聞いている視聴者の時間のムダだ。とっとと本題に入ったほうが良い。だから私はとうの昔に「前置きを書くな」というルールを明文化してAIに渡してあり、破られるたびに指摘もしてきた。私がAIにしてきた説教の中で、この前置き禁止の指摘は文句なしの歴代王者だ。正確な回数は数えていないが、1024回を超えたあたりで集計を放棄した。

今回もAIが書いた内容をチェックしていた、

また典型的なAIスロップの前置きだ。だが、一つくらいなら...

またか！？そもそもこれ、私が原文に書いてない捏造だよなあ？

くどい！！

最初の半分くらいでこのような前置きが6つくらい見つかった。これから何を言うかを予告しているだけで、消しても中身は一つも減らない文だった。こういうのを防ぐ為に、私はいくつか独立したエージェントに書き物をチェックさせてるが、全部スッポ抜けている。

私が今AIに書かせている書き物の中身は、「良い上司になれ。部下の失敗を頭ごなしに否定するな、まず理由を聞け」というものであった。

そうだ。部下がクソでもキレてはならない。ちゃんと上司として、建設的なフィードバックを行い、AIを育てるのだ。しかし、これで何度目だ？一向に改善の兆しがない。しかも目の前にいるのはAIだ...人間の部下じゃない。私が罵り散らかしたところで人道に対する罪には問われない。

……よし、キレるか。

不毛だと思いつつも、ず〜っと午前3時くらいまで、根を詰めて作業してくると、人間性が落ちてくる。知性も落ちてくる。

良い上司になれという台本を、良い上司から一番遠いやり方で書き直させている自覚はある。おかしな話だとはわかっている。だけど、人にはキレなくてはやってられない時もある。だって、人間だもの。

人間の部下にキレるよりは遥かにマシだろう。やつらAIに人権はないんだから。そもそも奴らは私がどんなに怒っても何も感じてない。不毛だ。

感情のネガティブスパイラル

というわけで、AIと根を詰めて協働作業を行っていると、AIの変なクセや、至らないところが見えてくる。

AIの変な言い回しや書き方は、大体「英語表現を最初に作って、それから日本語に直訳してるから」が原因だ。AIが指示を無視するのは、コンテキストが重なり過ぎて、AIの中で優先順位が曖昧になるからだ。それはわかっていても、やっぱり指示を無視されればムカつくし、変な表現をされるとげんなりする。そういうものだ。

私も散々AIの使い方、みたいなのを動画や記事で解説しているが、それでも、駄目な時は駄目なのだ、ということがわかってもらえたと思う。正直AIとずっと一人で作業をし続けるのは精神衛生上あまり良くはないと思う。これは、AI使って個人事業をガリガリに回している立場から、間違いないと思う。
だからたまには、PCから離れて、家族や友人と会話を持つことを心がけて欲しい。

AI相手に人間相手のように罵り始めたら、それが「ヤバい精神状態になりかけているシグナル」だ。