元審査担当が思う、AI公文書のこわさ
先日書いた雑記で、書ききれなかったことをまとめます。
前回の記事を書きながら、私はひとつ疑問を持ちました。
公務員の「前例踏襲」が、もしAIと悪い形で噛み合ってしまったら、何が起きるのだろう、と。
AIに「こういう感じの文書を作って」と指示すれば、数十秒でそれらしい文章が返ってくる時代になりました。
以前なら数十分から数時間かかっていた作業が一気に短縮されるので、便利さを感じるのは自然なことです。
ただし、文書作成が楽になることと、文書作成を任せきってよいことは同じではありません。
内容に誤りがあれば当然修正が必要ですし、起案者は「なぜこの文面なのか」を説明できる程度には理解しておく必要があります。
これは公務員に限りません。仕事で文章を出す以上、最後に責任を持つ人が内容を把握していることは、むしろ最低条件だと思います。
1．公文書は「思いついたことを書く文章」ではなく、「決めたことを正確に型へ入れる文章」
公文書の書き方は、雑記や感想文のように、書きながら考えを深めていく文章とはかなり性質が違います。
先に決めるべきなのは、文書の目的、相手方、判断事項、伝える順序です。
そのうえで、決まった型や様式に落とし込んでいきます。
誰に伝えるのか。
何を伝えるのか。
相手は何をすればいいのか。
ここが曖昧なままAIに依頼すれば、返ってくる文書もやはり曖昧になります。
そのため、実際の使い方は自然と次の形に寄っていきます。
① 構成は先に人間が決める
② AIに任せるのは下書き、整形、言い換え
③ 論点と表現の最終判断は人間が行う
さらに細かく分けると、こんな整理になります。
任せやすい作業
言い換え、箇条書き化、抜け漏れ確認、トーン調整
任せにくい作業
目的設定、事実確認、例外処理、微妙な判断、最終的な表現責任
ここで「いや、抜け漏れ確認や事実確認までAIにやらせればいいのでは」と思う人もいるかもしれません。
たしかに補助としては使えます。
ただ、AIは確認の形を整えるのは得意でも、現場固有の前提や例外まで自動で正しく拾えるとは限りません。
だからこそ、確認の主体までAIに置き換えることは危うさがあります。
2．人間とAIは、間違え方の癖が違う
以前、短期間だけ経理伝票の審査に携わっていたことがあります。
そこで嫌でも知ったのは、人間の間違い方にもある種の「作法」があるということでした。
たとえば、
差し戻されやすい担当者はある程度決まってくる
月数、条文番号、日付など、ミスが集中しやすい箇所がある
「ルールから覚えてもらう必要がある人」と「よく見れば直せる人」とでは、差し戻し理由の書き方が変わる
こうした傾向は、単なる愚痴ではありません。
審査側では、その蓄積があるからこそ確認の勘所が見え、結果として審査のスピードアップにもつながります。
ところが、そこに人間の精査が不十分なAI文書が混ざると、この前提が崩れます。
AIは自信ありげな文体のまま、それらしく間違える
ふだんは前例踏襲で補えていた文脈や慣例を、平然と外してくる
見た目だけは整っているため、差し戻しの経験として活かしにくい
つまり、「変な文書」であることは同じでも、人間のミスとは種類が違うのです。
ここがやっかいです。
従来の審査経験が効きにくい文書が増えると、総務・契約・経理のようなバックオフィス部門ほど、確認の負荷が重くなります。
ここで「人間だって間違うのだから、AIだけ厳しく見るのはおかしい」という反論もありそうです。
その通り、人間も当然間違えます。
ただ問題は、AIが間違うこと自体ではなく、間違い方の癖が人間と違うことです。
審査やチェックは、相手のミスの癖がある程度見えているから速く回る面があります。
その前提が崩れると、確認コストは一気に跳ね上がります。
3．起案者が確認を放棄すると、「自分が楽になる」代わりに、組織全体は遅くなる
起案者がAIの出力を十分に精査せず、そのまま文書を回したらどうなるでしょうか。
まず、上司や関係部署で文書が止まります。
ぱっと見は合っていそうなのに、細部だけ妙におかしい。そんな文書は、確認する側からすると非常に厄介です。
しかも、文書が止まっている間は施行や支払も進みません。
起案者の手元では「作成時間が短くなった」ように見えても、全体の処理速度としてはむしろ遅くなる可能性があります。
さらに厄介なのは、AIの誤りは見つけにくい形で混ざることです。
そのため、審査の網からこぼれ落ちる危険もあります。
施行が遅れたり、最悪の場合は誤りを抱えたまま進んでしまえば、あとで対応する手間はもっと大きくなります。
そして、その後始末をするのは、結局、起案者とその上司です。
最終的に上司や審査側が見てくれるのだから大丈夫。その考えは果たして通じるでしょうか。
それを前提に仕事を組み立てると、チェック工程が“保険”ではなく“本体”になってしまいます。
本来は起案段階で潰せたはずのミスが後工程へ流れ、そこで人の時間を奪う。
これでは効率化というより、負荷の付け替えです。
一見すると、起案者だけが「楽になった」ように見えるかもしれません。
しかし全体で見れば、他人や、回り回って未来の自分にまで「本来不要だった仕事」を増やしていることがあります。
AI活用の怖さは、ここにあるのではないでしょうか。
4．問われるのはAIを使ったかどうかではなく、誰が最後に責任を持つかです。
私は、公文書作成にAIを使うこと自体を否定したいわけではありません。
本や新聞など、文章を扱う仕事でも、実際には工程の分業が行われています。
下書き、整理、推敲、編集といった作業を切り分けること自体は、不自然ではありません。
公文書でも、AIを「有能な補助者」として使う分には十分に意味があります。
言い換えや叩き台づくり、表現の整理など、助かる場面は多いはずです。
問題になるのは、起案者がそこに責任を持たなくなったときです。
AIが作ったから。
よく分からないけれど、たぶん合っていそうだから。
前にも似た文書が通っていたから。
そうした理由で確認を薄くしてしまうと、非効率化はむしろ加速します。
結局のところ、公文書で大事なのは、
誰が最後に判断し、その文書に責任を持つのか
という一点です。
AIを使うかどうかより、その前後で人間がどこまで考え、どこまで確認するのか。
これから本当に問われるのは、そこなのだと思います。
5．AI生成の公文書は、「作る前」より「回す前」の確認が重要です。
AIは、文書作成の時間を短くしてくれる便利な道具です。
ただ、公文書のように責任の所在が重い文章では、速く作れることと安全に回せることは別問題です。
前例踏襲が多い職場ほど、「前にもこんな感じだったから大丈夫」という油断が起きやすいかもしれません。
そこにAIの“それらしい文書”が重なると、見た目だけ整った危うい文書が流れやすくなります。
だからこそ、AIで作った公文書ほど、回す前に一度立ち止まって見てほしい。
目的は合っているか。
事実は正しいか。
相手に誤解なく伝わるか。
自分はその文面の意味を説明できるか。
その確認を飛ばさないことが、結局はいちばん安い手間になる。
私はそう思っています。
この記事が入口になった方へ：テーマ別まとめはこちら →https://note.com/brisk_stork4910/n/n846fc7ddd19e
