「渡した」と「使えるようにした」は違う／AIに仕事を任せて、20日間気づかなかった

彼は、資料を見ずに提案していました

うちのAI社員のひとりに、Webサイトの「動き」を担当してもらっています。スクロールで文字が現れる、カードがふわりと浮く、といった演出の設計です。

その担当には、資料を用意してありました。効果を169種類、18の系統に整理した298行の目録です。役割の説明にも「この資料の担当」と書いてあり、ファイル名まで明記してありました。

ある日、別件でその資料の話になって、念のため確認しました。そこで分かったのは、彼にはそのファイルを開く手段がなかったということです。参照先のサイトも、普通の方法では読めない作りでした。

つまり彼は「そういう資料がある」と知っているだけで、中身を見ないまま提案を書いていました。 配属からその日まで、20日間。誰も気づいていません。

なぜ20日も気づかないのか

ここがこの件のいちばん怖いところです。

それらしい提案は、ちゃんと返ってきていました。 効果の名前も出てきますし、説明も筋が通っています。ただ、その名前が実在するのか、実装がどれくらい大変なのかは、確かめようがない状態でした。

そして本人も気づけません。「読めていない」と自覚するには、読める状態を一度知っている必要があるからです。欠けていることは、欠けている側からは見えません。

人間の職場でも同じだと思います。新人に共有フォルダのURLだけ渡して、権限を付け忘れる。本人は聞き返しづらいので、しばらく雰囲気で乗り切ってしまう。構造はまったく同じです。

つなぎ目は、静かに死ぬ

部品が壊れると気づきます。エラーが出るし、画面が真っ白になるし、誰かが困ります。

つなぎ目が壊れても、誰も困りません。

前回の記事で、同じ時期に起きた3件を書きました。ここでは1行ずつだけ並べます。頼まれた依頼が「取り次ぎ待ち」のまま止まっていたこと。実装を終えた完了報告が、依頼元に返っていなかったこと。週に1回走るはずの点検が、1週間止まっていたこと。

3つとも、部品は正しく動いていました。 依頼は書かれていた。実装は終わっていた。点検の手順も決まっていた。むしろ動いていたから、誰も見に行かなかったのです。壊れていれば見に行ったのに。

足りなかったのは、全部「間」でした。（しつこいくらいに出てくる言葉でごめんなさい）

そして今回の件は、その「間」がもう一段手前にあった例です。仕事の受け渡しではなく、道具の受け渡しが繋がっていませんでした。

直し方は、資料を渡し直すことではありませんでした

やったのは、その場で引ける検索の道具を作って、その担当にだけ配線することです。

全文をいつも読ませる形にはしませんでした。298行を毎回頭に積むと、動きと関係ない雑談のときまで費用を払うことになるからです。だから、必要なときに必要な系統だけを引ける形にしました。

加えて、道具の説明にこう書いています。

渡したあと、その日のうちに変わりました

試しに、あるページの動きを設計してもらいました。返ってきたのは、実在する効果を3つ、それぞれ難易度つきで指名したものでした。
しかも「この1つだけ難しいので、外せば全体が簡単に終わります」と、取捨まで自分で判断していました。 以前は、効果の名前を創作するしかなかった相手です。能力が上がったわけではありません。見えるようになっただけです。
同じ日、別の社員に知識を渡す場面がありました。今度は読めないファイルの場所を渡さず、判断に必要な要点そのものを渡しました。学びが効くのは、次の一件で動作が変わったときだけだと思っています。
あわせて、機械で捕まえる仕掛けも入れました。「Aに書いてある名前が、Bに実在するか」を確かめるテストです。「書いてあるのに実体がない」を、人の記憶に頼らず見つけるためのものです。

AI相手だから、なおさら

人間の同僚なら、こうは進みません。「あのファイル読んで」と言えば、開けなかったら「どこにありますか」と聞き返してくれます。渡した書類が読めなければ、そう言ってくれる。
AIは、手段が無いことを言いません。 指示を受け取って、その範囲でできることをやります。だから「読んでいない」ではなく「読める前提で振る舞う」ことが起きます。
これは欠陥ではなく性質だと思っています。だから受け取る側の様子を見るのは、渡した側の仕事になります。
思い返せば、20日間のあいだ彼の仕事は微妙にずれていました。効果の名前が少し違う。でもそれっぽい。「なんとなく違うけど、まあいいか」で流していたのは私です。
あの違和感が、届いていない信号でした。

渡したあとに確かめる、3つの問い

同じ失敗を4回踏んでから、確認する手順を決めました。

1. その人は、それを開けるか。 場所を教えたことと、手段を渡したことは違います

2. 渡したものは、届いたと分かるか。 送った側から見て、着いたことが見える形になっているか

3. 誰も見なかったとき、それは声を上げるか。 黙って止まる仕組みは、止まったこと自体を隠します

1つめと2つめは、慣れれば自然にできます。いちばん効くのは3つめです。
だから私は、朝の自動処理が失敗したら通知が飛ぶようにしました。通知が届かない自動化は、無いのと同じだと思っています。

追記：同じ穴を、もう一度見つけました

この記事を書いている最中に、まったく同じ状態をもう一件見つけました。
このシリーズの執筆を任せようとしていたAI社員が、記事の材料である作業記録を読む手段を持っていませんでした。担当として名前は書いてある。参照先も書いてある。それでも本人には開けません。20日間気づかなかった前回と、構造は寸分違いません。
違ったのは、書かせる前に気づいたことだけです。 今回は先に道具を渡しました。
「渡した」と「使えるようにした」は違う——この学びは、覚えているだけでは効きません。担当を決めた直後に「その人はそれを開けるか」を一度だけ確かめる、という動作にしてはじめて効きます。

おわりに

AIに任せる話をすると、たいてい「どこまで賢いか」が論点になります。でも私がこの一連の件で見たのは、賢さの話ではありませんでした。
見えていないものについて、AIはそれらしく答えます。 黙りません。困った顔もしません。だから、渡したつもりのものが渡っているかどうかは、渡した側が確かめに行くしかありません。
資料の場所を教えることは、仕事を任せたことにはならない。当たり前のようでいて、20日かかりました。

この記事の失敗はすべて実際に起きたもので、直した記録も残しています。AIに仕事を任せている方の、似た違和感の役に立てばうれしいです。