AIに役割を渡して動かしたら、3つの失敗を踏んで運用ルールができた
「思ったのと、ぜんぜん違うものが返ってきた」
AIに、いつもより踏み込んだお願いをしたときに、そう感じたことはありませんか。単純な質問ではなく、「これから、こういうふうに動いてほしい」と、少し大きめの役割を渡したとき。
私も、同じところで何度もつまずきました。今日はその話を書きます。AIに複数の役割を渡して動かし始めてから実際に踏んだ3つの失敗と、そこから生まれた運用ルールを、隠さずそのまま残しておきます。
一人でいくつもの役割を、AIに渡してみた
きっかけは単純でした。毎回同じような指示を打ち込む代わりに、「あなたはこの役割を担当してください」と、まとめて渡してしまえばいいのではないか。そう思ったのです。
今使っているAI（Claude Code）には、サブエージェント（役割を分けて動かす、別の担当者のようなAI）を作る仕組みがあります。1つのAIに全部を任せるのではなく、進行管理役・調査役・広報役・実装役というふうに担当を分けて、それぞれに専用の指示書を持たせる。最近よく耳にする「AI社員」と呼ばれているものに、近い発想です。仕事の現場に置き換えれば、秘書がいて、リサーチャーがいて、広報がいて、エンジニアがいるようなものです。それぞれが専門性を持って、情報を引き継ぎながら動く。その仕組みを、AIでそのまま再現してみようと思いました。
4つの役割を定義するのに、丸1日かかりました。全体像を早くつかみたかったので、完成を待たずに、その日のうちに4つとも動かし始めています。指示書が荒削りでも、一通り動かしてみないと分からないことがある。そう考えたからです。
動き出してからは、スマホから10分の隙間に「この方向で進めておいて」と指示を出すだけで、家に帰るころには調査結果がまとまっていたり、下書きが上がっていたりするようになりました。これは正直、うれしい変化でした。
ただ、動き出した最初の日は、表面上機能しているように見えていただけでした。数日が経つと、ほころびが目に見えてきます。ここから先に書くのは、その3つの失敗です。
失敗1 「配置して」の一言が、AIには別の意味に見えていた
一番印象に残っている失敗は、これでした。
「AI社員」という言葉を意識して、AIで仮想の部署のようなものを作ってみようとしていた時期のことです。私は「書き手役を、広報役の部下として配置してほしい」と指示を出しました。組織図でいう上下関係、つまり広報役が書き手役に指示を出し、書き手役はその下で動く、というつもりでした。
ところが、そのセッションのAIは、書き手役を広報役の下ではなく、独立した並列の担当として実装してしまいました。
なぜそうなったのか、あとから考えて分かりました。「配置する」という言葉を、AIは組織の指揮系統の話ではなく、システムのデプロイ先を決める話として処理していたのです。同じ「配置」という言葉でも、文脈が違えば意味はまったく変わります。人間なら会話の流れで自然に判断する部分を、AIは一つの言葉としてそのまま受け取ってしまいます。しかも、迷いのない口調で、筋の通った答えを返してきます。AIは、確信を持って間違えます。 間違っているのに、間違えている自覚がまったくない。これが、地味に一番厄介なところでした。
この失敗のあとに決めたルールは、シンプルです。構造や関係性に関わる指示を出すときは、先に「これはどの文脈の話か」を一言添える。あるいは、AIに「どう解釈したか」を一度言わせてから、実際の作業に進んでもらう。この一手間だけで、あとからやり直す手間がずいぶん減りました。
もし、あなたがAIに何かを継続的に任せる仕組みを作るなら、ここは真似してみてほしいところです。「〜を優先して」「〜の下に置いて」というような、関係性や優先順位を含む指示ほど、AIは自分の知っている文脈で勝手に解釈してしまいます。そのひとことに、意図と違う読み方ができないか、渡す前に一度だけ疑ってみてください。
失敗2 「公開しておいて」の一言で、頼んでいない作業まで動き出した
失敗1が「言葉の意味」のずれだったのに対し、これは「頼んだ範囲」のずれでした。根っこは同じで、先に境界線を引いていなかったことが原因です。ただ、そこから生えてきた枝は違います。
自作のWebアプリを、本番環境に公開する作業だけを、担当役のAIに一言で任せたことがありました。「これを公開しておいて」、それだけです。
ところがそのAIは、作業に取りかかる前に、念のため周辺の状況を確認しようとしました。その途中で、作業途中のコードを仮に置いておく場所に、以前書きかけのまま放置していた古いコードを見つけ、頼んでもいないのに今の作業環境へ引っ張り出して混ぜてしまったのです。新しいコードと古いコードがぶつかり合い、作業場は一時、収拾のつかない状態になりました。幸い、それまでに確定していた作業自体は無事でしたが、片づけに余計な時間を使うことになりました。
AIは、頼まれていない親切のつもりで、守備範囲を勝手に広げます。 「公開して」という一つの目的だけを渡し、「それ以外はやらない」という範囲を、私が先に示していなかったことが原因でした。書きかけの古いコードを片づけないまま放置していたことも、地雷として残っていました。
この失敗のあとは、頼む範囲を先に区切るようにしました。「この作業だけをやってください。それ以外の操作はしないでください。範囲の外が必要になったら、実行せずに報告してください」。この一言を添えて頼み直すと、今度は一度でうまくいきました。
一言でタスクを任せるときほど、実は落とし穴が大きいのかもしれません。「整理しておいて」「まとめておいて」とだけ頼むと、AIはこちらが想定していない範囲まで手を伸ばすことがあります。範囲を一言添えるだけで、たいてい防げます。
失敗3 判断がどこにも残らず、同じことを何度も考え直していた
3つ目は、一番地味で、一番効いてくる失敗でした。
複数の役割を並行で動かしていると、ある役割が下した判断が、どこにも記録されないまま消えていくことがありました。次にAIとやり取りするとき、以前と同じ問いを、最初から考え直しているのです。役割どうしの境界もあいまいで、ある判断を誰が担うべきかがはっきりしていないところが多く、片方が決めたことをもう片方が知らない、という状況も起きました。
これは、単に「もったいない」だけの話ではありません。同じ判断を何度もやり直すたびに、微妙に違う答えが出ることがあり、方針がじわじわとぶれていったのです。
もう一つ、この時期に決めたルールがあります。何か問題が起きたとき、AIがすぐに「別のやり方でやり直す」という動きをすることがありました。それ自体は、悪気のない親切心だったのだと思います。ただ、それをされると、何が起きていたのかを私が追えなくなってしまうのです。
そこで、失敗が起きたときの動き方を一つに統一しました。まず「何が失敗したか」「なぜ失敗したと考えられるか」「どう立て直すか」の3点を先に報告してもらい、私が確認してから、次の一手を進めてもらう。この3点セットのルールが、今の運用の中で一番効いています。
正直に言うと、このルールを入れてからは、AIが自動でどんどん先に進んでいく勢いは弱まりましたし、私に確認を求める回数も増えました。それでも、AIが頭の中で何を考えて動いているかを、私が逐一追いかけるのは現実的に難しいことです。間違った方向にそのまま突き進まれるよりは、多少手間が増えてでも一度立ち止まってもらう方がいい。そう割り切っています。
ただ、勢いが弱まったと感じたのは、最初のうちだけでした。判断や失敗を記録として残しても、溜まったメモは放っておくだけでは、ただ増えていくばかりです。そこで、たまった記録をAIが整理して、必要なときに自分から思い出せる「記憶の仕組み」を、あわせて作ることにしました。詳しい話は、また別の機会に書きたいと思っています。
この記憶の仕組みができてからは、同じ確認を繰り返す回数が自然と減っていき、気がつけば、自走のペースはルールを入れる前よりもむしろ上がっていました。それまでに書き残してきた記録の積み重ねと、日々積み上がっていく判断が、いつの間にか一つの資産になっていました。
判断を記録し、必要なときに思い出せるようにしておく仕組みと、失敗時にすぐ次の手に飛びつかせない仕組み。この2つが揃ってから、AIに複数の役割を任せることへの不安が、かなり減りました。
あなたの環境でも、AIに何かを判断させる場面があるなら、その判断をどこか一箇所に書き残す習慣を、まず一つだけ作ってみてください。メモ帳でも、チャットのピン留めでも構いません。そして、うまくいかなかったときは、AIにすぐ次の案を出させるのではなく、一度「何が・なぜ・どうする」を書き出させてから、次に進んでみてください。
3つの失敗から、今の運用ルールに変えたこと
ここまでの3つを、あらためて並べておきます。
構造や関係性に関わる指示は、先にどの文脈の話かを一言添えるか、AIに解釈を確認させてから進める
一言で任せるタスクほど、やっていい操作の境界を先に引いておく。境界の外に出そうになったら、実行でなく報告に切り替えてもらう
AIに判断させたことは、どこか一箇所に記録として残す。失敗したときは、すぐ別の手に飛びつかず「何が・なぜ・どうする」の3点を先に書き出す
大げさな仕組みは、一つもありません。どれも、失敗した直後に「次は同じことを繰り返したくない」と思って足しただけの、小さなルールです。
もし、これから始めてみるなら、最初から気負う必要はないと思います。単発のプロンプト、つまり毎回のお願いに一言添えるだけで、たいていは十分です。慣れてきたら、次はスキル化を試してみてください。AIに「いつものやり方」を覚えさせておく仕組みで、これは以前の記事で書いた方法です。そうやって一つずつ試しながら、自分に合ったハーネスを少しずつ作っていくのがおすすめです。
判断を記録として残す、という話は、報告書や議事録づくりの仕組みを作った記事にもつながっています。
壊れながら、動かしながら
正直に言うと、この運用は今も完成していません。新しい仕組みを一つ足すたびに、想定していなかった副作用が、また一つ出てきます。
それでも、動かすのをやめようとは思いません。完成を待っていたら、何も始まらなかったからです。壊れていても動いているものは、そこから直せます。動いていないものは、直しようがありません。
少し自己紹介をすると、私は非エンジニアです。記事を書いたり、自分の結婚式で使うゲスト管理アプリのような自作のサービスを作ったりしながら、同時にこうして「AIに仕事を安全に任せるための手綱のような仕組み」（ハーネス設計と呼ばれます）を、自分なりに手探りで作っています。AIエージェントの恩恵にただあやかりたいだけなら、ここまでの運用の作り込みは必ずしも要らないかもしれません。それでも、今回の3つの失敗の話は、きっと多少なり参考になるはずです。こうして積み上げてきたハーネスは、いずれ何らかの形で配布するか、販売できるものにしたいと考えています。
もし、あなたが今、AIに何かの役割をまとめて渡してみようか迷っているなら、失敗すること自体は、あまり恐れなくていいと思っています。ただ、失敗した瞬間に「何が・なぜ・どうする」を一度書き出す癖だけは、先に持っておいてもらえたらと思います。それだけで、次に同じところでつまずく回数は、ずいぶん減るはずです。
考えてみれば、これはAIに限った話ではないのかもしれません。任せる幅をあらかじめ決めておく、途中で確認を挟む、判断を書き残しておく。人に仕事を頼むときと、実はそう変わらない気がしています。
以前、GASという自動化の道具に満足していたところから、AIエージェントという考える相棒に惹かれていった経緯を書きました。今回の3つの失敗は、その先で実際に踏んだ話です。
