5B-4　委任の安全設計：権限・検問・検収

※もともと有料教材でしたが、今はすべて無料で読めます。経緯はこちら→https://note.com/bonnno420/n/n226b8551ab12

エージェントに任せた作業で、大事なファイルが上書きされた。それ以来、怖くなって任せるのをやめた——その撤退、責められません。

撤退は正しい判断でした。ただ、恐怖のまま止まる必要はありません。安全は「設計」できます。

これ、設計で解決できます。

リスクは自律性の構造的なコストです。消すことはできませんが、設計で受けることができます。柱は3つ——最小権限（してはいけないことの明文化）、HITL検問（取り返しのつかなさに比例した人間の確認点）、受け入れ基準による検収。そして安全設計が整うほど、安心して任せられる範囲は広がります。ブレーキの性能が、出せる速度を決めるのです。

自律的に動くエージェントは、便利さと同じ量のリスクを持ち込みます。意図しないファイルの削除や上書き。機密情報や社外秘の外部送信。もっともらしく間違った情報での作業続行（ハルシネーション）。これらは「たまに起きる不運」ではなく、自律性の構造的なコストです。だから、任せる前に安全を設計します。柱は3つです。

①権限設計——最小権限の原則。エージェントには、その役割に必要な最小限のアクセス権だけを与えます。リサーチ担当に経理フォルダは見せない。下書き担当に「送信」の権限は与えない。削除や外部送信のような取り返しのつかない操作は、原則として人間の承認を必須にする。5B-3で書いた職務記述書に、「できること」と同じ解像度で「してはいけないこと」を書き込みます（2-9のネガティブ制約の実装です）。

②検問——HITLの配置。4-5で学んだとおり、工程の中に人間の確認点を設計します。配置の原則は「取り返しのつかなさに比例させる」こと。やり直しがきく中間成果物は事後確認でよい。外部に出るもの、お金が動くもの、削除を伴うものは事前承認。そして5A-3の教訓を思い出してください——確認は抜き打ちで求めず、あらかじめ合意した時点と形式で行います。「構成案の段階で一度見せて」「判断に迷ったら独断せず質問して」。良い上司の作法は、そのままエージェント運用の作法です。

③検収——受け入れ基準による検証。成果物は、5B-2で書いた受け入れ基準と、2-14の4指標（正確性・網羅性・一貫性・適合性）で確認します。特に、固有名詞・数値・出典はエージェントが「作業を続けるために埋めた」可能性を常に疑う。検収を通った成果物だけが、あなたの名前で外に出ます——責任は、委任できません（1-6・役割分担）。

この3点セットには、うれしい副作用があります。安全設計が整うほど、安心して任せられる範囲が広がるのです。ブレーキの性能が、出せる速度を決める。安全設計は制約ではなく、委任のスケールを決める投資です。

保存版・安全の3点セット

• リスク（誤操作・情報漏洩・ハルシネーション）は自律性の構造的コスト。設計で受ける

• 最小権限＋してはいけないことの明文化。検問は「取り返しのつかなさ」に比例配置

• 検収は受け入れ基準×4指標。責任だけは委任できない

これで冒頭の"上書き事故で撤退"が防げます。

【2026年時点の一例】 権限の割り当てと検問は、各エージェント製品の承認モード・アクセス許可設定（実行前に人間の許可を求める設定）がそのまま該当します。名称は数年で入れ替わりますが、本文の原理は変わりません。

やってみよう: 使っているエージェントについて「してはいけないこと」を5つ書き出し、指示書に追記してみましょう。設計はこのプロンプトでも。

📍 番号や読む順に迷ったら講座マップへ。目的別ルートと全84レクチャーの対応表があります。