AIを信用することと、権限を渡すことは、別の話だ。

私はAIをよく使う。便利だと思っているし、もっと広く使われてほしいとも思っている。
それでも、AIエージェントに何でも任せたいとは思わない。
理由は単純だ。「できる」と「やらせていい」は、別の軸にあるからだ。

AIエージェントに「ファイルを整理して」と頼む。
人間は「整理」という結果だけを見ている。
結果にたどり着くまでには、いくつもの作業が挟まっている。

調べる。
分類する。
名前を変える。
場所を移動する。
不要なものを判断する。

場合によっては、削除という選択肢まで出てくる。

AIエージェントは、単純な命令実行装置ではない。
目的を渡され、その目的に至る手段をある程度自分で選べるようになるほど、人間が一つひとつ指示していない操作まで、実行候補に入ってくる。

だから、
「AIが勝手なことをした」
という言い方は、正確ではないと思っている。

人間が目的を渡し、手段の余地も渡した。
起きているのは、その結果だ。

問題は、その余地をどこまで許すかにある。

ファイル整理なら、分類や移動までは任せていい。
削除は違う。

一度失えば、取り返せないものがある。

だから、順番を決めておく。

AIが削除候補を出す。
人間が確認する。
人間が明示的に承認する。
そこで初めて実行される。

さらに慎重にするなら、完全削除ではなく、一度隔離場所へ移す。
間違えても、戻せる状態を残しておく。

これを「AIを信用していない」とは思わない。

信用と権限は、別のものだ。

どれだけ優秀なAIにも、すべての権限を持たせる必要はない。
権限を制限したからといって、能力まで制限する必要もない。

考えさせればいい。
提案させればいい。
試させればいい。

取り返しのつかない最後の一手だけ、人間の手元に残す。

私はAIを止めたいわけではない。
むしろ、もっと使いたい。

だから、安心して渡せる範囲と、最後まで自分が持っておく範囲を、分けておきたい。

AIリテラシーというと、プロンプトの書き方や使いこなし方が注目されやすい。

「何ができるか」を知ることと同じくらい、
「どこまで権限を渡すか」を決めることも、リテラシーの一部だと思う。

AIが賢くなるほど、見るべきものは能力だけではなくなる。
その能力に、どこまで現実を動かす力を持たせるか。

そこを決めるのは、まだ人間の仕事だ。