見出し画像

【後編】AIが品質の責任を持ち始めた|Claude Opus 5で消した指示、残した指示‼️

こんにちは!AIクリエイターのinstkoniです。




Claude Code を毎日仕事に使い倒している副業クリエイターで、並行してYoutubeでAI音楽チャンネル「異世界の音楽家 / AI Motion Musics」も運用しています。





【記事概要をPodcastでも聴けます‼️】
<!-- podcast -->





前編では、Claude Opus 5 が「自分で検証し、自分で仕事を振り、自分で範囲を判断する」モデルに変わったこと、そして僕のAI会社を全点検したら公式が「消せ」と言っている型が数十箇所あったことを書きました。




今回はその続きです。実際に何を消して、何を残したか。

先に言っておくと、いちばん大きな失敗は指示ではなく設定のほうでした。










第1章:結論。消すのは4つ、残すのは4つ 🗑(前編のおさらい)

前編のおさらいになりますが、作り込みをされている方向けで、公式ガイドの乗っ取り「自分は何を消せばいいのか」「何を残せばいいのか」を書きます。




🗑 消していい(Opus 5 が自分でやるようになった部分)
「必ず検証してから報告して」「最終確認のステップを入れて」
❌「double-check して」「答えを再確認して」
❌「検証用に別のエージェントを立てて」
❌「重大な問題だけ報告して」「保守的に」

Opus5がやるようになって個別指示がいらなくなった、余計なことをするようになったもの





🛡 残さないといけない(AIの自己検証では代替できない部分)
✅外部ツールが出したものの実物確認
(画像生成AIが本当にその画像を出したか、を人間かコードが見る)
色味・人体の破綻を人が目で見るゲート
ファクトチェックの外部ソース照合
人間の承認ゲート(これは検証の足場ではなく、意思決定です)

AIの自己検証ですまないものは残す





👤「見た目が似てるのに、なんで片方だけ消すの?」

チェックの相手が違うから。 消していいのは「AI自身の出力をAIに見張らせる」指示。
残すのは「AIの外にあるものを確かめる」仕組み。





前者は二重になって空回りしますが、後者はAIが賢くなっても誰も代わりにやってくれません。





🟢 実際に残した指示たち

僕の環境で消えて残ったものは、この内容です。

✅見出しの ⚠️ と 🚨:107件 → 47件
✅「省略不可」という強制語:7件 → 0件
✅「独立レビューアで120点採点」の指示:54箇所 → 41箇所

残した47件の基準は「取り返しがつかない/外部に公開される/法令や規約
/人間の判断/事実の捏造/課金
」に関わるものだけ。






強調が多すぎると、どれが本当に重いのか伝わらなくなる。 60件消してみて、これは効いたと思います。










🔴 消しすぎて事故りかけた話

正直に書くと、最初はもっと消そうとしていました




公式ガイドの「検証指示を削除せよ」を素直に読むと、僕の環境にある「必ず目視で確認」「報告を鵜呑みにしない」も対象に見えます。




実際、機械的に洗ったら41箇所ヒットしました。

でもちょっと待てよ…。僕がこれまで踏んだ事故は、全部AI外側で起きていたからです。




画像に架空の雑誌名が入った。腕が3本になった。同じ記事なのにキャラが別人になった。どれも Opus 5 が自分で気づけるものではありません。




生成した画像を実際に開いて見る、という工程がなければ、賢くなっても素通りします。

だから、そこは全部残しました。






第2章:僕は effort を読み違えていた 🎚

ここからが、いちばん恥ずかしい話です。

👤「effort って、思考の深さを決めるツマミですよね?」

僕もそう思っていました。そして「深く考えなくていい仕事は下げればコストが浮く」と考えて、実行系のエージェントを軒並みいちばん低い「low」設定にしていました。これが間違いでした。





🟣 「low」設定は「工程」を削ることであると、知る必要があります。

公式ドキュメントに、こう書かれています。

⚠️低い effort レベルでは、モデルは次の傾向を示す。
💡複数の操作をひとつのツール呼び出しにまとめる
💡ツール呼び出しの回数を減らす
💡前置きなしで、直接行動に移る





思考量の話ではありません。ツール呼び出しそのものの粒度です。

僕が「low」設定にしていたのは、note・X・LinkedIn の各運用エージェント、画像を発注して台帳に記録するエージェント、Podcast とインフォグラフィックを生成して所定の場所に保存するエージェント。




全部、決まった手順でスクリプトを順番に叩く役割です。

low設定で手順をスキップされると品質保持ができない。




工程を勝手にまとめられたら、どうなるか。投稿前の確認が飛びます。台帳への追記が飛びます。生成したファイルが保存されないまま次に進みます。





「深く考えなくていい仕事」と「工程を省略していい仕事」は別物でした。 僕はこの2つを混同していました。




結局、実行系7本を1段階上げて戻しました。いちばん低い設定に残したのは、各記事のタイトルとタグを生成するだけの1本だけです。





ちなみに公式の推奨を読み直したら、いちばん低い設定の用途は「高スループット向け、またはチャット用途」と書いてありました。




僕の使い方は最初からどちらでもなかったわけです。




🟠 公式が言っていること、言っていないこと

ここは丁寧に分けます。effort について、公式が Opus 5 に対して実際に書いているのは次の4点です。

📌上げた分が結果に変わりやすくなった
 (旧 Opus 比という比較であって、無条件の保証ではありません)
📌低い設定でも、わずかなトークンとレイテンシで強い品質が出る
📌コードレビューとバグ発見は、低い設定でも精度が保たれる(公式が名指しでそう書いた唯一の領域)
📌最上位の設定は、単純なタスクでは収穫逓減と考えすぎに陥りうる

要は低い設定でも品質は良く、最上位設定は過分になる可能性があると言ってます。




そして肝心の「どの仕事にどの設定を当てるか」については、こうとしか書いていません。

👥自分の評価で品質が保てると確認できた範囲で、低い設定を積極的に使え

うーん。。曖昧ですね。





公式に正解表はありません。判断軸は「測ったかどうか」です。

公式が言っていること、言っていないこと





公式ドキュメントは世代ごとに別々の推奨を持っています。


低い設定ほど指示を逐語的に解釈する」という記述は前世代の項のもので、Opus 5 の項にはありません。僕はこれを一度取り違えました。





そして公式自身が、こう釘を刺しています。

💀前モデルから設定を持ち越したなら、使い回さず、自分の評価で振り直せ

設定の使い回しは、指示の使い回しと同じくらい危ない。 これが今回いちばんの学びでした。






🔵 ここからは、僕の仮説です

公式が基準を出していない以上、あとは各自の仮説になります。





僕がいま採っているのはこれです。

🎓effort は「難しさ」ではなく、答えをどれだけ白紙から導出する必要があるかで決める‼️

ただしこれは上げる側の判断軸です。障害の原因を白紙から立てる、記事の構成をゼロから組む。こういう仕事は浅くすると成立しません。




下げる側には、別の下限があります。




手順が完全に列挙されている仕事に深い推論は要りませんが、列挙されているということは、飛ばされて困る工程がそれだけあるということです。





僕の環境でそれに当てはまったのは、タイトルとタグを生成する1本だけでしたが・・・実は、今回この記事を書きながら、その1本も medium に上げました。




うちの仕事に low の使い道は無い」というのが現時点の結論です。





第3章:Opus 5 に監査させたら、「対象外です」で片づけられた 🔍


棚卸しの実務は、Opus 5 自身にやらせました。





エージェント定義30本 7,553行、会社ルール741行、学習ログ134本を読ませて、公式ドキュメント4ページと突き合わせる。人力なら丸1日の作業です。





💡結果は、即時対応が1件、削除4件、変更7件、追加4件。上出来でした。
ただ、そのうち2件が間違っていました。





👤「まあ、AIは間違えますよね」

そこは僕もそう思います。引っかかったのは間違いの中身でした。
2件とも、Opus 5 が新しくできるようになったことが裏目に出た形だったんです。





🟢 ① 「そこは自動生成なので触れません」

ひとつめ。ある設定ファイルについて、こう報告されました。

「この部分はスクリプトAが生成しているので、手では編集できません」

筋が通っています。自動生成されるファイルを手で直せば、次の実行で上書きされる。
だから僕は「じゃあ自動化部門の管轄だな」と判断しかけました。




ちょっとスクリプトの中身の話のなるので、複雑かもですが。実際に開いてみたら、スクリプトAはそのファイルに一行も書いていませんでした。






書き込む処理は別のスクリプトBにあり、しかもその処理はどこからも呼ばれていない。つまり、誰も書いていないファイルを「自動生成だから触れない」ことにしていた。





ここで思い出してほしいのが、公式ガイドのこの一文です。

"Claude Opus 5 can also expand the scope of a task, adding steps that weren't requested" 

Opus 5 はタスクの範囲を広げ、頼まれていない手順を足すことがある




公式が挙げているのは「広げる」ほうです。でも範囲を自分で判断するということは、狭めることもできるということでした。





そして厄介なのは、狭めたことが報告に出てこない点です。広げた場合は成果物が増えるので気づきます。狭めた場合は、そもそも無かったことになる





🟠 ② 3ページ調べて「公式にそんな記述はない」

ふたつめ。effort の効き方を調べさせたときです。

「公式ドキュメントに、その記述は存在しません」

Prompting・Migration guide・Effort の3ページを確認したうえでの結論でした。根拠が具体的なので、僕はそのまま受け取りました。




気づいたのは偶然です。別の場所で同じ話題を扱ったら、違う説明が出てきた。食い違ったので原典を開き直しました。





4ページ目の What's new in Claude Opus 5 に、見出しとして書いてありました。

3ページの中では、検証はきちんと働いていたと思います。効かなかったのは4ページ目に対してです。





🔴 「自分で検証する」が届かない場所

ここが今回いちばんの学びでした。




前編で、公式が「検証指示を消せ、品質は落ちない」と言い切っている話を書きました。実際に消しても品質は落ちませんでした。




理由は、その指示が元から効いていなかった範囲があるからです。

Opus 5 の自己検証は、手元にあるものにしか効かない。




3ページ読んだなら、その3ページの中身は検証される。
でも読んでいない4ページ目は、検証の対象にすら入らない。自分が見落としていることを、見落としている本人は確かめようがありません。




①も同じで、対象外にした瞬間、そこは検証の外に出ます

前のモデルなら「必ず検証しろ」と外から書いていました。あれは検証させるためというより、人間の側が「まだ確認していない」と意識し続けるための札だったのかもしれません。




Opus 5 がそこを引き取ってくれたぶん、僕の側の意識が外れた。2件とも僕が偶然見つけました。Opus 5 の側から訂正は一度も来ていません。





🔵 だから、出させるものを変えた

「気をつける」では再発します。出力の形を変えました。




📗 Opus 5 に調査・監査をさせるときの2行
結論ではなく「見た範囲」を書かせる。
「該当なし」ではなく「ページA・B・Cを見た。この3つには無い」。自己検証は範囲の外に効かないので、範囲そのものを見えるようにするしかありません
「対象外」にした項目を、根拠つきで必ず出させる。
スコープの判断がモデル側で完結する以上、捨てたものこそ report させる。前編で書いた「重大なものだけ報告して、と書くと本当に報告が減る」と、同じ構造の対策です

「該当なし」が「ページA・Bは見ました、Cは未確認です」に変わりました。





👤「それって結局、また外から指示を足しているのでは?」

昔ながらの補正とは違います。仕事のやり方には口を出していません。 「どこまでを自分の担当とみなしたのか、それを言ってくれ」と頼んでいるだけです。
責任を持つ相手に責任範囲を聞くのは、縛りではありません。





この2行を足してから、「該当なし」が「ページA・Bは見ました、Cは未確認です」に変わりました。未確認と書いてくれるだけで、こちらの仕事が全部変わります。





2件とも、Opus 5 が新しくできるようになったことの裏側で起きています。範囲を自分で決められるから、範囲の外を黙って落とせる。自分で検証できるから、検証したつもりで止まれる。





そして2件とも、僕が偶然気づきました。 偶然に頼って2件見つかったということは、偶然が起きなかったぶんは、たぶんまだ残っているということです。


AIが間違えた2つのパターン






第4章:AIが、品質の責任を持ち始めた ⏳

ここまで書いてきて、この一件の本質が見えてきました。

👤「結局、また新しいモデルが出たら同じことが起きませんか?」

起きると思います。でも、起きる理由に方向があります。AIが、これまで人間に押しつけていた品質の責任を、自分で引き受け始めた。今回の変化は全部そこから説明がつきます。





僕たちがAIに書き足してきた指示の多くは、その時点のモデルの弱点を埋める補正でした。






検証しないから検証させた。忘れるから念を押した。曖昧に流すから範囲を指定した。





これは裏を返せば、AIが品質に対して無責任だったということです。だから人間が外側から縛るしかなかった。





Opus 5 で公式が言っているのは、その前提の終わりです。

頼まなくても自分で検証する。上げた効果が結果に変わりやすくなったのも、同じ流れの上にあります。不確かさを引き受けなくなった、と言い換えてもいい。





そうなると、書いた言葉だけが残ります。

旧モデルは、放っておくと検証しませんでした。だから「必ず検証してから報告して」と書いた。書いた分だけ品質が上がった。





Opus 5 は、何も書かなくても検証します。そこに同じ一文が残っていると、同じ検証が二重に走ります。 時間とトークンを余分に使って、公式いわく品質は変わらない。





同じ一文が、品質を上げる側から、コストだけ増やす側に移った。 言葉は一字も変わっていません。変わったのはモデルのほうです。これが今回起きたことの正体でした。




AI側が責任を持ってくれるなら関わり合い方が変わります。



🔴 責任感が強すぎて終われなくなる、という副作用

面白いのは、この変化に副作用があることです。




日本語でシステムカードを読み解いていた方の記事に、示唆的な報告がありました。




24時間かかるタンパク質設計のタスクで、Opus 5 が成果物を提出できずに終わった試行があったというものです。





著者は「非生産的な自己検証」を原因の候補に挙げていますが、Anthropic 自身はこれを一般的な特性とは断定していないとも慎重に書き添えています。




責任感の強いモデルが、自分で検証しすぎて終われなくなる。ここに外から「もっと検証しろ」と書き足していたら、どうなるか。





🟢 仕込みは「期限つきの資産」

ここは誤解されたくないので、はっきり書きます。積み上げてきたものは、無駄ではありません。





41箇所も61箇所も54箇所も、そのときのモデルに対しては、ちゃんと最適だったものです。間違っていたのではなく、モデルが動いたから合わなくなった。それだけのことです。





✅だから僕は、AIへの仕込みを期限つきの資産として扱うことにしました。✅ルールを足すときはいつ見直すかも一緒に書く。価値が消えるのではなく、評価替えが要るということです




そしてこの方向自体は、僕は歓迎しています。AIが品質の責任を引き受けてくれるなら、こちらは縛るための言葉を減らせる。





Opus 5 だけの話でもないはずで、これから出るモデルは全部この流れだと思っています。





だとすれば僕たちの役割は、「AIを縛ること」から「AIが責任を持てる形で仕事を渡すこと」に移っていく。





Fable 5 が公開3日で消えたとき、僕は「止まっても困らない設計」という結論を出しました。今回はその続きで、「古くなっても困らない設計」です。






まとめ ⏳

前後編で書いたことからを、3行にします。

✅Opus 5 は使えます。 同じ成果物までのタスク数が明確に減りました。
AIに指示を書き込んできた人は、乗り換える前に棚卸しが要ります。 僕の環境では数十箇所ぶつかっていました。
消すのはAIの自己検証だけ。外部を確かめる仕組みは全部残す。 ここを間違えると、防御を自分で外すことになります。

そして、設定の使い回しは指示の使い回しと同じくらい危ない。




この記事の材料は Opus 5 公開から数日以内のものです。





評価はまだ初見の段階で、今後まったく違う結論に落ち着く可能性があります。数字を鵜呑みにせず、あなたの環境で測ってください




また発見したことがあれば記事にしますね‼️

Opus5の前後編まとめでもっとも覚えておいてほしいこと。



最後までお読みいただき、ありがとうございます‼️




さて、あなたなら次にどんなAIツールを試してみたいですか⁉️
ぜひ、コメントであなたの意見を聞かせてください‼️




この記事が少しでも「役に立った!」と思っていただけたら、
「スキ」を押していただけると、次の記事を書く大きな励みになります‼️

いいなと思ったら応援しよう!

この記事が参加している募集