ローカル自律エージェントはどこまで実用か。「32B閾値」説の中身

「ローカルLLMで自律エージェントは何B以上あれば実用か」。よく「32B」という数字が挙がりますが、これは公式基準ではなく経験則です。数字だけを信じると外します。エージェントが回る条件を整理します。

自律エージェントに必要なのはtool calling

自律エージェントは、モデルがツール(検索・ファイル操作・コマンド実行など)を正しく呼び出せて初めて成立します。ここが崩れると、何段の推論を組んでも動きません。

• ツールを正しい形式(引数・型)で呼べるか

• 多段の作業で選択・引数を誤らないか

この「tool callingの安定性」が、エージェント実用の鍵です(『ローカルLLMのtool calling実測』も参照)。

「32B閾値」説とは

コミュニティでよく言われるのが、「27〜32B級ないとエージェントはまともに回らない」という経験則です。

• 7B未満や、ツールコール訓練を明示的に受けていない汎用モデルは、実ワークロードで不正な(malformed)ツールコールを頻発する

• 失敗はエージェントの枠組み側でなく、モデル側に起因することが多い

• 実用の目安として27〜32B級(例: Qwen3-32B、Qwen3-Coder 30B系、Llama 3.3 70B)が挙げられる

ただし、これは公式基準ではなく経験則(説)です。「32B以上なら大丈夫」と保証するものではありません。

パラメータ数より訓練とアーキ

より正確に言うと、効くのはパラメータ数だけではありません。

• ツールコール向けに訓練されているか(訓練手法)

• アーキテクチャの設計

「訓練済みの小型モデルが、無訓練の大型を上回る」例もあります。だから「◯B以上」で機械的に選ぶより、tool callingを想定して訓練されたモデルかを見る方が本質的です。

信頼性の現実

エージェントの信頼性には、まだ天井があります。

• 単純なタスクでは整形成功90%以上のモデルもある

• ただし多段の実ワークフローでは、選択・引数の誤りが累積し80〜90%程度に落ちる

100%は期待しない。重要な操作には人間の承認を挟む設計が現実的です(OWASPの「過剰なエージェンシー」対策にもなります)。

実務での選び方

固有のモデル名は流動的なので、Qwen3-32Bのような実在・訓練済みモデルを起点に、自社タスクで検証してから決めます。

まとめ

• 自律エージェントの鍵はtool callingの安定性。ここが崩れると多段推論も動かない

• 「32B閾値」は公式基準でなく経験則。7B未満や無訓練モデルは不正なツールコールを頻発

• 効くのはパラメータ数より訓練手法・アーキ。tool calling訓練済みかを見る

• 多段では信頼性80〜90%が現実。重要操作は人間承認を挟む。実在モデルで自社検証する

主な参考資料: tool-calling-benchmark(GitHub)、Qwen3公式ブログ

TodoONadaでは、ローカルLLMを使った社内エージェントの設計・検証を支援しています。お問い合わせはこちら。