見出し画像

ローカルLLMのtool calling。エージェント実用の鍵はモデル選び

土門大貴/daikidomon

ローカルLLMに関数を呼ばせるtool calling。エージェント・MCP・自動化はすべてこの精度の上に載ります。何が実用の分水嶺かを、確かめられた範囲で整理します。

tool callingがローカルLLM活用の分水嶺

ローカルLLMの用途は、大きく2つに分かれます。

  • チャットで完結する用途: 質問応答、要約、翻訳。モデル単体で完結する

  • システムと連携する用途: 社内検索、DB照会、社内API呼び出し。外部のツールを呼ぶ必要がある

後者を可能にするのがtool calling(function calling)です。モデルが「この関数をこの引数で呼べ」という構造化された指示を出せる能力で、エージェント・MCP・業務自動化のすべてがこの精度の上に載ります。ローカルLLMを「賢いチャット」から「業務システムの一部」に引き上げる分水嶺が、ここです。

評価の物差し: BFCL

tool callingの標準ベンチマークが、Berkeley Function Calling Leaderboard(BFCL)です。現行はV4(2025年リリース)で、単発の関数呼び出しだけでなく、複数ステップの自律的なエージェントタスクを重視した評価になっています。

Qwen3系、Llama 3.x系、GPT系、Gemini系、DeepSeek系などが評価対象です。傾向として、tool calling向けに学習されたモデルが上位に来ます。具体的なスコア・順位は流動的なので、選定時はBFCLの最新版を直接確認してください。

モデル選びが「大きさ」ではなくなる

tool callingで押さえるべき第一の原則は、モデルの大きさより「tool呼び出しを学習しているか」が効くことです。

Qwen3系は公式に「tool calling能力に優れ、複雑なエージェントタスクでオープンソース中トップクラス」と位置づけられています(モデルカードのベンダー記載)。一方、大きいだけでtool学習が弱いモデルは、パラメータ数ほどの性能が出ないことがあります。

ただし「中型Qwenが大型Llamaを常に上回る」といった具体的な優劣は、公開ベンチの一次データで断定できる範囲が限られます。方向性(tool学習の有無が効く)は言えるが、個別モデルの優劣は自分のユースケースで測るのが確実です。2026年時点では、tool callingに強いローカルモデルとしてQwen3系・gpt-oss系が実用の候補になります。

量子化の影響: 「無害」と断言はできない

「量子化してもtool callingの精度は落ちない」という説明を見かけますが、これは一次的な検証データが十分ではありません。むしろ、量子化方式によっては性能が落ちる例(あるモデルがGPTQ版を品質劣化のため非推奨にした等)もあります。

実務的な結論はこうです。量子化の影響はタスクより方式・モデル依存が大きいので、本番採用前に自分のtool呼び出しで量子化版と非量子化版を比較する。「Q4なら安全」と決め打ちせず、使う量子化ファイルで実測するのが安全側です。量子化そのものの基礎は『量子化とは何か』を参照してください。

日本語追加学習の落とし穴

日本語に強くしたファインチューニング版(例: Qwen3 Swallow系)を使うときの注意です。これらのモデルは日本語能力を高める一方で、tool calling能力については明示的に学習・検証されていないケースがあります(Swallowのモデルカードもtool useを「未検証のユースケース」と位置づけています)。

つまり「日本語が自然になった代わりにtoolが崩れた」のではなく、そもそもtool呼び出しは保証対象外、という理解が正確です。対策は構成の分離です。

  • 対話・日本語生成: 日本語ファインチューニング版

  • tool呼び出し・エージェント実行: tool callingを学習した素のモデル(Qwen3系等)

用途でモデルを使い分けるのが、実務的な回避策になります。

実務での使いどころと限界

  • 実用: 単発のtool呼び出し、MCP接続、1〜2ステップの連携

  • まだクラウド優位: 5ステップを超える自律ループ(検索→判断→実行→検証→再試行)。ローカルは32B級が実用の入口という感触

  • 落とし穴: n8n/Difyなどのワークフローツール連携時、Ollamaのサブノードがtool callingに対応していない等の構成上の制約に注意

Claude Codeのバックエンドをローカルに向ける話は『Claude Codeをローカルモデルで動かす』で、実際に接続して確かめています。

まとめ

  • tool callingはエージェント・MCP・自動化の土台。ローカルLLMを業務システムに載せる分水嶺

  • 評価はBFCL V4。大きさより「tool学習の有無」が効く。強いのはQwen3系・gpt-oss系

  • 「量子化は無害」は一次検証が不十分。使う量子化版で自分のtoolを実測するのが安全

  • 日本語FT版はtool callingが保証対象外のことがある。対話は日本語FT・tool実行は素のモデル、と分離する

主な参考資料: Berkeley Function Calling Leaderboard、Qwen3-32B (Hugging Face)、Qwen3-Swallow (tokyotech-llm, Hugging Face)

TodoONadaでは、ローカルLLMと社内システムの連携(エージェント化)の検証・実装を支援しています。お問い合わせはこちら。

いいなと思ったら応援しよう！