ローカルLLMをHermesにつないで分かったこと——DS4、MoA、Apple Foundation Modelsの実測記録

普段使いのMacBook Proには、あえてHermes Agentを入れていなかった。クラウドの高性能モデルで足りていたし、手元に置く理由がなかったからだ。

気が変わったのは、macOS 27にApple Foundation Models（AFM）が乗ってきたから。Fable 5が動いている横で、オンデバイスモデルがエージェントの頭脳としてどこまで使えるのか、確かめたくなった。

そこでHermesに、DeepSeek V4 Flash専用のローカル推論エンジン「DS4」とAFMをつなぎ、Mixture of Agents（MoA）で複数モデルを束ねて回した。先に結論を書くと、ローカルLLMは「クラウドの安い代用品」ではなかった。まったく別の仕事に向いていた。そこに行き着くまでに、わりと綺麗に転んだ。

なお、このHermesはCodex主体で組んでいる。Claudeが一度サードパーティーアプリの排除を打ち出して撤回した経緯があるのと、Codexベースのほうがイラストも描かせられるからだ。環境の詳細は過去記事を参照してほしい。書ける範囲での記録になる。