Metaの久しぶりのオープンモデル

よく見ているYouTubeの番組で取り上げられていたのでいつもの試験問題でやってみましたがイマイチかなと。

まずはDenseなので自分の環境(マック ユニファイド32G)だとギリギリ動くレベルでトークンスピードが4t/sということに加えて推論部分が長すぎするような。

今なら32BクラスのDenseでもGemma4かQwen3.XもしくはOnirthの方がいいように思います。

いいなと思ったら応援しよう!