Metaの久しぶりのオープンモデル
よく見ているYouTubeの番組で取り上げられていたのでいつもの試験問題でやってみましたがイマイチかなと。
まずはDenseなので自分の環境(マック ユニファイド32G)だとギリギリ動くレベルでトークンスピードが4t/sということに加えて推論部分が長すぎするような。
今なら32BクラスのDenseでもGemma4かQwen3.XもしくはOnirthの方がいいように思います。
よく見ているYouTubeの番組で取り上げられていたのでいつもの試験問題でやってみましたがイマイチかなと。
まずはDenseなので自分の環境(マック ユニファイド32G)だとギリギリ動くレベルでトークンスピードが4t/sということに加えて推論部分が長すぎするような。
今なら32BクラスのDenseでもGemma4かQwen3.XもしくはOnirthの方がいいように思います。