ローカルLLM対決 その２

こんにちは、中国語教師のエビ先生です。私はVRAM容量が8GBの中古ゲーミングPCでローカルLLMを動かしています。前回はgemma4-e2bとQwen3.5-9Bを比較しました。

最近、gemma4のe4b-it-qatというのが8GBのVRAMに収まることを知ったので、Ollamaで試してみました。

お題は前回と同様で、「桃太郎ってどんな話？200字で解説して」というライトなものです。

まずはgemma4-e2bです。

続いて、gemma4-e4b-it-qat。

地球マークを押して、Web Searchを有効にしてみます。

まずはgemma4-e2bから。

続いて、gemma4-e4b-it-qatもWeb Searchを有効にしてみました。

中国語文法についてもそうでしたが、すでにLLMが学習済みであろう知識を問うときは、Web Searchや思考モードを無効にした方がより良い結果を得られそうです。

ついでに、Qwen3.5-9BについてもOllamaで試しましたが、やはり思考モードを無効にできないので、いつまでもあーでもないこーでもないと考えており、やめました。LM Studioで思考停止させた結果を貼り付けておきます。

ちなみに、前回はこんな調子でした。
「山奥で育てられた桃太郎は、白い巨桃が割れて飛び出し、悪鬼退治のために鬼退治に出ます。その際、道に落ちた餅を拾ったイノシシ、カエル、タヌキが忠実な犬の忠義として加わります。」（Qwen3.5-9B）

まとめ：
gemma4-e4b-it-qatは8GBのVRAMで使うにはなかなか良さそうです。いずれ、中国語のOCRもやらせてみたいと思います。