Gemma4 12Bを使ってみた話【しかし動作しなかった】

はじめに

Google Gemma4シリーズの新しいモデル12Bが出たので利用してみました。

単に規模が異なるだけでなく、密なマルチモーダルモデルとして、テキストと画像と音声を（埋め込みベクトル処理後は）区別する事無く同じTransformerで扱う手法になったという事です。abliteratedするのは大変そうですね

Gemma4のアーキテクチャに変更はありません。

動作確認

既にUnslothのgguf版が公開されています。

Ollama 0.3.2で確認

LM Studioで確認

既にLM Studio公式モデルが用意されています。

しかし、エラーで読み込めませんでした。

挫けずにUnslothモデルで再挑戦します。

まとめ

人類には早すぎたようです。ゴミ情報になってしまいました。

もう少し対応を待った方が良さそうですね。