【ローカルi2v】Wan2.2(14B)を使ってみた話①【RTX 3060】
はじめに
（注意：本記事はネイティブLinux上の動作です）
5B版Wan2.2を試すと、Framepackと比べてうーんだったのでそのままにしていたのですが、14B版もGGUFを利用すると12GB GPUでも動くとの事。早速試してみました。
導入
まずは、ComfyUIのプリイン・テンプレートを利用します。ComfyUIを最新にした後、
GGUFモデルを利用するので、「ComfyUI-GGUF」カスタムノードも必要です。
GGUFモデルを入手します。
wan2.2_i2v_high_noise_14B_Q4 K_S.gguf
wan2.2_i2v_low_noise_14B_Q4 K_S.gguf
を「modes/diffusion_models」にコピーして利用します。high_noiseは大雑把な形状を、low_noizeは詳細な形状というものなので、限りなくhighres-fixと同じ戦略ですね。
最適化
せっかくsageattention2を試したので、
ComfyUIにも導入してみます。上記事と同じ手法でsageattention2をpip導入した後、ComfyUI起動オプションに「--use-sage-attention」を利用します。
comfyuiも表示上はsage-attentionを読み込んだと出ますが、実際にRTX 3060で利用しているかはわかりません。
動作
約40分待ちます。（RTX 3060）
ただし、注意が必要なのが、5Bモデルでは24fpsが可能ですが、14Bモデルでは16fpsのみです。※ Framepackは30fpsです
16fpsであれば、動きの激しいダンス動画は難しいでしょう。
ところどころにアーティファクトが発生してしまってますが、原因は不明です。量子化モデルが原因かどうかはわかりませんが、他の人も似たような症状は報告にあるようです。
まとめ
RTX 3060でも14Bモデルかつ現実的な時間（といっても40分ですが）で生成する事が可能でした。
②へつづく
以下、関連する記事の【PR】です。
