ローカルでもサクサク動画生成(ComfyUI-HunyuanVideoWrapper, I2V)

kijai氏のComfyUI-HunyuanVideoWrapperでの動画生成で、生成時間に関わる部分を比較しました。

最終的には432×768, 97frames を1動画あたり41秒で生成できました。※ロード時間等は含まず

前置き

使用モデル

6stepsで動画を生成できるモデルを使いました。

huggingface.co

hunyuan_video_FastVideo_720_fp8_e4m3fn.safetensors · Kijai/HunyuanVideo_comfy...

https://huggingface.co/Kijai/HunyuanVideo_comfy/blob/main/hunyuan_video_FastVideo_720_fp8_e4m3fn.safetensors

ワークフロー

実行環境

• Windows 11
• Nvidia RTX 4080 16GB
• ComfyUI_portable

ComfyUIやtritonその他インストールについては以前の記事を参考にしてください。

ComfyUIとHunyuanVideoでローカル動画生成(I2V)

いつの間にかローカル動画生成が進化していました。今回はComfyUIのインストールから、HunyuanVideoを使ってImage2Videoを実行するまでを書いていきます。参考記事： (Reddit) How to run Hunyuan...

futsukayoi-kaihatsu.com

2025.02.18

Torch Compile による最適化

HunyuanVideo Torch Compile Settings ノード

このノードをHunyuanVideo Model Loader ノードに接続するとtorch.compile() によるJITコンパイルが行われ、PyTorchのコードがカーネルに最適化されるそうです。
使うには triton のインストールが必要です。未インストールの方は以前の記事を参考にしてください。

Torch Compileによる最適化の検証

• 432xx768
• 121フレーム
• 6steps

HunyuanVideo Torch Compile Settings ノードありの場合となしの場合でワークフローを2回実行し、それぞれの実行時間と動画生成中のVRAM使用量を比較します。

ワークフローは1回の実行で4つの動画を生成するものを使いました。

Torch Compile なしの場合：

Torch Compile ありの場合：

HunyuanVideo Torch Compile Settings ノードをつなぐと特に２回目以降の生成時間が大幅に短縮されます。

１動画あたりでは 1m10s -> 55s なので、約21% の短縮です。
さらにVRAM使用量も減少するため、生成フレーム数を増やすこともできますね。

補足：コンパイルキャッシュによるエラーの解決

Torchコンパイル時にエラーが出たので、解決方法をメモしておきます。

私はComfyUI_portableの環境を複数持っているのですが、他の環境で作成されたキャッシュのせいで

ImportError: DLL load failed while importing __triton_launcher: 指定されたモジュールが見つかりません。

というエラーが出てしまいました。
小一時間悩みましたが、以下のフォルダを削除することで解決しました。

C:\Users\<ユーザー名>\.triton
C:\Users\<ユーザー名>\AppData\Local\Temp\torchinductor_<ユーザー名>

run_nvidia_gpu.bat を編集し、起動時に毎回キャッシュを削除するようにしました。

rmdir /s "%temp%\torchinductor_%username%"
rmdir /s "%HOMEDRIVE%%HOMEPATH%\.triton"

.\python_embeded\python.exe -s ComfyUI\main.py --windows-standalone-build
pause

attention_mode の比較

HunyuanVideo Model Loader ノード

attention_modeは

• sdpa
• flash_attn_varlen
• sageattn_varlen
• sageattn
• comfy

を選ぶことができます。

各 attention_mode の生成速度を比較

各 attention_mode で実行し、生成時間とVRAM使用量を比較します。

sageattn_varlen が良さそうです。sdpa と比較すると 2m20s -> 55s と約61%も生成時間が削減され、VRAM使用量も少ないです。

sageattn も速いですが、sageattn_varlen と比較するとVRAM使用量が少し増えるようです。

なお、sageattn_varlenで実行するにはSageAttentionのインストールが必要です。未インストールの方は以前の記事を参考にしてください。

TeaCache

HunyuanVideo TeaCache ノード

この数値を上げるほど生成が速くなるらしい。

TeaCache による高速化の検証

こちらも単一ワークフローで動画を2つ生成し、2つ目の動画の生成時間とVRAM使用量を比較しました。

使うだけで2.3GBのVRAM使用量が増えました。

なしの場合と rel_l1_thresh=0.2 の場合を比較すると、 1m21s -> 53s と 約35% も生成時間が削減されました。

ただし、値を上げすぎると生成動画の品質が下がります（映像がぼやける感じ）。
デフォルト値の rel_l1_thresh=0.15 が品質と生成速度のバランスが良さそうです。

まとめ

• Torch Compile Settings ノードを使うと生成時間が短縮され、VRAM使用量も減少する
• attention_mode は sageattn_varlen が高速で省VRAMなのでおすすめ
• TeaCache ノードは rel_l1_thresh=0.15 くらいで使うと大幅に高速化され品質の低下も少ない。ただし、使うとVRAM使用量が増えることに注意。

最後に

最後に、一番遅い設定と速い設定でどれくらいの差があるかを比較

• 432×768
• 97フレーム
• 6steps

2m38s -> 41s と 約84% の短縮となりました。

※生成時間：HunyuanVideo Samplerノードの実行にかかった時間を計測
※モデルのロードやコンパイル時間は含みません