ESC
开源 1 分钟阅读

ComfyUI-H3VAE_TRT：在ComfyUI中运行ONNX/TensorRT版MiniMax-H3 VAE，速度最高提升1.7倍

开发者lihaoyun6发布开源项目ComfyUI-H3VAE_TRT，支持在ComfyUI中以ONNX/TensorRT方式运行MiniMax-H3 VAE，速度最高提升1.7倍。项目提供TensorRT引擎编译与加载节点，模型文件可从Hugging Face下载，显存不足12GB的用户可选用w4a16_awq量化解码器。

来源：GitHub

ComfyUI-H3VAE_TRT

在ComfyUI中运行TensorRT版本的MiniMax-H3 VAE，速度最高可提升1.7倍

预览

安装

安装节点：

cd ComfyUI/custom_nodes
git clone https://github.com/lihaoyun6/ComfyUI-H3VAE_TRT.git
python -m pip install -r ComfyUI-H3VAE_TRT/requirements.txt

使用方法

下载模型

  1. 下载encoder和decoder的.onnx文件（如存在.data文件也需一并下载）-> 点击此处

    如果你的显存不足12GB，可以使用w4a16_awq解码器。

  2. 将模型放入ComfyUI/models/vae目录

节点

  • 首次使用前，需通过MiniMax-H3 TRT VAE Compiler节点从onnx编译TensorRT引擎。
  • 编译完TRT Engines后，即可使用MiniMax-H3 TRT VAE Loader节点进行加载。

致谢