三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

如何为你的GPU选择最佳模型?MiniMax-H3-nvfp4-INT4-INT8-Convrot硬件适配指南

如何为你的GPU选择最佳模型?MiniMax-H3-nvfp4-INT4-INT8-Convrot硬件适配指南

如何为你的GPU选择最佳模型?MiniMax-H3-nvfp4-INT4-INT8-Convrot硬件适配指南

【免费下载链接】Minimax-H3-nvfp4-INT4-INT8-Convrot项目地址: https://ai.gitcode.com/hf_mirrors/Abiray/Minimax-H3-nvfp4-INT4-INT8-Convrot

MiniMax-H3-nvfp4-INT4-INT8-Convrot是一个社区编译的量化和剪枝权重集合,专为本地推理环境(如ComfyUI)优化。通过将多种量化格式(INT4、INT8、混合和NVFP4)统一到一个结构化仓库中,该项目使拥有消费级GPU(16GB - 24GB VRAM)的用户能够轻松体验MiniMax H3强大的全模态文本/图像/音频到视频生成能力。

📋 量化格式与VRAM需求速览

INT4:标准消费级硬件的理想选择

INT4是高压缩模型,适用于标准消费级硬件,仅需约11.3 GB VRAM。对于16GB VRAM的高端GPU(如RTX 4070 Ti Super、RTX 4080等),是不错的选择。对应的扩散模型文件如MiniMax_H3_FL2VA_pruned_int4_convrot.safetensorsMiniMax_H3_Ref2VA_pruned_int4_convrot.safetensors

INT8:追求最高剪枝质量的选择

INT8是最高质量的剪枝模型,需要24GB以上VRAM(约21 GB)。适合RTX 3090、RTX 4090等 enthusiast 级GPU。扩散模型文件有MiniMax_H3_FL2VA_pruned_int8_convrot.safetensorsMiniMax_H3_Ref2VA_pruned_int8_convrot.safetensors

MIXED INT4/INT8:平衡性能与质量

混合精度模型,需要15+ VRAM(约15.5 GB)。文件包括MiniMax_H3_FL2VA_pruned_mixed_int4_int8_convrot.safetensorsMiniMax_H3_Ref2VA_pruned_mixed_int4_int8_convrot.safetensors

NVFP4:Nvidia Blackwell GPU专属

实验性的Nvidia 4位浮点模型,需要Blackwell架构。适用于RTX 5090、PRO 6000等下一代Blackwell显卡,30/40系列显卡请勿下载。扩散模型文件如MiniMax_H3_Ref2VA_pruned_nvfp4.safetensors(12.5 GB)、MiniMax_H3_Ref2VA_nvfp4_mixed.safetensors(24.4 GB)和MiniMax_H3_FL2VA_pruned_nvfp4.safetensors(12.5 GB)。

🔍 不同GPU型号的模型选择指南

1. 标准高端GPU(16GB VRAM)

Perfect for RTX 4070 Ti Super, RTX 4080等

  • 扩散模型:下载INT4(MiniMax_H3_[...]_pruned_int4_convrot.safetensors)或混合(_mixed_int4_int8_)版本。
  • 文本编码器:下载qwen3vl_32b_minimax_h3_int4_convrot.safetensors

2. Enthusiast级GPU(24GB VRAM)

Perfect for RTX 3090, RTX 4090等

  • 扩散模型:下载INT8(MiniMax_H3_[...]_pruned_int8_convrot.safetensors)以获得最高的剪枝质量。
  • 文本编码器:下载qwen3vl_32b_minimax_h3_int8_convrot.safetensors

3. 仅适用于Nvidia Blackwell GPU

Exclusively for RTX 5090, PRO 6000等下一代Blackwell显卡。30/40系列显卡请勿下载!

  • 扩散模型:下载NVFP4(MiniMax_H3_[...]_pruned_nvfp4.safetensors)。
  • 文本编码器:下载qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors

📌 必知:VAEs和文本编码器

VAEs(/vae)

无论你的GPU如何,每个人都必须下载/vae文件夹中的两个文件:minimax_h3_audio_vae_fp32.safetensors(605 MB - 音频解码器)和minimax_h3_video_vae_fp16.safetensors(5.21 GB - 视频解码器)。

文本编码器(/text_encoders)

  • qwen3vl_32b_minimax_h3_int4_convrot.safetensors(15.0 GB)-推荐用于16GB GPU
  • qwen3vl_32b_minimax_h3_int8_convrot.safetensors(27.1 GB)-推荐用于24GB GPU
  • qwen3vl_32b_minimax_h3_nvfp4_awq.safetensors(15.7 GB)-用于Blackwell GPU

🔄 FL2VA vs. Ref2VA:如何选择?

FL2VA

如果你只想进行标准的文本到视频或简单的图像到视频(使用一两个起始/结束图像),下载FL2VA相关文件。

Ref2VA

如果你想使用高级全参考(多个图像、视频剪辑或音频输入),下载Ref2VA相关文件。

🚀 开始使用

要开始使用MiniMax-H3-nvfp4-INT4-INT8-Convrot,首先克隆仓库:

git clone https://gitcode.com/hf_mirrors/Abiray/Minimax-H3-nvfp4-INT4-INT8-Convrot

然后根据你的GPU型号和需求,按照上述指南下载相应的模型文件、文本编码器和VAEs文件,即可在本地推理环境中体验强大的全模态生成能力。

【免费下载链接】Minimax-H3-nvfp4-INT4-INT8-Convrot项目地址: https://ai.gitcode.com/hf_mirrors/Abiray/Minimax-H3-nvfp4-INT4-INT8-Convrot

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

← 返回列表