Hugging Face Blog·· 2026-07-23
Diffusers 原生支持 Nunchaku 4-bit 扩散推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Hugging Face 在 Diffusers 中引入 Nunchaku Lite，可直接用 from_pretrained() 加载 Nunchaku 量化检查点，无需自定义 pipeline 或本地 CUDA 编译。
入选记录
门槛 60官方一手第一次 58第二次 62
入选两次之和 120 ≥ 门槛的两倍 120
- 信源等级
- 官方一手，这一级的门槛是 60 分
- 预筛
- 通过：Diffusers集成Nunchaku 4-bit扩散推理量化技术
- 推荐理由
- Diffusers 原生接入 Nunchaku 4-bit 推理，读者可了解消费级显卡跑扩散模型的内存与延迟取舍。
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：Hugging Face Blog · huggingface.co