跳到正文
Hugging Face Blog·· 2025-07-23AI 评分56

Hugging Face 分享 Flux LoRA 推理加速方案,H100 上提速 2.23 倍

Fast LoRA inference for Flux with Diffusers and PEFT

AI 导读

Hugging Face 官方博客介绍了在 Diffusers 和 PEFT 中优化 Flux.1-Dev 模型 LoRA 推理速度的方案,通过 Flash Attention 3、torch.compile、FP8 量化和支持热交换的加载方式,在 H100 上相比基线取得 2.23 倍加速。

来源:Hugging Face Blog · huggingface.co