用 NNCF 和 🤗 Optimum 优化 Stable Diffusion 在 Intel CPU 上的推理

Hugging Face 用 OpenVINO NNCF 的量化感知训练（QAT）结合 Token Merging 优化 Stable Diffusion，相比 PyTorch 实现 5.1x 推理加速和 4x 模型体积缩减。优化仅需 4096 次迭代，用一块 24 GB 显存的 GPU 不到一天即可完成。优化后的模型适合在客户端或边缘 CPU 等算力受限设备上运行。