用 🤗 Optimum Intel 在 Xeon 上实现 7.8 倍加速的 SetFit 推理

Hugging Face 展示了如何用 🤗 Optimum Intel 将 SetFit 模型在 Intel Xeon CPU 上的推理速度提升 7.8 倍，通过 Intel Neural Compressor 对模型主体做 post-training static quantization（PTQ）即可实现。