Hugging Face Optimum Intel 集成 OpenVINO 加速模型推理与量化

Hugging Face 宣布在 Optimum Intel 中加入 Intel OpenVINO，可直接用 OpenVINO Runtime 在各类 Intel 处理器上运行 Transformers 模型推理，并通过 NNCF 量化压缩模型体积与延迟。