Hugging Face Blog·· 2024-09-20AI 评分44
用 Optimum-Intel 和 OpenVINO GenAI 优化并部署 Hugging Face Transformers 模型
Optimize and deploy with Optimum-Intel and OpenVINO GenAI
AI 导读
Hugging Face 介绍了用 Optimum-Intel 和 OpenVINO GenAI 优化并部署 Transformers 模型的完整流程，涵盖导出 OpenVINO IR、权重量化与 GenAI API 部署。
来源：Hugging Face Blog · huggingface.co