跳到正文
Hugging Face Blog·· 2022-05-10AI 评分44

Hugging Face Optimum 1.2 支持 Transformers pipelines 加速推理

Accelerated Inference with Optimum and Transformers Pipelines

AI 导读

Hugging Face 发布 Optimum 1.2,新增对 Transformers pipelines 的推理支持,用户只需把 AutoModelForXxx 替换为 ORTModelForXxx 即可调用 ONNX Runtime 等加速运行时,代码与 Transformers API 完全兼容。

来源:Hugging Face Blog · huggingface.co