ONNX Runtime 加速 Hugging Face 上超过 130,000 个模型

ONNX Runtime 已支持 Hugging Face 上超过 130,000 个 ONNX 模型，覆盖 90 多种模型架构，包括 BERT、GPT2、DistilBERT、Stable-Diffusion、Whisper 等 11 个最热门架构。以 whisper-tiny 为例，使用 ONNX Runtime 加速后，单次推理平均延迟相比 PyTorch 最高可降低 74.30%。