Hugging Face Blog·· 2024-01-15AI 评分51
Hugging Face 用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理
Accelerating SD Turbo and SDXL Turbo Inference with ONNX Runtime and Olive
AI 导读
Hugging Face 博客介绍如何用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理,在所有测试的 batch size 与步数组合上 ONNX Runtime 都优于 PyTorch,SDXL Turbo 吞吐提升最高达 229%、SD Turbo 达 120%。
来源:Hugging Face Blog · huggingface.co