Hugging Face Blog·· 2023-08-09AI 评分45
用 🤗 Transformers 优化 Bark:三种推理优化实测
Optimizing Bark using 🤗 Transformers
AI 导读
Hugging Face 通过教程演示如何用 🤗 Transformers、Optimum 和 Accelerate 三个库对 Suno AI 的 TTS 模型 Bark 做推理优化,基线(suno/bark-small)在 5 次迭代下平均延迟 9.38 秒、显存占用 1.91 GB。
来源:Hugging Face Blog · huggingface.co