Hugging Face Blog·· 2023-04-17AI 评分44
用 AWS Inferentia2 加速 Hugging Face Transformers
Accelerating Hugging Face Transformers with AWS Inferentia2
AI 导读
Hugging Face 与 AWS 合作,将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化,通过 optimum-neuron 一行代码即可编译模型,无需切分或修改。
来源:Hugging Face Blog · huggingface.co