跳到正文
Hugging Face Blog·· 2023-04-17AI 评分44

用 AWS Inferentia2 加速 Hugging Face Transformers

Accelerating Hugging Face Transformers with AWS Inferentia2

AI 导读

Hugging Face 与 AWS 合作,将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化,通过 optimum-neuron 一行代码即可编译模型,无需切分或修改。

来源:Hugging Face Blog · huggingface.co