跳到正文
Hugging Face Blog·· 17 小时前精选AI 评分67

Hugging Face 推出 TorchTPU,让 TPU 成为 PyTorch 原生设备

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 发布 TorchTPU,一个把 TPU 作为 PyTorch 原生后端的项目,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,只需 device_map="tpu" 即可加载模型,不再依赖 torch_xla 或 Optimum TPU。

推荐理由

原文给出了从 torch_xla 迁移到原生后端的具体改动和实测加速数字,读者可据此评估 TPU 工作流的实际收益。

来源:Hugging Face Blog · huggingface.co