Hugging Face Blog·· 2022-06-28AI 评分51
Hugging Face 教程：用 Accelerate 结合 DeepSpeed ZeRO 加速大模型训练
Accelerate Large Model Training using DeepSpeed
AI 导读
Hugging Face 官方博客介绍如何用 Accelerate 库调用 DeepSpeed ZeRO 来训练大模型，无需改代码即可通过 accelerate config 启用 ZeRO Stage-2。
来源：Hugging Face Blog · huggingface.co