跳到正文
Hugging Face Blog·· 2025-05-25AI 评分15

Liger GRPO 与 TRL 集成:DeepSpeed ZeRO3 下的 shape mismatch 问题

🐯 Liger GRPO meets TRL

AI 导读

用户在使用 liger loss 配合 DeepSpeed ZeRO3、以 bf16 精度训练 Qwen/Qwen2.5-0.5B-Instruct 时遇到 shape mismatch 报错,错误发生在 TRL 的 GRPO trainer 调用 liger_kernel 的 LigerFusedLinearGRPOFunction 计算 loss 的过程中。

来源:Hugging Face Blog · huggingface.co