Hugging Face Blog·· 2025-05-25AI 评分15
Liger GRPO 与 TRL 集成:DeepSpeed ZeRO3 下的 shape mismatch 问题
🐯 Liger GRPO meets TRL
AI 导读
用户在使用 liger loss 配合 DeepSpeed ZeRO3、以 bf16 精度训练 Qwen/Qwen2.5-0.5B-Instruct 时遇到 shape mismatch 报错,错误发生在 TRL 的 GRPO trainer 调用 liger_kernel 的 LigerFusedLinearGRPOFunction 计算 loss 的过程中。
来源:Hugging Face Blog · huggingface.co