AWS Machine Learning Blog· Ashvin Nihalani·· 4 天前AI 评分36
在 Amazon EKS 上用 EFA 和 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput
AI 导读
AWS 结合 Amazon EKS、EFA 与 DeepEP 优化 MoE 模型的强化学习后训练，实现吞吐量提升 40%。该架构针对 rollout 生成与策略训练并行的异步 RL 负载，缓解 Expert Parallelism 带来的跨节点 all-to-all 通信瓶颈，适用于 RLHF、GRPO 等大规模 RL 训练流程。
来源：AWS Machine Learning Blog · aws.amazon.com