Miles 将 SGLang rollout、Megatron-LM 训练和 FSDP2 后端组装成大规模 RL 后训练平台,重点处理异步 rollout、秒级权重更新、低精度稳定性和引擎故障恢复。它覆盖 GRPO/GSPO/PPO、LoRA、多 LoRA、编码 agent 环境以及 NVIDIA GB300 到 AMD MI355X 等硬件;TITO 和 Rollout Routing Replay 专门减少 token 重编码与 MoE 路由不一致带来的训练噪声。
–浏览
评论 · Comments