#GSPO
1 posts · All tags
用 verl 真实代码把 6 个主流 RLHF/RLVR 算法一次讲透:以“算法 = Advantage 估计 × Policy Loss”的统一框架,逐一拆解 PPO、GRPO、Dr.GRPO、GSPO、DAPO、OPD,以及 RLOO/ReMax/REINFORCE++/OPO/GPG 等 Critic-free 变体。
1 posts · All tags
用 verl 真实代码把 6 个主流 RLHF/RLVR 算法一次讲透:以“算法 = Advantage 估计 × Policy Loss”的统一框架,逐一拆解 PPO、GRPO、Dr.GRPO、GSPO、DAPO、OPD,以及 RLOO/ReMax/REINFORCE++/OPO/GPG 等 Critic-free 变体。