互联网/IT行业面试题更新 2026-08-05

在强化学习训练中,选择 GRPO 而非 PPO 或 DPO 的主要动机是什么?它解决了哪些核心问题?

美团人工智能互联网/IT技术原理方案权衡

考察说明

考察对 GRPO 与 PPO、DPO 差异的理解及选型逻辑

回答思路

  1. 能对比 GRPO 与 PPO 在 critic 模型依赖上的差异
  2. 能解释 GRPO 如何通过组内相对优势降低方差
  3. 能说明 GRPO 与 DPO 在优化目标和数据需求上的区别
  4. 能结合具体训练成本或稳定性问题说明选型理由