腾讯面试题更新 2026-08-05

从算法原理和训练资源角度,解释 GRPO 相比 PPO 在哪些方面节省了计算资源,以及它为何可能成为业界更受青睐的强化学习训练方法?

腾讯人工智能互联网/IT系统设计技术原理

考察说明

考察对 GRPO 算法原理及资源优化的理解

回答思路

  1. 指出 GRPO 去掉 Critic 价值网络,减少模型参数量与显存占用
  2. 说明 GRPO 使用组内相对奖励替代优势估计,降低计算复杂度
  3. 能结合训练稳定性或采样效率讨论资源节省的权衡
  4. 避免凭空关联股市等无关信息