滴滴面试题更新 2026-08-05

GRPO 和 PPO 在 RLHF 中的核心区别是什么?

滴滴人工智能技术原理方案权衡

考察说明

考察对两种强化学习优化算法的机制差异理解

回答思路

  1. 准确说明 PPO 使用价值网络估计优势函数
  2. 准确说明 GRPO 使用组内相对奖励估计优势、省去价值网络
  3. 指出 GRPO 节省内存并降低训练复杂度,适用于大模型 RLHF
  4. 理解二者在策略更新和采样方式上的差异
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。