专业服务行业面试题更新 2026-08-05

请比较强化学习中 PPO、DPO 和 RGPO 的异同,并说明各自的适用场景。

金蝶人工智能专业服务技术原理技术选型方案权衡

考察说明

考察对三类强化学习算法的原理理解及场景判断

回答思路

  1. 准确说明 PPO 是基于策略梯度的在线算法,通过裁剪目标函数限制更新幅度
  2. 准确说明 DPO 是离线偏好优化,直接基于偏好数据优化策略,无需显式奖励模型
  3. 准确说明 RGPO 或结合组相对偏好优化的思路,并对比其与 DPO 的差异
  4. 结合具体任务分析各自的适用场景与局限