阿里巴巴面试题更新 2026-08-05

PPO和DPO分别是什么?它们各自是如何实现对齐的?

阿里巴巴人工智能电商技术原理方案权衡

考察说明

考察对强化学习与偏好优化算法的理解及其实现原理

回答思路

  1. 准确定义PPO和DPO的核心目标与应用场景
  2. 清晰解释PPO的代理目标、裁剪机制和重要性采样
  3. 清晰解释DPO的偏好配对、直接优化与奖励函数推导
  4. 对比两者在训练稳定性和实现复杂度上的差异
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。