小红书面试题更新 2026-08-05

在GRPO中,KL散度惩罚项的作用是什么?请解释其数学形式及在训练中的意义。

小红书人工智能专业服务技术原理方案权衡

考察说明

考察对GRPO算法中KL散度正则化的理解及其数学表述

回答思路

  1. 准确描述KL散度的数学定义和符号
  2. 说明KL散度惩罚项在GRPO中的位置和作用
  3. 解释为何需要限制策略在参考策略附近
  4. 能联系RLHF/PPO中的类似概念说明差异
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。