小红书面试题更新 2026-08-05
在GRPO中,KL散度惩罚项的作用是什么?请解释其数学形式及在训练中的意义。
小红书人工智能专业服务技术原理方案权衡
考察说明
考察对GRPO算法中KL散度正则化的理解及其数学表述
回答思路
- 准确描述KL散度的数学定义和符号
- 说明KL散度惩罚项在GRPO中的位置和作用
- 解释为何需要限制策略在参考策略附近
- 能联系RLHF/PPO中的类似概念说明差异
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。