如何识别并避免奖励模型训练中的reward hacking（奖励欺骗）问题？

回答思路

1. 明确reward hacking的成因与典型表现
2. 提出基于规则或对抗样本的检测方法
3. 说明正则化、KL约束、数据多元化等缓解策略
4. 讨论评估指标与人类反馈闭环