项目:SFT使用的数据可能和原始模型预训练时的数据分布有较大区别,怎么解决?

Question

Accepted Answer

考察点：考察对SFT数据分布偏移问题的理解及应对策略。回答思路：能识别数据分布偏移对模型训练的影响 提出数据混合、重采样等缓解措施 说明评估与迭代验证的重要性

考察说明