数据分布:SFT 微调数据与预训练数据分布差异较大时,该如何处理?

Question

Accepted Answer

考察点：考察对 SFT 数据分布适配与预训练模型泛化能力的理解。回答思路：说明分布差异对微调效果的具体影响 提出数据增强、采样或混合等处理手段 讨论如何平衡微调效果与模型原有能力 涉及评估与迭代验证策略

考察说明