关于大模型微调，SFT 数据集的规模是否越大越好？SFT 是否也存在 Scaling Law？

Question

Accepted Answer

考察点：考察对大模型微调数据规模效应的理解与数据质量意识。回答思路：明确说明SFT数据规模并非越大越好 解释数据质量与多样性的重要性 阐明SFT中数据量的边际效应递减 区分预训练与SFT的Scaling Law差异 提及可能的过拟合或分布偏移风险

考察说明