在微调大语言模型时，如何选择合适的损失函数？

Question

Accepted Answer

考察点：考察对微调任务类型与损失函数匹配的理解。回答思路：区分生成任务与分类任务的不同损失函数 说明交叉熵损失在语言模型微调中的核心作用 涉及序列生成时的 loss masking 与 token 级处理 提及特殊场景如对比学习、排序损失等替代方案

考察说明