互联网/IT行业面试题更新 2026-08-05

预训练和SFT的效果分别应该如何评估?

字节跳动人工智能互联网/IT问题拆解技术原理方案权衡

考察说明

考察对大模型训练阶段评估方法、指标和数据选择的区分能力

回答思路

  1. 能区分预训练与SFT的评估目标与场景差异
  2. 预训练评估关注loss、困惑度及下游任务泛化
  3. SFT评估关注指令遵循、与人类偏好一致性及特定任务指标
  4. 能说明评估集、指标和自动化与人工评估的取舍
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。