荣耀面试题更新 2026-08-05

请分析在大模型预训练或微调过程中,各阶段 loss 出现异常升高或发散的可能原因,并给出相应解决办法。

荣耀人工智能电子/半导体问题拆解技术原理问题排查

考察说明

考察对大模型训练稳定性问题归因与解决方法的系统性理解

回答思路

  1. 能区分预训练、SFT、RLHF 不同阶段 loss 波动的常见原因
  2. 覆盖数据、超参数、优化器、梯度、模型结构等维度
  3. 给出可操作的排查路径与解决办法
  4. 体现对学习率、批次大小、损失缩放、梯度裁剪等关键参数的调整思路
  5. 结合具体现象(如 NaN、尖峰、持续上升)分别分析