后端岗位面试题更新 2026-08-05

蒸馏训练时,学生模型是仅学习教师模型的预测值,还是同时学习预测值和真实标签?

超参数科技后端开发人工智能技术原理方案权衡

考察说明

考察对知识蒸馏训练目标与损失函数的理解

回答思路

  1. 区分软标签(教师预测分布)与硬标签(真实label)
  2. 说明蒸馏损失通常由软标签交叉熵与硬标签交叉熵加权组合
  3. 能解释为何常结合两者以兼顾泛化与真实监督
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。