互联网/IT行业面试题更新 2026-08-05

GradNorm的原理是什么?工业界一般不这么用,因为这个gradnorm比较trick。

快手人工智能互联网/IT系统设计技术原理方案权衡

考察说明

考察对多任务学习梯度归一化方法的原理理解与工业落地权衡

回答思路

  1. 能解释GradNorm通过调整任务权重使各任务梯度范数接近统一目标
  2. 能说明其训练机制:更新任务权重以保持梯度范数相对平衡
  3. 能指出其trick性质与工业界少用的原因,如稳定性和复杂度
  4. 能给出更实用的替代方案,如动态加权或不确定性加权