高德地图面试题更新 2026-08-05

为什么Transformer用LN不用BN?

高德地图人工智能技术原理方案权衡Transformer

考察说明

考察对归一化原理、序列建模特性和梯度稳定性的理解

回答思路

  1. 说明LN与BN的计算区别(按特征维度与按样本维度归一化)
  2. 解释序列长度变化时BN的批量统计不稳定问题
  3. 分析Transformer中LayerNorm对梯度流动和训练稳定性的作用
  4. 讨论BN在小批量或变长输入下的劣势
  5. 提及LN对位置敏感性和不同样本独立性的适配
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。