请说明 Transformer 中 Layer Normalization 的作用、计算过程及其与 Batch Normalization 的区别。
考察说明
考察对 Transformer 中层归一化原理、计算细节及对比知识的掌握
回答思路
- 准确说出 Layer Normalization 对每个样本独立归一化
- 能写出对特征维度求均值方差的步骤并包含可学习参数
- 清晰对比 Batch Normalization 的统计维度差异
- 说明 Layer Normalization 在 NLP/变长序列中的优势
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。