请说明Batch Normalization与Layer Normalization的定义及各自适用场景。
考察说明
考察对两种归一化技术原理的理解及其在深度学习模型中的适用条件
回答思路
- 准确表述BN在batch维度上对每个特征做归一化，LN在特征维度上对每个样本做归一化
- 说明BN依赖batch size且引入可学习缩放和平移参数，LN不依赖batch size且适用于序列或小批量场景
- 能结合RNN、Transformer、CNN等典型场景说明各自选择理由
- 指出训练与推理阶段BN统计量使用方式的差异
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。