人工智能面试题更新 2026-08-05

attention中的normalization是如何做的,有哪些做法

京东人工智能电商系统设计技术原理

考察说明

考察对注意力机制中归一化手段及其原理、适用场景的掌握

回答思路

  1. 能明确softmax归一化的作用与公式
  2. 能说明温度缩放、缩放点积等常用变体
  3. 能讨论LayerNorm/Pre-LN等与注意力结合的归一化
  4. 能分析不同归一化做法对梯度与性能的影响
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。