人工智能面试题更新 2026-08-05

请解释自注意力机制和交叉注意力的区别,并说明为什么在缩放点积注意力中要对点积结果除以根号d。

高德地图人工智能问题拆解技术原理Transformer

考察说明

考察对注意力机制原理的理解,包括自注意力和交叉注意力的区别,以及缩放因子的作用

回答思路

  1. 清晰解释自注意力的定义和计算流程
  2. 清晰解释交叉注意力的定义和应用场景
  3. 对比自注意力和交叉注意力在查询、键、值来源与对应关系上的差异
  4. 解释除以根号d的数学原因(防止点积过大导致softmax梯度消失)
  5. 说明缩放因子对训练稳定性的实际影响
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。