我要招人

人工智能面试题更新 2026-08-05

自注意力计算中为何除以 √dk？

同花顺人工智能金融问题拆解技术原理Transformer

考察说明

考察自注意力机制中缩放因子的数学原理与稳定训练意识

回答思路

  1. 说明点积随维度增长导致数值过大
  2. 解释方差与维度 dk 的关系
  3. 指出除以 √dk 使方差归一，避免 softmax 梯度消失
  4. 能联系实际意义如长序列稳定性
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。

开始模拟面试登录查看答题指导