互联网/IT行业面试题更新 2026-08-05
讲讲MHA、Attention公式，为什么需要除以根号 dk。
快手人工智能互联网/IT问题拆解技术原理Transformer
考察说明
考察对Transformer核心组件及缩放点积注意力原理的掌握
回答思路
- 准确写出Attention公式及MHA结构
- 解释除以根号dk对梯度稳定和概率分布的影响
- 联系方差分析说明缩放必要性
- 能说明softmax后分布对训练的影响
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
