消费品/零售行业面试题更新 2026-08-05
请介绍Transformer中的Attention机制，并解释为什么在计算中要除以sqrt(dk)。
淘宝闪购人工智能消费品/零售问题拆解技术原理Transformer
考察说明
考察对Transformer核心机制的原理理解与设计动机
回答思路
- 清晰描述Self-Attention的Q、K、V计算流程
- 正确给出Softmax(QK^T/sqrt(dk))V公式
- 解释除以sqrt(dk)是为了稳定梯度与防止softmax饱和
- 能提及dk是Key的维度
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
