教育/培训行业面试题更新 2026-08-05
手写实现 Multi-Head Self-Attention 的核心代码
好未来人工智能教育/培训编码实现技术原理PyTorch
考察说明
考察对多头自注意力机制的理解和编码实现能力
回答思路
- 正确实现 Query、Key、Value 线性投影及多头拆分
- 正确计算缩放点积注意力并执行 softmax
- 实现拼接和输出投影，维度匹配无误
- 考虑数值稳定性，说明为何除以 sqrt(d_k)
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
