我要招人

互联网/IT行业面试题更新 2026-08-05

手写实现 Self-Attention 的核心计算过程

作业帮人工智能互联网/IT编码实现问题拆解技术原理PyTorch

考察说明

考察对自注意力机制数学原理与实现的掌握

回答思路

  1. 正确实现 Q、K、V 投影与缩放的点积注意力
  2. 正确处理 softmax 归一化与掩码（padding mask）
  3. 考虑维度广播与数值稳定性
  4. 能解释复杂度 O(n^2 d) 与显存开销
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。

开始模拟面试登录查看答题指导