人工智能面试题更新 2026-08-05

请实现 Self-Attention 并说明各张量的维度变化。

中望软件人工智能专业服务编码实现技术原理Transformer

考察说明

考察对 Transformer Self-Attention 原理的掌握及代码实现中的维度处理能力

回答思路

  1. 正确写出 Q、K、V 的投影流程及维度变换
  2. 正确描述 attention 分数计算与 softmax 归一化
  3. 正确处理缩放因子和 mask 逻辑
  4. 清晰说明每一步张量的维度变化
  5. 能处理 batch 维度和多头切分
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。