腾讯面试题更新 2026-08-05

请实现一个多头自注意力机制(Multi-Head Self-Attention)。

腾讯深信服人工智能互联网/IT专业服务编码实现技术原理PyTorchTransformer

考察说明

考察对Transformer核心组件的理解及编码实现能力

回答思路

  1. 正确实现Q、K、V线性投影
  2. 正确实现缩放点积注意力及多个head的拆分与合并
  3. 正确实现多头拼接后的输出投影
  4. 能解释维度变换和计算逻辑
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。