人工智能面试题更新 2026-08-05

请解释Transformer中注意力机制的计算复杂度,并说明为何它是O(n^2),其中n为序列长度。

滴滴人工智能性能优化技术原理Transformer

考察说明

考察对Transformer注意力机制及其计算复杂度的理解

回答思路

  1. 明确注意力计算涉及Q、K、V矩阵及注意力权重计算
  2. 说明矩阵乘法及softmax等操作与序列长度的关系
  3. 准确给出时间复杂度O(n^2)并解释原因
  4. 能提及空间复杂度或优化思路(如稀疏注意力)
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。