人工智能面试题更新 2026-08-05
请解释Transformer中注意力机制的计算复杂度,并说明为何它是O(n^2),其中n为序列长度。
滴滴人工智能性能优化技术原理Transformer
考察说明
考察对Transformer注意力机制及其计算复杂度的理解
回答思路
- 明确注意力计算涉及Q、K、V矩阵及注意力权重计算
- 说明矩阵乘法及softmax等操作与序列长度的关系
- 准确给出时间复杂度O(n^2)并解释原因
- 能提及空间复杂度或优化思路(如稀疏注意力)
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。