互联网/IT行业面试题更新 2026-08-05

请分析Transformer的计算复杂度,并给出核心模块的伪代码。

字节跳动人工智能互联网/IT编码实现技术原理

考察说明

考察对Transformer自注意力机制计算复杂度的理解及伪代码表达能力

回答思路

  1. 明确自注意力的时间复杂度为O(n²·d)
  2. 能解释Q、K、V矩阵乘法的过程
  3. 伪代码正确反映矩阵维度与计算步骤
  4. 能对比多头注意力的复杂度影响
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。