后端岗位面试题更新 2026-08-05
请说明Transformer模型的计算复杂度如何随序列长度变化,并解释其含义。
拼多多集团-PDD后端开发电商技术原理Transformer
考察说明
考察对Transformer自注意力机制计算复杂度的理解及其对长序列处理的瓶颈分析
回答思路
- 正确指出自注意力的时间复杂度为O(n²),n为序列长度
- 能解释每个位置需与所有位置计算注意力
- 能指出该复杂度导致长序列处理的内存和时间开销
- 能提及线性变换和FFN的复杂度为O(n)作为对比
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。