后端岗位面试题更新 2026-08-05

请说明Transformer模型的计算复杂度如何随序列长度变化,并解释其含义。

拼多多集团-PDD后端开发电商技术原理Transformer

考察说明

考察对Transformer自注意力机制计算复杂度的理解及其对长序列处理的瓶颈分析

回答思路

  1. 正确指出自注意力的时间复杂度为O(n²),n为序列长度
  2. 能解释每个位置需与所有位置计算注意力
  3. 能指出该复杂度导致长序列处理的内存和时间开销
  4. 能提及线性变换和FFN的复杂度为O(n)作为对比
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。