阿里巴巴面试题更新 2026-08-05

在 Transformer 中使用位置编码(PE)相比不使用时有哪些优势?

阿里巴巴人工智能电商技术原理方案权衡Transformer

考察说明

考察对 Transformer 位置信息建模必要性与 PE 优势的理解

回答思路

  1. 说明 Transformer 自注意力本身不感知序列顺序
  2. 解释 PE 能注入位置信息使模型区分词序
  3. 说明正弦 PE 的相对位置表达能力和外推能力
  4. 对比可学习位置编码与绝对位置的局限
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。