Attention机制有哪些常见类型？位置编码有哪些常见方式？
考察说明
考察对Transformer核心组件Attention机制和位置编码的分类与原理理解
回答思路
- 能列举Attention的常见类型（如自注意力、多头注意力、交叉注意力等）并说明各自适用场景
- 能列举位置编码的常见方式（如正弦位置编码、可学习位置编码、相对位置编码等）并说明其设计动机
- 能简要说明不同Attention或位置编码的优缺点
- 能联系实际模型或任务说明选择依据
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。