Transformer中Encoder和Decoder的注意力机制分别是什么?Decoder中的注意力机制能否称为Self-Attention?
考察说明
考察Transformer架构中注意力机制的类型区分与原理理解
回答思路
- 准确区分Encoder的Self-Attention与Decoder的Masked Self-Attention
- 解释Decoder中Cross-Attention的作用与输入来源
- 说明Decoder中Self-Attention与Encoder形态的差异及原因
- 能结合注意力公式说明不同机制的计算方式
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。