Encoder中的self-attention和Decoder中的self-attention有什么区别？
考察说明
考察对Transformer编码器与解码器注意力机制差异的理解
回答思路
- 指出Decoder自注意力使用masked attention，防止看到未来位置
- 说明Decoder自注意力的输入来自已生成序列与Encoder输出上下文
- 解释Encoder自注意力可并行计算，Decoder需顺序生成
- 对比注意力计算的键值来源和位置编码影响
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。