请详细解释Transformer解码器(Decoder)的结构和工作原理,包括与编码器的区别、关键组件及其作用。
考察说明
考察对Transformer解码器组件细节的理解,包括自注意力、交叉注意力和前馈网络
回答思路
- 准确描述解码器的三个主要子层:掩码自注意力、交叉注意力和前馈网络
- 解释掩码自注意力如何防止未来信息泄露,以及掩码的实现方式
- 说明交叉注意力如何结合编码器输出,并区别自注意力与交叉注意力的查询来源
- 能阐述解码器的位置编码、残差连接和层归一化等细节
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。