Self-Attention和Cross-Attention分别介绍有什么异同,Transformer的encoder和decoder都用了什么?
考察说明
考察对Transformer注意力机制原理及编码器解码器架构细节的理解
回答思路
- 准确描述Self-Attention与Cross-Attention的定义和本质区别
- 说明Cross-Attention中Q、K、V的来源
- 指出encoder仅用Self-Attention而decoder两者皆用的结构差异
- 提及masked self-attention在decoder中的用途
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。