说一下Attention是怎么做的,Encoder和Decoder的Attention一样吗?
考察说明
考察对Attention机制原理及Encoder-Decoder中差异的理解
回答思路
- 清晰解释Attention的计算步骤包括Query、Key、Value和权重归一化
- 能说明Encoder中Self-Attention与Decoder中Cross-Attention在输入来源和掩码上的区别
- 能指出Decoder中Self-Attention的因果掩码及Cross-Attention的Key-Value来自Encoder
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。