请解释Attention机制及其变体的原理,并说明Cross Attention中Q、K、V分别来自哪里。
考察说明
考察对Transformer注意力机制及其变体的理解,特别是Cross Attention中QKV的来源
回答思路
- 准确阐述自注意力与多头注意力的核心计算流程
- 说明Cross Attention与Self Attention的区别,明确指出Q来自解码器/查询方,K和V来自编码器/键值方
- 能提及注意力的变体(如Multi-Head、Masked、Cross)及其适用场景
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。