请解释 Transformer 中各主要子层的功能,并分析如果去掉前馈网络(FFN)层会对模型产生什么影响。
考察说明
考察对 Transformer 结构各组件功能的准确理解,以及对组件作用机理的深入分析
回答思路
- 准确描述自注意力层、位置编码、层归一化、残差连接和 FFN 的功能
- 点出自注意力层的作用:捕捉序列内 token 间的依赖关系,特别是长距离依赖
- 点出 FFN 的作用:对每个 token 位置独立进行非线性特征变换和表达能力增强
- 能够从信息混合和表示能力角度分析去掉 FFN 的影响,如降低模型容量、减弱非线性表达能力、影响信息在层间的深度传递
- 能说明网络深度与宽度之间的权衡,并合理推断对训练和下游任务的影响
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。