Transformer相对于传统模型(如RNN、LSTM、CNN)的主要优势是什么?
考察说明
考察对Transformer架构优势的理解,包括并行计算、长距离依赖处理和全局信息捕获
回答思路
- 说明Transformer依赖自注意力机制,能直接建模序列中任意位置的关系,解决长距离依赖问题
- 指出其并行计算能力,避免RNN的时间步串行限制,提升训练效率
- 提及可扩展性和在大规模预训练中的优势,如BERT、GPT
- 适当讨论限制或对比维度,如计算复杂度和内存开销
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。