电子/半导体行业面试题更新 2026-08-05
在Transformer架构中,encoder和decoder哪个更重计算、哪个更重缓存?两者有什么区别?
华为HUAWEI人工智能电子/半导体系统设计技术原理方案权衡Transformer
考察说明
考察对Transformer编码器与解码器计算特性和缓存机制差异的理解
回答思路
- 明确encoder是双向注意力且计算密集型
- 明确decoder是自回归生成且利用KV缓存
- 说明decoder在推理时不断缓存KV以减少重复计算
- 讨论两者在训练和推理阶段的计算与内存权衡
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。