深圳虾皮信息科技有限公司面试题更新 2026-08-05
在Transformer中，多头注意力机制相比单头注意力有哪些优势？头数增加会如何影响算法复杂度？
深圳虾皮信息科技有限公司人工智能互联网/IT技术原理方案权衡Transformer
考察说明
考察对多头注意力机制原理及其计算复杂度的理解
回答思路
- 解释多头注意力通过不同子空间并行提取信息的能力
- 说明多头机制在联合表示学习上的优势
- 分析头数增加对时间和空间复杂度的线性影响
- 对比单头注意力在表示能力上的局限
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
