阿里巴巴面试题更新 2026-08-05
解释KV Cache的内存瓶颈，并推导多头注意力机制的计算复杂度。
阿里巴巴人工智能电商性能优化技术原理Transformer
考察说明
考察对Transformer推理阶段KV Cache内存占用及注意力计算复杂度的理解
回答思路
- 正确解释KV Cache的作用与存储内容
- 分析KV Cache内存随序列长度和层数增长的原因
- 推导多头注意力计算复杂度O(L²·d)
- 讨论内存瓶颈与优化方向如GQA、PagedAttention
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
