互联网/IT行业面试题更新 2026-08-05
请介绍你对大模型推理中 KV Cache 的理解，包括它的作用、存储内容以及可能带来的问题。
快手人工智能互联网/IT性能优化技术原理Transformer
回答思路
- 准确说明KV Cache缓存的是先前token的Key和Value张量
- 解释其避免重复计算、提升推理速度的作用
- 指出KV Cache带来的显存占用随序列长度线性增长的问题
- 能提及如存储优化、稀疏化等主流优化方向
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
