后端岗位面试题更新 2026-08-05
请解释什么是KV Cache，以及它在大型语言模型推理中的作用。
360集团后端开发人工智能互联网/IT性能优化技术原理
考察说明
考察对LLM推理机制中KV Cache概念及其优化价值的理解
回答思路
- 准确解释KV Cache的含义，即缓存历史Token的Key和Value
- 说明其在自回归生成中避免重复计算，加速推理
- 提及显存占用和优化方向，如GQA、PagedAttention
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
