字节跳动面试题更新 2026-08-05
KV Cache的空间复杂度是多少？如何计算？
字节跳动人工智能互联网/IT问题拆解技术原理
考察说明
考察KV Cache的空间复杂度推导及关键影响因素
回答思路
- 写出O(batch*seqlen*num_layers*2*head_dim*num_kv_heads)的复杂度公式
- 说明每个token每层需要存储K和V两组向量
- 解释GQA/MQA对KV Cache的压缩作用
- 说明缓存与输入长度线性相关
- 指出与模型参数量无关但与层数、隐藏维度相关
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
