为什么 KV Cache 能极大地提升推理速度？

回答思路

1. 说明缓存后每步推理的注意力计算量从 O(n²) 降为 O(n)
2. 强调避免了历史 token 的 K/V 重复计算
3. 指出提升主要来自减少矩阵乘法和内存访问
4. 能提到预处理阶段（prefill）也依赖 KV Cache 加速