我们要在线上部署一个大模型提供服务，推理速度和吞吐量是个大问题。像vLLM这样的工具，它主要是通过什么核心思想（比如PagedAttention）来解决KV Cache的内存问题，从而提升推理效率的？
考察说明
考察对大模型推理优化核心机制的理解和解释能力
回答思路
- 准确解释PagedAttention解决KV Cache内存碎片与显存浪费的问题
- 说明动态分配与按需分配带来的显存利用率和批处理吞吐量提升
- 能用对比方式讲清传统预分配与分页管理的区别
- 适当延伸提及连续批处理等配套优化
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。