你了解哪些大模型推理框架？请介绍一下 vLLM 的原理。
考察说明
考察对大模型推理框架的广度认知及对 vLLM 核心机制的理解深度
回答思路
- 能列举常见的推理框架（如 vLLM、TGI、TensorRT-LLM 等）并简要说明各自定位
- 能准确解释 vLLM 的 PagedAttention 原理及其解决 KV Cache 碎片化问题的价值
- 能说明 Continuous Batching 如何提升推理吞吐
- 能提及 vLLM 的并行策略（如张量并行、流水线并行）或量化/前缀缓存等扩展特性
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。