互联网/IT行业面试题更新 2026-08-05
请说明你是否熟悉vLLM中的Paged Attention和KV Cache技术，并简要解释它们的作用与原理。
蚂蚁集团人工智能互联网/IT性能优化问题拆解技术原理vLLM
考察说明
考察对大模型推理优化技术的理解深度与熟悉程度
回答思路
- 明确描述Paged Attention的核心思想（分页管理KV Cache以降低显存碎片）
- 准确解释KV Cache在推理中的作用（复用已计算的历史key-value）
- 能说明两者结合如何提升吞吐与显存利用率
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
