AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
首页
面试题库
人工智能面试题
请介绍你对 vLLM 中 Paged Atten…
人工智能面试题
更新 2026-08-05
请介绍你对 vLLM 中 Paged Attention 和 KV Cache 等技术的理解。
蚂蚁集团
人工智能
互联网/IT
性能优化
技术原理
vLLM
考察说明
考察对 LLM 推理优化技术的原理理解深度
回答思路
能解释 KV Cache 的作用和内存开销来源
能说明 Paged Attention 解决的核心问题
能结合 vLLM 的实际设计说明原理
能提及相关技术要点如连续批处理或显存管理
换一题
上一题
请介绍一下流水线并行。
下一题
在LoRA中,A和B两个矩阵通常如何初始化?为什么采用这种初始化方式?
本题还出现在
互联网/IT行业面试题
蚂蚁集团面试题