百度面试题 · tech:vllm
百度相关面试题,按最终去重题目聚合。
共 3071 道真题 · 当前筛选命中 6 道 · 更新 2026-08-05
筛选题目已选:tech:vllm
考察点
技术栈
第 1 题量化加速方面有了解吗?解释一下vLLM。 考察对LLM推理量化加速技术与vLLM核心机制的理解深度第 2 题如何通过 vLLM 部署实现 2k tokens/s 的吞吐量? 考察对 vLLM 高性能推理架构和吞吐优化的理解第 3 题KV-cache 如何帮助推理加速? 考察对 Transformer 推理机制和 KV-cache 原理的掌握第 4 题你为何选择 vLLM 作为服务部署框架? 考察对 vLLM 核心特性的理解及技术选型能力第 5 题请介绍vLLM的核心技术点及其实现细节。 考察对vLLM架构与关键优化机制的理解深度第 6 题在部署或优化推理服务时,你自己做过哪些具体的 KV-cache 或推理优化? 考察候选人实际工程优化能力和项目经验