阿里巴巴面试题 · 技术原理 · tech:vllm
阿里巴巴相关面试题,按最终去重题目聚合。
共 2826 道真题 · 当前筛选命中 5 道 · 更新 2026-08-05
筛选题目已选:技术原理 · tech:vllm
考察点
技术栈
第 1 题推理加速:vLLM中使用了哪些关键技术(如PagedAttention、KV Cache)来优化推理? 考察对vLLM推理优化核心技术原理的理解与掌握第 2 题量化加速方面有了解吗?解释一下vLLM。 考察对LLM推理量化加速技术与vLLM核心机制的理解深度第 3 题你是否有使用过 vLLM 或 SGLang?请说明其核心原理。 考察对 vLLM/SGLang 原理及工程实践的理解第 4 题如何评估 vLLM 部署 87B 参数 MoE 模型时的推理吞吐量?需要从哪些因素和基准结果来估算每秒生成的 token 数? 考察对 LLM 推理吞吐量影响因素和评估方法的理解,以及是否会给绝对数字而非合理估算第 5 题请介绍大模型推理中常见的推理引擎有哪些,并简述各自特点。 考察对大模型推理引擎生态的了解与选型意识