AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
首页
面试题库
人工智能面试题
vLLM的动态批处理(Dynamic Batch…
人工智能面试题
更新 2026-08-05
vLLM的动态批处理(Dynamic Batching)相比传统静态批处理有什么优势?
腾讯
人工智能
互联网/IT
性能优化
技术原理
vLLM
考察说明
考察对动态调度和推理吞吐优化的理解
回答思路
能解释连续批处理或迭代级调度机制
能对比静态批处理在等待和浪费上的劣势
能说出动态批处理对GPU利用率的影响
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。
开始模拟面试
登录查看答题指导
换一题
上一题
如果 pipeline 中性能高度依赖的模块A失效,最终结果会下降多少?你如何评估这种影响?
下一题
请详细说明 Verl 框架用于强化学习训练时的整体流程,并解释配置文件中的 rollout_batch_size、global_batch_size、micro_batch_size_per_device_for_update 以及 rollout.n 等参数之间的关系,以及它们如何影响每次更新时每张显卡上的样本数量。
本题还出现在
互联网/IT行业面试题
腾讯面试题