AI 简历
简历模板
简历范文
模拟面试
求职导师
校招
求职攻略
大学生求职地图
求职攻略文章
浏览器插件
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
求职导师
校招
求职攻略
大学生求职地图
求职攻略文章
浏览器插件
关于我们
我要招人
首页
面试题库
人工智能面试题
vLLM的动态批处理(Dynamic Batch…
人工智能面试题
更新 2026-08-05
vLLM的动态批处理(Dynamic Batching)相比传统静态批处理有什么优势?
腾讯
人工智能
互联网/IT
性能优化
技术原理
vLLM
考察说明
考察对动态调度和推理吞吐优化的理解
回答思路
能解释连续批处理或迭代级调度机制
能对比静态批处理在等待和浪费上的劣势
能说出动态批处理对GPU利用率的影响
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。
开始模拟面试
登录查看答题指导
换一题
上一题
如果 pipeline 中性能高度依赖的模块A失效,最终结果会下降多少?你如何评估这种影响?
下一题
请详细说明 Verl 框架用于强化学习训练时的整体流程,并解释配置文件中的 rollout_batch_size、global_batch_size、micro_batch_size_per_device_for_update 以及 rollout.n 等参数之间的关系,以及它们如何影响每次更新时每张显卡上的样本数量。
本题还出现在
互联网/IT行业面试题
腾讯面试题