谈谈你对vLLM的理解。pre-fill阶段和decode阶段是怎么进行调度的？
考察说明
考察对vLLM架构及两阶段调度机制的理解
回答思路
- 说明vLLM核心特性：PagedAttention、Continuous Batching、高性能推理服务
- 解释pre-fill和decode阶段区别：pre-fill并行计算长prompt，decode逐token生成
- 说明调度策略：优先处理pre-fill请求再调度decode，或按优先级、队列策略
- 涉及抢占、排队、内存管理等调度细节
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。