后端岗位面试题更新 2026-08-05

你在实习中提到的PD分离使吞吐量token提升了5倍,请问具体是什么模型?这个提升是指整体的吞吐量还是响应时间?为什么能提升这么多?

腾讯后端开发互联网/IT性能优化问题拆解技术原理

考察说明

考察对模型推理性能优化的理解、指标定义和原因分析能力

回答思路

  1. 准确说明模型名称和推理阶段
  2. 区分吞吐量与响应时间,并给出对应指标
  3. 解释PD分离提升吞吐量的关键机制
  4. 分析收益与权衡,体现工程理解