美团面试题更新 2026-08-05

结合你的部署实践,如何优化大模型的推理延迟和吞吐?

美团人工智能互联网/IT性能优化系统设计方案权衡

考察说明

考察推理性能优化方法与工程落地能力

回答思路

  1. 能识别影响延迟与吞吐的关键因素
  2. 能给出具体优化手段,如批处理、量化、KV 缓存
  3. 能说明权衡取舍,如延迟与吞吐的取舍
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。