互联网/IT行业面试题更新 2026-08-05
如果将LLM推理效率优化后的方案部署到在线服务，你会如何解决线上环境特有的性能问题？
美团人工智能互联网/IT性能优化系统设计方案权衡LLM
考察说明
考察将离线优化迁移到在线推理系统时的工程化与性能调优能力
回答思路
- 识别在线环境与离线的差异，如有QPS、延迟、并发等约束
- 具体说明部署策略，如量化、模型裁剪、缓存或请求合并
- 讨论监控指标和压测方法，以定位线上瓶颈
- 考虑成本与效果的权衡，能列出可落地的优化方案
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
