AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
首页
面试题库
人工智能面试题
结合你的部署实践,如何优化大模型的推理延迟和吞吐…
人工智能面试题
更新 2026-08-05
结合你的部署实践,如何优化大模型的推理延迟和吞吐?
美团
人工智能
互联网/IT
性能优化
系统设计
方案权衡
考察说明
考察推理性能优化方法与工程落地能力
回答思路
能识别影响延迟与吞吐的关键因素
能给出具体优化手段,如批处理、量化、KV 缓存
能说明权衡取舍,如延迟与吞吐的取舍
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。
开始模拟面试
登录查看答题指导
换一题
上一题
请介绍 Transformer 的整体结构,并说明其各主要组件的公式与作用。
下一题
SFT和RLHF的作用有什么区别?
本题还出现在
互联网/IT行业面试题
美团面试题