请介绍你在实习中的推理加速项目，包括线上请求的 QPS 和模型推理速度等关键指标。

Question

Accepted Answer

考察点：考察对项目性能指标的理解和量化表达能力。回答思路：能准确说出 QPS 和推理延迟数据 能解释这些指标的测量方式和业务含义 能结合业务场景说明指标的重要性

考察说明