在部署一个87B参数的MoE模型时，如何估算其每秒能生成的token数？请说明影响推理吞吐量的关键因素。

回答思路

1. 识别影响吞吐量的关键因素：硬件算力、显存带宽、模型结构、批次大小、量化等
2. 能说明MoE模型与密集模型在推理性能上的差异
3. 提供合理的估算方法或计算思路，而非给出绝对数值
4. 强调实际性能需通过基准测试验证