请解释什么是动态批处理（Dynamic Batching）及它的工作原理。

Question

Accepted Answer

考察点：考察对动态批处理概念、动机和实现机制的理解。回答思路：定义动态批处理并说明其目标 解释如何将多个请求按时间窗口聚合 说明请求组合成批次的方法与边界条件 讨论其性能收益与潜在瓶颈

考察说明