vllm:prefix原理实现

回答思路

1. 准确解释prefix caching的核心目的与适用场景
2. 说明KV cache如何按前缀词元组织与复用
3. 描述块级缓存结构与哈希匹配机制
4. 分析缓存命中率的影响因素及与beam search等解码方法的兼容性
5. 讨论内存管理与前缀块淘汰策略