电子/半导体行业面试题更新 2026-08-05
请说明 KV Cache 在 LLM 推理中的优化方法，并分析各自的适用场景与权衡。
中兴通讯人工智能电子/半导体技术原理技术选型方案权衡LLM
考察说明
考察对大模型推理优化技术（KV Cache）的原理理解与方案权衡能力
回答思路
- 准确说明 KV Cache 的作用与存储开销
- 列举至少三种优化方法（共用、量化、稀疏/窗口化）
- 分析每种方法的原理、收益与代价
- 结合推理框架或预处理场景说明适用性
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
