OPPO面试题更新 2026-08-05
请解释什么是KV Cache，以及为什么一般只缓存Key和Value矩阵，而不对Query和Key的乘积做缓存？
OPPO人工智能通信/运营商技术原理方案权衡Transformer
考察说明
考察对Transformer推理优化中KV Cache原理及缓存粒度的理解
回答思路
- 清楚说明KV Cache的存储对象是Key和Value矩阵
- 解释Query在每次生成时因位置不同而动态变化
- 说明缓存QK点积会导致存储量随序列长度平方增长且无法复用
- 能联系推理时的解码流程说明缓存复用机制
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
