钉钉信息面试题更新 2026-08-05
你是否了解KV Cache的作用与实现？
钉钉信息人工智能互联网/IT性能优化技术原理
考察说明
考察对Transformer推理加速关键技术的理解深度
回答思路
- 说明KV Cache用于避免重复计算历史token的Key和Value
- 解释显存占用与序列长度成正比
- 提及动态形状、缓存复用或PagedAttention等实现细节
- 能说明其与推理延迟和吞吐的关系
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
