小米集团面试题更新 2026-08-05

在大模型推理过程中,Prefill(预填充)和 Decode(解码)阶段分别做了什么?

小米集团人工智能电子/半导体技术原理Transformer

考察说明

考察对Transformer推理两阶段流程及计算特征的理解

回答思路

  1. 准确说明Prefill阶段并行处理输入提示词并生成KV Cache
  2. 准确说明Decode阶段逐token自回归生成并利用KV Cache
  3. 对比两阶段的计算密集与访存密集特征
  4. 说明KV Cache在衔接两阶段中的作用
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。