电子/半导体行业面试题更新 2026-08-05
在大模型推理过程中,Prefill(预填充)和 Decode(解码)阶段分别做了什么?
小米集团人工智能电子/半导体技术原理Transformer
考察说明
考察对Transformer推理两阶段流程及计算特征的理解
回答思路
- 准确说明Prefill阶段并行处理输入提示词并生成KV Cache
- 准确说明Decode阶段逐token自回归生成并利用KV Cache
- 对比两阶段的计算密集与访存密集特征
- 说明KV Cache在衔接两阶段中的作用
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。