阿里巴巴面试题更新 2026-08-05
大模型推理过程通常分为哪两个阶段？请分别说明其特点。
阿里巴巴人工智能电商技术原理
考察说明
考察对大模型推理机制的理解，包括prefill和decode阶段的特点与区别
回答思路
- 明确说出prefill和decode两个阶段
- 说明prefill阶段是并行处理输入prompt，生成KV cache
- 说明decode阶段是自回归逐token生成输出，依赖于KV cache
- 能够对比两个阶段在计算和内存访问上的差异
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
