我要招人

电商行业面试题更新 2026-08-05

为什么深度学习推理或训练中需要将 PD（Prefill/Decode）分离？

阿里巴巴人工智能电商系统设计技术原理

考察说明

考察对 Prefill 与 Decode 阶段特性差异的理解及其分离动机

回答思路

  1. 区分 Prefill 计算密集与 Decode 访存密集的特性
  2. 说明分离后能独立扩缩容和优化资源利用率
  3. 能结合延迟、吞吐或成本说明收益