我要招人

电商行业面试题更新 2026-08-05

请说明DeepSpeed ZeRO Stage 1、2、3之间的区别，以及在何种场景下更适合使用PyTorch FSDP。

阿里巴巴人工智能电商系统设计技术原理技术选型DeepSpeedPyTorch

考察说明

考察对分布式训练显存优化技术的理解与选型能力

回答思路

  1. 准确描述各Stage的切分对象与显存节省效果
  2. 说明Stage间通信开销与计算效率的权衡
  3. 给出FSDP相较于ZeRO Stage 3的优势场景
  4. 结合模型规模、集群带宽等实际因素说明选型依据