阿里巴巴面试题更新 2026-08-05
请解释 DeepSpeed 的原理，以及 ZeRO 的 stage 1、2、3 分别是怎么实现的？
阿里巴巴人工智能电商技术原理方案权衡DeepSpeed
回答思路
- 说明 DeepSpeed 的核心目标与 ZeRO 的动机
- 分别描述 zero1、zero2、zero3 对哪些状态进行分区及通信开销
- 说明 zero3 的分区权重带来的额外通信与计算模式
- 能对比三种 stage 的显存节省与通信成本权衡
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
