人工智能面试题更新 2026-08-05

能否简单介绍一下 DeepSpeed 的 ZeRO 三阶段优化?

腾讯人工智能互联网/IT技术原理方案权衡DeepSpeed

考察说明

考察对分布式训练显存优化技术的理解与表达清晰度

回答思路

  1. 说明 ZeRO 的动机是减少显存冗余
  2. 准确描述三个阶段各自优化的对象
  3. 对比三阶段的显存节省与通信开销
  4. 能提及 ZeRO-Offload 等延伸
  5. 能结合具体训练场景说明阶段选择
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。