互联网/IT行业面试题更新 2026-08-05

请介绍 DeepSpeed 的 ZeRO 三阶段优化分别解决了什么问题,各自的适用场景是什么?

腾讯人工智能互联网/IT技术原理方案权衡DeepSpeed

考察说明

考察对大模型分布式训练显存优化技术的理解深度与场景判断能力

回答思路

  1. 准确描述 ZeRO 三阶段各自划分了哪些状态(优化器状态、梯度、参数)
  2. 说明每个阶段显存节省比例与引入的通信开销变化
  3. 能结合训练阶段、显存大小或并行规模说明阶段选择的依据
  4. 能联系混合精度、ZeRO-Offload 等扩展概念体现知识体系
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。