互联网/IT行业面试题更新 2026-08-05
请介绍 DeepSpeed 的 ZeRO 三阶段优化分别解决了什么问题,各自的适用场景是什么?
腾讯人工智能互联网/IT技术原理方案权衡DeepSpeed
考察说明
考察对大模型分布式训练显存优化技术的理解深度与场景判断能力
回答思路
- 准确描述 ZeRO 三阶段各自划分了哪些状态(优化器状态、梯度、参数)
- 说明每个阶段显存节省比例与引入的通信开销变化
- 能结合训练阶段、显存大小或并行规模说明阶段选择的依据
- 能联系混合精度、ZeRO-Offload 等扩展概念体现知识体系
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。