是否使用过DDP和DeepSpeed？请说明二者的区别。

Question

Accepted Answer

考察点：考察对分布式训练框架的理解与实际使用经验。回答思路：明确说明是否实际使用过DDP和DeepSpeed 准确描述DDP的数据并行原理 准确描述DeepSpeed的核心特性如ZeRO、混合精度训练 对比二者在易用性、显存优化和功能上的区别 结合具体使用场景说明选型依据

考察说明