人工智能面试题更新 2026-08-05
在深度学习中，如何进行多卡并行训练？请介绍常用方法及其适用场景。
Momenta人工智能互联网/IT性能优化技术原理方案权衡
考察说明
考察对数据并行、模型并行等分布式训练策略的理解
回答思路
- 清楚区分数据并行、模型并行和流水线并行
- 能解释同步与异步梯度的区别
- 提及混合精度和通信优化手段（如NCCL）
- 能结合模型规模和硬件资源说明选型考虑
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
