阿里巴巴面试题更新 2026-08-05
请介绍大模型分布式训练中常见的通信协议及其作用。
阿里巴巴阿里云人工智能专业服务电商系统设计技术原理PyTorch
考察说明
考察对分布式训练通信方式的理解，涵盖集合通信和点对点通信
回答思路
- 说明常用的通信协议如 NCCL、GLOO、MPI 及其适用场景
- 解释集合通信原语如 AllReduce、Broadcast、AllGather 的关键作用
- 联系大模型训练中的数据并行、张量并行场景，说明协议选择依据
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
