网易面试题 · tech:pytorch
网易相关面试题,按最终去重题目聚合。
共 2201 道真题 · 当前筛选命中 5 道 · 更新 2026-08-05
筛选题目已选:tech:pytorch
考察点
技术栈
第 1 题请介绍你对 DeepSpeed 的理解,包括其核心功能和典型应用场景。 考察对分布式训练优化框架的了解程度第 2 题DeepSpeed的ZeRO优化器在不同阶段(Stage 1、2、3)分别能节省哪些显存?各阶段的主要区别是什么? 考察对分布式训练显存优化原理的理解第 3 题用PyTorch或TensorFlow实现一个多层感知机(MLP)模型。 考察对MLP基本结构、前向传播、损失计算和训练流程的掌握程度第 4 题训练一个7B模型,在常见的混合精度训练下大约需要多少显存?请简要说明主要消耗来源。 考察对模型训练显存占用的量级估算和构成理解第 5 题请介绍常见的量化方法、原理及适用场景,并分析它们在计算复杂度和精度损失上的差异。 考察对量化方法原理、适用场景及复杂度与精度权衡的理解