人工智能行业面试题 · tech:pytorch
人工智能行业相关面试题，按题目行业基础数据聚合。
共 6000 道真题 · 当前筛选命中 28 道 · 更新 2026-08-05
筛选题目已选：tech:pytorch
考察点
技术栈
第 1 题请介绍 PyTorch 中张量（Tensor）的基本概念及其在深度学习中的主要用途。 考察对 PyTorch 核心数据结构张量的理解与实际应用能力第 2 题PyTorch 支持哪些模型并行化方法？在数据并行和模型并行时，哪些模块消耗显存？ 考察分布式并行训练方法分类及显存消耗来源的理解第 3 题动态图和静态图有什么区别？请结合使用方式说明各自的优劣。 考察对深度学习框架执行模式的理解及工程选型能力第 4 题对Python的熟悉程度如何，能用PyTorch实现多头注意力机制吗？ 考察Python熟练度、PyTorch基础及对Transformer核心组件的理解第 5 题请描述PyTorch中训练一个神经网络的完整流程。 考察对PyTorch训练流程的整体理解和关键步骤的掌握第 6 题请解释如何构建神经网络计算图，并说明其作用。 考察对计算图概念的理解及其在深度学习框架中的实现第 7 题讲解 BatchNorm 和 LayerNorm 的原理，以及在 PyTorch 中的实现方式。 考察对两种归一化方法的原理理解与 PyTorch 落地能力第 8 题假设有一个包含两个全连接层且带有残差连接的网络，反向传播时如何利用链式求导计算梯度？请解释计算流程，不需要给出完整数学推导。 考察残差网络中反向传播时链式求导的应用理解第 9 题请实现三个函数：IoU计算、Focal Loss和ROI Pooling，并说明各自的输入输出。 考察深度学习经典组件实现及边界情况处理能力第 10 题请结合热力图目标检测的监督信号，说明如何实现 Focal Loss，并解释它对正负样本不平衡的缓解原理。 考察 Focal Loss 在热力图检测中的实现要点与失衡处理能力第 11 题请阐述ViT的结构、计算复杂度以及它如何应用于图像分类。 考察对ViT架构原理、复杂度来源和任务适配的理解第 12 题请介绍PyTorch中模型的保存和加载方式及注意事项。 考察对模型状态存储、设备迁移和恢复训练的掌握第 13 题请手写实现多头注意力机制的核心代码。 考察多头注意力机制的原理理解与编码实现能力第 14 题请解释ZeRO（零冗余优化器）的原理及其相对于传统数据并行的优势。 考察对大规模深度学习分布式训练中显存优化机制的理解第 15 题请介绍 CLIP 模型的基本原理。 考察对 CLIP 模型核心机制的掌握与理解深度第 16 题请用 PyTorch 手写实现 softmax 函数，并基于 softmax 的输出分布编写一个采样函数。 考察 softmax 的实现正确性、数值稳定性与基于分布的采样能力第 17 题请介绍一下梯度检查点（Gradient Checkpointing）的原理、适用场景和实现方式。 考察对梯度检查点技术的原理理解、实际应用场景及实现细节第 18 题请谈谈你对全栈工程师的理解，以及你的技术栈（C++、Python、CUDA、PyTorch）如何支撑你在这一岗位上的工作？ 考察对全栈工程师角色的理解以及技术栈与岗位的匹配度第 19 题请说明YOLOv8模型的底层原理，并结合实际开发经历谈谈你遇到的具体问题。 考察对YOLOv8算法原理的理解深度及实际工程应用中的问题排查能力第 20 题是否使用过DDP和DeepSpeed？请说明二者的区别。 考察对分布式训练框架的理解与实际使用经验