人工智能面试题 · PyTorch
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 204 道 · 更新 2026-08-05
筛选题目已选：PyTorch
考察点
技术栈
第 161 题如果给你一张32B参数量、未量化的模型，你觉得跑起来大概需要多少显存？ 考察对模型显存占用的估算能力和对推理过程的系统理解第 162 题介绍对交叉熵的理解 考察对交叉熵概念、公式、性质及在机器学习中作用的理解第 163 题请介绍几种神经网络底层优化的方法，并说明它们如何提升训练效率或模型性能。 考察对神经网络训练优化方法的系统理解与实际应用能力第 164 题在PyTorch中，如何实现不记录梯度？ 考察对PyTorch自动求导机制和梯度控制方法的理解第 165 题深度学习有什么优化器？Adagrad、Adam和SGD的区别是什么？ 考察深度学习优化器的理解与对比能力第 166 题请实现三个函数：IoU计算、Focal Loss和ROI Pooling，并说明各自的输入输出。 考察深度学习经典组件实现及边界情况处理能力第 167 题请手写实现多头注意力机制（MHA）的核心代码。 考察对Transformer多头注意力机制的理解与编码实现能力第 168 题训练一个7B参数的大语言模型大约需要多少显存？请说明主要组成部分。 考察大模型训练显存占用估算及组成部分理解第 169 题PyTorch怎么创建层 考察PyTorch中自定义网络层的基本方法与接口规范第 170 题请手写实现一个 multi-head attention 模块，并说明其计算过程。 考察对 multi-head attention 原理与实现的掌握，以及代码正确性与清晰度第 171 题详细描述，如果给一个txt存储的文本，从预处理到SFT的训练流程，要包括对数据的预处理、tokenize、forward、loss计算、参数更新，越细越好。 考察大模型SFT全流程的技术细节与工程实现能力第 172 题torchrun 在分布式训练中的用途是什么？请说明其核心功能和典型使用场景。 考察对分布式训练启动工具的理解，包括进程管理和初始化机制第 173 题给定一个7B参数的模型，使用LoRA进行微调时，优化器状态的内存分配是怎样的？请说明优化器所需内存的计算方式。 考察对LoRA参数效率和优化器内存分配的理解第 174 题有没有用PyTorch搭过网络？ 考察PyTorch建模实操经验与网络搭建能力第 175 题对于一个约 7B 参数的模型，推理一个 token 大概需要多少显存？请给出估算思路。 考察对模型推理显存估算的工程直觉与计算能力第 176 题ReLU激活函数的缺点、改进方式，以及导数突变点会导致什么问题？ 考察激活函数选型、梯度问题与改进方案的理解第 177 题你如何看待MindSpore与PyTorch这两种深度学习框架，它们各自的特点和适用场景是什么？ 考察对主流深度学习框架的对比分析与技术选型能力第 178 题请用 PyTorch 编写 SFT 训练中的损失计算代码，并说明为什么需要将标签序列右移一位。 考察 masked language modeling 损失实现与序列对齐理解第 179 题PixelShuffle和其他上采样的区别 考察图像超分辨率中不同上采样方法的原理与适用场景第 180 题在PyTorch中，如何冻结模型的某些层或参数？请说明常见方法及注意事项。 考察对PyTorch模型参数冻结机制的理解及实际应用