人工智能面试题 · 性能优化 · PyTorch
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 15 道 · 更新 2026-08-05
筛选题目已选：性能优化 · PyTorch
考察点
技术栈
第 1 题显存占用通常与哪些因素有关？请列举并简要解释。 考察对大模型推理与训练中显存占用构成因素的理解第 2 题给定包含大量（大于1000个）类别的图像数据，各类别图像数量充足，要求在一周之内训练出一个分类模型，使得各类别的准确度尽可能高，如何设计方案？ 考察大规模多类别图像分类的系统设计、工程权衡与快速迭代能力第 3 题请估算一个7B参数的大语言模型在推理时的显存占用，并说明估算思路。 考察对大模型参数量与显存关系、推理时内存构成的理解能力第 4 题如何使用 PyTorch 分析模型性能瓶颈？ 考察对 PyTorch 性能分析工具链与优化方法论的理解第 5 题显存不够时，一般怎么解决，有哪些常见的优化方法？ 考察对深度学习训练显存优化的常见策略和工程实践能力第 6 题PyTorch如何加快数据读取？ 考察对PyTorch数据加载瓶颈的理解及常用优化手段第 7 题训练一个7B模型，在常见的混合精度训练下大约需要多少显存？请简要说明主要消耗来源。 考察对模型训练显存占用的量级估算和构成理解第 8 题介绍下DeepSpeed 考察对DeepSpeed核心机制、应用场景与性能优化原理的理解第 9 题如果不用LoRA，直接全参数微调一个7B模型，需要多少显存？ 考察混合精度下全参数微调的显存估算能力第 10 题Agentic长文本训练时候容易OOM,你有什么好的优化吗? 考察大模型长文本训练的内存优化策略与工程实践第 11 题对一个7B参数的模型进行参数高效微调，大致需要多少GPU显存，通常需要保存哪些参数和状态？ 考察大模型微调的显存开销构成与参数保存范围的估算能力第 12 题如果给你一张32B参数量、未量化的模型，你觉得跑起来大概需要多少显存？ 考察对模型显存占用的估算能力和对推理过程的系统理解第 13 题请介绍一下梯度检查点（Gradient Checkpointing）的原理、适用场景和实现方式。 考察对梯度检查点技术的原理理解、实际应用场景及实现细节第 14 题Adam优化器相比SGD（随机梯度下降）改进了哪些方面？ 考察对优化算法演进原理的理解，重点在自适应学习率与动量机制第 15 题请说明大模型训练时显存的组成，并解释除模型参数、梯度、优化器状态（Model States）外还有哪些显存开销。 考察对大模型训练显存构成的理解，包括必要开销与附加开销的区分