互联网/IT行业面试题 · 性能优化 · tech:pytorch
互联网/IT行业相关面试题，按题目行业基础数据聚合。
共 47588 道真题 · 当前筛选命中 7 道 · 更新 2026-08-05
筛选题目已选：性能优化 · tech:pytorch
考察点
技术栈
第 1 题Adam优化器相比SGD（随机梯度下降）改进了哪些方面？ 考察对优化算法演进原理的理解，重点在自适应学习率与动量机制第 2 题Agentic长文本训练时候容易OOM,你有什么好的优化吗? 考察大模型长文本训练的内存优化策略与工程实践第 3 题如果不用LoRA，直接全参数微调一个7B模型，需要多少显存？ 考察混合精度下全参数微调的显存估算能力第 4 题训练一个7B模型，在常见的混合精度训练下大约需要多少显存？请简要说明主要消耗来源。 考察对模型训练显存占用的量级估算和构成理解第 5 题如果给你一张32B参数量、未量化的模型，你觉得跑起来大概需要多少显存？ 考察对模型显存占用的估算能力和对推理过程的系统理解第 6 题请估算一个7B参数的大语言模型在推理时的显存占用，并说明估算思路。 考察对大模型参数量与显存关系、推理时内存构成的理解能力第 7 题对一个7B参数的模型进行参数高效微调，大致需要多少GPU显存，通常需要保存哪些参数和状态？ 考察大模型微调的显存开销构成与参数保存范围的估算能力