互联网/IT行业面试题 · 性能优化 · tech:llm
互联网/IT行业相关面试题,按题目行业基础数据聚合。
共 47588 道真题 · 当前筛选命中 9 道 · 更新 2026-08-05
筛选题目已选:性能优化 · tech:llm
考察点
技术栈
第 1 题你提到大模型推理速度慢,请分析一下推理慢的主要原因。 考察对大模型推理性能瓶颈的理解和系统性分析能力第 2 题请分别说明大模型训练和推理阶段的主要性能优化手段。 考察对大模型训练与推理性能优化的系统理解与工程实践第 3 题训练一个 8B 参数的大模型,大概需要多少显存? 考察显存估算能力和对训练过程中显存主要来源的理解第 4 题你了解大模型微调吗?请说明QLoRA的原理。 考察对大模型微调方法及QLoRA技术原理的理解深度第 5 题如果将LLM推理效率优化后的方案部署到在线服务,你会如何解决线上环境特有的性能问题? 考察将离线优化迁移到在线推理系统时的工程化与性能调优能力第 6 题如果训练大模型时显存不够,你会用哪些技术缓解? 考察显存优化技术全景和适用场景的判断第 7 题如何提升大语言模型的预测准确率?请说明可采用的策略及适用场景。 考察对大模型准确率优化方法及其适用边界的理解第 8 题在大模型推理阶段,KV Cache 的作用是什么? 考察对大模型推理中缓存机制原理和性能影响的理解第 9 题请解释大模型推理速度慢的主要原因,并说明如何优化。 考察对大模型推理性能瓶颈的理解及优化思路