商汤科技面试题更新 2026-08-05

使用LoRA微调7B模型时,主要显存占用来源有哪些?如何估算峰值显存?

商汤科技人工智能性能优化技术原理LoRA

考察说明

考察对模型微调显存构成的理解和工程估算能力

回答思路

  1. 能识别模型权重、优化器状态、激活值、梯度等主要显存来源
  2. 能说明LoRA相比全参微调减少显存的机制
  3. 能结合常见配置给出量级估算