显存占用通常与哪些因素有关？请列举并简要解释。

Question

Accepted Answer

考察点：考察对大模型推理与训练中显存占用构成因素的理解。回答思路：能列举模型参数、优化器状态、激活值、中间计算等主要因素 能区分推理与训练在显存占用上的差异 能结合模型规模和批大小说明影响 能提及权重存储精度与混合精度的影响

考察说明