在训练或推理动态图模型时，如何优化显存占用并避免OOM？请结合你遇到的实际场景说明。

Question

Accepted Answer

考察点：考察对动态图显存管理、优化策略及实际排查经验的理解。回答思路：能解释动态图显存占用高的原因，如计算图动态构建、中间激活保存 能提出具体的优化手段，如梯度检查点、混合精度、显存清理、batch size调整 能结合自身经历说明实际遇到的问题和解决过程

考察说明