模型的 loss 函数前乘以10,会对训练造成什么影响?

Question

Accepted Answer

考察点：考察对损失函数缩放如何影响梯度幅度、学习率与训练稳定性。回答思路：解释损失缩放等价于梯度同倍缩放 说明梯度幅度变化对学习率选择的影响 讨论可能导致振荡或发散的风险 提及归一化或调节学习率等应对措施

考察说明