你在训练模型时用了什么优化器？请介绍Adam和AdamW，并说明相较SGD有哪些改进。

Question

Accepted Answer

考察点：考察对优化器原理的理解及选择依据。回答思路：能明确说出使用的优化器及选择理由 正确解释Adam的一阶动量与二阶动量机制 能区分Adam与AdamW在权重衰减处理上的差异 能对比SGD与Adam在收敛速度、泛化性方面的取舍

考察说明