训练时选择 FP32、BF16 和 FP16 精度的依据是什么？它们各有何优劣？

回答思路

1. 说明 FP32 是基准，数值范围宽、精度高但占用显存大
2. 说明 BF16 的指数位与 FP32 相同，动态范围大但尾数精度低，适合大模型训练
3. 说明 FP16 尾数精度高但范围窄，易溢出，需配合 loss scaling
4. 结合模型类型（如 Transformer）说明选择逻辑