请说明 FP16 与 BF16 在表示范围、精度和适用场景上的主要区别。

回答思路

1. 准确说明 FP16 与 BF16 在指数位和尾数位上的位数分配差异
2. 解释 FP16 精度高但范围窄、BF16 范围宽但精度低的原因
3. 结合深度学习训练过程中梯度和权重幅值特点说明 BF16 更适合训练的原因
4. 能提及混合精度训练中 FP16 用于计算、FP32 用于累加的常见做法