请解释 ReLU 激活函数为何在输入为负数时会输出 0，并说明这一特性对神经网络的影响。

回答思路

1. 【回答框架 1】ReLU 函数定义为 f(x)=max(0,x)，即输入 x 大于等于 0 时输出 x，输入小于 0 时输出 0。这一分段定义引入了非线性，使神经网络能够拟合复杂函数。
2. 【回答框架 2】负数区间输出 0 导致梯度为 0（导数在 x<0 时为 0），有助于稀疏激活和计算高效，但也可能引发神经元死亡，即神经元输出恒为 0，梯度不再更新。
3. 【回答框架 3】在实际训练中，ReLU 的零输出特性可减少过拟合并加速收敛，但需注意学习率设置或采用 Leaky ReLU 等变体以避免不可逆的神经元失效。
4. 【关键点 1】ReLU 的数学形式为 max(0,x)，负输入映射为 0。
5. 【关键点 2】零输出带来稀疏性和计算优势，但梯度为零可能导致神经元死亡。
6. 【关键点 3】可通过调整学习率或使用带泄漏的变体缓解神经元死亡问题。
7. 【易错点 1】误认为 ReLU 在所有区间都有梯度，实际负区间梯度恒为 0，可能阻碍学习。
8. 【易错点 2】忽略神经元死亡风险，在深层网络中可能导致大量神经元失活。
9. 【易错点 3】将 ReLU 的零输出等同于线性函数，忽略其分段非线性的本质。