请解释Flash Attention在分块计算softmax时，每块都要减去当前块最大值的原因。
考察说明
考察对Flash Attention分块在线softmax数值稳定性与正确性原理的理解
回答思路
- 说明softmax全局归一依赖于所有元素指数和，分块须记录局部最大值与累加和
- 解释减去块内最大值保持数值稳定，避免exp溢出
- 说明跨块需用前一块最大值更新缩放因子，保证结果与全局softmax一致
- 指出若直接用全局最大值则无需每块重减，但分块在线算法需逐步修正
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。