讲讲 Flash Attention 的原理，矩阵 tiling 的过程说细一点，最好把 shape 也讲清楚。
考察说明
考察对 Flash Attention 原理和矩阵分块计算细节的理解
回答思路
- 能解释 Flash Attention 的核心动机：减少 HBM 读写以提升性能
- 能清晰描述 tiling 过程，包括分块大小与内层循环
- 能说明 softmax 在线计算（rescale）与分块累加的处理
- 能通过具体 shape 举例说明 Q、K、V 及输出的矩阵维度
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。