Transformer 为什么在大批量数据上表现更好？

Question

Accepted Answer

考察点：考察对 Transformer 模型结构、训练动态与数据规模关系的理解。回答思路：从注意力机制、并行计算和数据效率角度解释 提及大规模数据对模型容量的需求和泛化能力的影响 结合训练稳定性、优化难度和计算效率分析 说明小数据下可能过拟合或训练不充分

考察说明