BERT的MASK在预测阶段怎么变化？

回答思路

1. 说明预训练阶段随机屏蔽15%的token，其中80%替换为[MASK]、10%替换为随机token、10%保持不变
2. 指出微调和推理阶段不使用[MASK]标记，下游任务输入为完整序列
3. 说明模型根据上下文预测被屏蔽位置的原始token
4. 比较预训练和微调输入差异及对模型性能的影响