请详细说明你在实习中进行的继续预训练工作，特别是你对基座模型做了哪些修改以及为什么。

Question

Accepted Answer

考察点：考察对继续预训练流程的理解、模型修改的合理性及实验设计能力。回答思路：清晰描述继续预训练的数据、步骤和超参数 具体说明对基座模型结构的改动（如是否冻结层、修改注意力等）及动机 分析修改对训练效果和收敛速度的影响 讨论修改可能带来的风险及规避策略

考察说明