互联网/IT行业面试题更新 2026-08-05

CPT(持续预训练)的数据配比通常如何设计?

字节跳动人工智能互联网/IT技术原理方案权衡

考察说明

考察持续预训练数据配比的领域知识与实践经验

回答思路

  1. 说明领域数据与通用数据的配比原则
  2. 提及数据来源多样性与去重处理
  3. 讨论配比与训练目标的关系
  4. 结合实际经验说明调优方法