预训练模型词表大小一般设为多大，依据是什么？

Question

Accepted Answer

考察点：考察词表设计原则与规模权衡。回答思路：解释词表大小与模型参数量、内存的关系 说明词表覆盖率对分词效率的影响 能结合语言特点或模型规模给出合理范围 体现对扩展性与训练成本的权衡

考察说明