如何选择embedding的维度?老师在提到某个具体维度时认为性价比不高,你如何理解维度选择对模型性能与资源的影响?

Question

Accepted Answer

考察点：考察对embedding维度选择背后计算资源、表达能力与性价比权衡的理解。回答思路：说明维度影响表达能力与计算存储成本 能分析高维度未必带来线性收益的边际效应 能结合具体任务或模型规模讨论选择依据

考察说明