在 PCA 降维中,应依据哪些指标或准则来确定最终保留的主成分个数?请给出常用的判断方法及各自依据。
考察说明
考查对 PCA 降维原理中维度选择方法的理解。
回答思路
- 【回答框架 1】PCA 降维的核心是保留数据中大部分方差,因此主成分个数的选择通常基于累计方差贡献率,一般选取使累计贡献率达到 80% 到 90% 或更高阈值的前 k 个主成分。
- 【回答框架 2】另一种常用方法是根据特征值大小,只保留特征值大于 1 的主成分(Kaiser 准则),或观察碎石图,选取图中曲线由陡峭变平缓的拐点对应的主成分数。
- 【回答框架 3】还可结合业务或后续任务需求,通过交叉验证或重构误差评估不同维度数下的模型性能,选择泛化能力较好或重构误差较小的维度。
- 【回答框架 4】实际应用中,维度选择需要权衡降维效果与信息损失,避免过度降维导致有效信息丢失,同时也可结合领域知识确定。
- 【关键点 1】累计方差贡献率阈值法是常用准则,通常保留 80% 到 90% 以上方差。
- 【关键点 2】Kaiser 准则保留特征值大于 1 的主成分。
- 【关键点 3】碎石图拐点可作为参考。
- 【关键点 4】维度选择需结合任务需求和模型性能评估。
- 【易错点 1】仅依赖累计方差贡献率可能忽略业务可解释性。
- 【易错点 2】特征值阈值并非绝对,需结合数据规模。