人工智能面试题更新 2026-08-05

在降维方法中,主成分分析(PCA)与线性判别分析(LDA)的核心差异体现在哪些方面?请从原理、目标、监督性、适用场景及输出维度等角度进行对比。

人工智能技术原理方案权衡

考察说明

考查对两种经典降维方法本质区别的理解,包括监督性、目标函数、适用条件及输出特性。

回答思路

  1. 【回答框架 1】PCA是无监督降维,目标是最大化投影后方差,保留数据全局结构,不利用类别标签;LDA是有监督降维,目标是最大化类间散度与类内散度的比值,使投影后类间分离、类内紧凑。
  2. 【回答框架 2】PCA通过协方差矩阵的特征分解得到主成分方向,特征值大小对应方差贡献率;LDA通过类内散度矩阵的逆与类间散度矩阵的乘积的特征分解得到判别方向,特征值反映判别能力。
  3. 【回答框架 3】PCA适用于无标签数据、探索性分析或去相关,不关心类别可分性;LDA适用于有标签的分类任务,可同时降维和增强可分性,但要求类内散度矩阵可逆,且对类别分布敏感。
  4. 【回答框架 4】输出维度上,PCA可输出最多n-1个主成分(n为原始特征数);LDA最多输出类别数减1个判别方向,因此LDA降维维度受类别数限制。
  5. 【回答框架 5】实际选择时,若任务为分类且标签可用,优先考虑LDA;若数据无标签或需保留全局方差,则用PCA;两者也可结合使用,如先PCA去噪再LDA分类。
  6. 【关键点 1】PCA无监督,LDA有监督,这是最根本区别。
  7. 【关键点 2】PCA最大化方差,LDA最大化类间与类内散度比。
  8. 【关键点 3】LDA输出维度上限为类别数减1,PCA无此限制。
  9. 【关键点 4】LDA依赖类别标签,PCA不依赖。
  10. 【关键点 5】LDA对类内散度矩阵奇异敏感,PCA对特征缩放敏感。
  11. 【易错点 1】不能将LDA等同于线性分类器,它只是降维方法,分类还需额外分类器。
  12. 【易错点 2】LDA假设各类协方差相同且数据服从高斯分布,实际数据不满足时效果可能下降。
  13. 【易错点 3】PCA不保证类别可分性,直接用于分类任务可能丢失判别信息。