请阐述线性判别分析（LDA）的基本原理及其在降维或分类中的应用。

回答思路

1. 【回答框架 1】LDA是一种监督学习的线性降维方法，旨在找到一个投影方向，使得同类样本的投影点尽可能接近，异类样本的投影点尽可能远离，即最大化类间距离与类内距离的比值。
2. 【回答框架 2】对于二分类问题，LDA定义类内散度矩阵Sw和类间散度矩阵Sb，目标函数为J(W)=|W^T Sb W|/|W^T Sw W|，求解使J最大的W，转化为广义特征值问题，最优解为Sw^{-1}(μ1-μ2)的方向。多分类时类似，采用广义瑞利商。
3. 【回答框架 3】LDA降维后维度最多为类别数减一。它假设数据服从高斯分布且各类协方差矩阵相同，因此对非线性或非高斯分布数据效果有限。
4. 【回答框架 4】与PCA不同，LDA利用类别标签，属于监督方法；PCA是无监督的，仅最大化方差。LDA常用于分类前的特征提取，也可直接用于分类，如Fisher线性判别。
5. 【关键点 1】LDA目标是最大化类间距离与类内距离之比。
6. 【关键点 2】最优投影方向可通过求解广义特征值问题获得。
7. 【关键点 3】LDA降维维度上限为类别数减一。
8. 【关键点 4】LDA假设各类协方差矩阵相同且数据服从高斯分布。
9. 【易错点 1】常见误区是将LDA与主题模型LDA混淆，前者是线性判别分析，后者是潜在狄利克雷分配。
10. 【易错点 2】不能忽略LDA的假设条件，在数据不满足高斯或协方差相同假设时，效果可能下降。
11. 【易错点 3】LDA的降维维度受类别数限制，不能随意指定，例如二分类只能降到一维。