fisher线性判别分析在处理多类别问题时

fisher线性判别分析在处理多类别问题时具有很好的效果，其相关知识如下：

1、Fisher线性判别分析（LDA）是一种监督学习的降维技术，它的目标是找到一个线性组合的特征空间，使得在这个空间中，不同类别的数据点尽可能地分开。这种方法在处理多类别问题时，具有很好的效果。

2、首先，LDA的基本思想是最大化类间距离和最小化类内距离。这意味着，我们希望同一类别的数据点在新的低维空间中尽可能接近，而不同类别的数据点尽可能远离。这样，我们就可以通过观察数据点在新的空间中的相对位置，来对它们进行分类。

3、其次，LDA的优点是它假设所有的类别都***享一个公***的协方差矩阵。这使得LDA在处理多类别问题时，只需要对每个类别分别进行一次线性变换，就可以得到最终的结果。这大大简化了计算过程，提高了效率。

4、此外，LDA还具有很好的可解释性。因为LDA找到的是使得类间距离最大化的线性组合，所以这些组合可以直观地理解为“区分”不同类别的特征。例如，如果我们有两个类别的数据，那么LDA可能会找到一个新的特征，这个特征的值在某个类别中总是正的。

Fisher线性判别分析的相关知识

1、Fisher线性判别分析（Fisher's Linear Discriminant Analysis，Fisher线性判别分析（Fisher's Linear Discriminant Analysis，以下简称LDA）是一种监督学习的降维技术，也就是说它的数据集的每个样本都是有类别输出的。

2、这点和PCA不同，PCA是不考虑样本类别输出的无监督降维技术。LDA的基本思想是利用已知类别的样本建立判别模型，对未知类别的样本进行分类。在最小均方误差（也就是最小二乘法MSE）意义下，寻找最能分开各个类别的最佳方向。

3、这种方法最初是由Fisher在1936年提出的，因此也被称为Fisher判别分析（Fisher Discriminant Analysis，FDA）。然而，尽管LDA和FDA两种判别分析方法略有不同，但它们都是在线性判别法的基础上发展起来的。

4、具体来说，LDA在模式识别领域（比如人脸识别）有着广泛的应用，它可以找到一条线将坐标点向该线上投影，将这条线的方向设为w，并用该w作为假设带入，最后解出最佳w。这就是Fisher判别分析的大致思路和流程。