在主成分分析（PCA）原理总结中，我们对降维算法PCA做了总结。这里我们就对另外一种经典的降维方法线性判别分析（LinearDiscriminantAnalysis,以下简称LDA）做一个总结。LDA在模式识别领域（比如人脸识别，舰艇识别等图形图像识别领域）中有非常广泛的应用，因此我们有必要了解下它的算法原理。　　　...

监督学习的任务就是学习一个模型（或者得到一个目标函数）,应用这一模型，对给定的输入预测相应的输出。这一模型的一般形式为一个决策函数Y=f(X)，或者条件概率分布P(Y|X)。监督学习方法又可以分为生成方法(generativeapproach)和判别方法(discriminativeapproach)。所学到的模型分别...

原文地址：https://zhuanlan.zhihu.com/p/84660707线性判别分析（LinearDiscriminantAnalysis,LDA），LDA是一种监督学习的降维技术，其具体的原理用一个栗子来说明。首先，从一个简单的分类开始，如下图所示尝试找一个向量，并将各个样本投影到该向量上，比如上面的向量...

原文地址：https://zhuanlan.zhihu.com/p/32658341之前我们讨论的PCA降维，对样本数据来言，可以是没有类别标签y的。如果我们做回归时，如果特征太多，那么会产生不相关特征引入、过度拟合等问题。我们可以使用PCA来降维，但PCA没有将类别标签考虑进去，属于无监督的。假设我们对一张100*1...

原文来自：http://blog.csdn.net/xiazhaoqiang/article/details/6585537LDA算法入门一．LDA算法概述：     线性判别式分析(LinearDiscriminantAnalysis,LDA)，也叫做Fisher线性...

什么叫做线圈的同名端？具有磁耦合的两个线圈，当电流分别从两线圈个子的某一个端子流入是，如两者产生磁通相助，则这两端叫做互感线圈的同名端。即,电流方向流入方向一直叫做同名端。  当两个线圈电流均从同名端流入，线圈中磁通相助，互感电压与该线圈中的自感电压同号。即自感电压取正号时互感电压取正号，自感电压取...

1.问题    之前我们讨论的PCA、ICA也好，对样本数据来言，可以是没有类别标签y的。回想我们做回归时，如果特征太多，那么会产生不相关特征引入、过度拟合等问题。我们可以使用PCA来降维，但PCA没有将类别标签考虑进去，属于无监督的。   &nbs...

一、引言　　本材料参考AndrewNg大神的机器学习课程 http://cs229.stanford.edu　　在上一篇有监督学习回归模型中，我们利用训练集直接对条件概率p(y|x;θ)建模，例如logistic回归就利用hθ(x)=g(θTx)对p(y|x;θ...

 判别式模型（discriminativemodel）产生式模型（generativemodel） 特点寻找不同类别之间的最优分类面，反映的是异类数据之间的差异对后验概率建模，从统计的角度表示数据的分布情况，能够反映同类数据本身的相似度区别(假定输入x, 类别标签y)估计的是条件概率分布(...

   线性判别式分析（LinearDiscriminantAnalysis），简称为LDA。也称为Fisher线性判别（FisherLinearDiscriminant，FLD），是模式识别的经典算法，在1996年由Belhumeur引入模式识别和人工智能领域。  &n...