1、集成学习是指对于同一个基础数据集使用不同的机器学习算法进行训练，最后结合不同的算法给出的意见进行决策，这个方法兼顾了许多算法的"意见"，比较全面，因此在机器学习领域也使用地非常广泛。生活中其实也普遍存在集成学习的方法，比如买东西找不同的人进行推荐，病情诊断进行多专家会诊等，考虑各方面的意见进行最终的综合的决策，这样...

1、决策树算法是一种非参数的决策算法，它根据数据的不同特征进行多层次的分类和判断，最终决策出所需要预测的结果。它既可以解决分类算法，也可以解决回归问题，具有很好的解释能力。另外，对于决策树的构建方法具有多种出发点，它具有多种构建方式，如何构建决策树的出发点主要在于决策树每一个决策点上需要在哪些维度上进行划分以及在这些维...

//2019.08.17#决策树算法1、决策树算法是一种非参数的决策算法，它根据数据的不同特征进行多层次的分类和判断，最终决策出所需要预测的结果。它既可以解决分类算法，也可以解决回归问题，具有很好的解释能力。图原理图2、对于决策树的构建方法具有多种出发点，它具有多种构建方式，如何构建决策树的出发点主要在于决策树每一个决...

1、支撑向量机SVM是一种非常重要和广泛的机器学习算法，它的算法出发点是尽可能找到最优的决策边界，使得模型的泛化能力尽可能地好，因此SVM对未来数据的预测也是更加准确的。2、SVM既可以解决分类问题，又可以解决回归问题，原理整体相似，不过也稍有不同。 在sklearn章调用SVM算法的代码实现如下所示：#（一...

sklearn分类算法的评价指标调用#二分类问题的算法评价指标importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspdfromsklearnimportdatasetsd=datasets.load_digits()x=d.datay=d.target.co...

//2019.08.14#机器学习算法评价分类结果1、机器学习算法的评价指标一般有很多种，对于回归问题一般有MAE,MSE，AMSE等指标，而对于分类算法的评价指标则更多：准确度score，混淆矩阵、精准率、召回率以及ROC曲线、PR曲线等。2、对于分类算法只用准确率的评价指标是不够的，并且对于一些情况它是存在问题的，...

1、逻辑回归算法即可以看做是回归算法，也可以看作是分类算法，通常用来解决分类问题，主要是二分类问题，对于多分类问题并不适合，也可以通过一定的技巧变形来间接解决。2、决策边界是指不同分类结果之间的边界线(或者边界实体)，它具体的表现形式一定程度上说明了算法训练模型的过拟合程度，我们可以通过决策边界来调整算法的超参数。&n...

//2019.08.13#逻辑回归算法(LogisticRegression)1、根据2017-2018年人工智能与大数据科学领域的统计，不同的机器学习算法应用占比排名如下，其中，逻辑回归、决策树、随机森林以及人工神经网络算法占比前四，应用最为广泛，其次是贝叶斯算法、集成学习以及支持向量机SVM算法。目前全球人工智能最...

sklearn中的多项式回归算法1、多项式回归法多项式回归的思路和线性回归的思路以及优化算法是一致的，它是在线性回归的基础上在原来的数据集维度特征上增加一些另外的多项式特征，使得原始数据集的维度增加，然后基于升维后的数据集用线性回归的思路进行求解，从而得到相应的预测结果和各项的系数。2、多项式回归的函数在pyhton的...

PCA算法可以使得高维数据（mxn）降到低维，而在整个降维的过程中会丢失一定的信息，也会因此而实现降噪除噪的效果，另外，它通过降维可以计算出原本数据集的主成分分量Wk矩阵（kxn），如果将其作为数据样本，则可以将其作为原来数据集特征的主特征分量，如果用在人脸识别领域则可以作为人脸数据集的特征脸具体实现降噪效果和人脸特征...

sklearn中调用PCA算法PCA算法是一种数据降维的方法，它可以对于数据进行维度降低，实现提高数据计算和训练的效率，而不丢失数据的重要信息，其sklearn中调用PCA算法的具体操作和代码如下所示：#sklearn中调用PCA函数进行相关的训练和计算（自定义数据）importnumpyasnpimportmatpl...

PCA主成分分析法的数据主成分分析过程及python原理实现1、对于主成分分析法，在求得第一主成分之后，如果需要求取下一个主成分，则需要将原来数据把第一主成分去掉以后再求取新的数据X’的第一主成分，即为原来数据X的第二主成分，循环往复即可。2、利用PCA算法的原理进行数据的降维，其计算过程的数学原理如下所示...

PCA(PrincipalComponentAnalysis）主成分分析法的数学原理推导1、主成分分析法PCA的特点与作用如下：(1)是一种非监督学习的机器学习算法(2)主要用于数据的降维(3)通过降维，可以发现人类更加方便理解的特征(4)其他的应用：去燥；可视化等2、主成分分析法的数学原理主要是利用梯度上升法来最优化...

1、对于多元线性回归算法，它对于数据集具有较好的可解释性，我们可以对比不过特征参数的输出系数的大小来判断它对数据的影响权重，进而对其中隐含的参数进行扩展和收集，提高整体训练数据的准确性。2、多元回归算法的数学原理及其底层程序编写如下：  根据以上的数学原理可以从底层封装编写整体的多元线性回归算法如下...

对于多元线性回归算法，它对于数据集具有较好的可解释性，我们可以对比不过特征参数的输出系数的大小来判断它对数据的影响权重，进而对其中隐含的参数进行扩展和收集，提高整体训练数据的准确性。整体实现代码如下所示:#1-1导入相应的基础数据集模块importnumpyasnpimportmatplotlib.pyplotaspl...