Exercise1：LinearRegression---实现一个线性回归关于如何实现一个线性回归，请参考：实现一个线性回归 Exercise2：LogisticRegression---实现一个逻辑回归问题描述：用逻辑回归根据学生的考试成绩来判断该学生是否可以入学。这里的训练数据(traininginsta...

1.概念：https://scikit-learn.org/stable/modules/neighbors.html　　1.Cover和Hart在1968年提出了最初的临近算法　　2.分类算法（classification）　　3.输入基于实例的学习（instance-basedleaning）。懒惰学习（lazyl...

 决策树模型练习：https://www.kaggle.com/c/GiveMeSomeCredit/overview1.监督学习--分类 机器学习肿分类和预测算法的评估：　　a.准确率　　b.速度　　c.强壮行　　d.可规模性　　e.可解释性 2.什么是决策树/判定树（decisiont...

机器学习和深度学习视频资料汇总python_机器学习(一)、基本概念python_机器学习_监督学习模型_决策树python_机器学习_最临近规则分类（K-NearestNeighbor）KNN算法python_机器学习_支持向量机（SVM)算法...

   pandas视频教程链接: https://pan.baidu.com/s/1pLqavVX密码:fathpython入门到精通链接: https://pan.baidu.com/s/1mhVNIkC密码:cvp3  链接: http...

机器学习基础知识：　　（一）、什么是机器学习？　　对于某给定的任务T，在合理的性能调度方案P的前提下，某计算机程序可以自主学习任务T的经验E，随着提供合适、优质、大量的经验E，该程序任务T的性能逐步提高　　这里最重要的是机器学习的对象：　　（1）任务Task，T，一个或多个　　（2）经验Experience，E　　（3...

   ...

//2019.08.19#机器学习集成学习1、集成学习是指对于同一个基础数据集使用不同的机器学习算法进行训练，最后结合不同的算法给出的意见进行决策，这个方法兼顾了许多算法的"意见"，比较全面，因此在机器学习领域也使用地非常广泛。集成学习(ensemblelearning)本身不是一个单独的机器学习算法，而是通过构建并结...

//2019.08.14#机器学习算法评价分类结果1、机器学习算法的评价指标一般有很多种，对于回归问题一般有MAE,MSE，AMSE等指标，而对于分类算法的评价指标则更多：准确度score，混淆矩阵、精准率、召回率以及ROC曲线、PR曲线等。2、对于分类算法只用准确率的评价指标是不够的，并且对于一些情况它是存在问题的，...

机器学习的模型泛化1、机器学习的模型误差主要含有三个方面的误差：模型偏差、模型方差以及不可避免的误差。2、对于机器学习训练模型的偏差主要因为对于问题本身的假设不对，比如非线性误差假设为线性误差进行训练和预测，算法层面上欠拟合是产生较大偏差的主要原因。另外主要来自于特征参量与最终结果的相关性，如果相关性很低或者高度不相关...

机器学习中的过拟合和欠拟合1、机器学习算法对于整体的数据训练和拟合，以典型的多元线性回归的方式为例，通过设定拟合的最高次数，然后对比输出的曲线结果可以看出，随着拟合函数次数的增大，其拟合线性回归模型的R2的值在不断地增大，均方差也在不断地减小，看起来拟合的结果越来越准确，其实质只是对于所存在原始数据的拟合误差越来越小，...

//2019.08.06                        &nbs...

多元线性回归算法和正规方程解——燕江依/2019.08.051、对于多元线性回归算法，它对于数据集具有较好的可解释性，我们可以对比不过特征参数的输出系数的大小来判断它对数据的影响权重，进而对其中隐含的参数进行扩展和收集，提高整体训练数据的准确性。2、对于KNN算法和多元线性回归算法对比可以知道，...

//2019.08.04#线性回归算法基础入门(LinearRegression)1、线性回归算法是一种非常典型的解决回归问题的监督学习算法，它具有以下几个特点：(1)典型的回归算法，可以解决实际中的回归问题；(2)思想简单，容易实现；(3)是许多强大的非线性算法模型的基础；(4)结果具有很好的可解释性；(5)蕴含机器...

最小二乘法的数学原理推导（机器学习线性回归）——燕江依/2019.08.04对于简单线性回归问题，即数据特征只有一个的基础数据集，要使得损失函数(这里是指真值与预测值之间误差的平方)最小，从而求得最优化的参数a和b，这个具体方法称为最小二乘法，利用最小二乘法，可以得到最佳的参数a和b的计算式，如...