在上一篇博客里，我们讨论了关于Bagging的内容，其原理是从现有数据中有放回抽取若干个样本构建分类器，重复若干次建立若干个分类器进行投票，今天我们来讨论另一种算法：提升（Boost）。简单地来说，提升就是指每一步我都产生一个弱预测模型，然后加权累加到总模型中，然后每一步弱预测模型生成的的依据都是损失函数的负梯度方向，...

转自穆晨阅读目录前言现实中的聚类分析问题-总统大选K-Means聚类算法K-Means性能优化二分K-Means算法小结回到顶部      在前面的文章中，涉及到的机器学习算法均为监督学习算法。     &nb...

转自穆晨阅读目录前言关联分析领域的一些概念Apriori算法基本原理频繁项集检索实现思路与实现代码关联规则学习实现思路与实现代码小结回到顶部      想必大家都听过数据挖掘领域那个经典的故事-"啤酒与尿布"的故事。   &nbs...

阅读目录前言一种原始的元算法-bagging(自举汇聚法)boost(提高任意给定学习算法精确度算法)vsbagging(自举汇聚法)AdaBoost元算法的基本原理基于单层决策树的AdaBoost元算法分类器实现小结回到顶部      有人认为AdaBoos...

阅读目录前言算法原理　　回归分类器的形式最佳回归系数的确定基于梯度上升法的最佳回归参数拟合拟合结果展示更好的求最值方法-随机梯度上升小结回到顶部      本文将介绍机器学习分类算法中的Logistic回归分类算法并给出伪代码，Python代码实现。 ...

转自穆晨阅读目录前言准备数据：切分文本训练并测试小结回到顶部      朴素贝叶斯算法最为广泛而经典的应用毫无疑问是文档分类，更具体的情形是邮件过滤系统。      本文详细地讲解一个基于朴素贝叶斯分...

本文转自：穆晨补充：2000个训练集也是32x32矩阵。阅读目录前言第一步：收集并准备数据第二步：测试算法小结回到顶部      本文将继续讲解K-近邻算法的项目实例-手写识别系统。      该系统...

定义：决策树是一种分而治之(DivideandConquer)的决策过程。一个困难的预测问题,通过树的分支节点,被划分成两个或多个较为简单的子集，从结构上划分为不同的子问题。将依规则分割数据集的过程不断递归下去(RecursivePartitioning)。随着树的深度不断增加，分支节点的子集越来越小，所需要提的问题数...

本文参考：常用数据挖掘算法总结及Python实现，机器学习实战，以及网友http://www.cnblogs.com/jtianwen2014/p/4249003.html算法思路：　　存在一个样本数据集，也称作训练样本集，并且样本中每个数据都存在标签，即我们知道样本集中每一数据与所属分类的对应关系，输入没有标签的新数...

BASE64编码算法不算是真正的加密算法。     MD5、SHA、HMAC这三种加密算法，可谓是非可逆加密，就是不可解密的加密方法，我们称之为单向加密算法。我们通常只把他们作为加密的基础。单纯的以上三种的加密并不可靠。 BASE64 按照RFC20...

本文由网络资料整理转载而来，如有问题，欢迎指正！分类：1）插入排序（直接插入排序、希尔排序）2）交换排序（冒泡排序、快速排序）3）选择排序（直接选择排序、堆排序）4）归并排序5）分配排序（基数排序）所需辅助空间最多：归并排序所需辅助空间最少：堆排序平均速度最快：快速排序不稳定：快速排序，希尔排序，堆排序。先来看看8种排...

1...

1...

学习算法，简单做了个小练习，插入算法：1<scripttype="text/javascript">2varn=100;3vararray=newArray(n);4//用A来进行排序5varA=newArray();6//生成100个随机数的数组7for(vari=0;i<array.length;...

二分查找算法，对数据进行查找并且显示位置。核心思想:将所查找数据与查询数组中间的数进行比较，findVal<midVal,则在左边进行二分查找，否则在右边进行二分查找递归调用具体代码如下：1//二分查找2varstring2=[1,3,42,88,123,143];3varleftIndex=0;4varrigh...