进行科学的决策是项目评估工作中的主要目的之一。科学的决策方法就是对比判断，亦即对拟建项目的备选方案进行比选。但是，决策存在一定的风险性，项目评估工作中的大量决策基本是属于风险型决策。概率分析为在风险条件下决定方案取舍的方法，决策树分析也是常用的风险决策方法之一。所谓决策树分析，就是利用概率分析原理，用树状图描述备选方案...

单调队列和斜率优化是属于决策单调性的一种。而决策单调性是满足四边形不等式的前提下，满足i+1-n的转移点大于等于i的决策点。而基本实现方式是整体二分或者维护双端队列并且在双端队列上二分查找。一般来说，1D/1D的DP都能通过优化，在$O(nlogn)$的时间复杂度之内转移完成。例子：1.$f[i]=min/max{f[...

决策树算法原理(ID3，C4.5)CART回归树 决策树的剪枝 　　　　在决策树算法原理(ID3，C4.5)中，提到C4.5的不足，比如模型是用较为复杂的熵来度量，使用了相对较为复杂的多叉树，只能处理分类不能处理回归。对这些问题，CART(ClassificationAndRegressionTre...

我们一直在做选择，在小事儿上倒是影响不大，但是面对人生大事我们就得慎重了，比如：两个异性都在追求你，你要选择哪一个结婚？有多家公司都要录取你，你要选择哪一家入职？多家实力差不多的公司来都来参与投标，选择哪一个家中标？值得一提的人，我们上面所说的多种选项在实力都是差不多的或者是各有千秋的，实力相关仿佛。假如追求你的一个异...

Gambler'sProblem，即“赌徒问题”，是一个经典的动态编程里值迭代应用的问题。在一个掷硬币游戏中，赌徒先下注，如果硬币为正面，赌徒赢回双倍，若是反面，则输掉赌注。赌徒给自己定了一个目标，本金赢到100块或是输光就结束游戏。找到一个关于本金与赌注之间关系的策略使得赌徒最快赢到100块。...

“认知”的局限性和边界以前的课程里我们讲到过：认知是一种我们生存的手段。一个物种要生存繁衍需要各种各样的认知，包括感知和人类的理性活动，都是一个工具和手段。那么，我们应该如何用好和优化这个工具呢？首先，我们要清楚这个工具本身的局限。比如说，人活着有两样东西必不可少：水和火。如果人类没有发现和使用...

1.1、问题的引入2、一个实例3、基本概念4、ID35、C4.56、CART7、随机森林2.我们应该设计什么的算法，使得计算机对贷款申请人员的申请信息自动进行分类，以决定能否贷款?  一个女孩的母亲要给这个女孩介绍男朋友，于是有了下面的对话：女儿：多大年纪了？母亲：26。女儿：长的帅不帅？母亲：挺帅...

1、简单例子引入2、先验概率3、后验概率4、最小错误率决策5、最小风险贝叶斯决策 1.贝叶斯公式2简单例子正常情况下，我们可以快速的将街上的人分成男和女两类。这里街上的人就是我们观测到的样本，将每一个人分成男、女两类就是我们做决策的过程。上面的问题就是一个分类问题。分类可以看作是一种决策，即我们根据观测对样本...

　　已知某条件概率，如何得到两个事件交换后的概率，也就是在已知P(A|B)的情况下如何求得P(B|A)。这里先解释什么是条件概率：表示事件B已经发生的前提下，事件A发生的概率，叫做事件B发生下事件A的条件概率。其基本求解公式为：。     贝叶斯定理之所以有用，是因为我...

　　GBDT(Gradient Boosting Decision Tree) 又叫 MART（Multiple Additive Regression Tree)，是一种迭代的决策树算法，该算法由多棵决策树组成，所有树的结论累加起来做最终...

决策树优点：计算复杂度不高，输出结果易于理解，对中间值的缺少不敏感，可以处理不相关特征数据缺点：过拟合决策树的构造熵：混乱程度，信息的期望值 其中p(xi)是选择分类的概率熵就是计算所有类别所有可能值包含的信息期望值，公式如下：（公式2）构造基本思路信息增益=初始香农熵-新计算得到的香农熵（混乱程度下降的多少...

转载 2012年11月29日19:12:19131012在网上看到一篇对从代码层面理解gbdt比较好的文章，转载记录一下：        GBDT(Gradient Boosting Decision ...

 技术小能手 2018-06-0414:39:46 浏览848分布式 性能 神经网络 还记得周志华教授等人的“深度森林”论文吗？今天，ArXiv上公布了深度森林系列最新的第三弹——可做表示学习的多层GBDT。在这...

#-*-coding:utf-8-*-importpandasaspdfromscipy.interpolateimportlagrangefrommatplotlibimportpyplotaspltfromrandomimportshufflefromkeras.modelsimportSequential#导入神...