0-1分布(伯努利分布)它的分布律为：[P{X=k}=p^k(1-p)^{1-k}, k=0,1,(0<p<1)]0-1分布记作：(Xsimb(1,p))期望：(E(X)=p)方差:(D(X)=p(1-p))常用的场景：新生婴儿性别的登记，招生考试的录取，产品的是否合格，硬币的正反面。二项分布二项...

从http://www.cnblogs.com/mikewolf2002/p/7560748.html这篇文章中，我们知道损失函数为下面的形式：[J(heta_0,heta_1...,heta_n)=frac{1}{2m}sumlimits_{i=0}^{m}(h_heta(x_0^{(i)},x_1^{(i)},.....

神经网络解决多分类问题最常用的方法是设置n个输出节点，其中n为类别的个数。对于每一个样例，神经网络可以得到一个n维数组作为输出结果。数组中的每一个维度（也就是每一个输出节点）对应一个类别，通过前向传播算法得到的输出层每个维度值代表属于这个类别的可能性大小。  也就是说，任意事件发生的概率都在0和1之...

TimeLimit：2sMemoryLimit：128MByteSubmissions：1599Solved：270SAMPLEINPUT5201314SAMPLEOUTPUT5211317SOLUTION“玲珑杯”ACM比赛Round#19题目链接：http://www.ifrog.cc/ac...

本文作者frankchenfu，blogs网址http://www.cnblogs.com/frankchenfu/，转载请保留此文字。1、什么是数学期望？数学期望亦称期望、期望值等。在概率论和统计学中，一个离散型随机变量的期望值是试验中每一次可能出现的结果的概率乘以其结果的总和。这是什么意思呢？假如我们来玩一个游戏，...

---恢复内容开始---生物统计学古典概型：理论上，在未得到试验结果之前可以根据实验条件，预先估计出来的所有可能结果称为样本空间，即为集合Ω。样本点w是Ω的一个元素。这是概率的古典定义，即依据事件本身特性，直接得到概率。这里得到的往往是先验概率。   随机事件是一个...

图论一直是数学里十分重要的学科，其以图为研究对象，通常用来描述某些事物之间的某种特定关系。而在机器学习的世界里，我们希望从数据中挖掘出隐含信息或模型。因此，如果我们将图中的结点作为随机变量，连接作为相关性关系，那么我们就能构造出图模型，并期望解决这一问题。本文将为构造该模型提供最基础的概念。我们都知道机器学习里的决策树...

朴素贝叶斯由贝叶斯定理延伸而来的简单而强大的概率模型，它根据每个特征的概率确定一个对象属于某一类别的概率。该方法基于一个假设，所有特征需要相互独立，即任一特征的值和其他特征的值没有关联关系。虽然这种条件独立的假设在许多应用领域未必能很好满足，甚至是不成立的。但这种简化的贝叶斯分类器在许多实际应用中还是得到了较好的分类精...

注：很久以前就知道这两个公式，但一直仅限于了解。直到最近学习edx上的课程，才对这两个公式有了新的理解，记录于此。  设A,B是两个事件，且P(B)>0，则在事件B发生的条件下，事件A发生的条件概率(conditionalprobability)为：P(A|B)=P(AB)/P(B)条件概率是...

对于n次独立同分布随机事件实验，我们如何计算随机事件概率？举个例子，我们抛同一枚硬币100次，出现正面52次，反面48次，那抛硬币正面的概率是多少？频率派认为事件A的概率（如例子中抛硬币出现正面的概率）是确定的，只是我们不知道，当进行大量重复实验后，事件A发生的概率大致上等于实验中A发生的频率，这也是大数定律的思想。如...

一、先验概率的定义假设有随机变量θ，其取值仅为0或1；另有事件X，其取值仅为a或b。我们又令当θ=0时，X=a；当θ=1时，X=b。也就是说，θ的取值决定了X的取值。现在，我们做一个游戏，游戏要求我们在不知道θ是多少（0或1）的情况下，估计X的值。 ...

很多人都听说过贝叶斯原理，在哪听说过？基本上是在学概率统计的时候知道的。有些人可能会说，我记不住这些概率论的公式，没关系，我尽量用通俗易懂的语言进行讲解。/*请尊重作者劳动成果，转载请标明原文链接：*//* https://www.cnblogs.com/jpcflyer/p/11069659.html&nb...

嗯，自己看了下书。做了点笔记，做了一些相关的基础知识的补充，尽力做到了详细，这样子，应该上过本科的孩子，只要有高数和概率论基础。都能看懂整个BS公式的推导和避开BS随机微分方程求解的方式的证明了。...

　　概率图模型（PGM）是一种对现实情况进行描述的模型。其核心是条件概率，本质上是利用先验知识，确立一个随机变量之间的关联约束关系，最终达成方便求取条件概率的目的。　　这个世界都是随机变量。　　第一，世界是未知的，是有多种可能性的。　　第二，世界上一切都是相互联系的。　　第三，随机变量是一种映射，把观测到的样本映射成数...

过去的一段时间里，忙于考试、忙于完成实验室要求的任务、更忙于过年，很长时间没有以一种良好的心态来回忆、总结自己所学的东西了。这几天总在想，我应该怎么做。后来我才明白，应该想想我现在该做什么，所以我开始写这篇博客了。这将是对概率图模型的一个很基础的总结，主要参考了《PATTERNRECOGNITIONandMACHINE...