逻辑回归的数学原理推导及原理代码实现1、逻辑回归算法是目前应用最为广泛的一种算法，虽然是回归算法，但是它解决的是分类问题，而不是回归问题，它的原理是将样本的特征与样本发生的概率，而概率是一个数字，因此将其称为回归算法。2、对于逻辑回归因为得到的预测结果是事件的发生概率，因此它的预测值值域为0-1之间，而概率转换函数一般...

PCA(PrincipalComponentAnalysis）主成分分析法的数学原理推导1、主成分分析法PCA的特点与作用如下：(1)是一种非监督学习的机器学习算法(2)主要用于数据的降维(3)通过降维，可以发现人类更加方便理解的特征(4)其他的应用：去燥；可视化等2、主成分分析法的数学原理主要是利用梯度上升法来最优化...

多元线性回归算法和正规方程解——燕江依/2019.08.051、对于多元线性回归算法，它对于数据集具有较好的可解释性，我们可以对比不过特征参数的输出系数的大小来判断它对数据的影响权重，进而对其中隐含的参数进行扩展和收集，提高整体训练数据的准确性。2、对于KNN算法和多元线性回归算法对比可以知道，...

首先这很pythonforiinrange(1,10):print("".join(["%d*%d=%d"%(j,i,i*j)forjinrange(1,i+1)])) 详解foriinrange(1,10):#当i==　１时：print("".join(["%d*%d=%d"%(j,i,i*j)forjin...

在我们开始DL的研究之前，需要把ANN—人工神经元网络以及bp算法做一个简单解释。关于ANN的结构，我不再多说，网上有大量的学习资料，主要就是搞清一些名词：输入层/输入神经元，输出层/输出神经元，隐层/隐层神经元，权值，偏置，激活函数接下来我们需要知道ANN是怎么训练的，假设ANN网络已经搭建好了，在所有应...

近期学弟在HDU刷题时遇到了关于错排公式的一些问题，我作为过来人就写这篇博客来指导他们~~~错排的定义：一段序列中一共有n个元素，那么可知这些元素一共有n!种排列方法。假如在进行排列时，原来所有的元素都不在原来的位置，那么称这个排列为错排。而错排数所指的就是在一段有n个元素的序列中，有多少种排列方式是错排。递归关系：D...

 概述：切比雪夫多项式是与棣美弗定理有关，以递归方式定义的一系列正交多项式序列。通常，第一类切比雪夫多项式以符号Tn表示，第二类切比雪夫多项式用Un表示。切比雪夫多项式Tn或Un代表n阶多项式。切比雪夫多项式在逼近理论中有重要的应用。这是因为第一类切比雪夫多项式的根（被称为切比雪夫节点）可以用于多项式插值。相...

　　矩阵加法很简单，结果矩阵的某一位置上的数就是加数矩阵对应位置上的数之和。如下图：   　　那矩阵乘一个数呢？把矩阵每一个位置上的数都乘上那个数就得到了结果矩阵。如下图：　　可以发现矩阵乘一个数可以当成乘法分配律来理解。 　　那矩阵乘矩阵呢？还按对应位置相乘吗？　　起初，矩阵的...

以前背过正弦函数的求导公式，就是sin'x=cosx，可是总也没推导过。这两天看了很多网上的推导做法，简直是误人子弟。含糊不清的，曲线救国的，各种做法满天飞，也是好笑。在这儿，我尽量地再仔细地推导一遍，本着“为往圣继绝学”的远大理想，为伟大的科普事业添砖加瓦罢。函数式求导公式的推导是有一个基本原...

转载自：http://blog.csdn.net/marsjohn/article/details/54911788在数据的统计分析中，数据之间即变量x与Y之间的相关性研究非常重要，通过在直角坐标系中做散点图的方式我们会发现很多统计数据近似一条直线，它们之间或者正相关或者负相关。虽然这些数据是离散的，不是连续的，我们无...

一些推导的笔记上面分解成无穷维，大多数时候都不是的吧。。。 这里的d有限维，应该是指相对小于上面的分解的维度的某个数参考资料 参考资料，上面是从最小化损失的角度，利用拉格朗日对偶的优化方法求解 pca的另一种最大化方差的解释 kl变换和pca区别...

嗯，自己看了下书。做了点笔记，做了一些相关的基础知识的补充，尽力做到了详细，这样子，应该上过本科的孩子，只要有高数和概率论基础。都能看懂整个BS公式的推导和避开BS随机微分方程求解的方式的证明了。...

首先明确一下，本文需要对RNN有一定的了解，而且本文只针对标准的网络结构，旨在彻底搞清楚反向传播和BPTT。 反向传播形象描述什么是反向传播？传播的是什么？传播的是误差，根据误差进行调整。举个例子：你去买苹果，你说，老板，来20块钱苹果（目标，真实值），老板开始往袋子里装苹果，感觉差不多了（预测），放称上一称...

其实这里有个问题，就是表面积本来就是用积分定义的。标题上说「不用积分」，只是说不是计算积分，而是按照定义导出未知面积和已知面积的关系，从而导出所需公式。圆柱的侧面积对于圆柱，经常看到的推法是把侧面展开成平面图形（长方形）。这虽然很直观，但到底什么叫「展开」，根本说不清楚。用表面积的定义，可以严格化这个所谓的「展开法」。...

//2019.08.17#支撑向量机SVM(SupportVectorMachine)1、支撑向量机SVM是一种非常重要和广泛的机器学习算法，它的算法出发点是尽可能找到最优的决策边界，使得模型的泛化能力尽可能地好，因此SVM对未来数据的预测也是更加准确的。2、支撑向量机SVM有两种：HardMarginSVM和Soft...