作者：黄飘链接：https://zhuanlan.zhihu.com/p/111397247来源：知乎近几年由于深度学习框架的兴起，端到端的训练和推理框架展现出一定的数据利用优势，而传统的数据关联算法基本都不满足可导可微的特性，因此出现了很多近似的端到端数据关联框架。这里由于篇幅有限，如果专栏和...

BatchNormalization；LayerNormalizaiton；InstanceNormalization；GroupNormalization；SwitchableNormalization。whynormalization?神经网络学习过程的本质就是为了学习数据分布，如果我们没有做归一化处理，那么每一批...

importtorchimporttorchvisionimportmatplotlib.pyplotaspltimporttorch.nnasnnimporttorch.nn.functionalasFfromtorch.utils.dataimportDataLoaderfromtorchvision.transf...

Javascript是世界上最受误解的语言，其实C++何尝不是。坊间流传的错误的C++学习方法一抓就是一大把。我自己在学习C++的过程中也走了许多弯路，浪费了不少时间。为什么会存在这么多错误认识？原因主要有三个，一是C++语言的细节太多。二是一些著名的C++书籍总在（不管有意还是无意）暗示语言细节的重要性和有趣。三是现...

OpenCV中Mat基本用法：　　Mat类(Matrix的缩写)是OpenCV用于处理图像而引入的一个封装类。从功能上讲，Mat类在IplImage结构的基础上进一步增强，并且，由于引入C++高级编程特性，Mat类的扩展性大大提高。　　Matimage(240,320,CV8UC3)；第一个参数是rows，该矩阵的行数...

<深度学习基础>卷积神经网络，循环神经网络，LSTM与GRU，梯度消失与梯度爆炸，激活函数，防止过拟合的方法，dropout，batchnormalization，各类经典的网络结构，各类优化方法1、卷积神经网络工作原理的直观解释https://www.zhihu.com/question/39022858...

<机器学习基础>逻辑回归，SVM，决策树1、逻辑回归和SVM的区别是什么？各适用于解决什么问题？https://www.zhihu.com/question/249044222、LinearSVM和线性回归有什么异同？答案：https://www.zhihu.com/question/26768865基础知...

一、常用分类算法的优缺点二、正确率能很好的评估分类算法吗不同算法有不同特点，在不同数据集上有不同的表现效果，根据特定的任务选择不同的算法。如何评价分类算法的好坏，要做具体任务具体分析。对于决策树，主要用正确率去评估，但是其他算法，只用正确率能很好的评估吗？答案是否定的。正确率确实是一个很直观很好的评价指标，但是有时候正...

本人硕士研究生研究课题：弱监督学习框架下的全卷积神经网络图像语义分割2018年1月16日，学院开题答辩，定下了这个题目。今天是2018年6月10日。到现在，包括中间的寒假，五个月过去了，看一下当下的状况，并无任何进展，当然说的是课题方面。因为答辩之后贪玩的暂时解放心理，因为各种其他事情需要兼顾（我觉得这可能是借口吧），...

 一、正则化介绍问题：为什么要正则化？　　NFL（没有免费的午餐）定理：　　　　没有一种ML算法总是比别的好　　　　好算法和坏算法的期望值相同，甚至最优算法跟随机猜测一样　　　　前提：所有问题等概率出现且同等重要　　　　实际并非如此，具体情况具体分析，把当前问题解决好就行了　　　　不要指望找到放之四海而皆准的...

K-近邻与交叉验证1选取超参数的正确方法是：将原始训练集分为训练集和验证集，我们在验证集上尝试不同的超参数，最后保留表现最好的那个。2如果训练数据量不够，使用交叉验证法，它能帮助我们在选取最优超参数的时候减少噪音。3一旦找到最优的超参数，就让算法以该参数在测试集跑且只跑一次，并根据测试结果评价算法。4最近邻分类器能够在...

主要内容：点估计：　　矩估计　　极大似然估计　　点估计的评判准则区间估计：　　置信区间 符号说明：1参数估计问题2点估计2.1矩估计矩估计法的基本思想是根据大数定律，利用样本矩对总体分布矩进行估计。然后利用总体矩与参数的关系来对参数进行估计。记号：矩估计的基本原理：大数定律例1：两点分布的参数估计例2：正态分...

目录：积分学　　理解积分：无穷求和，体积　　微积分基本定理：牛顿-莱布尼兹公式概率空间　　随机变量与概率：概率密度函数的积分　　条件概率　　共轭分布大数定律和中心极限定理　　随机变量的矩　　切比雪夫不等式　　大数定律　　中心极限定理 数学记号说明： 1 理解积分：无穷求和，体积1.1单变量...

主要内容：极限：　　复习极限记号，无穷大无穷小阶数微分学（尚不讲积分）：　　复习函数求导，泰勒级数逼近　　牛顿法与梯度下降法Jensen不等式 　　复习凸函数，Jensen不等式的证明 一些记号说明： 1极限 通俗语言适合说给对方听，数学记号适合写给对方看，精确描述比较啰嗦但是非...

目录：机器学习基础：　　机器学习的分类与一般思路微积分基础：　　泰勒公式，导数与梯度概率与统计基础：　　概率公式、常见分布、常见统计量线性代数基础：　　矩阵乘法的几何意义  这是一张非常著名的图，请仔细挖掘其信息量。以期它在整体上指引我们的学习。1 机器学习基础1.1机器学习分类有监督学习...