#Learning

从Learning to Segment Every Thing说起

原文地址:https://arxiv.org/pdf/1711.10370.pdf这是何恺明老师发表于CVPR2018的一篇优秀paper。先简单回顾一下语义分割领域之前的工作那么什么是语义分割?语义分割其实就是对图片的每个像素都做分类。其中,较为重要的语义分割数据集有:VOC2012 以及 MSC...

Deep Learning系统实训之三:卷积神经网络

 边界填充(padding):卷积过程中,越靠近图片中间位置的像素点越容易被卷积计算多次,越靠近边缘的像素点被卷积计算的次数越少,填充就是为了使原来边缘像素点的位置变得相对靠近中部,而我们又不想让填充的数据影响到我们的计算结果,故填充值选择均用0来填充。池化层不需要参数、只是对特征图进行压缩操作,以减少计算量...

Deep Learning系统实训之二:梯度下降原理

基本概念理解:一个epoch:当前所有数据都跑(迭代)了一遍;    那么两个epoch,就是把所有数据跑了两遍,三个epoch就是把所有数据跑了三遍,以此类推。batch_size:每次迭代多少个数据;(batch_size称作批处理,它的作用可以理解为每次训练100个数据(在...

Deep Learning系统实训之一:深度学习基础知识

K-近邻与交叉验证1选取超参数的正确方法是:将原始训练集分为训练集和验证集,我们在验证集上尝试不同的超参数,最后保留表现最好的那个。2如果训练数据量不够,使用交叉验证法,它能帮助我们在选取最优超参数的时候减少噪音。3一旦找到最优的超参数,就让算法以该参数在测试集跑且只跑一次,并根据测试结果评价算法。4最近邻分类器能够在...

《MATLAB Deep Learning:With Machine Learning,Neural Networks and Artificial Intelligence》选记

一、TrainingofaSingle-LayerNeuralNetwork1DeltaRuleConsiderasingle-layerneuralnetwork,asshowninFigure 2-11.Inthe figure,diisthecorrectoutputoftheoutputno...

A brief introduction to weakly supervised learning(简要介绍弱监督学习)

by南大周志华摘要监督学习技术通过学习大量训练数据来构建预测模型,其中每个训练样本都有其对应的真值输出。尽管现有的技术已经取得了巨大的成功,但值得注意的是,由于数据标注过程的高成本,很多任务很难获得如全部真值标签这样的强监督信息。因此,能够使用弱监督的机器学习技术是可取的。本文综述了弱监督学习的一些研究进展,主要关注三...

(3)Deep Learning之神经网络和反向传播算法

在上一篇文章中,我们已经掌握了机器学习的基本套路,对模型、目标函数、优化算法这些概念有了一定程度的理解,而且已经会训练单个的感知器或者线性单元了。在这篇文章中,我们将把这些单独的单元按照一定的规则相互连接在一起形成神经网络,从而奇迹般的获得了强大的学习能力。我们还将介绍这种网络的训练算法:反向传播算法。最后,我们依然用...

论文笔记(6):Weakly-and Semi-Supervised Learning of a Deep Convolutional Network for Semantic Image Segmentation

这篇文章的主要贡献点在于:1.实验证明仅仅利用图像整体的弱标签很难训练出很好的分割模型;2.可以利用boundingbox来进行训练,并且得到了较好的结果,这样可以代替用pixel-level训练中的groundtruth;3.当我们用少量的pixel-levelannotations和大量的图像整体的弱标签来进行半监...

论文笔记(5):Fully Convolutional Multi-Class Multiple Instance Learning

这篇论文主要介绍了如何使用图片级标注对像素级分割任务进行训练。想法很简单却达到了比较好的效果。文中所提到的loss比较有启发性。大体思路:首先同FCN一样,这个网络只有8层(5层VGG,3层全卷积)。不同的是由于图片只有image-level的标注,所以输出图像的清晰度无法保证,所以没有反卷积。图片的分辨率很低很低,但...

(2)Deep Learning之线性单元和梯度下降

 在上一篇文章中,我们已经学会了编写一个简单的感知器,并用它来实现一个线性分类器。你应该还记得用来训练感知器的『感知器规则』。然而,我们并没有关心这个规则是怎么得到的。本文通过介绍另外一种『感知器』,也就是『线性单元』,来说明关于机器学习一些基本的概念,比如模型、目标函数、优化算法等等。这些概念对于所有的机器...

(1)Deep Learning之感知器

在人工智能领域,有一个方法叫机器学习。在机器学习这个方法里,有一类算法叫神经网络。神经网络如下图所示:上图中每个圆圈都是一个神经元,每条线表示神经元之间的连接。我们可以看到,上面的神经元被分成了多层,层与层之间的神经元有连接,而层内之间的神经元没有连接。最左边的层叫做输入层,这层负责接收输入数据;最右边的层叫输出层,我...
代码星球 代码星球·2021-02-16

Learning to Rank算法介绍:RankNet,LambdaRank,LambdaMart

之前的博客:http://www.cnblogs.com/bentuwuying/p/6681943.html中简单介绍了LearningtoRank的基本原理,也讲到了LearningtoRank的几类常用的方法:pointwise,pairwise,listwise。前面已经介绍了pairwise方法中的RankS...

Deep Learning(深度学习)学习笔记整理系列之(八)

DeepLearning(深度学习)学习笔记整理系列zouxy09@qq.comhttp://blog.csdn.net/zouxy09作者:Zouxyversion1.02013-04-08 声明:1)该DeepLearning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看...

Deep Learning(深度学习)学习笔记整理系列之(七)

DeepLearning(深度学习)学习笔记整理系列zouxy09@qq.comhttp://blog.csdn.net/zouxy09作者:Zouxyversion1.02013-04-08 声明:1)该DeepLearning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看...

Deep Learning(深度学习)学习笔记整理系列之(六)

DeepLearning(深度学习)学习笔记整理系列zouxy09@qq.comhttp://blog.csdn.net/zouxy09作者:Zouxyversion1.02013-04-08 声明:1)该DeepLearning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看...
首页上一页12345下一页尾页