在深度学习中，使用归一化层成为了很多网络的标配。最近，研究了不同的归一化层，如BN，GN和FRN。接下来，介绍一下这三种归一化算法。BN层是由谷歌提出的，其相关论文为《BatchNormalization:AcceleratingDeepNetworkTrainingbyReducingInternalCovariat...

深度学习其本质是优化所有权重的值，使其达到一个最优解的状态，这其中，需要更新权重的层包括卷积层、BN层和FC层等。在最优化中，权重的初始化是得到最优解的重要步骤。如果权重初始化不恰当，则可能会导致模型陷入局部最优解，导致模型预测效果不理想，甚至使损失函数震荡，模型不收敛。而且，使用不同的权重初始化方式，模型最终达到的效...

在深度学习中，损失函数扮演着至关重要的角色。通过对最小化损失函数，使模型达到收敛状态，减少模型预测值的误差。因此，不同的损失函数，对模型的影响是重大的。接下来，总结一下，在工作中经常用到的损失函数：图像分类：交叉熵目标检测：Focalloss，L1/L2损失函数，IOULoss，GIOU，DIOU，CIOU图像识别：T...

目标检测算法——SSD：SingleShotMultiBoxDetector，是一篇非常经典的目标检测算法，十分值得阅读和进行代码复现，其论文地址是：https://arxiv.org/abs/1512.02325。同时，我使用pytorch对SSD代码进行了复现：https://github.com/Dengshun...

最近，谷歌使用了AutoML，推出了一种新网络：MixNet，其论文为《MixNet:MixedDepthwiseConvolutionalKernels》。其主要创新点是，研究不同卷积核尺寸的影响和观察到组合不同尺寸的卷积核能提高准确率。作者将混合了不同尺寸的卷积核的卷积操作命名为MDConv，并将其使用在深度可分离...

ShuffleNet是旷世提出的高效轻量化网络，是一款很值得一提的轻量化网络，其相关论文也是很有价值的。该网络提出于2017年，论文为《ShuffleNet:AnExtremelyEfficientConvolutionalNeuralNetworkforMobileDevices》。由于Xception和ResNeX...

EfficientNet是谷歌大脑在2019年提出的，论文地址是：https://arxiv.org/pdf/1905.11946.pdf这篇文章主要想解决的一个问题是，如何平衡网络的深度、宽度和分辨率来提高模型的准确率。通常而言，提高网络的深度、宽度和分辨率来扩大模型，从而提高模型的泛化能力。但如果单一提高某个参数的...

转载:http://www.importnew.com/18176.html原文出处： Hollis（@Hollis_Chuang）/jstack是java虚拟机自带的一种堆栈跟踪工具。jstack用于生成java虚拟机当前时刻的线程快照。线程快照是当前java虚拟机内每一条线程正在执行的方法堆栈的集合，生成...

文章转自http://www.cnblogs.com/hbgzy/p/5279269.html　　普通的VLAN数量只有4096个，无法满足大规模云计算IDC的需求，而IDC为何需求那么多VLAN呢，因为目前大部分IDC内部结构主要分为两种L2，L3。L2结构里面，所有的服务器都在一个大的局域网里面，TOR透明L2，不...

第一种情况当选择器相同的情况下，引入方式的前后，决定页面最后的效果---------外部在最后面显示---------内部在最后面显示第二种情况引入方式相同时候，则是按照权重取最大(取权重最大值显示)去确定最后样式(此处以外部样式为例子) 选择器     &n...

博客链接 http://aub.iteye.com/blog/1101222...

<%@pagelanguage="java"import="java.util.*"pageEncoding="utf-8"%> <!--定义jsp的编码，还有引入的java文件--> <% Stringpath=request.getContextPath(...

我就学习了网易课堂的知了Flaskk。十分感谢。└—01-Flask视图和URL├—课时001.【Flask预热】课程介绍├—课时002.【Flask预热】Flask课程准备工作├—课时003.【Flask预热】URL组成部分详解├—课时004.【Flask预热】web服务器+应用服务器+web应用框架├—课时005....

单个学习器要么容易欠拟合要么容易过拟合，为了获得泛化性能优良的学习器，可以训练多个个体学习器，通过一定的结合策略，最终形成一个强学习器。这种集成多个个体学习器的方法称为集成学习(ensemblelearning)。集成学习通过组合多种模型来改善机器学习的结果，与单一的模型相比，这种方法允许产生更好的预测性能。集成学习属...

PCA(PrincipalComponentAnalysis)，即主成分分析方法，是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上，这k维是全新的正交特征也被称为主成分，是在原有n维特征的基础上重新构造出来的k维特征。PCA的工作就是从原始的空间中顺序地找一组相互正交的坐标轴，新的坐标轴的选择与...