大多数人追寻永恒的家园(归宿)，少数人追寻永恒的航向。 ----瓦尔特.本雅明X-Engine是阿里数据库产品事业部自研的OLTP数据库存储引擎，作为自研数据库POLARDBX的存储引擎，已经广泛应用在阿里集团内部诸多业务系统中，其中包括交易历史库，钉钉历史库等核心应用，为业务大幅缩减了成本，同时也作为双十一...

激活函数（Activationfunctions）对于人工神经网络模型去学习、理解非常复杂和非线性的函数来说具有十分重要的作用。它们将非线性特性引入到我们的网络中。其主要目的是将A-NN模型中一个节点的输入信号转换成一个输出信号。该输出信号现在被用作堆叠中下一个层的输入。如果我们不运用激活函数的话，则输出信号将仅仅是一...

 sigmod交叉熵Sigmod交叉熵实际就是我们所说的对数损失，它是针对二分类任务的损失函数，在神经网络中，一般输出层只有一个结点。假设y为样本标签，_y为全连接网络的输出层的值，那么，这个对数损失定义为PS：这个是可以用极大似然估计推导出来的举例：y=0，_y=0.8，那此时的sigmod交叉熵为1.17...

 为什么要用激活函数在神经网络中，如果不对上一层结点的输出做非线性转换的话，再深的网络也是线性模型，只能把输入线性组合再输出（如下图），不能学习到复杂的映射关系，因此需要使用激活函数这个非线性函数做转换。 返回目录 sigmodSigmod激活函数和导函数分别为对应的图像分别为： ...

　　在logistic回归中，我们的训练集由  个已标记的样本构成： ，其中输入特征。（我们对符号的约定如下：特征向量  的维度为 ，其中  对应截距项。）由于logistic回归是针对二分类问题的，因此类标记 。假设函数(hyp...