想象一下，当mini-batch是真个数据集的时候，是不是就退化成了GradientDescent，这样的话，反而收敛速度慢。你忽略了batch增大导致的计算batch代价变大的问题。如果盲目增大mini-batchsize确实是迭代次数减少了，但是计算时间反而会增加，因为每次计算代价大了。...

原文地址：https://www.cnblogs.com/Johnny-z6951/p/11201081.html梯度下降是一个在机器学习中用于寻找较佳结果（曲线的最小值）的迭代优化算法。梯度的含义是斜率或者斜坡的倾斜度。下降的含义是代价函数的下降。算法是迭代的，意思是需要多次使用算法获取结果，以得到最优化结果。梯度下...