登录    |    注册

动量(Momentum)

2020-09-09 16:55:58

动量是梯度下降算法(Gradient Descent Algorithm)的扩展,可以加速和阻抑参数更新。在实际应用中,在梯度下降更新中包含一个动量项,可在深度网络中得到更好的收敛速度(convergence rate)。