python里反向传播算法是什么?

2024年12月07日 Python51

反向传播的目的是计算成本函数C对网络中任意w或b的偏导数。一旦我们有了这些偏导数,我们将通过一些常数 α的乘积和该数量相对于成本函数的偏导数来更新网络中的权重和偏差。这是流行的梯度下降算法。而偏导数给出了最大上升的方向。因此,关于反向传播算法,我们继续查看下文。

我们向相反的方向迈出了一小步——最大下降的方向,也就是将我们带到成本函数的局部最小值的方向。

图示演示:

反向传播算法中Sigmoid函数代码演示:

反向传播算法中ReLU 函数导数函数代码演示:

以上内容,相信可以让我们更好地了解了反向传播的实际效果。既然现在我们已经了解了反向传播实际上在做什么,那就进行实际的应用吧~

本文链接:http://so.lmcjl.com/news/19116/

展开阅读全文
相关内容