![机器学习编程:从编码到深度学习](https://wfqqreader-1252317822.image.myqcloud.com/cover/201/38335201/b_38335201.jpg)
上QQ阅读APP看书,第一时间看更新
5.2.3 升级梯度
既然我们已经有了一个全新的损失函数,那就来看看这个损失函数的梯度吧。直接摘自数学教科书的log损失函数对权重的偏导数如下所示:
![](https://epubservercos.yuewen.com/432DF4/20180619108106606/epubprivate/OEBPS/Images/065-2-i.jpg?sign=1739301786-GQFTV9ZXfefbblOSv0NN1fQDQabXdgb3-0-0158a7f5a044899b4d290cff527c9ac6)
如果你的记忆力不错,这个梯度可能看起来很熟悉。事实上,它与我们目前使用的均方误差梯度非常相似:
![](https://epubservercos.yuewen.com/432DF4/20180619108106606/epubprivate/OEBPS/Images/065-3-i.jpg?sign=1739301786-4xWkGUF3SzsCRIScVZrt517bPu7TD0Jt-0-e2f68201bd001fb8dcad66df2160267e)
看看它们有多相似?这就意味着我们可以使用之前的gradient()函数:
![](https://epubservercos.yuewen.com/432DF4/20180619108106606/epubprivate/OEBPS/Images/065-4-i.jpg?sign=1739301786-kRMFMwB4EjYkT0wNovd7PikVmRrBnSIq-0-cdc836375f292a14ada957a7ee351cc9)
并迅速将其转换成新的公式:
![](https://epubservercos.yuewen.com/432DF4/20180619108106606/epubprivate/OEBPS/Images/065-5-i.jpg?sign=1739301786-xtaaDOXSMK49iv7t26CaP3tlOIkj3Ktk-0-8de9e67cc29bb8d7ef0b07a9212cfe5e)
这样,我们就完成了系统从线性回归模型到分类模型的转换。让我们再花一点时间,来看看这个变化是如何影响系统模型的。