没有合适的资源?快使用搜索试试~ 我知道了~
资源详情
资源评论
资源推荐
![](https://csdnimg.cn/release/download_crawler_static/86348201/bg1.jpg)
1、标准梯度下降
2、数据清理
我们还需要把输入数据标准化,也就是说使得它们的均值为 0,标准偏差为 1。因为
sigmoid 函数会挤压很大或者很小的输入,所以这一步是必要的。很大或者很小输入
的梯度为 0,这意味着梯度下降的步长也会是 0。由于可能输入的数值都相当大,我们
在初始化权重的时候需要非常小心,否则梯度下降步长将会消失,网络也没法训练了。
相对地,如果我们对数据做了标准化处理,就能更容易地对权重进行初始化。
均方差
这里我们要对如何计算误差做一点小改变。我们不计算 SSE,而是用误差平方的均值
(mean of the square errors,MSE)。现在我们要处理很多数据,把所有权重更新加
起来会导致很大的更新,使得梯度下降无法收敛。为了避免这种情况,你需要一个很小
的学习率。这里我们还可以除以数据点的数量 mm 来取平均。这样,无论我们有多少数
据,我们的学习率通常会在 0.01 to 0.001 之间。我们用 MSE(下图)来计算梯度,
结果跟之前一样,只是取了平均而不是取和。
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![py](https://img-home.csdnimg.cn/images/20210720083646.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![py](https://img-home.csdnimg.cn/images/20210720083646.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![doc](https://img-home.csdnimg.cn/images/20210720083327.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![py](https://img-home.csdnimg.cn/images/20210720083646.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![avatar](https://profile-avatar.csdnimg.cn/2a7674b4f3c64eb6baaecb9205aa62db_weixin_35742195.jpg!1)
豆瓣时间
- 粉丝: 23
- 资源: 329
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![voice](https://csdnimg.cn/release/downloadcmsfe/public/img/voice.245cc511.png)
![center-task](https://csdnimg.cn/release/downloadcmsfe/public/img/center-task.c2eda91a.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![dialog-icon](https://csdnimg.cn/release/downloadcmsfe/public/img/green-success.6a4acb44.png)
评论0