没有合适的资源?快使用搜索试试~ 我知道了~
深度学习基础理论知识pdf版本
资源推荐
资源详情
资源评论
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![vsdx](https://img-home.csdnimg.cn/images/20210720083646.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![csv](https://img-home.csdnimg.cn/images/20210720083646.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![](https://csdnimg.cn/release/download_crawler_static/89349646/bg1.jpg)
深度学习
1.发展历程
1.1神经元(Neuron)
1943年,心理学家McCulloch和数学家Pitts参考了生物神经元的结构,发表了抽象的神经元模型
MP。
1.1.1结构
神经元模型是一个包含输入,输出与计算功能的模型。输入可以类比为神经元的树突,而输出可以
类比为神经元的轴突,计算则可以类比为细胞核。
下图是一个典型的神经元模型:包含有3个输入,1个输出,以及2个计算功能。
注意中间的箭头线。这些线称为“连接”。每个上有一个“权值”。
![](https://csdnimg.cn/release/download_crawler_static/89349646/bg2.jpg)
连接是神经元中最重要的东西。每一个连接上都有一个权重。
一个神经网络的训练算法就是让权重的值调整到最佳,以使得整个网络的预测效果最好。
我们使用a来表示输入,用w来表示权值。一个表示连接的有向箭头可以这样理解:在初端,传递的
信号大小仍然是a,端中间有加权参数w,经过这个加权后的信号会变成aw,因此在连接的末端,
信号的大小就变成了aw。
可见z是在输入和权值的线性加权和叠加了一个函数g的值。在MP模型里,函数g是sgn函数,也就
是取符号函数。这个函数当输入大于0时,输出1,否则输出0。
下面对神经元模型的图进行一些扩展。首先将sum函数与sgn函数合并到一个圆圈里,代表神经元
的内部计算。其次,把输入a与输出z写到连接线的左上方,便于后面画复杂的网络。最后说明,一
个神经元可以引出多个代表输出的有向箭头,但值都是一样的。
神经元可以看作一个计算与存储单元。计算是神经元对其的输入进行计算功能。存储是神经元会暂
存计算结果,并传递到下一层。
当我们用“神经元”组成网络以后,描述网络中的某个“神经元”时,我们更多地会用“单元”(unit)来
指代。同时由于神经网络的表现形式是一个有向图,有时也会用“节点”(node)来表达同样的意
思。
1.2感知机(单层神经网络)
![](https://csdnimg.cn/release/download_crawler_static/89349646/bg3.jpg)
1.2感知机(单层神经网络)
1.2.1印字
1958年,计算科学家Rosenblatt提出了由两层神经元组成的神经网络。他给它起了一个名字–“感知
器”(Perceptron)(有的文献翻译成“感知机”,下文统一用“感知器”来指代)。
感知器是当时首个可以学习的人工神经网络。Rosenblatt现场演示了其学习识别简单图像的过程,
在当时的社会引起了轰动。
人们认为已经发现了智能的奥秘,许多学者和科研机构纷纷投入到神经网络的研究中。美国军方大
力资助了神经网络的研究,并认为神经网络比“原子弹工程”更重要。这段时间直到1969年才结束,
这个时期可以看作神经网络的第一次高潮。
1.2.2结构
下面来说明感知器模型。
在原来MP模型的“输入”位置添加神经元节点,标志其为“输入单元”。其余不变,于是我们就有了下
图:从本图开始,我们将权值w1,w2,w3写到“连接线”的中间。
在“感知器”中,有两个层次。分别是输入层和输出层。输入层里的“输入单元”只负责传输数据,不做
计算。输出层里的“输出单元”则需要对前面一层的输入进行计算。
![](https://csdnimg.cn/release/download_crawler_static/89349646/bg4.jpg)
我们把需要计算的层次称之为“计算层”,并把拥有一个计算层的网络称之为“单层神经网络”。有一些
文献会按照网络拥有的层数来命名,例如把“感知器”称为两层神经网络。但在本文里,我们根据计
算层的数量来命名。
假如我们要预测的目标不再是一个值,而是一个向量,例如[2,3]。那么可以在输出层再增加一个“输
出单元”。
1.3多层神经网络
在2006年的时候,GeoffreyHinton教授和他的学生Salakhutdinov在世界顶级的学术刊物《科
学》上发表了一篇文章,该文章的发表结束了深度学习的第二次停滞状态,将深度学习又再度回到
了大众的视野当中,该文章通过首先采取无监督逐层训练,然后再通过有标记的数据进行有监督的
训练的方法,该方法可以对数据进行分类以及可视化,除此之外,它对BP神经网络中梯度消失的
问题提出了解决方法,同时也表明在深度学习中包含许多隐藏层的神经网络具有非常良好的学习能
力。该文章的发表,除了在学术圈引起轰动外,更是在工业圈掀起一股深度学习的浪潮,为以后的
工业4.0的诞生打下了基础。因此,2006年又被称为深度学习的元年。
自2006年以来,深度学习就持续升温,国外许多著名的大学也加入到深度学习这个浪潮中来,成
为深度学习的研究重镇,其中就包括斯坦福大学,加拿大蒙特利尔大学,纽约大学。2012年,
Hinton教授带领团队参加ImageNet图像识别大赛,凭借其深度学习算法优异的表现,以压倒性的
优势打败第二名SVM算法一举夺冠。从此深度学习在很多领域中都替代了传统的机器学习算法,成
为人工智能领域热门的研究方向之一。2016年,谷歌公司及其旗下的团队在深度学习方面进行了
许多研究,设计了很多基于深度学习的算法,并采用相关算法开发了AlphaGo程序,在接下来的
两年时间里打败了来自中日韩的各大围棋高手,造成了世界范围内的轰动。自此,深度学习成为了
众多高等院校、研究机构及各大IT公司的重点研究方向,并投入大量的人力物力,以期望通过深
![](https://csdnimg.cn/release/download_crawler_static/89349646/bg5.jpg)
度学习来改善自己的产品性能,其中不乏腾讯、百度、阿里巴巴、谷歌这样的世界500强公司。而
这股深度学习的浪潮一直持续到今天,丝毫没有减退的迹象。
2.基本概念
2.1层级网络
阶层型的神经网络主要结构如下图所示,通过输入层激活信号,再通过隐藏层提取特征,不同隐藏
层神经单元对应不同输入层的神经单元权重和自身偏置均可能不同,输入层兴奋传递到隐藏层兴
奋,最后输出层根据不同的隐藏层权重和自身偏置输出结果。
剩余46页未读,继续阅读
资源评论
![avatar-default](https://csdnimg.cn/release/downloadcmsfe/public/img/lazyLogo2.1882d7f4.png)
![avatar](https://profile-avatar.csdnimg.cn/1c52a5486e76441d820f15d380429ee7_m0_37932764.jpg!1)
铁盒薄荷糖
- 粉丝: 551
- 资源: 3
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![voice](https://csdnimg.cn/release/downloadcmsfe/public/img/voice.245cc511.png)
![center-task](https://csdnimg.cn/release/downloadcmsfe/public/img/center-task.c2eda91a.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![dialog-icon](https://csdnimg.cn/release/downloadcmsfe/public/img/green-success.6a4acb44.png)