没有合适的资源?快使用搜索试试~ 我知道了~
卷积神经网络CNNPPT课件.pptx
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 52 浏览量
2021-10-11
16:19:02
上传
评论
收藏 341KB PPTX 举报
温馨提示
试读
25页
卷积神经网络CNNPPT课件.pptx
资源推荐
资源详情
资源评论
主要内容
卷积神经网络—诞生背景与历程
卷积神经网络应用— LeNet-5 手写数字
识别
深度学习— Hinton 做了些什么
深度学习在数字图像识别上的运用
—Hinton 如何在 2012 年 ImageNet 引起
轰动
第 1 页 / 共 25 页
卷积神经网络提出的背景
•
浅层神经网络
•
大约二三十年前,神经网络曾经是机器学习
领域特别热门的一个方向,这种基于统计的
机器学习方法比起过去基于人工规则的专家
系统,在很多方面显示出优越性。
第 2 页 / 共 25 页
卷积神经网络提出的背景
•
但是后来,因为理论分析的难度,加上训练方法需要
很多经验和技巧,以及巨大的计算量和优化求解难度,
神经网络慢慢淡出了科研领域的主流方向。
•
值得指出的是,神经网络(如采用误差反向传播算法:
Back Propagation ,简称 BP 算法,通过梯度下降方
法在训练过程中修正权重使得网络误差最小)在层次深
的情况下性能变得很不理想(传播时容易出现所谓的梯
度弥散 Gradient Di usion 或称之为梯度消失,根源
在于非凸目标代价函数导致求解陷入局部最优,且这种
情况随着网络层数的增加而更加严重,即随着梯度的逐
层不断消散导致其对网络权重调整的作用越来越小),
所以只能转而处理浅层结构(小于等于 3 ),从而限制
了性能。
第 3 页 / 共 25 页
浅层神经网络的缺陷
•
于是, 20 世纪 90 年代,有更多各式各样的浅层模型
相继被提出,比如只有一层隐层节点的支撑向量机
( SVM , Support Vector Machine )和
Boosting ,以及没有隐层节点的最大熵方法(例如
LR , Logistic Regression )等,在很多应用领域取
代了传统的神经网络。
•
显然,这些浅层结构算法有很多局限性:在有限样本和
计算单元情况下对复杂函数的表示能力有限,针对复杂
分类问题其泛化能力受到一定的制约。更重要的是,浅
层模型有一个特点,就是需要依靠人工来抽取样本的特
征。然而,手工地选取特征是一件非常费力的事情,能
不能选取好很大程度上靠经验和运气。
•
能不能自动地学习一些特征呢?
第 4 页 / 共 25 页
卷积神经网络
•
早在 1989 年, Yann LeCun ( 现纽约大学教授 ) 和他
的同事们就发表了卷积神经网络( Convolution
Neural Networks , 简称 CNN )的工作。
•
CNN 是一种带有卷积结构的深度神经网络,通常至少有
两个非线性可训练的卷积层,两个非线性的固定卷积层
(又叫 Pooling Layer )和一个全连接层,一共至少 5
个隐含层。
•
CNN 的结构受到著名的 Hubel-Wiesel 生物视觉模型的
启发,尤其是模拟视觉皮层 V1 和 V2 层中 Simple Cell
和 Complex Cell 的行为。
第 5 页 / 共 25 页
剩余24页未读,继续阅读
资源评论
加油学习加油进步
- 粉丝: 1383
- 资源: 52万+
下载权益
C知道特权
VIP文章
课程特权
开通VIP
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功