没有合适的资源?快使用搜索试试~ 我知道了~
DeepLearning深度学习教程_第五章 卷积神经网络(CNN).pdf
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 75 浏览量
2023-08-23
21:13:35
上传
评论
收藏 3.75MB PDF 举报
温馨提示
试读
23页
DeepLearning 深度学习 经验总结
资源推荐
资源详情
资源评论
DeepLearning
第五章第五章 卷积神经⽹络卷积神经⽹络
(CNN)
DeepLearning
DeepLearning
1
1
2
2
2
3
3
3
4
5
6
7
7
8
8
9
9
9
10
11
11
12
13
13
13
14
15
15
16
16
16
17
17
18
19
21
⽬录
第五章第五章 卷积神经⽹络(卷积神经⽹络(CNN))
5.1 卷积神经⽹络的组成层
5.1.1 输⼊层
5.1.2 卷积层
5.1.3 激活层
5.1.4 池化层
5.1.5 全连接层
5.2 卷积在图像中有什么直观作⽤
5.3 卷积层有哪些基本参数?
5.4 卷积核有什么类型?
5.5 ⼆维卷积与三维卷积有什么区别?
5.7 有哪些池化⽅法?
5.8 卷积作⽤?
5.9 卷积层和池化层有什么区别?
5.10 卷积核是否⼀定越⼤越好?
5.11 每层卷积是否只能⽤⼀种尺⼨的卷积核?
5.12 怎样才能减少卷积层参数量?
5.13 在进⾏卷积操作时,必须同时考虑通道和区域吗?
5.14 采⽤宽卷积的好处有什么?
5.15 理解转置卷积与棋盘效应
5.15.1 标准卷积
5.15.2 转置卷积
5.15.3 棋盘效应
5.16 卷积神经⽹络的参数设置
5.17 提⾼卷积神经⽹络的泛化能⼒
5.18 卷积神经⽹络在不同领域的应⽤
5.18.1 联系
5.18.2 区别
5.19 卷积神经⽹络凸显共性的⽅法?
5.19.1 局部连接
5.19.2 权值共享
5.19.3 池化操作
5.20 全连接、局部连接、全卷积与局部卷积
5.21 局部卷积的应⽤
5.22 NetVLAD池化 (贡献者:熊楚原- 中国⼈民⼤学)
参考⽂献
DeepLearning
第五章 卷积神经⽹络(CNN)
5.1 卷积神经⽹络的组成层
5.1.1 输⼊层
5.1.2 卷积层
5.1.3 激活层
5.1.4 池化层
5.1.5 全连接层
5.2 卷积在图像中有什么直观作⽤
5.3 卷积层有哪些基本参数?
5.4 卷积核有什么类型?
5.5 ⼆维卷积与三维卷积有什么区别?
5.7 有哪些池化⽅法?
5.8 $1\times1$卷积作⽤?
5.9 卷积层和池化层有什么区别?
5.10 卷积核是否⼀定越⼤越好?
5.11 每层卷积是否只能⽤⼀种尺⼨的卷积核?
5.12 怎样才能减少卷积层参数量?
5.13 在进⾏卷积操作时,必须同时考虑通道和区域吗?
5.14 采⽤宽卷积的好处有什么?
5.15 理解转置卷积与棋盘效应
5.15.1 标准卷积
5.15.2 转置卷积
5.15.3 棋盘效应
5.16 卷积神经⽹络的参数设置
5.17 提⾼卷积神经⽹络的泛化能⼒
5.18 卷积神经⽹络在不同领域的应⽤
5.18.1 联系
5.18.2 区别
5.19 卷积神经⽹络凸显共性的⽅法?
5.19.1 局部连接
5.19.2 权值共享
5.19.3 池化操作
5.20 全连接、局部连接、全卷积与局部卷积
5.21 局部卷积的应⽤
5.22 Net VLAD池化 (贡献者:熊楚原-中国⼈民⼤学)
参考⽂献
第五章 卷积神经⽹络(CNN)
卷积神经⽹络是⼀种⽤来处理局部和整体相关性的计算⽹络结构,被应⽤在图像识别、⾃然语⾔处理甚⾄是语⾳识别领域,
因为图像数据具有显著的局部与整体关系,其在图像识别领域的应⽤获得了巨⼤的成功。
5.1 卷积神经⽹络的组成层
以图像分类任务为例,在表5.1所⽰卷积神经⽹络中,⼀般包含5种类型的⽹络层次结构:
表5.1 卷积神经⽹络的组成
CNN层次结构层次结构 输出尺⼨输出尺⼨ 作⽤作⽤
输⼊层 卷积⽹络的原始输⼊,可以是原始或预处理后的像素矩阵
卷积层 参数共享、局部连接,利⽤平移不变性从全局特征图提取局部特征
激活层 将卷积层的输出结果进⾏⾮线性映射
第五章 卷积神经⽹络(CNN)
1/21
DeepLearning
池化层
进⼀步筛选特征,可以有效减少后续⽹络层次所需的参数量
全连接层 将多维特征展平为2维特征,通常低维度特征对应任务的学习⽬标(类别或回归值)
CNN层次结构层次结构 输出尺⼨输出尺⼨ 作⽤作⽤
对应原始图像或经过预处理的像素值矩阵,3对应RGB图像的通道; 表⽰卷积层中卷积核(滤波器)的个数;
为池化后特征图的尺度,在全局池化中尺度对应 ; 是将多维特征压缩到1维之后的⼤⼩,
对应的则是图像类别个数。
5.1.1 输⼊层
输⼊层(Input Layer)通常是输⼊卷积神经⽹络的原始数据或经过预处理的数据,可以是图像识别领域中原始三维的多彩图
像,也可以是⾳频识别领域中经过傅利叶变换的⼆维波形数据,甚⾄是⾃然语⾔处理中⼀维表⽰的句⼦向量。以图像分类任
务为例,输⼊层输⼊的图像⼀般包含RGB三个通道,是⼀个由长宽分别为 和 组成的3维像素值矩阵 ,卷积
⽹络会将输⼊层的数据传递到⼀系列卷积、池化等操作进⾏特征提取和转化,最终由全连接层对特征进⾏汇总和结果输出。
根据计算能⼒、存储⼤⼩和模型结构的不同,卷积神经⽹络每次可以批量处理的图像个数不尽相同,若指定输⼊层接收到的
图像个数为 ,则输⼊层的输出数据为 。
5.1.2 卷积层
卷积层(Convolution Layer)通常⽤作对输⼊层输⼊数据进⾏特征提取,通过卷积核矩阵对原始数据中隐含关联性的⼀种抽
象。卷积操作原理上其实是对两张像素矩阵进⾏点乘求和的数学操作,其中⼀个矩阵为输⼊的数据矩阵,另⼀个矩阵则为卷
积核(滤波器或特征矩阵),求得的结果表⽰为原始图像中提取的特定局部特征。图5.1表⽰卷积操作过程中的不同填充策
略,上半部分采⽤零填充,下半部分采⽤有效卷积(舍弃不能完整运算的边缘部分)。
图5.1 卷积操作⽰意图
5.1.3 激活层
第五章 卷积神经⽹络(CNN)
2/21
DeepLearning
激活层(Act ivation Layer)负责对卷积层抽取的特征进⾏激活,由于卷积操作是由输⼊矩阵与卷积核矩阵进⾏相差的线性变化
关系,需要激活层对其进⾏⾮线性的映射。激活层主要由激活函数组成,即在卷积层输出结果的基础上嵌套⼀个⾮线性函
数,让输出的特征图具有⾮线性关系。卷积⽹络中通常采⽤ReLU来充当激活函数(还包括t anh和sigmoid等)ReLU的函数形
式如公式(5-1)所⽰,能够限制⼩于0的值为0,同时⼤于等于0的值保持不变。
5.1.4 池化层
池化层⼜称为降采样层(Downsampling Layer),作⽤是对感受域内的特征进⾏筛选,提取区域内最具代表性的特征,能够
有效地降低输出特征尺度,进⽽减少模型所需要的参数量。按操作类型通常分为最⼤池化(Max Pooling)、平均池化(Average
Pooling)和求和池化(Sum Pooling),它们分别提取感受域内最⼤、平均与总和的特征值作为输出,最常⽤的是最⼤池化。
5.1.5 全连接层
全连接层(Full Connect ed Layer)负责对卷积神经⽹络学习提取到的特征进⾏汇总,将多维的特征输⼊映射为⼆维的特征输
出,⾼维表⽰样本批次,低位常常对应任务⽬标。
5.2 卷积在图像中有什么直观作⽤
在卷积神经⽹络中,卷积常⽤来提取图像的特征,但不同层次的卷积操作提取到的特征类型是不相同的,特征类型粗分如表
5.2所⽰。
表5.2 卷积提取的特征类型
卷积层次卷积层次 特征类型特征类型
浅层卷积 边缘特征
中层卷积 局部特征
深层卷积 全局特征
图像与不同卷积核的卷积可以⽤来执⾏边缘检测、锐化和模糊等操作。表5.3显⽰了应⽤不同类型的卷积核(滤波器)后的各
种卷积图像。
表5.3 ⼀些常见卷积核的作⽤
卷积作⽤卷积作⽤ 卷积核卷积核 卷积后图像卷积后图像
输出原图
第五章 卷积神经⽹络(CNN)
3/21
剩余22页未读,继续阅读
资源评论
安全方案
- 粉丝: 1087
- 资源: 3999
下载权益
C知道特权
VIP文章
课程特权
开通VIP
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- 基于matlab实现对表面肌电信号进行归一化处理,并对归一化后的图形显示 .rar
- 基于matlab实现单级倒立摆的 T-S 模型 包括 LMI 程序源码
- 图书管理系统(struts+hibernate+spring+ext).rar
- 基于matlab实现此压缩包包含语音信号处理中的语音变声代码加音频.rar
- STM32使用PWM驱动舵机并通过OLED显示
- 基于matlab实现车辆路径规划;遗传算法;matlab代码.rar
- 图书管理系统(struts+hibernate+spring)130225.rar
- 基于matlab实现采用标量衍射理论,实现菲涅尔衍射和夫琅禾费衍射,对光波的波前传播和数字全息的应用有帮助.rar
- JavaScript版去除链表重复元素
- 微信小程序项目-功德木鱼(带设置面板-自定义文字、可选字体颜色、可选木鱼样式)
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功