没有合适的资源?快使用搜索试试~ 我知道了~
本科毕设论文,CNN实现的手写数字集,改自Matlab的深度学习工具箱,有较详细的中文注释!代码等见论文
资源推荐
资源详情
资源评论
I
摘 要
深度学习近些年是机器学习领域的一个重大突破,它使得计算机在语音、图
像、语义理解等方面取得了重大进展,在众多领域得到了广泛的应用。其中,卷
积神经网络在图像识别领域发挥了巨大作用,展现出了强大的特征学习能力。
本文对深度学习关键知识进行了深入的研究与分析,重点研究了卷积神经网
络,实现了基于深度学习的手写数字识别算法,并对其做出了改进。该算法以深
度学习的理论为指导,以卷积神经网络为模型,基于反向传播的思想,研究并解
决手写数字识别问题。针对手写数字图像的特点及认读难点,首先对图像进行归
一化预处理;其次,基于 MNIST 手写数字集构建了多个卷积神经网络模型对手
写数字进行识别;最后为数据集添加光照和高斯噪声,在训练好的模型上进行实
验。
本文在 Matlab 平台及 Caffe 框架上分别进行了实验。其中,在 Caffe 框架上利
用 GPU 处理运算,提高了训练速度。在 Matlab 平台上,将本文的算法与经典的
手写数字识别算法和原算法做了对比,实验结果证实了本文算法的良好识别率以
及在不良条件下的鲁棒性与有效性。
代码 http://pan.baidu.com/s/1bNTkoI
联系方式 einleo@qq.com
关键字:深度学习 手写数字识别 卷积神经网络 反向传播 梯度下降
II
ABSTRACT
Deep learning is a significant breakthrough in Machine learning, which allows
computer can make great process in voice, video, image, semantic understanding and
has been used in many areas, where the convolutional neural network played an
important role in image recognition, showing a powerful ability of feature learning.
In this paper, we research the leading knowledge of deep learning and focus on the
convolutional neural network. We implement a handwritten digit recognition algorithm
based on deep learning and have improved its performance. The algorithm is guiding
by deep learning, which model is based on convolutional neural network, and the core
of the algorithm is the back-propagation algorithm. We use the algorithm to study and
solve the handwritten digit recognition problem. According to the characteristics of
digital images and the difficulties of recognizing handwritten numbers, we first
normalize the digital images. And then we train several CNN models based on MNIST
handwritten digit set to recognize digital images. Finally, we add light and Gaussian
noise in the data set and use it to test the trained model.
In this paper, the Matlab platform and the Caffe framework were carried out
respectively. Among them, the GPU processing algorithm is used to improve the
training speed of the Caffe framework. In the MATLAB platform, the algorithm with
the classic handwritten digital recognition algorithm and the original algorithm are
compared. Experimental results show that the the algorithm's good recognition rate and
the robustness and effectiveness in bad condition.
Key words: Deep learning; Handwritten digit recognition; Back propagation;
Convolutional Neural Network ; Gradient descent
III
目 录
目 录............................................................................................................................... III
1 绪论 ...............................................................................................................................1
1.1 研究背景 ................................................................................................................... 1
1.2 研究意义 ................................................................................................................... 2
1.3 深度学习与神经网络................................................................................................. 2
1.4 论文章节安排............................................................................................................ 3
2 卷积神经网络 ................................................................................................................3
2.1 卷积神经网络模型 .................................................................................................... 4
2.2 前向传播 ................................................................................................................... 5
2.3 梯度下降与反向传播................................................................................................. 6
2.4 卷积层与子采样层算法 ............................................................................................. 9
2.5 本章小结 ..................................................................................................................11
3 卷积神经网络的实现细节 ............................................................................................ 11
3.1 神经元模型 ..............................................................................................................11
3.2 池化方法 ..................................................................................................................14
3.3 数据集处理 ..............................................................................................................16
3.4 其他实现细节...........................................................................................................17
3.5 本章小结 ..................................................................................................................17
4 手写数字识别算法的设计与实现 ................................................................................. 17
4.1 数据集......................................................................................................................17
4.2 基于 Matlab 平台的手写数字识别算法的实现..........................................................18
4.3 基于 Caffe 框架的手写数字识别算法的设计与实现 .................................................24
4.4 本章小结 ..................................................................................................................25
结 论............................................................................................................................... 27
参考文献 ........................................................................................................................... 28
附录 1:CNN-6-24 网络模型内部状态及识别错误的手写数字 ......................................... 30
北京印刷学院毕业设计(论文)
1
1 绪论
1.1 研究背景
深度学习是近年来机器学习领域的新方向及重大突破,其概念源于对大脑神
经科学的研究
[1]
,它最早在 2006 年由 Geoffery Hinton 和他的学生 Ruslan
Salakhutdinov 提出
[2]
。它与传统的机器学习方法解决问题的思路类似,都是通过
传感器来获得所需数据,提取并选择数据的特征,经过推理,做出预测。然而不
同之处在于,传统的机器学习算法都是人工选取数据特征,既费时费力,又需要
一定的专业知识,最终识别效果不理想。而深度学习解决了这一问题,它可以自
动地学习数据的特征,不需要人参与,并且可以通过对原始输入的数据进行逐层
特征变换,提取存在于数据中的更抽象更接近本质的层次化特征,从而可以更好
的解决识别或者预测问题。但是在深度学习发展过程中也出现了许多新型识别难
题,如理论问题、建模问题、大量的工程应用问题。典型的深度学习模型包括卷
积神经网络
[3]
,受限制玻尔兹曼机
[4]
,自动编码机
[5]
等。
近些年,卷积神经网络模型的研究是深度学习领域的热点。在 IMAGENET 大
规模视觉识别大赛(ILSVRC)中,赢得比赛的队伍将深度学习应用于大规模图
像识别领域,大大降低了识别错误率。比如在 ILSVRC2012 上,Alex 等人提出的
AlexNet
[6]
首次将卷积神经网络应用于大规模的图像数据分类,取得了 16.4%的错
误率,大大提高了往年的最优结果。在 ILSVRC2014 上,由 Google 提出的含有
22 层网络的 GoogleNet
[7]
,在图像分类上取得了 6.7%的错误率。在 ILSVRC-2015
上,由微软亚洲研究院提出的多达 152 层网络的深度残差网络
[8]
,获得了图像定
位、图像检测及图像分类 3 个项目的冠军,在图像分类上取得了 3.57%的错误率。
另外,今年年初的李世石对战 AlphaGo 围棋大战,基于深度学习的人工智能
AlphaGo 战胜了世界顶尖围棋选手,深度学习再次展现了它的强大的特征学习能
力和复杂问题的处理能力。
手写数字识别属于图像识别,基于深度学习的手写数字识别算法不断刷新着
手写数字识别记录。手写数字识别算法多年前就被人提出,经典的识别手写数字
的算法有线性分类(Linear Classifiers)算法,K 近邻(K-nearest Neightors)算法,
主成分分析(PCA)算法,支撑向量机(SVM)算法,神经网络(NN)以及卷
积神经网络(CNN)算法,目前基于深度学习的采用卷积神经网络模型的手写数
字识别算法的识别正确率处于最优地位,在 MNIST 手写数字集上的识别错误率
0.23%
[9]
。
剩余36页未读,继续阅读
资源评论
einn
- 粉丝: 2
- 资源: 4
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功