学习报告1
需积分: 0 51 浏览量
2022-08-04
00:37:56
上传
评论
收藏 978KB PDF 举报
GPGPU-简单卷积神经网络的并行加速优化
1
简单卷积神经网络的并行加速优化
1. 背景介绍
1.1. 选题动机
自 1943 年神经元模型提出至今，神经网络已经经历了三个历史阶段。依托
于大规模数据集和大量计算资源，深度学习技术如今在众多领域都表现出统治级
的地位。我所在的计算机视觉方向便是其一，传统的视觉方法几乎销声匿迹，取
而代之的是以卷积神经网络为代表的深度学习方法。
深度学习的兴起伴随着其编程语言的迭代，现阶段有很多的深度学习框架可
以被研究者和从业者使用，比如 Tensorflow, Pytorch, Caffe, Keras 等，这些框架
提供了很多的接口，使得深度学习的开发难度相对减小，效率大大提高。但当进
入到深层次的科研阶段或者工业界的落地阶段时，算法往往需要研究员和从业者
进行底层的编码以进行新方法的实现或代码的优化。
本项目基于此理念，复现了一个纯 C++实现的简单卷积神经网络，在理解的
基础上进行了 CUDA 编程，引入 GPU 并行加速模块，加深了对多卷积神经网络
的理解和底层实现。
1.2. 网络框架
卷积神经网络是深度学习网络中代表性的网络结构之一，其将深度神经网络
的大量全连接层替换为具有局部性的卷积操作。如图 1-1 所示，本项目实现了具
有卷积层、池化层、全连接层等网络层的简单卷积神经网络，其中卷积层、池化
层、全连接层间可以相互嵌套，形成深层神经网络。
图 1-1 卷积神经网络
剩余19页未读，继续阅读
评论0