深度学习——卷积神经网络

卷积神经网络 文章目录卷积神经网络一、卷积神经网络基础1.基础知识2.卷积层的简洁实现3.池化二、LeNet三、常见的一些卷积神经网络1.AlexNet2.VGG3.NiN4.GoogLeNet   一、卷积神经网络基础 1.基础知识 二维互相关(cross-correlation)运算：输入一个二维数组和核数组（卷积核或过滤器），卷积核在输入数组上滑动，在每个位置上与输入子数组按元素相乘并求和，取得一个输出的二维数组。如图中所示：19=0×0+1×1+3×2+4×3，25=1×0+2×1+4×2+5×3，…… 二维卷积层：将输入和卷积核做互相关运算，再加上一个偏差得到输出。此外，将核数组上 卷积神经网络（CNN）是深度学习领域的重要组成部分，尤其在图像识别和处理任务中表现卓越。CNN的主要特点是利用卷积层和池化层来提取和学习图像特征，同时通过多层非线性变换实现复杂模式的识别。 1. **卷积神经网络基础** - **二维互相关运算**：这是卷积神经网络的基础运算。输入数组和卷积核（也叫滤波器）通过互相关操作交互，卷积核在输入数组上滑动，每个位置的乘积和构成输出数组的一个元素。例如，卷积核与输入数组的部分子区域相乘并求和。 - **二维卷积层**：输入和卷积核进行互相关运算后加上偏置得到输出。卷积层的输出被称为特征图，表示输入在特定空间维度的特征表示。 - **感受野**：卷积运算中，一个输出元素受到影响的输入区域。随着网络层次加深，单个输出元素的感受野变大，能捕捉更广泛的输入信息。 - **卷积层的超参数**：包括**填充（padding）**和**步幅（stride）**。填充用于保持输入和输出的尺寸一致，步幅控制卷积核移动的步长。此外，还有多输入和输出通道的概念，它们允许网络处理多通道数据，并通过1×1卷积层调整通道数。 2. **卷积层的简洁实现** - 在PyTorch中，可以使用`nn.Conv2d`来构建二维卷积层，设置参数如输入和输出通道数、卷积核大小、步幅和填充。 - `forward`函数接受四维张量输入（批量大小、输入通道、高度、宽度），并返回同样结构的输出张量，只是通道数和高度、宽度可能变化。 3. **池化** - **池化层**通常用于减少计算量和防止过拟合，它对输入数据进行下采样。最大池化选取窗口内的最大值，平均池化则取平均值。 - PyTorch中的`nn.MaxPool2d`可以实现最大池化，指定池化窗口大小、步幅和填充。 4. **LeNet** - LeNet是早期的卷积神经网络架构，由Yann LeCun提出，主要用于手写数字识别，它包括卷积层、池化层和全连接层。 5. **其他常见CNN模型** - **AlexNet**：在ImageNet大赛中取得了突破，首次证明了深度学习在图像识别上的潜力，包含多个卷积层、池化层和全连接层。 - **VGG**（Visual Geometry Group）：以其深且窄的卷积层结构闻名，大量使用3×3卷积核，以增加网络深度。 - **NiN**（Network in Network）：引入微网络单元，增强特征表达能力。 - **GoogLeNet（Inception Network）**：采用Inception模块，允许不同大小的卷积核并行工作，提高计算效率和模型性能。 这些模型的发展推动了卷积神经网络的进步，使得CNN成为现代深度学习系统的核心组件，广泛应用于图像分类、目标检测、语义分割、图像生成等多个领域。理解和掌握CNN的基本原理和实现方式对于深度学习实践至关重要。