PyTorch 神经网络1
需积分: 0 41 浏览量
2022-08-03
16:05:22
上传
评论
收藏 484KB PDF 举报
PyTorch 神经网络
在PyTorch中 torch.nn 专门用于实现神经网络。其中 nn.Module 包含了网络层的搭
建，以及 forward(input) 并返回网络的输出 output .
经典的LeNet网络，用于对字符进行分类
对于神经网络，标准的训练流程：
定义一个多层神经网络
对数据集的预处理并准备作为网络的输出
将数据输入到网络
反向传播梯度计算
更新网络的参数，例如 weight = weight - learning_rate * gradient
补充：PyTorch常用工具包
torch ：类似于NumPy的张量库， 强GPU支持
torch.autograd ：基于tape的自动区别库，支持torch之中的所有可区分张量
运行
torch.nn ：为最大化灵活性未涉及、与 autograd 深度整合的神经网络库
torch.optim ：与 torch.nn 一起使用的优化包，包含 SGD、RMSProp、
LBFGS、Adam 等标准优化方式
torch.multiprocessing ：python 多进程并发，进程之间 torch Tensors 的
内存共享；
torch.utils ：数据载入器。具有训练器和其他便利功能
torch.legacy(.nn/.optim) ：处于向后兼容性考虑，从 Torch 移植来的
legacy 代码；
1. 定义网络
首先定义一个神经网络（两层卷积，三层全连接）：
import torch
import torch.nn as nn
1
2
评论0