十年网站开发经验 + 多家企业客户 + 靠谱的建站团队
量身定制 + 运营维护+专业推广+无忧售后,网站问题一站解决
前言
成都创新互联专业为企业提供钟祥网站建设、钟祥做网站、钟祥网站设计、钟祥网站制作等企业网站建设、网页设计与制作、钟祥企业网站模板建站服务,十多年钟祥做网站经验,不只是建网站,更提供有价值的思路和整体网络服务。本文参考PyTorch官网的教程,分为五个基本模块来介绍PyTorch。为了避免文章过长,这五个模块分别在五篇博文中介绍。
Part3:使用PyTorch构建一个神经网络
神经网络可以使用touch.nn来构建。nn依赖于autograd来定义模型,并且对其求导。一个nn.Module包含网络的层(layers),同时forward(input)可以返回output。
这是一个简单的前馈网络。它接受输入,然后一层一层向前传播,最后输出一个结果。
训练神经网络的典型步骤如下:
(1) 定义神经网络,该网络包含一些可以学习的参数(如权重)
(2) 在输入数据集上进行迭代
(3) 使用网络对输入数据进行处理
(4) 计算loss(输出值距离正确值有多远)
(5) 将梯度反向传播到网络参数中
(6) 更新网络的权重,使用简单的更新法则:weight = weight - learning_rate* gradient,即:新的权重=旧的权重-学习率*梯度值。
1 定义网络
我们先定义一个网络:
import torch from torch.autograd import Variable import torch.nn as nn import torch.nn.functional as F class Net(nn.Module): def __init__(self): super(Net, self).__init__() # 1 input image channel, 6 output channels, 5x5 square convolution # kernel self.conv1 = nn.Conv2d(1, 6, 5) self.conv2 = nn.Conv2d(6, 16, 5) # an affine operation: y = Wx + b self.fc1 = nn.Linear(16 * 5 * 5, 120) self.fc2 = nn.Linear(120, 84) self.fc3 = nn.Linear(84, 10) def forward(self, x): # Max pooling over a (2, 2) window x = F.max_pool2d(F.relu(self.conv1(x)), (2, 2)) # If the size is a square you can only specify a single number x = F.max_pool2d(F.relu(self.conv2(x)), 2) x = x.view(-1, self.num_flat_features(x)) x = F.relu(self.fc1(x)) x = F.relu(self.fc2(x)) x = self.fc3(x) return x def num_flat_features(self, x): size = x.size()[1:] # all dimensions except the batch dimension num_features = 1 for s in size: num_features *= s return num_features net = Net() print(net)