深度学习-卷积神经网络应用

手写数字识别实验报告

实验目的

利用python和深度学习框架搭建手写数字识别的神经网络，并进行相关的仿真实验，尽可能的提高识别的准确度。

实验环境

python3.6、Pytorch1.4.0、torchvision、MNIST数据库。

环境介绍

Python

Python是一个高层次的结合了解释性、编译性、互动性和面向对象的脚本语言。Python的设计具有很强的可读性，相比其他语言经常使用英文关键字，其他语言的一些标点符号，它具有比其他语言更有特色语法结构。Python具有简单易学、明确优雅、开发速度快等特点，在人工智能、数据分析、云计算、网络爬虫等方面有着广泛的应用。

Pytorch

Pytorch是torch的python版本，是由Facebook开源的神经网络框架，专门针对GPU 加速的深度神经网络（DNN）编程。Torch是一个经典的对多维矩阵数据进行操作的张量（tensor）库，在机器学习和其他数学密集型应用有广泛应用。与TensorFlow的静态计算图不同，Pytorch的计算图是动态的，可以根据计算需要实时改变计算图。Pytorch的设计追求最少的封装，尽量避免重复造轮子。Pytorch的源码只有TensorFlow的十分之一左右，更少的抽象、更直观的设计使得Pytorch的源码十分易于阅读。同时Pytorch的灵活性不以速度为代价，在许多评测中，Pytorch的速度表现胜过TensorFlow和Keras等框架。Pytorch提供了完整的文档，循序渐进的指南。

MNIST数据库

MNIST是一个入门级的计算机视觉数据集，它包括6万张28x28的训练样本，1万张测试样本，可以说是CV里的“Hello Word”。它也包含每一张图片对应的标签，告诉我们这个是数字几。比如，图1的标签分别是5，0，4，1。

图1 MNIST图像图片

MNIST的每一张图片包含28×28个像素点。我们可以用一个数组来表示这张图片。如图2所示。

图2 MNIST的数组表示

我们把这个数组展开成一个向量，长度是28×287884。如何展开这个数组（数字间的顺序）不重要，只要保持各个图片采用相同的方式展开。从这个角度来看，MNIST数据集的图片就是在884维向量空间里面的点。

实验内容

实验方案

拟采用RNN网络的变体LSTM、以及全连接层来实现对手写体数字的识别。使用MNIST数据集的训练集对搭建的网络进行训练，损失函数则采用交叉熵函数，采用Adam优化算法对权值进行更新。完成之后使用MNIST数据集的测试集进行测试，查看正确率。

实验准备

数据准备

我们直接使用torchvision中自带的datasets，并使用Pytorch中的DataLoader

函数对训练数据和测试数据分别进行读取。代码如图3所示。

图3 数据准备代码

当然，如果下载过数据集，可以将datasets.MNIST的download参数设置为False即可。

网络构建

接下来对网络进行定义，只要在继承nn.Module的基础上，对相关网络进行构建即可。网络的构建代码如图4所示。其中def __init__()函数，定义了网络的初始化。def forward()函数，则定义了前向传播，后向传播则不需要用户进一步的定义。这也是选择Pytorch作为深度学习框架的原因。

图4 网络构建代码

图中涉及到两个函数，其中一个为torch.nn.LSTM(*args, **kwargs)。函数的各个参数以及意义如表一所示。

表一函数参数及意义

参数意义

input_size输入序列中每一个组成成员的数据大小

hidden_size LSTM输出的隐藏层的数据大小

num_layers LSTM的叠加层数

bias是否偏置

batch_first设为True，则输入输出格式发生改变，batch_size提前

dropout叠加LSTM时，除了最后一层，其他层的输出进行dropout操作bidirectional是否是双向LSTM

函数的输入参数为：input，h_0，c_0。输出参数为output，h_n，c_n。

其中input的格式为(seq_len, batch, input_size)，h_0和c_0的格式为(num_layers * num_directions, batch, hidden_size)，其中num_directions的值和bidirectional有关。output的格式为(seq_len, batch, num_directions * hidden_size)，代表着h_t，h_ n和c_n的格式为(num_layers * num_directions, batch, hidden_size)。

另一个函数为nn.Linear（in_features，out_features，bias7True），Pytorch的nn.Linear（）是用于设置网络中的全连接层的，需要注意的是全连接层的输入与输出都是二维张量，一般形状为[batch_size, size]，不同于卷积层要求输入输出是四维张量。in_features指的是输入的二维张量的大小，即输入的[batch_size, size]中的size。out_features指的是输出的二维张量的大小，即输出的二维张量的形状为[batch_size，output_size]，当然，它也代表了该全连接层的神经元个数。从输入输出的张量的shape角度来理解，相当于一个输入为[batch_size, in_features]的张量变换成了[batch_size, out_features]的输出张量。

损失函数、优化

网络的反向传播主要取决于损失函数以及网络的优化策略，损失函数使用的是交叉熵函数，而优化策略则使用的是Adam优化算法。交叉熵损失函数如式1-1所示。

L=?[ylogy?+(1?y)log(1?y?)]（1-1）

Adam优化算法的步骤基本如下：

（1）计算目标函数关于当前参数的梯度，可以记为g t。

（2）根据历史的梯度计算一阶动量和二阶动量，分别记为m t、V t。

其中，一阶动量即为，每个时刻梯度方向的指数移动平均值。二阶动量即为，迄今为止所有梯度值的平方和。而在Adam优化算法中有：

m t=β1?m t?1+(1?β1)?g t

V t=β2?V t?1+(1?β2)?g t2

（3）计算当前时刻的下降梯度，记为δt。计算公式为：δt=α?m t/√V t

（4）根据下降梯度对梯度进行更新。ωt+1=ωt?δt

以上操作的代码实现如图5所示。

图5 损失函数、优化器代码

其中，torch.nn.CrossEntropyLoss()函数的参数，和参数意义如表二所示。

表二函数参数与参数意义

参数意义

weight输入为C的张量，表示权重

ignore_index指定一个目标值，该目标值将被忽略

reduction'mean'和'none'和'sum'三种模式

实验过程

在准备好相关数据之后，实例化网络，并进行训练，设置epoch为20，即使用训练集训练网络20次，batch的大小为100，学习率为1e-3，每训练完一次网络之后，使用网络对测试集进行测试，确定网络的分类能力情况。具体代码如下所示。

model 7 Rnn(28, 128, 2, 10) # 图片大小是28x28

model 7 model.cuda()

criterion 7 nn.CrossEntropyLoss()

optimizer 7 optim.Adam(model.parameters(), lr7learning_rate)

# 开始训练

for epoch in range(num_epoches):

model.train()

print('-' * 15, 'Epoch %d' % (epoch+1), '-' * 15)

running_loss 7 0.0

running_acc 7 0.0

for i, (img, label) in enumerate(train_loader):

b, c, h, w 7 img.size()

assert c 77 1, 'channel must be 1'

img 7 img.squeeze(1).cuda()

label 7 label.cuda()

# 向前传播

out 7 model(img)

loss 7 criterion(out, label)

running_loss +7 loss.item() * label.size(0)

_, pred 7 torch.max(out, 1)

num_correct 7 (pred 77 label).sum()

running_acc +7 num_correct.item()

# 向后传播

optimizer.zero_grad()

loss.backward()

optimizer.step()

if (i+1) % 300 77 0:

print('[{}/{}] Loss: {:.6f}, Acc: {:.6f}'.format(

epoch + 1, num_epoches, running_loss / (batch_size * i),

running_acc / (batch_size * i)))

print('Finish {} epoch, Loss: {:.6f}, Acc: {:.6f}'.format(

epoch + 1, running_loss / (len(train_dataset)), running_acc / (len(

train_dataset))))

model.eval()

eval_loss 7 0.

eval_acc 7 0.

for data in test_loader:

img, label 7 data

b, c, h, w 7 img.size()

assert c 77 1, 'channel must be 1'

img 7 img.squeeze(1).cuda()

label 7 label.cuda()

out 7 model(img)

loss 7 criterion(out, label)

eval_loss +7 loss.item() * label.size(0)

_, pred 7 torch.max(out, 1)

num_correct 7 (pred 77 label).sum()

eval_acc +7 num_correct.item()

print('Test Loss: {:.6f}, Acc: {:.6f}'.format(eval_loss / (len(

test_dataset)), eval_acc / (len(test_dataset))))

# 保存模型

torch.save(model.state_dict(),

r'F:\Pytorch\RNN_Learning\First_RNN_Model\Model\rnn_mnist.pth')

实验结果

经过一段时间的网络训练，可以得出的测试结果。可以从实验结果看出，所构建的RNN网络可以较好地对手写数字进行识别，且准确度能够达到98.9%。具体的实验结果如图6所示。

图6 实验结果图

实验总结

利用python和Pytorch框架搭建手写数字识别的神经网络，能够准确地识别手写数字，且准确度能够达到98.9%，基本满足要求。