第9章 深度卷积神经网络
深度学习-CNN卷积神经网络PPT课件
1
0
8
Sparse Connectivity
这么做是有道理的，就是根据一些生物学的研究 我们的视觉感知细胞其实是局部感知的，比如我 们用很小的卷积核来提取整幅图像的布局边缘信 息，这时候采用全连接的意义并不大，不能学到 很好的图像特征信息，而且模型复杂度还很高。
上图中红色框里面的表示稀疏连接 上图中蓝色框里面表示非稀疏连接
上图就是max pooling导致的局部平移不变性，我们可以看到下面的卷积层的输入向右平移了 一个神经元，即输入层对应神经元的值都变了，可是上面的pooling层的值只有部分改变了。 这里只是对一个feature map做池化，其实对多个feature map做池化还可能解决旋转不变性的 问题。
14
17
Equivariant Representation
现在还只有一个思想没有讲，就是不变性，前面在池化的时候已经提到过，池化可以实现局部 平移不变性的效果，甚至可以通过变化实现旋转不变性。但是如果有大范围的平移怎么办那， 是否还存在平移不变性那。这里卷积层和全连接层就对平移不变性起到了很大的作用。
和传统的前馈神经网络类似，整个网络的模型有几种因素决定。我们传统的前馈神经网络 隐藏层一般是全连接的，而CNN的隐藏层又分为convolutional layer，pooling layer和最后的 fully-connected layer，这些隐藏层的区别是CNN之所以为CNN的重要原因，而另外各个神经 元激活函数的选择以及整个网络损失函数的选择都与FNN类似。下面我们主要讲解LeNet-5。
如图所示，一个卷积操作就是指卷积核和同样 大小的一个图像矩阵相乘，然后再向下或者向 右滑动卷积核，执行下一个卷积操作。这样用 卷积核在整个图像上面滑动一遍便生成了一个 卷积层。
卷积神经网络ppt课件
16
LetNet-5
比特面编码：将一个灰度图像为8 bit/像素中每个像素的第j个比特抽取出来，就得到一个称为比特平面的二值 图像，于是图像完全可以用一组共8个比特平面来表示，对灰度图像的编码转为对比特平面的二值化方块编码。 为此，将每个比特面分为不重叠的m×n个元素的子块。
23
池化层的误差传递
大部分池化层没有需要训练的参数，只需要将误差传递。以Max Pooling为 例
Layer l-1
Layer l
24
池化层的误差传递
5. C5层是一个卷积层，有120个特征图。每个单元与S4层的全部16个单元的5*5邻 域相连，故C5特征图的大小为1*1：这构成了S4和C5之间的全连接。之所以仍 将C5标示为卷积层而非全连接层，是因为如果LeNet-5的输入变大，而其他的 保持不变，那么此时特征图的维数就会比1*1大。C5层有48120个可训练连接。
17
卷积层的训练
layer l-1
L-1
层
？
的
误
差
L-1
层 的
输 出
layer l
L
层 的 误 差
L
层 的 输 入
18
卷积层的误差传播
19
卷积层的误差传播
20
卷积层的误差传播
卷积操作 21
卷积层filter权重梯度的计算
22
卷积层filter权重梯度的计算
深度学习之卷积神经网络经典模型介绍
深度学习之卷积神经网络经典模型介绍1. AlexNet(2012)论文来自“ImageNet Classification with Deep Convolutional Networks”，在2012年ILSVRC（ImageNet Large-Scale Visual Recognition Challenge）赢得了分类识别第一名的好成绩。
2012年也标志卷积神经网络在TOP 5测试错误率的元年，AlexNet的TOP 5错误率为15.4%。
AlexNet由5层卷积层、最大池化层、dropout层和3层全连接层组成，网络用于对1000个类别图像进行分类。
AlexNet主要内容1.在ImageNet数据集上训练网络，其中数据集超过22000个类，总共有大于1500万张注释的图像。
2.ReLU非线性激活函数（ReLU函数相对于tanh函数可以减少训练时间，时间上ReLU比传统tanh函数快几倍）。
3.使用数据增强技术包括图像转换，水平反射和补丁提取。
4.利用dropout方法解决过拟合问题。
5.使用批量随机梯度下降训练模型，使用特定的动量和权重衰减。
6.在两台GTX 580 GPU上训练了五至六天。
2. VGG Net（2014）2014年牛津大学学者Karen Simonyan 和Andrew Zisserman 创建了一个新的卷积神经网络模型，19层卷积层，卷积核尺寸为3×3，步长为1，最大池化层尺寸为2×2，步长为2.VGG Net主要内容1.相对于AlexNet模型中卷积核尺寸11×11，VGG Net的卷积核为3×3。
作者的两个3×3的conv层相当于一个5×5的有效感受野。
这也就可以用较小的卷积核尺寸模拟更大尺寸的卷积核。
这样的好处是可以减少卷积核参数数量。
2.三个3×3的conv层拥有7×7的有效感受野。
卷积神经网络与循环神经网络
卷积神经网络与循环神经网络卷积神经网络（Convolutional Neural Network，CNN）和循环神经网络（Recurrent Neural Network，RNN）是目前深度学习领域最为流行的两种神经网络架构。
它们分别适用于不同的数据类型和任务，能够有效地处理图像、语音、文本等各种形式的数据。
一、卷积神经网络卷积神经网络是一种专门用于处理格状数据（如图像）的神经网络模型。
它的核心思想是利用卷积操作对输入数据进行特征提取，然后通过池化操作减小特征图的尺寸，最后将提取到的特征输入全连接层进行分类或回归。
卷积神经网络的结构主要包括卷积层、池化层和全连接层。
1.1卷积层卷积层是卷积神经网络的核心组件，它通过卷积操作对输入数据进行特征提取。
卷积操作是指使用一个滤波器（也称为卷积核）在输入数据上进行滑动计算，得到对应位置的输出。
滤波器的参数是在训练过程中通过反向传播算法学习得到的。
在图像处理中，卷积操作可以帮助提取图像中的边缘、纹理、角点等特征。
卷积层一般会使用多个不同的滤波器，从而提取多个不同的特征。
1.2池化层池化层是利用池化操作对卷积层的输出进行降采样，从而减小特征图的尺寸。
常见的池化操作有最大池化和平均池化。
最大池化是保留每个区域内的最大值作为输出，平均池化是计算每个区域内的平均值作为输出。
池化操作的目的是减少计算复杂度和减小过拟合。
1.3全连接层全连接层是卷积神经网络的最后一层，它将池化层的输出作为输入进行分类或回归。
全连接层的每个神经元都与上一层的所有神经元相连，输出一个标量值。
全连接层通常使用一种称为softmax的函数将输出转化为概率分布，再根据不同任务进行相应的损失函数计算和优化。
卷积神经网络通过共享权重和局部感知野的设计，大大减少了模型参数的数量，同时也能够保留输入数据的局部结构特征。
这使得卷积神经网络在图像识别、目标检测、语义分割等计算机视觉任务中取得了很大的成功。
二、循环神经网络循环神经网络是一种专门用于处理序列数据（如语音、文本）的神经网络模型。
深度卷积神经网络的原理与应用
深度卷积神经网络的原理与应用深度卷积神经网络（Deep Convolutional Neural Network, DCNN）是一种在计算机视觉领域取得巨大成功的深度学习模型。
它通过模拟人脑视觉系统的工作原理，能够对图像进行高效的特征提取和分类。
本文将介绍DCNN的原理、结构和应用，并探讨其在计算机视觉领域的前沿研究。
一、DCNN的原理DCNN的核心思想是模拟人脑视觉系统中的神经元活动。
人脑视觉系统通过多层次的神经元网络对图像进行处理，从低级特征（如边缘、纹理）逐渐提取到高级特征（如形状、物体）。
DCNN也采用了类似的层次结构，通过多层卷积和池化层对图像进行特征提取，再通过全连接层进行分类。
具体来说，DCNN的核心组件是卷积层。
卷积层通过一系列的卷积核对输入图像进行卷积操作，提取图像的局部特征。
每个卷积核对应一个特定的特征，如边缘、纹理等。
卷积操作可以有效地减少参数数量，提高计算效率。
此外，卷积层还通过非线性激活函数（如ReLU）引入非线性，增加模型的表达能力。
为了减小特征图的尺寸，DCNN还引入了池化层。
池化层通过对特征图进行降采样，保留重要的特征同时减小计算量。
常用的池化操作有最大池化和平均池化。
通过多次卷积和池化操作，DCNN可以逐渐提取出图像的高级特征。
二、DCNN的结构DCNN的结构通常由多个卷积层、池化层和全连接层组成。
其中，卷积层和池化层用于特征提取，全连接层用于分类。
除了这些基本组件，DCNN还可以引入一些额外的结构来提高性能。
一种常见的结构是残差连接（Residual Connection）。
残差连接通过跳过卷积层的部分输出，将输入直接与输出相加，从而解决了深层网络训练困难的问题。
这种结构能够有效地减少梯度消失和梯度爆炸，加速网络收敛。
另一种常见的结构是注意力机制（Attention Mechanism）。
注意力机制通过给予不同特征不同的权重，使网络能够更加关注重要的特征。
这种结构在处理复杂场景或多目标识别时能够提升模型的性能。
深度学习之神经网络(CNN-RNN-GAN)算法原理+实战课件PPT模板可编辑全文
8-5showandtell模型
8-2图像生成文本评测指标
8-4multi-modalrnn模型
8-6showattendandtell模型
8-10图像特征抽取(1)-文本描述文件解析
8-8图像生成文本模型对比与总结
8-9数据介绍，词表生成
8-7bottom-uptop-downattention模型
第6章图像风格转换
06
6-1卷积神经网络的应用
6-2卷积神经网络的能力
6-3图像风格转换v1算法
6-4vgg16预训练模型格式
6-5vgg16预训练模型读取函数封装
6-6vgg16模型搭建与载入类的封装
第6章图像风格转换
单击此处添加文本具体内容，简明扼要的阐述您的观点。根据需要可酌情增减文字，与类别封装
06
7-12数据集封装
第7章循环神经网络
7-13计算图输入定义
7-14计算图实现
7-15指标计算与梯度算子实现
7-18textcnn实现
7-17lstm单元内部结构实现
7-16训练流程实现
第7章循环神经网络
7-19循环神经网络总结
第8章图像生成文本
08
第8章图像生成文本
02
9-9文本生成图像text2img
03
9-10对抗生成网络总结
04
9-11dcgan实战引入
05
9-12数据生成器实现
06
第9章对抗神经网络
9-13dcgan生成器器实现
9-14dcgan判别器实现
9-15dcgan计算图构建实现与损失函数实现
9-16dcgan训练算子实现
9-17训练流程实现与效果展示9-14DCGAN判别器实现9-15DCGAN计算图构建实现与损失函数实现9-16DCGAN训练算子实现9-17训练流程实现与效果展示
【机器学习基础】卷积神经网络（CNN）基础
【机器学习基础】卷积神经⽹络（CNN）基础最近⼏天陆续补充了⼀些“线性回归”部分内容，这节继续机器学习基础部分，这节主要对CNN的基础进⾏整理，仅限于基础原理的了解，更复杂的内容和实践放在以后再进⾏总结。
卷积神经⽹络的基本原理 前⾯对全连接神经⽹络和深度学习进⾏了简要的介绍，这⼀节主要对卷积神经⽹络的基本原理进⾏学习和总结。
所谓卷积，就是通过⼀种数学变换的⽅式来对特征进⾏提取，通常⽤于图⽚识别中。
既然全连接的神经⽹络可以⽤于图⽚识别，那么为什么还要⽤卷积神经⽹络呢？（1）⾸先来看下⾯⼀张图⽚： 在这个图⽚当中，鸟嘴是⼀个很明显的特征，当我们做图像识别时，当识别到有“鸟嘴”这样的特征时，可以具有很⾼的确定性认为图⽚是⼀个鸟类。
那么，在提取特征的过程中，有时就没有必要去看完整张图⽚，只需要⼀⼩部分就能识别出⼀定具有代表的特征。
因此，使⽤卷积就可以使某⼀个特定的神经元（在这⾥，这个神经元可能就是⽤来识别“鸟嘴”的）仅仅处理带有该特征的部分图⽚就可以了，⽽不必去看整张图⽚。
那么这样就会使得这个神经元具有更少的参数（因为不⽤再跟图⽚的每⼀维输⼊都连接起来）。
（2）再来看下⾯⼀组图⽚：上⾯两张图⽚都是鸟类，⽽不同的是，两只鸟的“鸟嘴”的位置不同，但在普通的神经⽹络中，需要有两个神经元，⼀个去识别左上⾓的“鸟嘴”，另⼀个去识别中间的“鸟嘴”： 但其实这两个“鸟嘴”的形状是⼀样的，这样相当于上⾯两个神经元是在做同⼀件事情。
⽽在卷积神经⽹络中，这两个神经元可以共⽤⼀套参数，⽤来做同⼀件事情。
（3）对样本进⾏⼦采样，往往不会影响图⽚的识别。
如下⾯⼀张图： 假设把⼀张图⽚当做⼀个矩阵的话，取矩阵的奇数⾏和奇数列，可看做是对图⽚的⼀种缩放，⽽这种缩放往往不会影响识别效果。
卷积神经⽹络中就可以对图⽚进⾏缩放，是图⽚变⼩，从⽽减少模型的参数。
卷积神经⽹络的基本结构如图所⽰： 从右到左，输⼊⼀张图⽚→卷积层→max pooling（池化层）→卷积层→max pooling（池化层）→......→展开→全连接神经⽹络→输出。
卷积神经网络SIP微系统实现
近年来，随着深度学习（Deep Learning）技术的发展，卷积神经网络（Convolutional Neural Network，CNN）在目标检测、人脸识别等机器视觉领域广泛应用。
由于CNN的算法复杂度对运行平台的计算要求较卷积神经网络SIP微系统实现吕浩1，2，张盛兵1，王佳1，刘硕2，景德胜21.西北工业大学计算机学院，西安7100722.中国航空工业集团公司西安航空计算技术研究所，西安710065摘要：近年来，微电子技术进入到纳电子/集成微系统时代，SIP（System in Package）和SOC（System on Chip）是微系统实现的两种重要技术途径；基于神经网络的深度学习技术在图形图像、计算机视觉和目标识别等方面得以广泛应用。
卷积神经网络的深度学习技术在嵌入式平台的小型化、微型化是一项重要研究领域。
如何将神经网络轻量化和微系统相结合，达到性能、体积和功耗的最优化平衡是一难点。
介绍了一款将SIP技术和基于FPGA的卷积神经网络相结合的微系统实现方案，它以Zynq SOC和FLASH、DDR3存储器为主要组成，利用SIP高密度系统封装技术进行集成，在其中的PL端（FPGA）采用HLS来设计CNN（Convolutional Neural Network，卷积神经网络）中的卷积层和池化层，生成IP核，分时复用构建微系统，设计实现了Micro_VGGNet轻量化模型。
测试采用MNIST手写数字数据集作为训练和测试样本，该微系统能够实准确识别手写数字，准确率达到98.1%。
体积仅为30mm×30mm×1.2mm，在100MHz工作频率下，图像处理速度可达到20.65FPS，功耗仅为2.1W，实现了轻量化神经网络微系统的多目标平衡（性能、体积和功耗）。
关键词：微系统；系统级封装（SIP）；卷积神经网络（CNN）；数字识别文献标志码：A中图分类号：TP368.2doi：10.3778/j.issn.1002-8331.2009-0011Implementation of Convolutional Neural Network SIP MicrosystemLYU Hao1，2,ZHANG Shengbing1,WANG Jia1,LIU Shuo2,JING Desheng21.School of Computer Science and Engineering,Northwestern Polytechnical University,Xi’an710072,China2.Xi’an Aeronautics Computing Technique Research Institute,Aviation Industry Corporation of China,Xi’an710065,ChinaAbstract：In recent years,microelectronics technology has entered the era of nanoelectronics/integrated microsystems. SIP（System in Package）and SOC（System on Chip）are two important technical approaches for the realization of micro-systems.Deep learning technology based on neural network is widely used in computer vision and target recognition areas.How to combine lightweight neural network with micro system to achieve the optimal balance of performance, volume and power consumption is a difficult problem.The miniaturization of embedded platforms for deep learning technology of convolutional neural networks is an important research field.This article introduces a microsystem imple-mentation scheme that combines SIP technology and FPGA-based convolutional neural network.It uses Zynq SOC, FLASH,and DDR3memory as the main components,and uses SIP high-density system packaging technology for integra-tion.The PL end（FPGA）uses HLS to design the convolutional layer and pooling layer in CNN（Convolutional Neural Network）,generate IP cores,and time-multiplex to build a micro system.Micro_VGGNet lightweight model is designed and implemented.The test uses the MNIST handwritten digit data set as training and test samples.The microsystem can accurately recognize handwritten digits with an accuracy rate of98.1%.The volume is only30mm×30mm×1.2mm,and the image processing speed can reach20.65FPS at a working frequency of100MHz.The power consumption is only 2.1W.The multi-objective balance（performance,volume and power consumption）of lightweight neural network micro-system is realized.Key words：microsystem;System in Package（SIP）;Convolutional Neural Network（CNN）;digit recognition基金项目：国家自然科学基金重点项目（11835008）。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
《人工神经网络及应用》
7
• 2. 参数共享
• 通常，图像某一部分的统计特性与邻近部分差异不大。 这意味着在这一部分学习得到的特征也能用在另一部分 上，所以对于这个图像上的所有位置，都能使用同样的 学习特征，即“参数共享”。
• 譬如，以16×16作为样本，并从小块样本中学习到了一 些特征，这时就可以把从样本中学习到的特征作为探测 器，“共享”到图像的任意地方中去。尤其，可以使用 所学习到的特征与原来样本中的大尺寸图像作卷积，从 而在这个大尺寸图像上的任意位置获得不同特征的激活 值。
(5) 经256个3×3的卷积核作三次卷积+ReLU，尺 寸变为56×56×256。
(6) 作 2×2 的 max pooling 池 化 ， 尺 寸 变 为 28×28×256。
(7) 经512个3×3的卷积核作三次卷积+ReLU，尺 寸变为28×28×512。
9
《人工神经网络及应用》
(8) 作 2×2 的 max pooling 池 化 ， 尺 寸 变 为 14×14×512。
9.3.3 ResNet
• ResNet是在2015年提出的，并在ImageNet分类任务比 赛上获得第一名，因为它“简单与实用”并存，很多 应用都是建立在ResNet50或ResNetl01基础上完成的。 随后，检测、分割、识别等领域都纷纷使用了ResNet， 甚至AlphaGoZero也使用了ResNet。
4
《人工神经网络及应用》
• 目前，DCNN已经成为图像识别领域的核心算法之一， 但在有大量学习数据时表现不稳定。如进行大规模图像 分类时，DCNN可用于构建阶层分类器；进行精细分类 识别时，可用于提取图像的判别特征以供其他分类器进 行学习。
5
《人工神经网络及应用》
9.2 深度卷积神经网络的结构与原理 9.2.1 深度卷积神经网络的结构
9
《人工神经网络及应用》
9.3.2 VGGNet
• 2014 年 ， 牛 津 大 学 计 算 机 视 觉 组 （ Visual Geometry Group)和Google Deep Mind公司的研究员一起研发出了 一种新的深度卷积神经网络—VGGNet，并使用其取得 了ILSVRC 2014 比赛分类项目的第二名，并且同时在大 赛中取得了定位项目的第一名。
后，经过激活函数得到的。即
2 =Softmax(
B,G,R conv(i, k))
i
(9-6)
图9-2多层卷积过程
《人工神经网络及应用》
7
9. 3 几种基本的深度卷积神经网络
9.3.1 AlexNet
• AlexNet 是 多 伦 多 大 学 Hinton 组 的 AlexKrizhevsky 在 2012年的ImageNet比赛上使用并提出的一种DCNN结构， 其网络结构如图9-3所示
7
《人工神经网络及应用》
• 1. 卷积操作 在数学中，卷积的表达式为
S(t) = f (t - )w( )d
式（9 - 1)的离散形式为
S(t) f (t - )w( )
如果参数为矩阵，则可以表示为
S(t) (F* W)(t)
同时，二维卷积的表达式为
S(i, j) (F* W)(m, n) f (m - i, m - n)w(i, j)
图9-3 AlexNet结构图
9
《人工神经网络及应用》
• 在AlexNet中，共有650000个神经元，6000多万个参数， 分 布 在 五 个 卷 积 层 和 三 个 有 1000 类 的 全 连 接 层 及 Softmax 层 中 。 另 外 ， 为 了 加 快 训 练 速 度 ， 有 效 利 用 GPU，使用了非饱和神经元（Non-saturatingNeurons) 。 为了减少过拟合过程，采用了Dropout技术。
(9) 经512个3×3的卷积核作三次卷积+ReLU，尺 寸变为14×14×5。
(10) 作2×2 的max pooling 池化，尺寸变为7×7 ×512。
(11) 与两层1×1×4096，一层1×1×1000进行全 连接+ReLU(共三层）
(12) 通过Softmax输出1000个预测结果。
9
《人工神经网络及应用》
• 近几年来，随着GPU 技术的高速发展及实现成本的降 低，DCNN研究和使用的门槛也大大降低，所以算法也 开始变得广为人知，并大量投人应用。这主要因为相对 于CPU，GPU具有更高的处理速度，并且在处理重复性 的任务方面有显著的优势。
3
《人工神经网络及应用》
• 2012年，Alex Krizhevsky使用DCNN赢得了ImageNet挑 战赛，使得人工神经网络在计算机视觉智能领域的应用 取得了重大的飞跃。ImageNet是由普林斯顿大学李凯教 授于2007年创建的一个图像数据库，含有数百万图像数 据，它为计算机提供了充足的训练数据，使之能如幼儿 学习的方式进行渐进式学习。
全连接层
图9-1 DCNN的隐含层网络结构
6
《人工神经网络及应用》
• 卷积层是DCNN特有的，其内部包含多个卷积核，每个 卷积核都类似于一个前馈神经网络的神经元。它还包含 一个激活函数层（Activation Function Layer)，用于增 加网络的非线性处理能力，减少了过拟合或梯度消失/ 爆炸的问题。
《人工神经网络及应用》
7
• 3. 多层卷积
• 通常一个卷积核对应于一种特征，因此，为了提取到图 片中更丰富的特征，就需要多个卷积核。如需要提取得 到64种特征，理论上就需要使用64个卷积核。
• 如图9-2所示，输入图片为3通道，经过2个卷积核的卷
积，得到了两个特征图。每个特征图中的每个像素点，
都是同一个卷积核分别对3通道图片进行卷积，在求和
9
《人工神经网络及应用》
(2) 作最大化池化(Max Pooling)处理，池化单元 尺寸为2×2,池化后的尺寸变为112×112×64。
(3) 经128个3×3的卷积核作两次卷积+ReLU，尺 寸变为112×112×128。
(4) 作 2×2 的 max pooling 池 化 ， 尺 寸 变 为 56×56×128。
• VGGNet探索了卷积神经网络的深度与其性能之间的关 系，构筑了16~19层深的卷积神经网络，进一步证明了 增加网络的深度能够在一定程度上影响网络最终的性能， 使错误率大幅下降，迁移到其他图片数据上的泛化性也 非常好，同时拓展性也有所加强。
• VGGNet是由卷积层、全连接层两大部分构成的，可以 看成是加深版本的AlexNet，具体结构如图9 - 4所示。
• 一个具有完整功能的DCNN通常由输人层、隐含层、输
出层或分类层组成。输人层一般指用于输入图像的神经
网络层。隐含层包括卷积层（Convolutional Layer)、池
化层Pooling Layer)、全连接层（Fully Connected Layer)。
DC输N入层N的简单隐含 卷积层 层网络结 池化层 构如 卷积层图9-1所示 卷积层。
人工神经网络及应用
主讲人： 单 位：
1
《人工神经网络及应用》
第九章 深度卷积神经网络
1
《人工神经网络及应用》
9.1 概述
• 近 几 年 ， 深 度 学 习 在 解 决 诸 如 视 觉 识 别 （ Visual Recognition) 、语音识别（Speech Recognition)和自然语 言处理（Natural Language Processing)等很多问题方面 都表现出非常好的性能。深度学习起源于人工神经网络， 它是通过组合低层特征形成更加抽象的高层属性类别或 特征，以发现数据的分布式特征表示方法，如含多隐层 的多层感知器就是一种深度学习结构。在众多的深度学 习算法当中，深度卷积神经网络（Deep Convolutional Neural Network，DCNN)应该是研究最广泛、应用最多、 最具代表性的算法之一
• 在图像处理中，卷积操作的对象是一组多维矩阵，此时 的卷积其实就是对矩阵的不同局部与卷积核矩阵各个位 置的元素相乘，然后求和。
• 例如，有一个大小为7×7的输入矩阵，卷积核的大小为 3×3,则卷积操作过程为
7
《人工神经网络及应用》
• 2. 池化操作
• 在DCNN内部，常用的池化操作一般有平均池化和最大 池化两种方式，即取对应区域的最大值或者平均值作为 池化后的元素值。
• ResNet主要借鉴了VGG19网络，并通过Shortcut机制 加 入 了 如 图 9-5 所 示 的 残 差 单 元 。 其 改 进 主 要 体 现 在 ResNet上直接使用步长为2的卷积做下采样，并且用平 均池化层替换了全连接层。另外，当特征图大小降低 一半时，特征图的数量增加一倍，这一操作保证了网 络的复杂度，也是ResNet设计中应遵循的一个重要原 则。
9
《人工神经网络及应用》
卷积层+Relu
M
池化层
图943;Relu
S
Softmax层
• 以VGG16为例，输入一幅图片，具体处理步骤如下：
(1) 输入224×224×3的图片，经64个3×3的卷积
核 做 两 次 卷 积 和 ReLU ， 卷 积 后 的 尺 寸 变 为
224×224×64。
• 训 练 过 程 中 使 用 了 随 机 梯 度 下 降 算 法 （ Stochastic Gradient Descent，SGD），Min-batch 大小为128,可将 120 万 张 图 像 的 训 练 集 循 环 90 次 ， 并 在 两 个 NVIDIA GTX 580 3GB GPU上运行六天时间。
• 另外，由于DCNN是一种前馈神经网络，它的神经元可 以表征覆盖范围内数据的响应，因此在处理大型图像集 时有着非常出色的表现。它通常由多个卷积层和顶端的 全连层组成，同时也包括关联权重和池化层。这一结构 使得卷积神经网络能够利用输人数据的二维结构。这一 模型也可以使用反向传播算法进行训练。与其他深度或 前馈神经网络相比较，DCNN需要的参数更少，所以是 一种非常具有吸引力的深度学习结构。