卷积神经网络级联
.
一、介绍CNN 二、如何实现基于CNN来检测人脸 三、最终结果展示
.Hale Waihona Puke 一、介绍CNN1.1CNN的原理
1-1
.
.
1.2CNN的模型
（1）卷积 能够将一个很多权值参数的图像经过卷积核之后变为一个权值参数很少的图像。如图1-1所示，
在5×5的图像和3×3的卷积核作卷积操作后，重新输出一个3×3的矩阵，称为特征图。这个扫描 是可以有重叠部分的，就如同你的目光扫视也是连续一样。
N=5×3×3=45
yn∈{−0.17,0,0.17}
.
12校准网络的输入图像为N模式其中一个模式参数校准方框后的图片。经过12网络校准后 可以得到一个信度分数C1，经过N次后可以得到[C1,]，我们可以把高信度分数留下来 并且取平均值最为最后人脸方框调整。t是除掉低信度分数的阈值。
卷积神经网络级联的人脸测试
来源CVPR 2015 paper A Convolutional Neural Network Cascade for Face Detection Haoxiang Li, Zhe Lin, Xiaohui Shen, Jonathan Brandt, Gang Hua
.
三 最终结果展示
.
结束放映 谢谢观看
.
CNN结构图 .
2.3 12校准网络
12校准网络是指在12网络之后的CNN用于人脸方框的校准，是一个浅的CNN。首先定义一个
N，它是N个校准模式的三维缩放变化和偏离设置向量。
{[sn,xn,yn]}N n=1
sn∈{0.83,0.91,1.0,1.10,1.21}
xn∈{−0.17,0,0.17}
出最终人脸框。
.
2.2 12网络
12网络是指第一个CNN，12网络是一种非常浅的二进制分类CNN，是用于快速扫描测试图像。 它的检测窗口是12×12，以4像素为间隔扫描尺寸为W×H的图像等价于用12网络扫描整个图像 将会获得((W-12）/4+1)×((H-12)/4+1)信度分数图，信度分数图上面的每个点都是12×12的检测 窗口。
.
二如何实现基于CNN来检测人脸
2.1总体介绍检测结构
一共为三阶级联
上图就是人间检测的过程： （1）是原始图片经过12网络和12校准网络先后使用NMS去掉重合方框，剩余图片经过裁剪和
整理。 （2）整理过的图片再经过24网络和24校准网络后再使用NMS去掉重合方框，再次经过裁剪和
整理。 （3）整理过的图片经过48网络之后进行全局NMS得到了唯一人脸方框，经过48校准网络后得
.
（2）池化 池化的作用就是减小特征图，也就是压缩，池化规模一般为2×2。常用的池化方法有：
最大值池化和均值池化。其中最大值池化就是就是取2×2中四个点的最大值；均值池化就是取 2×2中四个点的平均值。图1-2就是池化规模10×10对特征图处理，取其中最大一个特征值代表 那一区域的特征值即图中1。
图1-2
.
（3）光栅化 图像经过卷积、池化之后得到的是一些列的特征图，而感知器输入的是一个向量，因此需要将
这些特征图中的像素依次取出，排成一列向量。
.
1.3 CNN的优点
传统的检测人脸都是基于各种模型的检测方法，然后再经过一系列的训练和验证来改价原有模 型进而实现更加先进的检测精度。
而CNN则与传统的基于模型的方法不同，由于CNN具有强大的学习功能，它可以直接从图像中 学习分类器，而不是手工制作模型，可以更好的区分来自高度混乱背景的面孔同时，我们的检测器 比基于模型和基于示例的检测系统快了许多倍。
采用深度级联卷积神经网络的三维点云识别与分割
YANGJun∗ ,DANGJiＧsheng
(SchoolofElectronicandInformationEngineering, LanzhouJiaotong University,Lanzhou７３００７０,China) ∗Correspondingauthor,EＧmail:yangj＠mail．lzjtu．cn
Abstract:ThreeＧdimensional (３D)objectrecognitionand modelsemanticsegmentationare widely appliedin fields such as automatic driving, robot navigation, ３D printing, and intelligent transportation．With afocusontheinability of PointNet＋ ＋ tointegratecontextualgeometric structureinformation,amethodforrecognitionandsegmentationof３Dpointcloudmodesbasedona deep cascade Convolutional Neural Network (CNN) was proposed herein．The deep semantic geometricfeaturesofthepointcloudcouldbecapturedviaconstructionofadeepdynamicgraphCNN． Subsequently,thedeepdynamicgraphCNN wasappliedrecursivelyasasubnetworkofadeepcascade CNN fornestedpartitionoftheinputpointsetforfullexplorationofthefineＧgrainedgeometric featuresofthe３D model．Finally,toaddressthepointcloudsamplingnetfeaturelearning,adensityadaptivelayerwasconstructed．Arecurrentneuralnetworkwasusedto
卷积神经网络研究综述
卷积神经网络研究综述一、引言卷积神经网络（Convolutional Neural Network，简称CNN）是深度学习领域中的一类重要算法，它在计算机视觉、自然语言处理等多个领域中都取得了显著的成果。
CNN的设计灵感来源于生物视觉神经系统的结构，尤其是视觉皮层的组织方式，它通过模拟视觉皮层的层级结构来实现对输入数据的层次化特征提取。
在引言部分，我们首先要介绍CNN的研究背景。
随着信息技术的飞速发展，大数据和人工智能逐渐成为研究的热点。
在这个过程中，如何有效地处理和分析海量的图像、视频等数据成为了一个亟待解决的问题。
传统的机器学习方法在处理这类数据时往往面临着特征提取困难、模型复杂度高等问题。
而CNN的出现，为解决这些问题提供了新的思路。
接着，我们要阐述CNN的研究意义。
CNN通过其独特的卷积操作和层次化结构，能够自动学习并提取输入数据中的特征，从而避免了繁琐的特征工程。
同时，CNN还具有良好的泛化能力和鲁棒性，能够处理各种复杂的数据类型和场景。
因此，CNN在计算机视觉、自然语言处理等领域中都得到了广泛的应用，并取得了显著的成果。
最后，我们要介绍本文的研究目的和结构安排。
本文旨在对CNN 的基本原理、发展历程和改进优化方法进行系统的综述，以便读者能够全面了解CNN的相关知识和技术。
为了达到这个目的，我们将按照CNN的基本原理、发展历程和改进优化方法的顺序进行论述，并在最后对全文进行总结和展望。
二、卷积神经网络基本原理卷积神经网络的基本原理主要包括卷积操作、池化操作和全连接操作。
这些操作共同构成了CNN的基本框架，并使其具有强大的特征学习和分类能力。
首先，卷积操作是CNN的核心操作之一。
它通过一个可学习的卷积核在输入数据上进行滑动窗口式的计算，从而提取出输入数据中的局部特征。
卷积操作具有两个重要的特点：局部连接和权值共享。
局部连接意味着每个神经元只与输入数据的一个局部区域相连，这大大降低了模型的复杂度；权值共享则意味着同一卷积层内的所有神经元共享同一组权值参数，这进一步减少了模型的参数数量并提高了计算效率。
卷积神经网络ppt课件
16
LetNet-5
比特面编码：将一个灰度图像为8 bit/像素中每个像素的第j个比特抽取出来，就得到一个称为比特平面的二值 图像，于是图像完全可以用一组共8个比特平面来表示，对灰度图像的编码转为对比特平面的二值化方块编码。 为此，将每个比特面分为不重叠的m×n个元素的子块。
23
池化层的误差传递
大部分池化层没有需要训练的参数，只需要将误差传递。以Max Pooling为 例
Layer l-1
Layer l
24
池化层的误差传递
5. C5层是一个卷积层，有120个特征图。每个单元与S4层的全部16个单元的5*5邻 域相连，故C5特征图的大小为1*1：这构成了S4和C5之间的全连接。之所以仍 将C5标示为卷积层而非全连接层，是因为如果LeNet-5的输入变大，而其他的 保持不变，那么此时特征图的维数就会比1*1大。C5层有48120个可训练连接。
17
卷积层的训练
layer l-1
L-1
层
？
的
误
差
L-1
层 的
输 出
layer l
L
层 的 误 差
L
层 的 输 入
18
卷积层的误差传播
19
卷积层的误差传播
20
卷积层的误差传播
卷积操作 21
卷积层filter权重梯度的计算
22
卷积层filter权重梯度的计算
卷积神经网络CNN
卷积神经网络（CNN）一、简介卷积神经网络（Convolutional Neural Networks，简称CNN）是近年发展起来，并引起广泛重视的一种高效的识别方法。
1962年，Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的局部互连网络结构可以有效地降低反馈神经网络的复杂性，继而提出了卷积神经网络[1]（Convolutional Neural Networks-简称CNN）7863。
现在，CNN已经成为众多科学领域的研究热点之一，特别是在模式分类领域，由于该网络避免了对图像的复杂前期预处理，可以直接输入原始图像，因而得到了更为广泛的应用。
Fukushima在1980年基于神经元间的局部连通性和图像的层次组织转换，为解决模式识别问题，提出的新识别机（Neocognitron）是卷积神经网络的第一个实现网络[2]。
他指出，当在不同位置应用具有相同参数的神经元作为前一层的patches时，能够实现平移不变性1296。
随着1986年BP算法以及T-C问题[3]（即权值共享和池化）9508的提出，LeCun和其合作者遵循这一想法，使用误差梯度（the error gradient）设计和训练卷积神经网络，在一些模式识别任务中获得了最先进的性能[4][5]。
在1998年，他们建立了一个多层人工神经网络，被称为LeNet-5[5]，用于手写数字分类, 这是第一个正式的卷积神经网络模型3579。
类似于一般的神经网络，LeNet-5有多层，利用BP算法来训练参数。
它可以获得原始图像的有效表示，使得直接从原始像素（几乎不经过预处理）中识别视觉模式成为可能。
然而，由于当时大型训练数据和计算能力的缺乏，使得LeNet-5在面对更复杂的问题时，如大规模图像和视频分类，不能表现出良好的性能。
因此，在接下来近十年的时间里，卷积神经网络的相关研究趋于停滞，原因有两个：一是研究人员意识到多层神经网络在进行BP训练时的计算量极其之大，当时的硬件计算能力完全不可能实现；二是包括SVM在内的浅层机器学习算法也渐渐开始暂露头脚。
深度学习之卷积神经网络经典模型介绍
深度学习之卷积神经网络经典模型介绍1. AlexNet(2012)论文来自“ImageNet Classification with Deep Convolutional Networks”，在2012年ILSVRC（ImageNet Large-Scale Visual Recognition Challenge）赢得了分类识别第一名的好成绩。
2012年也标志卷积神经网络在TOP 5测试错误率的元年，AlexNet的TOP 5错误率为15.4%。
AlexNet由5层卷积层、最大池化层、dropout层和3层全连接层组成，网络用于对1000个类别图像进行分类。
AlexNet主要内容1.在ImageNet数据集上训练网络，其中数据集超过22000个类，总共有大于1500万张注释的图像。
2.ReLU非线性激活函数（ReLU函数相对于tanh函数可以减少训练时间，时间上ReLU比传统tanh函数快几倍）。
3.使用数据增强技术包括图像转换，水平反射和补丁提取。
4.利用dropout方法解决过拟合问题。
5.使用批量随机梯度下降训练模型，使用特定的动量和权重衰减。
6.在两台GTX 580 GPU上训练了五至六天。
2. VGG Net（2014）2014年牛津大学学者Karen Simonyan 和Andrew Zisserman 创建了一个新的卷积神经网络模型，19层卷积层，卷积核尺寸为3×3，步长为1，最大池化层尺寸为2×2，步长为2.VGG Net主要内容1.相对于AlexNet模型中卷积核尺寸11×11，VGG Net的卷积核为3×3。
作者的两个3×3的conv层相当于一个5×5的有效感受野。
这也就可以用较小的卷积核尺寸模拟更大尺寸的卷积核。
这样的好处是可以减少卷积核参数数量。
2.三个3×3的conv层拥有7×7的有效感受野。
卷积神经网络
最后,输出层有10个神经元，是由径向基函数单元(RBF)组成， 输出层的每个神经元对应一个字符类别。RBF单元的输出 y i , 是由公式： y i (x j w ij )2
j
卷积神经网络的衰落
在很长时间里，CNN虽然在小规模的问题上，如手写数字，取 得过当时世界最好结果，但一直没有取得巨大成功。这主要 原因是，CNN在大规模图像上效果不好，比如像素很多的自然 图片内容理解，所以没有得到计算机视觉领域的足够重视。
C5层： 输入图片大小： (5*5)*16 卷积窗大小： 5*5 卷积窗种类： 120 输出特征图数量： 120 输出特征图大小： 1*1 (5-5+1) 神经元数量： 120 (1*120) 连接数： 48120 [16*(5*5)+1]*1*120(全连接） 可训练参数： 48120 [16*(5*5)+1]*1*120
F6层是经典神经网络：
输入向量和权重向量之间的点积，再加上一个偏置。然后将其传递给 sigmoid函数产生单元i的一个状态。
C1层： 输入图片大小： 32*32 卷积窗大小： 5*5 卷积窗种类： 6 输出特征图数量： 6 输出特征图大小： 28*28 (32-5+1) 神经元数量： 4707 [(28*28)*6)] 连接数： 12304 [(5*5+1)*6]*(28*28) 可训练参数： 156 [(5*5+1)*6]
卷积神经网络提出的背景
浅层神经网络 大约二三十年前，神经网络曾经是机器学习 领域特别热门的一个方向，这种基于统计的 机器学习方法比起过去基于人工规则的专家 系统，在很多方面显示出优越性。
卷积神经网络提出的背景
但是后来，因为理论分析的难度，加上训练方法需要很 多经验和技巧，以及巨大的计算量和优化求解难度，神经 网络慢慢淡出了科研领域的主流方向。 值得指出的是，神经网络（如采用误差反向传播算法： Back Propagation，简称BP算法，通过梯度下降方法在训 练过程中修正权重使得网络误差最小）在层次深的情况下 性能变得很不理想（传播时容易出现所谓的梯度弥散 Gradient Diffusion或称之为梯度消失，根源在于非凸目 标代价函数导致求解陷入局部最优，且这种情况随着网络 层数的增加而更加严重，即随着梯度的逐层不断消散导致 其对网络权重调整的作用越来越小），所以只能转而处理 浅层结构（小于等于3），从而限制了性能。
深度学习——卷积神经网络知识汇总
深度学习——卷积神经⽹络知识汇总卷积⽹络资料汇总卷积神经⽹络（Convolutional Neural Network）是⼀种专门⽤于处理类似⽹格结构的数据的神经⽹络。
它被⼴泛地应⽤到图像识别、语⾳识别等各种场合，很多基于深度学习的图像识别⽅法，都是以CNN为基础。
⼀、卷积运算通常情况下，卷积是对两个实变函数的⼀种数学运算。
卷积操作也可以达到加权平均的⽬的。
在机器学习的应⽤中，可以使⽤卷积操作对有限的数组元素进⾏处理，该运算也是卷积神经⽹络的重要操作。
1.1 卷积运算的原因对于普通的前向反馈⽹络，当输⼊为⼀张图⽚时，假设⼤⼩为1000*1000*3，且第⼀层隐藏层的神经元为1000个时，此时的权值参数量将为30亿个，这将对计算机的内存产⽣巨⼤的挑战，并且在计算过程中，将会使⽤太多的计算资源，需要的时间将会很⼤。
且在图像中，附近的像素点存在⼀定的关系，使⽤普通的前向神经⽹络，则会忽略这种关系，由此产⽣多余的计算和参数。
由于卷积操作涉及到多个像素点的操作，由此在处理图像的过程中，⼀般会使⽤卷积操作，从⽽提⾼图像处理的结果。
1.2 卷积运算的特点卷积运算⼀般通过三个重要的思想来改进机器学习系统：稀疏交互、参数共享、等变表⽰。
1.2.1 稀疏交互传统的神经⽹络使⽤矩阵的乘法来建⽴输⼊和输出的连接关系，参数矩阵的每⼀个单独的参数都描述了⼀个输⼊单元和⼀个输出单元之间的交互。
⽽稀疏交互则意味着运算核的⼤⼩远远⼩于输⼊的⼤⼩。
例如，当输⼊的图像可能包含了成千上万的像素点时，运算核的⼤⼩可能只有⼏⼗或者上百个参数，并且可以利⽤这样的运算核实现对图像参数的计算。
由此就实现了更少的参数、更低的计算量，以及更⾼的计算效率，且这种应⽤在机器学习的任务中，仍然能取得很好的表现。
1.2.2 参数共享参数共享是指在⼀个模型的多个函数中使⽤相同的参数。
在传统的神经⽹络中，当计算⼀层的输出时，权重矩阵的每⼀个元素只是⽤⼀次，当它乘以输⼊的⼀个元素后就再也不会⽤到了。
什么是卷积神经网络？为什么它们很重要？
什么是卷积神经⽹络？为什么它们很重要？卷积神经⽹络的四个基本操作:1、卷积2、⾮线性处理（Relu）3、⾚化或者亚采样4、分类（全连接层）⼀、先说卷积，卷积的主要⽬的是为了从输⼊图像中提取特征。
卷积可以通过从输⼊的⼀⼩块数据中学习到图像的特征，并且可以保留像素的空间关系。
在CNN术语中，3X3的矩阵叫做滤波器（filter）或者核(kernel) 或者特征检测器，通过图像上滑动滤波器并且计算点乘得到的矩阵叫做 “卷积特征（Convolved feature）"滤波器在原始输⼊图像上的作⽤是特征检测器。
在实践中CNN会在训练过程中学习到的这些滤波器的值，我们使⽤的滤波器越多，提取到的图像特征就越多，⽹络所能在未知图像上识别的模式就越好。
特征图的⼤⼩由三个参数控制，我们需要在卷积前确定它们：（1）深度：深度对应的是卷积操作所需要的滤波器的个数。
（2）步长：步长是我们在输⼊矩阵上滑动滤波器矩阵的像素数。
当步长为1时，我们每次移动滤波器⼀个像素的位置。
当步长为⼆时，每次移动滤波器会跳动2个像素。
步长越⼤，讲会得到更⼩的特征图。
（3）零填充，对应padding参数的设置吧。
有时，在输⼊矩阵的边缘使⽤零值进⾏填充。
这样我们可以对输⼊图像矩阵的边缘进⾏滤波。
零填充的⼀⼤好处是可以让我们控制特征图的⼤⼩。
使⽤零填充的也叫翻卷机，不适⽤零填充的叫做严格卷积。
⼆、⾮线性处理这部分主要是激活函数了，relu函数，tanh函数，sigmoid函数relu⽤的⽐价多，可以解决梯度消失的问题，但是讲BN的那篇论⽂说加了BN操作之后⽤sigmoid函数效果更好。
不过我⾃⼰试了mnist数据集的效果，还是relu更好些，不过BN加在激活函数之前确实是这样。
三、池化操作池化操作，叫做亚采样或者下采样，降低了各个特征图的维度，但可以保持⼤部分重要的信⼼。
常⽤的池化操作包括：最⼤化，平均化，加和等。
池化可以控制特征的维度，见识⽹络中的参数和计算量，控制过拟合池化可以使⽹络对输⼊图像的变化，冗余不敏感，微⼩的变化不会影响输出。
卷积神经网络CNN
卷积神经网络CNN一、引言卷积神经网络（Convolutional Neural Network, CNN）是一种常用的深度学习算法，特别适合于处理图像、语音、自然语言等多维度数据。
其重要特点是局部感知和参数共享，这使得它能够快速准确地识别图像特征，并在不同的任务和场景中取得良好的表现。
本文主要介绍卷积神经网络的基本结构、原理和应用。
二、卷积神经网络结构卷积神经网络的基本结构包括输入层、卷积层、池化层、全连接层和输出层等部分。
其中，输入层用来接收原始图像或数据，卷积层和池化层用来提取图像特征，全连接层用来进行分类和回归等任务，输出层则表示最终的输出结果。
下面详细介绍每个部分的作用和特点。
1. 输入层输入层是卷积神经网络的第一层，主要用来接收原始图像或数据。
通常情况下，输入层的数据是二维图像，即图像的宽度、高度和颜色通道。
例如，一张彩色图片的宽度和高度都是像素的数量，而颜色通道就是RGB三个通道。
2. 卷积层卷积层是卷积神经网络的核心层，负责提取图像特征。
它主要通过卷积运算的方式，对输入层的数据进行处理，产生新的特征图。
卷积操作的核心思想是权重共享，即同一个卷积核在不同的位置上进行卷积操作，得到的特征图是一样的，这样能够大大减少网络参数量，防止过拟合现象出现。
卷积操作的数学表达式如下：$$Y = W*X + b$$其中，$W$是卷积核，$X$是输入特征图，$b$是偏置项，$Y$是输出特征图。
在卷积操作中，卷积核的参数是需要学习的参数，它的大小通常为$K*K$（$K$是卷积核的大小），步幅通常为$S$。
卷积操作的结果是一个二维数组，它被称为输出特征图。
在实际应用中，卷积核的大小和步幅需要根据不同的数据类型和任务而定。
3. 池化层池化层是卷积神经网络的一个可选层，主要用来减少特征图的大小和数量，从而提高网络性能。
它通常有两种类型：最大池化和平均池化。
最大池化是取一个特征图中的最大值作为输出，而平均池化是取一个特征图中的平均值作为输出。
卷积神经网络(纯净版)ppt课件
1
Contents
• 机器学习，神经网络，深度学习之间的关系 • 什么是神经网络 • 梯度下降算法 • 反向传播算法 • 神经网络的训练 • 什么是卷积 • 什么是池化 • LeNet-5 • 其它的工作
2
Convolutional Neural Networks
5
Convolutional Neural Networks
反向传播算法（Back Propagation）
• 反向传播算法是计算多层复合函数的所有变量的偏导数的利器，上面梯度下降的例子中就是求梯度， 简单的理解就是链式法则
根据链式法则，我们求e对a的偏导和e对d的偏导是如下所示:
可以看出，它们都求了e对c的偏导。对于权值动则数万的深度模型 中的神经网络，这样的冗余所导致的计算量是相当大的 BP算法则机智地避开了这种冗余，BP算法是反向(自上往下)来求偏 导的。
• 神经元：
,
• 每个连接都有一个权值
4
图1.一个全连接的神经网络
Convolutional Neural Networks
梯度下降算法
• 梯度下降算法是用来求函数最小值的算法 • 每次沿着梯度的反方向，即函数值下降最快的方向，去
修改值，就能走到函数的最小值附近（之所以是最小值 附近而不是最小值那个点，是因为我们每次移动的步长 不会那么恰到好处，有可能最后一次迭代走远了越过了 最小值那个点）
什么是卷积？
右图展示了卷积的过程，和信号处理的卷积有所区别 卷积降低了网络模型的复杂度（对于很难学习的深层 结构来说，这是非常重要的），减少了权值的数量 黄色部分是卷积核
11
Convolutional Neural Networks