卷积神经网络 论文版
神经网络模型的研究毕业论文
神经网络模型的研究毕业论文简介本文旨在研究神经网络模型在机器研究中的应用。
神经网络是一种模仿人类神经系统工作的数学模型，能够研究输入和输出之间的复杂关系，并通过调整模型参数来提高预测准确度。
本文将探讨神经网络的基本原理、常见的网络结构和训练方法。
神经网络的基本原理神经网络由许多神经元组成，每个神经元接收来自其他神经元的输入，并通过激活函数进行处理，最终产生输出。
神经网络通过不断调整神经元之间的连接权重来研究输入和输出之间的关系。
常见的神经网络结构本文将介绍几种常见的神经网络结构，包括前馈神经网络、卷积神经网络和循环神经网络。
前馈神经网络是最基本的神经网络结构，信息只在一个方向传递。
卷积神经网络在图像处理中有广泛应用，能够从原始像素中提取特征。
循环神经网络则可以处理具有时序关系的数据，如文本和语音。
神经网络的训练方法神经网络的训练是通过优化算法来调整网络参数以减小预测误差。
本文将介绍几种常用的优化算法，包括梯度下降法和反向传播算法。
梯度下降法通过计算损失函数的梯度来更新网络参数，以使预测结果与实际输出更接近。
反向传播算法则是一种高效计算梯度的方法。
实验与结果分析本文将设计并实施几个实验来验证神经网络模型的性能。
通过使用公开的数据集和适当的评估指标，我们将对不同网络结构和训练方法进行比较，并对实验结果进行分析和讨论。
结论神经网络模型在机器研究中有着广泛的应用前景。
本文通过对神经网络的基本原理、常见的网络结构和训练方法的介绍，以及实验结果的分析，为研究和应用神经网络模型提供了有效的参考。
以上为《神经网络模型的研究毕业论文》的大纲。
卷积神经网络研究综述
卷积神经网络研究综述一、引言卷积神经网络（Convolutional Neural Network，简称CNN）是深度学习领域中的一类重要算法，它在计算机视觉、自然语言处理等多个领域中都取得了显著的成果。
CNN的设计灵感来源于生物视觉神经系统的结构，尤其是视觉皮层的组织方式，它通过模拟视觉皮层的层级结构来实现对输入数据的层次化特征提取。
在引言部分，我们首先要介绍CNN的研究背景。
随着信息技术的飞速发展，大数据和人工智能逐渐成为研究的热点。
在这个过程中，如何有效地处理和分析海量的图像、视频等数据成为了一个亟待解决的问题。
传统的机器学习方法在处理这类数据时往往面临着特征提取困难、模型复杂度高等问题。
而CNN的出现，为解决这些问题提供了新的思路。
接着，我们要阐述CNN的研究意义。
CNN通过其独特的卷积操作和层次化结构，能够自动学习并提取输入数据中的特征，从而避免了繁琐的特征工程。
同时，CNN还具有良好的泛化能力和鲁棒性，能够处理各种复杂的数据类型和场景。
因此，CNN在计算机视觉、自然语言处理等领域中都得到了广泛的应用，并取得了显著的成果。
最后，我们要介绍本文的研究目的和结构安排。
本文旨在对CNN 的基本原理、发展历程和改进优化方法进行系统的综述，以便读者能够全面了解CNN的相关知识和技术。
为了达到这个目的，我们将按照CNN的基本原理、发展历程和改进优化方法的顺序进行论述，并在最后对全文进行总结和展望。
二、卷积神经网络基本原理卷积神经网络的基本原理主要包括卷积操作、池化操作和全连接操作。
这些操作共同构成了CNN的基本框架，并使其具有强大的特征学习和分类能力。
首先，卷积操作是CNN的核心操作之一。
它通过一个可学习的卷积核在输入数据上进行滑动窗口式的计算，从而提取出输入数据中的局部特征。
卷积操作具有两个重要的特点：局部连接和权值共享。
局部连接意味着每个神经元只与输入数据的一个局部区域相连，这大大降低了模型的复杂度；权值共享则意味着同一卷积层内的所有神经元共享同一组权值参数，这进一步减少了模型的参数数量并提高了计算效率。
卷积神经网络之LeNet
卷积神经⽹络之LeNet开局⼀张图，内容全靠编。
上图引⽤⾃ . ⽬前常⽤的卷积神经⽹络深度学习现在是百花齐放，各种⽹络结构层出不穷，计划梳理下各个常⽤的卷积神经⽹络结构。
⽬前先梳理下⽤于图像分类的卷积神经⽹络LeNetAlexNetVGGGoogLeNetResNet本⽂是关于卷积神经⽹络的开⼭之作LeNet的，之前想着论⽂较早，⼀直没有细读，仔细看了⼀遍收获满满啊。
本⽂有以下内容：LeNet ⽹络结构LeNet 论⽂LeNet keras实现，并应⽤CIFAR10进⾏测试LeNet的贡献LeNet-5可谓是第⼀个卷积神经⽹络，并且在⼿写数字识别上取得了很好的效果。
对于图像像素作为神经⽹络的输⼊数据⾯临的⼀些问题：1. 图像数据量较⼤，单独像素独⽴输⼊神经元中，需要很⼤的⽹络结构，训练参数过多2. 图像的形变，形变引起的图像特征位置变化的问题3. 图像的局部相关性。
其提出了卷积神经⽹络的概念，并应⽤局部感受野权值共享下采样(池化)来解决上述问题。
LeNet⽹络结构1998年的诞⽣的LeNet(LeCun et al. )可谓是现在各种卷积神经⽹络的始祖了，其⽹络结构虽然只有5层，却包含了卷积神经⽹络的基本组件（卷积层，池化层，全连接层）输⼊层 INPUT输⼊32×32×1的图像第⼀个卷积层 CONV1使⽤6个尺⼨为5×5的滤波器，在卷积的过程中不做边缘填充，步长为stride=1。
单个核的卷积输出⼤⼩为(32−5+1)×(32−5+1)=28×28。
由于有6个卷积核，所以整个卷积层输出得到为Feature Map为 28×28×6。
该层的参数滤波器的核： (5×5+1)×6=156，每个滤波器除了5×5的核以外，还有⼀个偏置。
神经元的个数：28×28×6。
在卷积层中，卷积核每移动⼀步产⽣⼀个神经元的输出，也就相当于⼀个神经元。
卷积神经网络的优化和改进
卷积神经网络的优化和改进卷积神经网络（Convolutional Neural Networks，CNN）是一种在图像识别、语音识别、自然语言处理等领域取得巨大成功的深度学习模型。
然而，随着网络的深度和规模的增加，CNN也面临着一些挑战和问题。
为了进一步提高CNN的性能和效果，研究者们提出了许多优化和改进的方法。
本文将对卷积神经网络的优化和改进进行探讨。
首先，我们将介绍一些常见的卷积神经网络优化方法。
首先是梯度下降算法及其变种。
梯度下降算法是训练神经网络最常用的优化算法之一，其通过不断调整网络参数来最小化损失函数。
然而，在大规模深层网络中使用传统梯度下降算法存在着收敛速度慢、易陷入局部最优等问题。
为了解决这些问题，研究者们提出了各种改进方法，如随机梯度下降（Stochastic Gradient Descent, SGD）、动量法（Momentum）、自适应学习率（Adaptive Learning Rate）等。
其次是正则化方法。
正则化在机器学习中被广泛应用于防止过拟合。
在卷积神经网络中，过拟合问题同样存在。
为了解决过拟合问题，研究者们提出了多种正则化方法，如L1正则化、L2正则化、Dropout 等。
L1正则化通过在损失函数中加入网络参数的绝对值之和来限制参数的大小，从而达到特征选择的效果。
L2正则化通过在损失函数中加入网络参数的平方和来限制参数的大小，从而使得网络更加平滑。
Dropout是一种随机失活技术，通过随机将一部分神经元置为0来减少神经元之间的依赖关系，从而减少过拟合。
接下来是卷积神经网络架构的改进方法。
传统卷积神经网络采用简单的卷积层、池化层和全连接层构成。
然而，在实际应用中发现传统架构存在一些问题，如容易丢失细节信息、对位置敏感等。
为了解决这些问题，研究者们提出了一系列改进方法。
其中之一是引入残差连接（Residual Connection）。
残差连接通过将前一层的输出与后面层输入相加，在梯度反向传播时能够更好地传递梯度信息，从而加速网络的训练速度，提高网络的性能。
(完整版)卷积神经网络CNN原理、改进及应用
卷积神经网络（CNN）一、简介卷积神经网络（Convolutional Neural Networks，简称CNN）是近年发展起来，并引起广泛重视的一种高效的识别方法。
1962年，Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的局部互连网络结构可以有效地降低反馈神经网络的复杂性，继而提出了卷积神经网络[1]（Convolutional Neural Networks-简称CNN）7863。
现在，CNN已经成为众多科学领域的研究热点之一，特别是在模式分类领域，由于该网络避免了对图像的复杂前期预处理，可以直接输入原始图像，因而得到了更为广泛的应用。
Fukushima在1980年基于神经元间的局部连通性和图像的层次组织转换，为解决模式识别问题，提出的新识别机（Neocognitron）是卷积神经网络的第一个实现网络[2]。
他指出，当在不同位置应用具有相同参数的神经元作为前一层的patches时，能够实现平移不变性1296。
随着1986年BP算法以及T-C问题[3]（即权值共享和池化）9508的提出，LeCun和其合作者遵循这一想法，使用误差梯度（the error gradient）设计和训练卷积神经网络，在一些模式识别任务中获得了最先进的性能[4][5]。
在1998年，他们建立了一个多层人工神经网络，被称为LeNet-5[5]，用于手写数字分类,这是第一个正式的卷积神经网络模型3579。
类似于一般的神经网络，LeNet-5有多层，利用BP算法来训练参数。
它可以获得原始图像的有效表示，使得直接从原始像素（几乎不经过预处理）中识别视觉模式成为可能。
然而，由于当时大型训练数据和计算能力的缺乏，使得LeNet-5在面对更复杂的问题时，如大规模图像和视频分类，不能表现出良好的性能。
因此，在接下来近十年的时间里，卷积神经网络的相关研究趋于停滞，原因有两个：一是研究人员意识到多层神经网络在进行BP训练时的计算量极其之大，当时的硬件计算能力完全不可能实现；二是包括SVM在内的浅层机器学习算法也渐渐开始暂露头脚。
联邦学习论文研究（基于卷积神经网络的联邦学习算法研究）
联邦学习论⽂研究（基于卷积神经⽹络的联邦学习算法研究）联邦学习综述三⼤研究⽅向：联邦优化算法、通信开销和隐私保护。
联邦优化算法：⾮独⽴同分布且不平衡的隐私性数据，数据集分布在不同的客户端上且不可以直接获取，客户端本⾝特征导致数据⾮独⽴同分布性。
客户数量的分布，在联邦优化算法中可能需要⾯对成千上百的客户端参与。
通信效率：在实际的场景应⽤中，客户端往往会受到通信带宽以及能量资源等的限制。
这种场景中，联邦学习算法设计应该考虑到在有效的带宽资源下实现更加⾼效的数据传输。
隐私保护：⽆论在任何联邦学习的算法中，隐私保护往往是最核⼼的要求。
在整个联邦学习算法过程中要在有效联合学习的前提下，保证⽤户数据不会被泄露。
（）联邦学习分类：1. 按样本特征维度分类：⼀般情况下都是默认数据是按样本的维度进⾏划分的，也就是⼀个客户端持有⼀部分样本，另⼀个客户端持有另⼀部分样本。
在特征维度，这两部分样本特征的属性应该是相同的，这种类型可以叫做横向联邦学习。
另⼀类在特征维度进⾏划分，这种情况下，同⼀个样本的⼀部分特征可能存在⼀个客户端上，⽽另⼀部分的特征可能存在其他的客户端上，该样本在多个客户端上的特征集合能更加全⾯的表征这个样本，这种类型也被叫做纵向联邦学习。
2. 按学习场景分类：联邦学习的⼀个分类依据是联邦学习场景中相关要素，可以将联邦学习分为两类：跨设备 (cross-device) 联邦学习，跨孤岛 (cross-silo) 联邦学习。
在跨孤岛 (cross-silo) 联邦学习中，模型是训练在⼀种多数据孤岛的场景下，每个客户端就是⼀个数据孤岛，其可以⼀个独⽴的组织或者数据中⼼。
跨设备 (cross-device) 联邦学习类似于跨孤岛 (cross-silo) 联邦学习，这⾥设备⼀般指⼿机或者物联⽹设备，因此客户端是数量是⾮常巨⼤的。
在分布式学习和跨孤岛 (cross-silo) 联邦学习中所有的客户端都是⼀直有效的。
卷积神经网络隐写分析算法的优化方法与实现
卷积神经网络隐写分析算法的优化方法与实现隐写分析是一种有效的数据安全技术，是从隐写的有效图像中恢复有价值数据的技术，是在图像处理领域中越来越受到关注的一种技术。
与传统的隐写分析方法相比，卷积神经网络（CNN）可以在精确性和鲁棒性方面进行更好的优化。
本文力图探索CNN在隐写分析中的优化和实现，通过对CNN模型参数调整、模型结构调整等，实现CNN 在隐写分析领域更优化的性能。
首先，介绍CNN在隐写分析中的优化方法。
当使用CNN模型进行隐写分析时，可以通过调整参数来提高CNN模型的准确度。
具体来说，可以调整学习率，控制网络的深度和宽度，采用更多的正则化技术来减少过拟合，并采用更多的增强学习和数据增广技术来提高模型的泛化能力。
此外，在样本采样方面，可以采取抽样策略来提高模型的精度，减少样本数据的偏离。
另外，在模型结构方面，可以尝试采用更深和宽的卷积神经网络模型，以提高模型的准确度，并利用更多的特征提取技术，如支持向量机、多层感知机等，以及一些经典的特征提取算法，如LBP、HOG等，以提高隐写分析的精准度。
其次，探讨CNN在隐写分析中的实现方法。
首先，要搭建CNN模型，需要利用相关深度学习框架和自己定义的CNN模型，可以利用TensorFlow、Keras等框架，搭建所需要的CNN模型；其次，可以利用所给的样本数据，训练CNN模型，根据模型的训练效果，调整模型参数，使模型拟合其样本数据；最后，可以使用训练完成的CNN模型，在相应的隐写有效图像上进行测试，以评估模型的准确度。
总的来说，CNN可以在隐写分析中发挥重要作用，可以实现较高精度的恢复。
但是，在实施CNN隐写分析时，由于涉及到模型参数调整、模型结构调整等多项复杂操作，实施起来有一定的难度。
因此，未来需要开发一些新的、有效的优化和实现方法，以提高CNN隐写分析的效率和准确性，并进一步发挥CNN在隐写分析领域的优势。
综上所述，卷积神经网络隐写分析算法的优化方法与实现，需要通过调整模型参数、模型结构等，实现CNN在隐写分析领域更优化的性能，并需要对模型的核心技术进行有效的优化和实现。
算法论文范文
算法论文范文摘要本文介绍了一种基于深度学习的图像分类算法。
该算法采用卷积神经网络（CNN）作为特征提取器，并结合支持向量机（SVM）进行分类。
实验结果表明，该算法在多个数据集上均取得了优秀的分类效果。
引言图像分类是计算机视觉领域的一个重要问题。
在实际应用中，我们需要将大量的图像按照其所属的类别进行分类。
传统的图像分类方法通常采用手工设计的特征提取器，如SIFT、HOG等。
这些方法虽然在一定程度上能够提取出图像的特征，但是其性能受到了很多限制，如对光照、旋转、尺度等变化的敏感性。
近年来，深度学习技术的发展为图像分类带来了新的思路。
卷积神经网络（CNN）是一种基于深度学习的图像分类方法，其可以自动学习图像的特征，并且对于光照、旋转、尺度等变化具有较好的鲁棒性。
本文提出了一种基于CNN的图像分类算法，并结合支持向量机（SVM）进行分类。
算法描述数据预处理在进行图像分类之前，我们需要对数据进行预处理。
本文采用了CIFAR-10数据集进行实验，该数据集包含了10个类别的60000张32x32的彩色图像。
我们首先将图像进行归一化处理，将像素值缩放到[0,1]之间。
然后，我们将数据集分为训练集和测试集，其中训练集包含50000张图像，测试集包含10000张图像。
特征提取本文采用了一个5层的卷积神经网络（CNN）作为特征提取器。
该网络的结构如下所示：Convolutional layer (32 filters, 3x3 kernel, stride 1)ReLU activationMax pooling layer (2x2 kernel, stride 2)Convolutional layer (64 filters, 3x3 kernel, stride 1)ReLU activationMax pooling layer (2x2 kernel, stride 2)Convolutional layer (128 filters, 3x3 kernel, stride 1)ReLU activationMax pooling layer (2x2 kernel, stride 2)Fully connected layer (1024 units)ReLU activation在训练过程中，我们采用了随机梯度下降（SGD）算法进行优化。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
卷积神经网络摘要：卷积神经网络是近年来广泛应用于模式识别、图像处理等领域的一种高效识别算法，它具有结构简单、训练参数少和适应性强等特点。
本文从卷积神经网络的发展历史开始，详细阐述了卷积神经网络的网络结构、神经元模型和训练算法。
在此基础上以卷积神经网络在人脸检测和形状识别方面的应用为例，简单介绍了卷积神经网络在工程上的应用，并给出了设计思路和网络结构。
关键字：模型；结构；训练算法；人脸检测；形状识别Convolution Neural NetworkAbstract:Convolution neural network is an efficient recognition algorithm which is widely used in pattern recognition, image processing and other fields recent years.It has a simple structure, few training parameters and good adaptability and other advantages. In this paper, begin with the history of convolutional neural networks,describes the structure of convolutional neural network,neuron models and training algorithms in detail. On this basis,uses the applications of convolutional neural network in face detection and shape recognition as examples, introduces the applications of convolution neural network in engineering, and gives design ideas and network structure.Keywords：Model; Training Algorithm; Advantage; Face detection; Shape recognition0 引言卷积神经网络是人工神经网络的一种已成为当前语音分析和图像识别领域的研究热点，它的权值共享网络结构使之更类似于生物神经网络，降低了网络模型的复杂度，减少了权值的数量。
该优点在网络的输入是多维图像时表现的更为明显，使图像可以直接作为网络的输入，避免了传统识别算法中复杂的特征提取和数据重建过程。
卷积网络是为识别二维形状而特殊设计的一个多层感知器，这种网络结构对平移、比例缩放、倾斜或者共他形式的变形具有高度不变性。
1 卷积神经网络的发展历史1962年Hubel和Wiesel通过对猫视觉皮层细胞的研究，提出了感受野(receptive field)的概念，1984年日本学者Fukushima基于感受野概念提出的神经认知机(neocognitron)可以看作是卷积神经网络的第一个实现网络，也是感受野概念在人工神经网络领域的首次应用。
神经认知机将一个视觉模式分解成许多子模式(特征)，然后进入分层递阶式相连的特征平面进行处理，它试图将视觉系统模型化，使其能够在即使物体有位移或轻微变形的时候，也能完成识别。
神经认知机能够利用位移恒定能力从激励模式中学习，并且可识别这些模式的变化形，在其后的应用研究中，Fukushima将神经认知机主要用于手写数字的识别。
随后，国内外的研究人员提出多种卷积神经网络形式，在邮政编码识别和人脸识别方面得到了大规模的应用。
通常神经认知机包含两类神经元，即承担特征抽取的S-元和抗变形的C-元。
S-元中涉及两个重要参数，即感受野与阈值参数，前者确定输入连接的数目，后者则控制对特征子模式的反应程度。
许多学者一直致力于提高神经认知机的性能的研究：在传统的神经认知机中，每个S-元的感光区中由C-元带来的视觉模糊量呈正态分布。
如果感光区的边缘所产生的模糊效果要比中央来得大，S-元将会接受这种非正态模糊所导致的更大的变形容忍性。
我们希望得到的是，训练模式与变形刺激模式在感受野的边缘与其中心所产生的效果之间的差异变得越来越大。
为了有效地形成这种非正态模糊，Fukushima提出了带双C-元层的改进型神经认知机。
Trotin 等人提出了动态构造神经认知机并自动降低闭值的方法[1]，初始态的神经认知机各层的神经元数目设为零，然后会对于给定的应用找到合适的网络规模。
在构造网络过程中，利用一个反馈信号来预测降低阈值的效果，再基于这种预测来调节阈值。
他们指出这种自动阈值调节后的识别率与手工设置阈值的识别率相若，然而，上述反馈信号的具体机制并未给出，并且在他们后来的研究中承认这种自动阈值调节是很困难的【8】。
Hildebrandt将神经认知机看作是一种线性相关分类器，也通过修改阈值以使神经认知机成为最优的分类器。
Lovell应用Hildebrandt的训练方法却没有成功。
对此，Hildebrandt解释的是，该方法只能应用于输出层，而不能应用于网络的每一层。
事实上，Hildebrandt没有考虑信息在网络传播中会逐层丢失。
Van Ooyen和Niehuis为提高神经认知机的区别能力引入了一个新的参数。
事实上，该参数作为一种抑制信号，抑制了神经元对重复激励特征的激励。
多数神经网络在权值中记忆训练信息。
根据Hebb学习规则，某种特征训练的次数越多，在以后的识别过程中就越容易被检测。
也有学者将进化计算理论与神经认知机结合【9】，通过减弱对重复性激励特征的训练学习，而使得网络注意那些不同的特征以助于提高区分能力。
上述都是神经认知机的发展过程，而卷积神经网络可看作是神经认知机的推广形式，神经认知机是卷积神经网络的一种特例。
卷积神经网络本身可采用不同的神经元和学习规则的组合形式。
其中一种方法是采用M-P神经元和BP学习规则的组合，常用于邮政编码识别中。
还有一种是先归一化卷积神经网络，然后神经元计算出用输入信号将权值和归一化处理后的值，再单独训练每个隐层得到权值，最后获胜的神经元输出活性，这个方法在处理二值数字图像时比较可行，但没有在大数据库中得到验证。
第三种方法综合前两种方法的优势，即采用McCulloch-Pitts神经元代替复杂的基于神经认知机的神经元。
在该方法中，网络的隐层和神经认知机一样，是一层一层训练的，但是回避了耗时的误差反向传播算法。
这种神经网络被称为改进的神经认知机。
随后神经认知机和改进的神经认知机作为卷积神经网络的例子，广泛用于各种识别任务中，比如大数据库的人脸识别和数字识别。
下面详细介绍卷积神经网络的原理、网络结构及训练算法。
2 卷积神经网络2.1 网络结构卷积神经网络是一个多层的神经网络，每层由多个二维平面组成，而每个平面由多个独立神经元组成。
网络中包含一些简单元和复杂元，分别记为S-元和C-元。
S-元聚合在一起组成S-面，S-面聚合在一起组成S-层，用U s表示。
C-元、C-面和C-层(U s)之间存在类似的关系。
网络的任一中间级由S-层与C-层串接而成，而输入级只含一层，它直接接受二维视觉模式，样本特征提取步骤已嵌入到卷积神经网络模型的互联结构中。
一般地，U s为特征提取层，每个神经元的输入与前一层的局部感受野相连，并提取该局部的特征，一旦该局部特征被提取后，它与其他特征间的位置关系也随之确定下来；U c是特征映射层，网络的每个计算层由多个特征映射组成，每个特征映射为一个平面，平面上所有神经元的权值相等。
特征映射结构采用影响函数核小的sigmoid函数作为卷积网络的激活函数，使得特征映射具有位移不变性。
此外，由于一个映射面上的神经元共享权值，因而减少了网络自由参数的个数，降低了网络参数选择的复杂度。
卷积神经网络中的每一个特征提取层(S-层)都紧跟着一个用来求局部平均与二次提取的计算层(C-层)，这种特有的两次特征提取结构使网络在识别时对输入样本有较高的畸变容忍能力【10】。
网络中神经元的输出连接值符合“最大值检出假说”【15】，即在某一小区域内存在的一个神经元集合中，只有输出最大的神经元才强化输出连接值。
所以若神经元近旁存在有输出比其更强的神经元时，其输出连接值将不被强化。
根据上述假说，就限定了只有一个神经元会发生强化。
卷积神经网络的种元就是某S-面上最大输出的S-元，它不仅可以使其自身强化，而且还控制了邻近元的强化结果。
因而，所有的S-元渐渐提取了几乎所有位置上相同的特征。
在卷积神经网络早期研究中占主导的无监督学习中，训练一种模式时需花费相当长的时间去自动搜索一层上所有元中具有最大输出的种元，而现在的有监督学习方式中，训练模式同它们的种元皆由教师设定。
图1是文献[12]中卷积神经网络的典型结构图。
将原始图像直接输入到输入层(U c1)，原始图像的大小决定了输入向量的尺寸，神经元提取图像的局部特征，因此每个神经元都与前一层的局部感受野相连。
文中使用了4层网络结构，隐层由S-层和C-层组成。
每层均包含多个平面，输入层直接映射到U s2层包含的多个平面上。
每层中各平面的神经元提取图像中特定区域的局部特征，如边缘特征，方向特征等，在训练时不断修正S-层神经元的权值。
同一平面上的神经元权值相同，这样可以有相同程度的位移、旋转不变性。
S-层中每个神经元局部输入窗口的大小均为5x5，由于同一个平面上的神经元共享一个权值向量，所以从一个平面到下一个平面的映射可以看作是作卷积运算，S-层可看作是模糊滤波器，起到二次特征提取的作用。
隐层与隐层之间空间分辨率递减，而每层所含的平面数递增，这样可用于检测更多的特征信息。
图1 卷积神经网络结构图Fig.1 The structure of convolutional neural network2.2 神经元模型在卷积神经网络中，只有S-元间的输入连接是可变的，而其他元的输入连接是固定的。
用U sl （k l ，n ）表示第l 级，第k l 个S-面上，一个S-元的输出，用U cl (k l ，n)表示在该级第k l 个C-面上一个C-元的输出。
其中，n 是一个二维坐标，代表输入层中神经元的感受野所在位置，在第一级，感受野的面积较小，随后随着l 的增大而增加。
()()()()()()()()⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡-++++=∑∑--∈---111,,,1,111111n u k b k r k r v n k u k k v a k r n k u vl l l K k A v l cl l l l sl l l l φ (2.1) 式(2.1)中a l （v ，k l-1，k ）和b l (k)分别表示兴奋性输入和抑制性输入的连接系数；r l (k)控制特征提取的选择性，其值越大，对噪音和特征畸变的容错性越差，它是一常量，它控制着位于每一S-层处的单个抑制子平面中每个神经元的输入: r l (k)的值越大，与抑制性成比例的兴奋性就得越大，以便能产生一个非零输出，换句话说就是相当好的匹配才一能激活神经元，然而因为r l (k)还需乘以φ()，所以r l 值越大就能产生越大的输出，相反，小的r l (k)值允许不太匹配的神经元兴奋，但它只能产生一个比较小的输出；φ(x)为非线性函数。