神经网络的研究热点分析.
神经网络的研究热点分析
神经网络的研究热点分析
类别：通信网络摘要：首先介绍了神经网络的发展、优点及其应用，然后对神经网
络目前的几个研究热点进行了分析，即神经网络与小波分析、混沌、粗集理
论、分形理论的融合及其应用领域和存在的问题。分析结果表明这些融合方法
具有很好的发展前景。0引言神经网络最早的研究是40年代心理学家Mcculloch和数学家Pitts合作提出的，他们提出的MP模型拉开了神经网
络研究的序幕。神经网络的发展大致经过3个阶段：1947～196 9年为初期，
在这期间科学家们提出了许多神经元模型和学习规则，如MP模型、HEBB学习规则和感知器等；1970～1986年为过渡期，这期间神经网络研究经过了一个
低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对
网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Bol tzman机模型；1986年
Kumelhart等人提出误差反向传播神经网络，简称BP网络。目前，BP网络已
成为广泛使用的网络。1987年至今为发展期，在此期间，神经网络受到国际重
视，各个国家都展开研究，形成神经网络发展的另一个高潮［1］。人工神经元网络是生物神经网络的一种模拟和近似，它从结构、实现机理和功能上
模拟生物神经网络。从系统观点看，人工神经元网络是由大量神经元通过极其
丰富和完善的连接而构成的自适应非线性动态系统。神经网络具有以下优点：(1)具有很强的鲁棒性和容错性，这是因为信息是分布存贮于网络内的神
经元中；(2)并行处理方法，人工神经元网络在结构上是并行的，而且网络的各
个单元可以同时进行类似的处理过程，使得计算快速；(3)自学习、自组织、自适应性，神经元之间的连接多种多样，各元之间联接强度具有一定可塑性，
使得神经网络可以处理不确定或不知道的系统；(4)可以充分逼近任意复杂的
非线性关系；(5)具有很强的信息综合能力，能同时处理定量和定性的信息，
能很好的协调多种输入信息关系，适用于处理复杂非线性和不确定对象。
神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显
著的成效，主要应用如下：(1)自动控制领域；(2)处理组合优化问题；(3)模
式识别；(4)图像处理；(5)传感器信号处理；(6)机器人控制；(7)信号处理；(8)卫生保健、医疗；(9)经济；(10)化工领域；(11)焊接领域；(12)地理领
域；(13)数据挖掘、电力系统、交通、军事、矿业、农业和气象等领域。 1
神经网络研究热点神经网络在很多领域已得到了很好的应用，但其需要研究的方面还很多。其中，具有分布存储、并行处理、自学习、自组织以及非线
性映射等优点的神经网络与其他技术的结合以及由此而来的混合方法和混合系
统，已经成为一大研究热点。由于其他方法也有它们各自的优点，所以将
神经网络与其他方法相结合，取长补短，继而可以获得更好的应用效果。目前这方面工作有神经网络与模糊逻辑［1～5］、专家系统［6～9］、遗传算法
［10、11］、小波分析、混沌、粗集理论、分形理论、证据理论［25～27］和
灰色系统［28～33］等的融合。文中主要就神经网络与小波分析、混沌、粗集理论、分形理论的融合进行分析。1.1神经网络与小波分析的结合1981
年，法国地质学家Morlet在寻求地质数据时，通过对Fourier变换与加窗
Fouri er变换的异同、特点及函数构造进行创造性的研究，首次提出了“小波分析”的概念，建立了以他的名字命名的Morlet小波。1986年以来由于
YMeyer、SMallat及IDaubechies等的奠基工作，小波分析迅速发展成为
一门新兴学科。Meyer所著的“小波与算子”，Daubech ies所著的“小波十
讲”是小波研究领域最权威的著作。小波变换是对Fourier分析方法的突
破。它不但在时域和频域同时具有良好的局部化性质，而且对低频信号在频域
和对高频信号在时域里都有很好的分辨率，从而可以聚集到对象的任意细
节。小波分析相当于一个数学显微镜，具有放大、缩小和平移功能，通过检查不同放大倍数下的变化来研究信号的动态特性。因此，小波分析已成为地球物
理、信号处理、图像处理、理论物理等诸多领域的强有力工具。小波神经
网络将小波变换良好的时频局域化特性和神经网络的自学习功能相结合，因而具有较强的逼近能力和容错能力。在结合方法上，可以将小波函数作为基函数
构造神经网络形成小波网络，或者小波变换作为前馈神经网络的输入前置处理
工具，即以小波变换的多分辨率特性对过程状态信号进行处理，实现信噪分离，并提取出对加工误差影响最大的状态特性，作为神经网络的输入［7，
12］。小波神经网络在电机故障诊断、高压电网故障信号处理与保护研
究、轴承等机械故障诊断以及许多方面都有应用，文献［13］将小波神经网络
用于感应伺服电机的智能控制，使该系统具有良好的跟踪控制性能，以及好的鲁棒性，文献［14］利用小波包神经网络进行心血管疾病的智能诊断，小波层
进行时频域的自适应特征提取，前向神经网络用来进行分类，正确分类率达到
94%。小波神经网络虽然应用于很多方面，但仍存在一些不足。从提取精度和小波变换实时性的要求出发，有必要根据实际情况构造一些适应应用需求的
特殊小波基，以便在应用中取得更好的效果。另外，在应用中的实时性要求，
也需要结合DSP的发展，开发专门的处理芯片，从而满足这方面的要求。1.2
混沌神经网络混沌第一个定义是上世纪70年代才被LiYorke第一次提
出的。由于它具有广泛的应用价值，自它出现以来就受到各方面的普遍关注。
混沌是一种确定的系统中出现的无规则的运动，混沌是存在于非线性系统中的
一种较为普遍的现象，混沌运动具有遍历性、随机性等特点，能在一定的范围内按其自身规律不重复地遍历所有状态。混沌理论所决定的是非线性动力学混
沌，目的是揭示貌似随机的现象背后可能隐藏的简单规律，以求发现一大类复
杂问题普遍遵循的共同规律。1990年KAihara、TTakabe和MToyoda等人根据生物神经元的混沌特性首次提出混沌神经网络模型，将混沌学引入神
经网络中，使得人工神经网络具有混沌行为，更加接近实际的人脑神经网络，
因而混沌神经网络被认为是可实现其真实世界计算的智能信息处理系统之一，成为神经网络的主要研究方向之一。与常规的离散型Hopfield神经网络相
比较，混沌神经网络具有更丰富的非线性动力学特性，主要表现如下：在神经
网络中引入混沌动力学行为；混沌神经网络的同步特性；混沌神经网络的吸引
子。当神经网络实际应用中，网络输入发生较大变异时，应用网络的固有容错能力往往感到不足，经常会发生失忆现象。混沌神经网络动态记忆属于确
定性动力学运动，记忆发生在混沌吸引子的轨迹上，通过不断地运动(回忆过
程)，一一联想到记忆模式，特别对于那些状态空间分布的较接近或者发生部
分重叠的记忆模式，混沌神经网络总能通过动态联想记忆加以重现和辨识，而不发生混淆，这是混沌神经网络所特有的性能，它将大大改善Hopfield神经网
络的记忆能力。混沌吸引子的吸引域存在，形成了混沌神经网络固有容错功
能。这将对复杂的模式识别、图像处理等工程应用发挥重要作用［15］。混沌神经网络受到关注的另一个原因是混沌存在于生物体真实神经元及神经网
络中，并且起到一定的作用，动物学的电生理实验已证实了这一点。混沌
神经网络由于其复杂的动力学特性，在动态联想记忆、系统优化、信息处理、
人工智能等领域受到人们极大的关注。文献［16］针对混沌神经网络具有联想
记忆功能，但其搜索过程不稳定，提出了一种控制方法可以对混沌神经网络中
的混沌现象进行控制。文献［17］研究了混沌神经网络在组合优化问题中的应
用。为了更好的应用混沌神经网络的动力学特性，并对其存在的混沌现象进行有效的控制，仍需要对混沌神经网络的结构进行进一步的改进和调整，以
及混沌神经网络算法的进一步研究。 1.3基于粗集理论的神经网络粗糙集
(Rough sets)理论是1982年由波兰华沙理工大学教授ZPawlak首先提出，它是一个分析数据的数学理论，研究不完整数据、不精确知识的表达、学习、
归纳等方法。粗糙集理论是一种新的处理模糊和不确定性知识的数学工具，其
主要思想就是在保持分类能力不变的前提下，通过知识约简，导出问题的决策或分类规则。目前，粗糙集理论已被成功应用于机器学习、决策分析、过程控
制、模式识别与数据挖掘等领域［18、19］。粗集和神经网络的共同点是
都能在自然环境下很好的工作，但是，粗集理论方法模拟人类的抽象逻辑思
维，而神经网络方法模拟形象直觉思维，因而二者又具有不同特点。粗集理论方法以各种更接近人们对事物的描述方式的定性、定量或者混合性信息为输
入，输入空间与输出空间的映射关系是通过简单的决策表简化得到的，它考
虑知识表达中不同属性的重要性确定哪些知识是冗余的，哪些知识是有用的，神经网络则是利用非线性映射的思想和并行处理的方法，用神经网络本身结构
表达输入与输出关联知识的隐函数编码。在粗集理论方法和神经网络方
法处理信息中，两者存在很大的两个区别：其一是神经网络处理信息一般不能
将输入信息空间维数简化，当输入信息空间维数较大时，网络不仅结构复杂，
而且训练时间也很长；而粗集方法却能通过发现数据间的关系，不仅可以去掉
冗余输入信息，而且可以简化输入信息的表达空间维数。其二是粗集方法在实
际问题的处理中对噪声较敏感，因而用无噪声的训练样本学习推理的结果在有噪声的环境中应用效果不佳。而神经网络方法有较好的抑制噪声干扰的能力。
因此将两者结合起来，用粗集方法先对信息进行预处理，即把粗集网络
作为前置系统，再根据粗集方法预处理后的信息结构，构成神经网络信息处理系统。通过二者的结合，不但可减少信息表达的属性数量，减小神经网络构成
系统的复杂性，而且具有较强的容错及抗干扰能力，为处理不确定、不完整信
息提供了一条强有力的途径。目前粗集与神经网络的结合已应用于语音识别、专家系统、数据挖掘、故障诊断等领域，文献［20］将神经网络和粗集
用于声源位置的自动识别，文献［21］将神经网络和粗集用于专家系统的知识
获取中，取得比传统专家系统更好的效果，其中粗集进行不确定和不精确数据
的处理，神经网络进行分类工作。虽然粗集与神经网络的结合已应用于许多领域的研究，为使这一方法发挥更大的作用还需考虑如下问题：模拟人类抽
象逻辑思维的粗集理论方法和模拟形象直觉思维的神经网络方法更加有效的结
合；二者集成的软件和硬件平台的开发，提高其实用性。 1.4神经网络与分
人工神经网络技术研究
人工神经网络技术研究
刘洋
【摘 要】以目前流行的数据挖掘中的人工神经网络技术为例,分析了其原理、主要功能、结构及工作方式等几方面,并指出了人工神经网络技术未来的研究方向及发展趋势.
【期刊名称】《农业网络信息》
【年(卷),期】2013(000)009
【总页数】3页(P29-31)
【关键词】人工神经网络;信息处理;网络算法
【作 者】刘洋
【作者单位】内蒙古师范大学,内蒙古呼和浩特010022
【正文语种】中 文
【中图分类】S126
1 人工神经网络原理
人工神经网络是在现代神经生物学研究基础上提出的模拟生物过程以反映人脑某些特性的计算结构。它不是人脑神经系统的真实描写，而只是某种抽象、简化和模拟[1]。在人工神经网络中，神经元常被称为“处理单元”。有时从网络的观点出发常把它称为 “节点”。人工神经元是对生物神经元的一种形式化描述，它对生物神经元的信息处理过程进行抽象，并用数学语言予以描述；对生物神经元的结构和功能进行模拟，并用模型因子予以表达。
图1 神经元结构模型
人工神经元的输出也同生物神经元一样仅有一个，如用Oj表示神经元输出，则输出与输入之间的对应关系可用图1中的某种函数来表示，这种函数称为转移函数，一般都是非线性的。常用的函数有：阈值型转移函数、分段线性转移函数、非线性转移函数。
2 人工神经网络主要功能
2.1 分类
神经网络对外界输入样本具有很强的识别与分类能力。对输入样本的分类实际上是在样本空间中找出符合分类要求的分割区域，每个区域内的样本属于同一类。传统分类方法只适合解决同类相聚，异类分离的识别与分类问题。但客观世界中的许多事物在样本空间上的区域分割曲面是十分复杂的，相近的样本可能属于不同的类，而远离的样本可能同属一类。神经网络可以很好地解决对非线性曲面的逼近，因此比传统的分类器有更好的分类能力。
2.2 非线性映射
在客观世界中，许多系统的输入与输出之间存在复杂的非线性关系，对于这类系统，往往很难用传统的数理方法建立数学模型。设计合理的神经网络，通过对其输入输出样本对进行自动学习，能够以任意精度逼近任意复杂的非线性映射。神经网络的这一优良性能使其可以作为非线性函数的通用数学模型。该模型的表达是非解析的，输入输出数据之间的映射规则由神经网络在学习阶段自动提取并分布式存储在网络的所有连接中。具有非线性映射功能的神经网络应用十分广泛，几乎涉及所有领域。
神经网络模型中的脆弱性评估与对抗性分析
神经网络模型中的脆弱性评估与对抗性分析
引言
神经网络模型是当前机器学习领域中最热门的研究方向之一。它们在图像识别、语音识别、自然语言处理等任务中取得了巨大的成功，但同时也存在着脆弱性的问题。脆弱性指的是神经网络对于对抗性样本的敏感性，即一个经过微小修改的输入能够引起模型输出错误或误判。为了评估神经网络模型的脆弱性并找到相应的解决办法，对抗性分析就变得非常重要。
第一章 神经网络模型中的脆弱性
1.1 对抗性样本的定义
对抗性样本是指对原始输入进行微小修改后得到的样本，这些修改可能对人类观察者来说几乎是不可察觉的，但能够导致神经网络模型的输出发生巨大的改变。对抗性样本对于训练有素的神经网络来说，往往会被错误地分类。
1.2 脆弱性的原因
神经网络模型的脆弱性主要是由于两个因素造成的。首先，神经网络的决策边界通常是高维、非线性的，并且充满了各种不规则的区域。这使得神经网络对于微小的输入扰动非常敏感，可能会导致错误的分类结果。其次，神经网络的训练过程是基于有限的训练数据进行的，如果有对抗性样本不在训练集中，模型可能无法正确分类这些样本。
第二章 对抗性攻击与评估
2.1 对抗性攻击的种类
对抗性攻击主要有两种类型：第一种是白盒攻击，攻击者可以访问模型的结构和参数信息；第二种是黑盒攻击，攻击者只能通过查询模型来获得输出结果。对抗性攻击常用的方法有FGSM（Fast Gradient
Sign Method）、PGD（Projected Gradient Descent）等。 2.2 脆弱性评估方法
为了评估神经网络模型的脆弱性，研究者们提出了一系列评估方法。最简单的方法是测量对抗性样本对于模型输出的影响，如错误分类率或置信度下降。进一步的方法包括计算对抗样本的转移能力和计算对抗性扰动的大小等。
第三章 对抗性训练
为了增加神经网络对对抗性样本的鲁棒性，对抗性训练成为一种有效的方法。对抗性训练通过在训练过程中引入对抗性样本来提高模型的鲁棒性。最常用的对抗性训练方法是PGD，它在每个训练步骤中生成对抗性样本，并通过最小化原始样本和对抗性样本之间的损失函数来更新模型参数。
基于用户感知体系的神经网络算法研究
算法分析
基于用户感知体系的神经网络算法研究
党志恒 （重邮信科设计有限公司重庆４０００６０）
摘要：用户感知是目前无线移动网络研究的热点。主要讨论了人工神经网络算法运用在用户感知体系上的情况。通过用户感知体系发展特点及 要求，对几种用户感知体系进行比较。最终将神经网络算法与改进后用户感知体系相结合，达到优化体系映射的目的。 关键词：用户感知人工神经网络算法ＫＰＩ ＱｏＥ 中图分类号：ＴＰ３ 文献标识码：Ａ 文章编号：１００７—９４１６（２０１３）１０—０１３６—０２
在体验经济时代，当同类竞争产品之间的功能相差不大时，用
户体验将提升产品的核心价值，是企业间竞争的最后一座“堡垒”； 提升用户体验也是企业提高用户的品牌忠诚度、推动产品创新的主
要途径。用户只有感到产品的价值满足了自己的期待甚至超越了用
户本身的期待，用户才会对产品有优良的体验，进而形成对产品的
满意感和忠诚感。随着３Ｇ／ＬＴＥ网络建设和商用的不断深入，用户感
知度作为竞争的焦点之一越来越受到运营商的关注。如何通过量化
的方法以网络和业务的质量来表示终端用户对业务与网络的体验 和感受，并反映当前业务和网络的质量与用户期望问的差距，成为
在３Ｇ／ＬＴＥ网络中激烈竞争的大背景下，运营商提高终端用户的满
意度，留住用户并扩大用户规模的关键。然而传统网络质量的评估
分析模式难以有效反映用户的实际感知情况，从而降低了优化效 率，影响了用户感知度的提升。而且传统用户感知体系的繁冗复杂，
也使其构建过程中，浪费了大量的人力、财力。
１用户感知体系综述
１．１概念简述
用户感知是指用户实际感受到供应商提供产品和服务与达到
用户期望得到产品和服务间的差距。是指用户对业务服务质量的一 种感估。
技术因素 用户主观感受
ＫＱＩ１ Ｉ ＪＫＱ１２ｆ ＩＫＱＩ３ｌ ｌＫＱＩｎｌ ｊ用户投诉
ＫＰＩ１ Ｉ Ｉ ＫＰＩ２Ｉ ｅ ＫＰＩ３Ｉ ＩＫＰＩ４Ｉ．Ｊ ＫＰＩｎｌ Ｉ投诉１Ｉ Ｉ投诉２Ｉ Ｉ投诉３Ｉ ．Ｊ投诉ｎ一１１ ｉ投诉ｎ
基于卷积神经网络的盲源分离算法研究
基于卷积神经网络的盲源分离算法研究
随着人工智能的快速发展，深度学习算法已被广泛应用于图像和语音领域。其中，盲源分离算法已成为语音信号处理的研究热点。基于卷积神经网络的盲源分离算法在语音信号处理领域也得到了广泛的应用和探索。
一、盲源分离算法概述
盲源分离算法是指通过观察到多个混合的信号，将其恢复成原始源信号的一种方法。在传统的盲源分离算法中，常见的方法有独立成分分析（ICA）、线性预测解耦（LP）、非负矩阵分解（NMF）等。但是这些传统方法对于一些复杂的信号分离问题表现不尽人意。
随着深度学习的发展，基于卷积神经网络的盲源分离算法开始在语音信号处理领域得到广泛的应用和探索。基于卷积神经网络的盲源分离算法可以通过对信号的频谱图进行卷积神经网络训练，实现对信号的有效分离和恢复。
二、卷积神经网络的盲源分离算法
卷积神经网络是一种针对图像和语音信号处理的深度学习算法，它通过神经网络的层次结构来提取信号中的空间和时间特征。在卷积神经网络中，最重要的是卷积层和池化层。
卷积层是通过卷积操作对输入信号进行滤波处理，产生相应的特征图。池化层则对相邻特征图的信息进行汇总，减少了输入数据的大小和计算量。在基于卷积神经网络的盲源分离算法中，需要将信号转化为时间和频率上的信息，将其作为输入数据传入卷积神经网络进行训练。
在基于卷积神经网络的盲源分离算法中，需要将多个混合信号的分量转换为频率信息，得到幅度和相位信息。频率幅度和频率相位信息可以由傅里叶变换得到。然后将频率信息归一化后，用卷积神经网络进行训练，得到恢复后的源信号。 三、卷积神经网络的盲源分离算法的优缺点
基于卷积神经网络的盲源分离算法具有很多优点。首先，该算法可以自动提取源信号的特征，避免了传统方法中需要手工提取特征的繁琐过程。其次，卷积神经网络可以在深度方向上进行特征提取，提高了信号处理的鲁棒性和准确性。最后，该算法可以通过大规模数据的训练来提高模型的性能和预测精度。
对于神经网络技术论文
对于神经网络技术的探究
多年以来，科学家们不断从医学、生物学、生理学、哲学、信息学、计算机科学、认知学、组织协同学等各个角度探索人脑工作的秘密，希望能制作模拟人脑的人工神经元。在研究过程中，近年来逐渐形成了一个新兴的多学科交叉技术领域，称之为”人工神经网络”。神经网络的研究涉及众多学科领域，这些领域互相结合、相互渗透并相互推动。
人工神经网络是由大量的简单基本元件-神经元相互联接而成的自适应非线性动态系统。每个神经元的结构和功能比较简单，但大量神经元组合产生的系统行为却非常复杂。人工神经网络的基本结构模仿人脑，反映了人脑功能的若干基本特性，能够自身适应环境、总结规律、完成某种运算、识别或过程控制。人工神经网络具有并行处理特征，可以大大提高工作速度。
人工神经网络的特点和优越性，主要表现在三个方面：
第一，具有自学习功能。
第二，具有联想存储功能。
第三，具有高速寻找优化解的能力。
1 神经网络的学习方法
神经网络的学习也称为训练，指的是神经网络在外界环境的刺激作用下调整网络自由参数，并以新的方式来响应外部环境的过程。能够从环境中学习并在学习中提高自身性能是神经网络最有意义的性质。理想情况下，神经网络在每一次重复学习后，对它的环境有了更多的了解。
（1） 监督学习（有教师学习）
在学习时需要由教师提供期望输出，通常神经网络对于周围的环境未知而教师具有周围环境的知识，输入学习样本，教师可以根据自身的知识为训练样本提供最佳逼近结果，神经网络的自由参数在误差信号的影响下进行调整，其最终目的是让神经网络模拟教师。
（2） 非监督学习（无教师学习）
它也称为自组织学习，系统在学习过程中，没有外部教师信号，而是提供给一个关于网络学习性质的度量，它独立于学习任务，以此尺度来逐步优化网络，一旦网络与输入数据的统计规律达成一致，那么它将发展形成用于输入数据编码特征的内部表示能力，从而自动创造新的类别。
（3）强化学习（激励学习）
基于卷积神经网络的心电信号识别算法研究
基于卷积神经网络的心电信号识别算法研究
近年来，心电信号识别算法在医学领域中得到了广泛的应用。其中，基于卷积神经网络（Convolutional Neural Network，CNN）的心电信号识别算法，由于其优越的性能表现和广泛的适用性，成为了研究的热点。
心电信号是人体心脏活动所产生的电活动信号记录。通过识别心电信号，我们可以有效地检测心脏疾病、心律失常等病理情况，对于诊断和治疗具有重要的意义。传统的心电信号识别算法主要是基于特征提取和分类器的组合。然而，这种方法往往需要手动选择和提取特征，具有一定的主观性和局限性。相比之下，基于卷积神经网络的算法可以直接从原始信号中学习高层次的特征表示，无需手动进行特征提取，大大减小了算法的主观性。
在相关研究中，研究者们通常采用具有一定深度的卷积神经网络结构来进行心电信号的识别任务。最简单的卷积神经网络结构是由卷积层和全连接层构成的。卷积层通过滤波器的方式提取信号中的空间和时间特征，全连接层则负责将卷积层提取出的特征进行组合和分类。而对于更复杂的模型，研究者们可以使用深度卷积神经网络（Deep CNN）来提高模型的性能。通过增加卷积层的数量和使用更强大的网络结构，深度卷积神经网络可以学习到更丰富、更抽象的特征表示。
在实际应用中，研究者们也提出了一系列用于改进心电信号识别算法的方法。例如，为了充分利用心电信号中的时间信息，可以引入1D卷积神经网络来处理连续的时间序列数据。1D卷积神经网络利用不同大小的卷积核来提取不同长度的时间窗口特征，从而更好地捕捉信号中的时域信息。此外，为了解决数据不平衡和数据量不足的问题，可以采用数据增强技术和迁移学习方法来增加训练样本和提高模型的泛化能力。
除了网络结构和算法的优化，数据的质量对于心电信号识别算法的性能也至关重要。在数据采集的过程中，要确保信号的准确性和完整性。通常，心电信号采集仪器应具备较高的采样率和分辨率，以保证信号的细节和特征不丢失。同时，对于缺失或异常的信号，需要进行合理的插值和修复处理，以避免对算法的影响。
人工神经网络综述论文
人工神经网络的最新发展综述
摘 要:人工神经网络是指模拟人脑神经系统的结构和功能,运用大量的处理部件,由人工方式建立起来的网络系统。该文首先介绍了神经网络研究动向，然后介绍了近年来几种新型神经网络的基本模型及典型应用,包括模糊神经网络、神经网络与遗传算法的结合、进化神经网络、混沌神经网络和神经网络与小波分析的结合。最后,根据这几种新型神经网络的特点,展望了它们今后的发展前景。
关键词:模糊神经网络;神经网络与遗传算法的结合;进化神经网络;混沌神经网络；神经网络与小波分析。
The review of the latest developments in artificial neural
networks
Abstract: Artificial neural network is the system that simulates the human brain’s structure and
function, and uses a large number of processing elements, and is manually established by the
network system. This paper firstly introduces the research trends of the neural network, and then
introduces several new basic models of neural networks and typical applications in recent years,
including of fuzzy neural network, the combine of neural network and genetic algorithm,
evolutionary neural networks, chaotic neural networks and the combine of neural networks and
非线性、大滞后系统神经网络辨识研究
第１２卷第２２期２０１２年８月 １６７１—１８１５（２０１２）２２—５６１９—０５ 科学技术与工程 Ｓｃｉｅｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ ａｎｄ Ｅｎｇｉｎｅｅｒｉｎｇ Ｖｏ１．１２ Ｎｏ．２２ Ａｕｇ．２０１２ ＠２０１２ Ｓｃｉ．Ｔｅｃｈ．Ｅｎｇｒｇ．
计算机技术
非线性、大滞后系统神经网络辨识研究
杨继峰赵永瑞张哲
（中国石油大学（华东），青岛２６６５８０）
摘要基于神经网络的非线性、大滞后系统辨识是当前研究的热点之一，介绍了神经网络辨识的基本原理，研究了ＢＰ与 ＲＢＦ神经网络两种典型网络的设计和算法，最后通过ＭＡＴＬＡＢ进行了仿真分析与比较。仿真结果表明：一致性方面ＲＢＦ优 于ＢＰ神经网络，ＲＢＦ神经网络收敛速度更快，辨识效果更好；泛化性能方面ＲＢＦ网络较差，不如ＢＰ网络。由此得出两种网 络各自的优缺点，在实际应用中可以此作为神经网络模型辨识的参考。 关键词系统辨识 ＢＰ神经网络 ＲＢＦ神经网络 中图法分类号ＴＰ１８３； 文献标志码Ａ
非线性、大滞后系统辨识是自动化领域中的一
个重要课题，在工业生产中有着广泛的应用。传统
的辨识方法有最小二乘辨识法、基于响应曲线辨识
法等，但这些方法都基于数学模型的结构及参数，
计算复杂且效果不好。随着控制领域所面对的系
统和过程越来越复杂，尤其是一些大滞后及非线性
因素的影响，系统辨识越来越困难。神经网络将系
统辨识转换为对某个非线性函数的逼近问题，且能
以任意精度对其逼近，为非线性、大滞后系统的辨
识提供了一种有效的方法…。
１神经网络辨识的基本原理
系统辨识由被测系统及辨识模型两大模块组
成。神经网络通过学习被测系统的输入输出，使所
要求的误差函数达到最小，从而过滤出隐含在被测
系统输入输出数据之间的关系。辨识不关注神经
网络以什么形式逼近被测系统，只关心网络输出与
被测系统输出相差多少，当误差小于事先认可的
值，就可认为辨识成功。
从辨识模型与被测系统的输入输出关系上，辨
深度脉冲神经网络及其应用研究
III 摘 要
深度神经网络(Deep Neural Networks, DNNs)作为机器学习(Machine Learning,
ML)领域内的研究热点，借鉴生物视觉认知系统的分区机制，将数据表征为一系
列的矢量进行特征学习，DNNs在计算机视觉领域取得了巨大成就。
脉冲神经网络(Spiking Neural Networks, SNNs)是一种具有生物可塑性
(Biological Plasticity)的神经网络，它利用随时间变化的脉冲序列(Spike Train)在神
经元之间进行信息传递，能更好地融入时空信息，是“类脑计算”的主要工具。
结合了DNNs和SNNs各自的优势，分析了现有深度脉冲神经网络(Deep
Spiking Neural Networks, DSNNs)的模型特点，开展了脉冲编码、基于DSNNs的
学习方法的研究，并针对基于DSNNs的机械臂故障诊断方法进行了研究，具体
内容如下：
首先，介绍了DSNNs的研究背景和意义，综述了DSNNs的国内外研究现
状，阐述了论文的研究内容和技术路线。
其次，介绍了深度卷积神经网络(Deep Convolutional Neural Networks,
DCNNs)、深度置信神经网络(Deep Belief Networks, DBNs)以及SNNs的发展、模
型结构、现阶段DSNNs模型的实现方法及学习算法等相关内容，为后续研究提
供理论支撑。
第三，提出了基于DCNNs的机械臂故障分类方法，重点介绍了UCI机械臂
传感数据的预处理技术，分析了DCNNs处理一维时序信号的能力。将采集到的
机械臂力及力矩传感数据在时间和数据两个维度进行结合，并采用1D和2D卷
积方法在CPU(Intel Core i5-7200U)和GPU(GFX NVIDIA GeForce GTX1060 3G)
进行实验验证。实验结果表明：对于机械臂一维时序信号数据的处理方式能够很
神经网络报告
目 录
摘 要............................................................... 1
Abstrac............................................................. 1
1. 绪论............................................................. 3
1.1神经网络概述................................................. 3
2.神经网络的提出与发展.............................................. 4
2.1 神经网络的定义 .............................................. 4
2.1神经网络的发展历程........................................... 5
2.1.1初始发展阶段 ........................................... 5
2.1.2低潮时期 ............................................... 6
2.1.3复兴时期 ............................................... 6
2.1.4 二十世纪80年后期以来的热潮............................ 7
2.3神经网络研究的意义........................................... 7
3.神经网络的原理.................................................... 9
3.1 神经网络的基本原理 .......................................... 9