神经网络技术及其在故障诊断中的应用

1982年，物理学家J.J.Hopfield提出了全连接神经网 络，后来被称为Hopfield神经网络，在网络的理论分 析和综合上达到了相当的深度。 虽然早期的Hopfield网络存在一些问题，如，网络的 权值固定、不能学习、大规模的网络实现困难，而且 无法克服局部极小点问题等等，但Hopfield的研究为 神经网络带来了复兴的希望，极大地推动了神经网络 的发展。
2、神经网络的特点
神经网络具有以下四个基本特点：
（1）广泛连接的巨型系统。
脑科学已经证明人脑是由数量及其庞大的脑细胞 组成的，每个细胞之间又有着及其广泛复杂的相 互连接。 人工神经网络着眼于模拟人脑，虽然目前还无法 实现和人脑一样庞大的结构体系，但从本质上说， 它是一个广泛连接的巨型系统。
（2）分布式存储信息。
生物神经元由细胞体、树突和轴突三部分组成。如下图所示。 树突是细胞的输入端，通过细胞体之间连接的节点“突触” 接受周围细胞传出的神经冲动； 轴突相当于细胞的输出端，其端部的众多神经末梢为信号的 输出端子，用于传出神经冲动。
来自百度文库图 生物神经元结构示意图
生物神经元具有两种工作状态：“兴奋”和“抑制”。
当传入的神经冲动使细胞膜电位升至高于其阈值时， 细胞进入兴奋状态，产生神经冲动，由轴突输出；
发展高潮期
1987年，在美国圣地亚哥召开了第一届国际神经网络 会议，此后国际神经网络协会成立。 从此，神经网络技术的研究呈现出蓬勃活跃的局面， 理论研究不断深入，各种类型的网络模型和算法纷纷 出现，应用范围不断扩大。
1994年，在美国奥兰多首次召开IEEE全球计算智能大 会，此次会议将模糊算法、神经网络和遗传算法三个 领域综合起来，有力地促进了不同研究领域之间的交 叉渗透和共同发展。
神经网络技术的出现，为故障诊断问题提供了一 种新的解决途径。 特别是对复杂系统，由于基于解析模型的故障诊 断方法面临难以建立系统模型的实际困难，基于 知识的故障诊断方法成了重要的、也是实际可行 的方法。
神经网络的基础
1、神经元模型 神经网络的基本单元称为“神经元”，它是对生 物神经元的简化和模拟。
反之，若传入的神经冲动使细胞膜电位下降至低于阈 值时，细胞进入抑制状态，就没有神经冲动输出。
基于生物神经元的结构和工作特性，对生物神经元进 行模拟，得到人工神经元。如下图所示。 图中，各变量的下标i表示神经网络中的第i个神经元。 该神经元是一个多输入、单输出的非线性元件。
图 人工神经元模型示意图
人工神经元的输入输出关系可描述为：
1、神经网络的发展 神经网络的发展可以追溯到一个世纪之前。一般将 这一百多年的历史分为三个阶段。
自1890年至1969年为初始发展期；
1969年至1986年为发展的过渡时期；
自1986年以来，步入了发展的高潮期。
初始发展期
1890年，美国生理学家W.James出版了《生理学》一书， 首次阐明了人脑的结构及其功能，以及一些学习、联 想、记忆的基本规则。
第四章 神经网络技术 及其在故障诊断中的应
用
神经网络基础 典型结构的神经网络 改进型BP算法及其在故障 诊断中的应用
一、神经网络基础
神经网络的发展及特点
神经网络就是用物理上可以实现的器件、系统或现 有的计算机来模拟人脑的结构和功能的人工系统。 它由大量简单神经元经广泛互联构成一种计算结构， 在某种程度上可以模拟人脑生物神经系统的工作过 程。
1943年，W.C.McCulloch和W.Pitts根据已知的神经细 胞生物基础，描述了一个简单的人工神经元模型，即 后来的“M－P模型”。
1949年D.O.Hebb发表了论著《行为自组织》，提出了 很多有价值的观点。Hebb同时提出了网络学习的规则， 从而使神经网络具有了可塑性。
1958年，F.Rosenblatt提出了“感知器 （perception）”模型，用于模拟一个生物视觉模型。 这是第一个真正的神经网络。
过渡时期
1969年，M.Minsky和S.Paper经过对“感知器”模 型的深入研究，发表了论著《感知器》，分析了一 些简单的单层感知器，说明这些单层的感知器只能 解决线性分类问题，对于非线性或其他的分类则会 遇到很大困难。 这个观点使得许多专家放弃了对神经网络的研究。 但在这个阶段，也还有一些研究人员在继续进行探 索。
神经网络系统中，信息是以某种形式分布在广大 神经元及其相互连接中的。
（3）并行处理功能。 研究表明，神经元之间的信息传递是毫秒级的， 比电子开关的速度慢得多；而实际上人在瞬间就 能完成一幅图像的辨识。 由此可以推断，人脑对信息的处理是并行式的。
（4）自学习、自组织和自适应功能。
学习功能是神经网络的一个重要特征，正是因为 神经网络具有自学习能力，才使得它在应用中表 现出强大的自组织和自适应能力。
n
si ij x j i j 1
yi f (si )
其中，xj（j=1～n）为来自其他神经元的输入信号； θi为该神经元的阈值； ωij表示从神经元j到神经元i的连接权值； si表示神经元的状态； f(·)为某种非线性函数，它将神经元的
状态si变换成神经元的输出yi，所以称为神经元的输出 函数或者传递函数。
这个时期，由D.E.Rumelhart等多人组成的并行分布处 理研究小组提出了误差反向传播神经网络，即BP网络。 这是一种按照一定的输入输出关系进行自组织的神经 网络。 同时他们还明确揭示了神经网络的三个主要属性，即 网络模型的结构、神经元的输入输出变换函数及算法， 对神经网络在各领域的推广应用起了很大的作用。 BP网络目前已成为一种应用最为广泛的神经网络。
为了便于统一处理，上式可表示为：
n
si ij x j j0
式中：ωi0＝-θi；x0＝1。
神经元模型中的传递函数f(·)可以有多种形式。 下面介绍几种常用的形式。
（1）阈值单元模型
f (x) u(x)
或
f (x) 2u(x) 1
其中，u(x)表示单位阶跃函数。 阈值单元模型的特点是其传递函数为二值函数，神经元 的输出为0，1或者±1。 感知器、M-P模型以及最初的Hopfield模型中都采用这 种类型的传递函数。