神经网络应用综述

人工神经网络应用综述

一、引言

人工神经网络是模仿生理神经网络的结构和功能而设计的一种信息处理系统。它从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网

络[1]。大量的人工神经元以一定的规则连接成神经网络，神经元之间的连接及各连接权值的

分布用来表示特定的信息。神经网络分布式存储信息，具有很高的容错性。每个神经元都可

以独立的运算和处理接收到的信息并输出结果，网络具有并行运算能力，实时性非常强。神

经网络对信息的处理具有自组织、自学习的特点，便于联想、综合和推广。神经网络以其优

越的性能应用在人工智能、计算机科学、模式识别、控制工程、信号处理、联想记忆等极其

广泛的领域[2]。

二、人工神经网络概述

(一)定义：

关于它的定义有很多种，而Hecht-Nielsen 给出的神经网络定义最具有代表意义：神经网络是一种并行的分布式信息处理结构，它通过称为连接的单向信号通路将一些处理单元互连而成。每一个处理单元都有一个单输出到所期望的连接。每一个处理单元传送相同的信号即处理单元输出信号。处理单元的输出信号可以是任一种所要求的数学类型。在每一个处理单元中执行的信息处理在它必须完全是局部的限制下可以被任意定义，即它必须只依赖于处理单元所接受的输入激励信号的当前值和处理单元本身所存储记忆的值[3-5]。

(二)基本原理：

1、人工神经元模型

神经元是人工神经网络的基本处理单元，是生物神经元的抽象、简化和模拟。抽象是从数学角度而言，模拟是以神经元的结构和功能而言。

2、神经网络结构

神经网络结构和工作机理基本上是以人脑的组织结构和活动规律为背景的，它反映了脑的某些基本特征，但并不是要对人脑部分的真正实现，可以说它是某种抽象、简化或模仿。

如果将大量功能简单的形式神经元通过一定的拓扑结构组织起来，构成群体并行分布式处理

的计算结构，那么这种结构就是人工神经网络，在不引起混淆的情况下，统称为神经网络。

(三)人工神经网络的基本属性

1、非线性：人脑的思维是非线性的，故人工神经网络模拟人的思维也应是非线性的。

2、非局域性：非局域性是人的神经系统的一个特性，人的整体行为是非局域性的最

明显体现。神经网络以大量的神经元连接模拟人脑的非局域性，它的分布存储是非局域性的一种表现。

3、非定常性：神经网络是模拟人脑思维运动的动力学系统，它应按不同时刻的外界

刺激对自己的功能进行修改，故而它是一个时变的系统。

4、非凸性：神经网络的非凸性即是指它有多个极值，也即系统具有不只一个的较稳

定的平衡状态，这种属性会使系统的演化多样化。

三、人工神经网络模型模型

(一)人工神经网络模型的分类

1、按照网络的结构区分，则有前向网络和反馈网络。

2、按照学习方式区分，则有教师学习和无教师学习网络。

3、按照网络性能区分，则有连续型和离散性网络,随机型和确定型网络。

4、按照突触性质区分，则有一阶线性关联网络和高阶非线性关联网络。

5、按对生物神经系统的层次模拟区分[6]，则有神经元层次模型，组合式模型，网络层次模

型，神经系统层次模型和智能型模型。通常人们较多地考虑神经网络的互连结构。

神经网络有分层网络、层内连接的分层网络、反馈连接的分层网络、互连网络等4 种互连结构[7]。

(二)几种主要模型

1、BP 网络的数学模型

一个典型的三层前馈型BP 网络的拓扑结构如图所示。

从结构上讲，三层BP 网络是一个典型的前馈型层次网络，它被分为输入层LA，隐含层LB 和输出层LC。同层节点间无关联，异层神经元间前向连接。其中，LA 层含m 个节点，对应于BP 网络所感知的m 个输入；LC 层含有n 个节字，与BP 网络的n 种输出相对

应，LB 层节点的数目可根据需要设置。

BP 网络是误差反向传播(Back Propagation)网络。误差反向传播神经网络模型有三层或多层构成，它是有导师学习。在学习时，需要输入一批学习样本，根据输入数据值和指定的算法，经过中间层转换函数的计算后，计算的结果与期望输出值比较，若没达到要求的精确度，则误差反向传播到各层神经元，并在反向传播过程中修正权值，再进行网络训练，直到达到要求的精确度为止。误差反向传播神经网络模型的输出仅由当前输入和权值决定，而与网络先前的输出状态无关[8]。

2、Hopfield 网络的数字模型

1982 年，美国加州工学院霍普菲尔特（Hopfield）教授发表了一篇对神经网络研究颇具影响的论文，提出了一种后来被人们称之为Hopfield 网络的神经网络模型。Hopfield 网络是由相同的神经元构成的单层，并且不具学习功能的自联想网络。这一模型是一个由N 个节点全部互联网而构成的一个反馈型动态网络，由它可以实现联想记忆，并能进行优化问题求解，因而受到人们的高度重视。

3、随机型BM 网络

BM 网络是一种具有对称联接权的随机神经网络。从结构上讲，BM 网络可看成写

Hopfield 网络的推广与变形。

4、自适应共振神经网络模型（ART）

自适应共振神经网络(Adaptive Resonance Theory) 是1976 年由G.A.Carpenter 和S.Grossbery 提出的，它是一种能对任意序列输入模式产生的识别代码进行自动化的神经网

络机构。

四、人工神经网络在不同领域的应用

(一)人工神经网络在信息领域中的应用

在处理许多问题中，信息来源既不完整，又包含假象，决策规则有时相互矛盾，有时无章可循，这给传统的信息处理方式带来了很大的困难，而神经网络却能很好的处理这些问题，

并给出合理的识别与判断。

1、信息处理

现代信息处理要解决的问题是很复杂的，人工神经网络具有模仿或代替与人的思维有关的功能，可以实现自动诊断、问题求解，解决传统方法所不能或难以解决的问题[9]。人工神

经网络系统具有很高的容错性、鲁棒性及自组织性，即使连接线遭到很高程度的破坏，它仍

能处在优化工作状态，这点在军事系统电子设备中得到广泛的应用。现有的智能信息系统有

智能仪器、自动跟踪监测仪器系统、自动控制制导系统、自动故障诊断和报警系统等。

2、模式识别

模式识别是对表征事物或现象的各种形式的信息进行处理和分析，来对事物或现象进行描述、辨认、分类和解释的过程。该技术以贝叶斯概率论和申农的信息论为理论基础，对信

息的处理过程更接近人类大脑的逻辑思维过程。现在有两种基本的模式识别方法，即统计模

式识别方法和结构模式识别方法。人工神经网络是模式识别中的常用方法，近年来发展起来

的人工神经网络模式的识别方法逐渐取代传统的模式识别方法。经过多年的研究和发展，模

式识别已成为当前比较先进的技术，被广泛应用到文字识别、语音识别、指纹识别、遥感图

像识别、人脸识别、手写体字符的识别、工业故障检测、精确制导等方面[10]。