第四章自组织竞争神经网络

神经网络的发展历程与应用

神经网络是一种仿生的人工智能技术，它模拟了人类大脑中神经元之间的连接和信息传递方式，具有自学习和适应性强的特点。神经网络的发展历程可以追溯到上世纪50年代，经过了长期的理论研究和应用实践，如今已经成为了人工智能领域中的重要技术之一。本文将从神经网络的发展历程、基本模型、优化算法以及应用领域等方面进行介绍。

一、神经网络的发展历程

神经网络的发展历程可以分为三个阶段，分别是感知机、多层前馈神经网络和深度学习。

1. 感知机

感知机是神经网络的起源，由美国心理学家罗森布拉特于1957年提出。感知机是一种单层神经网络，由若干感知器（Perceptron）组成。每个感知器接收输入信号并进行加权和，然后经过一个阈值函数得到输出。该模型的最大缺点是只能处理线性可分问题，无法解决非线性问题。

2. 多层前馈神经网络

为了克服感知机的局限性，科学家们开始尝试使用多层前馈神经网络来处理非线性问题。多层前馈神经网络由输入层、隐藏层和输出层组成。每个神经元都有一个激活函数，用于将输入信号转换为输出。这种结构可以处理非线性问题，并且可以通过反向传播算法来训练网络参数。多层前馈神经网络在图像识别、语音识别、自然语言处理等领域得到了广泛应用。

3. 深度学习

深度学习是指使用多层神经网络来学习高层次特征表示的一种机器学习方法。深度学习在计算机视觉、自然语言处理等领域有着广泛的应用。其中最著名的就是卷积神经网络（CNN）和循环神经网络（RNN）。卷积神经网络主要用于图像识别和分类问题，循环神经网络主要用于序列预测和语言建模。

二、神经网络的基本模型

神经网络的基本模型可以分为三类，分别是前馈神经网络、反馈神经网络和自组织神经网络。

1. 前馈神经网络

前馈神经网络是指信息只能从输入层到输出层流动的神经网络。其中最常用的是多层前馈神经网络，它由多个隐藏层和一个输出层组成。前馈神经网络的训练主要使用反向传播算法。

网格环境下信息主体的自组织竞争机制探讨

第２４卷第７期　计算机仿真　２００７年７月　

文章编号：１００６—９３４８（２００７）０７—０１２５—０５　

网格环境下信息主体的自组织竞争机制探讨　

李保珍　，朱庆华　，周献中　

（１．南京大学工程管理学院，江苏南京２１００９３；２．南京大学国家信息资源管理南京研究基地，江苏南京２１００９３）　

摘要：在网格环境下，信息主体间的关联性更加突出，由于每个信息主体都是利益主体，同时又都具有不同程度的信息存储　与加工利用的功能，所以在竞争同一信息资源，或在合作提供同一信息服务过程中，不同信息主体间会存在着动态的竞争与　协作，这使得信息资源的开发利用具有了新的特征，如具有非线性、非局域性、非定常性等。为深入把握信息主体之间的关　联机制，文中将信息主体视为相对独立的神经元，并利用人工神经网络中比较成熟的自组织竞争网络（ＳＯＣＮ）理论和自组织　特征映射（ＳＯＦＭ）理论，来研究其竞争和协同的自组织机制，进而为在网格环境下对信息资源主体的协调管理提供借鉴。　关键词：网格环境；信息资源主体；竞争；协同；人工神经网络　中圈分类号：ＴＰ３９３　文献标识码：Ａ　

Ｓｅｌｆ——Ｏｒｇａｎｉｚａｔｉｏｎ　Ｃｏｍｐｅｔｉｔｉｖｅ　Ｍｅｃｈａｎｉｓｍ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　

Ａｇｅｎｔ　ｉｎ　Ｇｒｉｄ　Ｅｎｖｉｒｏｎｍｅｎｔ　

ＬＩ　Ｂａｏ—ｚｈｅｎ　，ＺＨＵ　Ｑｉｎｇ—ｈｕａ　，ＺＨＯＵ　Ｘｉａｎ—ｚｈｏｎｇ　

（１．Ｓｃｈｏｏｌ　ｏｆ　Ｍａｎａｇｅｍｅｎｔ　ａｎｄ　Ｅｎｇｉｎｅｅｒｉｎｇ，Ｎａｎｊｉｎｇ　Ｕｎｉｖｅｒｓｉｔｙ，Ｎａｎｊｉｎｇ　Ｊｉａｎｇｓｕ　２１００９３，Ｃｈｉｎａ；　

２．Ｎａｔｉｏｎａｌ　Ｃｅｎｔｅｒ　ｆｏｒ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｒｅｓｏｕｒｃｅ　Ｍａｎａｇｅｍｅｎｔ，Ｎ　ｉｎｇ　Ｕｎｉｖｅｒｓｉｔｙ，Ｎ　ｉｎｇ　Ｊｉａｎｇｓｕ　２１００９３，Ｃｈｉｎａ）　

ＡＢＳＴＲＡＣＴ：Ｕｎｄｅｒ　ｔｈｅ　ｄ　ｅｎｖｉｒｏｎｍｅｎｔ，ｔｈｅ　ｃｏｎｎｅｃｔｉｏｎ　ｂｅｔｗｅｅｎ　ｄｉｆｆｅｒｅｎｔ　ｉｎｆｏｒｍａｔｉｏｎ　ａｇｅｎｔｓ　ｉｓ　ｍｏｒｅ　ｐｒｏｍｉｎｅｎｔ．　

基于层析成像软测量的两相流流型识别

６　第２３卷第３期　

２００７年７月　电力科学与工程　

Ｅｌｅｃｔｒｉｃ　Ｐｏｗｅｒ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｅｎｇｉｎｅｅｒｉｎｇ　ＶＯ１．２３．Ｎｏ．３　

Ｊｕ１．．２００７　

基于层析成像软测量的两相流流型识别　

张立峰　

（华北电力大学控制科学与工程学院，河北保定０７１００３）　

摘要：基于电容层析成像（ＥＣＴ）和人工神经网络的软测量方法，实现了两相流流型识别。以油气两相流　

为例，建立了两相流流型识别的软测量模型。从ＥＣＴ传感器的输出中提取特征参数作为软测量模型的辅　

助变量，两相流流型为主导变量，构建－－－－ｇｔ自组织竞争神经网络，进而实现对两相流流型的在线判别。仿　

真结果表明，该方法判别精度高、判别速度快。　

关键词：电容层析成像；软测量技术；流型识别；自组织竞争神经网络　

中图分类号：ＴＰ３９１，４１　文献标识码：Ａ　

０　引　言　

在电力、化工、石油等工业部门中存在大量的　

两相流系统。两相流体流型的在线识别是实现两相　

流在线监控的前提，一直是两相流领域中重要的研　

究方向。以往的各种流型可视化方法主要有射线法　

和光学法等Ⅲ。电容层析成像（简称ＥＣＴ）技术　

是自２０世纪９０年代发展起来的一种用于工业管　

道多相流测量的过程层析成像技术，它利用多相介　

质具有不同的介电常数，通过阵列电极电容变化，　

反映管道中多相介质分布，从而构造出管道截面各　

相介质的分布图像。该技术为解决工业流型可视化　

问题提供了一条有效的途径　。　

传统的利用ＥＣＴ识别流型的方法主要是观察　

重建的图像，但图像重建需耗费一定时间，且图像　

重建的精度不够高，有一定误差。　

本文研究基于ＥＣＴ的软测量技术，利用该技　

术从ＥＣＴ传感器的输出中提取反映流型的特征参　

数，构建二级自组织竞争神经网络，从而无需经过　

图像重建，由神经网络直接给出流型识别的结果。　

１　软测量模型的建立　

软测量技术Ｈ　以易测过程变量（或称辅助变　量、二次变量）为基础，利用易测过程变量与待测　

基于自组织神经网络的土壤应用

第１２期　２００６年１２月　山西焦煤科技　Ｓｈａｎｘｉ　Ｃｏｋｉｎｇ　Ｃｏａｌ　Ｓｃｉｅｎｃｅ＆Ｔｅｃｈｎｏｌｏｇｙ　Ｎｏ．１２　Ｄｅｃ．２００６　

・专题综述・　

基于自组织神经网络的土壤应用　

朱翔宇　韩红远　

（太原市电子研究设计院）　

摘　要　自组织竞争神经网络以无教师教学的方式进行网络训练，具有自组织功能。网络通过　

自身训练，自动对输入模式进行分类。土壤分类是土壤科学的基础，也是土壤科学发展水平的综合　

指标。Ｓ０Ｍ网络是一种具有聚类功能的神经网络，本文利用ＳＯＭ网络对土壤进行了分类，为土壤　

分类提供了一种新的思路与方法。　

关键词　自组织竞争神经网络；土壤分类；ＳＯＭ网络；聚类功能　

人工神经网络是生理学上真实的人脑神经网络　

的结构和功能以及若干基本特性的某种理论抽象、　

简化和模拟而构成的一种信息处理系统［１］。它由神　

经元相互连接组成神经网络，显示出人脑的某些特　

征，如分布存储和容错性、大规模并行处理能力、自　

学习组织和自适应能力。人工神经网络是大量神经　

元的集体行为，并不是各单元的行为的简单相加，表　

现出一般复杂非线性系统、动态系统的特性，它可以　

处理一些环境信息非常复杂、知识背景不清楚、推理　

规则不明确的问题。　

１　竞争学习神经网络　

１．１　自组织网络概述　

竞争学习是一种典型的无师学习，只同意神经　

元层次上各个神经元相互之间进行竞争，竞争胜利　

的神经元修改与其相联的连接权值，它模拟人类根　

据过去经验自动适应无法适应的环境变化；在无法　

监督学习中，只向网络提供一些学习样本，而不提供　

理想的输出；网络根据输入样本进行自组织，并将其　

划分到相应的模式类中；因为没有教师信号，所以这　

类网络通常利用竞争的原则进行。学习时只需给定　

一个输入模式集组作为训练机，网络自行组织训练　

模式，并将其分成不同类型。　

自组织网络是竞争网络中十分重要的一个网　

络，此网络是基于侧抑制这种生物结构和现象形成　的一种人工神经网络，网络通过自身训练，自动对输　

人工神经网络简介

1 人工神经网络概念、特点及其原理 ........................................................................................... 1

1.1人工神经网络的概念 ......................................................................................................... 1

1.2人工神经网络的特点及用途 ............................................................................................. 2

1.3人工神经网络的基本原理 ................................................................................................. 3

2 人工神经网络的分类及其运作过程 ........................................................................................... 5

2.1 人工神经网络模式的分类 ................................................................................................ 5

2.2 人工神经网络的运作过程 ................................................................................................ 6

基于Matlab的自组织神经网络在油气层识别中的应用研究

本栏目责任编辑：谢嫒媛　．．。．．．开发研究与设计技术．　

基于Ｍａｔｌａｂ的自组织神经网络在油气层识别中的应用研究　

王家华．李志勇．周冠武　（西安石油大学计算机学院。陕西西安７１００６５）　

摘要：介绍了自组织竞争网络和自组织影射网络的原理，对自组织竞争网络和自组织影射网络的优缺点进行了比较。采用大庆的油　

气层数据建立网络模型，对网络结构的参数进行了优化并对输入样本进行了聚类分析。数据分析表明自组织竞争网络和自组织影射网络　都有较好的聚类结果，自组织竞争网络较自组织影射网络方法识别出的结果更客观可靠．是油气屡识别的一种有效方法。　

关键词：自组织竞争网络神经网络；自组织特征影射神经网络；油气层识别　中幽分类号：ＴＰ３９９　文献标识码：Ａ　文章编号：１００９—３０４４（２００６）３５－０１１９＿０３　Ｏ¨＆Ｇａｓ　Ｆｏｒｍａｔｉｏｎ　Ｉｄｅｎｔｉｆｉｃａｔｉｏｎ　Ｂａｓｅｄ　ｏｎ　Ｓｅｌｆ－Ｏｒｇａｎｉｚａｔｉｏｎ　ＮｅｕｒａＩ　Ｎｅｔｗｏｒｋ　ｏｆ　Ｍａｔｌａｂ　

ＷＡＮＧ　Ｊｉａ—ｈｕａ，ＬＩ　Ｚｈｉ—ｙｏｎｇ，ＺＨＯＵ　Ｇｕａｎ—ＷＵ　（Ｓｃｈｏｏｌ　ｏｆ　Ｃｏｍｐｕｔｅｒ　Ｓｃｉｅｎｃｅ，Ｘｉ’ａｎ　Ｓｈｉｙｏｕ　Ｕｎｉｖｅｎｉｔｙ，Ｘｉ’ａｎ　７１００６５，Ｃｈｉｎａ）　Ａｂｓｔｒａｃｔ：Ｔｈｅ　ｔｌｌｅｏｒｙ　ｏｆ　ｓｅｌｆ－ｏｒｇａｎｉｚａｔｉｏｎ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｉｓ　ｉｎｔｒｏｄｕｃｅｄ．Ｔｈｅ　ａｄｖａｎｔａｇｅ　ａｎｄ　ｄｉｓａｄｖａｎｔａｇｅ　ｏｆ　ｓｅｌｆ－ｏｒｇａｎｉｚａｔｉｏｎ　ｃｏｍｐｅｔｉｔｉｖｅ　

ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ａｎｄ　ｓｅｌｆ－ｏｒｇａｎｉｚａｔｉｏｎ　ｍａｐｐｉｎｇ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ａｒｅ　ｃｏｍｐａｒｅｄ．　ｗｅ　ｏｐｔｉｍｉｚｅ　ｔｈｅ　ｐａｒａｍｅｔｅｒ　ｏｆ　ｎｅｔ　ｓｔｒｕｃｔｕｒｅ　ａｎｄ　ｍａｋｅ　ｔｈｅ　ｃｌｕｓｔｅｒ　

SOFM算法

SOFM网络的工作原理是:当网络接受外界输入模式时,将会分为不同的区域,各区域对输入模式具有不同的响应特征。也就是说,特征相近的输入模式靠得比较近,差异大的分得比较远。在各神经元联接权值的调整过程中,最邻近的神经元相互刺激,而较远的神经元则相互抑制,更远一些的则具有较弱的刺激作用。输入层所有神经元通过相互竞争和自适应学习,形成空间上的有序结构,从而实现输入矢量到输出矢量空间的特征映射。SOFM的学习则使网络节点有选择地接受外界刺激模式的不同特性,从而提供了基于检测特性空间活动规律的性能描述。其实,SOFM的学习过程就是在某个学习准则的指导下,逐步优化网络参数的过程。该网络分为输入层和竞争层两层。两层之间实行全互连。它将任意维输入模式在输出层映射成一维或二维离散图形，并保持其拓扑结构不变。在竞争层中，让竞争获胜的那个神经元c的兴奋程度最高，并使其周围VBc的区域内的神经元在不同程度上都得到兴奋，VBc是时间的函数，随着时间的增加,NBc的范围不断的减小，通过图可以直观的看出来。

SOFM的算法流程见图

从上述算法可以看出,网络训练完毕后,各输出单元对应一个权值。在分类过程中,每个分类对象必与其中一个权值的距离最近,把与同一输出单元的权值最近的点作为同一类,并由该输出单元输出,即达到了分类的目的。

SOFM分类算法:步骤1：对图像数据作归一化处理，将各点象素值归一化到区间[0,1]内，由此得到图像X=（x1，x2，„xn），其中xi为图像一点的归一化后的模式.

步骤2：初始化网络连接权值Wj，其中1<=j<=M，M对应竞争层神经元向量元素的个数。

步骤3：选择获胜单元c,dc=jmin||xi-wj||.

步骤4：进行连接权调整

邻域函数一般选用Gaussian函数:NB(t)=exp{-dj,i(x)2)／2σ2}其中dj,i(x)表示邻域中神经元与获胜神经元间的距离,采用Euclid距离计算;σ为邻域的有效半径,随离散时间指数衰减σ(t)=σ(0).exp(-t/τ1),t=0,1,2,∀,j=1,2,…m的初始值,τ1为时间常数,σ(0)是σ(t)的初始值.

神经网络大作业

题目神经网络模型的对比与分析

学院

学号

学生姓名

神经网络的网络拓扑结构大体有前向型、反馈型、自组织竞争型和随机型网络等拓扑结构（出发点不同网络结构的分法也不一样）。前向型的人工神经网络有学习、分类等功能，反馈型的人工神经网络有联想记忆、优化计算等功能，自组织竞争型的人工神经网络有聚类、搜索、自组织、自学习等功能。截至目前，我们主要学习了四种网络模型，即：感知机、有监督的Hebb网络、ADLINE (Widrow-Hoff)模型和反向传播模型(BP)都隶属于前向网络。

下面，我就各个网络模型的学习规则以及异同谈一些体会。

1.感知机学习规则：

1943年，Warren McCulloch和Walter Pitts最早提出了一种人工神经元模型，把神经元输入信号的加权和与其阈值相比较以确定神经元的输出。如果加权和小于阈值，则该神经元的输出值为0；如果加权和大于阈值，则该神经元的输出值为1。但由于没有找到训练这一网络的方法，因此必须设计这些神经元网络的参数以实现特定的功能。上世纪50年代，Frank Rosenblatt等研究人员提出了一种感知机的神经网络，引入了用于训练神经网络解决模式识别问题的学习规则，并证明了只要求解问题的权值存在，那么其学习规则通常会收敛到正确的权值上。但是，感知机网络却存在一定的局限性，其只能解决模式识别中的线性可分问题。正是由于这种局限性，一度导致神经网络的研究工作陷入低潮。我们知道，对于1－3维输入单层神经元的模式识别问题，可以通过图解法解决。其基本程序为：1、画出判定边界，该判定边界实现了区域划分的目的；2、求解权值矩阵，权值矩阵求解的关键是判定边界总是和权值矩阵相正交，对于同一模式识别问题，判定边界的不同会造成权值矩阵的不同。这一不同，在与当前模式精确匹配时不会产生错误的输出，而在其他模式的判别中可能引起较大的误差（下面将举例说明）。3、求解偏值，偏值b的求解，可以在求解权值矩阵的基础上，将判定边界上任意一点的坐标带入方程WT*P＋b＝0得到,如果我们划定的判定边界通过坐标原点，那么此时的b值可以设定为0。当3个以上输入神经元网络的判定边界无法用图形方法进行判定时，我们就必须引入一个学习的规则。如果将单神经元感知机和多神经元感知机统一起来，那么这个学习规则可写为WNEW＝WOLD＋epT；BNEW＝BOLD＋e，其中e＝t－a。在学习过程的开始，权值和偏值我们可以任意设定，在输入第一个模式后，将期望输出与感知机的实际输出相减，得到输出误差e。通过e的正负调节权值矩阵和偏值，从而最终实现模式之间的正确分类。

自组织神经网络在发酵过程建模与控制中的应用

2001年　

4月山　东　工　业　大　学　学　报

Vol1

31　

No1

2

第

31卷第

2期JOURNALOFSHANDONGUNIVERSITYOFTECHNOLOGY

Apr12001

MODELINGANDCONTROLBASEDONTHE

SELF-ORGANIZINGNEURALNETWORKS

INTHEFERMENTATIONPROCESSES

SuiQingmei　

TianBingli　

WangZheng’

ou

(

InstituteofSystemEng1

,TianjinUniv1

,Tianjin300072)

ABSTRACT　

Usedtheimprovedidentificationalgorithmofself-organizingneuralnetworks1

Its

convergentspeedhasbeenraisedlargely1

Combinedthemodelingmethodwiththegeneralpredictive

control,andalsogivensuperiorperformanceofcontrolinthefermentationprocesses1

KEYWORDS　

Industrialfermentation;Neuralnetworks;Non-linearsystems

自组织神经网络在发酵过程建模

与控制中的应用3

隋青美　田炳丽①

　王正欧

(

300072　天津　天津大学系统工程研究所)

摘　要　将改进的自组织神经网络的辨识算法

,与预测控制理论相结合

,应用于发酵过

程的建模与控制中1改进的建模方法大大提高了算法的收敛速度

,基于该算法的预测控制

方案在发酵过程的非线性控制中

,获得了良好的响应特性1

关键词　工业发酵

;神经网络

;非线性系统

中图分类号　

TP274+

　文献标识码

:A 文章编号

:1000-5323(

2001)

02-0121-06

0　引言

预测控制自出现至今

,它的应用

,特别是在复杂的化工过程中的应用已相当广泛

基于自组织竞争神经网络的电力系统暂态稳定研究

第３０卷第５期　２００８年１Ｏ月　三峡大学学报（自然科学版）　Ｊ　ｏｆ　Ｃｈｉｎａ　Ｔｈｒｅｅ　Ｇｏｒｇｅｓ　Ｕｎｉｖ．（Ｎａｔｕｒａｌ　Ｓｃｉｅｎｃｅｓ）　ＶｏｌＩ　３０　ＮＯ．５　０ｃｔ．２００８　

基于自组织竞争神经网络的电力系统暂态稳定研究　

危　雪　周云海　胡翔勇　

（三峡大学电气信息学院，湖北宜昌４４３００２）　

摘要：大停电事故和电力需求紧张，使得大扰动下电力系统的暂态稳定问题日显突出．如何能快速　判断电力系统的暂态稳定性能，是研究的重点．文章以综合性能指标法中的性能指标作为反映电　

力系统暂态稳定性能的特征指标，设计自组织竞争人工神经网络分类器进行暂态稳定问题的分类　判断．通过算例验证了该分类器可将暂态稳定问题分为稳定、不稳定和模糊类３种类型，有利于对　

稳定性能进行快速判断，从而减少了待详细分析的事故数目，而无需利用全过程时域仿真计算，有　利于进行在线的动态安全评估．　

关键词：电力系统；　暂态稳定性能；　自组织竞争人工神经网络；　快速判断　中图分类号：ＴＭ７３　文献标识码：Ａ　文章编号：１６７２—９４８Ｘ（２００８）０５—００２５—０４　

Ｓｔｕｄｙ　ｏｆ　Ｐｏｗｅｒ　Ｓｙｓｔｅｍ　Ｔｒａｎｓｉｅｎｔ　Ｓｔａｂｉｌｉｔｙ　Ｂａｓｅｄ　ｏｎ　Ｓｅｌｆ－ｏｒｇａｎｉｚｉｎｇ　

Ｃｏｍｐｅｔｉｔｉｏｎ　Ａｒｔｉｆｉｃｉａｌ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ　

Ｗｅｉ　Ｘｕｅ　Ｚｈｏｕ　Ｙｕｎｈａｉ　Ｈｕ　Ｘｉａｎｇｙｏｎｇ　

（Ｃｏｌｌｅｇｅ　ｏｆ　Ｅｌｅｃｔｒｉｃａｌ　Ｅｎｇｉｎｅｅｒｉｎｇ＆Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｃｉｅｎｃｅ，Ｃｈｉｎａ　Ｔｈｒｅｅ　Ｇｏｒｇｅｓ　Ｕｎｉｖ．，Ｙｉｃｈａｎｇ，４４３００２，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ　Ｐｏｗｅｒ　ｓｙｓｔｅｍ　ｔｒａｎｓｉｅｎｔ　ｓｔａｂｉｌｉｔｙ　ｐｒｏｂｌｅｍ　ｂｅｃｏｍｅｓ　ｍｏｒｅ　ｉｍｐｏｒｔａｎｔ　ｎｏｗａｄａｙｓ．Ｓｉｘ　ｉｎｄｅｘｅｓ　ｏｆ　ｉｎｔｅ—　