自组织特征映射神经网络的改进及应用研究

1342009,45(31)Compu£erEngineeringandApplications计算机工程与应用

自组织特征映射神经网络的改进及应用研究

梁斌梅UANGBin—mei

广西大学数学与信息科学学院,南宁530004CollegeofMathematicsandInformationScience,GuangxiUniversity,Nanning530004,ChinaE-mail:liangbinmei@sina.corn

LIANGBin-mei.StudyOHimprovementandapplicationofserf-organizingmapneuralnetwork.ComputerEngineeringandApplications,2009,45(31):134-137.

Abstmct:InordertoincreasethelearningspeedandenhancetheclassificationaccuracyofSOMnetwork。modifyexistingmethodsofdeterminingtheinitialconnectionweightsandthenumbersofcompetitivelayernodes.Clusteringmethodisproposedtodeterminetheinitialconnectionweights.Anewmetllodisproposedtodeterminethenumbersofcompetitivelayernodesbyaddinguptheclusternumbersandthenumbersoftheneighborhoodneurons.AndthentheimprovedclassificationalgorithmbasedSOMnetworkispresented.ApplytheimprovedSOMnetworktoclassifystored—grainpests,andleave—one—outmethodtotrainandtestthenetwork.TheexperimentalmsdtsshowthatthemodifiedSOMnetworkhasbeenmarkedlyimprovedinlearningspeedandclassificationaccuracy,whichprovethevalidityoftheproposedmethods.Keywords:self-organizingmap;neuralnetwork;classification;clustering;stored—grainpests

摘要:为了提高自组织特征映射(SOM)神经网络学习速度及分类精度,对初始连接权值及竞争层神经元数的确定方法进行改进。提出用聚类方法确定初始权值的新方法,还提出了采用聚类数与邻域之和确定竞争层神经元数的方法,并给出了改进后的SOM分类算法。将改进的s0M网络用于储粮害虫分类,采用留一方法进行分类验证实验。仿真结果表明,改进后的SOM网络在学习速度和分类精度方面都有明显提高,证明了该方法的有效性。关键词:自组织映射;神经网络;分类;聚类;储粮害虫DOI:10.3778/j.issn.1002—8331.2009.31.040文章编号:1002—8331(2009)31—0134—04文献标识码:A中图分类号:TPl83

l引言自组织特征映射(SOM)神经网络是由芬兰学者TeuvoKohonen于1981年提出的,作为一种无教师聚类方法,它能将任意维输入模式在输出层映射成一维或二维离散图形,并保持其拓扑结构不变In,实现对输入模式自动聚类。SOM网络已被用来解决样本分类、特征处理、矢量量化、泛函逼近和插值等问题12-:31。SOM网络在分类学习中存在一些不足之处,主要体现在学习时间长M及分类精度不高[61。该文主要探讨尚少学者研究的SOM网络竞争层神经元数目、输入层与竞争层的初始连接权值的确定等问题。提出通过聚类的方法确定竞争层神经元数及初始权值的方法,并通过对储粮害虫分类的仿真实验来验证该文方法的正确性和有效性。

2SOM网络分类模理SOM网络由输入层与输出层(竞争层)组成,其结构如图1所示。输入层与竞争层之间为全连接,竞争层各神经元之间为侧抑制连接。网络中存在两种不同连接权值,一种是神经元对外部输入反应的连接权值,另一种是神经元之间的连接权值,它控制着神经元之间交互作用的大水”。SOM网络的基本工作原理是,网络竞争层的各神经元通过竞争来获取对输入模式的响应,将与获胜神经元有关的各连接权值向着更有利于其竞争的方向调整,最后仅有—个神经元成为竞争胜利者。处于竞争层拓扑空间中不同区域的神经元有不同分工,当一个神经网络接受外界输入模式时,将会分为不同的反应区域,各区域对输入模式具有不同的响应特性,最邻近的两个神经元互相激励而兴奋,较远的相互抑制,更远的则是弱激励,分布形状像墨西哥草帽,如图2所示171。

侧反馈‘强度/\

Vo\/砷向\_/叮直图l自组织特征映射网络图2墨西哥帽彤雨数

基金项目:广西教育厅科研项目(No.12006]026)。作者简介:梁斌梅(1973一),女,讲师,博士研究生,研究兴趣:神经网络、数据挖掘。收稿日期:2009—07—23

修同日期:2009-09—08

 万方数据梁斌梅:自组织特征映射神经网络的改进及应用研究

SOM网络的竞争层采用邻域来避免初始权向量与输入向量分布不一致造成的匹配不均匀现象。邻域Ⅳc(t)是指在第t次迭代时,以获胜神经元C为中心,包含若干神经元的区域范围。这个区域一般是均匀对称的,通常是圆形、正方形或六角形区域【6】,图3是一个获胜神经元c的正方形邻域,其中,tO<tl<t2。在训练的初期,对于—个输入向量,允许多个神经元同时处于激发状态。学习过程不仅调整获胜神经元对应的权向量,对其邻域范围内的权向量也作适当调整。而随着训练的不断进行,邻域范围逐渐减小,最后达到对—个输入向量只有一个神经元激发。

OoOOOOO0娜百O西Qo;o万6百蛭O:010●.0IOi0010:O0070:oolo000010O。O芍6-6万oNfOo)Nc(t1)Nc(t2)

图3获胜神经元c及其邻域

3聚类原理聚类分析依照物以类聚原理将研究对象分组,提供样本分布的结构信息,是一种重要的数据挖掘方法,在自然科学和社会科学中得到广泛应用[Sl。基于层次的聚类方法将数据对象在不同阶段组成不同粒度的簇,并在簇的分裂和合并过程中不断改善聚类的效果,以达到逐步求精的目的。根据SOM网络建模的特点,分别提出基于层次聚类确定竞争层神经元数目及初始连接权值的方法。层次聚类分为凝聚层次聚类与分裂层次聚类。凝聚层次聚类采用自底向上的方式形成层次分解,这种策略首先将每个对象作为其簇,然后合并这些原子簇为越来越大的簇,直到所有的对象都在—个簇中,或者某个终止条件满足为止。在凝聚过程中,可根据最小距离、最大距离、平均值距离和平均距离计算簇之问相似度目。设Ci和G是聚结过程中同一层次上的两个类,/7,i和n,分别是G和c『两个类中的对象数目,∥为Ci中的任意—个对象,Po’为C!『中的任意—个对象。,:为ci中对象的平均值。f为cJ中对象的平均值,公式(1)一(4)用于计算两个簇之间的差异度。(1)平均值距离k(G,q)划旺Z)(1)(2)平均距离k(ci,G)=—L∑Zd(p(u,p们)(2),o册矿EcpPE6(3)最大距离d。(c;,q)-maxd(p‘”,p∞)(3)P“。Eq,,训Eq(4)最小距离dl(Ci,G)=raind(∥,pq))(4)pt')EE.,”EC采用单链接算法实现凝聚层次聚类。其基本思想是㈣:聚类开始时,将每个对象自为一簇,然后这些簇根据最小距离准则(公式(4))逐步合并。即,如果簇c。中的—个对象与簇c2中的—个对象之间的距离是所有属于不同簇的对象问欧几里德距离中最小的,则合并c2和c2。ca+簇可以用簇中所有对象代表,簇问相似度用属于不同簇中最近的数据点对之间的相似度来度量。聚类合并过程反复进行,直到达到终止聚簇条件。

4SOM网络分类性能的改进SOM网络在实际应用中存在学习速度慢、分类精度不高、学习过程容易发生振荡等问题[11l。分析SOM网络学习过程可知,其影响因素主要是竞争层拓扑结构、邻域大小、初始权值及学习率等。学术界对学习率的改进方面做了较多研究,但是对竞争层拓扑结构及初始权值的研究还比较少。该文主要从竞争层神经元数、初始权值的确定等两个方面进行研究分析,以期改善SOM网络分类性能。4.1竞争层神经元数的确定竞争层结构越庞大,神经元数目越多,需计算调整的权值越多,网络的训练时间就越长。因此,寻求—个最小的竞争层结构可以减少网络训练时间,从而加快学习速度。假设输入层有rL个神经元,竞争层有m个神经元,则共产生nxm个连接权值,多增加—个竞争层神经元就要多训练n个连接权值,可见,减少竞争层神经元数对减少训练时间是很有意义的。传统的SOM网络竞争层神经元数的确定需要通过大量试验来确定旧,盲目且缺乏理论指导,效果一般不好,难以确定最佳的竞争层神经元数。从SOM网络工作原理可知,竞争层神经元是输入样本特征的—个映射,如果输入数据有||}个特征,则输出层至少需要^个神经元代表这矗个特征。每组输入样本进入网络,都需要—个竞争层神经元赢得此输入样本实例,具有同—特征的输入样本数据分在同—个类别中,则竞争层神经元数至少等于训练数据中的类别数,这是其一。其二,为了避免竞争层初始权向量与输入向量分布不一致造成一些权向量获得过多匹配,而另外一些权向量获得太少的匹配,采用邻域的方法解决。所以,竞争层神经元数应该为样本数据的类别数与邻域之和。该文给出竞争层神经元数的确定方法,可按公式(5)计算。M=C+O.7So+a(5)其中,C为输入样本的类别数(聚类数),Ⅳ0为初始邻域,取为输入样本的类别数,a为修正系数,O<a<C。4.2初始权值的设定SOM网络权向量的初始化是非常重要的,它的取值不仅会影响到嘲络训练的速度,而且还会直接地影响到网络的分类精度。传统的初始权值的确定方法一般是取随机的小数m13】。初始权向量与输入向量越接近,权值调整范围越小,网络学习越快,权值振荡范围越小。在理想情况下,权向量的初始值可按照输入样本的分布来确定,而实际上,很难弄清楚输入样本的分布情况。为了加快网络训练速度,将初始权值设置为各个类的类中心。下面给出相关的定义和公式。设有一个SOM网络,输入层结点数为/1,,竞争层神经元数为m,第z个输入样本向量为∽,孙…,%…,算。l,类别数为{c。,C:,…,c,,…,C,},t为最大类别取值,则第P个类的第i个分量的座标G,,值为:,二%=丁1二互¨,iE{1,2,…,nl(6)

其中,_|}为第P个聚类中的样本个数,i为输入层结点序号。则

初始连接权值可按公式(7)确定。

 万方数据1362009,45(31)ComputerEngineeringandApplications计算机工程与应用

合集下载

神经网络的发展历程与应用

神经网络的发展历程与应用

神经网络的发展历程与应用

神经网络是一种仿生的人工智能技术,它模拟了人类大脑中神经元之间的连接和信息传递方式,具有自学习和适应性强的特点。神经网络的发展历程可以追溯到上世纪50年代,经过了长期的理论研究和应用实践,如今已经成为了人工智能领域中的重要技术之一。本文将从神经网络的发展历程、基本模型、优化算法以及应用领域等方面进行介绍。

一、神经网络的发展历程

神经网络的发展历程可以分为三个阶段,分别是感知机、多层前馈神经网络和深度学习。

1. 感知机

感知机是神经网络的起源,由美国心理学家罗森布拉特于1957年提出。感知机是一种单层神经网络,由若干感知器(Perceptron)组成。每个感知器接收输入信号并进行加权和,然后经过一个阈值函数得到输出。该模型的最大缺点是只能处理线性可分问题,无法解决非线性问题。

2. 多层前馈神经网络

为了克服感知机的局限性,科学家们开始尝试使用多层前馈神经网络来处理非线性问题。多层前馈神经网络由输入层、隐藏层和输出层组成。每个神经元都有一个激活函数,用于将输入信号转换为输出。这种结构可以处理非线性问题,并且可以通过反向传播算法来训练网络参数。多层前馈神经网络在图像识别、语音识别、自然语言处理等领域得到了广泛应用。

3. 深度学习

深度学习是指使用多层神经网络来学习高层次特征表示的一种机器学习方法。深度学习在计算机视觉、自然语言处理等领域有着广泛的应用。其中最著名的就是卷积神经网络(CNN)和循环神经网络(RNN)。卷积神经网络主要用于图像识别和分类问题,循环神经网络主要用于序列预测和语言建模。

二、神经网络的基本模型

神经网络的基本模型可以分为三类,分别是前馈神经网络、反馈神经网络和自组织神经网络。

1. 前馈神经网络

前馈神经网络是指信息只能从输入层到输出层流动的神经网络。其中最常用的是多层前馈神经网络,它由多个隐藏层和一个输出层组成。前馈神经网络的训练主要使用反向传播算法。

基于改进的SOM入侵检测研究

基于改进的SOM入侵检测研究

第12卷第5期 201 1年10月 信息工程大学学报 Journal of Information Engineering University Vo1.12 NO.5 Oct.2011 

基于改进的SOM入侵检测研究 

谭玉琴,李祥和,陈迎春 

(信息工程大学信息工程学院,河南郑州450002) 

摘要:自组织特征映射是一种无监督的神经网络,目前广泛应用于入侵检测中。文章提出了一 

种基于改进的SOM的入侵检测方法,可更有效的处理包含数值型和字符型的输入向量,优化 

了训练中的权值调整策略。最后,使用KDD Cup 99数据集进行实验,结果表明改进的SOM算 

法检测率较高。 

关键词:自组织特征映射;入侵检测系统;聚类 

中图分类号:TP393.8 文献标识码:A 文章编号:1671—0673(2011)O5—0630—04 

Research on Intrusion Detection Based on Improved S0M 

TAN Yu—qin,LI Xiang—he,CHEN Ying—chun 

(Institute of Information Engineering,Information Engineering University,Zhengzhou 450002,China) Abstract:As an unsupervised neutral network,Self-Qrganizing Map(SOM)has been used widely in intrusion detection.This paper proposes an improved SOM for detecting intrusions,which can deal 

with numerical and symbolic data more effectively,with weight adjustment optimized.The KDD Cup 

SOFM网络

SOFM网络

SOFM⽹络

SOFM⽹络及其在MATLAB中的实现

朱福珍吴斌(西南科技⼤学信息⼯程学院,四川绵阳 621002 )

摘要 本⽂详细叙述了⾃组织映射⽹络的原理、算法及其在Matlab中实现的⼯具箱,并结合实例给出了SOFM在Matlab上的实现⽅法,对于SOFM的现存问题和未来研究趋势作了分析和展望。

关键词 ⾃组织;⾃组织特征映射(SOFM); 拓扑结构

中⽂分类号:TP183 ⽂献标识码:A ⽂章编号: SOFM Network and the Realization of SOFM in MatlabZhu Fu-Zhen Wu Bin

(College of Information and Engineering, SWUST,Mianyang,Sichuan,621002,China) Abstract: This paper described theprinciple, the algorithm and the toolbox in Matlab of Self-organizing Feature Map Neural Network detailedly, including aparadigm of SOFM implemented in Matlab, analyzed the problem of SOFM at present and prospected its researching trend inthe future.

Key Words: Self-organization; Self-organizing Feature Map; Topology Structure

引⾔

⼈⼯神经⽹络(Artificial Neural Network,简称ANN)是近年来发展起来的模拟⼈脑⽣物过程的⼈⼯智能技术。它由⼤量简单的神经元⼴泛互连形成复杂的⾮线性系统[1],不需要任何先验公式,就能从已有数据中⾃动地归纳规则,获得这些数据的内在规律,具有很强的⾃学习、⾃组织、⾃适应和⾮线性映射能⼒,特别适合于因果关系复杂的⾮线性推理、判断、识别和分类等问题。

基于自组织特征映射网络的配电网故障类型识别

基于自组织特征映射网络的配电网故障类型识别

《自动化技术与应用》2012年第31卷第9期 模式识别与仿真 Pattern Recognition and Simulation 

基于自组织特征映射网络的配电网故障类型识别 

赵 智.任桂山.陈津刚,陈学梅 

(大港油田公司采油工艺研究院,天津大港300280) 

摘要:针对电力系统配电线路故障类型识别的问题,为提高故障类型识别准确性,提出应用小波变换技术对故障信号进行预处理,提 

取工频信息构成神经网络的训练样本集,通过构建自组织特征映射网络对不同故障类型的特征向量进行自动聚类来实现对敞 

障类型的识别。大量的仿真测试表明,此网络模型收敛速度快,通过自学习能够有效覆盖故障模式空间,实现对不同故障类型 

的准确识别,网络对故障类型的识别不受故障过渡电阻、系统运行方式以及故障点位置等因素的影响。 

关键词:配电网;故障类型识别;小波分析;神经网络 

L}l图分类r- j:TM743:TP391.4 文献标识码:A 文章编号:1003 7241(2012)09…0064 05 

Fault mype Identification in Distribution Network Based on Self_ 

Organizing Feature Map Network 

ZHAO Zhi,REN Gui-shan,CHEN Jin-gang,CHEN Xue-mei 

(Oil Production Technology Institute Dagang Oilfield Company,Dagang 300280 China) 

Abstract:To the problem of identification of distribution line in power system,In order to improve the accuracy of fault identification. 

wavelet transformation technique is used to pretreat the fault signal,eliminate plenty of harmonics and most aperiodic 

基于神经网络危化企业事故预测研究

基于神经网络危化企业事故预测研究

基于神经网络的危化企业事故预测研究

摘要:根据对100家危化企业以往数据统计,确定他们的年安全资金的投入、安全管理人员数量及几年内无事故的数据,进行危化企业事故年限预测。通过自组织特征映射神经网络学习规则,在现有数据的条件下进行训练,得到成熟的神经网络。通过训练后的网络,在年安全资金的投入和安全管理人员数量确定的条件下,可以预测危化企业发生事故的年限。通过本方法可以挖掘数据内隐藏的事故发生归路,为企业的安全管理提供参考意见。

关键词:神经网络;危化企业;事故预测

中图分类号:tp183

人工神经网络(artificial neural network),简称“神经网络”。换句话说,它是基于数学理念所构造出的一个模型,根据人体大脑组织对人体一系列的思维活动进行探索,将人体大脑的讯息接受概念运用到模型当中,所涉及的知识面广阔,包括神经学知识、数学相关知识、以及计算机相关知识在内,因此它是一种新型的跨领域的科学技术[1]。它也能够采取学习的方式汲取外界有效信息,作为知识累积,这与人体大脑功能是十分相近的,因此这一技术已经在诸多领域得到了推广,并得到越发深入的研究[2]。

本文将自组织特征映射神经网络与危化企业事故发生预测相结合,通过已有对100家企业的年安全资金的投入、安全管理人员数量及几年内无事故的数据进行分析。从而训练网络,使其适应危化企业的特征。然后通过对同类企业的相应数据得调查结果,确定企业的可能发生事故的年限。

1自组织特征映射模型的原理

1.1som网络的拓扑结构。在som 网络当中最为显著的特点是能够在进行信息处理的时候,在处理单元阵列上显示出所接受讯息特点的拓扑排列,som网络能够在接受讯号之后将其特点准且地获取出来。通常比较常用的二维阵列模型包括以下几个方面:(1)处理单元阵列,主要负责接收讯息,同时初步给出判断函数式(2)比较选择机制,主要负责将函数式进行逐一的对比,同时确定函数最大值所在的单元(3)局部互连作用,主要负责已决定的单元与周边单元的共同鼓励工作(4)自适应过程,主要负责更改接受鼓励单元的数据,确保它所相对的函数值能够增大[3,4](图1)。

基于神经网络的两种岩性识别方法的研究

基于神经网络的两种岩性识别方法的研究

龙源期刊网

基于神经网络的两种岩性识别方法的研究

作者:赵 杰 李春华

来源:《现代电子技术》2009年第22期

摘 要:利用测井资料实现岩性识别对于储层评价具有重要意义,采用概率神经网络(PNN)和自组织特征映射神经网络(SOM)的模式识别方法,分别建立测井岩性识别模型,并利用该模型对样本进行预测。仿真结果表明,建立的模型用于岩性识别具有预测精度高、易收敛和自动聚类等特点,对于岩性类别的划分是准确和可靠的,为相关领域的研究提供了新方法。

关键词:自组织特征映射神经网络;概率神经网络;岩性识别;预测

中图分类号:TP183

0 引

岩性识别是储层评价的重要工作之一,是求解储层参数的基础。测井在勘探中的作用和地位正在日益提高,测井参数值是地下岩石的矿物成分、结构和孔隙度等的综合反映,是岩性分析的基础资料。对于一组特定的测井参数值,它就必然对应着地层中的某一种或某几种岩性。在分析岩心和测井参数对应特征的基础上,划分岩心的岩石类型,并从各类岩石中读取能够代表岩样的测井参数值,确定岩性与测井参数对应关系。

由于井下地质构造的复杂性和测井参数分布的模糊性,传统的数理统计等方法难以准确地反映测井资料与地层岩性的非线性映射关系,识别精度有限,采用具有聚类功能的人工神经网络——自组织特征映射网络(SOM)和概率神经网络(PNN)完成测井资料的岩性识别。采用神经网络对测井数据进行岩性识别,具有较强的自组织和自适应性,有较高的容错能力。

1

概率神经网络

概率神经网络(Probabilistic Neural Network,PNN)是基于贝叶斯最小风险准则和Parzen窗的概率密度函数方法发展而来的一种并行算法,是径向基函数模型的发展。它直接考虑样本空间的概率特性,以样本空间的典型样本作为隐含层的节点,其网络权值是模式样本的分布。

模糊经验方程和模糊自组织神经网络在航空发动机故障诊断中的应用

第11卷第29期2011年10月 167l一1815(2011)29-7308-05 科学技术与工程 Science Technology and Engineering V01.11 No.29 0ct.2011 ⑥201 1 Sci.Tech.Engng. 

航空航天 

模糊经验方程和模糊自组织神经网络在航空 

发动机故障诊断中的应用 

李飞行王涛符娆 

(中国飞行试验研究院,西安710089) 

摘要探讨了模糊经验方程和模糊自组织神经网络在航空发动机故障诊断中的应用。这两种算法有效结合工程经验,算 法结构简单,易于应用。采用这两种方法分别对某型发动机实际故障进行诊断,结果表明其可有效的应用于发动机故障 诊断。 关键词航空发动机 故障诊断 模糊经验方程 模糊自组织神经网络 中图法分类号V263.6; 文献标志码A 

航空发动机故障诊断技术作为保证飞行安全、 

提高发动机利用率、降低维护使用费用等的主要技 

术途径之一受到广泛重视。该技术近些年来发展 

迅速,新技术新方法不断涌现。目前受到广泛研究 

应用的方法有:基于故障方程的故障诊断、基于规 

则的专家诊断、神经网络等 。 

基于故障方程的故障诊断是一种有效的诊断 

方法,但是其依赖于精确的发动机模型,否则容易 

造成漏判及误判,并且其受制于发动机“可观测性” 

问题,导致其在工程上无法有效使用。基于规则的 

专家诊断一般诊断功能比较简单,很多较为复杂的 

发动机故障模式无法识别。人工神经网络以其独 

特联想、记忆和学习等功能在机械设备故障诊断领 

域受到广泛关注,但传统的神经网络一般收敛速度 

慢,需要大量故障样本进行训练,致使其不能快速 

有效应用于实际工程中 ’ 。 

将“模糊”概念引入航空发动机故障诊断,在保 

留现有诊断方法一些优点的基础上,有效地将工程 

经验融入诊断过程,使诊断更为简单有效 , 。本 

2011年6月14 Et收到,7月26日修改 第一作者简介:李飞行(1978一)男,研究方向:航空发动机结构强 度与振动飞行试验。E-mail:lifxg@yahoo.corn.en。 文介绍的两种诊断方法:模糊经验方程与模糊自组 

SOFM算法

SOFM网络的工作原理是:当网络接受外界输入模式时,将会分为不同的区域,各区域对输入模式具有不同的响应特征。也就是说,特征相近的输入模式靠得比较近,差异大的分得比较远。在各神经元联接权值的调整过程中,最邻近的神经元相互刺激,而较远的神经元则相互抑制,更远一些的则具有较弱的刺激作用。输入层所有神经元通过相互竞争和自适应学习,形成空间上的有序结构,从而实现输入矢量到输出矢量空间的特征映射。SOFM的学习则使网络节点有选择地接受外界刺激模式的不同特性,从而提供了基于检测特性空间活动规律的性能描述。其实,SOFM的学习过程就是在某个学习准则的指导下,逐步优化网络参数的过程。该网络分为输入层和竞争层两层。两层之间实行全互连。它将任意维输入模式在输出层映射成一维或二维离散图形,并保持其拓扑结构不变。在竞争层中,让竞争获胜的那个神经元c的兴奋程度最高,并使其周围VBc的区域内的神经元在不同程度上都得到兴奋,VBc是时间的函数,随着时间的增加,NBc的范围不断的减小,通过图可以直观的看出来。

SOFM的算法流程见图

从上述算法可以看出,网络训练完毕后,各输出单元对应一个权值。在分类过程中,每个分类对象必与其中一个权值的距离最近,把与同一输出单元的权值最近的点作为同一类,并由该输出单元输出,即达到了分类的目的。

SOFM分类算法:步骤1:对图像数据作归一化处理,将各点象素值归一化到区间[0,1]内,由此得到图像X=(x1,x2,„xn),其中xi为图像一点的归一化后的模式.

步骤2:初始化网络连接权值Wj,其中1<=j<=M,M对应竞争层神经元向量元素的个数。

步骤3:选择获胜单元c,dc=jmin||xi-wj||.

步骤4:进行连接权调整

邻域函数一般选用Gaussian函数:NB(t)=exp{-dj,i(x)2)/2σ2}其中dj,i(x)表示邻域中神经元与获胜神经元间的距离,采用Euclid距离计算;σ为邻域的有效半径,随离散时间指数衰减σ(t)=σ(0).exp(-t/τ1),t=0,1,2,∀,j=1,2,…m的初始值,τ1为时间常数,σ(0)是σ(t)的初始值.

1_4295071_神经网络在智能信息处理中的应用

神经网络在智能信息处理方面的研究

湖南工学院 D012 401219 彭枫林 1 第一章 概述

神经网络与智能信息技术处理是当今领衔世界信息技术处理潮流的一门边缘学科。世界主要信息技术大国诸如日.美.德等均不遗余力里在研究这门技术。各国都想通过研究和在这方面的研究的突破在21世纪的信息王国占领一席之地。神经网络是一类新的计算模型,它是模仿人脑神经网络的结构和某些工作机制而建立的一种计算模型。这种计算模型的特点是,利用大量的简单计算单元(即神经元)连成网络,来实现大规模并行计算。神经网络的工作机理是通过学习,改变神经元之间的连接强度。常用的神经计算模型有多层感知机、反传网络、自适应映射网络等。最流行的神经网络学习算法是BP算法(Back-propagation algorithm)。自1986年美国科学家莫克兰迪发表了"Parallel Distributed Processing"论著后,从事人工智能、计算机科学、信息科学的许多科学家对人工神经网络掀起了新的研究热潮。

1.1神经网络产生的背景

人工神经网络(Artificial Neural Networks)理论是在怎样的科学背景下产生的呢?要回答 这个问题,首先要明确什么是“智能”和“智能理论”?虽然到目前为止对“智能”还没有一个统一、确切的定义,但简单说来,智能是指人们认识客观事物并运用知识解决实际问题的能力。它表现为运用知识认识新情况、解决新问题、学习新方法、预见新趋势、创造新思维的能力。智能的高低反映在对客观事物认识的深刻、正确、全面的程度以及运用知识解决实际问题的速度和质量上。有了对 什么是“智能”的解释,就不难推而得知什么是“智能理论”。简言 之,“智能理论”包括两个基本问题:探索人类智能的奥秘(研究人类的认识过程)和运用—从硬件结构上模拟人脑的构成;功能主义——撇开人脑的具体结构,仅从输出输入关 系上构造出与人脑功能相一致的人工智能系统。功能主义成了传统人工智能理论的研究基础人工手段模仿人类的智能行为。在对后一问题的研究上又有两种主导思想:结构主义—。这种理论的核心就是以冯·诺依曼型数字计算机为支持,编制出本领超凡的软件程序,以此达到模拟人脑智能的目的。传统人工智能理论在求解高精度计算问题以及过程模拟、过程控制等方面取得了巨大的成功。但是,这种理论也遇到了许多它无法克服的问题,对此读者可从本书第一章结论中详细了解到。与传统的人工智能理论相对应,以结构主义为主导思想,从分析人脑神经网络的微观结构上入手,抓住人脑结构的主要特征,即大量相对简单的非线性神经元之间复杂而又灵活的联接 关系,深刻揭示人脑认识过程的结构作用的研究——人工神经网络理论研究,成为人工智能理论研究的一大分支。正如本书始终贯穿的一个思想,人工智能理论研究的这两大分支,不是相互替代、相互对立的关系,而是相辅相成、相互补充的关系。它们有着共同的研究基础,这就是对信息的处理;所不同的只是处理方法上的差别。 对于人工神经网络理论的研究,从80年代开始获得蓬勃发 展,但人类对这一理论的探索可追溯到1943年,法国心理学家 McCulloch和数学家Pitts合作提出的神经元数学模型,即著名的 M-P模型。这一模型的提出,开创了人工神经网络这一新兴边缘 学科研究的先河。在这之后,有关研究异常活跃,一系列关于神经元及神经网络的模型、计算方法被提出来,并引起学术界的极大兴趣。

自组织特征映射网络隐含的分形机制

第23卷第5期 2007年1O月 天津理工大学学报 JOURNAL OF TIANJIN UNIVERSITY OF TECHNOLOGY V01.23 No.5 Oct.2007 文章编号:1673—095X(2007)05-0OO4-05 

自组织特征映射网络隐含的分形机制 

周金峰,柴立和 (天津大学环境科学与工程学院,天津300072) 摘要:自组织特征映射网络(Self—organizing map,SOM)在聚类分析中具有广泛的应用,和其他神经网络一样, SOM网络具有黑箱性质,缺乏严格的理论基础,无法对聚类过程进行分析.结合复杂系统分形生长的最大流原理,本 文从统计物理角度对SOM网络的自组织过程进行分析,将SOM网络隐含的分形机制挖掘出来,并以城市模式为例 展示了建立在统计物理基础上的SOM网络的新的应用. 关键词:神经网络;自组织;分形;最大流原理;城市模式 中图分类号:TP183;17290 文献标识码:A 

Fractal mechanism of self-organizing map ZHOU Jin—feng,CHAI Li—he (School of Environmental Science and Englneering,Tianjin University,Tianjin 300072,China) Abstract:Self-organizing map(SOM)is a powerful neural network method for the analysis of hish-dimensional data,espe- cially for clustering data without knowing the class memberships of the input data.However,lacking of rigorous theoretic ba・ sis badly restrict its application on analysis of self-organizing process.Based on maximum flux principle,an attempt to build a statistical mechanical basis for SOM is made.Fractal mechanism hidden in SOM is revealed with an example of urhan sys- tern analyzed. Key words:neural network;self-organizing;fractal;maximum flux principle;urban pattern 

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
相关文档
最新文档