06第六章___自组织特征映射

1第6章 自组织特征映射

本章介绍Kohonen的自组织特征映射(Self-Organizing Feature Mapping,简称SOFM)

[Koho1984]。自组织特征映射是一种竞争学习网络,可以通过神经元之间的竞争实现大

脑神经系统中的“近兴奋远抑制”功能,并具有把高维输入映射到低维的能力(拓扑保

形特性)。我们先介绍生物系统中的竞争现象,然后介绍SOFM的网络结构和学习算法,

最后通过仿真例子演示SOFM的拓扑保形特性。

6.1 生物系统中的竞争

在第4章介绍RBF网的生理学基础时,我们曾提到,某些视觉神经细胞在视网膜上

有特定的感受野,并具有近兴奋远抑制(on-center off-surround)功能,因此我们用径

向基函数建模这样的近兴奋远抑制神经元。在本章,我们从神经元之间互相竞争的角度

再来看这一现象。

生物神经网络的研究发现,大脑皮层中,神经元是呈2维空间排列的,而且邻近神

经元之间通过侧反馈的方式紧密互联。因此每个神经元既有外部区域的输入信号,也有

来自同一区域其它神经元的反馈输入信号。而邻近神经元之间侧反馈信号的强度体现为

这些神经元之间的连接强度,因此而这些连接权值的分布也体现出明显的“近兴奋远抑

制”现象。更具体的说,以某个激活的神经元为圆心,邻近其它神经元根据与该神经元

的距离,与之的连接权值呈三个区域的分布:对较邻近的神经元呈强的兴奋性侧反馈;

对远邻的神经元呈抑制性侧反馈;对更远的神经元又呈弱的兴奋性侧反馈。通常情况下,

可以不考虑第三区的弱侧反馈。

这里所说的邻近神经元,在大脑皮层中是指以某兴奋神经元为圆心.半径约为50-

500µm左右的其它神经元,而远邻神经元是指半径为200µm-2mm左右的神经元。

(a) (b)

图6.1 生物神经元中的“近兴奋远抑制”

另外,神经元之间连接强度从增强到抑制的过渡是平滑的,因此相邻神经元连接强

2度的分布呈“墨西哥帽”式分布,如图6.1(a)所示。图6.2(b)所示为“墨西哥帽”

式分布在二维神经元空间的演示。图中j

为兴奋神经元,神经元标“+”号表示该神经

元接受兴奋性侧反馈信号,“-”号表示接受抑制性侧反馈信号。

大脑神经元正是通过上述侧反馈及其它协同作用,从而识别外界信号。如果在人工

神经网络中也以2维空间组织神经元,且邻近神经元之间也通过侧向交互作用产生竞争

过程,则也能自适应地形成了针对特殊信息的组织结构。于是,神经网格的这种自组织

过程和行为,就可以用于检测各种不同信息模式。

6.2 SOFM结构

如果在学习过程中逐步缩小神经元之间的作用邻域,并用hebb学习规则增强中心神

经元的激活程度,则去掉各神经元之间的侧向连接也能得到“近兴奋远抑制”的效果。

这就是Kohonen的自组织特征映射(SOFM)的思路。

图6.2为二维自组织特征映射的连接图,可见SOFM网络可以将任意的多维输入信

号变换到二维离散网格上。图中的两维离散网格即为网络的输出层,SOFM的所有计算

节点都在这一层。离散网格中的每个神经元都与输入层中的所有输入相连,这些神经元

排成行和列的形式。图6.2中输入为3维,输出为2维,离散网格中共有5行4列共20

个神经元。

应该指出,一维自组织特征映射是二维情况的一个特例。

图6.2 二维SOFM网络

自组织特征映射的每个输入模式均对应于二维网格上的一个局部化区域,而且随着

输入模式的不同,该区域的位置和性质也各不相同。因此,必须有充分数量的输入模式,

才能保证网格中所有的神经元都受到训练,并确保自组织过程的正确收敛。

SOFM的一个重要特点是具有拓扑保形特性,即最终形成的以输出权矢量所描述的

特征映射能反映输入的模式的分布。

36.3 SOFM的学习算法

算法应首先对权值进行初始。类似于BP网,SOFM的初始权值常取小的随机数。

权值初始化后,SOFM还应完成两个基本过程:竞争过程和合作过程。竞争过程就是最

优匹配神经元的选择过程,合作过程则是网络中权系数的自组织过程。选择最优匹配神

经元实质是选择输入模式对应的中心神经元,权系数的自组织过程则是以“墨西哥帽”

的形态来使输入模式得以存放。这两部分是密切相关的,它们共同作用才能完成自组织

特征映射的学习过程。

每执行一次学习,SOFM网络中就会对外部输入模式执行一次自组织适应过程,其

结果是强化现行模式的映射形态,弱化以往模式的映射形态。下面分别对自组织特征映

射SOFM的学习算法两个过程进行介绍。

(1) 竞争过程

假定从输入空间随机选取的输入模式为[]

T

nxxx,,,

21L=x

,自组织特征映射的输

出层神经元j

的对应的权系数向量为[]

T

jnjjwww,,,

21L=

jw

,lj,,2,1L=

,其中l

输出神经元数目。

竞争过程的主要目的是寻找与输入模式匹配的最佳权矢量,从而确定与输入模式最

优匹配的神经元,即竞争获胜的神经元。输入模式x

和权系数

jw

的匹配程度可用两者

的内积表示,即

jwxT

。内积最大处正是与输入模式均对应的二维网格上的一个局部化

区域的中心。由于内积

jwxT

最大等价于向量x

jw

之间的距离

jwx−

最小,因此

可根据该最小矩离准则确定最优匹配的神经元i

,即寻找满足下式的神经元:

()

jwxx−=

jiminarg

,lj,,2,1L=

(6.1)

该式子即匹配规则。

上面式子说明:局部化区域的中心就是神经元()

xi

,该神经元的权系数向量

iw

输入模式x

产生最优匹配。

(2) 合作过程

根据匹配规则求出最优匹配的神经元i

后,接着就应考虑神经元i

的邻域神经元的权

系数的自组织过程。这是因为虽然

iw

是求出的对输入模式x

的最优匹配;但

iw

仍然不

足以充分表示x

,故还应对权向量

iw

进行自组织学习。

如前所述,SOFM的基本思想是去掉各神经元之间的侧向连接,并在学习过程中逐

4步缩小最优匹配的神经元i

所作用的领域,然后用hebb学习规则增强中心神经元的激活

程度,以达到“近兴奋远抑制”的效果。因此必须在自组织过程中引入一个领域函数

ij,Λ

其中i

为最优匹配神经元,j

为其邻近神经元。该邻域函数应该是学习时间n

的函数,

典型的领域函数可选用Gaussian函数:

()

()







−=Λ

22

,

,

2exp

nd

nij

ij

σ,L,2,1,0=n

(6.2)

上式中2

2

,ijijrrd−=

,其中

ir

jr

表示神经元i

和j

在二维网格中的离散位置,参数

()

则是Gaussian函数的有效宽度。()

应随着学习时间的增加逐步衰减,比如说可

采用指数衰减形式:

()









−=

10exp

τσσn

n

,L,2,1,0=n

(6.3)

其中

为()

的初始值,

为指数衰减时间常数。

图6.3显示了在Gaussian邻域函数作用下四个不同学习时刻

4321tttt<<<

最佳匹

配神经元i

的邻域变化情况。一般情况下,开始时()

n

ij,Λ

较大,随着学习的进行,()

n

ij,Λ缩小到只包含最佳匹配神经元i

邻近的1-2个神经元。

图6.3 最佳匹配神经元在不同学习时刻的领域

邻域函数确定后,最后应考虑对邻域内神经元j

的权值

jw

进行修正。由于直接使用

Hebb学习规则将导致权值朝着一个方向发展(一直增加或减小),最终导致系统不稳定,

因此可考虑增加一个权值的“遗忘”项()

jw

jyg

,其中

jy

为神经元j

的输出。于是神经

元j

权系数的调整公式如下:

5 ()()

jjwx∆w

jjygyn−=η

(6.4)

其中()

为时变的学习率,x

为输入模式。()

可取为

()









−=

20exp

τηηn

n

,L,2,1,0=n

(6.5)

其中

为()

的初始值,

为指数衰减时间常数。

为简单起见,如果令()

jyg

jy

分别为

()

()

jjynygη=

(6.6)

()

ny

ijj,Λ=

(6.7)

于是神经元j

权系数的调整公式简化为

()()()()()()

nnnnn

ijjjjwxww−Λ+=+

,1η

(6.8)

综上所述,SOFM的学习算法如下:

(1)权值初始化:可令各权矢量

jw

,lj,,2,1L=

,初始值取小的各不相同的随机数,

或干脆随机选择样本输入作为初始权值。令叠代次数1=n

(2)在样本集中随机选择一个模式x

作为SOFM的输入;

(3)在时刻n

,根据下式的最小欧氏距离准则选择x

的最佳匹配神经元i

(竞争过程):

()

jwxx−=

jiminarg

,lj,,2,1L=

(4)根据下式确定邻域函数(合作过程):()

()







−=Λ

22

,

,

2exp

nd

nij

ij

σ,其中

2

2

,ijijrrd−=

,()









−=

10exp

τσσn

n

(5)令学习率为()









−=

20exp

τηηn

n

,然后按下式对邻域内的所有神经元进行权值修

正:()()()()()()

nnnnn

ijjjjwxww−Λ+=+

,1η

(6)如果已形成稳定的特征映射,则结束学习;否则令1+=nn

,转(2)。

合集下载

基于遗传算法优化的SOFM神经网络生成测试数据集的方法

基于遗传算法优化的SOFM神经网络生成测试数据集的方法

基于遗传算法优化的SOFM神经网络生成测试数据集的方法

在当今科技飞速发展的时代,数据已成为驱动创新的重要燃料。然而,高质量的测试数据集往往难以获取,尤其是在机器学习和人工智能领域。传统的数据集生成方法往往存在效率低下、质量参差不齐等问题。因此,寻找一种高效且可靠的数据集生成方法显得尤为重要。本文将探讨一种基于遗传算法优化的自组织特征映射(SOFM)神经网络生成测试数据集的新方法。

首先,让我们来理解一下SOFM神经网络。SOFM神经网络是一种无监督学习的神经网络模型,它能够将高维数据映射到低维空间,同时保持数据的内在结构。这种特性使得SOFM神经网络在数据可视化、聚类分析等领域有着广泛的应用。然而,SOFM神经网络的训练过程往往需要大量的计算资源和时间,这在一定程度上限制了其在大规模数据集生成中的应用。

为了解决这一问题,我们可以引入遗传算法来优化SOFM神经网络的训练过程。遗传算法是一种模拟自然选择和遗传机制的全局优化算法,它具有并行性、鲁棒性和自适应性等特点。通过将遗传算法与SOFM神经网络相结合,我们可以在训练过程中自动调整网络参数,从而提高训练效率和数据质量。

具体来说,我们可以将SOFM神经网络的权重矩阵作为遗传算法的个体编码,通过交叉、变异等操作产生新的个体,并根据适应度函数评估个体的优劣。适应度函数可以根据数据集的质量指标(如聚类精度、信息熵等)来设计。通过多代进化,我们可以找到一组最优的网络参数,从而生成高质量的测试数据集。

这种基于遗传算法优化的SOFM神经网络生成测试数据集的方法具有以下优势:

1. 高效性:通过遗传算法自动调整网络参数,可以大大减少人工调参的时间和精力,提高训练效率。

2. 可靠性:遗传算法具有较强的全局搜索能力,可以避免陷入局部最优解,从而提高数据集的质量。

3. 可扩展性:该方法可以应用于各种规模的数据集生成任务,只需调整遗传算法的参数即可。

当然,这种方法也存在一定的局限性。例如,遗传算法的收敛速度可能受到种群规模、交叉概率等参数的影响;此外,对于某些特定的数据集分布,SOFM神经网络可能无法很好地捕捉其内在结构。因此,在实际使用中,我们需要根据具体问题进行参数调整和模型选择。

基于动态免疫网络的聚类算法

基于动态免疫网络的聚类算法

2011年第5期 福建 电脑 基于动态免疫网络的聚类算法 樊龙军 ,李艳 ,吴磊。,陈鹏 (1、成都轨道交通有限公司四川成都610031 2、成都地铁运营有限公司四川成都610081 3、电子科技大学计算杌科学与技术学院四川成都610054) 【摘 要】:提出了一种用于聚类分析的进化免疫网络算法,借鉴自组织映射原理改进网络拓扑进化机 制,利用改进的免疫机制控制抗体数量,提高抗原聚类效果。此外,使用核方法提高聚类质量,使用核代入为 原输入空间导出一类不同于欧氏距离的新的距离度量,训练过程仍在原空间中进行。实验结果表明了算法 的可行性和有效性。 【关键词】:免疫网络;聚类算法;Mercer核;自组织映射 1、引言 聚类分析是一种无监督的学习方法.根据输入样本 数据之间的相似性度量,将样本自动分类。在传统的聚 类方法中【2].基于目标函数的聚类算法把聚类问题归结 为一个优化问题,例如:K一均值聚类[1I3I ̄、模糊C一均值 聚类[416]等。但是这些方法要求聚类类别数和聚类原型 的先验知识。同时.对于优化聚类目标匾数的算法,一 般都采用梯度法求解.这样使得算法很容易陷入局部 极小值。对初始化敏感是基于目标函数的聚类算法的 又一严重缺点。为了解决局部极值问题.研究者提出了 基于GA的聚类方法17].尽管该方法能以高概率收敛到 全局最优点。但收敛速度慢,而且易出现早熟现象。针 对类别数未知的问题.William等提出采用自组织映射 (self—organization leature mapping,SOFM)神经网络进 行聚类网.虽然能解决预先设定类数问题。但却无法解 决多类原型的数据分析。 近年来。随着人工免疫系统方法的兴起,人们又提 出了利用人工免疫网络来进行聚类分析[12q4].实现了无 监督分类.同时解决了GA算法的早熟问题.但该方法 同样仅适合各样本子集边界清晰的情况.若各子集间 交集为非空,或存在噪音时。这些样本作为抗原.能够 极大的激活免疫网络.引起抗体分泌,使网络结构不再 清晰。从而不能正确的聚类。 本文基于独特性免疫网络理论.结合自组织特征 映射原理。提出了一种动态免疫网络聚类算法,该算法 强调免疫网络拓扑结构对免疫记忆,抗体竞争.免疫耐 受.克隆变异等免疫机制的影响.利用自组织特征映射 原理,改进克隆变异算子。引入抗体合作机制。仿真实 验结果表明.该算法的聚类性能明显优于传统的聚类 算法和aiNett ̄3t免疫网络算法。本文第2节介绍了我们 的免疫网络算法中用到的一些基本概念和主要机制, 第3节介绍了我们提出的免疫网络聚类算法。分析了 基金项目:四川省科技支撑计划项目(2oo9zooo4) 算法的关键操作和过程。第4节是仿真实验及结果比 较,第5节是结论。 2、基本概念与主要机制 2.1 SOM网络 自组织特征的映射(self-organizing feature maps,简 称SOM),根据样本的内在联系,能够对样本自动进行 聚类。设网络输入模式为X=[x,'x:,...,x ]‘,M为输入样本 的维数。SOM权值为wj=[wj1,w_2'…,wj ] ,j=1,2,...,l,l为总 的神经元个数。SOM算法的核心步骤为: Step1:选择具有最小距离的节点i作为获胜节点: di=minllX-w ̄ll,j=1,2,...,l (1) Step2:调整输出节点及其几何邻域内的节点所连 接的权值: w,(,l十1)=w,(n)+,7(,2)^,,,(n)( —wf(,z)) (2) 易见.SOM学习算法在对竞争获胜的神经元及其 邻域的调整时。依赖于欧式距离IIX—w;}l。当样本在输入 空间中分布不规则或呈高度线性不可分时.SOM网络 聚类效果差。且对噪声和野值点极为敏感。 2.2重要的免疫概念 免疫网络理论是由Jeme在1974年最先提出的. Leandro根据Jerne的免疫网络理论,在2000年提出一 种人工免疫进化网络f Evolutionary Artificial Immune Network)tna.在我们的网络模型中.假设抗原集AG={agl ag∈S)是待分析数据集,其中agI-[ag ag ,…,ag.唧]‘表示 第i个样本的m个特征值,ag:表示形态空间S 中的一个 点,将这个点作为抗原;设抗体集AB={ablab∈S1;基于 Mercer核函数,定义非线性映射‘P:x一‘P(x)∈F,其中 X∈R,R为样本集,F为特征空间。设P∈AB,q∈AB U 

基于SOFM网络的聚类分析

基于SOFM网络的聚类分析

第27卷 

VO1.27 第5期 

NO.5 计算机工程与设计 

Computer Engineering and Design 2006年3月 

Mar.2006 

基于SOFM网络的聚类分析 

倪步喜, 章丽芙, 姚敏 

(浙江大学计算机科学与技术学院,浙江杭州310028) 

摘要:基于自组织特征映射网络的聚类分析,是在神经网络基础上发展起来的一种新的非监督聚类方法,分析了基于自 

组织特征映射网络聚类的学习过程,分析了权系数自组织过程中邻域函数和学习步长的一般取值问题,给出了基于自组织 

特征映射网络聚类实现的具体算法,并通过实际示例测试,证实了算法的正确性。 

关键词:数据挖掘:聚类:自组织特征映射;神经网络 

中图法分类号:TP391.4;TP311 文献标识码:A 文章编号:1000—7024(2006)05-0855-02 

Clustering analysis based on SOFM network 

NI Bu.xi. ZHANG Li.fIl,YAO Min 

(College ofComputer Science and Technology,Zhejiang University,Hangzhou 3 10028,China) 

Abstract:Clustering analysis based on self-organizing feature maps(SOFM)network is a new unsupervised clustering method that de- 

velops from neural networks.The learning process ofclustering based on SOFM network was discussed.The problem ofneighbor function 

and learning step’S value in the process ofweight coefficient self-organizing were analyzed.The specific algorithm to implement clustering 

基于神经网络的两种岩性识别方法的研究

基于神经网络的两种岩性识别方法的研究

龙源期刊网

基于神经网络的两种岩性识别方法的研究

作者:赵 杰 李春华

来源:《现代电子技术》2009年第22期

摘 要:利用测井资料实现岩性识别对于储层评价具有重要意义,采用概率神经网络(PNN)和自组织特征映射神经网络(SOM)的模式识别方法,分别建立测井岩性识别模型,并利用该模型对样本进行预测。仿真结果表明,建立的模型用于岩性识别具有预测精度高、易收敛和自动聚类等特点,对于岩性类别的划分是准确和可靠的,为相关领域的研究提供了新方法。

关键词:自组织特征映射神经网络;概率神经网络;岩性识别;预测

中图分类号:TP183

0 引

岩性识别是储层评价的重要工作之一,是求解储层参数的基础。测井在勘探中的作用和地位正在日益提高,测井参数值是地下岩石的矿物成分、结构和孔隙度等的综合反映,是岩性分析的基础资料。对于一组特定的测井参数值,它就必然对应着地层中的某一种或某几种岩性。在分析岩心和测井参数对应特征的基础上,划分岩心的岩石类型,并从各类岩石中读取能够代表岩样的测井参数值,确定岩性与测井参数对应关系。

由于井下地质构造的复杂性和测井参数分布的模糊性,传统的数理统计等方法难以准确地反映测井资料与地层岩性的非线性映射关系,识别精度有限,采用具有聚类功能的人工神经网络——自组织特征映射网络(SOM)和概率神经网络(PNN)完成测井资料的岩性识别。采用神经网络对测井数据进行岩性识别,具有较强的自组织和自适应性,有较高的容错能力。

1

概率神经网络

概率神经网络(Probabilistic Neural Network,PNN)是基于贝叶斯最小风险准则和Parzen窗的概率密度函数方法发展而来的一种并行算法,是径向基函数模型的发展。它直接考虑样本空间的概率特性,以样本空间的典型样本作为隐含层的节点,其网络权值是模式样本的分布。

测井识别岩性的新方法:自组织神经网络法

测井识别岩性的新方法:自组织神经网络法

2006年11月 江汉石油职工大学学报 

Journal of Jianghan Petroleum University of Staff and Workers 第19卷第6期 

测井识别岩性的新方法:自组织神经网络法 

贺新蔚 ,杜飙 ,王建伟。,马火林 

(1.中国地质大学(北京),北京100083 ̄2.中国石化集团江汉石油管理局测录井工程公司,湖北潜江433123; 3.中国石化塔里木油田分公司勘探开发研究院,新疆库尔勒841000) 

[摘要]利用自组织神经网络对测井数据进行岩性识别,具有较强的自组织性、适应性和较高的容错能力,与其他 神经网络算法相比,计算量小、收效速度快。实验结果表明:自组织特征映射神经网络对测井数据进行岩性识别是可 行的,而且识别率较高,是一种行之有效的岩性识别的好方法。 [关键词] 测井资料;神经网络;岩性识别;模式识别 [中图分类号]TE357.8[文献标识码]B[文章编号] 1o09—301X(2o06)06一o054—02 

利用测井资料识别岩性是一种特殊的模式识别问 题。传统的岩性识别技术主要基于交会图技术和统计学 理论,如主成分分析、聚类分析等。近年来人工神经网络 方法如反向传播算法等应用于岩性识别,取得了一定的 效果[1]。本文利用自组织神经网络对测井数据进行岩性 识别,该方法具有较强的自组织性、自适应性,有较高的 容错能力,与其他神经网络算法相比较,计算量小,收效 速度快,且不需要已知的先验信息而自动确定分类。 1基本原理 1984年, Kohonen提出了著名的自组织特征映 射人工神经网络,认为一个神经网络接受外界刺激时将 分为不同的区域,各区域对输入模式有不同的响应特征, 同时,这一过程是自动完成的[2]。 自组织神经网络是一种无监督的聚类网络,它所形 成的聚类中心能够映射到一个平面或曲面上而保持拓 朴结构不变,可以对目标的固有特征作出客观的划 分[3-4]。自组织神经网络的结构如图1所示。 

模式识别

模式识别

模式识别

[填空题]

1模式识别系统的基本构成单元包括()()()

参考答案:模式采集;特征选择与提取;模式分类

[填空题]

2统计模式识别中描述模式的方法一般使用();句法模式识别中模式描述方法一般有()、()、()。

参考答案:特征矢量;串;树;网

[填空题]

3影响层次聚类算法结果的主要因素有()()()()

参考答案:计算模式距离的测度;聚类准则;类间距离门限;预定的类别数目

[填空题]

4线性判别函数的正负和数值大小的几何意义是()()

参考答案:正(负)表示样本点位于判别界面法向量指向的正(负)半空间中;绝对值正比于样本点到判别界面的距离

[填空题]

5感知器算法适用于()的情况

参考答案:线性可分

[填空题]

6在统计模式分类问题中,聂曼-皮尔逊判决准则主要用于()情况;最小最大判别准则主要用于()情况。

参考答案:某一种判决错误较另一种判决错误更为重 要;先验概率未知的

[多项选择题]

7、影响聚类算法结果的主要因素有()。

A. 已知类别的样本质量

B. 分类准则

C. 特征选取 D. 模式相似性测度

参考答案:B,C,D

[多项选择题]

8、影响基本K-均值算法的主要因素有()。

A. 样本输入顺序

B. 模式相似性测度

C. 聚类准则

D. 初始类中心的选取

参考答案:A,B,D

[多项选择题]

9、在统计模式分类问题中,当先验概率未知时,可以使用()。

A. 最小损失准则

B. 最小最大损失准则

C. 最小误判概率准则

D. N-P判决

参考答案:B,D

[单项选择题]

10、散度是根据()构造的可分性判据。

A. 先验概率

B. 后验概率

C. 类概率密度

D. 信息熵

E. 几何距离

参考答案:C

[多项选择题]

11、如果以特征向量的相关系数作为模式相似性测度,则影响聚类算法结果的主要因素有()。

A.已知类别样本质量

B.分类准则

C.特征选取

D.量纲

自组织特征映射网的应用

基于自组织特征映射网的灰度图像二值化方法

摘要:

基于自组织特征映射网的灰度图二值化方法,所采用的自组织特征映射网络输入层只含有一个节点,其输入z为图像像素灰度值。输出层是两个节点组成的一维阵列,输出Y=[y1,y2]=[0,255],由于输出层只有两个节点,所以网络的训练算法中不需考虑侧反馈。

关键词:SOFM,自组织特征映射网,灰度图像,二值化

一、 SOFM 网络结构和原理

 SOFM网络结构

自组织特征映射(SOFM)神经网络是芬兰神经网络专家Kohonen于1981年提出的,该网络的出发点是模拟大脑皮层中具有自组织特征的神经信号传送过程,属于无导师学习的竞争型神经网络。其网络结构如图1所示,由输入层和竞争层组成,输入层由N个神经元组成,竞争层由M个输出神经元组成,且形成一个二维阵列。输入层与竞争层各神经元之间实现全互连接,竞争层之间实行侧向连接。网络根据其学习规则,对输入模式进行自动分类,即在无导师情况下,通过对输入模式的自组织。学习,抽取各个输入模式的特征,在竞争层将分类结果表示出来。

图1

 SOFM 的基本原理

SOFM 的基本原理是:当某类模式输入时,输出层某节点得到最大刺激而获胜,获胜节点周围的节点因侧向作用也受到刺激。这时网络进行一次学习操作,获胜节点及周围节点的连接权值向量朝输入模式的方向作相应的修正。当输入模式类别发生变化时,二维平面上的获胜节点也从原来节点转移到其它节点。这样,网络通过自组织方式用大量样本数据来调整其连接权值,最后使得网络输出层特征图能够反映样本数据的分布情况。

SOFM网络的主要特性为:1)自组织排序性质,即拓扑保持能力;2)自组织概率分布性质;3)以若干神经元同时反映分类结果,具有容错性;4)具有自联想功能。SOFM网络的主要功能是实现数据压缩、编码和聚类,实际应用包括:模式识别、过程和系统分析、机器人、通信、数据挖掘以及知识发现等。

二、 基于SOFM的图像二值化方法

基于神经网络的全自动模式识别跟踪系统

第32卷 

VbL32 第l3期 

№l3 计算机工程 

Computer Engineering 2006年7月 

July 2006 

・人工智能及识别技术・ 文章-号z looo__ 28(2o06)l3一_o20 一_03 文-标识码 A— ■ 

基于神经网络的全自动模式识别跟踪系统 

赵彦彬,陈新 ・ 

(福州大学信息与通信工程系,福州350002) 

囊要:建立了一个基于神经网络的全自动模式识男Ⅱ跟踪系统。通过MOD算法提取出各个运动目标的特征向量后,利用神经网络对各个 

目标自动进行模式分类。文中同时给出了在复杂背景下多个运动目标自动跟踪与识别的实验结果。 关t诃:神经网络;MOD;特征提取;自组织特征映射;B-P网络 

A Full-automatic Pattern Recognizing and Tracing System 

Based on Neural Network 

ZHAOYanbin,CHENXin 

(Department of Information and Communication Engineering,Fuzhou University,Fuzhou 350002) 

[Abstractl This paper describes a full—automatic pattern recognizing and tracing system based on neural network.After picking up their vectors by 

the MOD arithmetic,it classifies the patterns of the mobile objects according to neural network theory.The paper meanwhile gives the experimental result of auto recognizing and tracing process for multi—objects moving under complicated background. [Key wordsl Neural network;Moving object detector;Picking up characters;SOFM;B-P net 

SOFM算法

SOFM网络的工作原理是:当网络接受外界输入模式时,将会分为不同的区域,各区域对输入模式具有不同的响应特征。也就是说,特征相近的输入模式靠得比较近,差异大的分得比较远。在各神经元联接权值的调整过程中,最邻近的神经元相互刺激,而较远的神经元则相互抑制,更远一些的则具有较弱的刺激作用。输入层所有神经元通过相互竞争和自适应学习,形成空间上的有序结构,从而实现输入矢量到输出矢量空间的特征映射。SOFM的学习则使网络节点有选择地接受外界刺激模式的不同特性,从而提供了基于检测特性空间活动规律的性能描述。其实,SOFM的学习过程就是在某个学习准则的指导下,逐步优化网络参数的过程。该网络分为输入层和竞争层两层。两层之间实行全互连。它将任意维输入模式在输出层映射成一维或二维离散图形,并保持其拓扑结构不变。在竞争层中,让竞争获胜的那个神经元c的兴奋程度最高,并使其周围VBc的区域内的神经元在不同程度上都得到兴奋,VBc是时间的函数,随着时间的增加,NBc的范围不断的减小,通过图可以直观的看出来。

SOFM的算法流程见图

从上述算法可以看出,网络训练完毕后,各输出单元对应一个权值。在分类过程中,每个分类对象必与其中一个权值的距离最近,把与同一输出单元的权值最近的点作为同一类,并由该输出单元输出,即达到了分类的目的。

SOFM分类算法:步骤1:对图像数据作归一化处理,将各点象素值归一化到区间[0,1]内,由此得到图像X=(x1,x2,„xn),其中xi为图像一点的归一化后的模式.

步骤2:初始化网络连接权值Wj,其中1<=j<=M,M对应竞争层神经元向量元素的个数。

步骤3:选择获胜单元c,dc=jmin||xi-wj||.

步骤4:进行连接权调整

邻域函数一般选用Gaussian函数:NB(t)=exp{-dj,i(x)2)/2σ2}其中dj,i(x)表示邻域中神经元与获胜神经元间的距离,采用Euclid距离计算;σ为邻域的有效半径,随离散时间指数衰减σ(t)=σ(0).exp(-t/τ1),t=0,1,2,∀,j=1,2,…m的初始值,τ1为时间常数,σ(0)是σ(t)的初始值.

SOM自组织特征映射神经网络

SOM⾃组织特征映射神经⽹络

参考:

⽣物学研究表明,在⼈脑的感觉通道上,神经元的组织原理是有序排列的。当外界的特定时空信息输⼊时,⼤脑⽪层的特定区域兴奋,

⽽且类似的外界信息在对应的区域是连续映像的。⽣物视⽹膜中有许多特定的细胞对特定的图形⽐较敏感,当视⽹膜中有若⼲个接收单元同

时受特定模式刺激时,就使⼤脑⽪层中的特定神经元开始兴奋,输⼊模式接近,与之对应的兴奋神经元也接近;在听觉通道上,神经元在结

构排列上与频率的关系⼗分密切,对于某个频率,特定的神经元具有最⼤的响应,位置相邻的神经元具有相近的频率特征,⽽远离的神经元

具有的频率特征差别也较⼤。⼤脑⽪层中神经元的这种响应特点不是先天安排好的,⽽是通过后天的学习⾃组织形成的。

据此芬兰Helsinki⼤学的Kohonen T.教授提出了⼀种⾃组织特征映射⽹络(Self-organizing feature Map,SOM),⼜称Kohonen⽹络[1-

5]。Kohonen认为,⼀个神经⽹络接受外界输⼊模式时,将会分为不同的对应区域,各区域对输⼊模式有不同的响应特征,⽽这个过程是⾃

动完成的。SOM⽹络正是根据这⼀看法提出的,其特点与⼈脑的⾃组织特性相类似。

⼀、竞争学习算法基础:

1、⾃组织神经⽹络结构

(1)定义

⾃组织神经⽹络是⽆导师学习⽹络。它通过⾃动寻找样本中的内在规律和本质属性,⾃组织、⾃适应地改变⽹络参数与结构。

(2)结构

层次型结构,具有竞争层。典型结构:输⼊层+竞争层。如图1所⽰。

a. 输⼊层:接受外界信息,将输⼊模式向竞争层传递,起“观察”作⽤。

b.竞争层:负责对输⼊模式进⾏“分析⽐较”,寻找规律,并归类。

⼆、⾃组织神经⽹络的原理

1.分类与输⼊模式的相似性

分类是在类别知识等导师信号的指导下,将待识别的输⼊模式分配到各⾃的模式类中,⽆导师指导的分类称为聚类,聚类的⽬的是将相

似的模式样本划归⼀类,⽽将不相似的分离开来,实现模式样本的类内相似性和类间分离性。由于⽆导师学习的训练样本中不含期望输出,

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
相关文档
最新文档