自组织特征映射网的应用
基于核的双自组织特征映射网络在预测中的应用
（ｃｏ ｌ ｆ ｎｏｍａ ｏ ｎ ｉｅｒ ｇ ｏ ｔ ｒ ａｇｚ ｉ ｒ ｔ Ｓｈ ｏ ｆｒ ｔ ｎ ｇｎｅ ｎ ，Ｓ ｕｈ ｎ ｎ ｔ Ｕｎ ｅｓｙ ｏＩ ｉ Ｅ ｉ ｅ Ｙ ｅ ｖ ｉ ，Ｗｕ ｉ ２ ｈ ａ ｘ １ １ ，Ｃ ｉ ） ２ ４２ ｎ
维普资讯
第２ 卷 ９
ＶＯ ． ９ １２
第９ 期
Ｎ Ｏ． ９
计 算 机 工 程 与 设 计
Ｃｏ ｍｐ ｔｒＥｎ ｉ ｅ ｒｎ ｎ ｓｇ ｕ ｅ ｇ ｎ ｅ ｇ ａ ｄ Ｄｅ ｉ ｎ ｉ
２０ 年 ５ ０８ 月
Ｍａ ０ ８ ｙ２ ０
Ａｂ ｔ ａ ｔ Ａｎ ｉ ｒ ｖ ｄ ｔ ｎ ｅ ＯＭ ａ ｅ ｎ ｋ ｍ ｅ Ｓｐ ｅ ｅ ｔ ｄ Ｔ ｅ ｔａ ｉ ｏ ａ ＯＭ Ｓ ｅ ｔ ｎ ｅ ｙ ｕ ｉ ｇ ｔ ｏ ｒ ｌｔ ｄ ｎ ｕ ｏ ｓｒ ｃ ： ｍｐ ｏ ｅ ｗｉｎ ｄ Ｓ ｂ ｓ ｄ ｏ ｅ ｌ ｒ ｓ ｎ ｅ ． ｈ ｄｔ ｎ ｌ ｌ ｒ ｉ Ｓ ｌ ｘ ｅ ｄ ｄ ｂ ｓｎ ｅ ａｅ ｅ ｒ ｎ ｗ ｎ ｔ ｏ ｋ ｉ ｌ ｎ ｏ ｓ ｒ ｅ ｎ ａ ｃ ｅｒ ｂ ｓ ｅ ｓ Ｔ ｅｉ ｅ ｆ ｅ ｅ— ａ ｅ ａ ｉ ｇｍ ｅｈ ｄ ｉ ａ ｐ ｉｄｔ ｅ ｆｏ ｇ ｉ ｉ ｇｍａ ｅ ｗ ｒ ｓｓｍｕｔ ｅ ｕ ｌ ｉ ｏ ｄ ｒ ｏｅ ｈ ｎ ｅｔ ｏ ｕ ｔ ｓ ． ｈ ａｏ ｍ ｌ ｓ ｄｌ ｍ ｎ ｔ ｏ ｐ ｌ ｓ ｌ－ ｒ ａ ｚ ｎ ｐ ａ ｙｎ ｔ ｈ ｎ ｄ ｋ ｂ ｅ ｓ ｅ ｏ ｎ
基于核的双 自组织特征映射网络在预测中的应用
夏 文 文 ， 王 士 同 （ 南大学 信 息工程 学 院 ，江 苏 无锡 ２ ４ ２ ） 江 １ １２
(完整word版)神经网络历史发展及应用综述个人整理(word文档良心出品)
人工神经网络历史发展及应用综述1、引言人类为了生存在改造探索自然的过程中，学会利用机械拓展自身的体力，随着对自然认识的不断深入，创造语言，符号，算盘、计算工具等来强化自身脑力。
复杂的数字计算原本是靠人脑来完成的，为了摆脱这种脑力束缚发明了计算机。
其数字计算能力比人脑更强，更快、更准。
计算机的出现，人类开始真正有了一个可以模拟人类思维的工具，期盼可以实现人工智能，构造人脑替代人类完成相应工作。
要模拟人脑的活动，就要研究人脑是如何工作的，要怎样模拟人脑的神经元。
人脑的信息处理具有大规模并行处理、强容错性和自适应能力、善于联想、概括、类比和推广的特点，多少年以来，人们从生物学、医学、生理学、哲学、信息学、计算机科学、认知学、组织协同学等各个角度企图获悉人脑的工作奥秘，寻求神经元的模拟方法。
在寻找上述问题答案的研究过程中，从20世纪40年代开始逐渐形成了一个新兴的边缘性交叉学科，称之为“神经网络”，是人工智能、认知科学、神经生理学、非线性动力学、信息科学、和数理科学的“热点”。
关于神经网络的研究包含众多学科领域，涉及数学、计算机、人工智能、微电子学、自动化、生物学、生理学、解剖学、认知科学等学科，这些领域彼此结合、渗透，相互推动神经网络研究和应用的发展。
2、定义思维学普遍认为，人类大脑的思维有三种基本方式，分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维。
逻辑性的思维是根据逻辑规则进行推理的过程，这一过程可以写成指令，让计算机执行，获得结果。
而直观性（形象）的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。
这种思维方式的有以下两个特点：一是信息通过神经元上的兴奋模式分布储在网络上；二是信息处理通过神经元之间同时相互作用的动态过程来完成的。
人工神经网络就是模拟第二种人类思维方式。
人工神经网络是由大量具备简单功能的人工神经元相互联接而成的自适应非线性动态系统。
虽然单个神经元的结构和功能比较简单，但大量神经元连接构成的网络系统行为却异常复杂。
自组织特征映射神经网络(SOM)
二、学习算法
1 算法 I: (i) 初始化：
- 各权矢量
W j 的确定
wji (0) ← Small random numbers（也可根据先验知识）； , k ← 0; (ii) 输入 X(k) , 对 W 做下述操作： j c 求出 与 X(k) 最接近的权矢量 W ， q 2 1/ 2 min{ W j − X (k ) = Wq − X (k ) = d q , ( X − Y = ( ∑ i ( xi − yi ) ) ) j d 定义单元 q 所在的邻域为 Nq (tk ), 将 Nq (tk ) 中各单元的权进行修改, 其它权值不变:
的改进使其与当前单元对应的权值修改次数有关随修改次数增加使关于算法的收敛性简述设可将输入样本集合划分为每个中有一个中心矢量聚类中心在物理上竞争学习算法competitivelearningcl典型的无教师学习unsupervisedlearning算法
CH.6
自组织特征映射神经网络
Neural Network
⎡P ⎢ 1,1 ⎢ P2,1 ⎢ P ⎢ ⎣ 3,1
共7396个训练矢量。 码本规模：N=512 用 SOM 网络进行矢量量化，实现图像数据压缩
(3) 学习算法
(取定 L、N) (i) 初始化： Wj (0) ← [0,255] 之间的随机数; (ii) 构造图像矢量样本集 { X(k) }, (iii) 输入 X(k), 由各 U j计算出 (iv) 由输出单元 U 在所有 out (v) (vi)
d1 U1
…
dj
Uj
Wj
… U N
dN
SOM
xn
dj
中，找出最小距离
(3) 于是令：
⎧1 , if j = q yj = ⎨ ⎩0 , if j ≠ q
SOFM网络
SOFM⽹络SOFM⽹络及其在MATLAB中的实现朱福珍吴斌(西南科技⼤学信息⼯程学院，四川绵阳 621002 )摘要本⽂详细叙述了⾃组织映射⽹络的原理、算法及其在Matlab中实现的⼯具箱，并结合实例给出了SOFM在Matlab上的实现⽅法，对于SOFM的现存问题和未来研究趋势作了分析和展望。
关键词⾃组织;⾃组织特征映射(SOFM); 拓扑结构中⽂分类号:TP183 ⽂献标识码：A ⽂章编号： SOFM Network and the Realization of SOFM in MatlabZhu Fu-Zhen Wu Bin(College of Information and Engineering， SWUST，Mianyang,Sichuan,621002,China) Abstract: This paper described the principle, the algorithm and the toolbox in Matlab of Self-organizing Feature Map Neural Network detailedly, including a paradigm of SOFM implemented in Matlab, analyzed the problem of SOFM at present and prospected its researching trend in the future.Key Words: Self-organization; Self-organizing Feature Map; Topology Structure引⾔⼈⼯神经⽹络(Artificial Neural Network,简称ANN)是近年来发展起来的模拟⼈脑⽣物过程的⼈⼯智能技术。
它由⼤量简单的神经元⼴泛互连形成复杂的⾮线性系统[1],不需要任何先验公式，就能从已有数据中⾃动地归纳规则，获得这些数据的内在规律，具有很强的⾃学习、⾃组织、⾃适应和⾮线性映射能⼒,特别适合于因果关系复杂的⾮线性推理、判断、识别和分类等问题。
基于MATLAB的自组织特征映射网络的实际应用
效性 ， 改 善 了 奖 学金 评 定 中的 公 平 性 、 公 正性 。 实际 应 用 表 明 。 该 方法具有准确、 可 靠 的特 点 。 有 很 好 的 实 用性 。
关键 词 ： Ｓ Ｏ Ｍ； ＭＡ Ｔ Ｌ Ａ Ｂ； 神 经 网络 ；奖 学金 评 定
中图分类号 ： Ｔ Ｐ １ ８ ３ 文 献标 识 码 ： Ａ 文章 编 号 ：１ ６ ７ ４ — ６ ２ ３ ６ （ ２ ０ １ ３ ） ０ ６ — ０ ０ ４ ７ — ０ ２
在高校奖 学金的评定过程 中 ． 学 生 的 各 门考 试 成 绩 是 很 重 要 的一 个 指 标 ， 德 育 约 占总 评 成 绩 的 ７ ０ ％。 如 何 很 好 地 解
决奖学金评定 中的公平性 、 公 正 性 便 成 为 了一 个 很 实 际 的 问 题 。为 此引 用 自组 织 特 征 映 射 网络 对 学 生 奖 学 金 的评 定方 法 做进一步 的改善 ， 这是因为 Ｓ Ｏ Ｍ 网 络 具 有 自主 学 习 的 优 点 ． 在 各 个 神 经元 的 竞 争 中将 训 练 样 本 划 分 为 不 同 的 类 别 ． 这 种 划 分 反 映 了样 本 集 的根 本 区别 ［ １ １ 。将 基 于 ＭＡ ⅡＡＢ 的 自组 织 特 征 映 射 网络 应 用 于 学 生 奖 学 金 的 评 定 中 ． 设 计 出 合 适 的 网 络结构 ， 最 终 将 数 据 分 类 并 划 分 等 级 。Ｓ Ｏ Ｍ 神 经 网络 与其 他 类 型 神 经 网络 的 区 别 在 于 ： 它 不 是 以一 个 神 经 元 或 网 络 的状 态矢量反映分类 结果的 ， 而 是 以若 干神 经 元 同时 （ 并行 ） 反 映 分 类 结 果囟 。
王 家伟 ，周 浩瑜 ，同 庆 ，田宏 杰 ，贾花 萍
基于自组织特征映射网络的配电网故障类型识别
Ｋｅ ｙ ｗｏｒ ：ｄ ｓ ｒｂ ｔｏ ｅ ｗｏ ｋ ｆ ｕ ｔｔ ｐ ｄ ｎ ｉ ｃ ｔ ｎ ｗ ａ ｅ ｅ ｎ ｌ ｓ ｓ ａ ｔ ｃ ａ ｅ ｒ ｌ ｅ ｗｏ ｋ ｄｓ ｉｔｉ ｕ ｉ ｎ ｎ ｔ ｒ ； ａ ｌ ｙ ｅ ｉ ｅ ｔ ａ ｉ ； ｖ ｌ ｔ ａ ｙ ｉ ； ｒｉ ｉ ｌ ｕ ａ ｔ ｒ ｉ ｆ ｏ ａ ｉ ｆ ｎ ｎ
的 效果 。
个小 波基多 次仿真 比较得 出 ， 波基选 ｄ ０进 行分析 小 ｂ２ 时， 结果最 理想 ， 波包分 析的结果 如 图 １所示 。 小
２ 小 波 变 换 提 取 工 频 信 号
小 波变 换 中的尺度 因子与信 号频率 相对 应 ， 小尺 度 与信 号 的 高 频信 息 对 应 ， 尺 度 与信 号 的低 频 信 息对 大 应 。 当小波变 换取二 进小 波变换 ， 可 以将 信号进 行二 则 分 频分解 。例 如 ， 当信 号的采样频率 为 ４ ０ Ｈｚ时 ， ８０ 由采 样 定理 可知 ， 信号的可识别频率为 ０ ４ ０ ， 对 ～２ ０ Ｈｚ 经过第
层 小 波分解可将 信号分 为 ０～１ ０ ＨＺ的低 频分量 和 ２０
研
｝ 。
｛
：
１ ０ ～２ ０ Ｈｚ ０ ４０ ２ 的高频分量两个频带 ， 而经过第二层小 波分解 可将 ０ ２ ０ ～１ ０ Ｈｚ的信号再次分解为 ０ ０ Ｈｚ的 ～６ ０
低频分量 和 ６ ０ ２ ０ 的高频分量 ， ０ ～１ ０ Ｈｚ 其余依此类推 ， 这
图１
应用 小波 变换技术 提取 工频 信号
由图 １可直观 的看 出 ， 该方 法有效 的滤 除了三 次谐 波和 直 流衰 减 分量 。 重构 的信 号在 两 个断 点 附近有 误
自组织特征映射神经网络研究与应用
自组织特征映射神经网络研究与应用自组织特征映射神经网络，又称Kohonen网络，在机器学习领域中具有广泛的研究和应用价值。
它是由芬兰科学家Teuvo Kohonen于1982年提出的，用来解决模式分类和聚类问题。
本文将分别从网络结构、学习规则、应用场景等多个角度来介绍自组织特征映射神经网络的研究与应用。
一、网络结构自组织特征映射神经网络是一种有两层或多层的神经元组成的全连接网络，其特点是每个神经元与输入节点全连接，但只有部分神经元与输出节点连接，这些与输出节点相连接的神经元被称作胜者神经元。
胜者神经元的选择根据输入数据与神经元之间的权值距离进行，即越接近输入数据的神经元越容易胜出。
自组织特征映射神经网络的网络结构简单，但它可以通过适当调整参数，从而实现多种复杂的函数映射。
在具体应用中，还可以采用层级结构的自组织特征映射神经网络，对于复杂的数据集，可以通过层层处理，逐步提取其更高层次的特征。
二、学习规则自组织特征映射神经网络的学习规则是基于竞争性学习的，其原理是将输入数据投影到高维空间中的低维网格上，使其可以进行分类和聚类。
其学习过程中所用的算法有两种：批处理算法和在线算法。
批处理算法在每个Epoth后，在一个批次中对全部样本进行训练，并更新权值，从而可以获得更稳定的结果，但训练时间较长。
而在线算法则是对每个样本逐个进行学习，因此训练速度较快，但结果相对不稳定。
在学习过程中，自组织特征映射神经网络会通过不断调整权值，形成特征抽取与分类能力强的模型。
其学习的结果可以通过可视化方式，将数据点在网格上的分布呈现出来，形成热图的形式，便于分析与理解。
三、应用场景自组织特征映射神经网络在数据挖掘、图像处理、生物信息学等领域都有着广泛的应用。
在图像处理领域中，可以通过自组织特征映射神经网络对图像进行压缩和分类。
在数据挖掘方面，自组织特征映射神经网络可用于数据聚类和数据可视化。
通过自组织特征映射神经网络，大量数据可以被投射到低维空间，并形成可视化热图，从而能够更好地理解数据的分布规律。
自组织特征映射网络在模式分类中的应用研究
关键词 自组 织特 征映射
人工神经 网络
模式分类
拓扑 函数
仿真
中图法分类号
Ｔ Ｐ ３ ９ １ ． ９ ；
文献标 志码
Ａ
由于大 多数 经 济 、 人 文方 面 的研 究很 难 获得 完 备 的数 据集 ， 信息 来源 可能 既不 完整 又含有 假 象 ， 甚
至存在特例和反例 ， 传统的一些 聚类方法对所需数 据 的要 求 比较严 格 ， 因此 也 难 以 胜 任 这些 工作 。由 于人 工 神经 网络 具 有很 强 的非 线 性 映射 能 力 ， 自学 习性 和 容错性 ， 近年来 ， 人 工神 经 网络用 于模 式分类 成 为 当今 的一 个 研 究 热 点 问题 。 自组 织 特 征 映射 （ ｓ ｅ ｌ ｆ － ｏ ｒ ｇ ａ ｎ ｉ ｚ ｉ ｎ ｇ ｆ ｅ ａ ｔ ｕ ｒ ｅ ｍａ ｐ ｐ ｉ ｎ ｇ ， Ｓ Ｏ Ｆ Ｍ）神经 网络 能 够 根据 学 习获得 的 知识经 验对 复杂 问题 进行 合理 的 判 断决 策 ， 它采 用一 种无 教师 示范 的聚类 方法 ， 在 对 样 本数 据进 行 聚类 的 同时 ， 具 有 保 持拓 扑 有 序 性 和
⑥ ２ ０ １ ４ Ｓ ｃ ｉ ． Ｔ ｅ ｃ ｈ ． Ｅ ｎ ｇ ｒ 中的应 用研 究
丁 硕 常 晓恒 巫 庆 辉
（ 渤海大学工学院 ， 锦州 １ ２ １ ０ １ ３ ）
摘
要
为了研 究 自组 织特征 映射神 经网络在 对于二维 向量进行模 式分类 时， 网络结 构的最优 化 问题 ， 深入研 究 了 Ｓ Ｏ Ｆ Ｍ 神
经 网络 的结构和算 法， 说 明了 Ｓ Ｏ Ｆ Ｍ 网络 的建 立方法。以二维 向量 的模 式分 类为例 ， 利 用所建立 的 Ｓ Ｏ Ｆ Ｍ 网络模 型对输入 的 二维 向量模 式进行分 类， 研究 了输 出层节点形状和拓扑结构对分 类结果 的影响， 测试 了在不 同的训练步数条 件下 ， Ｓ Ｏ Ｆ Ｍ模 型
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
基于自组织特征映射网的灰度图像二值化方法
摘要：
基于自组织特征映射网的灰度图二值化方法，所采用的自组织特征映射网络输入层只含有一个节点，其输入z为图像像素灰度值。
输出层是两个节点组成的一维阵列，输出Y=[y1,y2]=[0,255]，由于输出层只有两个节点，所以网络的训练算法中不需考虑侧反馈。
关键词：SOFM，自组织特征映射网，灰度图像，二值化
一、SOFM 网络结构和原理
SOFM网络结构
自组织特征映射（SOFM）神经网络是芬兰神经网络专家Kohonen于1981年提出的，该网络的出发点是模拟大脑皮层中具有自组织特征的神经信号传送过程，属于无导师学习的竞争型神经网络。
其网络结构如图1所示，由输入层和竞争层组成，输入层由N个神经元组成，竞争层由M个输出神经元组成，且形成一个二维阵列。
输入层与竞争层各神经元之间实现全互连接，竞争层之间实行侧向连接。
网络根据其学习规则，对输入模式进行自动分类，即在无导师情况下，通过对输入模式的自组织。
学习，抽取各个输入模式的特征，在竞争层将分类结果表示出来。
图1
SOFM 的基本原理
SOFM 的基本原理是：当某类模式输入时，输出层某节点得到最大刺激而获胜，获胜节点周围的节点因侧向作用也受到刺激。
这时网络进行一次学习操作，获胜节点及周围节点的连接权值向量朝输入模式的方向作相应的修正。
当输入模式类别发生变化时，二维平面上的获胜节点也从原来节点转移到其它节点。
这样，网络通过自组织方式用大量样本数据来调整其连接权值，最后使得网络输出层特征图能够反映样本数据的分布情况。
SOFM网络的主要特性为：1）自组织排序性质，即拓扑保持能力；2）自组织
概率分布性质；3）以若干神经元同时反映分类结果，具有容错性；4）具有自联想功能。
SOFM网络的主要功能是实现数据压缩、编码和聚类，实际应用包括：模式识别、过程和系统分析、机器人、通信、数据挖掘以及知识发现等。
二、基于SOFM的图像二值化方法
基于自组织特征映射网的灰度图二值化方法，所采用的自组织特征映射网络输入层只含有一个节点，其输入z为图像像素灰度值。
输出层是两个节点组成的一维阵列，输出Y=[y1,y2]=[0,255]，由于输出层只有两个节点，所以网络的训练算法中不需考虑侧反馈。
二值化算法分为两步：①对网络的两个权值w1和w2初始化。
然后，把一幅待处理的灰度图的像素作为样本，灰度值为样本特征，将所有像索灰度值依次输入SOFM网，经过一定次数的训练，网络的权值w1和w2分别逼近图像的背景类中心的灰度和目标类中心的灰度。
②以训练后的w1和w2作为网络的权值，重新将所有像素灰度值输入网络按欧
氏距离进行竞争判断，若某一像素靠近背景类中心w1，则输出节点y1获胜，该像素被二值化为“0”(黑色)；若某一像素靠近目标类中心w2，则输出节点y2获胜，该像素被二值化为“255”(白色)。
当所有像素参于竞争判断后，即完成了灰度图的二值化。
三、二值化过程中几个问题的讨论
在网络开始训练时，由于权值的初始值可随机选择，W-和w。
的大小次序不定，所代表的类中随其大小次序不同而变化。
这样，对于网络输出层的两个节点，就难以判断到底哪一个节点代表目中心或背景类中心，使得经过二值化的图像，目标和背景的黑自颜色随机变化。
由于灰度值的大小度图中区分目标和背景的一种特征，SOFM网的自组织学习能力使得小的权值吸引灰度值较小的，大的权值吸引灰度值较大的像素。
因此解决方法是，在对权值w1和w2初始化后，通过大小比较，把小的权值放在w1,把大的权值放在w2,使之有序化，这样可保证二值化后背景灰度值恒为0，目标灰度值恒为255。
虽然网络权值的初始化一般可选择很小的随机数，但由于初始权值离目
标和背景类中心较远，训练次数和花费的时间多。
因此，应尽可能将初始权值选在目标和背景类中心附近。
为了做到这一点，可以先用整个图像的灰度平均值将像素分成两组，再求出两组像素各自的灰度平均值，作为初始权值，可大大减少训练次数。
该算法虽然不直接求灰度阈值，但通过聚类找到的目标和背景两个
灰度中心反映了整体阈值的存在，本质上仍属于整体阈值法。
经过实例观察发现，目标和背景两个灰度中心的平均值即为整像的灰度阈值。
因此，对于某些受噪声干扰严重的图像(其灰度直方图中的目标灰度分布区域与背度分布区域相互交错)，该算法处理效果不如局部阔值二值化方法。
解决这个问题，可以考虑把的局部灰度特性与整体灰度分布特性相结合作为二值化的依据。
四、总结
该算法来源于合肥工业大学的学报上发表的一篇论文，是自组织特征映射网一个具体应用例子。
该算法主要叙述了一种基于SOFM的灰度图像二值化方法，利用SOFM网络良好的聚类特性，对256色灰度图的像素按灰度值聚类，从而找到目标与背景两个类中心，通过所有像素与目标和背景类中心的灰度距离竞争达到二值化。
五、参考文献
[1] 刘峡壁.人工智能导论-方法与系统.北京:国防工业出版社,2008
[2] 方敏.基于自组织特征映射网的灰度图像二值化方法[J].合肥工业
大学学报(自然科学版),2001,24(6)。