5.4 自组织神经网络(1)
合集下载
神经网络的发展历程与应用
神经网络的发展历程与应用神经网络是一种仿生的人工智能技术，它模拟了人类大脑中神经元之间的连接和信息传递方式，具有自学习和适应性强的特点。
神经网络的发展历程可以追溯到上世纪50年代，经过了长期的理论研究和应用实践，如今已经成为了人工智能领域中的重要技术之一。
本文将从神经网络的发展历程、基本模型、优化算法以及应用领域等方面进行介绍。
一、神经网络的发展历程神经网络的发展历程可以分为三个阶段，分别是感知机、多层前馈神经网络和深度学习。
1. 感知机感知机是神经网络的起源，由美国心理学家罗森布拉特于1957年提出。
感知机是一种单层神经网络，由若干感知器（Perceptron）组成。
每个感知器接收输入信号并进行加权和，然后经过一个阈值函数得到输出。
该模型的最大缺点是只能处理线性可分问题，无法解决非线性问题。
2. 多层前馈神经网络为了克服感知机的局限性，科学家们开始尝试使用多层前馈神经网络来处理非线性问题。
多层前馈神经网络由输入层、隐藏层和输出层组成。
每个神经元都有一个激活函数，用于将输入信号转换为输出。
这种结构可以处理非线性问题，并且可以通过反向传播算法来训练网络参数。
多层前馈神经网络在图像识别、语音识别、自然语言处理等领域得到了广泛应用。
3. 深度学习深度学习是指使用多层神经网络来学习高层次特征表示的一种机器学习方法。
深度学习在计算机视觉、自然语言处理等领域有着广泛的应用。
其中最著名的就是卷积神经网络（CNN）和循环神经网络（RNN）。
卷积神经网络主要用于图像识别和分类问题，循环神经网络主要用于序列预测和语言建模。
二、神经网络的基本模型神经网络的基本模型可以分为三类，分别是前馈神经网络、反馈神经网络和自组织神经网络。
1. 前馈神经网络前馈神经网络是指信息只能从输入层到输出层流动的神经网络。
其中最常用的是多层前馈神经网络，它由多个隐藏层和一个输出层组成。
前馈神经网络的训练主要使用反向传播算法。
2. 反馈神经网络反馈神经网络是指信息可以从输出层到输入层循环反馈的神经网络。
自组织竞争神经网络
第23页
3.搜索阶段：
由Reset信号置获胜阶段无效开始，网络进入搜索 阶段。此时R为全0，G1=1 ，在C层输出端又得到了此 次输入模式X。所以，网络又进入识别及比较阶段，得 到新获胜节点（以前获胜节点不参加竞争）。这么重 复直至搜索到某一个获胜节点K，它与输入向量X充分 匹配到达满足要求为止。模式X编制到R层K节点所连 模式类别中，即按一定方法修改K节点自下而上和自上 而下权向量，使网络以后再碰到X或与X相近模式时， R层K节点能很快取得竞争胜利。若搜索了全部R层输 出节点而没有发觉有与X充分靠近模式，则增设一个R 层节点以表示X或与X相近模式。
⑥ 警戒线检测。设向量X中不为0个数用||X||表示，可
有 n || X || xi
n
||C'|| w' j *iXi i1
(5.3.1)
i 1
n
||C'|| w' j *iXi
(5.3.2)
i1
若||C||/||X||>成立，则接收j*为获胜节点，转⑦。
不然发Reset信号，置j*为0（不允许其再参加竞争），
信号1：输入X第i个分量Xi。 信号2：R层第j个单元自上而下返回信号Rj。 信号3：G1控制信号。 设C层第i个单元输出为Ci。 Ci依据“2/3规则”产 生，即Ci含有三个信号中多数相同值。 网络开始运行时， G1 =1，R层反馈信号为0。
自组织竞争神经网络
第18页
2.R 层结构：
R层功效结构相当于一个前向竞争网络，假设输出 层有m个节点，m类输入模式。输出层节点能动态增加， 以满足设置新模式类需要。设由C层自下而上连接到R 层第j个节点权向量用Wj={w1j,w2j,..,wnj} 表示。C层输出向量C沿Wj向前馈送，经过竞争在R层 输出端产生获胜节点，指示此次输入向量类别。
人工智能控制技术课件：神经网络控制
进行的，这种排列往往反映所感受的外部刺激的某些物理特征。
例如，在听觉系统中，神经细胞和纤维是按照其最敏感的频率分
布而排列的。为此，柯赫仑（Kohonen）认为，神经网络在接受外
界输入时，将会分成不同的区域，不同的区域对不同的模式具有
不同的响应特征，即不同的神经元以最佳方式响应不同性质的信
号激励，从而形成一种拓扑意义上的有序图。这种有序图也称之
,
,
⋯
,
)
若 输 入 向 量 X= ( 1
， 权 值 向 量
2
W=(1 , 2 , ⋯ , ) ，定义网络神经元期望输出 与
实际输出 的偏差E为：
E= −
PERCEPTRON学习规则
感知器采用符号函数作为转移函数，当实际输出符合期
望时，不对权值进行调整，否则按照下式对其权值进行
单神经元网络
对生物神经元的结构和功能进行抽象和
模拟，从数学角度抽象模拟得到单神经
元模型，其中 是神经元的输入信号，
表示一个神经元同时接收多个外部刺激；
是每个输入所对应的权重，它对应
于每个输入特征，表示其重要程度；
是神经元的内部状态； 是外部输入信
号； 是一个阈值（Threshold）或称为
第三代神经网络：
2006年，辛顿（Geofrey Hinton）提出了一种深层网络模型——深度
置信网络（Deep Belief Networks，DBN），令神经网络进入了深度
学习大发展的时期。深度学习是机器学习研究中的新领域，采用无
监督训练方法达到模仿人脑的机制来处理文本、图像等数据的目的。
控制方式，通过神经元及其相互连接的权值，逼近系统
例如，在听觉系统中，神经细胞和纤维是按照其最敏感的频率分
布而排列的。为此，柯赫仑（Kohonen）认为，神经网络在接受外
界输入时，将会分成不同的区域，不同的区域对不同的模式具有
不同的响应特征，即不同的神经元以最佳方式响应不同性质的信
号激励，从而形成一种拓扑意义上的有序图。这种有序图也称之
,
,
⋯
,
)
若 输 入 向 量 X= ( 1
， 权 值 向 量
2
W=(1 , 2 , ⋯ , ) ，定义网络神经元期望输出 与
实际输出 的偏差E为：
E= −
PERCEPTRON学习规则
感知器采用符号函数作为转移函数，当实际输出符合期
望时，不对权值进行调整，否则按照下式对其权值进行
单神经元网络
对生物神经元的结构和功能进行抽象和
模拟，从数学角度抽象模拟得到单神经
元模型，其中 是神经元的输入信号，
表示一个神经元同时接收多个外部刺激；
是每个输入所对应的权重，它对应
于每个输入特征，表示其重要程度；
是神经元的内部状态； 是外部输入信
号； 是一个阈值（Threshold）或称为
第三代神经网络：
2006年，辛顿（Geofrey Hinton）提出了一种深层网络模型——深度
置信网络（Deep Belief Networks，DBN），令神经网络进入了深度
学习大发展的时期。深度学习是机器学习研究中的新领域，采用无
监督训练方法达到模仿人脑的机制来处理文本、图像等数据的目的。
控制方式，通过神经元及其相互连接的权值，逼近系统
自组织竞争神经网络
dj =
n
∑ (x
i =1
i
− wi j ) 2
∆wi j = η h( j , j*)( xi − wi j )
j − j*2 h ( j , j *) = exp − σ2
自组织竞争神经网络算法能够进行有效的自适应分类，但它仍存在一些问题： 学习速度的选择使其不得不在学习速度和最终权值向量的稳定性之间进行折中。 有时有一个神经元的初始权值向量离输入向量太远以至于它从未在竞争中获胜， 因 此也从未得到学习，这将形成毫无用处的“死”神经元。
网络结构
%1.ÎÊÌâÌá³ö X=[0 1;0 1]; clusters=8; points=10; std_dev=0.05; P=nngenc(X,clusters,points,std_dev); plot(P(1,:),P(2,:),'+r'); title('ÊäÈëÏòÁ¿'); xlabel('P(1)'); ylabel('P(2)'); %2.ÍøÂçÉè¼Æ net=newc([0 1;0 1],8,.1) w=net.IW{1}; plot(P(1,:),P(2,:),'+r'); hold on; circle=plot(w(:,1),w(:,2),'ob') %3.ÍøÂçѵÁ· net.trainParam.epochs=7; net=train(net,P) w=net.IW{1}; delete(circle); plot(w(:,1),w(:,2),'ob'); %4.ÍøÂç²âÊÔ p=[0.5;0.2]; a=sim(net,p)
自组织神经网络
❖
PR
- Rx2 矩阵确定输入范围
❖
Di
- 第i层神经元个数,缺省为5× 8
❖ TFCN
- 拓扑函数,缺省为 'hextop'.
❖ DFCN
- 距离函数,缺省为 'linkdist'.
❖
OLR
- 排序阶段学习率,缺省为0.9.
❖ OSTEPS - 排序阶段最大学习步骤,缺省为1000.
❖
TLR
- 调整阶段学习率,缺省为0.02;
例：LVQ网络的设计
❖ 设定输入样本和期望输出 ❖ 构建并设置网络参数 ❖ 根据训练样本对网络进行训练 ❖ 用训练样本测试网络 ❖ 用新样本测试网络 ❖ 讨论比例的影响
小结
❖ 何谓自组织：没有答案的学习
❖ 自组织竞争神经网络的基本概念
神经元：输入与权值的负距离加上阈值 网络结构：竞争网络 学习方法：Kohonen和阈值学习规则 用途：聚类
❖
TND
- 调整阶段最大学习步骤,缺省为1
例八：SOFM网络的构建和训练
❖ 构建网络 ❖ 设置训练样本 待聚类样本 ❖ 观察训练前网络的状态 ❖ 根据样本进行训练
排序阶段 粗调 调整阶段 细调
❖ 观察训练后网络的状态
例九：一维SOFM网络设计
❖ 输入为二维向量,神经元分布为一维 ❖ 将二维空间的特征映射到一维拓扑结构 ❖ 步骤
* IW 1 ,1 ( q 1 )
若分类不正确：
修正第 i个神经元的权值更远离
该样本
i i － ( p ( q ) i ) * IW 1,1 ( q )
* IW 1 ,1 ( q 1 )
* IW 1 ,1 ( q 1 )
神经网络
人工神经网络
Artificial Neural Networks
小组成员徐渊\孙鹏\张倩\ 武首航：
目录
第一节：神经网络简介 第二节：神经网络基本模型 第三节：传播算法（BP） 第四节：遗传算法 第五节：模糊神经网络（FNN） 第六节：Hopfield网络模型 第七节：随机型神经网络 第八节：自组织神经网络
网络的理论模型。其中包括概念模型、知识模型、物理化学 模型、数学模型等。
（3）网络模型与算法研究。在理论模型研究的基础上构作具体
的神经网络模型，以实现计算机模拟或准备制作硬件，包括 网络学习算法的研究。这方面的工作也称为技术模型研究。
（4）人工神经网络应用系统。在网络模型与算法研究的基础上，利用人工神 经网络组成实际的应用系统，例如，完成某种信号处理或模式识别的功 能、构作专家系统、制成机器人等等。
1, vi = 0, ui > 0 ui ≤ 0
如果把阈值θi看作为一个特殊的权值，则可改写为:
v
i
=
f (
∑
n
w
其中，w0i＝-θi，v0＝1 为用连续型的函数表达神经元的非线性变换 能力，常采用s型函数: 1
j = 0
ji
v
j
)
f (u
i
) =
学习该网络一般选用HUBB学习规则。归结为神经元连接权的变化，表示 为： Δwij＝αuivj若第i和第j个神经元同时处于兴奋状态，则它们之 间的连接应当加强
DALIAN UNIVERSITY
系统辨识
技术讲座
4
wij ——代表神经元i与神经元j之间的连接强度(模拟生物神经元之间突触连接 强度)，称之为连接权； ui——代表神经元i的活跃值，即神经元状态； vj——代表神经元j的输出，即是神经元i的一个输入； θi——代表神经元i的阈值。 函数f表达了神经元的输入输出特性。在MP模型中，f定义为阶跃函数：
Artificial Neural Networks
小组成员徐渊\孙鹏\张倩\ 武首航：
目录
第一节：神经网络简介 第二节：神经网络基本模型 第三节：传播算法（BP） 第四节：遗传算法 第五节：模糊神经网络（FNN） 第六节：Hopfield网络模型 第七节：随机型神经网络 第八节：自组织神经网络
网络的理论模型。其中包括概念模型、知识模型、物理化学 模型、数学模型等。
（3）网络模型与算法研究。在理论模型研究的基础上构作具体
的神经网络模型，以实现计算机模拟或准备制作硬件，包括 网络学习算法的研究。这方面的工作也称为技术模型研究。
（4）人工神经网络应用系统。在网络模型与算法研究的基础上，利用人工神 经网络组成实际的应用系统，例如，完成某种信号处理或模式识别的功 能、构作专家系统、制成机器人等等。
1, vi = 0, ui > 0 ui ≤ 0
如果把阈值θi看作为一个特殊的权值，则可改写为:
v
i
=
f (
∑
n
w
其中，w0i＝-θi，v0＝1 为用连续型的函数表达神经元的非线性变换 能力，常采用s型函数: 1
j = 0
ji
v
j
)
f (u
i
) =
学习该网络一般选用HUBB学习规则。归结为神经元连接权的变化，表示 为： Δwij＝αuivj若第i和第j个神经元同时处于兴奋状态，则它们之 间的连接应当加强
DALIAN UNIVERSITY
系统辨识
技术讲座
4
wij ——代表神经元i与神经元j之间的连接强度(模拟生物神经元之间突触连接 强度)，称之为连接权； ui——代表神经元i的活跃值，即神经元状态； vj——代表神经元j的输出，即是神经元i的一个输入； θi——代表神经元i的阈值。 函数f表达了神经元的输入输出特性。在MP模型中，f定义为阶跃函数：
自组织神经网络
详细描述
自组织神经网络通常包含大量的神经元和参数，这使得训练过程变得非常耗时。传统的 优化算法往往需要长时间的迭代才能找到最优解，这限制了自组织神经网络的应用范围。
泛化能力不足
总结词
自组织神经网络的泛化能力不足是另一个挑 战，这主要是由于其容易过拟合训练数据。
详细描述
由于自组织神经网络具有强大的拟合能力， 它很容易过拟合训练数据，导致对测试数据 的泛化能力下降。这限制了自组织神经网络 在实际问题中的应用效果。
缺乏有效的学习规则
总结词
目前自组织神经网络缺乏有效的学习规则， 这限制了其自适应能力和进化速度。
详细描述
自组织神经网络的学习规则决定了其结构和 参数的调整方式，但目前大多数学习规则的 效果并不理想。如何设计更有效的学习规则 ，以提高自组织神经网络的自适应能力和进
化速度，是当前研究的重点之一。
未来发展方向与趋势
K-均值聚类算法
总结词
K-均值聚类算法是一种无监督的机器学 习算法，用于将输入数据划分为K个聚类 。
VS
详细描述
K-均值聚类算法通过迭代的方式将输入数 据划分为K个聚类，每个聚类由其质心表 示。算法通过计算每个数据点到各个质心 的距离，将数据点划分到最近的质心所在 的聚类中，并更新质心位置。K-均值聚类 算法具有简单、高效的特点，广泛应用于 数据挖掘、图像分割和机器视觉等领域。
自适应共振理论模型
总结词
自适应共振理论模型是一种基于自适应滤波原理的神经网络模型，能够自适应地学习和识别输入数据 中的模式。
详细描述
自适应共振理论模型通过调整神经元之间的连接权重，使得神经网络能够自适应地跟踪和识别输入数 据中的模式。该模型具有较强的鲁棒性和适应性，能够处理噪声和异常值，广泛应用于信号处理、语 音识别和自然语言处理等领域。
自组织神经网络通常包含大量的神经元和参数，这使得训练过程变得非常耗时。传统的 优化算法往往需要长时间的迭代才能找到最优解，这限制了自组织神经网络的应用范围。
泛化能力不足
总结词
自组织神经网络的泛化能力不足是另一个挑 战，这主要是由于其容易过拟合训练数据。
详细描述
由于自组织神经网络具有强大的拟合能力， 它很容易过拟合训练数据，导致对测试数据 的泛化能力下降。这限制了自组织神经网络 在实际问题中的应用效果。
缺乏有效的学习规则
总结词
目前自组织神经网络缺乏有效的学习规则， 这限制了其自适应能力和进化速度。
详细描述
自组织神经网络的学习规则决定了其结构和 参数的调整方式，但目前大多数学习规则的 效果并不理想。如何设计更有效的学习规则 ，以提高自组织神经网络的自适应能力和进
化速度，是当前研究的重点之一。
未来发展方向与趋势
K-均值聚类算法
总结词
K-均值聚类算法是一种无监督的机器学 习算法，用于将输入数据划分为K个聚类 。
VS
详细描述
K-均值聚类算法通过迭代的方式将输入数 据划分为K个聚类，每个聚类由其质心表 示。算法通过计算每个数据点到各个质心 的距离，将数据点划分到最近的质心所在 的聚类中，并更新质心位置。K-均值聚类 算法具有简单、高效的特点，广泛应用于 数据挖掘、图像分割和机器视觉等领域。
自适应共振理论模型
总结词
自适应共振理论模型是一种基于自适应滤波原理的神经网络模型，能够自适应地学习和识别输入数据 中的模式。
详细描述
自适应共振理论模型通过调整神经元之间的连接权重，使得神经网络能够自适应地跟踪和识别输入数 据中的模式。该模型具有较强的鲁棒性和适应性，能够处理噪声和异常值，广泛应用于信号处理、语 音识别和自然语言处理等领域。
神经网络控制的特点分析
神经网络控制的特点分析
前言
神经网络控制系统又成为模糊控制系统，是个新兴的控制方法，就象我们说小明学习很好，但是怎幺个好法就是个很模糊的概念。
模糊控制不同与经典控制理论的关键在于他有一套属于他自己的模糊算法，这个对数学的要求还是挺高的，模糊控制也成做为智能控制系统。
神经网络的特点分析
（1）神经网络的一般特点
作为一种正在兴起的新型技术神经网络有着自己的优势，他的主要特点如下：
①由于神经网络模仿人的大脑，采用自适应算法。
使它较之专家系统的固定的推理方式及传统计算机的指令程序方式更能够适应化环境的变化。
总结规律，完成某种运算、推理、识别及控制任务。
因而它具有更高的智能水平，更接近人的大脑。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
自组织神经网络的典型结构
竞争层
输入层
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
自组织学习(self-organized learning)
通过自动寻找样本中的内在规律和本质属性， 自组织、自适应地改变网络参数与结构。 自组织网络的自组织功能是通过竞争学习 （competitive learning）实现的。
5.4.1自组织神经网络概述与竞争学习
竞争学习规则——Winner-Take-All
* *
*
*
向量归一化之后
*
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
竞争学习规则——Winner-Take-All 2.寻找获胜神经元 当网络得到一个输入模式向量时， 竞争层的所有神经元对应的内星权向量均与其进行相 似性比较，并将最相似的内星权向量判为即：
ˆ ˆ W (t ) h (t )[ X (t ) W j * (t )]
p
* *
ˆ * (t 1) W j
ˆ p (t ) X ˆj W ˆm W
*
…
*
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
例 用竞争学习算法将下列各模式分为2类：
0.8 2 0.1736 3 0.707 4 0.342 5 0.6 X 0.6 X 0.9848 X 0.9397 X 0.8 0.707 X
1
解：为作图方便，将上述模式转换成极坐标形式 ：
X1 136.89 X2 1 80 X 3 144.5 X4 1 70 X5 153.13
竞争层设两个权向量，随机初始化为单位向量：
1 1 W1 (0) 0 1180 0 10 W2 (0)
XT Xi X Xi
类2
类1
相似性测量
(b)基于余弦法的相似性测量
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
竞争学习规则——Winner-Take-All
网络的输出神经元之间相互竞争以求被
激活，结果在每一时刻只有一个输出神经元
被激活。这个被激活的神经元称为竞争获胜
W2
-180 -180 -180 -180 -180 -180 -130 -130 -100 -100 -100 -90 -90 -81 -81 -81 -80.5 -80.5 -75 -75
x
3
x1 w2 w1 x2 x4
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
几种常见的自组织神经网络
自组织特征映射(self-Organizing Map， SOM)网络 自适应共振理论(Adaptive Resonance Theory，ART)网络
对传(Counter Propagation，CP)网络
协同神经网络(Synergetic Neural Network．SNN)
神经元，而其它神经元的状态被抑制，故称
为Winner-Take-All。
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
竞争学习规则——Winner-Take-All
1.向量归一化 首先将当前输入模式向量 X和竞争层中各神经元对应的内星向量Wj 全部进行归一化处理； (j=1,2,…,m)
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
分类和聚类
分类——分类是在类别知识等导师信号的 指导下，将待识别的输入模式分配到各 自的模式类中去。 聚类——无导师指导的分类称为聚类，聚 类的目的是将相似的模式样本划归一类， 而将不相似的分离开。
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
x
3
x1 w2 w1
x2
x4
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
x
5
训练 次数
W1
18.43 -30.8 7 -32 11 24 24 34 34 44 40.5 40.5 43 43 47.5 42 42 43.5 43.5 48.5
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
竞争学习规则——Winner-Take-All
3.网络输出与权值调整
1 o j (t 1) 0
j j* j j*
ˆ * (t ) W * W ˆ * (t ) (t )( X ˆ W ˆ *) W j* (t 1) W j j j j ˆ (t ) Wj (t 1) W jj* j
自动化系仪自教研室
5.4 自组织神经网络 5.4.1自组织神经网络概述与竞争学习
5.4.2 自组织特征映射神经网络
5.4.3 对偶传播神经网络 5.5.4 自适应共振理论网络
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
自组织神经网络概述
自组织神经网络，又称为自组织竞争神经 网络,特别适合于解决模式分类和识别方面 的应用问题。 自组织神经网络属于前向神经网络类型，采 用无导师学习算法，
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
x
5
训练 次数
W1
18.43 -30.8 7 -32 11 24 24 34 34 44 40.5 40.5 43 43 47.5 42 42 43.5 43.5 48.5
W2
-180 -180 -180 -180 -180 -180 -130 -130 -100 -100 -100 -90 -90 -81 -81 -81 -80.5 -80.5 -75 -75
X ˆ X X
x1
2 x j j 1 n
...
xn n 2 x j j 1
T
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
竞争学习规则——Winner-Take-All
*
*
向量归一化之前
* *
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
x
5
训练 次数
W1
18.43 -30.8 7 -32 11 24 24 34 34 44 40.5 40.5 43 43 47.5 42 42 43.5 43.5 48.5
W2
-180 -180 -180 -180 -180 -180 -130 -130 -100 -100 -100 -90 -90 -81 -81 -81 -80.5 -80.5 -75 -75
5.4.1自组织神经网络概述与竞争学习
x
5
训练 次数
W1
W2
x3 x w2
1
w1
x2
x4
1 18.43 -180 2 -30.8 -180 3 7 -180 4 -32 -180 5 11 -180 6 24 -180 7 24 -130 8 34 -130 9 34 -100 10 44 -100 11 40.5 -100 12 40.5 -90 13 43 -90 14 43 -81 15 47.5 -81 16 42 -81 17 42 -80.5 18 43.5 -80.5 19 43.5 -75 20 48.5 -75 自动化系仪自教研室
j
ˆ W ˆ * )T ( X ˆ W ˆ *) (X j j
ˆ TX ˆ 2W ˆ T* X ˆ W ˆ T* W ˆ T* X j j j
ˆ 2(1 WT * X) j
从上式可以看出，欲使两单位向量的欧式距离 最小，须使两向量的点积最大。即：
T ˆ T ˆ ˆ ˆ Wj* X max ( Wj X) j{1, 2,..., m}
5.4.1自组织神经网络概述与竞争学习
x
5
训练 次数
W1
W2
-180 -180 -180 -180 -180 -180 -130 -130 -100 -100 -100 -90 -90 -81 -81 -81 -80.5 -80.5 -75 -75
x
3
x1 w2 w1 x2 x4
W2
-180 -180 -180 -180 -180 -180 -130 -130 -100 -100 -100 -90 -90 -81 -81 -81 -80.5 -80.5 -75 -75
1 18.43 2 -30.8 3 7 4 -32 5 11 6 24 7 24 8 34 9 34 10 44 11 40.5 12 40.5 13 43 14 43 15 47.5 16 42 17 42 18 43.5 19 43.5 自动化系仪自教研室 20 48.5
x
3
x1 w2 w1
x2
x4
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
自动化系仪自教研室
5.4.1自组织神经网络概述与竞争学习
x
5
训练 次数
W1
18.43 -30.8 7 -32 11 24 24 34 34 44 40.5 40.5 43 43 47.5 42 42 43.5 43.5 48.5