极限学习机

合集下载

ELM-Chinese-Brief(极限学习机)

ELM-Chinese-Brief(极限学习机)
1 Hao‐Qi Sun 摘要翻译自 G.‐B. Huang, “What are Extreme Learning Machines? Filling the Gap between Frank Rosenblatt's Dream and John von Neumann's Puzzle,”Cognitive Computation, vol. 7, pp. 263‐278, 2015.
2. 介绍
正如 Huang 等[6]指出:“一般来讲,‘超限’指超过传统人工学习方法的局限, 并向类脑学习靠拢。超限学习机的提出,是为了打破传统人工学习方法和生物学习机 制之间的屏障。‘超学习机’基于神经网络泛化理论,控制理论,矩阵理论和线性 系统理论,代表了一整套不需要调整隐层神经元的机器学习理论。”
定理 2 (分类能力[23])给定任何非常数分段连续函数作为激活函数,若调整隐 层参数可让单层前馈网络逼近任何连续的目标函数 f(x),那么这个拥有随机隐层映射 h(x)的单层前馈网络可以分割具有任何形状的不连通区域。
7. 单隐层前馈网络和多隐层前馈网络
在没有完全解决单隐层问题时在超限学习机中直接引入多隐层结构会比较困难。 所以在过去的十年中,大多数的超限学习机研究都注重“通用”单隐层前馈网络 (SLFNs)。
理论,控制理论,矩阵理论和线性系统理论。随机地生成隐层节点是“不需要调整隐 层神经元”的其中一种常用方法;与此同时,也有很多其他方法,例如核方法[6,23], 奇异值分解(SVD)和局部感受域[8]。我们相信超限学习机反映了某些生物学习机制 的实际情况。它的机器学习效能在 2004 年被确认[24],它的万能逼近性(对于“通用 单隐层前馈网络”,其隐层节点可以是由一些节点构成的子网络,并/或拥有基本上任 何类型的非线性分段连续激活函数的神经元(确切数学模型/公式/形状未知))在 2006 到 2008 年[5,25,26]被非常严格地证明。它的实际生物证据在 2011 到 2013 年 [27‐ 30] 接着出现。

极限学习机简介

极限学习机简介

1 极限学习机传统前馈神经网络采用梯度下降的迭代算法去调整权重参数,具有明显的缺陷:1)学习速度缓慢,从而计算时间代价增大;2)学习率难以确定且易陷入局部最小值;3)易出现过度训练,引起泛化性能下降。

这些缺陷成为制约使用迭代算法的前馈神经网络的广泛应用的瓶颈。

针对这些问题,huang等依据摩尔-彭罗斯(MP)广义逆矩阵理论提出了极限学习(ELM)算法,该算法仅通过一步计算即可解析求出学习网络的输出权值,同迭代算法相比,极限学习机极大地提高了网络的泛化能力和学习速度。

极限学习机的网络训练模型采用前向单隐层结构。

设分别为网络输入层、隐含层和输出层的节点数,是隐层神经元的激活函数,为阈值。

设有个不同样本,,其中,则极限学习机的网络训练模型如图1所示。

图1 极限学习机的网络训练模型极限学习机的网络模型可用数学表达式表示如下:式中,表示连接网络输入层节点与第i个隐层节点的输入权值向量;表示连接第i个隐层节点与网络输出层节点的输出权值向量;表示网络输出值。

极限学习机的代价函数E可表示为式中,,包含了网络输入权值及隐层节点阈值。

Huang等指出极限学习机的悬链目标就是寻求最优的S,β,使得网络输出值与对应实际值误差最小,即。

可进一步写为式中,H表示网络关于样本的隐层输出矩阵,β表示输出权值矩阵,T表示样本集的目标值矩阵,H,β,T分别定义如下:极限学习机的网络训练过程可归结为一个非线性优化问题。

当网络隐层节点的激活函数无限可微时,网络的输入权值和隐层节点阈值可随机赋值,此时矩阵H为一常数矩阵,极限学习机的学习过程可等价为求取线性系统最小范数的最小二乘解,其计算式为式中时矩阵的MP广义逆。

2实验结果>>ELM('diabetes_train', 'diabetes_test', 1, 20, 'sig')TrainingTime =0.0468TestingTime =TrainingAccuracy =0.7934TestingAccuracy =0.7396由实验结果可得,极限学习机方法具有耗时短,效率高等优点,但是训练和测试的精度还有待提高。

极限学习机原理介绍

极限学习机原理介绍

11 21 ... l1
12 22 ... l 2
... 1m ... 2 m ... ... ... lm l m
(2)
其中, jk 表示隐含层第 j 个神经元与输出层第 k 个神经元间的连接权值。 设隐含层神经元的阈值 b 为
w11 w W 21 ... wl1
w12 w22 ... wl 2
... w1n ... w2 n ... ... ... wln l n
(1)
其中, w ji 表示输入层第 i 个神经元与隐含层第 j 个神经元的连接权值。 设隐含层与输出层间的连接权值 为
.
由定理 1 可知, 若隐含层神经元个数与训练集样本个数相等, 则对于任意的 w 和
b ,SLFN 都可以零误差逼近训练样本,即
|| t
j 1
Q
j
y j || 0
(8)
其中,
y j [ y1 j , y2 j ,..., ymj ]T ( j 1,2,..., Q) .
然而,当训练样本个数 Q 较大时,为了减少计算量,隐含层神经元个数 K 通常 取比 Q 小的数,由定理 2 可知,SLFN 的训练误差逼近一个任意的
^ ^
提及,ELM 的性能也得到了很大的提升,其应用范围亦愈来愈广,其重要性亦日 益体现出来。
二,ELM 概述 传统的典型单隐含层前馈神经网络结构如下图一所示,由输入层,隐含层和 输出层组成,输入层与隐含层,隐含层与输出层神经元间全连接。其中,输入层 有 n 个神经元, 对应 n 个输入变量; 隐含层有 l 个神经元; 输出层有 m 个神经元, 对应 m 个输出变量。在不失一般性的情况下,设输入层与隐含层间的连接权值 W为

极限学习机理论与应用研究

极限学习机理论与应用研究

极限学习机理论与应用研究在深度学习领域中,神经网络一直是一个热门话题。

然而,神经网络不仅复杂而且计算密集,因此新的机器学习算法也不断涌现,希望取代这种方法。

极限学习机是这样一种算法,它有效地解决了传统神经网络所面临的问题。

本文将深入介绍极限学习机的理论和应用研究。

一、极限学习机的概念极限学习机是一种快速的单层前馈神经网络,符合大数据环境下高效率和高精度的要求。

与传统的神经网络不同,极限学习机模型不涉及网络层中权值的调节,因此更容易使用。

这个模型常常简称为ELM。

它的训练方式是在网络学习过程中,只调整输入层和输出层之间的链接权重和偏差。

与其他的神经网络相比,极限学习机有以下优点:1. 快速:传统神经网络通常需要使用反向传播算法训练,这个过程非常耗时。

在性能要求的情况下,ELM的训练速度更快。

2. 简单:ELM的参数只包括输入层和输出层之间的链接权重和偏差。

这使得神经网络的设计和实现更加容易。

3. 鲁棒性:ELM对于权重和偏差的初始值并不敏感,也就是说,它可以在初始权重和偏差值上取得很好的效果。

4. 高精度:在处理大量数据的时候,ELM的精度相当高。

二、极限学习机的原理在ELM中,输入层与神经元之间的连接权重是随机初始化的,然后通过解方程组来确定输出层与神经元之间的连接权重。

这个过程被称为“随机稠密映射(Random Projection)”。

随机稠密映射通常可以被看做是一种优秀的特征提取器。

在ELM的训练过程中,首先要将样本输入层的输入值x通过一个由与节点神经元个数相同的系数矩阵Omega和偏置项b组成的线性变换$H = g(x\Omega+b)$中映射到隐藏层,其中g是一个激活函数。

公式中的随机矩阵Omega是样本输入层和输出层之间的链接权重。

目标是找到输入矩阵X和标签矩阵Y之间的连接权重W,使预测值P与真实值T的误差最小化:$P=H W$$minimize \quad \frac{1}{2} ||Y-P||^2_F$其中||·||_F 是矩阵F范数选择逆矩阵(Inv)方法,将权重$W = H^+ Y$公式中,H⁺是矩阵H的Moore-Penrose伪逆。

极限学习机在预测和优化中的应用

极限学习机在预测和优化中的应用

极限学习机在预测和优化中的应用极限学习机是一种新型的人工神经网络算法,它能够快速训练出高度精确的预测模型,是目前比较流行的机器学习算法之一。

由于极限学习机在预测和优化领域中的独特性,它广泛地被应用于各种领域,如金融预测、医药研究、图像识别、机器人等。

本文将介绍极限学习机在预测和优化中的应用,并探讨它的优缺点。

一、极限学习机简介极限学习机(Extreme Learning Machine,ELM)是一种基于单层前向神经网络结构的机器学习算法。

它主要有两个步骤:首先随机生成神经元的权值和偏置,然后通过激活函数将输入值映射到神经元的输出值,最后将输出值作为预测结果。

相比于传统人工神经网络模型,ELM具有快速收敛、低存储和计算成本等优势。

二、ELM在预测中的应用1. 金融预测金融预测一直是经济学家和投资者关注的重点。

通过对历史数据的分析,可以预测未来的市场趋势和股价涨跌。

ELM在金融预测领域已经被广泛应用。

例如,通过ELM可以预测股票的收盘价、期货的价格等等。

ELM在金融预测领域的应用,有效地提高了数据的处理效率和预测精度,帮助投资者做出更稳健的投资决策。

2. 医药研究医药研究是一个长期且高风险的过程。

通过对大量的药物试验数据进行分析,可以挖掘出药物的性质和作用。

ELM在药物研究中的应用,可以有效地预测药物的活性和毒性,并优化药物设计过程。

例如,通过ELM可以预测药物对人类细胞的毒性,从而降低药品的副作用。

三、ELM在优化中的应用1. 图像处理图像处理是一个需要大量计算的领域。

通过ELM可以有效地处理和优化图像,减少计算时间和能源消耗。

例如,通过ELM可以快速地识别图像中的物体,从而更好地理解图像内容。

2. 机器人控制机器人控制需要高度精准的指令和反馈,以实时控制机器人的运动。

通过ELM可以实现机器人的自主控制和优化,避免机器人的运动出现偏差和错误。

四、ELM的优缺点ELM相比于传统的神经网络算法具有以下优点:1. ELM可以在一个较短的时间内进行训练,而不需要进行大量的迭代,可以快速地处理海量数据。

基于极限学习机的数据分类方法研究

基于极限学习机的数据分类方法研究

基于极限学习机的数据分类方法研究数据分类作为一种重要的数据挖掘技术,已经被广泛应用于各个领域。

而在数据分类中,分类模型的选择将直接关系到分类的准确性和效率。

在此基础上,本文将介绍一种新颖的基于极限学习机的数据分类方法,探讨其理论原理和应用前景。

一、背景概述在数据分类中,传统的机器学习算法如SVM、KNN等已经被逐渐淘汰。

而以神经网络为代表的深度学习算法,虽然在分类准确性上表现出色,但其训练过程非常复杂,需要大量的计算资源和时间。

因此,极限学习机(ELM)作为一种新型的快速学习方法,备受研究者的关注。

ELM是由黄广省博士于2006年提出的一种单隐层前馈神经网络模型。

其主要特点是采用随机初始化神经元的权重和偏置,然后直接获取最小二乘解以避免传统神经网络中的时间和空间消耗问题。

由于其快速的学习速度和优异的性能,ELM 在图像识别、文本分类、生物医药等领域得到了广泛的应用。

二、极限学习机的基本理论1. ELM的网络结构ELM网络由三个层组成,分别为输入层、隐层和输出层。

其中,输入层接收原始数据,隐层负责提取特征向量,输出层则进行分类。

2. ELM的优化目标ELM通过最小化随机初始化的权重和偏置的最小二乘解来优化模型,以达到分类正确率最高的效果。

3. ELM的分类方法ELM将输入数据映射到隐层,从而得到特征向量,然后再将特征向量与权重矩阵进行乘积运算得到输出结果。

最后,输出结果经过sigmoid函数处理,得到最终的分类结果。

三、基于ELM的数据分类方法基于ELM的数据分类方法包括以下几个步骤:1. 数据预处理数据预处理是分类的前置工作,主要包括数据清洗、降维和标准化等操作。

其中,数据清洗可以去除数据中的异常值和缺失值,降维可以减少特征向量的维度,标准化可以使数据的分布更加均匀。

2. 配置ELM模型ELM模型的配置包括隐层神经元的选择、激活函数的选择等。

其中,隐层神经元的选择需要根据实际情况确定,通常需要进行交叉验证来确定最优的隐层神经元数量。

ELM极限学习机算法源码

ELM极限学习机算法源码

ELM极限学习机算法源码一、极限学习机(ELM)算法概述极限学习机(ELM)是一种机器学习方法,由乔明·埃德尔霍尔斯(Gao Ming)博士发明。

该方法利用随机权重的网络结构,能够更快速的训练深层神经网络,并减少需要调整的参数。

具体来说,ELM可以用于定义输入和输出之间的非线性回归/分类函数,以及进行数据挖掘和逻辑回归,实现优化和计算机视觉等方面的研究。

二、ELM算法源码实现1.导入相关库并定义函数import numpy as npimport matplotlib.pyplot as plt#定义sigmoid函数def sigmoid(x):return 1 / (1 + np.exp(-x))2.读取数据并处理:#读取数据x = np.loadtxt('data.txt', delimiter=',', dtype='float32', skiprows=1)X=x[:,:-1]y = x[:, -1][:, np.newaxis]#添加偏置项,让数据集变为更合适的格式X = np.hstack([np.ones_like(X, dtype='float32'), X]) 3.训练模型#初始化ELM网络参数input_nodes = X.shape[1]hidden_nodes = 6output_nodes = 1#随机生成权重和偏置W = np.random.normal(size=(input_nodes, hidden_nodes)) b = np.zeros((1, hidden_nodes))# 将输入数据和随机生成的权重输入sigmoid函数H = sigmoid(np.dot(X, W) + b)#计算输出层参数beta = np.dot(np.linalg.pinv(H), y)4.预测#计算预测值y_pred = np.dot(H, beta)#画出预测结果和样本数据plt.scatter(X[:,1], y, label='Real data')plt.plot(X[:,1], y_pred, label='Predicted data') plt.title('ELM')plt.xlabel('Input')plt.ylabel('Output')plt.legenplt.。

MKXZ工具与方法基本工作手册

MKXZ工具与方法基本工作手册

MKXZ工具与方法基本工作手册MKXZ(Multiple Kernelized Extreme Learning Machine)是一种基于多核极限学习机的机器学习方法,它可以用于解决多类别分类和回归问题。

本文将介绍MKXZ工具与方法的基本工作手册,包括算法原理、使用方法和实例分析等内容。

一、算法原理1.1 多核极限学习机(MKELM)简介多核极限学习机是一种基于极限学习机(ELM)的机器学习方法,它主要使用随机生成的隐藏层权重和偏置来建立神经网络模型。

MKELM通过使用多个核函数来提高模型的学习能力和泛化能力。

1.2 多核化的极限学习机(MKXELM)简介多核化的极限学习机是在MKELM的基础上发展而来的方法,它通过将样本数据映射到高维空间中,然后在高维空间中进行学习和分类。

MKXELM通过使用多个核函数和核权重来融合不同的核特征,并构建高性能的分类模型。

1.3 MKXZ(Multiple Kernelized Extreme Learning Machine)简介MKXZ是一种基于MKXELM的机器学习方法,它通过使用多个核函数和核矩阵来构建高性能的分类模型。

MKXZ在MKELM的基础上引入了正则化项和粒子群优化算法,可以进一步提高模型的泛化性能和稳定性。

二、使用方法2.1 数据预处理首先,需要对原始数据进行预处理,包括数据清洗、特征选择、数据缩放等步骤。

可以使用pandas和numpy等库来进行数据处理,确保数据的准确性和一致性。

2.2 模型初始化在使用MKXZ之前,需要初始化模型的参数,包括隐藏层节点数、核函数类型、正则化系数等。

可以使用sklearn库中的ELMRegressor和ELMClassifier来初始化模型,并选择合适的参数。

2.3 数据划分将预处理后的数据划分为训练集和测试集,通常使用交叉验证的方式来划分数据集。

可以使用sklearn库中的train_test_split函数来随机划分数据集,并设置训练集和测试集的比例。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

1 介绍我们在这提出一个基于在线极限学习机和案例推理的混合预测系统。

人工神经网络(ANN)被认为是最强大和普遍的预测器,广泛的应用于诸如模式识别、拟合、分类、决策和预测等领域。

它已经被证明在解决复杂的问题上是非常有效的。

然而,神经网络不像其他学习策略,如决策树技术,不太常用于实际数据挖掘的问题,特别是在工业生产中,如软测量技术。

这是部分由于神经网络的“黑盒”的缺点,神经网络没能力来解释自己的推理过程和推理依据,不能向用户提出必要的询问,而且当数据不充分的时候,神经网络就无法进行工作。

所以需要神经网络和其他智能算法结合,弥补这个缺点。

案例推理的基本思想是:相似的问题有相似的解(类似的问题也有类似的解决方案)。

经验存储在案例中,存储的案例通常包括了问题的描述部分和解决方案部分;在解决一个新问题时,把新问题的描述呈现给CBR系统,系统按照类似案件与类似的问题描述来检索。

系统提交最类似的经验(解决方案部分),然后重用来解决新的问题。

CBR经过二十多年的发展,已经成为人工智能与专家系统的一种强有力的推理技术。

作为一种在缺乏系统模型而具有丰富经验场合下的问题求解方法,CBR系统在故障诊断、医疗卫生、设计规划集工业过程等大量依赖经验知识的领域取得了很大的成功。

但是由于案例属性权值的设定和更新问题,CBR 在复杂工业过程的建模与控制工作仍处于探索阶段,尤其对于预测回归问题,研究的更少。

不同于传统学习理论,2006年南洋理工大学Huang GB教授提出了一种新的前馈神经网络训练方法-极限学习机(ELM),能够快速的训练样本(比BP神经网络训练速度提高了数千倍),为在线学习和权值跟新奠定了基础。

我们提出的基于在线极限学习机的案例推理混合系统,能够使用案例来解释神经网络,用在线学习的方法为案例检索提供案例权值和更新案例权值,为在线预测某些工业生产提供了较好的模型。

2使用在线极限学习机训练特征权值的算法2.1 训练和更新样本特征权值(不是训练样本权值的,要记好,从新选择小题目)在这一节中我们提出如何使用在线极限学习机确定和更新案例库属性权值。

首先使用固定型极限学习机【】对给出的数据进行充分的训练,使训练的样本达到预期的误差范围内。

通过训练后的网络和数据集,我们确定初始案例库的特征权值集。

然后,当一个新的问题(案例)来查询时,我们可以根据基于训练特征权重的训练数据中找出K 个最相似的案例。

当然,OSELM 的预测结果也可以和最邻近的案例相比较。

这提供了扩展的信息数据库中查询与大多数类似的案件。

考虑到工业生产的连续性和耦合性,在这样的动态情况下,在线学习属性至关重要。

在线学习系统可以更新经验数据的特征属性权值,使系统更准确的预测当前工况,达到自然学习过程。

本文针对前期的生产状况进行特征权值初始化,即采用前一段的生产数据预测下一段时间的生产指标状况值。

基本思想如图2所示:设置窗口宽度为n,沿数据的时间轴滑动,依次预测下一段时间的生产数据。

极限学习机的数学模型如图2:o 输入层 隐藏层输出层ELM 的学习方法:给定任意N 个不同的样本{(,)}n m i j x t R R ∈⨯,隐层神经元数目L ,激励函数选择一个非常数的连续函数(,,)i i G a b x ,随机选取隐层参数,,1,2,...,i i a b i L =,ELM 可以以ε误差逼近任意的N 个样本,表示为:1(,,),1,...,Lj iiiijji O G a b x O -t j N βε==≤=∑,(1)其中,i a 是输入权值,i b 是隐层节点的阈值,i x 是输入向量,i β是第i 个隐层元和输出节点的连接权值,j O 是输出向量。

上式可以简化为H T β=,H 为隐层输出矩阵,其中:11,,T T T T L N L m N mt T t βββ⨯⨯⎡⎤⎡⎤⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦1111111()(,,)(,,)()(,,)(,,)L L N N L L L N Lh x G a b x G a b x H h x G a b x G a b x ⨯⎡⎤⎡⎤⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦ 计算输出权值,H T H β++=是隐层输出矩阵的左伪逆矩阵。

考虑到生产过程的实际要求,由于生产的连续性,在这样的动态情况下,在线学习属性至关重要。

在线学习系统可以更新经验数据的特征属性权值,使系统更准确的预测当前工况,达到自然学习过程。

所以此次使用惯序性极限学习机,它具有固定极限学习机的训练速度,又有增量式极限学习机的泛化效率。

惯序性极限学习机的学习和训练过程不是一撮而就的,数据分批次给出,学习过程存在次序性。

任何时候,只有新的训练样本需要被学习,并调整权值。

训练过程不存在任何先验知识,只需要新的数据。

学习算法如下:第一步: 使用固定型极限学习机确定初始样本001{(,)}N i j i x t ψ==权值,使00H T β-最小,获取01000000,T TK H H K H H β-==; 第二步:当有一组新数据来到时,通过下面来更新权值:10101111()T +K H T H βββ-=-,其中1011T K K H H =+;若有1k +个新数据分批给出00111{(,)}N k i j N x t ψ+++=,则有: 111111111(),k k T k T k k k k k k k k K H T H K K H H βββ+-+++++++=+-=+ (3)其中:00000011111111111111(,,)(,,),(,,)(,,)k k TN N L L N k k T N k L L N k N k N L N mt G a b x G a b x H T G a b x G a b x t +++++++++++++⨯⨯⎡⎤⎡⎤⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦(4)2 .2 案例推理(CBR )Shank 教授提出的基于案例推理CBR 属于机器学习领域的类比学习,即通过源问题与目标问题的相似性,查找目标问题的求解方法,其学习本身也是增量式的,可以解决非线性的半结构化或非结构化问题。

从典型的CBR 模型图3可以看出,案例的检索是CBR 周期的一个关键环节。

这一匹配过程的关键是案例间的相似性度量。

由于案例特征项的重要性各不相同,他们在相似度函数中因被设置为不同的值,各特征项权重直接影响着匹配的质量,所以各特征项权重应该提前设置好。

在过去的几十年人们对此提出了各种研究,其中K相邻法最受到人们的关注,最近邻法结合了领域知识,解释能力强,应用相对简单,多数CBR系统采用该算法,也取得了不错的应用效果(如EACH系统)。

K最近邻,就是k个最近的邻居的意思,说的是每个样本都可以用她最接近的k个邻居来代表。

KNN算法不仅可以用于分类,还可以用于回归。

通过找出一个样本的k个最近邻居,将这些邻居的属性的平均值赋给该样本,就可以得到该样本的属性。

更有用的方法是将不同距离的邻居对该样本产生的影响给予不同的权值(weight),如权值与距离成正比。

K-nearest neighbor(k-nn)分类,在训练集合中找到k个目标群体最接近测试目标。

2.3 计算案例检索的权值文献【A Hybrid Approach of Neural Network andMemory-Based Learning to Data Mining 可以换掉】曾提出BP 神经网络来求出特征权值集的四种方法。

由于BP 神经网络和极限学习机的相似性,我们选择其中一种方法来训练。

计算一个输入节点的灵敏度。

通过消除训练神经网络的输入节点。

一个输入节点可能被设置的所有连接权重为零。

衡量一个输入的敏感性特征 时之间的预测价值的差异特性删除,当它离开。

灵敏度的输入特性是由用神经网络训练特征加权值的公式如下:00()iLi P P P S N-=∑ (5)0P 是正常的预测值,i P 是去掉第i 个节点(就是第i 个属性)后的预测值,N 是训练集的样本个数,L 是训练样本集。

3 基于在线极限学习机的案例推理混合系统基于在线极限学习机的案例推理混合系统如图4所示。

在图中特征权值的训练和更新扮演着重要的角色。

一旦网络被训练,它就能够提供现有案例库模型中的特征权值信息,并为新案例检索提供信息。

从图4可以看出,极限学习机和案例推理有两个相同的重要性能。

第一,都可以用来进行分类和回归。

在分类问题上,第二,两个方法都有在线学习的功能。

极限学习机可以在加入新案例后重新训练,这时案例库的特征权值和案例库本身也随之更新。

预测查询管理器接收新问题时同时咨询极限学习机和案例推理系统。

当极限学习机和案例推理系统得到一致的预测值时,预测查询管理器正常返回预测值,当预测不一致时,需要进一步报告专家拒绝这些案例。

表达如下:''''2CBR NN CBR NNifP P Reject to Answer P P else Answer P ε-≥+=ε是要设定的误差阈值。

4 仿真实验This section reports an empirical comparision of our feature weighting methods.我们做出两个方面的考虑,第一,我们采用标准数据库UCI 来验证我们的系统的可行性,数据包括4种(2组分类,2组回归),five standard datasets from the UCI collection are used in the experiments, three for classification task and the other two for regression task 在实验二中,我们采集了广西某化工公司生产数据,如表5所示,预测最后难以在线测量的生产指标pH 值,使系统达到软测量功能。

为了对公司技术的保密,我们使用属性1,属性2.。

来代替生产指标。

同时我们将所得到的结果和文献【】进行比较,问题描述问题(2)什么的分类问题描述问题(3)什么的分类问题描述上面三个进行一个列表处理并且做出这三个拒绝率的图表,和K-NN法进行比较,在同一个图中显示。

问题(4)什么的回归问题描述这个进行权值画图,拟合画图,基于案例推理的直接准确度和我们的混合推理准确度,取不同的K值做横坐标轴,准确率做Y轴。

问题(5)为了验证我们的混合系统能够运用到生产实践的软测量技术中,我们采集广西某化工厂,工段过程包含复杂的物理和化学反应,具有非线性、大滞后和不确定性的特点,难以建立精确的机理模型。

常规神经网络建模是静态映射,实际应用中,权值的调节不能充分利用工业生产现场的动态数据信息,效果不理想。

相关文档
最新文档