传感器动态建模的最小二乘支持向量机方法

合集下载

在线鲁棒最小二乘支持向量机回归建模

在线鲁棒最小二乘支持向量机回归建模张淑宁;王福利;何大阔;贾润达【期刊名称】《控制理论与应用》【年(卷),期】2011(028)011 【摘要】鉴于工业过程的时变特性以及现场采集的数据通常具有非线性特性且包含离群点,利用最小二乘支持向量机回归（least squares support vector regression,LSSVR）建模易受离群点的影响.针对这一问题,结合鲁棒学习算法（robust learning algorithm,RLA）,本文提出了一种在线鲁棒最小二乘支持向量机回归建模方法.该方法首先利用LSSVR模型对过程输出进行预测,与真实输出相比较得到预测误差;然后利用RLA方法训练LSSVR模型的权值,建立鲁棒LSSVR模型;最后应用增量学习方法在线更新鲁棒LSSVR模型,从而得到在线鲁棒LSSVR模型.仿真研究验证了所提方法的有效性.%Industrial processes possess time-varying feature,and data from industrial field usually possess nonlinear feature and contain outliers.Modeling with least-squares-support-vector regression（LSSVR） method may suffer from these outliers.To deal with this problem,we develop an online robust LSSVR method by combining with the robust learning algorithm（RLA）.The LSSVR model is used to predict process outputs,and the residuals are formed from real outputs and predicted outputs.The RLA trains the weights of LSSVR model iteratively.The trained robust LSSVR model is then updated by means of incremental updating algorithm.An online robust LSSVR model is also developed.Simulation results show the effectiveness of the proposed approach.

最小二乘方法

最小二乘方法：原理、应用与实现一、引言最小二乘方法是数学优化中的一种重要技术，广泛应用于各种实际问题中。

它的基本原理是通过最小化误差的平方和来估计未知参数，从而实现数据拟合、线性回归等目标。

本文将对最小二乘方法的原理、应用与实现进行详细介绍，并探讨其在实际问题中的应用。

二、最小二乘方法的原理最小二乘方法的基本原理可以概括为：对于一组观测数据，通过最小化误差的平方和来估计未知参数。

具体而言，设我们有一组观测数据{(xi, yi)}，其中xi是自变量，yi是因变量。

我们希望找到一个函数f(x)，使得f(xi)与yi之间的差距尽可能小。

为了量化这种差距，我们采用误差的平方和作为目标函数，即：J = Σ(f(xi) - yi)²我们的目标是找到一组参数，使得J达到最小值。

这样的问题称为最小二乘问题。

在实际应用中，我们通常采用线性函数作为拟合函数，即：f(x) = a + bx其中a和b是待估计的参数。

此时，最小二乘问题转化为求解a 和b的问题。

通过求解目标函数J关于a和b的偏导数，并令其为零，我们可以得到a和b的最优解。

这种方法称为最小二乘法。

三、最小二乘方法的应用数据拟合：最小二乘方法在数据拟合中有广泛应用。

例如，在物理实验中，我们经常需要通过一组观测数据来估计某个物理量的值。

通过采用最小二乘方法，我们可以找到一条最佳拟合曲线，从而得到物理量的估计值。

这种方法在化学、生物学、医学等领域也有广泛应用。

线性回归：线性回归是一种用于预测因变量与自变量之间关系的统计方法。

在回归分析中，我们经常需要估计回归系数，即因变量与自变量之间的相关程度。

通过采用最小二乘方法，我们可以得到回归系数的最优估计值，从而建立回归方程。

这种方法在经济学、金融学、社会科学等领域有广泛应用。

图像处理：在图像处理中，最小二乘方法常用于图像恢复、图像去噪等问题。

例如，对于一幅受到噪声污染的图像，我们可以采用最小二乘方法对图像进行恢复，从而得到更清晰、更真实的图像。

基于最小二乘支持向量机的振动传感器故障诊断

基于最小二乘支持向量机的振动传感器故障诊断
高杨;史丽萍;吴旭东;张增生;温泉
【期刊名称】《机械与电子》
【年(卷),期】2009(000)005
【摘要】针对目前机械故障诊断中,难以获得大量的故障数据样本以及诊断知识获取困难等不足,提出了专门针对有限样本的新一代机器学习的算法最小二乘支持向量机(LS-SVM),它能够得到现有信息下,不仅是样本数趋于无穷大时的最优解,因此,在样本很少的情况下具有较好的泛化能力,比较适合解决故障诊断小样本情况的实际问题.本文介绍了LS-SVM的基本原理和分类方法,并利用其对振动传感器的常见故障进行诊断,结果表明了LS-SVM对设备故障具有良好的分类效果.
【总页数】3页(P37-39)
【作者】高杨;史丽萍;吴旭东;张增生;温泉
【作者单位】中国矿业大学信息与电气工程学院,江苏,徐州,221008;中国矿业大学信息与电气工程学院,江苏,徐州,221008;中国矿业大学信息与电气工程学院,江苏,徐州,221008;中国矿业大学信息与电气工程学院,江苏,徐州,221008;中国矿业大学信息与电气工程学院,江苏,徐州,221008
【正文语种】中文
【中图分类】TP212
【相关文献】
1.基于经验模式分解法的航空发动机振动传感器故障诊断技术研究 [J], 张宬;艾延廷;刘秀芳
2.基于最小二乘支持向量机的振动切削力软测量模型及其应用 [J], 张海鹰;廖建勇
3.基于PCA与SVM的振动传感器故障诊断方法 [J], 李翼飞; 吴春平; 涂煊
4.基于逐轮淘汰制OVO-RVM的振动传感器故障诊断方法 [J], 陈耿新
5.基于粒子群改进最小二乘支持向量机的汽轮机轴振动故障诊断 [J], 仝瑶瑶;张可馨
因版权原因，仅展示原文概要，查看原文内容请购买。

基于最小二乘支持向量机控制器的研究

Ｖ１３ｏ２ｏ．３Ｎ．
ＨｅｏｇｉｎｌｃｒｏｅｉｎｊｇＥｅｔｃＰｗｒｌａｉ
Ａｒ２１ｐ．０１
基于最小二乘支持向量机控制器的研究
胡兴武，毅罗
（北电力大学控制与计算机工程学院，京１２０）华北０２６摘要：阐述了支持向量机与最小二乘支持向量机的特点，计了基于最小二乘支持向量机的控制器，控制器构设该
Ｏ引言
目前，中国城市生活垃圾成分复杂、水率高、含热值低、机物含量高、机物含量少，无有给焚烧炉燃
烧控制带来一定难度。因此，用全局建模方法很采
（Ｖ方法已在许多领域取得了成功应用。支持ＳＭ）
难精确描述系统，传统的建模方法（神经网络而如
等）数基于经验风险最小化原则，化能力不强，多泛存在“ 过拟合 ” 问题。支持向量机¨ （ｕｐ￣ＶｃｏＳｐｏｅｔｒＭａｈｎｓＳＭ）近年来应用于建模的一种新学习ｃｉｅ，Ｖ是方法，与传统的神经网络相比，持向量机算法最支终将转化为一个二次型寻优问题，理论上得到的在是全局最优点，解决了在神经网络中无法避免的局部极小值问题。最小二乘支持向量机是标准支持
中图分类号：Ｔ７．２Ｐ２３２文献标识码：Ａ文章编号：０２—１６（０１００９０１０６３２１）２— ０８— ４

一种改进的最小二乘支持向量机软测量建模方法

一种改进的最小二乘支持向量机软测量建模方法
毛晓娟;何小阳;温伟峰
【期刊名称】《自动化仪表》
【年(卷),期】2011(032)005
【摘要】针对最小二乘支持向量机(LS-SVM)缺少支持向量所具有的稀疏性和模型参数值难以选择的问题,提出利用马氏距离进行样本相似程度分析,去除集中部分样本,以恢复最小二乘支持向量机的稀疏性的方法.同时,采用κ-折交叉验证误差作为学习目标的粒子群优化算法来选取模型参数,并利用改进算法建立了精馏产品浓度的软测量模型.通过仿真验证了改进算法的有效性.结果表明模型精度较高,泛化能力强,满足工业测量要求.
【总页数】4页(P39-41,45)
【作者】毛晓娟;何小阳;温伟峰
【作者单位】广西大学电气工程学院,广西南宁,530004;广西大学电气工程学院,广西南宁,530004;广西大学电气工程学院,广西南宁,530004
【正文语种】中文
【中图分类】TP274
【相关文献】
1.一种改进细菌觅食优化算法及其在软测量建模中的应用 [J], 李炜;徐卫
2.一种基于改进加权粗糙集的多模型软测量建模方法 [J], 陈定三;杨慧中
3.一种基于混合建模技术的MIMO软测量建模方法 [J], 傅永峰;陈祥华;徐欧官
4.一种基于改进扩张搜索聚类算法的软测量建模方法 [J], 张孙力;杨慧中
5.基于一种改进灰关联分析的双进双出钢球磨制粉出力软测量建模 [J], 冯磊华;桂卫华;杨锋
因版权原因，仅展示原文概要，查看原文内容请购买。

SVM与LSSVM全文

LS-SVM方法简化了计算的复杂性。另外，由于LS-SVM采用了最小二乘法，因此运算速度明显快于支持向量机的其它版本。
3 SVM和示意图
最优分类函数为：
f (x) sgn{
l
*
i1 i
yi
K
(
xi,
x)
b*}
这就是支持向量机。
概括地说，支持向量机就是通过用内积函数定义的非线性变换将输入空间变换到一个高维空间，在这个空间中求最优分类面。
形式的支持向量机。最小二乘支持向量机在优化目标的损
失函数为误差i的二次项。故优化问题为：
min
J (w,
)
1 2
w
w
c
l i 1
i2 , (1)
s t : yi j(xi ) w b i ,i 1,,l.
用拉格朗日法求解这个优化问题
L(w,b, ,
a,
)
1 2
w
w
c
l i 1
i2
l i 1
K (x, xi ) xT xi ;
K (x, xi ) (xT xi r) p , 0; K (x, xi ) exp( x xi 2 ), 0; K (x, xi ) tanh(xT xi r).
例子：意大利葡萄酒种类识别
SVM方法的特点
① 非线性映射是SVM方法的理论基础,SVM利用内积核函数代替向高维空间的非线性映射;
5 最小二乘支持向量机（LSSVM)估计算法
支持向量机主要是基于如下思想：通过事先选择的非线性映射将输入向量映射到高维特征空间，在这个空间中构造最优决策函数。在构造最优决策函数时，利用了结构风险最小化原则。并巧妙的利用原空间的核函数取代了高维特征空间中的点积运算。

鲁棒最小二乘支持向量机及其在软测量中的应用

ｅａｐｅｎｉａｅｈｔｈｐｏｏｅｓｒｔｇｅａｌｓｏｃｉｖａｐｒｅｘｍｌｓｉｄｃｔｔａｔｅｒｐｓｄｔａｅｙｎｂｅｔａｈｅｅｓａｓｍｏｅｗｉｈｈｄｌｔｔｅ
ｉｄｓｒａｉｌｓｔａｎｎａｅｓｔＡｕｚ－ｅｎｌｓｅｉｇａｄｅｓｔｉｈｅｂｓｄｎｕｔｉｌｆｅｄａｒｉｉｇｄｔｅ．ｆｚｙＣｍａｓｃｕｔｒｎｎｄｎｉｗｅｇｔｄａｅｙｓａｓｔｔａｅｙｉｒｐｓｄＴｈｒｉｉｇｄｔｅｓｄｖｄｄｉｔｅｅａｕｓｔｙｆｚｙＣｐｒｉｓｒｔｇｓｐｏｏｅ．ｙｅｔａｎｎａａｓｔｉｉｉｅｎｏｓｖｒｌｓｂｅｓｂｕｚ－ｍｅｎｌｓｅｉｇ；ｔｅｐｔｎｉｌｃｎｒｂｔｏｆｅｃａｐｅｉｃｌｕａｅｎｈａｌｔｈａｓｃｕｔｒｎｈｏｅｔｏｔｉｕｉｎｏａｈｓｍｌｓａｃｌｔｄａｄｔｅｓｍｐｅｗｉｔｅａｈｇｅｔｓｏｅｔａｏｔｉｕｉｎｉｔｗｎｓｂｅｓｓｌｃｅｓｔｅｓｐｏｔｖｃｏ；ｔｅｐｔｎｉ１ｒａｅｔｐｔｎｉｌｎｒｂｔｎｉｏｕｓｔｉｅｅｔｄａｈｕｐｒｅｔｒｈｏｅｔａｃｏｓ
ｉｅａｉｅｙｓｌｃｅ，ｕｔｈｓｒｄｆｅｅｆｒａｃｓａｈｅｅ．Ｔｈｉｕａｉｎａｄａｐｉｄｔｒｔｌｅｅｔｄｖｎｉｔｅｕｅ－ｅｎｄｐｒｏｍｎｅｉｃｉｖｄｌｉｅｓｍｌｔｎｐｌｏｅ

【计算机仿真】_最小二乘支持向量机_期刊发文热词逐年推荐_20140723

1
推荐指数 7 3 2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1
2014年序号 1 2 3 4 5 6 7
科研热词组合导航最小二乘支持向量机最小二乘双支持向量机故障检测支持向量机层次检测加权支持向量机
2013年序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31
科研热词最小二乘支持向量机支持向量机稀疏性鲁棒性高炉非线性系统锅炉热效率铁水温度递推最小二乘法逆控制逆动力学超超临界蚁群优化算法航向控制组合预测线性回归粒子群算法粒子群优化算法粒子群优化滤波气垫船核矩阵最小二乘控制差分自回归滑动平均学习算法固体氧化物燃料电池动态建模传感器人才需求主成分分析
2011年序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29
科研热词最小二乘支持向量机支持向量机优化预测模型非均衡数据阈值遗忘因子遗传算法逆系统逆模型库软测量超磁致伸缩作动器网络故障诊断粒子群算法神经网络短期负荷矩形窗混沌时间序列模型辨识时间序列数学模型支持向量回归对羧基苯甲醛多模型均匀设计参数选择分类内模主动容错控制仿真
2008年序号 1 2 3 4
科研热词软测量泛化能力核主元分析最小二乘支持向量机
推荐指数 1 1 1 1
2009年序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19

基于最小二乘支持向量机的软测量方法在精对苯二甲酸生产中的应用

理，题可以表示为：问
１１
其中，＝Ｚ，据ＭｒｒＺ根ｅｃ法则，入核函数Ｋｅ引
ａ３，ｅ＝ｒｎＪｂ） ÷ ｉ（，
－ｅ毒ｕ
（）２
收稿日期：０００－７修改稿）２１－６０（
Ｏ０
ＯＯＺｙ
般为８ｈ每天只能采集到滞后的数据，要对其颗，需粒进行软测量建模用以对颗粒大小进行实时控制。
２最ｄ－乘（）Ｙ］，Ｚ。．ｙ＝［，…，，Ｙ，
过程控制
化动及表，０，７７：～４工自化仪２０３（）２３１３
ＣｏｔｌａｄＩｓｒｍｅｔｉｈｍｉａＩｄｓｙｎｒｎｎｔｏｕｎｓｎＣｅｃｌｎｕｔｒ
基于最小二乘支持向量机的软测量方法在精对苯二甲酸生产中的应用
同时保持了原有水平的预测能力。结果表明该方法对精对苯二甲酸的颗粒具有较高的预测能力。关键词：支持向量机；测量；对苯二甲酸；时估计软精实中图分类号：Ｐ８；Ｐ７文献标识码：文章编号：１０ —９２２１）７０３－３Ｔ１１Ｔ２３Ａ００３３（０００－２００
１引言
ｓｔＹ［（）＋ｂ．．Ｗ］＝１一ｅ（＝１ … ，ｋ， Ⅳ）
支持向量机是专门针对有限样本情况下如何得
到最优解的一种机器学习方法。通过将实际的问题转换到非线性的高维特征空间，然后在高维的特种空间中构造线性判别函数来实现原来的非线性判别

最小二乘Littlewood-Paley小波支持向量机在发酵过程建模中的应用

ｕｅｓｔｅｓｐｏｔｖｃｏｅｎｌｆｃｉｎ，ａｄｆｒｈｅｈｅｓｑａｅｗａｅｅｕｏｖｃｏａｓｄａｕｐｒｅｔｒｋｒｅｕｎｔｈｏｎｕｔｒｔｅｌａｔｓｕｖｌｔｓｐｐ￣ｅｔｒｍ — ｒ
ｇｒｔｍ．Ｖａａｌｓｕｂｅｔｅｍｅｓｒｄｏｎｌｅｓｃｓｒｍａｎｎｕｒｏｃｎｒｔｎ，ｃｌｃｎｏｉｈｉｒｂｅｎａｌｏｂａｕｅ —ｉｕｈａｅｉｉｇｓｇａｃｎｅｔａｉｎｏｅｌｏ —
第３８卷增刊（Ｉ）Ｉ２００８年１１月
东南大学学报（自然科学版）
ＪＵＲＡＬＯＯＵＨＡＳＮＩＥＳＴ（ａｕａＳｉｎｅＥｉｏ）ＯＮＦＳＴＥＴＵＶＲＩＹＮｔｒｌｃｃｄｔｎｅｉ
摘要：对谷氨酸发酵过程一些关键参数不能在线测量而导致的建模精度不高问题，利用最小针二乘支持向量机（ＳＶ）小波的理论，建立了一种新的模型．首先，选取ＬｔｅｏｄＰｌｙＬＳＭ和ｉｌｏ —ａｔｗｅ小波函数作为Ｌ — Ｖ的核函数，进而设计出最小二乘小波支持向量机（ＳＷＳＭ）ＳＷＳＭＬ— Ｖ，然后利用该算法对谷氨酸发酵过程进行建模．通过实际应用，实现了对残糖浓度、菌体浓度、氨酸谷浓度等不能在线测量变量的较准确预测，相对于ＬＳＭ建模而言，提高了一个数量级，预测ＳＶ误差也明显得到改善，说明了该建模方法的有效性，具有一定的推广和应用价值．

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

ｔａｎｍｉｅｍｐｒｃｌｒｏｒｎｉｌｏｍｏｌｐｅｅｔｄｉｈｅｒｌｅｗｏｋ．ｅＬ — ＶＭｓｃｎｈｎｍｉｉｚｄｅｉｉａｒｒｐｉｃｐｅｃｍｅｎｙｉｌｍｎｅｎｔｅｎｕａｔｒｓＴｈＳＳｍｎａ
ＡｂｔａｔＴｈｅｓｑａｅｕｐｒｅｔｒｍａｈｎｓ（ — ＶＭｓａｅｐｏｏｅｏｏｌｅｒｓｎｏｙｓｒｃｅｌａｔｓｕｒｓｓｐｏｔｖｃｏｃｉｅＬＳＳ）ｒｒｐｓｄｆｒｎｎｉａｅｓｒｄ — ｎ
（ｏｌｅｆＩｆｒｔｎＳｉｃａｄＥｇｎｅｉｇ，ｈｊａｇＮｏｍｌＵｉｅｓｙ，ｉｈａ３１０，ｈｎ）ＣｌｇｎｏｍａｉｃｎｅｎｎｉｅｒｎＺｅｉｎｒａｎｖｒｉＪｎｕ２０４Ｃｉａｅｏｏｅｔ
ａｈｉｖｅｈｉｈｅｇｎｅａｉａｉｎｅｆｒａｅＡｌｏ，ｌａｍｉｍａｎｄｖｒｉｔｎｇｒｕｎｌｌｔｏｃ．ｃｅｇｒｅｒｌｚｔｏｐｒｏｍｎｃ．ｓｏｃｌｎｉａｏｅｆｔｉａｅｉｙｏｃｕｒｋｅＴｈｒｆｒｅｅｏｅ，ｔｅＬＳ— ＶＭｓｃｎｏｖｒｏｅｔｅｓｒｃｈＳａｅｃｍｈｈｏｔｏｍｉｓｏｆｎｒｌｎｅｗｏｋｓｉｅｏｎａｃｍｏｅｉ．ｎｇｅｕａｔｒｎｓｎｓｒｄｙｍｉｄｌｎｇ
ＴｈｆｅｔｅｅｓａｄｒｌｂｌｙｏｈｅｈｄａｅｄｍｏｓｒｔｄｉＷＯｅａｌｓｅｅｆｃｉｎｓｎｅｉｉｔｆｅｍｔｏｒｅｎｔａｅｔｘｍｐｅ．Ｔｈｘｅｉｅｔｌｅｕｔｖａｉｔｎｅｅｐｒｍｎａｓｌｓｒｓｏｔａｈｅｈｄｉｔｌｅｆｃｉｅｅｅｆｔｅｓｎｏｙａｉｍｏｅｓｈｇｌｏｌｅｒｈｗｈｔｔｅｍｔｏｓｓｉｆｅｔｖｎｉｈ．ｎ
ｎａｃｍｏｄｌｍｉｅｉｎｇ．ＴｈｅＬＳ— ＶＭｓｗｅｅｅｔｂｌｓｄｓｄｏｈｅｓｒｔａｉｋｍｉｍｉａｉｎｐｉｉｅｒｔｅＳｒｓａｉｈｅｂａｅｎｔｔｕｃｕｒｌｒｓｎｉｚｔｏｒｎｃｐｌａｈｒ
传感器动态建模的最小二乘支持向量机方法
汪晓东张长江张浩然冯根良许秀玲
（江师范大学信息科学与工程学院浙金华３１０）２０４
摘要
提出了应用最小二乘支持向量机（ＳＳＬ－ＶＭｓ建立传感器动态模型的方法。Ｌ－ＶＭｓ的训练过程遵循的是结构风险）ＳＳ
维普资讯
第２卷７
第７期
仪器仪
ＣｈｎｓｏｒａｆｉｅｅＪｕｎ１ｏ
学报
Ｉｔｕｅｎｓｒｍｎｔ
Ｖｏ．７ＮＯ７１２．
２０年７０６月
Ｊ１０６ｕ．２０
言目
最小化原则，不是通常神经网络的经验误差最小化原则，循该原则可获得更好的泛化性能，不易发生局部最优及过拟而遵且合现象，因此可以克服应用人工神经网络建立传感器动态模型的缺陷。通过实例验证了该方法的实用性及可靠性。实验结
Ｓｎｏｙｍｉｏｅｉｓｎｇｌａｔｓａｅｓｐｏｔｖｃｏａｈｎｅｅｓｒｄｎａｃｍｄｌｎｇｕｉｅｓｑｕｒｕｐｒｅｔｒｍｃｉｓ
ＷａｇＸａｄｎＺａｇＣａｇｉｎＺａｇＨａｒｎＦｎｎｉｇＸｉｌｇｎｉｏｏｇｈｎｈｎｊｇｈｎｏａｅｇＧｅｌｎｕＸｕｉａａｎ
Ｋｅｒｓｎｓｒｄｙｍｉｏｌｎｇｌａｔｓａｅｕｏｒｅｔｒｍａｈｉｓｙｗｏｄｓｅｏｎａｃｍｄｅｉｅｓｑｕｒｓｓｐｐｔｖｃｏｃｎｅ
ＳＣ果表明，使传感器动态模型存在严重非线性，方法也仍然有效。即该
关键词传感器
Ｃ中图分类号
表＿吾
动态建模
最小二乘支持向量机４０４２６．００
Ｔ２２ＴＰ８文献标识码Ａ国家标准学科分类代码Ｐ１１３