基于混沌遗传算法的SVM特征和参数优化
基于混沌鄄懒蚂蚁SVM_的抽油机故障识别

第41卷 第1期吉林大学学报(信息科学版)Vol.41 No.12023年1月Journal of Jilin University (Information Science Edition)Jan.2023文章编号:1671⁃5896(2023)01⁃0138⁃07基于混沌⁃懒蚂蚁SVM 的抽油机故障识别收稿日期:2022⁃04⁃26作者简介:李倩(1995 ),女,黑龙江大庆人,东北石油大学助理工程师,硕士研究生,主要从事电工理论与新技术研究,(Tel)86⁃182****9434(E⁃mail)1340128463@;付光杰(1962 ),女,吉林通化人,东北石油大学教授,博士生导师,主要从事电力电子技术㊁电机调速控制技术和电力系统节能技术等研究,(Tel)86⁃139****0179(E⁃mail)fgjmhw@㊂李 倩,付光杰(东北石油大学电气信息工程学院,黑龙江大庆163318)摘要:由于抽油机故障诊断因故障种类繁多且系统复杂而导致识别准确率低,增加了故障诊断难度,因此根据SVM(Support Vector Machine)工作原理,应用蚁群算法并用其调整SVM 的惩罚系数以及核函数参数,为避免蚁群算法陷入局部最优解,通过引入懒蚂蚁策略,在蚁群算法停滞后利用懒蚂蚁再次更新信息素从而使蚁群获取新的路径㊂为进一步降低蚁群算法出现局部最优解的问题并提高蚁群算法普通蚂蚁个体在寻优初期的搜索速度,通过利用混沌初始化和扰动优化懒蚂蚁使其具有更好的全局寻优特性㊂并利用抽油机井的测试数据作为检验该故障诊断系统的样本数据,实验结果表明,该故障诊断系统具有较高的故障识别准确率㊂关键词:抽油机;故障诊断;支持向量机;蚁群算法;混沌算法中图分类号:TM93文献标志码:AFault Identification of Pumper Based on Chaos⁃Idle Ant SVMLI Qian,FU Guangjie(School of Electrical and Information Engineering,Northeast Petroleum University,Daqing 163318,China)Abstract :Failure diagnosis of oil pumping machine has low identification accuracy due to various faults and complex system,which increases the difficulty of fault diagnosis.After clarifying the working principle of SVM,the ant colony algorithm is carefully studied to adjust the penalty coefficient of SVM(Support Vector Machine)and the kernel function parameters.The ant colony algorithm has the problem of easy to fall into the local optimal solution,which introduces the idle ant to update the pheromone again after the ant colony algorithm fails to enable the ant group to obtain new paths.In order to further reduce the problem of local optimal solution of ant colony algorithm and improve the search speed of ordinary ants in the early stage of optimization,idle ants are optimized by using chaotic initialization and chaotic perturbation.The test data of the pumping machine shows that the proposed fault diagnosis system has high fault identification accuracy.Key words :pumping unit;fault diagnosis;support vector machine (SVM );ant colony algorithm;Chaotic algorithm 0 引 言抽油机故障诊断技术开展的比较早,受当时技术水平的影响,诊断技术的实施并不理想㊂目前抽油机井故障诊断仍然是以人工巡视油井为主,这需要大量的人力资源[1]㊂随着科技的快速发展,智能检测技术的重要性逐渐凸显[2]㊂由于抽油机井在野外分散分布,而已经使用无线巡检装置的油田依然不能准确地获取到抽油机现场实时数据和完成计算机数据的处理[3]㊂为及时准确了解油井工况,因此将智能诊断技术应用于油田生产中,进而实现油田产量的改善,同时也使其经济效益得到提高㊂我国开始大量研究抽油机故障诊断技术是在20世纪70年代,近年来随着科技的快速发展,人工智能算法得到了飞速发展,并已广泛应用于各领域的故障诊断㊂2001年,孙玉龙[4]将神经网络应用于抽油机故障诊断系统中,提出了一种能自适应学习的神经网络学习算法,创建系统预测模块,并经过大量的测试验证了该方法的有效性㊂2017年,于德亮等[5]采用自适应遗传算法优化RBF(Radial Basis Function)神经网络,将能反映出抽油机运行状态的特征向量输入到故障诊断模型,进而实现抽油机诊断㊂2020年,杜娟等[6]将轻量注意力卷积神经网络引入到抽油机故障诊断中,该种方法可减少硬件的存储容量,有效提高故障诊断效果㊂国内外诸多学者均高度重视抽油机故障诊断技术的研究与发展㊂目前的诊断方法已能较准确地判断抽油机工况,但准确性还有待提高㊂抽油机故障诊断的实现途径是通过现场采集抽油机机电设备运行参数后将所得数据全部传输到计算机中进行数据处理,实现对抽油机的故障诊断以及预警,保障采油作业的安全以及采油效率,进而实现油井产量的增长,最终实现油田的智能化与数字化㊂笔者主要针对支持向量机(SVM:Support VectorMachine)进行优化,为改进蚁群算法性能先将混沌策略与蚁群算法相结合,然后用混沌⁃蚁群算法实现SVM优化,再将其用于抽油机井的故障诊断㊂1 SVM基本原理SVM的算法策略为在高维的空间内通过最大间隔的超平面分开样本数据[7],当样本数据分开后,在这个最大间隔的超平面的两边分别创建一个平行的超平面,对这两个超平面进行隔离,使其间的距离最宽㊂SVM的理想状态就是超平面间的距离足够宽,使分类的效果更加明显㊂对样本集(x i,y i)构造适用于线性不可分问题的超平面的优化函数和约束条件如下min:W=‖w‖2/2+c∑iξi, c>0,(1) subject to:y i(w㊃x i+b)≥1-ξi, ξi≥0, ∀i㊂(2)其中w为权值矢量;ξi为松弛变量;c为惩罚因子,表示对错误的惩罚程度;b为阈值㊂根据KKT(Karush⁃Kuhn⁃Tucker Conditions)理论和拉格朗日变换以及核函数K(x i,x j),二次凸规划最优化的问题可变换为min:W=∑n i=1αi-12∑n i=1∑n j=1αiαj y i y j K(x i,x j),(3)subject to:∑n i=1αi y i=0, 0≤αi≤c, ∀i,(4)其中K(x i,x j)=exp(-‖x i-x j‖2/2σ2)㊂在特定的样本中,若c的取值较小,将会使训练误差惩罚程度变小,SVM的复杂度变小但导致了经验风险变大;在c的取值接近无穷大时,样本将会符合全部约束条件,此时SVM算法能对全部样本准确识别,但计算量非常巨大[8]㊂核函数参数σ与学习样本的空间范围有关,输入空间越大,其值也应越大㊂由此可见,要想SVM的识别效果达到最优,就要找寻到适合的c和σ㊂2 懒蚂蚁算法2.1 蚁群算法基本原理假设蚁群中蚂蚁个体的数量为m,该问题中共包含l个城市,城市i和j(i,j=1,2, ,l)之间距离记作d ij,在d ij路径上含有的信息素浓度随时间的变化量记作τij(t);对任意一只蚂蚁个体k需要在其游历城市时标记已经走过的城市和还需要游历的城市,分别对应禁止访问和允许访问,这两个表被称为禁忌表tab u k和允许访问表allowed k㊂根据p k ij(t)=ταij(t)ηβij(t)∑s∈allowedταij(t)ηβij(t),j∈allowed k,0,ìîíïïïï其他(5)931第1期李倩,等:基于混沌⁃懒蚂蚁SVM的抽油机故障识别定义蚂蚁k 在时刻t 时从城市i 转向城市j 的概率[9]㊂其中ηij (t )为启发式信息变量,可反映蚂蚁k 进行本次城市转移的期望程度;参数α和β为常数,分别体现信息浓度和启发式信息对路径选择与判断的重要性程度㊂为有效利用蚁群个体对路径的寻优经验,在构建路径时蚁群系统采取 伪随机比例规则”㊂以蚂蚁个体k 为例,其从城市i 转移至城市j 的规则如下:j =arg max{τij [ηij ]β},q ≤q 0,J ,其他{,(6)其中arg max()为最大值自变量点集函数;q 为随机变量,满足在区间[0,1]内的均匀分布,q 0为可设置的决定路径构建的常量;J 为根据式(5)所得的概率而定的变量,即体现了状态转移规则㊂若在时刻n ,蚂蚁k 完成了对l 个城市的游历,则需要进行信息素浓度更新,记当前时刻的信息素浓度需更新为τk ij (t +n ),其表达式如下:τk ij (t +n )=ρτk ij (t )+Δτk ij ,(7)其中ρ为信息素浓度衰减系数;Δτk ij 为蚂蚁k 在d ij 上的信息素含量,其计算公式如下:Δτk ij =Q /L k ,蚂蚁k 在本次循环中经过城市i 和j ,0,蚂蚁k 在本次循环中未经过城市i 和j {,(8)其中Q 为数值为正的常量;L k 为蚂蚁k 在本次完成所有城市游历后所走的距离和[10]㊂2.2 懒蚂蚁策略针对蚁群算法易陷入局部最优解的问题,引入懒蚂蚁(IAC:Idle Ant Colony)策略, 懒蚂蚁”能在蚁群觅食过程中起到信息交互㊁危机预警以及事项分派的作用㊂因此,这些 懒蚂蚁”对复杂系统的寻优可进行有效引导,加快算法的搜索效率,并可在普通蚂蚁陷入困境时释放懒蚂蚁增加全局寻优的概率㊂懒蚂蚁的路径搜索过程主要包括:懒蚂蚁初始化㊁路径构建和信息素更新㊂懒蚂蚁寻优的初始化包括两部分:信息素和位置初始化[11]㊂当普通蚂蚁进行了θ次循环后需要舍弃部分路径㊂将构成当前最优解的n 个路径进行长度排序,选取长度前m (m <n )个路径的节点作为这些懒蚂蚁的初始位置㊂懒蚂蚁路径构建公式如下:s =L nn_list [i ][r ],q ≤q 0and V best ,S ,其他{,(9)其中V best 为由长度前m 个路径涉及的城市所组成的城市表;q 为随机变量,满足在区间[0,1]内的均匀分布,q 0为可设置的决定路径构建的常量;S 为满足式(6)的随机变量,L nn_list [i ][r ]为城市近邻表,表示城市i 周围最近的r 个城市索引号,若有L nn_list [i ][r ]=j 则表示下一个转移的城市为j ㊂这一规划方法则会加大对当前已寻路径的利用㊂懒蚂蚁信息素更新策略如下:τij (t +1)=(1-ρ)τij (t )+ψ(h )ρΔτbs ij ,(10)其中Δτbs ij 为最优蚂蚁个体完成本次循环后释放的信息素;ψ(h )为对最优路径上信息素的影响函数,其中Δτbs ij =1/C bs ,表示最优蚂蚁释放的信息素含量,C bs 为最优路径的总长;ρ为信息素的蒸发速度,h 为蚁群系统当前时刻最优路径成为最优路径的次数㊂设定同一路径持续成为最优路径的最大次数为M ,当出现h >M 时,需要降低该路径的信息素浓度[12],因此ψ(h )的计算公式如下:ψ(h )=M /h -1㊂(11)3 混沌⁃懒蚂蚁优化SVM3.1 混沌⁃蚁群算法 混沌”是指一个具有确定性的系统中展现出的不规则运动㊂该运动看似毫无规则,不具有周期性㊁确定性㊁可重复性,但在微观层面上具有无穷嵌套的自相似几何结构,同时呈现出有序性㊂混沌系统常见的映射为Logistic 映射,其混沌变量的更新公式如下:041吉林大学学报(信息科学版)第41卷x (t +1)=μx (t )(1-x (t )), 0<x (t )<1,(12)其中当控制变量μ取值设定为4时,混沌变量x (t )在(0,1)取值内具有最具遍历性㊂该算法策略的优势在于可利用混沌算法进行混沌初始化和扰动㊂混沌懒蚂蚁算法的主要操作说明如下㊂普通蚂蚁混沌初始化:蚁群系统在进行算法初始化时,将路径的信息素浓度均设置为相同的浓度值㊂这样的设置虽然有助于让蚂蚁个体寻遍所有的城市[13],但无疑会在算法初期加大蚂蚁个体的工作量从而影响收敛速度㊂为加快收敛速度,可利用混沌算法率先针对所有的路径产生相同数量的混沌量,并初步判断出相对优秀的路径从而加大对这些路径信息素浓度的设置以便引导普通蚂蚁对优秀路径做出选择㊂懒蚂蚁混沌扰动:如果释放懒蚂蚁后寻优精度仍不能满足要求则启动混沌扰动措施㊂混沌扰动是指利用混沌系统的随机性产生一个伪随机变量作为混沌扰动㊂当这个混沌扰动加入到基于懒蚁群算法中的全局信息素更新过程中可继续帮助懒蚂蚁算法提高算法的收敛精度,跳出由懒蚂蚁产生的局部最优解㊂混沌扰动作用下懒蚂蚁算法的全局信息素更新公式如下:τij (t +1)=(1-ρ)τij (t )+ψ(h )ρΔτbs ij +λz ij ,(13)其中λ为混沌变量的调整参数;z ij 为混沌变量;i ,j 为游历城市;该z ij 变量由式(12)产生,每次循环完成后产生一个新的混沌变量并将其代入式(13)便可得到信息素更新㊂混沌优化懒蚂蚁算法(Chaos Idle Ant Colony)时需在懒蚂蚁完成信息素更新后评选出最优蚂蚁,然后利用混沌算法在该最优蚂蚁个体的周围进行搜索,如果搜索到更优解则将该解信息赋值给最优蚂蚁个体实现最优个体的更新㊂混沌算法的搜索范围需要预先设定,但随着实际问题的需要固定的搜索半径并不能始终展现良好的搜索效果㊂因此,提出动态调整混沌算法搜索半径的思想,使搜索半径随着迭代的不断进行而不断缩小[14]㊂实现搜索半径的动态调整的主要操作是将式(11)中的混沌变量(0,1)的取值区间通过线性变换转换为(r ,-r )范围内,r 即混沌搜索变量,只需要在混沌算法参数初始化时设置r 的初始值,r 在算法进行过程中的动态调整如下:r (t )=1-(1+exp(-0.02t +4))-1㊂(14) 基于混沌优化的懒蚂蚁算法的具体实现步骤为:步骤1) 蚁群算法㊁混沌算法参数设置及普通蚂蚁个体混沌初始化;步骤2) 利用普通蚂蚁进行寻优搜索,并判断算法是否出现停滞,若未停滞则不断进行普通蚂蚁的寻优操作,若出现停滞则进入步骤3);步骤3) 释放懒蚂蚁并进入懒蚂蚁算法,对现有的最优蚂蚁个体进行信息素浓度更新和路径规划;步骤4) 判断算法是否达到所需的寻优精度,若满足精度要求则输出寻优结果,否则进入步骤5);步骤5) 启用混沌搜索,计算搜索半径值并在半径范围内进行搜索操作,搜索到更优解后替代现有的最优解;步骤6) 更新最优解后进行蚁群算法的全局更新;步骤7) 判断算法是否达到最大迭代次数或满足算法的精度要求,若达到终止条件则停止搜索并输出最优解;否则并跳转至2)进入下一次大循环㊂3.2 混沌⁃懒蚂蚁算法SVM 的故障诊断利用混沌⁃懒蚂蚁算法优化SVM 参数的方法在于选取两组蚁群分别优化SVM 的惩罚系数c 和核函数参数σ㊂蚁群算法以对未知样本预测的训练误差最小为目标函数㊂两个蚁群每次迭代后得到参数最优值后代输入SVM 模型中计算诊断的准确率;并在该路径上增加信息素浓度,进入下一次的迭代寻优,直至达到算法停止条件㊂用混沌⁃懒蚂蚁算法优化SVM 参数c 和σ的具体流程如下:1)初始化,设置两个蚁群的勤蚂蚁和懒蚂蚁数量㊁信息素浓度㊁迭代次数㊁初始路径㊁混沌搜索半141第1期李倩,等:基于混沌⁃懒蚂蚁SVM 的抽油机故障识别径㊁c 和σ等参数进行初始化处理;2)配置SVM 中的所有数据集㊂包括训练数据集㊁训练数据标签㊁目标数据集㊁以及目标数据标签;3)以SVM 训练误差为适应度函数计算适应度值,利用混沌⁃懒蚁群算法对两种群进行优化搜索并输出最优结果;4)判断算法迭代次数是否达到终止条件,若未达到迭代次数加1后跳转至2);若已达到最大迭代次数则执行5);5)确定SVM 的最优参数c best 和σbest ㊂混沌⁃懒蚂蚁算法优化SVM 参数的执行过程如图1所示㊂图1 混沌⁃懒蚂蚁算法优化SVM 参数流程Fig.1 The chaos⁃idle ant algorithm optimizes the SVM parameter flow 4 仿真验证仿真实验利用LibSVM 工具箱自有的训练与预测函数㊂仿真测试的示功图全部来源于某油田采油厂的数据库,选取8种具有代表性的典型示功图,包括正常工况示功图,编码记作1;7种典型故障的示功图分别为气体影响㊁供液不足㊁游动阀漏失㊁固定阀漏失㊁油井出砂㊁活塞下行碰泵㊁抽油杆断脱,分别编码记作2~8㊂在数据库中总共选取190个示功图,选择105个示功图作为训练样本,其余的85个示功图作为测试样本㊂在小波不变矩特征值经过转换法归一化后进行仿真实验㊂SVM 的参数通过经验值设定为c =2和σ=0.03,进行故障识别㊂按照预先分好的训练与测试样本集进行实验,首先选择105个示功图的小波不变矩特征值作为训练集进行训练,创建SVM 分类器模型,识别的结果如图2a 所示㊂SVM 分类器模型创建后,将85个示功图的小波不变矩特征值作为测试数据输入到SVM 分类器进行识别㊂识别后的结果如图2b 所示㊂图2 传统SVM 故障识别结果Fig.2 Traditional SVM fault identification results 从图2可看出,训练样本与测试样本的识别率都不是很理想,其准确性均未超过80%,分别为75.24%和71.94%,选择经验值设置SVM 的参数的识别效果有限,不能很好地进行故障识别,需要对SVM 算法中参数σ和c 进行优化㊂为进一步提升SVM 算法识别率,笔者使用CIAC(Chaos Idle Ant Colony)算法优化SVM 的参数σ和c ㊂CIAC 参数设定为:CIAC⁃SVM 中蚁群个数为100,最大迭代次数为400,α=1,β=2,ρ=0.1㊂核函数241吉林大学学报(信息科学版)第41卷使用RBF 函数,根据文献[15]中的研究结果设定参数范围分别为c ∈(2-7,212)和σ∈(2-10,220)㊂在对惩罚因子c 与参数σ寻优后,再次采用训练样本进行训练,创建SVM 分类器模型,通过CIAC 优化后SVM 识别结果如图3a 所示㊂SVM 分类器模型创建后,再次将85个示功图的小波不变矩特征值作为测试数据输入到SVM 分类器进行识别㊂经过CIAC 优化后SVM 识别结果如图3b 所示㊂图3 CIAC⁃SVM 故障识别结果Fig.3 The CIAC⁃SVM fault identification result 从图3可看出,使用混沌⁃懒蚂蚁算法得出的参数σ和c 作为SVM 的参数,训练样本的识别率持续维持在高水平,测试样本的识别率也均在96%以上㊂因此,经CIAC 优化后SVM 算法与传统的经验法相比,采用混沌⁃懒蚂蚁的参数选择方法使SVM 的学习能力得到了较大提高,同时也使SVM 识别效果得到很大提升㊂5 结 语针对传统支持向量机面对复杂的故障识别时出现故障识别准确度低的问题,笔者利用蚁群算法对其关键参数进行优化㊂为提高蚁群算法搜索全局最优解的准确性和寻优速度,提出了混沌⁃懒蚂蚁算法,利用混沌初始化和混沌扰动使懒蚂蚁算法具有跳出算法停滞的能力㊂通过和传统蚁群算法故障识别准确性进行对比验证,该方法的准确率得到明显提升,其有效性和准确性得到充分验证㊂虽然笔者利用智能算法搭建了抽油机井的故障识别系统,但仍存在一定的不足,例如样本数据还不够充足,该系统是否适用于其他油田的抽油机井故障识别还有待验证,将在日后的工作中不断检验㊂参考文献:[1]付光杰,周昕奇,王磊,等.基于矩特征傅里叶描述的示功图故障诊断研究[J].化工自动化及仪表,2015,42(4):401⁃405.FU G J,ZHOU X Q,WANG L,et al.Study on Power Diagram Fault Diagnosis Based on Moment Characteristic Fourier Description [J].Chemical Automation and Instrument,2015,42(4):401⁃405.[2]宋微,冯子明,张德实,等.游梁式抽油机变速驱动优化建模与节能机理研究[J].化工机械,2020,47(3):348⁃354.SONG W,FENG Z M,ZHANG D S,et al.Optimization Modeling and Energy Saving Mechanism of Swimming Beam Pumping Machine [J].Chemical Machinery,2020,47(3):348⁃354.[3]杨亮.数字化油田生产中的智能化管理措施[J].化学工程与装备,2019(5):301⁃302.YANG L.Intelligent Management Measures in Digital Oil Field Production [J].Chemical Engineering and Equipment,2019(5):301⁃302.[4]孙玉龙.分层有杆抽油系统井下故障诊断技术[D].杭州:浙江大学机械电子工程系,2001.SUN Y L.Downhole Fault Diagnosis Technology of Layered Rod Extraction System [D ].Hangzhou:Department of Mechatronic Engineering,Zhejiang University,2001.[5]于德亮,李妍美,丁宝,等.潜油柱塞泵MMAGA⁃RBF 故障诊断方法[J].哈尔滨工业大学学报,2017,49(9):159⁃165.YU D L,LI Y M,DING B,et al.Submersible Plunger Pump MMAGA⁃RBF Fault Diagnosis Method [J].Journal of Harbin341第1期李倩,等:基于混沌⁃懒蚂蚁SVM 的抽油机故障识别441吉林大学学报(信息科学版)第41卷Institute of Technology,2017,49(9):159⁃165.[6]杜娟,刘志刚,宋考平,等.基于卷积神经网络的抽油机故障诊断[J].电子科技大学学报,2020,49(5):7⁃12. DU J,LIU Z G,SONG K P,et al.Fault Diagnosis of Pumping Ker Based on Convolutional Neural Network[J].Journal of University of Electronic Science and Technology,2020,49(5):7⁃12.[7]SHANKAR K,LAKSHMANAPRABU S K,GUPTA D,et al.Optimal Feature⁃Based Multi⁃Kernel SVM Approach for Thyroid Disease Classification[J].Journal of Supercomputing,2020,76(2):1128⁃1143.[8]AFEK Y,GORDON D M,SULAMY M.Idle Ants Have a Role[J].Computer Science,2016,16(5):68⁃74.[9]张立毅,王迎,费腾,等.混沌扰动模拟退火蚁群算法低碳物流路径优化[J].计算机工程与应用,2017,53(1): 63⁃68,102.ZHANG L Y,WANG Y,FEI T,et al.Chaos Perturbation Simulation of Annealing Ant Colony Algorithm Low⁃Carbon Logistics Path Optimization[J].Computer Engineering and Application,2017,53(1):63⁃68,102.[10]STIGHEZZA M,V BIANCHI,MUNARI I D.FPGA Implementation of an Ant Colony Optimization Based SVM Algorithm for State of Charge Estimation in Li⁃Ion Batteries[J].Energies,2021,14(21):1⁃12.[11]LI X,ZHENG A,ZHANG X,et al.Rolling Element Bearing Fault Detection Using Support Vector Machine with Improved Ant Colony Optimization[J].Measurement,2013,46(8):2726⁃2734.[12]KADRI O,MOUSS H.Identification and Detection of the Process Fault in a Cement Rotary Kiln by Extreme Learning Machine and Ant Colony Optimization[J].Academic Journal of Manufacturing Engineering,2017,15(2):43⁃50. [13]XING Y L,SUN S Y,HE X.Research on Improved Ant Colony Algorithm Based on Idle Ant Colony System[C]∥Proceedings of2011International Conference on Computers,Communications,Control and Automation Proceedings(CCCA 2011V3).Hokkaido,Japan:Springer,2011:225⁃228.[14]LIU C Y,MU F R,ZHANG W L.Cloud Computing Demand Elasticity Algorithm based on Ant Colony Algorithm[J].Recent Advances in Electrical&Electronic Engineering,2021,14(1):37⁃43.[15]高雷阜,张秀丽,王飞.改进蚁群算法在SVM参数优化研究中的应用[J].计算机工程与应用,2015,51 (13):139⁃144.GAO L F,ZHANG X L,WANG F.Application of an Improved Ant Colony Algorithmin SVM Parameter Optimization Studies [J].Computer Engineering and Application,2015,51(13):139⁃144.(责任编辑:张洁)。
融合改进遗传和人工蜂群的SVM参数优化算法

基于遗传优化的PCA_SVM控制图模式识别

0
引言
控制图是统计工序质量控制的重要工具, 被广泛应用于生
提高识别精度的有效方法 。因此, 研究质量控制图模式识别中 的人工智能方法具有重要价值 。 目前国内外学者分别基于原始数据和基于特征两个方面 对控制图模式进行智能识别并取得一定成果 Guh 等人
[4 , 5 ] [2 , 3 ]
产现场的质量控制。控制图的模式识别对诊断加工异常因素 起着至关重要的作用
作者简介: 李 太 福 ( 1971-) , 男( 通信 作 者 ) , 四 川 资 阳 人, 教授, 硕 导, 博士, 主要研究方向 智能 控 制 与 模 式识 别 ( litaifuemail@ qq. com ) ; 胡 胜 ( 1988-) , 男, 湖北黄冈人, 硕士研究生, 主要研究方向为应用统计、 质量管理; 魏正元( 1975-) , 男, 湖北襄阳人, 副教授, 硕导, 博士, 主要研究方向为 应用概率、 随机过程统计; 韩亚军( 1980-) , 男, 甘肃萧山人, 讲师, 硕士, 主要研究方向为机电控制.
[10 ]
模块和模式分类模块, 该文中采用径向基函数神经网络对控制 图进行模式识别; 杨元世等人 提出了基于主元分析( PCA ) 和支持向量机( SVM ) 的控制图失控模式智能识别方法, 该方
51075418 ) ; 重 庆 市 自然科学基金资 基金项目: 国家自然科学基金资助项目( 61174015 ,
[14 ]
该方法 小波分析和支持向量机结合起来就基本模式进行识别, 首先将工序质量数据进行小波包分解, 提取各个频带能量信 息, 然后通过 SVM 进行识别。 问题的关键在于小波基函数的 选择以及支持向量机参数的选取 。 相关研究表明: 基于特征的控制图模式分类器识别模型有 降低了分类器的复杂度, 缩短了训练 效提取了样本特征信息, 时间, 具有一定的泛化能力, 优于基于原始数据的分类器模型 。 SVM 还存在有待完善的地方 。 但是作为一种新兴的学习机器, 其参数选取便是亟待解决的问题之一, 惩罚因子 C、 核函数以 及核函数参数取值的好坏直接影响分类器的识别精度和效率 。 GA ) [12,13] 是一种基于群体的智 而遗传算法( genetic algorithm, 具有很强的鲁棒性、 隐含并行性和全局搜索特性 能寻优算法, SVM 控 本文提出一种基于遗传优化的 PCA等优点。鉴于此, 制图模式识别方法。从特征子空间的优化出发提取有效样本, 采用遗传算法来搜索 SVM 中的最优参数, 然后用 SVM 分类器 对控制图模式进行识别 。最后用实验数据加以验证, 并与其他 各种分类器识别模型进行了效果对比 。
混沌遗传算法及其应用

混沌遗传算法及其应用第一章节混沌遗传算法及其应用混沌遗传算法(Chaos Genetic Algorithm,CGA)是一种混合优化算法,它结合了遗传算法(Genetic Algorithm,GA)和混沌理论,采用混沌迭代技术作为遗传算法的搜索过程,从而构建出一种新的全局优化技术。
CGA通过利用混沌的性质,使得遗传算法能够更好地探索搜索空间,从而改进遗传算法的优化能力。
因此,CGA已经广泛应用于优化问题的求解中,取得了良好的效果。
混沌遗传算法的基本原理是将混沌迭代技术和遗传算法相结合,以混沌迭代技术作为遗传算法的搜索过程,把混沌序列用作遗传运算的种群变异率,从而改变遗传算法的搜索属性。
混沌迭代技术用来控制种群变异率,使得搜索过程更加全局化、更加稳定。
因此,可以更好地搜索最优解,较快地收敛,并且抗局部最优解的能力也得到提高。
混沌遗传算法的应用十分广泛,常被用于求解优化问题。
在工程领域,CGA可以用于结构优化、项目调度、网络优化等;在控制领域,可以用于模式识别、模糊控制、鲁棒控制等;在信息处理领域,可以用于图像处理、语音处理、文本处理等。
此外,CGA还可以应用于生物信息学、金融工程、金融分析等领域。
为了更好地利用混沌遗传算法,在应用过程中,可以通过设置正确的参数来提高算法的性能。
首先,可以根据优化问题的特性确定种群规模。
其次,可以根据问题的特性确定个体的变异率,以及个体之间的交叉率。
最后,可以根据问题的特性确定混沌迭代技术的参数,以便更好地搜索全局最优解。
总之,混沌遗传算法是一种新型的全局优化技术,可以有效地求解优化问题。
CGA利用混沌迭代技术和遗传算法相结合,使得搜索过程更加全局化、更加稳定,从而更好地搜索最优解,较快地收敛,并且抗局部最优解的能力也得到提高。
在应用过程中,可以通过设置正确的参数,来提高算法的性能。
因此,CGA已经广泛应用于优化问题的求解中,取得了良好的效果。
数字调制识别SVM分类器参数优化及仿真

6
E l e c t r o n i c I n f o r ma t i o n Wa r f a r e Te c h n o l o g y
中图分类 号 : T N 9 7 1 . 1
文献标志码 : A
文章 编号 : 1 6 7 4 — 2 2 3 0 ( 2 0 1 4 ) 0 l 一 0 0 0 6 — 0 3
索法和 遗传 算法 。
关键 词 : 粒子 群算 法 ; 矗折 交叉验 证 法 ; 调 制识 别 ; 参 数选取
D O I : 1 0 . 3 9 6 9 / j . i s s n . 1 6 7 4 — 2 2 3 0 . 2 0 1 4 . O 1 . 0 0 2
Re s e a r c h a n d S i mu l a t i o n o n t h e Pa r a me t e r Op t i mi z a t i o n o f
s wa r m lg a o r i t h m t o i f n i s h p a r a me t e r s e a r c h .T h e s i mu l a t i o n r e s u l t s s h o w t h e me t h o d h a s b e t t e r
数字调制识别 S V M 分 类 器 参 数 优 化及 仿 真
余 静 , 闫朋 展
( 1 . 江西工 业职业技 术学院 , 南昌3 3 0 0 9 5 ; 2 . 解放军 9 6 6 3 4部 队 , 南昌 3 3 0 0 2 0 )
摘要 : 对于基于 S V M数字信号调制识别分类器, 参数选取过程 中如何优化惩罚 因子和径向基 核函数参数问题 , 提 出了一种改进算法。该算法将 自 适应惯性权重粒子群 算法和 k 折 交叉验 证法结合 , 利用交叉验证法计算粒子适应度值, 通过粒子群 算法实现最优参数值搜 索, 最终得 到分类器惩罚因子和径向基核函数参数最优值。仿真结果表 明, 该算法性能明显优 于网格搜
混沌遗传算法

5. 使用方法
5. 使用方法
起源
(2) 初始化种群,包括 个体数、染色体长度、
初始种群的生成方式等
(4) 通过混沌映射生成 随机数,并使用遗传算 法行选择、交叉和变 异操作,生成新的子代
种群
(6) 根据适应度值, 选择最优个体作为当
前种群的代表
发展
(1) 确定优化问题 的目标函数和约束条
件
(3) 计算每个个体 的适应度值
(2) 优化算子设计:混沌遗传算法通过设计不同的优化算子,如选择、交叉和变异等,使 得算法能够更好地探索搜索空间。比如,可以通过引入混沌映射来增加选择算子的随机性 ,通过引入混沌序列来增加变异算子的多样性等
(3) 自适应参数调整:混沌遗传算法通过自适应地调整算法的参数,如种群大小、交叉概 率和变异概率等,来提高算法的性能。这样可以使得算法能够根据问题的特点和搜索进程 的情况来自动调整参数,提高算法的适应性和鲁棒性
(1) 参数选择困难:混沌遗传算法中的混沌映射参数需要根据具体问题进行 选择,但选择合适的参数并不容易,需要进行大量的试验和调整
(2) 收敛速度慢:混沌遗传算法在搜索过程中容易陷入局部最 优解,很难快速找到全局最优解,导致收敛速度较慢
(3) 算法复杂度高:混沌遗传算法结合了遗传算法和混沌映射, 算法复杂度较高,需要较长的计算时间和大量的计算资源
LOGO
混沌遗传算法
汇报人:XX
日期:xxx
1 1. 文章创新点 3 3. 代码 5 5. 使用方法
-
2 2. 实现过程
4
4. 存在问题
PART 1
1. 文章创新点
1. 文章创新点
混沌遗传算法是一种将混沌理论与遗传算法相结合的优化算法。它的创新点主要体现在以 下几个方面
基于混合仿生算法的SVM参数优化
对实 际应 用 问题进 行分 类 时 , 样本 数一 般都 是有 限 的 , 支持 向量 机 因不 过 分 依赖 样本 数 量 的特 点 , 而 在解 决小 样本 、 非线性 及 高维模 式识 别 中具有 一定 的优 势 。 比较 于重视 经验 风 险最小 化 的算 法 ,VM 能 相 S
够在 学 习能 力和泛 化 精 度上取 得平 衡 , 近几 年 在模式 识 别 、 器 学 习等领 域 上有 着 广泛 的 应用 , 机 取得 了大
1 相关 理 论
1 1 支持 向量 机的参 数 . 支持 向量 机 的原始形 式可 归结 为 以下 的二次规 划 问题 :
1 二
an ri 寺 l +C>: , ll Wl 。
sbet o y[砌z) 3 1 u jc t : ( +b≥ 一 , , , ,) ≥ 0 (=1 2 … z , 。
在 对参 数进 行 初次 优化 时 , 可找到 在 指定 范 围 内的较 优 的解 , 是遗 传 算法 容 易 出现过 早 收敛 , 得 到 的 但 所
最 优解 可 能是 局部 最优 , 因此不 要求 通过 GA 找 到最 优解 , 通过 设 置较 少 的 GA 进 化 代数 , 到 和最 优解 找 距 离 较接 近 的 解 即可 ; 把 这些 解 相 邻 的一 段 区域 值 作 为粒 子 群 算 法 的寻 优 区 间 , 次 优化 S M 的参 再 二 V 数, 由于粒 子群 算 法 的运 算 精度 高 , 可在 输入 的较 小 区域 内找 到 比 GA 更 好 的解 , 并且 在 获取 最 优解 的 同 时, 由于 GA 的进 化代 数较 少 , S 的寻 优 区间也 大大 减少而 缩 短算法 的运行 时 间 。 PO
() 2
基于PSO与GA的SVM特征选择与参数优化算法
复杂度 , 加快算法运行速度 , 提 高 分 类 器 的准 确 率 。
粒 子群 优 化算 法 ( P a r t i c l e S wa r m Op t i mi z a t i o n , P S O) 是 根 据 鸟群 扑食 行 为产 生 的仿 生 设 计 算 法 , 属 于一 种 简 单 有效 的 全 局 优 化 算 法 , 已在 许 多 领 域 得 到 应 用 , 如 用 于 参 数 选 择 ] 。遗传 算 法 ( Ge n e t i c Al g o r i t h m, GA) 是 根 据 遗
第1 6 卷 第5 期 2 0 1 7 年5 月
Vo1 .1 6 N O. 5 M a v .2 01 7
基于 P S O与 G A的 S VM 特 征 选 择 与 参 数 优 化 算 法
温 海 标
( 广 西师 范学 院 计 算机 与信 息工 程 学院 , 广西 南 宁 5 3 0 0 2 3 )
摘 要 : 支持向量机( S VM) 在处理 大样 本特征 维数较 多的数据 集 时 算 法消耗 时间长 而且容 易陷入 局部 最优 解 , 选
择不合适的 S VM 算 法参 数 会 影 响 S VM 模 型 分 类 性 能 为 了提 高 S VM 性 能 , 提 出 了基 于粒 子 群 算 法 ( P S 0 ) 和 遗 传
S VM 分 类 器 的参 数 例 如 核 函数 参 数 、 惩罚参数 C与 S VM
1 . 1 支 持 向量 机
1 相 关 概 念
支 持 向量 机 ( S VM) 是 一种 机器 学 习过程 , 基 本 原 理
是 将 样 本 数 据 映 射 到 一个 高 维 空 间 , 并 在 高 维 空 间 中寻 找
基于混沌遗传算法的PID参数优化
基于混沌遗传算法的PID参数优化
伍铁斌;成运;周桃云;岳舟
【期刊名称】《计算机仿真》
【年(卷),期】2009(026)005
【摘要】随着计算机技术的飞跃发展和人工智能技术渗透到自动控制领域,各种先进PID控制器参数整定方法层出不穷,给PID控制器参数整定的研究带来了无限活力和契机;然而很多先进的PID参数整定方法并没有像预期的那样产生完美的控制效果.将遗传算法和混沌优化方法智能集成,利用混沌序列的"遍历性、随机性、规律性"的特点生成初始种群,在遗传操作中加入混沌细搜索,大大提高了局部搜索能力,能有效防止遗传算法陷入局部最优和发生早熟现象,仿真表明,混沌遗传算法优化结果相当理想,效果令人满意,优于常规的遗传算法.
【总页数】4页(P202-204,226)
【作者】伍铁斌;成运;周桃云;岳舟
【作者单位】湖南人文科技学院通信与控制工程系,湖南,娄底,417600;湖南人文科技学院通信与控制工程系,湖南,娄底,417600;湖南人文科技学院通信与控制工程系,湖南,娄底,417600;湖南人文科技学院通信与控制工程系,湖南,娄底,417600
【正文语种】中文
【中图分类】TP273.1
【相关文献】
1.基于小生境混沌免疫算法的PID参数优化 [J], 鲍克;胡旭东;向忠
2.基于拟混沌人群搜索算法PID参数优化研究 [J], 周蓓晨;张宏立
3.基于混沌遗传算法的SVM特征和参数优化 [J], 杜占龙;谭业双;甘彤
4.基于遗传算法的长输管道PID控制参数优化 [J], 任亮;许超
5.基于混沌理论的预测PID控制器参数优化研究 [J], 明学星;王建国;吕震中;于向军
因版权原因,仅展示原文概要,查看原文内容请购买。
基于捕食搜索策略遗传算法的SVM参数优化方法
A s at ae nte ath t eeazt nadft gacrc fh up rV c r ci S M)m dl ee d bt c:B sdo c ta gnrla o n tn cuayo teSp ot et hn r hf i i ii o Ma e( V o e dpn
Pa a e e p i i a i n a g r t o u po tv c o a h ne b s d n r m t r o tm z to l o ihm f r s p r e t r m c i a e o pr d t r e r h g n tc a g rt m e a o y s a c e e i l o ih
o t a a tr e tn , a p e ao y s a c e ei ag rt n is p r mee s s ti g r d tr e r h g n tc l o hm s prpo e o dee mi h a a tr o he SVM . Th i wa o s d t t r ne t e p r me e s f t e
策变量。通过对谷氨酸发酵过程建模 的实验表 明 , 方法 可以提 高谷氨 酸 浓度 的训 练精 度及预 测精度 , 一种优化 该 是 S M 参数的有效方法。 V
关键词 : 支持 向量机 ; 参数优化 ; 捕食搜 索策略 的遗传 算法; 谷氨酸发酵
中图分类号 : P 8 T 11 文献标 志码 : A
gu a c a i e m e ai n lt mi c d fr ntto
0 引言
支 持 向 量 机 ( up r V co Mahn , S M ) S p ot etr cie V 是
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
其 自身 的规律不重复地遍历所有状态。经常与其他进化算法
结合使用 , 用于遗传算法 中以设计和保持演化群体的多样性 。
遗传搜索 ,实现 S M 参数 的优化 。 V
另外 ,样 本特征 子集的选择也很重要 。原始样本特征集
文 献[】 3利用高光谱数据集进行一系列分类算法分析后 ,得 出
其 中,0 l ; 是迭代次数 ,k l , 是控制参量 , ≤X≤l = , …; 2
当 p 4时系统完全处于混沌状态 ,此时 X 在【,】 = 01的范 围内
变化 。
特征 的增 加对 S M 分类置信度按显著性水平 5 V %减少 。文
S VM a u ea d Pa a e e tm i a i n Fe t r n r m t r0p i z to Ba e n Cha tcGe e i g r t m sd0 o i n t Al o ih c
D U Zha lng ,TA N s n-o Ye-huang ,G AN ng To
d na i rd cn e r hn s c i y m c e u ig s ac ig pa e s e o ut r o tmiain usd f r f r he p i z to .Th s i meh d i a p id o fu tca sfe o iain o tmiain f to s p le t a l ls i r c mbn t pi z to o i o
现有很 多优化 S M 参数的方法。文献[] 出了一种采用改 V 1提
2 基于变尺度混沌遗传算法的联合优化
21 混沌运动 . 混 沌是 自然界广 泛存在 的一种 非线性 现象 ,具有 随机 性、遍历性和初始条件敏感性等特点 ,在 一定范围内能够按
进 的人 工鱼群 算法实现 S M 参数的优化。文献【】 出了采 V 2提
少 ,文献 fJ 出采 用免疫多 向二进制粒子群 算法实现特征子 5提 集选取和 S M 参数 的共 同优化 ,但 其搜索区间固定不变 , V 使得参数 的搜索精度较低。针对 上述情况 ,本文提 出了将特
征选择和参数选择进行联合优化 的方法,该方法基于变尺度 的混沌遗传算法 ,将混沌运动的遍历性和遗传算法 的高效并 行计算能力相结合 ,并随着寻优次数 的增长动态缩减寻优区 间,克服 了传统寻优方法存在早熟收敛、非全局收敛 以及后 期收敛速度慢 的弱点。
第3 8卷 第 5期
V_ . 8 O 3 1
・
计
算
机
工
程
21 0 2年 3月
M a c 2 2 r h 01
N o. 5
Co mpu e g n e i g trEn i e rn
人 工 智 能及 识别 技 术 ・
 ̄ltqt 0o 48 02 5 6一l l " 10_3 ( 1) — 1 4 文 l 22 0 献标识 A 码:
上相互 影响 ,对于特征选择或参数选择 的单一优化均无法充 分 发挥 S M 的分类潜能。 目前关于联合优化 的研究相对较 V
程
21 0 2年 3月 5日
的特征 子集选择 和 S M 的参数 编在 同一 个染 色体 中,设 V P 。 c - u l 一 , , 一 f 产{ 6 -1t , [ 2 ,  ̄ 2 G , 】 2f l 2 为第 t 的一个染色 代 体 , f 1 一“为特征子集选择位 串, ( ,, v为惩罚 n( , 2 ) 1 …,) 2 参数位 串 ,O( ,, ) - 1 …w 为核参数 位 串,6 f " 01 i 2 c fi /。特征 , O=
2 Nao aAs o o cl b ev tr, au tUnvri f hn s c dmyo ce csB in 0 0 0 Chn) . t nl t n mia O sraoy Grd ae iesyo iee ae f ine, e ig10 0 , ia i r t C A S j
常用 的一维 lgs c o i i 映射 为 : t ’
x+ =Px (~ ) kl k1 () 1
中不可避免地存在着 一些与故障诊断不相关的特征 和与其他 特征相冗余 的特征 ,从而增加了故障诊 断的计算量 ,降低故 障诊断 的精 度。因此 , 对原 始样 本特征集 必须进行 优化选择 。
() 5
其,。 { 中 ? =
无效操作 的可能性就愈小 。
2个体间配对概率 )
。
事实上 ,r ,) ( 曰 表示 A和 B之 间不 同基因的数 目,r 曰 A ( ) A, 愈大 ,表明 A和 B的相关性愈 小 , A和 B进行 交叉时出现 对
染色体译码是指将寻优后 的二进制位 串转换成具体解空 间的值 。特征子集选择位 串中数值 为 1的位置代表选中相应 特征 作为故障诊 断训练样本 。C和 y 参数位 串的解码方式相
近年来 ,基于支持 向量机(u p rV co c ie S S p ot etr hn , VM) Ma 的诊 断方法得 到了广 泛的关注 。 V 基于结构风险最小化原 SM 则 ,可 以在 有限样 本的基础上取得 良好 的分类效果 。故障分 类器 的性能与 S M 的核参数 和误差惩罚参数有很大 关系 。 V
f=1
子集选择位 串位数长度 U等于特征的个数 ,每一位代表一个 特征 ,每位上的 1表示选 中该特征 ,0则表示不选 中。参数 位 串位数长度 v W 由参数搜索精度决定 。以惩罚参数位 串 和
为例 ,设惩罚参数 C的搜索范围是 1 1,用 v位二进 制编 ,] b 码 ,则 C的搜索精度为( n) 一 12。本文 中参数位串位数 长度 / v和 W均取 1 。 6位
中图分类号:T 23 P7
基 于混沌 遗传 算 法的 S M 特征 和 参数优化 V
杜 占龙 ,谭业双 ,甘 彤
(. 1 军械 工程 学院光学与 电子工程系 ,石家庄 0 0 0 ;2 中国科学院研究生院国家天文 台 ,北京 10 0 ) 503 . 000
摘
要 :为解决支持向量机(V 分类器 的样本特征选择和参 数优化问题 ,提出一种将特征选择和参数选择进行联合优化 的方法 。基于变 S M)
s orwa e c n r le u p n . p rme t l e u t s e se f c i e e so n i g o tma o u i n o epr p s d a p o c . h t v — o to — q i me t Ex e i n a s lsa s s f e t n s n f d n p i l l t ft o o e p r a h r v i s o h
[ yw r s S p o etr cieS Ke o d ] u p rV c hn(VM)c at e ei agrh fa r e cin p a t pi zt nfut ig oi; t iesae t o Ma ; hoig nt loi m;et esl t ; a mee o t ao ;a lda n s mua v l c c t u e o r r mi i s t c DOh 1 . 6  ̄is.0 03 2 .0 2 50 0 03 9 . n1 0 —4 R 1 . .5 9 s 2 0
尺度 的混沌遗传算法 ,联合优化染色体编、 译码 ,利用混沌 的遍历性产 生初始种 群 ,改进遗传 算法 中的交叉算子 ,动态缩减寻优 区问。将
该 方法应用于短波通信控制器 的诊 断分 类器 中 ,以实现分类器特征子集选取和参数 的联合优化 ,结果表 明该 方法具有较强 的寻优能力 。 关健词 :支持向量机 ;混沌遗传算法 ;特征选取 ;参数优化 ;故障诊断 ;变尺度
(. pr n f t s n l t ncE gn eig Ornn e n iern olg , h iz un 5 0 3 C ia 1De a me t i dEe r i n ier , d ac gneigC l e S iah ag0 0 0 , hn; t o Op c a co n E e j
献 [] 4利用遗传算法和最小二乘支持 向量机 的 Wrp e 方法选 ap r 择最优特征 子集 。
22 染色体的编译码 . 染色体编码是指将寻优问题的解 空间转换成寻优方法所 能处理 的搜索 空间。本文使用二进制编码形式。将故障样本
作者简介 :杜 占龙( 8-) 男 , 16 , 9 硕士研究 生, 主研方 向: 通信装备
1 概 述
将某型短波通信控制器应 用于 短波通信 网的管理和控制
中,此类设备 中各模块 单元 的电路板结构复杂 , 耦合程 度高 , 其故 障呈现 出复杂化的特点 。研究此类设备的故障诊断 ,不
仅可 以提 高此类 设备的维修保障水平、节约维修时间 ,而且 能够提高整个短波通信 网的工作稳定性 。
故 障诊 断,性 能测试 ;谭业双 ,副教授 ;甘 收稿 日期 : 0 1 81 2 1— —1 0 彤 ,硕士研究生 E ma :m s 10 o . m ・ i yk 1 @t c l y m o
上述 方法大 部分仅对 特征 子集选取 或对 S VM 参数进行 优化 。实 际上,特征选择与参数选择在提高 S VM 分类性能
同 ,以惩罚参数位 串映射到解空 间为例 ,表达 式为 :
c mbi a i n o tmi ai n f r f a u e s l ci n a a ee s p e e t d b s d o ha t e e i l o i m f m u a i e s a e Th t o f o n to p i z to o e t r e e t on a d p r m t r i r s n e a e n c o i g n tc ag rt c h o ttv c l . e me h d o c r mo o o i g a d d c d n sp e e e I i a i a i n p p l t n i pr d c d b sn h ose g d c t , m o fe r s o e p r t ra d h o s me c d n e o i g i r s ntd. n t l t o u a i s o u e y u i g c a r o i i A di d c o s v r o e a o n n i z o o y i