连续时间递归神经网络的稳定性分析

文章编号:1003-1251(2007)02-0001-04连续时间递归神经网络的稳定性分析陈 钢1,王占山2(1.沈阳理工大学理学院,辽宁沈阳110168;2.沈阳理工大学)摘 要:基于压缩映射原理,针对连续时间递归神经网络研究了其平衡点全局稳定性问题,给出了平衡点稳定的充分判据.该判据不要求网络互连矩阵的对称性,改进了现有一些文献中的结果,且具有易于验证的特点.通过两个注释和一个仿真例子证明了所得结果的有效性.关键词:递归神经网络;平衡点;压缩映射原理;稳定性中图分类号:TP183 文献标识码:AAn Analysis on t he Stabilityof Conti n uous ti m e Recursive Neural Net worksCHEN G ang ,WANG Zhan shan(Shenyang L i gong Un ivers i ty ,Shenyang 110168,C h i na)A bstract :U si n g the co m pression m app i n g theore m,a sufficient conditi o n is g i v en for theg lobal asy m ptotic stab ility of a conti n uous ti m e recursive neural net w ork .The ne w conditi o ns do not requ ire the sy mm etry o f the i n terconnection m atri x o f the recursive neura l net w or ks ,and the activati o n f u ncti o n m ay be unbounded .The obtained suffic i e nt conditi o ns are less conservati v e than so m e prev i o us w orks ,and are easy to check .The effectiveness o f the ob ta i n ed results is de m onstrated by t w o re m arks and a si m ulation exa m p le .K ey words :recursive neural net w orks ;equ ili b ri u m poin;t co m pression m app i n g pri n c i p le ;stab ility收稿日期:2006-11-20作者简介:陈钢(1968 ),男,内蒙通辽人,讲师递归神经网络在优化和联想记忆等领域已经取得广泛成功应用[1].众所周知,递归神经网络的工程应用主要依赖于网络的动态行为.这样,关于递归神经网络稳定性的研究得到人们越来越多的关注[1~10].目前神经网络稳定性研究所得到的稳定判据主要具有如下特征:激励函数是有界的[7],利用M 矩阵特性[4,6],及计算互联矩阵的各种范数或测度等[11].然而,在某些工程应用中常常要求神经网络的激励函数是无界的,且进一步降低神经网络稳定条件的保守性仍是一个有待解决的问题[2].所以,研究递归神经网络的稳定性具有重要的理论意义和实际意义.文献[1]利用矩阵范数的概念得到了神经网络稳定性的充分条件,而文献[2~11]分别基于矩阵测度、M 矩阵等方法得到了神经网络稳定性的充分条件.本文研究连续时间递归神经网络的稳定性问题.基于压缩映射原理,我们将给出保证神经网络平衡点存在性、唯一性和渐近稳定性的充分判据.2007年4月沈阳理工大学学报V ol.26N o.2第26卷第2期TRANSACT I O NS OF S H ENYANG L I G ONG UN I V ERSI TYAp r .271 问题描述考虑如下连续时间递归神经网络模型x i(t)=-a i x i(t)+s i+nj=1w ij y(t)(1) y i(t)=g i(x i(t))(2)其中,x i(t)表示神经元状态,y i(t)表示神经元的输出,a i>0,w ij表示神经元互联权系数,W= (w ij)n!n可能是非对称的.s i表示外部常值输入,激励函数满足g i(x i(t))∀C1,x i(t)=g-1i(y i)=f i (y i(t)),即g i是可逆的且满足0#m i#g i(g i(t))#m i,0#1M i#f∃i(x i(t))#1m i,i=1,%,n.(3)显然,系统(1)等价于f∃i(y i(t))y i(t)=-a i f i(y i(t))+s i+nj=1w ij y i(t)(4)系统(4)的平衡点是下列非线性代数方程的解-a i f i(y i(t))+s i+nj=1w ij y i(t)=0(5)式(5)写成向量形式为-Af(y)+S+Wy=0(6)其中,A=diag(a1,%,a n),S=(s1,%,s n)T,f(y) =(f1(y1),%,f n(y n))T.这样,研究系统(1)的平衡点x*=(x*1 % x*n)T的稳定性问题等价于研究系统(4)的平衡点y*=(y*1 % y*n)T的稳定性问题.假设1. (w ii-a i/M i)<0,i=1,%,n(7) 2 平衡点的存在性和唯一性定理1. 如果存在两个常数h&0和k使得下面的不等式成立w ii-a i/M i-hk-|k|+nj=1j&i|w ij|<0(8)则系统(4)具有唯一平衡点,其中,hk<m in(w ii-a im i),i=1,%,n.证明:令,F(t,y)=-Af(y)+S+Wy(9)则Fy=F iy i n!n=W-A diag(f∃1(y1)%f∃n(y n))(10)对于函数 ∀C([a,b]);R n),定义如下映射H∋ (h -1kF(t, )(11)根据中值定理可知,存在常数 ∀[ 1, 2]使下式成立,)(H 1)(t)-(H 2)(t))=)h 1(t)-h 2 (t)-1k(F(t, 1(t))-F(t, 2(t))))=)h 1(t)-h 2(t)-1kFy(t, )( 1(t)- 2(t)))#)h I-1kFy(t, )))( 1(t)- 2(t)))(12)其中,I为适维单位矩阵,且F iv i(t, )=w ii-a i f∃i( )i=jw ij i&j(13)如果我们能够证明)h I-1kFy(t, ))=<1,则)H(1)(t)-(H2)(t))#)(1(t)-2 (t)))(14)意味着H在C([a,b]);R n)上是一个压缩映射.现在证明H是一个压缩映射.考虑1-范数,即) *)=)*)1,则对于j&i,)h I-1kFy(t, ))=m ax1#i#nh-1k(w ii-a i f∃i( )+w ij)#m ax1#i#n1|k||hk-w ii+a i f∃i( )|+|w ij|(15)因为假设1成立,则w ii-a i/m i#w ii-a i f∃i( )#w ii-a i/M i<0(16)选择hk<w ii-a i/m i<0(17)则hk-w ii+a i/M i#hk-w ii+a i f∃i( )#hk-w ii+a i/m i<0(18))h I-1kFy(t, ))∗2∗沈阳理工大学学报 2007年#m ax1#i#n1|k|w ii-a i/M i-hk+nj=1j&i|w ij|=!(19)显然>0.如果不等式(8)成立,则H在C([a, b]);R n)上是一个压缩映射.这样,存在唯一的固定点 *∀C([a,b]);R n)满足H = *.因为a 和b是任意的,则式(6)具有唯一解y*,进而系统(4)具有唯一平衡点.注释1. 如果取h>0(此时k<0),则我们可以进一步简化条件(8),即w ii-a i/M i+nj=1j&i|w ij|<|k|+hk=(h-1)k(20)在(20)中如果令h=1,则得到文献[2]中的主要结果,即w ii-a i/M i+nj=1j&i|w ij|<0(21)此外,如果h>1,式(8)变为w ii-a i/M i+nj=1j&i|w ij|<|k|+hk=(h-1)k<0(22)这样,当h+1时,条件(8)等价为文献[2]中的主要结果,同时也不需要假设1这一条件,因为不等式w ii-a i/M i+nj=1j&i|w ij|<0隐含了假设1的条件.注释2. 如果取0<h<1,则式(8)变为w ii-a i/M i+nj=1j&i|w ij|<|k|+hk=(h-1)k>0(23)这样,在假设1的条件1,式(23)降低了文献[2]中结果的保守性.注释3. 在定理1中,条件(8)意味着互连矩阵不必是对称的,进而取消了互连矩阵必须为对称的限制.3 平衡点的稳定性令y*=(y*1 % y*n)T为系统(4)的一个平衡点,则式(4)变成f∃i(y i(t))d(y i(t)-y*i)d t=-a i(f i(y i(t))-f i(y*i))+nj=1w ij(y i(t)-y*i)(24)定理2. 如果条件(8)成立,则系统(4)的平衡点y*是全局渐近稳定的.证明: 构造如下Lyapunov函数V(y)=ni=1,y i y*if∃i(y i)-(hk+|k|)(w ii+nj=1j&i|w ij|-a im i)d y i(25)下面,为书写方便考虑,将nj=1i&j|w ij|简写为|w ij|.因为f∃i(y i)-(hk+|k|)(w ii+|w ij|-a im i)&0,当)y)(−时,V(y)(−.沿着系统(24)的轨迹求V(y)的D i n i导数得D+V(y)=ni=1(f∃i(y i(t))d y id t-(hk+|k|)(w ii+|w ij|-a im i)d y id t)sgn(y i-y*i)=ni=1((w ii+w ij-a i f∃i( i)-(hk+|k|)(w ii+|w ij|-a im i)(w ii+w ij-a i f∃i( i)sgn(y i-y*i)#ni=1((w ii+w ij-a i f∃i( i))|y i-y*i|-ni=1(hk+|k|)(w ii+|w ij|-a im i)(w ii+w ij-a i f∃i( i)|(y i-y*i)|(26)其中f i(y i(t))-f i(y*i(t))=f∃i( i(t))(y i(t)-y*i).因为ni=1(hk+|k|)(w ii+|w ij|-a im i)(w ii+|w ij|-a i f∃i( i)>ni=1(hk+|k|)(w ii+|w ij|-a im i)(w ii+|w ij|-a im i)>nj=1(hk+|k|)(27)则∗3∗第2期 陈 钢等:连续时间递归神经网络的稳定性分析D+V(y)#ni=1((w ii+w ij-(hk+|k|)-a i/M i)|y i-y*i|-mi=1(a i/M i-a i f∃i( i))|(y i-y*i)|<ni=1((w ii+w ij-(hk+|k|)-a i/M i)|y i-y*i|)<0(28)这样,定理2证毕.4 数值例子考虑系统(1),其中y=x,s i=0,M i=a i=1=m i,W=0.580-5,i=1,2.显然本例中的激励函数y=x是无界的.根据线性系统理论,因为矩阵A +W的特征值为{-0 5,-6},则x=0是系统(1)的唯一渐近稳定平衡点.因为∀m ax(W+W T2)=2 6>1,则文献[10]的结果不能判定该例的稳定性.同时w22+2i=1i&j|w i2|-a2M2=2>0,则文献[2]的结果也不成立.因为w ii<a iM i=1,显然本文的假设1成立,对于任意的h∀(0,1),如果取hk=-8,条件(8)成立,即定理1和定理2均成立.这样,所考虑的神经网络具有唯一平衡点,且该平衡点是全局渐近稳定的.5 结束语根据压缩映射原理,研究了连续时间递归神经网络的平衡点稳定性问题,建立了保证平衡点存在性、唯一性和全局渐近稳定性的充分条件.与现有文献中的结果相比,本文所得结果具有较小的保守性,且改进了一些文献中的结果.数值仿真验证了所得结果的有效性.如何得到平衡点稳定性的充要条件将是进一步研究的方向.参考文献:[1]M i ch elA N,L i u D R.Quali tative Analys i s and Syn thes i s ofRecurren tN euralNet work s[M].New York:M arcelD ekk er,2002.[2]Guan Z H,Chen G R,Q i n Y.On equili bri um,stab ilit y and i nstab ility of HNN[J].I EEE T ran s acti ons on Neural Net works,2000,11(2):534 540.[3]M ic h elA N,W ang K,L i u D R,et a.l Quali tative li m i tations i ncurred i n i m p l e m en tati on s of recurren t neuralnet w ork s[J].I EEEC ontrol Syst e m sM agaz i ne,1995,15(1):52 65.[4]H u S Q,W ang J.G l ob al stab ility of a class conti nuous ti m e recurren t neu ral net w ork s[J].I EEE T ran s acti ons on C ircu its and Sys t e m s I:Funda m en t al Theory and App lications,2002,49(9):1334 1347.[5]Zhang Y,H eng P A,Fu A daW C.E sti m ate of exponen tial convergence rate and exponen ti al stab ility for neu ral net w orks[J].IEEE T ransacti on s on Neural N et w ork s,1999,10(6):1487 1493.[6]Zhang J Y.G lobal stab ilit y analys i s i n H op fiel d neural net works[J].App lied M athe m atics Letters,2003,16(4):925 931. [7]L i ao X X,M ao X R,W ang J,et. a.l A l gebra i c cond icti on s ofstab ility f orH opfi el d neural net w orks[J].Sci en ce i n Ch i na(Se ries F):Infor m ati on Sciences,2004,47(1):113 125.[8]SreeH ariRao V,Phan eendra B.G l obal dyn a m ics of b i d irecti onal ass oci ati vem e m ory n eural net w orks i nvo l vi ng trans m issi on de l ays and d ead zones[J].N euralN et w ork s,1999,12(3):455 465.[9]Gop al sa m y K,H e X.Delay i ndepend ent st ab ilit y i n b idirecti on alass oci ative m e m ory net work s[J].I EEE T ransacti on s on Neural Net works,1994,5(6):998 1002.[10]Yang H,D ill on T S.Exponen tial s t ab ili ty and oscillati on ofH opfi el d graded res ponse neu ral net w orks[J].IEEE Transacti onson Neu ralN et w or k s,1994,5(5):719 729.[11]Lu H T.On stab ility of non li near con ti nuous ti m e neu ral netw ork s w i th del ays[J].N eural N et w ork s,2000,13(8):1135 1143.∗4∗沈阳理工大学学报 2007年。