随机过程第六章2
第六章平稳随机过程
第六章 平稳随机过程 6.1平稳过程的概念与例子第二章2.4中介绍了严平稳过程与宽平稳过程.在自然科学,工程技术中人们常遇到这类过程,例如纺织过程员棉纱截面积的变化;导弹在飞行中受到湍流影响产生的随机波动;军舰在海浪中的颠波;通讯中的干扰噪声等等.它们都是可用平稳过程描述.这类过程一方面受到随机因素的影响产生随机波动,同时又有一定的惯性,使在不同时刻的波动特性基本保持不变.其统计特是,当过程随时间的变化而产生随机波动时,其前后状态是相互联系的,且这种联系不随时间的推延而改变 . 由于严平稳过程的统计特征是由有限维分布函数来决定的,在应用中比较难以确定,而宽平稳过程的判别只涉及一二阶矩的确定,在实际中比较容易获得,因此我们主要研究宽平稳过程.这种仅研究与过程一二阶矩有关性质的理论,这就是所谓相关理论.对于正态过程,由于其宽平稳性与严平稳性是等价的,故用相关理论研究它显得特别方便.本书后面涉及的.主要是宽平稳过程,简称它为平稳过程. 例6.1 设,...}2,1,0,{,±±=n X n 是实的互不相关随机变量序列,且,0][=n X E2][σ=n X D ,试讨论随机序列的平稳性.解 因为,0][=n X E ⎩⎨⎧≠===--,0,00,],[),(2ττσττn n X X X E n n R 其中τ为整数,故随机序列的均值为常数,相关函数仅与τ有关,因此它是平稳序列.在物理和工程技术中,称上述随机序列为白噪声.它普遍存在于各类波动现象中,如电子发射波的波动,通讯设备中电流或电压的波动等,这是一种较简单的随机干扰的数学模型.例6.2设,...}2,1,0,{,±±=n Z n 为复随机序列,且,0][=n Z E mn n m n Z Z E δσ2][=,,...)2,1,0(,2±±=∞<∑∞-∞=n w n n nσ为实数序列.对于每一个t,可以证明级数tiw n nn eZ∑∞-∞=在均方意义下收敛.令X(t)=tiw n n n eZ ∑∞-∞=利用随机变量级数均方收敛性质,可以推得E t X E =)]([[tiw n nn eZ∑∞-∞=]=0,[)]()([E t X t X E =-τtiw n n n eZ ∑∞-∞=,])(∑∞=∞--n t iwm m eZ τ=τn iw n neZE 2∑∞-∞=.所以X(t)为平稳过程.物理上,cos(wt),sin(wt)或iwt e 都是描述简谐振动的,t iw n n ne t w t w ),sin(),cos(都可以看作具有随机振幅的简谐振动.上述例题说明,若不同频率的随机振幅互不相关,则这种简谐振动的有限项甚至无限项的加(只要它是均方收敛的)都是平稳过程. 例6.3 设随机{N(t),}0≥t 是具有参数λ的泊松过程,随机过程{X(t),t }0≥定义为:若随机点在[0,t]内出现偶数次(0也看作偶数),则X(t)=1;若出现奇数次,则X(t)=-1, (1) 讨论随机过程X(t)的平稳性; (2) 设随机变量V 具有概率分布, ,21}1{}1{===-=V P V P且与X(t)独立,令Y(t)=VX(t),试讨论随机过程Y(t)平稳性.解 (1)由于随机点N(t)是具有参数λ的泊松过程,故在[0,t]内随机点出现k 次的概率,...2,1,0,!)()(==-k k t e t P ktk λλ 故),(....}!4)(!2)(1[...)()(}1)({4220t ch et t et P t P t X P ttλλλλλ--=+++=+++==),(....}!5)(!3)([...)()(}1)({5331t sh et t t e t P t P t X P ttλλλλλλ--=+++=+++=-=于是,)(..1)(.1)]([)(t sh e t ch e t X E t m t t X λλλλ---===.2t e λ- 故X(t)不是平稳过程.其他略.例6.4 设有状态连续,时间离散的随机过程),2sin()(Qt t X π=其中Q 是(0,1)上均匀分布的随机变量,t 只取整数值1,2,…,试讨论随机过程X(t)的平稳性. 解 因为⎰⎰===12s i n ()()2s i n ()]2{sin()]([πππdq q f qt Qt E t X E qt)dq=0,⎰-=-=-1)](2sin[)2sin()]()({),(dq t q qt t X t X E t t R τππττ=⎪⎩⎪⎨⎧≠==--⎰,0,0,0,21]])2(2cos[)2[cos(2110τττππτdq q t q所以X(t)是平稳过程.现在我们用此例说明宽平稳过程不一定是严平稳过程.事实上,令1t t =,由于状态11)(x t X =对应两个q 值,即 1112)a r c s i n (t x q π=,1122)arcsin(t x q ππ-=于是得随机过程的一维概率密度为 ().11)(),(21112211111xt dx dq q f dx dq q f x t f -=+=π可见X(t)的一维概率密度与时间t 有关,故X(t)只是宽平稳过程.,而不是严平稳过程.例6.5 设X(t)=Xf(t)为复随机过程,其中X 是均值为0的实随机变量,f(t)是t 的随机函数..试证X(t)是平稳过程的充要条件是qw c i ce t f q wt i ,,,1,)()(-==+为常数.证明 充分x 性:令,)()(q wt i ce t f +=记D[X]=2σ,因为E{X}=0,故 0)]([)]([)(===t Xf E t X E t m X , 由于)]()([),(ττ-=-t X t X E t t R X=,.][22)])([)(22ττσiw q t w i q wt i e c e e c X E =+--+ 所以X(t)是平稳过程.必要性:设X(t)是平稳过程,则)]()([),(ττ-=-t X t X E t t R X =),()(][2τ-t f t f X E 上式必须与t 无关,取,0=τ有22)(c t f =(常数). 因此)(,)()(t ce t f t i ϕϕ=为实函数,于是))].()((e x p [)()(2τϕϕτ--=-t t i c t f t f 上式应与t 无关,故,0)]()([=--τϕϕt t dtd 于是,)(q wt t +=ϕ 故 qw c i cet f q wt i ,,,1,)()(-==+为常数.6.2 联合平稳过程及相关函数的性质一,联合平稳过程对于两个平稳过程的联合分布和数字特征的讨论,可以用类似于第二章的方法.下面主要讨论两个平稳过程的联合平稳问题.若将两个平稳过程X(t)和Y(t)同时输入加法器中,加法器的输出随机过程W(t)=X(t)+Y(t)是否平稳的问题.首先分析输出过程的要求的平稳条件.由)]()([τ-t W t W E =}]()()]{()({[ττ-+-+t Y t X t Y t X E=])()({[τ-t X t X E +)]()([τ-t Y t Y +)]()([τ-t Y t X +})]()([τ-t X t Y =++)()(ττY X R R )]()([τ-t Y t X E +)]()([τ-t X t Y E .上式最后两项是X(t)和Y(t)的互相关函数,一般情况下,它们与t 有关,为使输出过程W(t)是平稳,必需要求输入的两个平稳过程X(t)和Y(t)的互相关函数与t 无关. 定义 6.1设}),({T t t X ∈和}),({T t t Y ∈是两个平稳过程,若它们的互相关函数)]()([τ-t Y t X E 及)]()([τ-t X t Y E .仅与τ有关,而与t 关,则称X(t)和Y(t)是联合平稳随机过程. 由定义有),()]()([),(τττXY XY R t Y t X E t t R =-=- ),()]()([),(τττYX YX R t X t Y E t t R =-=-.当两个平稳过程X(t),Y(t)是联合平稳时,则它们的和W(t 是平稳过程,此时有 )]()([τ-t W t W E =++)()(ττY X R R )(τXY R +)(τYX R =).(τW R 二,相关函数的性质平稳过程X(t)的相关函数).(τX R 具有如下性质.定理6.1 设}),({T t t X ∈为平稳过程,则相关函数具有下列性质: (1) ;0)0(≥X R (2) )().(ττX X R R =-;(3));0()(X X R R ≤τ(4) ).(τX R 是非负定的,即对任意实数n t t t ,...,,21及复数,,...,21n a a a 有0),(1,≥∑=j i j i nj i X a a t t R;(5)若X(t)是周期为T 的周期函数,即X(t)=X(t+T),则)()(T R R X X +=ττ; (6)若X(t)是不含周期分量的非周期过程,当∞→τ时,X(t)与X(t+τ )1XX X m m R =∞→)(limττ.证明 由平稳过程相关函数定义,得(1) =)0(X R .0])([])()({[2≥=t X E t X t X E (2) =)0(X R =])()({[τ-t X t X E =)(τ-X R ; (3)由许瓦兹不等式有])()([])()([)(222τττ-≤-=t X t X E t X t X E R X≤-≤])([])([22τt X E t X E 2)]0([X R(4) 第二章定理2.2已证.X X m m =类似地,联合平稳过程X(t)和Y(t)的互相关函数有下列性质: (1) );0()0()(Y X XY R R R ≤τ);0()0()(Y X YX R R R ≤τ (2) ,)().(ττYX XY R R =-例6.6设X(t)=Asin(wt+Q),Y(t)=Bsin(wt+Q-h)为两个平稳过程,其中A,B,w 为常数,Q 在π2,0()上服从均匀分布.求).(),(ττYX XY R R解 )]()([)(ττ-=t Y t X E R XY =)]sin()sin([h Q w wt B Q wt A E -+-+τ =dqh q w wt q wt AB πτπ21)sin()sin(20⎰-+-+=).cos(21h w AB +τ同理=)(τYX R ).cos(21h w AB -τ6.3随机分析 一,收敛性概念由微积分知,若对于任给,0>ε都存在正整数N,使对一切n>N,恒有不等式 ε<-a x n (6.1) 成立,则称序列}{n x 以a 为极限,记作ax n n =∞→lim.对于概率空间),,(P ℑΩ上的随机序列}{n X ,每个试验结果e 都对应一序列),...(),...,(),(21e Xe X e X n (6.2)故随机序列}{n X 实际上代表一族(6.2)式的序列,故不能用(6.1)式定义整个族的收敛性.如果(6.2)式对每个e 都收敛,则称随机序列}{n X 处处收敛,即满足 XX n n =∞→lim.下面介绍随机序列在较弱意义下的收敛定义,它们不一定要求对每个e 都收敛. 定义6.2 称二阶矩随机序列)}({e X n 概率1收敛于二阶矩随机变量X(e),若使)()(lime X e X n n =∞→成立的e 的集合的概率为1,,1)}()(lim:{==∞→e X e X e P n n或称 )}({e X n 几乎处处收敛于X(e),记作..X X e a n →定义6.3称二阶矩随机序列)}({e X n 依概率收敛于二阶矩随机变量X(e),若对任意,0>ε有0})()({lim=≥-∞→εe X e X P n n ,.X X Pn →记作.X X P n →定义 6.4 设有二阶矩随机序列}{n X 和二阶矩随机变量0][lim2=-∞→XX E n n (6.3)成立,则称}{n X 均方收敛于X,记作..X X s m n → (6.3)式的极限常写作 XmXi l n=..定义6. }{n X 称二阶矩随机序列依分布收敛于二阶矩随机变量X,若}{n X 相应的分布函数列)},({x F n 在X 的分布函数F(x)的每一个连续点处有),()(limx F x F n n =∞→记作 .X X d n →对于以上四种收敛定义进行比较有下列关系: (1) ..X X s m n → 则 .X X P n →(2) ..X X e a n →则 .X X P n → (3) .X X P n → 则 .X X d n → 下面只给出(1),(2)的证明. 证明(1)由切比雪夫不等式得 22][}{εεXXE X X P nn -≤≥-若有0][lim2=-∞→XX E n n ,则对任给,0>ε有0}{lim=≥-∞→εXX P n n(2)由,1}{lim==∞→X X P n n 故,1}0{lim==-∞→X X P n n因此, 对任给,0>ε有 ,1}{lim=<-∞→εX X P n n .0}{lim=≥-∞→εX X P n n以下只讨论最简单的均方收敛.定理 6.2二阶矩随机序列}{n X 收敛于二阶矩随机变量X 的充要条件为0][lim2=-∞→mn n X X E定理6.3 设n X {},}{n Y ,}{n Z 都是二阶矩阵随机序列,U 为二阶矩随机变量,}{n c 为常数序列,a,b,c 为常数.令,..X mX i l n=,..Y mY i l n =,..Z mZi l n=,..c mc i l n =则(1) ;lim..c c mc i l n n n ==∞→(2) ;..cU U mc i l n =(3) ,)(..bY aX bY aX m i l n n +=+ (4) ];..[][][limn n n n X m i l E X E X E ∞→∞→==(5)];..[][][lim n n mX i l E X E X E ==(6) ];..)(..[(][][lim m n m n Y m i l mX i l E Y X E Y X E == 特别有 ];..[][][lim 222nnmXi l E XE X E ==证明 (1),(2),(3)由均方收敛定义可证.(4)因为当∞→n 时,有])([2bY aX bY aX E n n +-+=.0][2][22222→-+-≤YY E b XX E a n n由均方收敛定义知(4)得证. (5)由许瓦兹不等式有,1].[)1.()[(222Y E Y E Y E ≤=令X X Y n -=,代入上式,得到2]{][0X E X E n -≤2][X X E n -=),(,0][2∞→→-≤n X X E n 所以, ]...[][][.n n n mX i l E X E X E im l ==∞→ (6)由许瓦兹不等式,有=-][][Y X E Y X E m n =-][Y X Y X E m n ==-++--]2))([(Y X Y X Y X Y Y X X E m n m n==-+-+--])[(})[()])([(X Y Y E Y X X E Y Y X X E m n m n),,(,0}{}{}{212221222122∞→→-+-+--≤m n X E YY E Y E XX EYY E XX Em n m n所以, ]...)(..[(][][lim m n m n Y m i l mX i l E Y X E Y X E ==定理6.4设}{n X 为二阶矩阵随机序列,则}{n X 均方收敛的充分必要条件为下列极限存在:].[lim,m n m n X X E ∞→证明 必要性由定理6.3之(6)易知.现在证充分性.设 c XE X X E m n m n ==∞→2,].[lim ,由]2[222m m n nm n X X X X E X X E +-=-]2[22mm n nX E X X EX E +-=,02lim2,=+-=-∞→c c c X XE mnm n ,根据定理6.2知}{n X 均方收敛.以上讨论了具有二阶矩的随机序列均方极限的性质.对于一般的二阶矩过程}),({T t t X ∈,可以类似地定义它的均方极限,且有类似的均方极限性质.二,均方极限下面在讨论随机过程}),({T t t X ∈的均方连续导数积分等概念中,假定}),({T t t X ∈是二阶矩过程,参数集T 为直线上一个有限区间(可以为}),({T t t X ∈无穷区间).定义6.6 设有二阶矩过程}),({T t t X ∈,若对每一个t T ∈,有 ,0])()([lim2=-+→t X h t X E h则称X(t)在t 点均方连续,记作).()(...t X h t mX i l =+若对T 中一切点都均方连续,则称X(t)在T 上均方连续. 考虑到=-+])()([2t X h t X E ),(h t h t R X ++-),(h t t R X +-),(t h t R X ++),(t t R X (6.4)定理6.5(均方连续准则) 二阶矩过程}),({T t t X ∈在t 点均方连续的充要条件为相关函数),(21t t R X 在(t,t)处连续.证明 必要性;若).()(...t X h t mX i l =+则由定理6.3之(6)得 )].()([lim),(lim21,21,2121t X t X E t t R tt t t X tt t t →→→→=. 充分性:若),(21t t R X 在(t,t)处连续,令(6.4)式的0→h 取极限即可得证.. 推论 若相关函数),(21t t R X 在{(t,t),}T t ∈上连续,则它在T T ⨯上连续.证明 若在),(21t t R X 在{(t,t),t }T t ∈处连续,则由定理6.5知X(t)在T 上均方连续,故),()(..11t X s X m i l t s =→),()(..22t X s X m i l t s =→再由定理6.3之(6),故)].()([lim),(lim2121,,t X s X E t s R t t t s X t t t s →→→→===)].()([21t X t X E ),(21t t R X ,知),(21t t R X 在T T ⨯上连续. 三,均方导数定义6.7 设有二阶矩过程}),({T t t X ∈,若存在另一个随机过程)(t X '满足 则称X(t)在t 点均方可微,记作 ht X h t X m i l dtt dX t X h )()(..)()(0-+=='→.并称)(t X '为X(t)在t 点的均方导数.若X(t)在T 上每一点t 均方可微,则称它在T 上均方可微.类似地,若随机过程}),({T t t X ∈'在t 点均方可微,则称X(t)在t 点二次均方可微.)(t X '的均方导数记为)(t X ''或22dtX d并称它为二阶矩过程X(t)的二阶均方导数.同理可定义更高阶均方导数. 为了叙述均方可微准则,我们把相关函数),(21t t R X 的如下极限(若存在)]),(),(),(),([lim21212212121122110,021h h t t R h t t R h h t h t R h t h t R X X X X h h -+-+-++→→称为),(21t t R X 在点),(21t t 的广义导数,记作21212),(t t t t R X ∂∂∂.定理6.6 (均方可微准则)二阶矩过程}),({T t t X ∈在t 点均方可微的充要条件为相关函数),(21t t R X 在点(t,t)的广义二阶导数存在. 证明 由定理6.4知,X(t)在t 处均方可微的充要条件为 1100)()([lim121h t X h t X E h h -+→→][])()(22h t X h t X -+存在.将上式展开上式极限存在的充要条件为),(21t t R X 在(t,t)处的广义导数存在.]),(),(),(),([lim 212211210,021h h t t R h t t R h h t h t R h t h t R X X X X h h -+-+-++→→推论1 二阶矩过程 }),({T t t X ∈ 在T 上均方可微的充要条件为相关函数),(21t t R X 在}),,{(T t t t ∈上每一点广义二阶可微.推论2若),(21t t R X 在}),,{(T t t t ∈上每一点广义二阶可微,则dtt dmX)(在T 上以及),,(211t t R t X ∂∂),,(212t t R t X ∂∂),,(21212t t R t t X ∂∂∂在T T ⨯ 上存在,且有(1))];([)]([)(t X E dtt X dE dtt dm X '==(2) 1 (3))];()([)]()([),(21212212t X t X E t X t X E t t t R t X '=∂∂=∂∂(4))].()([)]()([),(212121221212t X t X E t X t X E t t t t R t t X ''=∂∂∂=∂∂∂证明(1)由推论1知)(t X '存在,又由定理6.3之(5),有)];([])()(.,[])()([lim)]([)]([lim)]([)(0t X E ht X h t X m i l E ht X h t X E ht X E h t X E dtt X dE dtt dmh h h X'=-+=-+=-+==→→→(2)由定理6.3之(6))].()([)]()()(..[)]()()([lim)]()([),(2121102110211211t X t X E t X ht X h t X m i l E t X ht X h t X E t X t X E t t t R t h h X '=-+==-+=∂∂=∂∂→→其余各式类似可证.推论2表明数学期望运算与导数运算可以交换顺序.此外,均方导数还有类似于普通函数导数的性质,如导数唯一性;X(t)均方可微,则它均方连续;任一随机变量X(或常数)的均方导数为零;等等. 四,均方积分设二阶矩过程 }),({T t t X ∈,f(t)为普通函数,其中T=[a,b]用一组分点将T 划分如下:b t t t a n =<<<=...10 记n i i ni t t ∆=--≤≤)}{(max11,作和式].,[),)(()(111i i i i i i ni i n t t t t t t X t f S --=∈'-''=∑定义6.8 如果当0→∆n 时,n S 均方收敛于S,即,0lim 0=-→∆S S E n n则称f(t)X(t)在区间[a,b]上均方可积,并记 0..)()(→∆==⎰n m i l dt t X t f S ba).)(()(11-=-''∑i i i ni i t t t X t f(6.5)称(6.5)式为f(t)X(t)在区间[a,b]上的均方积分.定理6.7 (均方可积准则)f(t)X(t)在区间[a,b]上均方可积的充要条件为212121),()()(t d dt t t R t f t f X b aba⎰⎰存在,特别地,二阶矩过程X(t)在区间[a,b]上均方可积的充要条件为),(21t t R X 在[a,b]⨯[a,b].上可积.定理6.8 设f(t)X(t)在区间[a,b]上均方可积,则有 (1) ⎰⎰=baba dt t X E t f dt t X t f E )]([)(])()([; (2) ])()()()([222111⎰⎰ba b adt t X t f dtt X t f E =212121),()()(t d dt t t R t f t f X baba⎰⎰证明 (1)由定理6.3之(5),=⎰])()([badt t X t f E ).])(()(..[11-=-''∑i i i ni i t t t X t f m i l E==-''-=→∆∑)])(()([lim11i i i ni i t t t X t f E n ⎰badt t X E t f )]([)(.类似地由定理6.3之(6)可证明(2)式.定理6.8表明,若f(t)X(t)均方可积,则数学期望积分两种运算可以交换顺序. 均方积分有类似于普通函数积分的许多性质,如唯一性,分部积分公式等等. 定理6.9 设二阶矩过程}),({T t t X ∈在区间[a,b]上均方连续, ,,)()(b t a dv v X t Y ta≤≤=⎰在均方意义下存在,且随机过程}),({T t t Y ∈在区间[a,b]上均方可微,且).()(t X t Y ='推论 设X(t)均方可微,且)(t X '均方连续,则 ⎰'=-tads s X a X t X )()()(. (6.6)例6.7 设}),({T t t X ∈是实均方可微过程,求其导数过程}),({T t t X ∈'的协方差函数).,(t s B X ' 解由(6.6)式⎰'=-taX x X ds s m a m t m )()()(,)()(t m dtt dm X X '=所以,='),(t s B X )]()()][()([t m t X s m s X E X X ''-'-'= =)]()()]()([t m s m t X s X E X X ''-''=)()(),(t m s m t s R X X X '''- =)]()(),([2t m s m t s R ts X X X -∂∂∂=).,(2t s B ts X ∂∂∂6.4 平稳过程的各态历经性平稳随机过程的统计特征完全由其前二阶矩函数确我们知道,对固定的时刻t,均值函数和协方差函数是由随机变量X(t)的取值在样本空间Ω上的概率平均,是由X(t)的分布函数确定,常很难求得.实际上,如果我们已经样本记录,是否可由此获得平稳过程的数字特征的充分依据,即时间取平均来代替统计平均呢?为此,我们来回顾一下大数定律.设独立同分布的随机变量序列,...},2,1,{=n X n 具有2][,][σ==n n X D m X E ,(n=1,2,…),则.1}1{lim1=<-∑=∞→εNk kN m XNP这里若将随机序列,...}2,1,{=n X n 看作具有离散参数的随机过程,则∑=Nk kX N11为随机过程的样本函数按不同时刻取平均,它随样本不同而变,是个随机变量.而][n X E m =是随机过程的均值,即任意时刻的过程取值的统计平均.大数定律表明,随时间n 的无限增长.随机过程的样本函数按时间平均以越来越大的概率近似于过程的统计平均.即只要观测的时间足够长,则随机过程的每个样本函数都能遍历各种可能状态.随机过程的这种特性即遍历性或埃尔古德性或叫各态历经性.根据随机过程的定义知,对于每一个固定的t ,T ∈X(t)为一个随机变量,)()]([t m t X E X =即为统计平均;对于每一个固定的Ω∈e ,X(t)即为普通的时间函数,若在T 上对t 取平均,即时间平均.定义6.9 设}),({∞<<-∞t t X 为均方连续的平稳过程,则分别称 ⎰-∞→=TTT dtt X Tm i l t X )(21..)(⎰-∞→-=-TTT dtt X t X Tm i l t X t X )()(21..)()(ττ为该过程的时间均值和时间相关函数.定义6.10 设∞<<-∞t t X ),({为均方连续的过程平稳过程,若)]([)(1.Pr t X E t X =,即XTTT m dt t X Tm i l t X ==⎰-∞→)(21..)( (6.7)以概率1成立,则称该平稳过程的均值具有各态历经性.即).()()(21..)],()([)()(1.ττττX TTT pr R dt t X t X Tm i l t X t X E t X t X =--=-⎰-∞→即(6.8)以概率1成立,则称该平稳过程的相关函数具有各态历经性.定义6.11 如果均方连续的平稳过程}),({∞<<-∞t t X 的均值和相关函数都具有各态历经性,则称平稳过程为具有各态历经性或遍历性.从上面的讨论知,随机过程的时间平均是对给定的e,样本函数对t 的积分值再取平均,显然积分值依赖于e,故一般地,随机过程的时间平均是个随机变量.如果X(t)是各态历经过程,则)()(,)(τ-t X t X t X 不再依赖于e,而是以概率1分别等于 E[X(t)]和E[X(t))](τ-t X .这一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的,于是对随机过程的时间平均也可以由样本函数的时间平均来表示,且可以用任一个样本函数的时间平均代替随机过程的统计平均.另一方面也表明E[X(t)]和E[X(t))](τ-t X 必定与t 无关,即各态历经过程必是平稳过程.但是,平稳过程在什么条件下才具有各态历经性呢?下面先讨论平稳过程的均值具有遍历性的条件.定理6.10设∞<<-∞t t X ),({}为均方连续的平稳过程,则它的均值具有各态历经性的充要条件为 0))()[21(21lim222=--⎰-∞→τττd m R TTXx TtT (6.9)定理6.11设∞<<-∞t t X ),({}为均方连续的平稳过程,则它的相关函数具有各态历经性的充要条件为 0))()()[21(21lim21221=--⎰-∞→ττττd R B TTX TtT(6.10)其中 )].()()()([)(111τττττ----=t X t X t X t X E B例6.8 设有随机相位过程X(t)=acos(wt+Q),a,w 为常数,Q 为)2,0(π上得服从均匀分布的随机变量.问X(t)是否为各态历经过程. 解 因为 021)c o s ()]([20=+=⎰dq q wt a t X E ππ,)]cos()cos([),(Q w wt Q wt a E t t R X +-+=-ττ =dq q w wt q wt a)cos()cos(2202+-+⎰τππ=),()cos(22ττX R w a=⎰-∞→+=TTT dtQ wt a Tm i l t X )cos(21..)( =wQ wT Q wT Ta m i l T )sin()sin(2..+--+∞→=0,故有)].([)(t X E t X = 又因为⎰-∞→+-+=-TTT dtQ w wt Q wt a Tm i l t X t X )2cos()cos(21..)()(2ττ),cos(2)22cos()[cos(2121..22τττw adt Q w wt w aTm i l TTT =+--=⎰-∞→故).()()(ττX R t X t X =-过程X(t)的均值和相关函数都具有各态历经性,所以随机相位过程是各态历经的. 例6.9 讨论随机过程X(t)=Y 的各态历经性,其中Y 是方差不为零的随机变量. 解 X(t)=Y 是平稳过程,事实上 X m Y E t X E ==][)]([(常数),,][][),(22Xx m Y D Y E t t R +==-τ(与t 无关). 但是此过程不具有各态历经性,因为⎰-∞→==TTT Y Y d t Tm i l t X ,21..)(Y 非常数,不等于E[X(t)],所以X(t)=Y 的均值不具有各态历经性.类似可证其相关函数也不具有各态历经性.。
厦大随机过程6
如果考虑 I 0 0 的情形， I t 可以表达为
I t I 0 b u dW u
0
t
此外， t0 , t1, 在定义伊藤过程
tn ,0 t0 t1
tn T 是 0, T 上的一个划分。
j 1 j j
k 1 E b t j W t j 1 W t j | j l 1 E W t W tk | b tk
因此
b tk s W t W tk | tk E E | s 0
s
k 1 j l 1 j
l 1 s b t j W t j 1 W t j j 0 E b t W t W t | t | s 0 E
伊藤积分
伊藤积分的定义
为了计算
b t dW t ，我们沿用传统的积分方法：先离散划分再取极限，即
0
n 0 i 1
T
lim
b t W t
i 1 i
n
问题是：上式作为随机变量的积分，其自身也是一个随机变量，它会收敛于某个极限吗？ 由于布朗运动的一阶变分
0
t
则
I t t u dW u u dW u
0 0
t
t
同时，对于任何常数 c 都有
cI t cb u dW u
0
t
伊藤积分是一个鞅过程。 给 定 0 s t T， 假 设 s tl , tl 1 , t tk , tk 1 。 我 们 的 目 标 是 证 明
2012-2013秋季学期《随机过程》第六章习题
中科院研究生院2012～2013第一学期 随机过程讲稿 孙应飞第六章 高斯过程（维纳过程） 习题1、 设有随机过程Y ，∞<<−=t X t t 0,1)(2X 是正态随机变量，期望为0，方差为。
2X σ（1） 过程Y 是否正态过程？是否平稳过程？均需说明理由；)(t （2） 过程，在均方可积意义下是否存在？存在的话，试求其相关函数。
0,)()(0>=∫t ds s Y t Z t2、 设是初值为零的标准布朗运动，令0,)(≥t t B 10)],1/([)1()(<≤−−=t t t B t t ξ，的常数，试求随机过程0,0),12>≥−a t at η()(=−e B e t at )(t ξ和)(t η的均值函数和相关函数，并说明)(t ξ和)(t η是否是正态过程。
3、 设是标准的布朗运动，试求与的相关系数，其中：。
}0,)({≥t t B 1≤≤t )(t B ∫10)(du u B 04、 已知是初值为0的标准布朗运动，求在0),(>t t B 0)1(=B 时的条件概率分布密度函数。
)10()(<<t t B 5、 已知是初值为零的标准布朗运动，令0,)(≥t t B b t B a t +=)()(ξ，b at B t +=)()(η，其中常数a ，t 。
试分析此两随机过程的前二阶矩是否相同？此两过程是否同分布？说明理由。
0>b ,0>0≥6、 设{为零初值的标准布朗运动，试求：}0),(≥t t B （1） 在的条件下，的条件概率密度函数，其中t ；01)(x t B =)(2t B 12t >（2） 布朗运动的对称性，即证明：当 t 时，有0,00>>t 2/1})()({})()({00000000==≤+==>+x t B x t t B P x t B x t t B P ；（3） 令：T })(,0:inf{a t B t t a =>=a ，T 表示布朗运动首次到达a 的时刻，当时，试求T 的分布函数。
随机过程-习题-第6章
随机过程-习题-第6章(总11页)--本页仅作为文档封面，使用时请直接删除即可----内页可以根据需求调整合适字体及大小--设有n 维随机矢量)(21n ξξξξτ =服从正态分布，各分量的均值为n i a E i ,,2,1, ==ξ，其协方差矩阵为⎪⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛=2222222000000σσσσσσσa a a B试求其特征函数。
解：n 元正态分布的特征函数为}21exp{),,,(21][Bt t t j t t t n '-'=μφξn i a E i ,,2,1, ==ξ ),,,(21n t t t t =' ，则∑=='ni ijat t j 1μ()()),,,(2122322222121'++='n n t tt t t a t t a t t Bt t σσσσσσ=22223232222221221σσσσσσn t t a t t t a t t t ++++++ =∑∑-=+=+1121122n i i i ni i a t t t σσ∴]21exp[)]21(exp[),,,(112112221][∑∑-=+=--=n i i i ni i i n a t t t jat t t t σσφξ. 设n 维正态分布随机矢量)(21n T ξξξξ =各分量的均值为i E i =ξ，n i ,3,2,1=，各分量间的协方差为n i m i m n b i m ,3,2,1,|,|,=--=设有随机变量∑==ni i 1ξη，求?的特征函数。
解：易得：⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n ξξξη 21]111[2)1(][][11+===∑∑==n n i E E ni ni i ξη 协方差矩阵为： ⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡------=n nn n n n n n n n321312211121B所以 ]111[]111['⋅⋅= B ηD =223n n +由于高斯分布的随机变量的线形组合依旧是高斯分布的，所以η的特征函数为：⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧++-+=2456822)1(exp )(t n n n t n n j t ηΦ设有三维正态分布随机矢量)(321ξξξξ=T ，其各分量的均值为零，即0][=i E ξ)3,2,1(=i ，其协方差矩阵为⎪⎪⎪⎭⎫⎝⎛=333231232221131211b b b b b b b b b B其中，2332211σ===b b b ，试求：（1）[]321ξξξE（2）[]232221ξξξE （3）)])()([(223222221σξσξσξ---E 解：（1） 由教材467P 页可看出()()3,2,1,,,,321321=Φ-=∂Φ∂i t t t u t t t t i i()()()j i j i t t t u u t t t b t t t t t j i ij ji ≠=Φ+Φ-=∂∂Φ∂且3,2,1,,,,,,,3213213212，()()()()()()()3213211232133123213213211233212133213123213213,,,,,,,,,,,,t t t u u u u b u b u b t t t u u u t t t u b t t t u b t t t u b t t t t t t Φ-++=Φ-Φ+Φ+Φ=∂∂∂Φ∂ 其中：()321,,t t t Φ为零均值的三元正态分布随机变量321,,ξξξ的特征函数()⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧-=Φ∑=3132121exp ,,k k k u t t t t∑==31i i ki k t b u令0321===t t t ，则()3,2,1,0,10,0,0===Φk u k ，所以[]()()0,,032132133213213=∂∂∂Φ∂====-t t t t t t t t t jE ξξξ（2）设()321123213312u u u u b u b u b N -++=，则()()3213213213,,,,t t t N t t t t t t Φ=∂∂∂Φ∂21333123321333123312321233122321222132312221133112321111231312123131222213332122231133221132132222u u b u u b u u b b b b b t Nu u b u u b u u b b b b b t Nu u b u u b u u b b b b b t Nb b b b b b b b b b b b t t t N---+=∂∂---+=∂∂---+=∂∂++++=∂∂∂∂()()()()()()()2313123322110132321223132123213212321321303213213023222132164,,,,,,,,,,,,321321321b b b b b b t N t t t t t t N t t t t t t N t t t t t t t t t t t N t t t t t t N t t t t t t t t t t t t t t t -=⎪⎪⎭⎫ ⎝⎛∂∂∂∂Φ∂+∂∂∂∂Φ∂+∂∂∂∂Φ∂+Φ∂∂∂∂=∂∂∂Φ∂=∂∂∂Φ∂========= []()()()()231312332211023222132162322214,,63216b b b b b b jt t t t t t jE t t t -=∂∂∂Φ∂=--===ξξξ(3)()()()[]()()()()[]()2121122221222121122122112221121222112121122122221214,2,,t t u u b u u b u u u b b u u b u b b b b t t u u b t t t t t t Φ-+--++-+=Φ+-∂∂∂=∂∂Φ∂()()()[]()()()()[]()3131132321332131132133113231121333113131133122321314,2,,t t u u b u u b u u u b b u u b u b b b b t t u u b t t t t t t Φ-+--++-+=Φ+-∂∂∂=∂∂Φ∂()()()[]()()()()[]()3232232322332232232233223232222333223232233222322324,2,,t t u u b u u b u u u b b u u b u b b b b t t u u b t t t t t t Φ-+--++-+=Φ+-∂∂∂=∂∂Φ∂[]()21222110222121422212,21b b b t t t t E t t +=∂∂Φ∂===ξξ []()21333110232131423212,31b b b t t t t E t t +=∂∂Φ∂===ξξ []()22333220232232423222,32b b b t t t t E t t +=∂∂Φ∂===ξξ()()()[][][][][]()()()22321321222313126232221423222321222122322212232222212224b b b b b b E E E E E E E E ++--=-+++++-=---σσξξξσξξξξξξσξξξσξσξσξ另一种方法是利用设有三维正态分布的随机矢量T ξ=[1ξ,2ξ,3ξ]的概率密度为f []ξ(x 1,x 2,x 3)=C )}422(21exp{2321222121x x x x x x x +-+--(1)证明经过线性变换η=A ξ=⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡---100721021411⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡321ξξξ 得矢量T η=[321,,ηηη]，则321,,ηηη是相互统计独立的随机变量。
随机过程在金融中的应用6鞅和鞅表示ppt课件
这种赌博称为公平赌博。
3
定义2 设{X n} 及{Yn} ，n 0,1,2, ，为两个随机序列，
对任意n 0 ，有
（1） E | X n |
（2） （3）
X n 是Y0， ，Yn 的函数；
E( X n1 | Y0 , ,Yn ) X n
则称{X n} 关于{Yn} 为鞅， 简称 {X n}为鞅
上鞅表示第n+1年的平均赌本不多于第n年的赌本， 即具有上鞅这种性质的赌博是亏本赌博；
下鞅表示第n+1年的平均赌本不少于第n年的赌本， 即具有下鞅这种性质的赌博是盈利赌博。
性质3 {X n}为鞅的充分必要条件是，{X n}既为上鞅
也为下鞅。
性质4
{X n} 上鞅 {X n} 下鞅
{ X n} 下鞅 { X n} 上鞅
（3）并且如果Et [ST ] St ，对于所有t T 有概率 1
即未被观测的未来价值的最好预测是 S t 的最近观测
称过程 St ,t [0, ] 是鞅
首24 页
鞅过程的 鞅是在给定当前信息集时，未来变化完全 基本特征 不可测的随机变量。
例如
设 S t 是一个鞅
首页
则在长度为u 0 的间隔内St 变化的预期：
P(n 1) p P(n 1) q
由 X n 的定义知，n1 与{ X 0 ， X 1 ，…，X n }独立
所以
E( X n1 | X n , X n1, , X 0 )
n 1
E(n1 | X n , X n1, , X 0 ) E( X n | X n , X n1, , X 0 )
E(n1) X n p q X n
{ n} { n} (Y0 , ,Yn )
第6章-马尔可夫过程和泊松过程V2
p ( n ) P ( s , n )p ( s )
6.1.3切普曼-柯尔莫哥洛夫 方程 C-K方程
pij ( s , n ) pik ( s , r ) pkj ( r , n )
k 1 N
也可写成矩阵形式 ， 即P(s,n)=P(s,r)P(r,n)
13
6.1.3切普曼-柯尔莫哥洛夫 方程 C-K方程
26
反射壁
0 1 2 状态转移图和状 态转移矩阵一一 P n, n 1 0 对应 0 0
1 0 12 0 0
0 120
27
状态概率的计算
p(1) PT (1)p(1)
0 0 12 0 1 0 0 0 1 2 0
P( X n 1 j X 0 i0 , X 1 i1 ,, X n 1 in 1 , X n i ) P( X n 1 j X n i )
注意：在教科书中，一般约定状态空间为I={a1,a2,a3,a4等}; 为了简约表示，也可用i1表示状态，而不是ai1。
pij ( s , n ) 证明：
P{ X n a j | X s a i }
P{ X n a j , X s ai } P{ X s ai }
n
N
因为事件Xr=ak， k=1,2,构成一划分。 （全概率公式）
P{ X s ai } N P{ X a , X a , X a } n j r k s i P{ X r ak , X s ai } P{ X r ak , X s ai } P{ X s ai } k 1
第六章
马尔可夫过程与泊松过程
主要内容
第六章 单量随机过程的建模与谱估计
第六章 单变量随机过程的建模与谱估计6.1 概述6.1.1 引言一个平稳过程的主要统计特性可用它的协方差函数或等价的谱函数来刻画。
但是协方差函数和谱函数都是用无限个数值，即一条曲线来描述，使用不方便，尤其是在预测、滤波、控制等应用场合。
根据随机信号理论知，若平稳随机信号n y 满足表示定理条件，它可以被看作是某一线性定常系统)(1-z H 对白噪声输入的响应，即n n w z H y ⋅=-)(1 (6-1)其中n w 是方差为2w σ的白噪声，)(1-z H 是后移位算子1-z 的有理多项式，并且n y 的功率谱密度函数可以表示为22)()(w j j y eH e S σωω⋅=- (6-2)因此，可以用系统传递函数)(1-z H 的有限个参数来刻画该过程的主要统计特性。
另外，经典的随机信号谱估计方法是确定信号谱估计方法的推广，所获得的谱估计量是非一致的。
各种改进算法，如平滑、加窗、分段平均等，但是它们也都在曲线平滑程度与峰值分辨率之间存在矛盾。
用模型估计方法的基本思路是，先估计过程模型参数，再由参数估计谱，以便得到更好的估计量。
6.1.2 平稳过程的线性模型表达由线性环节)(1-z H 的三种形式)(1-z H ⎪⎪⎪⎩⎪⎪⎪⎨⎧=⋅++⋅+⋅++⋅+=⋅++⋅+=⋅++⋅+=------------),(),(11),(1),(111111111111111z p A z q B z a z a z b z b z q B z b z b z p A z a z a p p q q q q p p ΛΛΛΛ (6-3)可以导出平稳过程的三种标准的线性模型表达：1)p 阶自回归过程阿AR(p)n n w y z p A =⋅-),(1 (6-4)或n p n p n n w y a y a y =⋅++⋅+--Λ11 (6-5)2)q 阶滑动平均过程MA(q)n n w z q B y ⋅=-),(1 (6-6)或q n q n n n w b w b w y --⋅++⋅+=Λ11 (6-7)3)p 、q 阶自回归滑动平均过程ARMA(p, q)n n w z q B y z p A ⋅=⋅--),(),(11 (6-8)或q n q n n p n p n n w b w b w y a y a y ----⋅++⋅+=⋅++⋅+ΛΛ1111 (6-9)1)若)(1-z A 是渐近稳定的，则AR(p)过程等价于MA (∞)过程，即∑∑∞=-∞=--⋅=⋅⎪⎭⎫ ⎝⎛⋅=⋅=001),(1i i n i n i i i n n w h w z h w z p A y (6-10) 2)若)(1-z B 是最小相位的，则MA(q )过程等价于AR(∞)过程，即∑∑∞=-∞=--⋅=⋅⎪⎭⎫ ⎝⎛⋅=⋅=001),(1i i n i n i i i n n y f y z f y z q B w (6-11) 3)若),(),()(111---=z p A z q B z H 是渐近稳定且最小相位的，则ARMA(p, q)过程等价于AR(∞)过程，即 ∑∑∞=--∞=---⋅=⋅⋅⎪⎭⎫ ⎝⎛⋅=⋅=01011),(),(),(i i n i n i i i n n y h y z p A z f y z q B z p A w (6-12) 4)若),(),()(111---=z p A z q B z H 是渐近稳定且最小相位的，则ARMA(p, q)过程等价于MA (∞)过程，即 ∑∑∞=--∞=---⋅=⋅⋅⎪⎭⎫ ⎝⎛⋅=⋅=01011),(),(),(i i n i n i i i n n w f w z q B z h w z p A z q B y (6-13) 6.2 平稳过程的AR(p)模型估计6.2.1 AR(p)过程的标准方程对式(6-5)左乘m n y -，并取数学期望，得{}{}11()n m n n p n p n m n y y a y a y y w ----E +++=E L (6-14)即1()(1)()()y y p y yw R m a R m a R m p R m +-++-=L (6-15)因为AR(p)过程可以用MA(∞)表示，即∑∞=-=0i i n i n w h y因此0(){}yw n m n i n m i n i R m y w E h w w ∞---=⎧⎫=E =⎨⎬⎩⎭∑{}m wi i w i n i m n i h i m h w w E h -∞=∞=--⋅=+==∑∑220)(σδσ⎪⎩⎪⎨⎧<=>=-0,0,0,022m h m m m w w σσ (6-16) 将式(6-16)代入式(6-15)，得自相关函数的通解0)()1()(1=-⋅++-⋅+p m R a m R a m R y p y y Λ, 0>m (6-17)边界条件⎪⎪⎩⎪⎪⎨⎧=⋅++-⋅+=-⋅++⋅+=⋅++⋅+0)0()1()(0)1()0()1()()1()0(1121y p y yp y w p y R a p R a p R p R a R a R p R a R a R ΛΛΛΛΛΛΛσ (6-18) (6-18)式就是AR(p)过程的标准方程，又称为Yule －Walker 方程（简称：Ｙ－Ｗ方程）。
随机过程马氏过程
本章只介绍马尔可夫过程和马尔可夫 链的基本概念,以及转移概率的基本性质.
第六章 基本要求
1. 理解马尔可夫性与马尔可夫过程概念， 学会判别马尔可夫过程的方法； 2. 理解马尔可夫链与齐次马尔可夫链的 概念，会求一步转移概率及一步转移概率 矩阵。会画概率转移图； 3. 掌握n步转移概率求法及切普曼—柯 尔莫哥洛夫方程，了解初始分布概率，会 求绝对分布. 4. 理解转移概率的遍历性,会求平稳分布.
§6.1 马尔可夫过程概念 §6.2 马尔可夫链 §6.3 切普曼—柯尔莫哥洛 夫方程 §6.4 过程，它 是在20世纪初由前苏联学者A.A.Markov在 研究随机过程中得到的,在众多科学家的共同 努力下,马尔可夫过程已成为内容丰富,理论严 谨,应用广泛的一门随机数学分支.由于马尔可 夫过程在信息理论、自动控制、数值计算、近 代物理、交通运输、工程技术及生物科学等方 面起到的异乎寻常的作用，使得现代科学家与 工程技术人员越来越重视马尔可夫过程的理论 及其应用的研究。
随机过程-6伯努利过程
2、相邻到达间隔时间
? 与伯努利过程相关的一个重要的随机变量 是第k次成功（到达）的时间，记为Yk。与 之相关的变量是第k次相邻到达的间隔时间， 记为Tk。这里k次相邻到达时间是第k-1次 到达之后到第k次到达之间所需的总时间。 它满足如下关系：
T1=Y1,Tk=Yk-Yk-1,k=2,3,... ? 同时他们还满足：
? （d）Z=第一个忙碌瞬间之后直到出现首个 空闲瞬间的瞬间数（含这个空闲瞬间，但 不含第一个忙碌瞬间）
? 解：T是服从参数为1-p的几何分布随机变 量，其分布列是
P (T ? k) ? pk?1 (1 ? p), k 1,2,...
? 均值和方差是：
1
p
E[T] ?
k) ?
1?
, D(T) ? p
? 现在假设伯努利过程运行了n次,得到观测数 据X1, X2,...Xn.未来试验序列Xn+1, Xn+2,...仍 然是独立的伯努利试验，形成了新的伯努 利过程。这些未来的试验与过去的试验都 是相互独立的。
? 所以我们得出这样的结论：从任意时刻开 始，未来也可以用相同的伯努利过程建模， 而且与过去相互独立。人们称这种伯努利 过程性质为重新开始。
? 伯努利过程每次到达的概率为p，现在考虑 如下分裂：每当有一个到达时，我们选择 保留下来（概率为q），或者抛弃（概率为 1-q）。假设保留或抛弃的决定在不同的到 达时间是相互独立的。如果我们集中研究 保留下来的过程，那么可以看到，保留下 来的过程仍然是一个伯努利过程。在每个 到达瞬间，发生一次被留下到达的概率pq， 而且跟其他瞬间是相互独立的。相同的原 因，被抛弃的到达过程也是伯努利过程， 在每个瞬间发生被抛弃的到达的概率是p （1-q）（示意图）
第六讲 正态随机过程
2012-8-20
信息科学与工程学院
1
2 概率密度函数
f X ( x1 , x 2 , , x n ; t1 , t 2 , , t n ) (2 ) 1
n 2 1
K
2
( X m X )T K 1 ( X m X exp 2
)
上式中,mX是n维均值向量，K是n维协方差矩阵
x1 x 2 X xn
mX
m X ( t1 ) m X (t2 ) m X (tn )
2012-8-20
信息科学与工程学院
2
K 11 K K 21 K n1
K 12 K 22 K n2
则正态随机过程在n个不同时刻的取值不相关。 (2) 如果Xn(n＝1,2,…,)两两之间互不相关，则
0 K X ( t i , t j ) E [( X i m i )( X j m j )] 2 i
2012-8-20
i j i j
9
信息科学与工程学院
12 所以 K 0
K ij K X ( t i , t j ) E [( X i m i )( X j m j )] rij i
j
rij
K X (ti , t j )
i
j
2012-8-20
信息科学与工程学院
3
3 性质
正态随机过程的n维概率密度函数只取决于均值和 协方差和相关系数。
2
... ...
2
0 2 n
2
则
K
1
1－ 2 0
... ...