随机过程课件3.2
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
电子科技大学
分析2) 设X=(X1, X2)的协方差矩阵为
12 B 1 2
1 2 , 2 2
R( B ) 2
线性变换矩阵 c11 c21 cm1 t C , R(C ) 2 c12 c22 cm 2 则线性变换 Y= CX的协方差矩阵为
E ( 2 )cost cos s E ( 2 )sintsins
cosω( t s) cos( τ), ( τ t s )
2 2
D( X (t )) R(t , t ) 2cos0 2 .
2) X(t)的一维密度为
f ( x, t )
) E (e
it τ CX
) E (e
i ( Cτ t )τ X
)
1 τ τ τ τ τ expiμ (C t ) (C t ) B(C t ) 2
电子科技大学
1 τ τ τ expi (Cμ ) t t (CBC )t 2
即随机向量Y=CX 服从m维正态分布N(Cμ, CBCτ) 关于定理3.2.6的思考问题：
(**)
, tn ) .
电子科技大学
t
定义3.2.2 若μ是n 维实向量, B 是n 阶非负 定对称阵, 称以(**)式中的 ( t ) 为其特征函数 的n 维随机变量X 服从n 维正态分布.
注 若(**)式中的 B 0 ,称X 服从退化正态
分布或奇异正态分布. 2.边缘分布及二阶矩
以下结论总假定随机向量X=(X1, X2, …, Xn)τ服从N(μ, B ). 非退化
电子科技大学
定理3.2.7 若随机向量X 服从N(μ,B),则 存在一个正交变换U,使得Y=UX 是一个相 互独立的正态随机向量. 证 B为实对称矩阵, 存在正交阵U, 使
d 1 UBUt D dn
d2
di 是 B 的 特征向量
电子科技大学
f x1 , x2 ,, xn
1 (2π) B
n 2 1 2
1 τ 1 exp ( X μ ) B ( X μ ) 2 （ *）
其中X=(x1, x2, …, xn)τ ,称X 服从n 维正态分布.
电子科技大学
记为X=(X1, X2, …, Xn)τ ～N(μ , B).
电子科技大学
定理3.2.2 n维正态分布随机变量X的任一 子向量 τ ( X k1 , X k2 ,, X km ) ( m n)
~ B 是B 保留第k1,k2,…,km 行及列所得的m 阶矩阵.
~ ~ ~ μ 也服从正态源自文库布B(μ, B), 其中 ( k1 , k2 ,, km ),
1 t12 1 2t12 1 3t12 2 2 2 C 1 2t1 1 4t1 1 6t1 1 3t12 1 6t12 1 9t12
电子科技大学
可计算得
C 0,且
Ran(C ) 2,
故例中当n>2时，不能写出n维联合正态概率 密度. Ex.3 设随机过程{X(t), t∈T} 和{Y(t), t∈T} 相互独立，都是正态随机过程，设
2 1 e 2 , 2π
电子科技大学
x2
x R
X(ti)是相互独立正态随机变量的线性组合, 故(X(t1),X(t2))服从二维正态分布,其相关系数 为 2 R( s, t ) m( s )m( t ) cosωt cost 2 R( s, s ) R( t , t ) 得过程X(t)的二维密度为 仅与t = t －s 有关
C ( t i , t j ) E{[ X ( t i ) m( t i )][ X ( t j ) m( t j )]}
(1 i , j n).
电子科技大学
Ex.1 随机振幅电信号
设
X (t ) cost sint , t R
E (ξ ) E ( η) 0, E (ξ 2 ) E ( η2 ) 2 , ω为常数
电子科技大学
|CBCτ| =
2 3 4 3 5 7 0, 4 7 10
参见P76例1
X=(X(1), X(2), X(3))不服从非退化正态分布.
一般地, 若X=(X1, X2)是非退化二维正态随 机向量,其线性变换 Y= CX, 有 1) 每一分量服从正态分布; 2) 不能构成二维以上的非退化联合正态 分布;
1)上述几个定理均可应用于正态过程.
2）若存在n,对t1,t2, …,tn∈T,n维随机变量 (X(t1),…,X(tn))服从退化正态分布,称{X(t), t∈T}为退化正态过程. 3) 正态过程的n 维分布由其二阶矩完全 确定.
电子科技大学
有 对任意的n≥1, t1, t2 , …,tn∈T, (X(t1), …, X(tn))τ～N(μ,B),
多元正态分布的 边缘分布仍是正 态分布
电子科技大学
定理3.2.3 设μ和 B 分别是随机向量X 的数 学期望向量及协方差矩阵, 即 E(Xi)=μi , 1≤i≤n; bij=E{(Xi－μi)(Xj－μj)}, 1≤i ,j≤n. 3.独立性问题 定理3.2.4 n维正态 分布随机向量X1,X2,…, Xn相互独立的充要条 n维正态分布 由二阶矩确定. 等价于其协 方差矩阵是 对角阵.
ξ与η相互独立同服从正态分布, 1) 试求X(t)的均值函数和相关函数； 2）写出一维概率密度和二维概率密度. 解 1) E{ X ( t )} E ( ξ )cosωt E (η)sinωt 0
因 E () 0，故
电子科技大学
R( s, t ) E{( cos t sint )(coss sins )}
0 1 0 因 X0 ～ N , 0 1 0 V
X的协方差矩阵为
1 1 1 0 1 1 1 τ τ CBC = C 0 1 C 1 2 1 2 3 1 3
又因B是正定阵(从而非奇异的) B 有n个线性无关特征向量 设U是以特征向量为列构成的正交阵,令 Y=UX 则得证. 二、正态随机过程 定义3.2.2 随机过程{X(t), t∈T}称为正态 过程,如果它的任意有限维分布都是联合正 态分布.
电子科技大学
即对任意的正整数n和t1, t2 , …, tn∈T,n维随机 变量(X(t1),…,X(tn))都服从正态分布. 注
件是它们两两不相关.
电子科技大学
4.正态随机向量的线性变换
定理3.2.5正态随机向量 X=(X1,X2,…,Xn)τ， 记E(X)=μ,协方差矩阵为B. 1) 对X 的线性组合
Y l j X j LX ,
j 1 n
L=(l1, l2 ,…, ln )
有
E (Y ) l j j Lμ,
电子科技大学
定理3.2.6 若X=(X1,X2,…,Xn)τ 服从n维正
态分布N(μ,B),C=(cjk)m×n是任意矩阵,则
Y=CX 服从m维正态分布N(Cμ,CBCτ). 正态分布的线 性变换不变性 证 对于任意m 维实值列向量t, Y 的特征函数为
it τ Y
φ Y ( t ) E (e
f ( x1 , x2 ; s, t )
2
2
2 x12 2 x1 x2 cos t x2 1 2 2 (1 cos 2 t ) , 2 1 cos t ( x , y ) R2 .
电子科技大学
思考题: 此过程是否是正态过程? 可否写出任意n维 概率密度?
Ex.2 分析P76 例1中的n 维概率分布 在概率密度的协方差矩阵C中 取n 3, t 2 2t1 , t 3 3t1 , 则
能否保证Y= CX 服从非退化正态分布
?
反例: 设随机变量X0与V相互独立,都服从 标准正态分布N(0,1), 令 X(1)=X0+V, X(2)=X0+2V, X(3)=X0+3V, 问(X(1),X(2),X(3))是否服从非退化正态分布?
电子科技大学
分析 设
X (1) 1 1 X0 X0 X X (2) 1 2 C V V X (3) 1 3
Y CBCt , R(Y ) min( R(C ), R( B)) 2
即二维以上的线性变换向量Y= CX都是 退化(奇异)联合正态分布.
电子科技大学
问题结论： 1)不能保证Y=CX 服从非退化正态分布. 2) 当|CBCτ|≠0时, 随机向量Y 服从非退化 正态分布.
可注明
推论 非退化正态分布随机向量X的行满 秩线性变换仍服从非退化正态分布.
m ( t1 ) C ( t1 , t1 ) C ( t1 , t 2 ) C ( t1 , t n ) C ( t , t ) C ( t , t ) C ( t , t ) m(t 2 ) 2 1 2 2 2 n μ , B C ( t n , t 1 ) C ( t n , t 2 ) C ( t n , t n ) m ( t ) n
若(X,Y)～ N ( μ1 , σ ; μ2 , σ ; ρ) 其中σ1>0,σ2>0, 记 | |<1, 故协方差 X E ( X ) μ1 μ E , 矩阵满足 |B |≠0. Y E (Y ) μ 2
2 x 1 1 2 X B 2 2 1 2 y
注 当B=(bij)是n阶正定对称矩阵,有 B 0;
若 B 0则不能用(*)式给出其概率密度.
定理3.2.1 n维正态分布随机向量X=(X1, X2, …, Xn) 的特征函数为
τ 1 τ φ( t ) expiμ t t Bt 2
其中 t ( t1 , t2 ,
电子科技大学
(X,Y)的联合概率密度为
( x, y )
1 2 1 2 1 ρ 2
2 ( x 1 ) ( y 2 ) ( y 2 )2 1 ( x 1 ) exp 2ρ 2 2 2 1 2 2 2(1 ) 1
1 τ 1 exp ( X μ ) B ( X μ ) 1 2 2π B 2 1
记为(X,Y) ～N(μ , B).
电子科技大学
定义3.2.1 设B=(bij) 是n 阶正定对称矩阵,μ是 n 维实值列向量, 定义n维随机向量 X=(X1, X2, …, Xn)t 的联合密度函数为
§3.2 正 态 过 程
在现实问题中,满足一定条件的随机变量 之和的极限服从正态分布. 电子技术中的热噪声是由大量的热运动 引起,也服从正态分布.
由于一个随机过程可以用有限维分布来 描述,为研究正态过程应首先研究多维正态 分布随机变量.
电子科技大学
一、多维正态随机变量 1.概率密度与特征函数
2 1 2 2
j 1
n
D(Y ) l j lk b jk LBLτ ,
j 1 k 1
电子科技大学
n
n
2) 若C=(cjk)m×n, 线性变换 Z=CX,则
均值向量为 E(Z)=E(CX)=CE(X)=Cμ, 协方差矩阵为 DZ=CBCτ 定理3.2.6 X=(X1,X2,…,Xn)τ 服从n 维正态 分布N(μ ,B)的充要条件是它的任何一个非零 线性组合 可将多维正 n 态随机变量问 ljX j, 题转化为一维 j 1 正态分布问题. 服从一维正态分布.
分析2) 设X=(X1, X2)的协方差矩阵为
12 B 1 2
1 2 , 2 2
R( B ) 2
线性变换矩阵 c11 c21 cm1 t C , R(C ) 2 c12 c22 cm 2 则线性变换 Y= CX的协方差矩阵为
E ( 2 )cost cos s E ( 2 )sintsins
cosω( t s) cos( τ), ( τ t s )
2 2
D( X (t )) R(t , t ) 2cos0 2 .
2) X(t)的一维密度为
f ( x, t )
) E (e
it τ CX
) E (e
i ( Cτ t )τ X
)
1 τ τ τ τ τ expiμ (C t ) (C t ) B(C t ) 2
电子科技大学
1 τ τ τ expi (Cμ ) t t (CBC )t 2
即随机向量Y=CX 服从m维正态分布N(Cμ, CBCτ) 关于定理3.2.6的思考问题：
(**)
, tn ) .
电子科技大学
t
定义3.2.2 若μ是n 维实向量, B 是n 阶非负 定对称阵, 称以(**)式中的 ( t ) 为其特征函数 的n 维随机变量X 服从n 维正态分布.
注 若(**)式中的 B 0 ,称X 服从退化正态
分布或奇异正态分布. 2.边缘分布及二阶矩
以下结论总假定随机向量X=(X1, X2, …, Xn)τ服从N(μ, B ). 非退化
电子科技大学
定理3.2.7 若随机向量X 服从N(μ,B),则 存在一个正交变换U,使得Y=UX 是一个相 互独立的正态随机向量. 证 B为实对称矩阵, 存在正交阵U, 使
d 1 UBUt D dn
d2
di 是 B 的 特征向量
电子科技大学
f x1 , x2 ,, xn
1 (2π) B
n 2 1 2
1 τ 1 exp ( X μ ) B ( X μ ) 2 （ *）
其中X=(x1, x2, …, xn)τ ,称X 服从n 维正态分布.
电子科技大学
记为X=(X1, X2, …, Xn)τ ～N(μ , B).
电子科技大学
定理3.2.2 n维正态分布随机变量X的任一 子向量 τ ( X k1 , X k2 ,, X km ) ( m n)
~ B 是B 保留第k1,k2,…,km 行及列所得的m 阶矩阵.
~ ~ ~ μ 也服从正态源自文库布B(μ, B), 其中 ( k1 , k2 ,, km ),
1 t12 1 2t12 1 3t12 2 2 2 C 1 2t1 1 4t1 1 6t1 1 3t12 1 6t12 1 9t12
电子科技大学
可计算得
C 0,且
Ran(C ) 2,
故例中当n>2时，不能写出n维联合正态概率 密度. Ex.3 设随机过程{X(t), t∈T} 和{Y(t), t∈T} 相互独立，都是正态随机过程，设
2 1 e 2 , 2π
电子科技大学
x2
x R
X(ti)是相互独立正态随机变量的线性组合, 故(X(t1),X(t2))服从二维正态分布,其相关系数 为 2 R( s, t ) m( s )m( t ) cosωt cost 2 R( s, s ) R( t , t ) 得过程X(t)的二维密度为 仅与t = t －s 有关
C ( t i , t j ) E{[ X ( t i ) m( t i )][ X ( t j ) m( t j )]}
(1 i , j n).
电子科技大学
Ex.1 随机振幅电信号
设
X (t ) cost sint , t R
E (ξ ) E ( η) 0, E (ξ 2 ) E ( η2 ) 2 , ω为常数
电子科技大学
|CBCτ| =
2 3 4 3 5 7 0, 4 7 10
参见P76例1
X=(X(1), X(2), X(3))不服从非退化正态分布.
一般地, 若X=(X1, X2)是非退化二维正态随 机向量,其线性变换 Y= CX, 有 1) 每一分量服从正态分布; 2) 不能构成二维以上的非退化联合正态 分布;
1)上述几个定理均可应用于正态过程.
2）若存在n,对t1,t2, …,tn∈T,n维随机变量 (X(t1),…,X(tn))服从退化正态分布,称{X(t), t∈T}为退化正态过程. 3) 正态过程的n 维分布由其二阶矩完全 确定.
电子科技大学
有 对任意的n≥1, t1, t2 , …,tn∈T, (X(t1), …, X(tn))τ～N(μ,B),
多元正态分布的 边缘分布仍是正 态分布
电子科技大学
定理3.2.3 设μ和 B 分别是随机向量X 的数 学期望向量及协方差矩阵, 即 E(Xi)=μi , 1≤i≤n; bij=E{(Xi－μi)(Xj－μj)}, 1≤i ,j≤n. 3.独立性问题 定理3.2.4 n维正态 分布随机向量X1,X2,…, Xn相互独立的充要条 n维正态分布 由二阶矩确定. 等价于其协 方差矩阵是 对角阵.
ξ与η相互独立同服从正态分布, 1) 试求X(t)的均值函数和相关函数； 2）写出一维概率密度和二维概率密度. 解 1) E{ X ( t )} E ( ξ )cosωt E (η)sinωt 0
因 E () 0，故
电子科技大学
R( s, t ) E{( cos t sint )(coss sins )}
0 1 0 因 X0 ～ N , 0 1 0 V
X的协方差矩阵为
1 1 1 0 1 1 1 τ τ CBC = C 0 1 C 1 2 1 2 3 1 3
又因B是正定阵(从而非奇异的) B 有n个线性无关特征向量 设U是以特征向量为列构成的正交阵,令 Y=UX 则得证. 二、正态随机过程 定义3.2.2 随机过程{X(t), t∈T}称为正态 过程,如果它的任意有限维分布都是联合正 态分布.
电子科技大学
即对任意的正整数n和t1, t2 , …, tn∈T,n维随机 变量(X(t1),…,X(tn))都服从正态分布. 注
件是它们两两不相关.
电子科技大学
4.正态随机向量的线性变换
定理3.2.5正态随机向量 X=(X1,X2,…,Xn)τ， 记E(X)=μ,协方差矩阵为B. 1) 对X 的线性组合
Y l j X j LX ,
j 1 n
L=(l1, l2 ,…, ln )
有
E (Y ) l j j Lμ,
电子科技大学
定理3.2.6 若X=(X1,X2,…,Xn)τ 服从n维正
态分布N(μ,B),C=(cjk)m×n是任意矩阵,则
Y=CX 服从m维正态分布N(Cμ,CBCτ). 正态分布的线 性变换不变性 证 对于任意m 维实值列向量t, Y 的特征函数为
it τ Y
φ Y ( t ) E (e
f ( x1 , x2 ; s, t )
2
2
2 x12 2 x1 x2 cos t x2 1 2 2 (1 cos 2 t ) , 2 1 cos t ( x , y ) R2 .
电子科技大学
思考题: 此过程是否是正态过程? 可否写出任意n维 概率密度?
Ex.2 分析P76 例1中的n 维概率分布 在概率密度的协方差矩阵C中 取n 3, t 2 2t1 , t 3 3t1 , 则
能否保证Y= CX 服从非退化正态分布
?
反例: 设随机变量X0与V相互独立,都服从 标准正态分布N(0,1), 令 X(1)=X0+V, X(2)=X0+2V, X(3)=X0+3V, 问(X(1),X(2),X(3))是否服从非退化正态分布?
电子科技大学
分析 设
X (1) 1 1 X0 X0 X X (2) 1 2 C V V X (3) 1 3
Y CBCt , R(Y ) min( R(C ), R( B)) 2
即二维以上的线性变换向量Y= CX都是 退化(奇异)联合正态分布.
电子科技大学
问题结论： 1)不能保证Y=CX 服从非退化正态分布. 2) 当|CBCτ|≠0时, 随机向量Y 服从非退化 正态分布.
可注明
推论 非退化正态分布随机向量X的行满 秩线性变换仍服从非退化正态分布.
m ( t1 ) C ( t1 , t1 ) C ( t1 , t 2 ) C ( t1 , t n ) C ( t , t ) C ( t , t ) C ( t , t ) m(t 2 ) 2 1 2 2 2 n μ , B C ( t n , t 1 ) C ( t n , t 2 ) C ( t n , t n ) m ( t ) n
若(X,Y)～ N ( μ1 , σ ; μ2 , σ ; ρ) 其中σ1>0,σ2>0, 记 | |<1, 故协方差 X E ( X ) μ1 μ E , 矩阵满足 |B |≠0. Y E (Y ) μ 2
2 x 1 1 2 X B 2 2 1 2 y
注 当B=(bij)是n阶正定对称矩阵,有 B 0;
若 B 0则不能用(*)式给出其概率密度.
定理3.2.1 n维正态分布随机向量X=(X1, X2, …, Xn) 的特征函数为
τ 1 τ φ( t ) expiμ t t Bt 2
其中 t ( t1 , t2 ,
电子科技大学
(X,Y)的联合概率密度为
( x, y )
1 2 1 2 1 ρ 2
2 ( x 1 ) ( y 2 ) ( y 2 )2 1 ( x 1 ) exp 2ρ 2 2 2 1 2 2 2(1 ) 1
1 τ 1 exp ( X μ ) B ( X μ ) 1 2 2π B 2 1
记为(X,Y) ～N(μ , B).
电子科技大学
定义3.2.1 设B=(bij) 是n 阶正定对称矩阵,μ是 n 维实值列向量, 定义n维随机向量 X=(X1, X2, …, Xn)t 的联合密度函数为
§3.2 正 态 过 程
在现实问题中,满足一定条件的随机变量 之和的极限服从正态分布. 电子技术中的热噪声是由大量的热运动 引起,也服从正态分布.
由于一个随机过程可以用有限维分布来 描述,为研究正态过程应首先研究多维正态 分布随机变量.
电子科技大学
一、多维正态随机变量 1.概率密度与特征函数
2 1 2 2
j 1
n
D(Y ) l j lk b jk LBLτ ,
j 1 k 1
电子科技大学
n
n
2) 若C=(cjk)m×n, 线性变换 Z=CX,则
均值向量为 E(Z)=E(CX)=CE(X)=Cμ, 协方差矩阵为 DZ=CBCτ 定理3.2.6 X=(X1,X2,…,Xn)τ 服从n 维正态 分布N(μ ,B)的充要条件是它的任何一个非零 线性组合 可将多维正 n 态随机变量问 ljX j, 题转化为一维 j 1 正态分布问题. 服从一维正态分布.