第三章 随机过程表示法

Rx (t , u ) = Rx (u, t ) = Rx (τ )
∞ − jωτ −∞
K x (t , u ) 只取决于 | t − u | Rx (t , u ) 只取决于 | t − u |
S x (ω )∆ ∫ Rx (τ )e
对于两个随机变量X 对于两个随机变量X,Y
dτ
1 Rx (τ ) = 2π
T
− mi )( x j − m j )] = λ jδ ij
mi = E ( xi )
1, i = j ∫0 φi (t )φ j (t )dt = δ ij = 0, i ≠ j
T
为了选择系数使有限项近似式与x 的误差平方积分值最小，得满足： 为了选择系数使有限项近似式与x(t)的误差平方积分值最小，得满足：
∴ (λ j − λ ) ∫ φ j (t )φ (t ) dt = 0 →(λ j − λ ) ∫ φ j (t ) dt = 0
确定此n阶密度困难， 确定此n阶密度困难，且不能解决所有问题
7
随机过程表示法
2、常用的两种方法 构造过程
比如马尔可夫过程
p xt
| x Kxt1 n tn−1
( X tn | X tn−1 K X t1 ) = p xt
|x n tn −1
( X tn | X tn−1 )
部分表示法
单一时间表示法， 单一时间表示法，二阶矩表示法
对一个高斯随机过程，其KL展开式中的系数是统 对一个高斯随机过程， KL展开式中的系数是统 计独立的高斯随机变量——KL KL展开最重要的应用 计独立的高斯随机变量——KL展开最重要的应用
14
随机过程表示法
3.4 积分方程的性质
1、 如 为正定，则 大于0 大于0 为正定，
证明： Q λ jφ j (t ) = 证明：
均值函数： 均值函数： mx (t ) ∆ E ( xt ) =
∫
∞
−∞
X t p xt ( X t )dX t
2
方差函数： Dx (t )∆E{[ X (t ) − m(t )] } 方差函数： 相关函数： Rx (t , u ) ∆ E ( xt xu ) = 相关函数：
∞
−∞
∫∫ X X
t
u
p xt xu ( X t , X u )dX t dX u
随机过程表示法
第三章
随机过程表示法
1
随机过程表示法
3.1 引言
信号表示方法： 信号表示方法：时域表示法 频域表示法 正交级数表示法 例：对检测问题，利用归一化正交函数族： 对检测问题，利用归一化正交函数族：
H0 H0
T
s1 (t ) = s1φ1 (t ) s2 (t ) = s2φ2 (t )
n(t ) = n1φ1 (t ) + n2φ2 (t )
这样三种信号就具有相同的检测性能
: H1 : H0
结论：任何两个归一化正交函数必然得到同样的检测性能， 结论：任何两个归一化正交函数必然得到同样的检测性能，但时域 或频域表示法无法体现这个重要特性，因此需要研究随机信号的正 或频域表示法无法体现这个重要特性，因此需要研究随机信号的正 交表示法 。
5
随机过程表示法
对 r.p. ， 类似于确定波形 ， 选择完备正交系展开 ， 需要保证每个样 类似于确定波形，选择完备正交系展开， 本函数能够表示成展开系数式 采用均方收敛： 采用均方收敛：
x(t ) = l.i.m. ∑ xiφi (t ),
N →∞ i =1
N
0≤t ≤T
（ 1）
2 N lim l.i.m. 的含义为 N →∞ E xt − ∑ xiφi (t ) = 0, i =1
xi = ∫ x(t )φi (t )dt
0
T
i = 1,2, L
6
随机过程表示法
3.3 随机过程表示法
{x(t,ωi ),t ∈T,ωi ∈Ω}
r.p. —随时间变化r.v.的总体 随时间变化r ① t , ω i 均变：一族时间函数 均变： ② ③ ④
Байду номын сангаас
ω i 定：样本函数，一次实现 样本函数，
T 0
∫
T
0
K x (t , u )φ j (u ) du
T 0
两边同乘
∫
T
0
(.)φ j (t ) dt
λ j ∫ φ j (t )φ j (t ) dt = ∫ ∫ φ j (t ) K x (t , u )φ j (u ) du dt > 0
∴λj > 0
15
随机过程表示法
* * 2、如实对称核， Kx (t, u) = Kx (t,u) = Kx (u,t) ，则 为实数 如实对称核，
10
E[ X ⋅Y ] = 0
随机过程表示法
3、正交级数表示法 (Karhunen—Loeve展开) (Karhunen—Loeve展开 展开)
一个确定的函数 x (t )
t ∈ [ 0, T ] 可用正交级数展开表示为
N
x(t ) = lim ∑ xiφi (t ),
N →∞ i =1
0≤t ≤T
证明： 证明：（2）式两边同乘
T * m
∫
T
0
* (.) φ m ( t ) dt
* λ j ∫ φ j (t )φ (t ) dt = ∫ ∫ φ j (u ) K x (t , u )φ m (t ) du dt 0 0
T
将（2）式t、u互换： λ jφ j (u ) = 互换：
∫
T
0
K x (u , t )φ j (t ) dt
∫
∞
−∞
S x (ω )e jωτ dω
统计独立： p( X , Y ) = p( X ) p(Y ) 统计独立： 不相关： 不相关：
ρ XY =
σ Xσ Y
K XY
=0
K XY = E[( X − mX )(Y − mY )] = 0
E [ X ⋅ Y ] = E [ X ] E [Y ]
正交： 正交：
∫ =
T
0
x(t )φi (t )dt
T 0
∫
φi (t )dt
2
= ∫ x(t )φi (t )dt
0
T
E [( x i − m i )( x j − m j )] = E {[ ∫ ( x ( t ) − m x ( t ) )φ i ( t ) dt ][ ∫ ( x ( u ) − m x ( u ) )φ j ( u ) du ]}
0
T
0≤t ≤T
（ 2）
核函数：K x (t , u ) 特征值： j 特征值： 核函数： λ
特征函数：φ j (t ) 特征函数：
特征值实质上相当于在特定坐标函数中的能量的期望值 此式为充要条件，求解此积分方程，就可以得到一个系数不相关的 此式为充要条件，求解此积分方程， 正交展开的函数坐标系。又称Karhunen—Loeve展开 展开。 正交展开的函数坐标系。又称Karhunen—Loeve展开。
3.2 确定函数的正交表示法
对区间[0,T 上的能量有限函数x 对区间[0,T]上的能量有限函数x(t)
x(t ) = ∑ xiφi (t )
∞
φi (t ) 为某归一化正交函数族
i =1
∫
T
0
φi (t )φ j (t )dt = δ ij
i, j = 1, 2,L
三角级数族，指数函数族，sinc函数族 沃什函数(Walsh) 三角级数族，指数函数族，sinc函数族，沃什函数(Walsh) ，哈尔 函数族， 函数，勒让得多项式(幂函数) 函数，勒让得多项式(幂函数)
φ1 (t ) ⊗
∫ (⋅)dt ∫ (⋅)dt
r1 = ∫ r (t )φ1 (t )dt
r2 = ∫ r (t )φ 2 (t )dt
⊗
φ 2 (t )
4
随机过程表示法
如果以r 如果以r1，r2值作为判决的基础，三种系统的检测问题都可以视为： 值作为判决的基础，三种系统的检测问题都可以视为：
r1 s1 n1 r ∆ = + , r2 0 n2 r1 0 n1 r ∆ = + , r2 s2 n2
协方差函数： 协方差函数： K x (t , u )∆E{[ x(t ) − mx (t )][ x(u ) − mx (u )]}
= Rx (t , u ) − mx (t )mx (u )
对称性： 对称性：
8
K x (t , u ) = K x (u, t )
随机过程表示法
正定性： 正定性：
f (t ) 为一平方可积的函数，可得一个随机变量: 为一平方可积的函数，可得一个随机变量:
0≤t ≤T
即展开表示式的误差均方值趋于0 即展开表示式的误差均方值趋于0 在经典检测和估计理论中知道，如果处理数据是n维独立的联合高 在经典检测和估计理论中知道，如果处理数据是n 斯密度分布，则求解过程大大简化，在波形检测和估计中， 斯密度分布，则求解过程大大简化，在波形检测和估计中，如果 可建立独立的n维密度，问题即可解决。 可建立独立的n维密度，问题即可解决。
∫
2
0
φi (t )φ f (t )dt = δ if
随机过程表示法
3
随机过程表示法
0 ≤ t ≤ T ; H1 r (t ) r (t ) = n1φ1 (t ) + ( s2 + n2 )φ2 (t ),
0 ≤ t ≤ T; H0
r (t ) = ( s1 + n1 )φ1 (t ) + n2φ2 (t ),
t , ω i 均定：常量（标量或矢量） 均定：常量（标量或矢量）
t
定：随机变量
平稳随机过程： 平稳随机过程：
F( X1 X2 LXn , t1t2 Ltn ) = F( X1 X2 LXn , t1 +τ , t2 +τ Ltn +τ )
1、完备的表示法 应能确定联合密度
p xt1 xt2 Kxtn ( X 1 , X 2 , K , X n )
0 0 T T
= =
∫ ∫
0 T 0
T
T
0 T
φ i ( t ) E {[ x ( t ) − m x ( t )][ x ( u ) − m x ( u )]}φ j ( u ) dtdu φ i ( t ) K x ( t , u )φ j ( u ) dtdu = λ j δ ij
∫ ∫
0
由正交归一条件得到
∫
13
T
0
φi (t ) dt ∫ K x (t , u )φ j (u ) du = ∫ φi (t )[λ jφ j (t )]dt
0 0
T
T
随机过程表示法
为使上式对一切 i、j 成立，内积分必须满足下面积分方程： 成立，内积分必须满足下面积分方程：
λ jφ j (t ) = ∫ K x (t , u )φ j (u ) du
其方差为： 其方差为：
9
随机过程表示法
正定性： 正定性：
∫ ∫ f (t ) K
0
T
x
(t , u ) f (u )dtdu ≥ 0
证明见P.177 证明见P.177
为任意非0有限能量函数，满足上式>0 >0， f (t ) 为任意非0有限能量函数，满足上式>0， 称Kx为正定的
协方差平稳： 协方差平稳： K x (t , u ) = K x (u , t ) = K x (τ ) 相关平稳： 相关平稳：
∂J ∂ = ∂xi ∂xi =
12
∫
0
[ x ( t ) − ∑ x j φ j ( t )] 2 dt
j =1 T
k
∫
T
0
2 x ( t )φ i ( t ) dt − 2 x i ∫ φ 2 i ( t )dt = 0
0
随机过程表示法
(3)最小误差条件： (3)最小误差条件： xi 最小误差条件 代入系数不相关条件
* * m m * * φ (u ) = ∫ K x (u , t )φm (t ) dt 0 T
取共轭，则对第m个特征函数有： λ 取共轭，则对第m个特征函数有： 此式两边同乘
∫
T
T
0
(.)φ j (u ) du
T 0
λ
* m
∫
T
0
* * φ j (u )φ (u ) du = ∫ ∫ φ j (u ) K x (u , t )φm (t ) dtdu * m
11
随机过程表示法
Λ(R) =
p r |H 1 ( R | H 1 ) p r|H 0 ( R | H 0 )
=∏
i =1
K
p ri | H 1 ( ri | H 1 ) p ri | H 0 ( ri | H 0 )
为此我们希望式（1）中不仅函数坐标系是正交的，而且系数之间 中不仅函数坐标系是正交的， 为此我们希望式（ 也是不相关的。 的形式， 也是不相关的。所以我们不事先规定 (t ) 的形式，而是要求一个使 φi φ 即选择一个函数系使： 系数不相关的函数系i (t ) , 即选择一个函数系使： (1)系数不相关： (1)系数不相关： E[( xi 系数不相关 (2)正交归一： (2)正交归一： 正交归一