离散时间随机过程(第二讲2)
合集下载
(优选)离散时间随机信号和随机过程

mx
0
x
x
2
exp
x2
2 2
dx
2
2 x
x
0
mx
2
x
2
exp
x2
2 2
dx
2-
2
2
练习 求正态分布的随机变量的均值和方差。
pxx
1
2
exp
x m2
2 2
mx
x
1
2
exp
ห้องสมุดไป่ตู้
x m2
2 2
dx
m
2 x
x m2
1
2
exp
x m2
2 2
dx
2
5.3 离散随机过程
(1)离散随机过程 由无限多个随机变量构成的一个时间序列
xn n
构成一个随机过程.
仅仅知道一个时刻的统计特性是不够的 还应该知道不同时刻随机变量之间的关 系,引入联合概率分布函数和联合概率密 度函数.
随机过程理论的应用:信道容量分析 •
53
随机变量xn,xm的联合概率分布函数, 描述了他们之间的互相依存关系:
p (X xn,xm n,n,Xm,m)=pxn+k,xm(k Xn+k,n+k,Xm+k,m+k)
意义: 反映了随机变量的波动与离散的程度.
(4)物理意义
设随机变量是电压或电流,则
均方值 E[x2 ] 是在单位电阻上消耗的总的平
均功率;
方差
2 x
是交流成分在单位电阻上消耗的
平均功率;
均值的平方是直流成分在单位电阻上消耗
的平均功率.
.
总平均功率等于交流成分的平均功率
随机过程第二章

4、有限维分布族
定义:设
X t ; t T 为一个 S .P. ,其有限
维分布函数的全体(一维分布函数,二维分布函
数,n维分布函数)。
F Ft1 ,t2 ,,tn x1, x2 ,, xn ; xi R,ti T,n N, i 1,2,, n
称之为 S.P. X t 的有限维分布函数。
2、特点:
独立增量过程在零均值且二阶矩存在时,是正交增量过程。 注:独立增量过程在现实环境中大量存在(例2.10)
3、平稳独立增量过程(定义 2.8)
增量 X(t)-X(s) 的分布律仅依赖于区间长度t-s。(第三章) (三)马尔可夫过程(第四、五章) (四)正态过程 1、定义 2.10: X(t)的有限维分布律是n维正态随机向量的分布律. 2、特点: ①二阶矩过程 ②数字特征成为其参数。
状态空间:S .P. X t 的状态所有可能取值的 集合,称之为状态空间。
小结:
X e, t 是状态与参数的二元函数
若 若
e
t
确定 确定
X e, t 是时间函数
X e, t 是随机变量
是一个确定值 是随机过程 S .P.
r.v.
若 e, t 确定 若 e, t 不定
随机过程的分类
一维正态过程分布律:
X (t ) ~ N u(t ),
2 2
2
(t )
二维正态过程分布律:
X (t1 ), X (t2 ) ~ N u(t1 ),u(t2 ),
这里有5个参数。 其中 1
(t1 ), (t2 ), (t1 , t2 )
(t1 , t2 ) 1 为相关系数或归一化协方差函数
2随机过程(上课用)

xf ( x ) dx
n
[x
i 1
i
a ] P ( xi )
2
( x a ) f ( x ) dx
2
第二章 随机过程
3、随机变量的数字特征(续)
(3)相关函数
无论是离散的还是连续的随机变量,两个随机
变量的相关函数统一定义为
R ( 1 , 2 ) E [ 1 2 ]
第二章 随机过程
一维概率分布函数和密度函数
因为随机过程在任一时刻对应1个随机变量
把随机过程在时刻
则该随机过程在时刻 F1 ( x , t 1 ) P [ ( t 1 ) x ]
t 1 对应随机变量记为
t 1的一维概率分布函数定
( t1 )
义为
其一维概率密度函数定
义为 f 1 ( x , t 1 )
(t ) 都是是连续的随机变量
xf 1 ( x , t ) dx
第二章 随机过程
2、随机过程的方差
同理,随机过程的方差也是一个关于时间 的函数,可由下式计算
( t ) D [ ( t )]
2
E {[ ( t ) a ( t )] }
2
若每个时刻对应的 则 (t )
T /2 T / 2
f
2
(t ) d t
1 T
T
li m
T /2 T / 2
f
2
(t ) d t
第二章 随机过程
二、能量谱密度和功率谱密度
能量信号f(t)的能量谱密度E(ω)
第2章 离散时间平稳随机过程-gxs1

若一个方阵的主对角线元素相等,且平行于主对角 线的斜线上的元素也相等,则称其具有Toeplitz性, 称该方阵为Toeplitz矩阵。
结论:如果离散时间随机过程是广义平稳的,则 它的自相关矩阵 R 一定是Toeplitz矩阵;反之
如果自相关矩阵 R为Toeplitz矩阵,则该离散时间 随机过程一定是广义平稳的。
2018/3/5
36
性质3 平稳离散时间随机过程的相关矩阵R是非负定的, 且几乎总是正定的。
证明:设 a M 1 为任意非零向量,二次型
aH Ra aH E u n uH n a
E aHu n uH n a
E aHu n aHu n H E aHu n 2 0
故 R 总是非负定的。当且仅当观测向量的每个随机
= 1 cosm
2
9
当 k l n时,可以定义 方差
2 n var u n E u n
平均功率
2
Pn E un
2
n r n, n
c n, n
如果随机过程 u n 均值为零,即 n 0时,则有
r n1, n2 c n1, n2 , P n
2n
2018/3/5
10
对于两个不同的随机过程u n 和v n ,可以定义 互相关函数
2 E un
2
c0
2
P E un
r0
2018/3/5
14
对于两个平稳随机过程u n 和 v n ,有 互相关函数 互协方差函数 ruv m E u n v n m
cuv m E u n u v n m v
其中, u 和 v分别是平稳随机过程u n 和v n 的均值。
2018/3/5
15
平稳随机过程中相关函数的性质 性质1 原点处自相关函数值最大
结论:如果离散时间随机过程是广义平稳的,则 它的自相关矩阵 R 一定是Toeplitz矩阵;反之
如果自相关矩阵 R为Toeplitz矩阵,则该离散时间 随机过程一定是广义平稳的。
2018/3/5
36
性质3 平稳离散时间随机过程的相关矩阵R是非负定的, 且几乎总是正定的。
证明:设 a M 1 为任意非零向量,二次型
aH Ra aH E u n uH n a
E aHu n uH n a
E aHu n aHu n H E aHu n 2 0
故 R 总是非负定的。当且仅当观测向量的每个随机
= 1 cosm
2
9
当 k l n时,可以定义 方差
2 n var u n E u n
平均功率
2
Pn E un
2
n r n, n
c n, n
如果随机过程 u n 均值为零,即 n 0时,则有
r n1, n2 c n1, n2 , P n
2n
2018/3/5
10
对于两个不同的随机过程u n 和v n ,可以定义 互相关函数
2 E un
2
c0
2
P E un
r0
2018/3/5
14
对于两个平稳随机过程u n 和 v n ,有 互相关函数 互协方差函数 ruv m E u n v n m
cuv m E u n u v n m v
其中, u 和 v分别是平稳随机过程u n 和v n 的均值。
2018/3/5
15
平稳随机过程中相关函数的性质 性质1 原点处自相关函数值最大
随机过程-第二章 随机过程

同样地, k 维随机过程的
n 维联合分布函数具有对称性和相容性。
i 1 i
k
例 2.1 设随机变量 X b(n, p) ,求 X 的特征函数
解:当 n 1 时, X 服从 0-1 分布,
P( X k ) p k (1 p)1k , k 0,1
所以
(t ) eitk P( X k ) peit (1 p)
自协方差函数与自相关函数之间的关系:
CX (s, t ) RX (s, t ) X (s) X (t )
注:自相关函数与自协方差函数均具有对称性和非负定性的性质。
2.3.2 二维随机过程
两个随机过程 X (t ), t T 和 Y (t ), t T 的互协方差函数
n
Ft1 ,,tm ,tm1 ,,tn ( x1 ,, xm , ,, ) Ft1 ,,tm ( x1 ,, xm )
对应具有有限分布族的随机过程 X (t ), t T 的特征函数
t ,,t (u1 ,, un ) E (ei (u X (t )u X (t )) ) ei (u X (t )u X (t )) dFt ,,t ( x1 ,, xn )
解:先求 Y
X
的特征函数。因为 Y N (0,1) ,所以
2 2
Y (t ) e
由于 ixe
itx x2 2
itx
x itx 1 x2 1 2 e dx e dx 2 2
x2 2
xe
,且
2
xe
x2 2
dx ห้องสมุดไป่ตู้ ,所以
第02讲_随机过程的基本概念1

2 E{X 2 (t )} mX (t )
•均值与方差的物理意义:
2 2 E { X 2 ( t )} X (t ) m X (t )
消耗在单位电阻上 的总的平均功率
平均交 流功率
直流 功率
8
随机过程的统计描述
相关函数(correlation function)
举例:两个均值和方差大致相同的随机过程,相关性差异很大
i 1 j 1
其中 pij (t1 , t2 ) P{ X (t1 ) xi (t1 ), X (t2 ) x j (t2 )} •协方差函数
K X (t1 , t2 ) [ xi (t1 ) mX (t1 )][x j (t2 ) mX (t2 )] pij (t1 , t2 )
例2 接收机的噪声电压信号 用示波器来观察记录某个接收机输出的噪声电压波形
5
第一次观测
x1 (t )
0 -5 5 0 50 100 150 200
第二次观测
x2 ( t ) x3 (t )
0 -5 5 0 50 100 150 200
第三次观测
0 -5 5 0 50 100 150 200
角度1:所 有可能观测 结果 { xi (t )} 构成 X ( t )
E[ X (t1 ) X (t2 )] mX (t1 )mX (t2 ) RX (t1 , t2 ) mX (t1 )mX (t2 )
如果 K X (t1 , t 2 ) 0,则称 X (t1 )和 X (t 2 ) 是不相关的 如果 RX (t1 , t2 ) 0 ,则称 X (t1 ) 和 X(t2 ) 是相互正交的 如果 f X ( x1 , x2 , t1 , t 2 ) f X ( x1 , t1 ) f X ( x2 , t 2 ),则称随机过程在
•均值与方差的物理意义:
2 2 E { X 2 ( t )} X (t ) m X (t )
消耗在单位电阻上 的总的平均功率
平均交 流功率
直流 功率
8
随机过程的统计描述
相关函数(correlation function)
举例:两个均值和方差大致相同的随机过程,相关性差异很大
i 1 j 1
其中 pij (t1 , t2 ) P{ X (t1 ) xi (t1 ), X (t2 ) x j (t2 )} •协方差函数
K X (t1 , t2 ) [ xi (t1 ) mX (t1 )][x j (t2 ) mX (t2 )] pij (t1 , t2 )
例2 接收机的噪声电压信号 用示波器来观察记录某个接收机输出的噪声电压波形
5
第一次观测
x1 (t )
0 -5 5 0 50 100 150 200
第二次观测
x2 ( t ) x3 (t )
0 -5 5 0 50 100 150 200
第三次观测
0 -5 5 0 50 100 150 200
角度1:所 有可能观测 结果 { xi (t )} 构成 X ( t )
E[ X (t1 ) X (t2 )] mX (t1 )mX (t2 ) RX (t1 , t2 ) mX (t1 )mX (t2 )
如果 K X (t1 , t 2 ) 0,则称 X (t1 )和 X (t 2 ) 是不相关的 如果 RX (t1 , t2 ) 0 ,则称 X (t1 ) 和 X(t2 ) 是相互正交的 如果 f X ( x1 , x2 , t1 , t 2 ) f X ( x1 , t1 ) f X ( x2 , t 2 ),则称随机过程在
离散时间随机过程的功率谱密度

其中
B(
z)
C
( (
z z
1 1
)( )(
z z
M M
) )
B(
z
1
)
C
( (
z z
1
1
1
)( )(
z z
1
M
1
) )
1
M
26020/7/19
包含了单位 圆之内的全 部 包零 含点 了和单极位 点 圆之外的全 部零点和极 点6
例 设 RX (m) a m , a 1 ,求SX (z) 和SX ()
1
解 SX (z)
amzm amzm
m
m0
az z (1 a2 )z 1 az z a (z a)(1 az)
(1 a2 )
a1 a
(1 az1)(1 az) (a1 a) (z1 z)
将 z e jT 代人上式,即可求得
SX
()
a 1
a 1 a
a
2 cosT
27020/7/19
)
,则
lim E
N
X (t) Xˆ (t) X (mT )
RX
(t
mTs
)
n
RX
(nTs
mTs
)
sin(ct n ct n
)
0
这说明,[X (t) Xˆ (t)] 正交 X (mT)
又
合,
Xˆ
(t)
N n
N
X
(nTs
)
sin(ct n ct n
)
[X (t) Xˆ (t)] 正交
13
证明 第一步:
RX ( ) 是确知函数,维纳-辛钦定理:RX ( ) SX () SX () 带宽有限,RX ( ) 是带限确定信号,由香农 采样定理可知
北大随机过程课件:第 2 章 第 2 讲 马尔可夫链

则称这类随机过程是马尔可夫链。它具有无后效性。 性质 1,马尔可夫链的有限维概率密度可以用转移概率来表示,即
P{ξ (0) = i0,ξ (1) = i1,Lξ (n) = in ,ξ (n +1) = j} = P{ξ (n +1) = j / ξ (0) = i0,ξ (1) = i1,Lξ (n) = in} P{ξ (0) = i0,ξ (1) = i1,Lξ (n) = in} = P{ξ (n +1) = j / ξ (n) = in}⋅ P{ξ (0) = i0,ξ (1) = i1,Lξ (n) = in}
(n)
=
P(m) ik
(n)
⋅Pk(jr
)
(n
+
m)
k
证明 1
按照全概率公式,
P (m+r ) ij
(n)
=
P{ξ (n + m + r) =
பைடு நூலகம்
j /ξ (n) = i}
= ∑ P{ξ (n + m + r) = j,ξ (n + m) = k /ξ (n) = i} k
= ∑ P{ξ (n + m + r) = j /ξ (n + m) = k,ξ (n) = i} k P{ξ (n + m) = k /ξ (n) = i}
1.3 切普曼-柯尔莫哥洛夫方程
切普曼-柯尔莫哥洛夫方程,是用 m 步和 r 步转移概率来表示 m+r 步转移概率。
m
步转移概率:
P (m) ij
(k
)
=
P{ξ (k
+ m)
=
j /ξ (k)
P{ξ (0) = i0,ξ (1) = i1,Lξ (n) = in ,ξ (n +1) = j} = P{ξ (n +1) = j / ξ (0) = i0,ξ (1) = i1,Lξ (n) = in} P{ξ (0) = i0,ξ (1) = i1,Lξ (n) = in} = P{ξ (n +1) = j / ξ (n) = in}⋅ P{ξ (0) = i0,ξ (1) = i1,Lξ (n) = in}
(n)
=
P(m) ik
(n)
⋅Pk(jr
)
(n
+
m)
k
证明 1
按照全概率公式,
P (m+r ) ij
(n)
=
P{ξ (n + m + r) =
பைடு நூலகம்
j /ξ (n) = i}
= ∑ P{ξ (n + m + r) = j,ξ (n + m) = k /ξ (n) = i} k
= ∑ P{ξ (n + m + r) = j /ξ (n + m) = k,ξ (n) = i} k P{ξ (n + m) = k /ξ (n) = i}
1.3 切普曼-柯尔莫哥洛夫方程
切普曼-柯尔莫哥洛夫方程,是用 m 步和 r 步转移概率来表示 m+r 步转移概率。
m
步转移概率:
P (m) ij
(k
)
=
P{ξ (k
+ m)
=
j /ξ (k)
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
过程的统计特性与起始时间无关,只取决于时间
差 t2 t1 。
离散平稳随机信号:一个离散时间信号X(n),如果其
均值与时间n无关,其自相关函数 rX (n1, n2 ) 和 n1 、n2
的选取点无关,而仅和 n1 、n2 之差有关,那么,称
X(n)为宽平稳的随机信号,或广义平稳随机信号。
10 平稳随机信号的特征描述
*
cov XY (n1, n2 ) cov XY (m) E{[ X (n) X ][Y (n m) Y ]*}
12 平稳随机信号的各态遍历性 (各态历经的平稳随机过程)
一个随机信号X(n),其均值、方差、均方 及自相关函数等,均是建立在集总平均的 意义上,如自相关函数
上面两式右边的计算都是使用单一样本函数x(n)来求出 x
和 rx (m),因此称为“时间平均”。各态遍历信号,其一阶、二
阶的集总平均等于相应的时间平均,即 X x 、 rX (m) rx (m)
14 各态遍历性随机信号数字特征
在实际工作中不可能引用以上介绍的时间平均形式, 因为只有有限的样本数据可以获得。因此,在实际应
14 各态遍历性随机信号数字特征
设x(n)是各态遍历信号X(n)的一个样本函数,对X(n)的数字特 征可以重新定义如下:
M 1 X E{ X (n)} lim x ( n) x M 2 M 1 n M
M 1 * rX (m) E{ X (n) X (n m)} lim x ( n ) x (n m) rx (m) M 2 M 1 n M *
2 X 2
自协方差函数
cov X [n1 , n2 ] E[( X (n1 ) X (n1 ))( X (n2 ) X (n2 ))* ] 1 N lim [ x( n1, i) X ( n1)][ x( n2 , i) X ( n2 )]* N N i 1
互相关函数
N 1 rXY (n1 , n2 ) E{ X (n1 )Y * (n2 )} lim x(n1 , i ) y * (n2 , i ) N N i 1
互协方差函数
* E{ X (n1 )Y * (n2 )} X (n1 ) Y (n2 )
cov XY [n1, n2 ] E[( X (n1 ) X (n1 ))(Y (n2 ) Y (n2 ))* ]
- -
xy* p( x, y )dxdy x y*
3 随机变量举例-均匀分布
均匀分布的随机变量是一个随机试验结果“可能性 相等”情况下的理想模型,其概率密度p(x)和概率 分布函数P(x)为:
1/(b a) p ( x) 0
a xb 其他
0 xa x ( x a) P( x) p(v)dv a xb (b a) xb 1
11 平稳随机信号的特征描述
自协方差
cov X (n1, n2 ) cov X (m) E{[ X (n) X ][ X (n m) X ]*}
两个平稳随机信号X(n)、Y(n)的互相关函 数及互协方差函数可分别变为
rXY (n1, n2 ) rXY (m) E{X (n)Y (n m)} m n1 n2
的放大器各作一次观察。这样,我们每一次观察都可以得到一个记录
如果把对放大器输出电压的观察看作一个随机试验,那么,
每一次记录就是该随机试验的一次实现,相应的结果 xi (t ) 就 是一个样本函数。所有样本函数的集合 xi (t ), i 1,2, , N , N 就构成了输出电压可能经历的整个过程,该集合就是一个随 机过程,也即随机信号,记为X(t)。
N 1 * * rX (m) E{ X (n) X (n m)} lim x(n, i ) x (n m, i ) N N i 1
是对样本(随机变量)求和,不是对时间(随机信号)ຫໍສະໝຸດ 13 各态遍历性含义
对一平稳随机信号 X(n) ,如果它的所有样本函数在某一固定
时刻的一阶、二阶统计特性和单一样本函数在长时间内的统
用中通常用下式获得对真值的估计。
1 () N () 2 N 1 n N
N
6 随机信号与随机变量
x1 (t1 ), x2 (t1 ), , xN (t1 )是一个随机 对于一个特定的时刻,例如 t t1,
变量,相当于在某一时刻同时测量无限多个相同放大器的输出。
当 t ti 时, x1 (ti ), x2 (ti ), , xN (ti ) 也是一个随机变量。因此,一个
其均值和方差为 (a b) / 2 2 (b a)2 /12 。
4 随机变量举例-高斯分布
正态分布的随机变量也称高斯随机变量,是一个在 实际中应用非常广泛和方便的模型。其概率密度为:
1 x x 2 p ( x) exp[ ( ) ] 2 2 x 2 x 1
显然,高斯分布的随机变量概率密度函数完全由它
2 的平均值和方差来描述,它可用 N ( x , x ) 表示。
5 随机信号(随机过程)
在相同条件下独立地进行多次观察时,各次观测到的结果并不相同。为
了全面了解输出电压的噪声特征,从概念上讲,应该在相同的条件下, 独立地作尽可能多次的观察,这就如同在同一时刻,对尽可能多的同样
离散时间随机过程
第二讲
1 随机变量
由概率论可知,我们可以用一个随机变量X来描述 自然界中的随机事件,若X的取值是连续的,则X
为连续型随机变量,若X的取值是离散的,则X为
离散型随机变量。
2 随机变量的特征描述
概率分布函数 P( x) Pr obability( X x) p( x)dx 概率密度 均值
随机信号X(t)是依赖于时间t的随机变量。这样,就可以用描述 随机变量的方法来描述随机信号。
对下图中的随机信号X(t)离散化,得到离散随机信号 X (nTs ) ,
简记为X (n)。对X(n)的每次实现记为 x(n, i), i 1,2, , N , N , 显然,对某一固定时刻,如 n n0 时, x(n0 , i), i 1,2, 连续型随机变量,否则,为离散型随机变量。
p( x) dP( x)/ dx
E{X } xp( x)dx
x
均方值(二阶原点矩)D E{ X } x p( x)dx
2 2
2
方差(二阶中心矩) E{ X } x p( x)dx
2 2
2
协方差
cov[ X ,Y ] E[( X x )(Y y )* ] E{ XY *} E{ X }E{Y }*
均值
X (n) X E{X (n)}
2 X 2 X 2
方差 (n) E{ X (n) X } 均方
D (n) D E{ X (n) }
2 X 2 X 2
自相关函数
*
rX (n1, n2 ) rX (m) E{ X (n) X (n m)} m n1 n2
上面所述各式右边的求均值运算 E{*}体现了随机信 号的“集总平均”,该集总平均是由X(n)的无穷多 样本 x(n, i), i 1,2, 加来实现的。
, 在相应时刻对应相加或乘
9 平稳随机信号
平稳随机过程:指一个随机过程的统计特性不随时间 的推移而变化,即在 t1 到 t 2 时间段内的噪声统计特性 与 t1 到 t2 时间段内的噪声统计特性相同;随机
计特性一致,我们称X(n)为各态遍历信号。
其意义就是,单一样本函数随时间变化的过程可以包括该信 号所有样本函数的取值经历。也可理解为,用一个样本作出
的时间统计特性和用全体样本作出的集总统计特性是相同的;
或者说,只要测一次样本就可以代表无限次样本的随机特征
了。
为了简化问题,很多实际问题中的随机过程都可以近似看成 这一类。
, 构成一
个随机变量。若 x(n0 , i)随i的变化仍取连续值,那么 x(n0 , i) 是
7 随机信号的特征描述
均值 方差
1 N x (n) E{ X (n)} lim x(n, i) N N i 1
1 N 2 (n) E{ X (n) x (n) } lim x(n, i) x (n) N N i 1
2 X 2
1 N 2 均方值 D (n) E{ X (n) } lim x( n, i ) N N i 1 1 N * * r ( n , n ) E { X ( n ) X ( n )} lim x ( n , i ) x (n2 , i) 自相关函数 X 1 2 1 2 1 N N i 1