第二章随机过程的概念与基本讲解
第二章随机过程的概念

2020/1/27
11
随机过程的研究范围
?1. 依据随机过程单样本值为随机变量的特 点,相应的研究内容包括:
? 连续型随机过程 ? 离散型随机过程
?具体的研究对象包括:均值、方差、协方 差、有限维联合分布等。
2020/1/27
12
随机过程的研究范围
?2. 依据随机过程的函数特性,相应的研究 内容应包括:
2020/1/27
14
随机过程的分类
(一)根据参数集T 及状态空间I 是离散或连 续,可把随机过程分为以下四种类型:
? T 和 I 都是离散的 ; ? T 连续,I 离散; ? T 离散,I 连续; ? T 和 I 都连续。
2020/1/27
15
例
例2.1 生物群体的增长问题 在描述群体的发展或演变过程中,以 X t 表 示在时刻 t 群体的个数,则对每个固定的t, X t 是一个随机变量。 假设从 t =0开始每隔一天对群体的个数观察 一次,则
{X t , t = 0,1,L } 是随机过程。
信息工程大学四院六教
随机过程的分类
(二)根据 X (t ) 之间的关系,可将随机过 程分为几个研究较多且用途较广的主要类 型:
? 马尔可夫过程 ? 独立增量过程 ; ? 平稳过程; ? 鞅过程; ? ……
2020/1/27
17
随机过程的分布函数
如何用分布函数刻画随机过程?
1
1
2
x , L , X (t ) ? x }
2
n
n
2020/1/27
18
随机过程的分布函数
这些分布函数的全体
F = {Ft1,t2,L ,tn (x 1, x 2, L , x n ) : t1, t 2, L , tn 纬T , n 1}
第二章 随机过程总结

图2-2-3 随机过程的均方值、方差
方差、均方值和均值有数学关系式:
(2.2.18) • 方差描述在该时刻对其数学期望的偏离程度。
• 数学期望、均方值和均方差只能描述随机过程孤 立的时间点上的统计特性。
• 随机过程孤立的时间点上的统计特性不能反映随 机过程的起伏程度。
图2-2-4 随机过程的起伏程度
注:一维概率分布描述了随机过程在各个孤 立时刻的统计特性。 3、二维分布函数
与 , , 和 都有直接的关系, 是 ,, 和 的四元函数,记为: (2.2.4) 被称为随机过程的二维分布函数。
4、二维概率密度函数
如果存在四元函数
ቤተ መጻሕፍቲ ባይዱ
,使
(2.2.5)
成立,则称 为随机过程的二维概率密 度函数,是 ,,和 的四元函数,且满足 (2.2.6)
§2.3
平稳随机过程
• 平稳随机过程的定义
• 严平稳随机过程及其性质 • 宽平稳随机过程及其性质
图2-3-1 初相角随机的正弦信号
图2-3-2 幅度随机的正弦信号
图2-3-3 频率随机的正弦信号
图2-3-4 频率、相位和幅度随机的正弦信号
图2-3-5 云层背景下的飞机
2.3.1 随机信号 的统计特性(如概率密度函 数、相关函数),部分或全部在观察点或观察 点组的位置变化时,保持不变或变化。在随机 信号理论中就称该随机信号的相应统计特性具 有平稳或非平稳性。 2.3.2 随机信号统计平稳性有多种情况: (1)对整个观察点位置 变化的平稳性; (2)对观察点中时间位置 变化的时间平稳性; (3)对观察点空间位置 变化的平稳性; (4)对观察点中空间位置的部分坐标变化的平 稳性。
例2.8 设有随机过程 ,式中A是高斯 随机变量, 为确定的时间函数。试判断 是否为严平稳过程。 解:已知A的概率密度函数
随机过程课程第二章 随机过程的基本概念

第一节 随机过程的定义及其分类 第二节 随机过程的分布及其数字特征 第三节 复随机过程 第四节 几种重要的随机过程简介
第一节 随机过程的定义及其分类
一、直观背景及例
例1 电话站在时刻t时以前接到的呼叫次数 一般情况下它是一个随机变数X ,并且依赖 时间t,即随机变数X(t),t[0,24]。
首页
(4)平稳随机过程
平稳过程的统计特性与马氏过程不同,它不 随时间的推移而变化,过程的“过去”可以对 “未来”有不可忽视的影响。
首页
返回
第二节 随机过程的分布及其数字特征
一、随机过程的分布函数
设{ X (t) ,t T }是一个随机过程,
一维
分布 对于固定的t1 T ,X (t1) 是一个随机变量,
F (t1,t2;x1, x2 ) =
x1
x2
f (t1, t2;y1, y2 )dy1dy2
则称 f (t1,t2;x1, x2 ) 为 X (t) 的二维概率密度
n维
n 维随机向量(X (t1 ) ,X (t2 ) ,…, X (tn ) )
分布 函数
联合分布函数
F (t1,t2 , ,tn;x1, x2 , , xn )
分布函数
FXY (t1, ,tn ;t1, ,tm ;x1, , xn ; y1, , ym )
P{X (t1) x1, , X (tn ) xn;Y(t1) y1, ,Y(tm ) ym }
称为随机过程和的n + m维联合分布函数
首页
相互 设 X (t) 和Y (t) ,t1,t2 , ,tn ,t1,t2 , ,tm T
首页
2.方差函数
随机过程{ X (t) ,t T }的二阶中心矩
第2章随机过程的基本概念

F ?? { F ?t1 , t2 ,? , tn ; x 1 , x 2 ,? , x n ?:
ti ? T , x i ? Ri , i ? 1,2, ? , n , n ? 0} 称F为XT 的有限维分布函数族. 定义3 过程 { X(t), t的? nT维} 特征函数定义为
φ?t1 , t2 ,? , tn;?1 ,θ 2 ,? ,θ n ?
? E{e i[θ 1 X (t1 )? ? } ?θ n X (tn )]
称 {φ(t1, t2 ,? , tn;θ 1 ,θ 2 ,? ,θ n ) : t1 , t2 ,? , tn ? T, n ? 1}
为XT 的有限维特征函数族. 特征函数和分布函数是相互唯一确定.
定义2 过程 { X(t),对t ?任T给} 的
t1 , t2 ,? , tn ? T ,
随机向量
?X (t1 ), X (t2 ),? , X (tn )?
的联合分布函数
F (t1 , t2 ,? , tn; x1 , x2 ,? , xn ) ?
P{ X (t1 ) ? x1 , X (t2 ) ? x2 ,? , X (tn ) ? xn }
X(t1,ω)
X(t2,ω)
t1
t2
X(t,ω1) X(t,ω2) X(t,ω3) tn
定义 对每一固定 ω?,Ω称 { X(t, ? ), t的? 一T}个样本函数.
X是t ?随ω?机过程
也称轨道, 路径,现实.
Ex.5 利用抛硬币的试验定义一个随机过程,
X(t)
?
?cos? t, ?
?2t
出现正面; 出现反面. t ? R.
过程识别
随机过程讲义(第二章)(PDF)

第二章 随机过程的一般概念2.1 随机过程的基本概念和例子定义2.1.1:设(P ,,F )Ω为概率空间,T 是某参数集,若对每一个,是该概率空间上的随机变量,则称为随机过程(Stochastic Process)。
T t ∈),(w t X ),w t (X 随机过程就是定义在同一概率空间上的一族随机变量。
随机过程可以看成定义在),(w t X Ω×T 上的二元函数,固定Ω∈0w ,即对于一个特定的随机试验,称为样本路径(Sample Path),或实现(realization),这是通常所观测到的过程;另一方面,固定,是一个随机变量,按某个概率分布随机取值。
),(0w t X T t ∈0),(0w t X抽象一点:令,即∏∈=Tt T R R T R 中的元素为),(T t x X t t ∈=,为其Borel域(插乘)(T R B σ域),随机过程实质上是()F ,Ω到())(,T T R R B 上的一个可测映射,在())(,T TR RB 上诱导出一个概率测度:T P ()B X P B P R B T T T ∈=∈∀)(),(B 。
一般代表的是时间。
根据参数集T 的性质,随机过程可以分为两大类: t 1)为可数集,如T {}L ,2,1,0=T 或{}L L ,1,0,1,−=T ,称为离散参数随机过程,也称为随机序列;2)为不可数集,如T {}0≥=t t T 或{}∞<<∞−=t t T ,称为连续参数随机过程。
随机过程的取值称为过程所处的状态(State),所有状态的全体称为状态空间(State Space)。
通常以表示随机过程的状态空间。
根据状态空间的特征,一般把随机过程分为两大类:T t t X ∈),(S 1) 离散状态,即取一些离散的值; )(t X 2)连续状态,即的取值范围是连续的。
)(t X离散参数离散状态随机过程: Markov 链 连续参数离散状态随机过程: Poisson 过程 离散参数连续状态随机过程: *Markov 序列连续参数连续状态随机过程: Gauss 过程,Brown 运动例2.1.1:一醉汉在路上行走,以的概率向前迈一步,以q 的概率向后迈一步,以p r 的概率在原地不动,1=++r q p ,选定某个初始时刻,若以记它在时刻的位置,则就是直线上的随机游动(Random Walk)。
第二章 随机过程

T /2
(2-2-7)
16
如果平稳过程使下式成立
a = a
σ
2
=σ
2
(2-2-8)
R (τ ) = R (τ )
称该平稳过程ξ(t)具有各态历经性。 称该平稳过程 具有各态历经性。 具有各态历经性 意义:随机过程中的任一次实现都经历了随机过程的 意义:随机过程中的任一次实现都经历了随机过程的 实现 所有可能状态。 所有可能状态。 具有各态历经性随机过程一定是平稳过程, 具有各态历经性随机过程一定是平稳过程,反之不 一定成立。 一定成立。 求解各种统计平均时(实际中很难获得大量样本), 求解各种统计平均时(实际中很难获得大量样本), 无需作无限多次考察,只要获得一次考察, 无需作无限多次考察,只要获得一次考察,用一次 实现的时间平均值代替过程的统计平均即可。 实现的时间平均值代替过程的统计平均即可。
满足上式则称ξ(t)为广义平稳随机过程或宽平稳随机过 满足上式则称 为广义平稳随机过程或宽平稳随机过 程。 严平稳随机过程(狭义平稳随机过程) 严平稳随机过程(狭义平稳随机过程)只要 Eξ2(t) 均方值有界,它必定是广义平稳随机过程。 均方值有界,它必定是广义平稳随机过程。 反之不一定成立。 反之不一定成立。
C (t1 , t 2 ) = E {[ξ (t1 ) − a (t1 ) ][ξ (t 2 ) − a (t 2 ) ]} =
∞ ∞ −∞ −∞
∫ ∫ [x
1
− a (t1 ) ][ x 2 − a (t 2 ) ] f 2 ( x1 , x2 ; t1 , t 2 ) dx1 x 2
(2-1-5) 2-1-5
互相关函数(针对两个随机过程) 互相关函数(针对两个随机过程)
Cξ ,η (t1 , t2 ) = E {[ξ (t1 ) − a (t1 ) ][η (t2 ) − a (t2 ) ]}
第2章 随机过程概述

(功率有限),且
2
则称
R(t1 , t2 ) E[ X (t ) X (t )] R( )
(t ), t T X为广义平稳随机过程。
t1 t2
用高阶矩来判断广义平稳随机过程是否是狭义平稳随机过程
二者没有关系,但如果狭义平稳随机过程且功率有限,则必为广义平稳的
RX (t1 , t2 ) E[ X (t1 ) X (t2 )]
x1 x2 f ( x1 , x2 ; t1 , t2 )dx1dx2
RXY (t1 , t2 ) E[ X (t1 )Y (t2 )]
xyf ( x, t1; y, t2 )dxdy
一、随机过程的概念
1、随机过程的定义 随机过程 样本函数
X (t ) X (t , e)
X i (t ) X (t , ei ) X (ti ) X (ti , e)
X i (t j ) X (t j , ei )
随机变量
标量
一、随机过程的概念
1、随机过程的定义
随机过程一般表示为{ X (t), t T }。
自相关函数各态历经
T
lim P{| X (t ) X (t ) RX ( ) | } 1
各态历经性-----同时满足以上两条!
平稳随机过程均值各态历经的充要条件
C (0) R(0) m2 2
自相关函数连续的充要条件
R( )在 0点处连续
二、平稳随机过程
4、平稳随机过程自相关函数的性质 非负定性
i , j 1
R(
n
第二章 随机过程基本概念

第二章 随机过程的基本概念
§2.1 随机过程的定义 §2.2 随机过程的分布与数字特征 §2.3 随机过程的分类
§2.1 随机过程的定义
引入:
初等概率论的研究对象
§2.1 随机过程的定义
引例1
某电话交换台在时间段[0,t]内接到的电话次数记为X(t),
随机现象某个时刻或有限个时刻静态的结果 即一个或有限个随机变量(随机向量). 问 描述随机现象的整个变化过程, 需要多少个随机变量?
Fn ( xi1 , xi2 ,, xin , ti1 , ti2 ,, tin ) Fn ( x1 , x2 ,, xn , t1, t2 ,, tn )
(2)相容性 对任意自然数m<n,随机过程的m维分布函数 与n维分布函数之间有关系:
Fm ( x1 , x2 ,, xm , t1 , t2 ,, tm ) Fn ( x1 , x2 ,, xm , ,, , t1 , t2 ,, tn )
解
X(t ) A (t (T0 kT )), T0 kT t T0 (k 1)T (k 0, 1, 2) T
§2.2 随机过程的分布与数字特征
2、随机过程的二维分布函数
定义 设{ X ( t ), t T }是一个随机过程,对任意固定的
T 故有,T0 X (t ) t kT h( X (t )), T0 kT t T0 (k 1)T A
29 November 2015
随机过程
§2.2 随机过程的分布与数字特征
例1 设X ( t ) X cos(at ), t ,其中a为常数,
X服从标准正态分布,试求X(t)的一维概率密度函数。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
例 6、设 { X i , i 1,2,} 是一独立随机变量序列,且有 相同的两点分布
X i -1 1
pi 1/2 1/2
n
令Y (0) 0,Y (n) X i 。 i 1
试求:随机过程 {Y (n),n 0,1,2,} 的均值函数和相关 函数。
§ 2.3 复随机过程
定义 2.5 设 { X t , t T } ,{Yt , t T } 是取实数值的两
例 2 设随机过程
X (t) Y Zt, t 0
其中,Y,Z 是相互独立的 N(0,1)随机变量,求此随机过 程的一、二维概率密度族。
注:二维正态分布的密度函数:
f (x, y)
1
2σ1σ2 1 ρ2
1
exp
2(1
ρ2
)
(
x
μ1 )2 σ12
2ρ(
第二章 随机过程的概念与基本类型
随机过程---随机信号 随机过程是与确定性过程相对立的一个概念.从信 息论的观点 ,对接收者来讲只有信号表现出某种不可预 测性才可能蕴涵信息.因为如果在信号收到以前接收者 已准确地预测它的一切,则这种信号是毫无用处的.类似 地,若接收者能从信号的过去正确地预测它的将来,将来 的部分信号即成多余。
x
μ1 )( y σ1 σ2
μ2
)
(
y
μ2 σ22
)2
例 3 设 X(t)是实随机过程,x 为任意实数,令
Y
(t)
1, 0,
X (t) X (t)
x, x,
证明随机过程 Y(t)的均值函数和相关函数分别为 X(t)的 一维和二维分布函数。
定义 2.4 设{X(t),t∈T },{Y(t),t∈T }是两个二阶矩过 程,则称
例4 在海浪分析中,需要观测某固定点处海平面的垂 直震动。设X(t)表示在时刻t处的海平面对于平均海平
面的高度,则X(t)是随机变量,而{X(t),t∈[0,∞]}是随机
过程。
例5、热噪声电压
电子元件或器件由于内部微观粒子(如电子) 的随机热骚动所引起的端电压称为热噪声电压. 热噪声电压在任一确定时刻t的值是一随机变 量,记为V (t).
由定义,易见
Bz (s, t) Rz (s, t) mz (s)mz (t)
定理 2.2 复随机过程 {Xt , t T} 的协方差函数 B(s, t) 具有性质
(1)对称性: B(s, t) B(t, s) ; (2)非负定性:
对任意 t T 及复数 ai , i 1, 2, , n, n 1
Xt ={X(t),t∈T }的有限维分布函数族具有性质:
(1)对称性 对于{ t1 , t2 , , tn }的任意排列{ ti1 , ti2 , , tin }
Ft1 , ,tn ( x1, x2 , , xn ) Fti1, ( x , ,tin ti1
(2)相容性 当 m<n 时
, xtin );
Ft1 , ,tm ( x1 , x2 , ..., xm ) Ft1 , ,tm , ,tn ( x1 , x2 xm , , , )
定理 1(Kolmogorov 存在定理)设已给参数集 T 及满 足对称性和相容性条件的分布函数族 F,则必存在概率 空间( ,F,P )及定义在其上的随机过程{X(t),t∈T }, 它的有限维分布函数族是 F 。
由于随机变量的分布函数和特征函数的一一对应 关系,随机过程的概率特征也可以通过随机过程的有 限维特征函数族:
{gt1, ,tn (1,2, ,n ) : t1, t2, , tn T, n 1} 来完整描述,其中:
n
gt1 , ,tn (1 ,2 , ,n ) E(exp{i k X (tk )}) k 1
其中 g1(t) 和 g2 (t ) 都是周期为 L 的周期方波, 是(0,L)
上服从均匀分布的随机变量。求互相关函数 RXY (t, t ) 的表达式。
例 5 设{X(t),t∈T },{Y(t),t∈T }是两个二阶矩过程, W (t) X (t) Y (t), t T 则
RW (s, t ) RX (s, t ) RXY (s, t ) RYX (s, t) RY (s, t)
若对任意 s,t∈ T ,有 BX (s, t) =0,则称{X(t),t∈ T }与
{Y(t),tT }互不相关。
显然有:
BXY (s, t ) RXY (s, t ) m X (s)mY (t )
例 4 设有两个随机过程 X (t) g1(t ) 和Y (t) g2(t ) ,
Ft1, ,tn ( x1, x2, , xn ) p{X(t1) x1, , X(tn ) xn} 这些分布函数的全体
F {Ft1,...,tn ( x1, x2 , ...xn ), t1, t2 , ...tn T, n 1}
称为 Xt ={X(t),t∈T }的有限维分布函数族。
为 Xt 的协方差函数。 DX (t) BX (t, t)def E[X (t) mX (t)]2, t T
为 Xt 的方差函数
RX (s, t ) E[ X (s)X (t )]
为 Xt 的相关函数。
均值函数 mX (t) 是随机过程{X(t),t∈T }在时刻 t 的平均值,方差函数 DX (t) 是随机过程在时刻 t 对 mX (t) 的偏离程度,而协方差函数BX (s,t) 和相关函数 RX (s, t ) 则反映随机过程{X(t),t∈T }在时刻 s 和 t 时的 线性相关程度。
3
x(t)
2
1
0
o
-1
-2
-3 0
data1 data2
x1(t),1 0
t
x2 (t ),2
3π 2
1
2
3
4
5
从数学的观点来说,随机过程{ X (t, e), t T } 是定义
在 T×Ω上的二元函数。对固定的 t,X(t,e)是定义在 T
上的普通函数,称为随机过程{ X (t, e), t T } 的一个样本 函数或轨道,样本函数的全体称为样本函数的空间。
个随机过程,若对任意 t T Zt X t iYt ,
其中 i 1 ,则称{Zt ,t T}为复随机过程.
当 {Xt , t T } 和{Yt , t T} 是二阶矩过程时,其均值函 数、方差函数、相关函数和协方差函数的定义如下:
mz (t ) E(Zt ) E( X t ) iE(Yt ) Dz (t ) E(| Zt mz (t ) |2 ) E((Zt mz (t ))(Zt mz (t ))) Rz (s, t ) E[Zs Zt ] Bz (s, t ) E[(Zs mz (s))(Zt mz (t ))]
§2.1 随机过程的基本概念
• 初等概率论研究的主要对象是一个有限 个随机变量(或随机向量),虽然我们 有时也讨论了随机变量序列,但假定序 列之间是相互独立的。随着科学技术的 发展,我们必须对一些随机现象的变化 过程进行研究,这就必须考虑无穷个随 机变量的一次具体观测。这时,我们必 须用一族随机变量才能刻划这种随机现 象的全部统计规律性。
BXY (s, t ) E[( X (s) mX (s))(Y (t ) mY (t ))], s, t T
为{X(t),t∈T }与{Y(t),t∈T }的互协方差函数,称
RXY (s, t ) E[ X (s)Y (t )]
为{X(t),t∈T }与{Y(t),t∈T }的互相关函数。
例 1 设随机过程
X (t ) Y cos( t ) Z sin( t ), t 0
其中,Y,Z 是相互独立的随机变量,且 EY EZ 0 ,
DY DZ 2 。求此随机过程的均值函数mX (t ) 和协
方差函数 BX (s,t) 。
答案: 2 cos((t s) )
例 1 生物群体的增长问题。在描述群体的发展或演
变过程中,以Xt 表示在时刻 t 群体的个数,则对每一 个 t, Xt 是一个随机变量。假设我们从 t=0 开始每隔 24 小时对群体的次数观测一次,则{ Xt , t 0,1, 2, }
是随机过程。
例2 某电话交换台在时间段[0,t]内接到的呼唤次数
分布的随机变量.
对固定的时刻t t1, X (t1) a cos(t1 ) 是
一个随机变量.
X (t) a cos(t ), t (,),
是一个随机过程, 叫做随机相位正弦波. 状态空间 : [a,a].
样本函数 : xi (t ) a cos(t i ), i (0,2π).
时间t : [0,), {V (t),t 0}. 对某无线电接收设备的热噪声电压在相同条 件下进行测量.得到如下的电压——时间曲线.
以上例子说明,必须扩大概率论的研究范围,讨 论随机过程的有关性质。为此,我们给出随机过程的 一般定义。
定义 2.1 设(,F,P )是概率空间,T 是给定的参数
n
B(ti , t j )ai a j 0
i, j1
.
证 (1)
B(s, t) E[( Xs m (s))( Xt m (t))]
E[( Xs m (s))( Xt m (t))]
定义 2.3 设 Xt ={X(t),t∈T }是随机过程,如果对任意 t ∈T ,E[X(t)]存在,则称函数
mX (t)def E[X (t)], t T
为 Xt 的均值函数。 若对任意 t∈T ,E[(X(t))2 ]存在,则称Xt 为二阶矩过