第2章_随机过程的基本概念..
随机过程的基本概念
随机过程的基本概念随机过程是随机现象的数学模型，是一种以时间为自变量而取随机数值的函数族，是概率论和数理统计中的重要工具之一。
本文将从定义、性质、分类等方面论述随机过程的基本概念。
一、随机过程的定义随机过程是由一个随机变量族{Xt}（t∈T）所组成的集合的统称，其中T为时间参数集合。
换言之，随机过程是时间与随机变量的集合关系，其中随机变量的取值是时间变化的函数。
随机过程可以用X(t)表示，其中t表示时间，X表示在时间t处的随机变量。
简单来说，随机过程就是为一组日期指定随机变量，使得这些随机变量与其日期相关联。
每个随机变量表示特定日期发生的随机事件。
二、随机过程的性质1. 一般随机过程：随机变量群体的每个成员都需要一个完整的概率空间，并且具有一个抽象的时间参数集合。
因此，一般随机过程的样本空间往往是所有该样本空间下所有概率空间的笛卡尔积。
2. 同伦：如果存在同伦t:s→t+s（s∈S）,使得随机过程{Xt}具有相同的联合概率分布，则称该随机过程在t上存在同伦。
3. 马尔科夫性质：在一个离散时间的随机过程中，前时刻的状态随后时刻的状态条件独立，且只与当前状态有关，而与以前的任何状态无关，称之为马尔科夫性质。
三、随机过程的分类1. 离散时间：随机变量在离散位置上取值，时间参数集合为整数集，可表示为{Xn}。
2. 连续时间：随机变量在连续位置上取值，时间参数集合为实数集，可表示为{X(t)}3. 马尔科夫过程：随机过程满足马尔科夫性质的过程，由此得名。
4. 二元过程：仅具有两个状态变量，称之为二元过程。
四、随机过程的应用随机过程广泛应用于电信、生物工程、金融、天气预报等领域。
其中，离散时间的随机过程广泛应用于通信领域，如编码、压缩、调制等；连续时间的随机过程用于天气预报、环境工程、资产定价等领域。
在工程领域，随机过程也有广泛应用。
例如，可以使用随机过程模型预测质量的保证水平。
需要重视的是，应用随机过程模型时，要注意模型的精度和可行性，避免虚假模型带来的风险。
随机过程课程第二章 随机过程的基本概念
第一节 随机过程的定义及其分类 第二节 随机过程的分布及其数字特征 第三节 复随机过程 第四节 几种重要的随机过程简介
第一节 随机过程的定义及其分类
一、直观背景及例
例1 电话站在时刻t时以前接到的呼叫次数 一般情况下它是一个随机变数X ，并且依赖 时间t，即随机变数X（t），t[0，24]。
首页
（4）平稳随机过程
平稳过程的统计特性与马氏过程不同，它不 随时间的推移而变化，过程的“过去”可以对 “未来”有不可忽视的影响。
首页
返回
第二节 随机过程的分布及其数字特征
一、随机过程的分布函数
设{ X (t) ，t T }是一个随机过程，
一维
分布 对于固定的t1 T ，X (t1) 是一个随机变量，
F (t1,t2；x1, x2 ) =
x1
x2
f (t1, t2；y1, y2 )dy1dy2
则称 f (t1,t2；x1, x2 ) 为 X (t) 的二维概率密度
n维
n 维随机向量（X (t1 ) ，X (t2 ) ，…， X (tn ) ）
分布 函数
联合分布函数
F (t1,t2 , ,tn；x1, x2 , , xn )
分布函数
FXY (t1, ,tn ；t1, ,tm ；x1, , xn ； y1, , ym ）
P{X (t1) x1, , X (tn ) xn；Y（t1） y1, ,Y（tm ） ym }
称为随机过程和的n + m维联合分布函数
首页
相互 设 X (t) 和Y (t) ，t1,t2 , ,tn ，t1,t2 , ,tm T
首页
2．方差函数
随机过程{ X (t) ，t T }的二阶中心矩
第2章随机过程的基本概念
F ?? { F ?t1 , t2 ,? , tn ; x 1 , x 2 ,? , x n ?:
ti ? T , x i ? Ri , i ? 1,2, ? , n , n ? 0} 称F为XT 的有限维分布函数族. 定义3 过程 { X(t), t的? nT维} 特征函数定义为
φ?t1 , t2 ,? , tn;?1 ,θ 2 ,? ,θ n ?
? E{e i[θ 1 X (t1 )? ? } ?θ n X (tn )]
称 {φ(t1, t2 ,? , tn;θ 1 ,θ 2 ,? ,θ n ) : t1 , t2 ,? , tn ? T, n ? 1}
为XT 的有限维特征函数族. 特征函数和分布函数是相互唯一确定.
定义2 过程 { X(t),对t ?任T给} 的
t1 , t2 ,? , tn ? T ,
随机向量
?X (t1 ), X (t2 ),? , X (tn )?
的联合分布函数
F (t1 , t2 ,? , tn; x1 , x2 ,? , xn ) ?
P{ X (t1 ) ? x1 , X (t2 ) ? x2 ,? , X (tn ) ? xn }
X(t1,ω)
X(t2,ω)
t1
t2
X(t,ω1) X(t,ω2) X(t,ω3) tn
定义 对每一固定 ω?，Ω称 { X(t, ? ), t的? 一T}个样本函数.
X是t ?随ω?机过程
也称轨道, 路径,现实.
Ex.5 利用抛硬币的试验定义一个随机过程，
X(t)
?
?cos? t, ?
?2t
出现正面； 出现反面. t ? R.
过程识别
随机过程讲义（第二章）（PDF）
第二章 随机过程的一般概念2.1 随机过程的基本概念和例子定义2.1.1：设(P ,,F )Ω为概率空间，T 是某参数集，若对每一个，是该概率空间上的随机变量，则称为随机过程(Stochastic Process)。
T t ∈),(w t X ),w t (X 随机过程就是定义在同一概率空间上的一族随机变量。
随机过程可以看成定义在),(w t X Ω×T 上的二元函数，固定Ω∈0w ，即对于一个特定的随机试验，称为样本路径(Sample Path)，或实现(realization)，这是通常所观测到的过程；另一方面，固定，是一个随机变量，按某个概率分布随机取值。
),(0w t X T t ∈0),(0w t X抽象一点：令，即∏∈=Tt T R R T R 中的元素为),(T t x X t t ∈=,为其Borel域(插乘)(T R B σ域)，随机过程实质上是()F ,Ω到())(,T T R R B 上的一个可测映射，在())(,T TR RB 上诱导出一个概率测度：T P ()B X P B P R B T T T ∈=∈∀)(),(B 。
一般代表的是时间。
根据参数集T 的性质，随机过程可以分为两大类： t 1)为可数集，如T {}L ,2,1,0=T 或{}L L ,1,0,1,−=T ，称为离散参数随机过程，也称为随机序列；2)为不可数集，如T {}0≥=t t T 或{}∞<<∞−=t t T ，称为连续参数随机过程。
随机过程的取值称为过程所处的状态(State)，所有状态的全体称为状态空间(State Space)。
通常以表示随机过程的状态空间。
根据状态空间的特征，一般把随机过程分为两大类：T t t X ∈),(S 1) 离散状态，即取一些离散的值； )(t X 2)连续状态，即的取值范围是连续的。
)(t X离散参数离散状态随机过程： Markov 链 连续参数离散状态随机过程： Poisson 过程 离散参数连续状态随机过程： *Markov 序列连续参数连续状态随机过程： Gauss 过程，Brown 运动例2.1.1：一醉汉在路上行走，以的概率向前迈一步，以q 的概率向后迈一步，以p r 的概率在原地不动，1=++r q p ，选定某个初始时刻，若以记它在时刻的位置，则就是直线上的随机游动(Random Walk)。
第二章 随机过程的基本概念_2.3 2.4
4 2 0 -2 -4 10 5 0 -5 -10
0
50
100
0
50
100
0 1
2015/5/12
0 100
14
两个不同相关时间随机过程的样本函数
2.3.4 循环平稳的概念
广义循环平稳：
如果随机过程X(t)的均值和自相关函数满足下列关系
2T
0
(1
2T
2 )[ RX ( ) mX ]d 0
平稳随机过程X(t)具有相关函数遍历性的充要条件
1 lim T T
2T
0
(1
2T
2 )[ R ( ) RX ( )]d 0
(t ) X (t ) X (t )
2015/5/12 22
第二章随机过程的基本概念
mX mX
其中
RX ( ) RX ( )
RX ( )
1 lim T 2T
T T
x(t
) x(t )dt
则X(t)为遍历(各态历经)过程。
2015/5/12 19
2.3.5 随机过程的各态历经性
X (t ) X (t )
t
t
(a)
(b)
各态历经过程与非各态历经过程示意图 各态历经过程的一个样本函数经历了随机过程 所有可能的状态
如果
f XY ( x1 ,..., xN , t1 ,..., t N , y1 ,..., yM , t '1 ,..., t 'M ) f X ( x1 ,..., xN , t1 ,..., t N ) fY ( y1 ,..., yM , t '1 ,..., t 'M )
随机过程 第2章
随机变量 随机变量族
e → x(e) (e, t) → xt(e)=x(e, t)
x=xt(ei)
x
e1 e2 e3
e
概率空间和随机对象
样本空间
概率空间
随机变量
随机向量
随机过程
2.1 随机过程的基本概念
定义：设(Ω, ö,P)为概率空间，T是参数集。 若对任意 t ∈T ，有随机变量X(t, e)与之 对应，则称随机变量族{X(t, e)， t ∈T } 是(Ω, ö,P)上的随机过程，简记为 {X(t)，t ∈T }或{Xt，t ∈T }。 ★ X(t)的所有可能的取值的集合称为状态空 间或相空间，记为I。
由此可将随机过程分为以下四类：
a. 离散参数离散型随机过程； b. 离散参数连续型随机过程； c. 连续参数离散型随机过程； d. 连续参数连续型随机过程。
2. 以随机过程的统计特征或概率特 征分类：
a. 独立增量过程； b. Markov过程； c. d. e. f. g. 二阶矩过程； 平稳过程； 鞅； 更新过程； Poission过程；
称之为随机过程X(t) 的二维概率密度。
2.3 随机过程的分布律
随机过程的二维分布函数比一维分布函数包含了随 机过程变化规律更多的信息，但它仍不能完整地反 映出随机过程的全部特性及变化规律。用同样的方 法，我们可以引入随机过程 X(t) 的 n 维分布函数和 n 维概率密度。
FX ( x1 , x2 , , xn ; t1 , t2 , tn )
• 又如移动某基站每天的通话次数，X 显然不 能确定，即为随机变量，进一步分析知这 个 X 还和时间 t 有关，即 X(t)，所以 X(t) 也构成一个过程，即随机过程；类似地， 气温、气压、商店每天的顾客流量等都构 成一个随机过程。
通信原理第2章 随机过程
aa
则称该平稳随机过程具有各态历经性。 R() R()
“各态历经”的含义：随机过程中的任一实现（样本函数） 都经历了随机过程的所有可能状态。因此， 我们无需（实际中 也不可能）获得大量用来计算统计平均的样本函数，而只需从 任意一个随机过程的样本函数中就可获得它的所有的数字特征， 从而使“统计平均”化为“时间平均”，使实际测量和计算的 问题大为简化。
注意： 具有各态历经性的随机过程必定是平稳随机过程， 但平稳随机过程不一定是各态历经的。在通信系统中所遇到的 随机信号和噪声， 一般均能满足各态历经条件。
第2章 随 机 过 程
三、平稳随机过程自相关函数
对于平稳随机过程而言， 它的自相关函数是特别重要的一 个函数。（其一，平稳随机过程的统计特性，如数字特征等， 可通过自相关函数来描述；其二，自相关函数与平稳随机过程 的谱特性有着内在的联系）。因此，我们有必要了解平稳随机 过程自相关函数的性质。
E[(t1)] x1f1(x1,t1)d1x
第2章 随 机 过 程
注意，这里t1是任取的，所以可以把t1直接写为t, x1改为x, 这时 上式就变为随机过程在任意时刻的数学期望，记作a(t)， 于是
a(t)E[(t)] x1(fx,t)dx
a(t)是时间t的函数，它表示随机过程的（n个样本函数曲线的） 摆动中心。
第2章 随 机 过 程
3. 相关函数
衡量随机过程在任意两个时刻获得的随机变量之间的关联 程度时，常用协方差函数B(t1, t2)和相关函数R(t1, t2)来表示。
（1）（自） 协方差函数：定义为 B(t1,t2)=E｛［ξ(t1)-a(t1)］［ξ(t2)-a(t2)］｝
= [x1a(t1)]x2[a(t2)f]2(x1,x2; t1,t2)dx1dx2
随机过程第二章
例2.8利用掷一枚硬币的试验定义一个随机过程 2.8
cosπt,出现正面 X (t) = 2t, 出现反面
0 ≤ t < +∞
已知出现正面与反面的概率相等. ⑴ 求X(t)的一维分布函数F(1/2; x),F(1; x). F(1/2; ),F(1; ). ⑵ 求X(t) 的二维分布函数F(1/2,1; x1,x2).
A, 例2.5 设 S.P.X (t) = A+ Bt，其中 B 相互独 S 立同服从正态分布 (0,1) ，求.P.X (t) 的一 N 维和二维分布．
例2.6 设 其中
S.P.X (t) = Acos t, t ∈ R ，
A是 r.v. ， 而且具有概率分布
A P 1 1/3 2 1/3 3 1/3
由于初位相的随机性， 由于初位相的随机性，在某时刻t = t0 , X (t0 )是一 个随机变量． 个随机变量． 若要观察任一时刻 描述. 变量 X (t ) 描述
t
的波形， 的波形，则需要用一族随机
为随机过程． 则称 { X (t ), t ∈ [0, +∞)}为随机过程．
例2 .4样本曲线与状态 样本曲线与状态 X(t) = Acos(ωt + Φ)
2.1： 热噪声电压） 例2.1：（热噪声电压）电子元件或器件由于内部微观粒子
（如电子）的随机热骚动所引起的端电压称为热噪声电压， 如电子）的随机热骚动所引起的端电压称为热噪声电压， 时刻的值是随机变量， 它在任一确定 t 时刻的值是随机变量，记为 V (t ) ． 不同时刻对应着不同的随机变量，当时间在某区间， 不同时刻对应着不同的随机变量，当时间在某区间，譬如 [0, +∞)上推移时，热噪声电压表现为一簇随机变量．在无 上推移时，热噪声电压表现为一簇随机变量． 线电通讯技术中，接收机在接收信号时， 线电通讯技术中，接收机在接收信号时，机内的热噪声电 压要对信号产生持续的干扰，为消除这种干扰（假设没有 压要对信号产生持续的干扰，为消除这种干扰（ 其它干扰因素）， ），就必须考虑热噪声电压随时间变化的过 其它干扰因素），就必须考虑热噪声电压随时间变化的过 为此， 程.为此，我们通过某种装置对电阻两端的热噪声电压进
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1. 平稳随机过程的定义
（1）严格平稳随机过程
定义：如果随机过程的任意n维分布不随时间起点 变化， 即当时间平移时，其任意的n维概率密度不 变，则称是严格平稳的随机过程或称为狭义平稳的 随机过程。
对于严格平稳的随机过程，它的均值和方差是与时间无关 的常数，而自相关函数只与t1和t2的差值有关，而与本身 的取值是无关的。
对于随机序列：
均值与方差的物理意义：
如果：X(t)-----单位电阻上的电压
总的平 均功率
交流平 直流平 均功率 均功率
3. 自相关函数
自相关函数可正可负，其绝对值越大，表示相关性越强。 一般说来，时间相隔越远，相关性越弱，自 相关函数的 绝对值也越弱；当两个时刻重合时，其 相关性应是最强
的，所以RX (t,t)最大。
对于离散型随机过程，只要确 定了它的概率分布列就可 以 确定它的概率密度(一串冲激 函数)。
时间不同，概率密度不同， 概率密度是时间的函数。
二维概率分布
(3) N维概率分布
2.随机过程的数字特征
随机过程的均值是时间t的函数，也称 为均值函数，统计均值是对随机过程 中所有样本函数在时间t的所有取值进 行概率加权平均，所以又称为集合平 均。随机过程的均值可以直观地 理解 为在t时刻所有样本函数取值的一个取 值中心，它反映了样本函数统计意义 下的平均变化规律。
第二章 随机过程的基本概念
§2.1 随机过程的基本概念及定义 §2.2 随机过程的统计描述 §2.3 平稳随机过程 §2.4 随机过程的联合分布和互相关函数 §2.5 随机过程的功率谱密度 §2.6 典型的随机过程 §2.7 基于MATLAB的随机过程分析方法 §2.8 信号处理实例
本章学习要点： （1）理解随机过程的概念、平稳随机过程的定义、 各态历经性； （2）掌握功率谱密度和相关函数的关系； （3）掌握相关函数的性质； （4）理解白噪声的定义和特点； 本章是本课程的基础和核心
定义2： 设有一个过程X(t) ，若对于每一个固定的
时刻tj(j=1,2,…) ，X(tj)是一个随机变量，则 X(t)称为随机过程。
随机过程X(t,e)四种不同情况下的意义：
•当t固定，e固定时， X(t) 是一个确定值； •当t固定，e可变时， X(t) 是一个随机变量； •当t可变，e固定时， X(t) 是一个确定的时间函数； •当t可变，e可变时， X(t) 是一个随机过程；
2、随机过程分类
（1）按状态及时间参数分类
状态
时刻
连续型随机过程
连续
连续
连续随机序列
连续
离散
离散型随机过程
离散
连续
离散随机序列
离散
离散
（2）按概率分布分类
高斯随机过程 瑞利随机过程 对数正态随机过程
（3）按统计特性分类
➢平稳随机过程 ➢非平稳随机过程
§ 2.2 随机过程的统计描述
1.随机过程的概率分布 (1)一维概率分布 X(t)在任意时刻t是一个随机变量，这个随机变量的概率 分布和概率密度定义为随机过程的一维概率分布和概率 密度。
随机过程的直观解释: 对随机相位信号或噪声信号作一次观测相当于做一次随 机试验，每次试验所得到的观测记录结果xi(t)是一个确 定的函数，称为样本函数，所有这些样本函数的全体构 成了随机过程。
在实际中还有一类过程，它是按照确定的数学公式产 生的时间序列，它是一个确定性的时间序列，但它的变化 过程表现出随机序列的特征，我们把它称为伪随机序列， 伪随机序列可以用来模拟自然界实际的随机过程 。
§2.1随机过程的基本概念及定义
1.实际背景
例2.1 分析随机相位信号
X (n) Acos(0n ) Φ~R（-π， +π）
1
0
1
-1
10
10
20
30
40
50
60
70
80
0
2
-1
10
10
20
30
40
50
60
70
80
0
3
-1
10
10
20
30
40
50
60
70
80
0
4
-1
0
10
20
30
40
50
60
1
0.8
0.6
0.4
0.2
0
0
50
100
150
200
伪随机序A）
GPS卫星
GPS接收机
0
伪随机码自相关函数
2.随机过程的定义
定义一：设随机试验E的样本空间为S={e}，对其每 一个元素ei(i=1,2,…)都以某种法则确定一个样本 函数x(t,ei),由全部元素{e}所确定的一族样本函 数X(t,e)称为随机过程，简记为X(t)。
严格平稳最基本的特征是时间起点的平移不影响它的统计 特性，即X(t)与X(t+△t)具有相同的统计特性。
（2）广义平稳随机过程
当随机过程是高斯分布时，两者等价。
例1. 设随机过程Z(t)=Xcost +Ysint ，-∞< t <+∞，其 中X、Y为相互独立的随机变量，且分别以概率2/3、 1/3取值-1和2。试讨论随机过程Z(t)的平稳性。
对于随机序列
(2)二维概率分布
对于任意的两个时刻
是两个随机变量，
定义这两个随机变量的联合概率分布和联合概率密度为随
机过 程的二维概率分布和二维概率密度。
解: 本题的随机过程只有两个样本函数, 且两个样本函 数都具有确定的形式, 是一种可预测的随机过程。它的 两个样本函数为
这个过程在任意的时刻都只有 两个可能的取值，所以它是一 个离散型随机过程。
4. 自协方差函数
常用的一些概念：
5. 离散型随机过程的数字特征
6. 计算举例
例2 离散型随机过程自相关函数计算举例
每一个样本函数 出现的概率相等
§2.3 平稳随机过程
随机过程可分为平稳和非平稳两大类, 严格地说, 所有信号 都是非平稳的, 但是, 平稳信号的分析要容易得多, 而且在 电子系统中, 如果产生一个随机过程的主要物理条件在时间 的进程 中不改变, 或变化极小, 可以忽略, 则此信号可以认 为是平稳 的。如接收机的噪声电压信号, 刚开机时由于元器 件上温度的变化, 使得噪声电压在开始时有一段暂态过程, 经过一段时间后, 温度变化趋于稳定, 这时的噪声电压信号 可以认为是平稳的。
70
80
xi (n, i ) Acos(0n i )
随机相位信号—许多样本函数的集合
样本函数
例2.2 分析接收机的噪声
5 0
-5
0
50
100
150
200
5
0
-5
0
50
100
150
200
5
0
-5
50
50
100
150
200
0
-5
0
50
t1 100
150
200
接收机噪声
随时间变化的随机变量----随机变量的集合