随机过程
数据通信原理第03章随机过程
x1x2f2(x1,x2;)d1d x2x R () 可见，（1）其均值与t无关，为常数a；
（2）自相关函数只与时间间隔有关。
整理ppt
与时间起点无关，也就是说，对于任意的正整数n
和所有实数，有
fn(x 1 ,x2 , ,xn； t1 ,t2, ,tn) fn(x 1 ,x 2, ,x n ； t1 ,t2 , ,tn )
则称该随机过程是在严格意义下的平稳随机过 程，称严平稳随机过程。
整理ppt
17
➢ 严平稳随机过程的性质： 该定义表明，平稳随机过程的统计特性不随时间
率密度函数：
f2(x1,x2;t1,t2)2F2 (xx1 1,x2 x;2t1,t2)
整理ppt
7
➢ 随机过程 (t) 的n维分布函数：
F n (x 1 ,x 2 , ,x n ;t1 ,t2 , tn )
P (t1 ) x 1 ,(t2 ) x 2 , ,(tn ) x n
➢ 随机过程 (t) 的n维概率密度函数：
整理ppt
4
随机过程的描述与数字特征
➢ 3.1.1 随机过程的分布函数 ➢ 3.1.2随机过程的数字特征
整理ppt
5
➢ 3.1.1随机过程的分布函数
✓设 (t)表示一个随机过程，则它在任意时刻t1的值 (t1)是一个随机变量，则：
✓随机过程 (t)的一维分布函数：
F 1 ( x 1 ,t1 ) P [( t1 ) x 1 ]
均值平方
➢ 所以，方差等于均方值与均值平方之差，它表示随机 过程在时刻 t 对于均值a ( t )的偏离程度。
整理ppt
11
➢ 相关函数
随机过程知识点汇总
随机过程知识点汇总随机过程是指一组随机变量{X(t)}，其中t属于某个集合T，每个随机变量X(t)都与一个时刻t相关联。
２．随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。
离散时间随机过程是指在离散的时间点上取值的随机过程，例如随机游走。
连续时间随机过程是指在连续的时间区间上取值的随机过程，例如XXX运动。
３．随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。
均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。
自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。
４．平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。
弱平稳随机过程的自相关函数只与时间差有关，而不依赖于具体的时间点。
强平稳随机过程的概率分布在时间上是不变的。
５．高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。
高斯随机过程的均值函数和自相关函数可以唯一确定该过程。
６．马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下，未来状态的条件概率分布只依赖于当前状态，而与过去状态无关的随机过程。
马尔可夫性质可以用转移概率矩阵描述，并且可以用马尔可夫链来建模。
７．泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。
泊松过程的重要性质是独立增量和平稳增量。
８．随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。
例如，布朗运动被广泛应用于金融学中的期权定价，马尔可夫链被应用于自然语言处理中的语言模型。
t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))]，其中Zs和Zt是Z在时刻s和t的取值。
复随机过程是由实部和虚部构成的随机过程，其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。
协方差函数和相关函数也可以类似地计算得到。
复随机过程在通信系统中有广泛的应用，例如调制解调、信道编解码等。
随机过程
1953年，J.L.杜布的名著《随机过程论》问世，它系统且严格地叙述了随机过程的基本理论。
人们研究这种过程，是因为它是实际随机过程的数学模型，或者是因为它的内在数学意义以及它在概率论领 域之外的应用。
发展概况
1907年前后，Α.Α.马尔可夫研究过一列有特定相依性的随机变量，后人称之为 马尔可夫链。
1923年N.维纳给出了布朗运动的数学定义，这种过程仍是重要的研究对象。虽然如此，随机过程一般理论的 研究通常认为开始于30年代。
谢谢观看
的统计特征
对于随机过程{X (t); t∈T}，其统计特征有均值函数、方差函数、协方差函数和相关函数。它们的定义如 下：
上述统计特征之间的关系为：
的分类
按照统计特征 分类
按照参数集和 状态空间的特 征分类
以统计特征进行分类，一般可分类以下一些：
参数集T可分为两类：（1）T可列；（2）T不可列。 状态空间S也可分为两类：（1）连续状态空间；（2）离散状态空间。 由此将随机过程分为以下四类:
随机过程 整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。这一学科最早源于对物理学的研究，如吉 布斯、玻尔兹曼、庞加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。
的研究
研究方法
研究内容
研究随机过程的方法多种多样，主要可以分为两大类： 一类是概率方法，其中用到轨道性质、停时和随机微分方程等；另一类是分析的方法，其中用到测度 论、 微分方程、半群理论、函数堆和希尔伯特空间等。 实际研究中常常两种方法并用。另外，组合方法和代数方法在某些特殊随机过程的研究中也有一定作用。
随机过程的基本概念
随机过程的基本概念随机过程是随机现象的数学模型，是一种以时间为自变量而取随机数值的函数族，是概率论和数理统计中的重要工具之一。
本文将从定义、性质、分类等方面论述随机过程的基本概念。
一、随机过程的定义随机过程是由一个随机变量族{Xt}（t∈T）所组成的集合的统称，其中T为时间参数集合。
换言之，随机过程是时间与随机变量的集合关系，其中随机变量的取值是时间变化的函数。
随机过程可以用X(t)表示，其中t表示时间，X表示在时间t处的随机变量。
简单来说，随机过程就是为一组日期指定随机变量，使得这些随机变量与其日期相关联。
每个随机变量表示特定日期发生的随机事件。
二、随机过程的性质1. 一般随机过程：随机变量群体的每个成员都需要一个完整的概率空间，并且具有一个抽象的时间参数集合。
因此，一般随机过程的样本空间往往是所有该样本空间下所有概率空间的笛卡尔积。
2. 同伦：如果存在同伦t:s→t+s（s∈S）,使得随机过程{Xt}具有相同的联合概率分布，则称该随机过程在t上存在同伦。
3. 马尔科夫性质：在一个离散时间的随机过程中，前时刻的状态随后时刻的状态条件独立，且只与当前状态有关，而与以前的任何状态无关，称之为马尔科夫性质。
三、随机过程的分类1. 离散时间：随机变量在离散位置上取值，时间参数集合为整数集，可表示为{Xn}。
2. 连续时间：随机变量在连续位置上取值，时间参数集合为实数集，可表示为{X(t)}3. 马尔科夫过程：随机过程满足马尔科夫性质的过程，由此得名。
4. 二元过程：仅具有两个状态变量，称之为二元过程。
四、随机过程的应用随机过程广泛应用于电信、生物工程、金融、天气预报等领域。
其中，离散时间的随机过程广泛应用于通信领域，如编码、压缩、调制等；连续时间的随机过程用于天气预报、环境工程、资产定价等领域。
在工程领域，随机过程也有广泛应用。
例如，可以使用随机过程模型预测质量的保证水平。
需要重视的是，应用随机过程模型时，要注意模型的精度和可行性，避免虚假模型带来的风险。
第二章 随机过程
T /2
（2-2-7）
16
如果平稳过程使下式成立
a = a
σ
2
=σ
2
（2-2-8）
R (τ ) = R (τ )
称该平稳过程ξ(t)具有各态历经性。 称该平稳过程 具有各态历经性。 具有各态历经性 意义：随机过程中的任一次实现都经历了随机过程的 意义：随机过程中的任一次实现都经历了随机过程的 实现 所有可能状态。 所有可能状态。 具有各态历经性随机过程一定是平稳过程， 具有各态历经性随机过程一定是平稳过程，反之不 一定成立。 一定成立。 求解各种统计平均时（实际中很难获得大量样本）， 求解各种统计平均时（实际中很难获得大量样本）， 无需作无限多次考察，只要获得一次考察， 无需作无限多次考察，只要获得一次考察，用一次 实现的时间平均值代替过程的统计平均即可。 实现的时间平均值代替过程的统计平均即可。
满足上式则称ξ(t)为广义平稳随机过程或宽平稳随机过 满足上式则称 为广义平稳随机过程或宽平稳随机过 程。 严平稳随机过程（狭义平稳随机过程） 严平稳随机过程（狭义平稳随机过程）只要 Eξ2(t) 均方值有界，它必定是广义平稳随机过程。 均方值有界，它必定是广义平稳随机过程。 反之不一定成立。 反之不一定成立。
C (t1 , t 2 ) = E {[ξ (t1 ) − a (t1 ) ][ξ (t 2 ) − a (t 2 ) ]} =
∞ ∞ −∞ −∞
∫ ∫ [x
1
− a (t1 ) ][ x 2 − a (t 2 ) ] f 2 ( x1 , x2 ; t1 , t 2 ) dx1 x 2
（2-1-5） 2-1-5
互相关函数（针对两个随机过程） 互相关函数（针对两个随机过程）
Cξ ,η (t1 , t2 ) = E {[ξ (t1 ) − a (t1 ) ][η (t2 ) − a (t2 ) ]}
随机过程的基本概念及类型
第七章 随机过程的基本概念及类型
第一章 概率论基础
目录 Contents
7.1
随机过程的基本概念
7.2
随机过程的分布率和数字特征
7.3
复随机过程
7.4
几种重要的随机过程
7.1 随机过程的基本概念
通俗地讲, 用于研究随机现象变化过程的随机变量 族称为随机过程.
7.1.1 随机过程的实例
当 t1 t2 t 时,
DX (t )
2 X
(t)
BX
(t,t)
RX
(t,t
)
m
2 X
(t)
最主要的数字特征
mX (t) E[X (t)]
均值函数
RX(t1, t2 ) E[X (t1 )X (t2 )] 自相关函数
7.2 随机过程的分布律和数字特征
例7.2 设随机过程 X (t ) Y cos( t) Z sin( t), t 0, 其中 Y , Z 是相互独立的随机变量, 且 EY EZ 0, DY DZ 2 , 求 {X (t ) t 0}的均值函数 mX (t) 和 协方差函数 BX (s, t).
RW (s, t) E[W (s)W (t)] E[( X (s) Y (s))( X (t ) Y (t ))]
E[ X (s)X (t) X (s)Y (t) Y (s)X (t ) Y (s)Y (t)]
7.2 随机过程的分布律和数字特征
E[ X (s)X (t)] E[ X (s)Y (t)] E[Y (s)X (t)] E[Y (s)Y (t)]
◎ 显然有关系式 BX (s, t) RX (s, t) mX (s)mX (t) , s, t T .
随机过程的定义及其分类
随机过程的定义及其分类随机过程是一组随机变量的集合，代表了在时间序列上发生的事件或现象。
在数学中，随机过程可以用来描述许多现实世界中的问题，如股票价格、传染病传播等。
本文将介绍随机过程的定义及其分类。
一、随机过程的定义随机过程是一个随时间而变的随机变量集合。
具体来说，它包含了一列随机变量 $\{X_t | t \in T\}$，其中 $T$ 通常表示时间或时间的子集，每个 $X_t$ 是一个随机变量。
随机过程的每个$\{X_t\}$ 表示一个随机事件在时间 $t$ 的状态。
例如，在股票市场中，$X_t$ 可以表示在时间 $t$ 股票的价格。
二、随机过程的分类随机过程可以按照多个特性进行分类，下面介绍常见的几种分类方法。
1. 离散时间随机过程和连续时间随机过程离散时间随机过程和连续时间随机过程是相对于时间而言的。
离散时间随机过程是在固定的时间间隔内进行观察，并且在每个时间点上都有一个随机变量，例如掷硬币。
连续时间随机过程是在时间轴上连续观察，并且每个时间点上有一个随机变量，并按照一定的碎形原理进行处理。
2. 马尔可夫过程和非马尔可夫过程马尔可夫过程顾名思义，是取决于当前状态的一个随机过程。
当前状态是系统的“记忆”，这使得估计下一状态将非常容易。
非马尔可夫过程则是指未满足前述条件的随机过程。
3. 定常随机过程和非定常随机过程定常随机过程是指在时间上的统计特性不随时间变化，例如期望，方差等。
一个例子是一年中某地的降雨量。
非定常随机过程则是指在时间上的统计特性会随时间发生变化的随机过程。
4. 平稳过程和非平稳过程平稳过程要求在整个时间轴内随机过程的统计特性都不会随时间变化。
具体来说，需要满足一个随机过程的统计特性(如均值、相关性等)与当前时间和当前位置的时间无关。
非平稳随机过程则是指未满足前述条件的随机过程。
结论本文介绍了随机过程的定义以及常见的分类方法，包括离散时间随机过程和连续时间随机过程、马尔可夫过程和非马尔可夫过程、定常随机过程和非定常随机过程、平稳过程和非平稳过程。
通信原理第2章 随机过程
aa
则称该平稳随机过程具有各态历经性。 R() R()
“各态历经”的含义：随机过程中的任一实现（样本函数） 都经历了随机过程的所有可能状态。因此， 我们无需（实际中 也不可能）获得大量用来计算统计平均的样本函数，而只需从 任意一个随机过程的样本函数中就可获得它的所有的数字特征， 从而使“统计平均”化为“时间平均”，使实际测量和计算的 问题大为简化。
注意： 具有各态历经性的随机过程必定是平稳随机过程， 但平稳随机过程不一定是各态历经的。在通信系统中所遇到的 随机信号和噪声， 一般均能满足各态历经条件。
第2章 随 机 过 程
三、平稳随机过程自相关函数
对于平稳随机过程而言， 它的自相关函数是特别重要的一 个函数。（其一，平稳随机过程的统计特性，如数字特征等， 可通过自相关函数来描述；其二，自相关函数与平稳随机过程 的谱特性有着内在的联系）。因此，我们有必要了解平稳随机 过程自相关函数的性质。
E[(t1)] x1f1(x1,t1)d1x
第2章 随 机 过 程
注意，这里t1是任取的，所以可以把t1直接写为t, x1改为x, 这时 上式就变为随机过程在任意时刻的数学期望，记作a(t)， 于是
a(t)E[(t)] x1(fx,t)dx
a(t)是时间t的函数，它表示随机过程的（n个样本函数曲线的） 摆动中心。
第2章 随 机 过 程
3. 相关函数
衡量随机过程在任意两个时刻获得的随机变量之间的关联 程度时，常用协方差函数B(t1, t2)和相关函数R(t1, t2)来表示。
（1）（自） 协方差函数：定义为 B(t1,t2)=E｛［ξ(t1)-a(t1)］［ξ(t2)-a(t2)］｝
= [x1a(t1)]x2[a(t2)f]2(x1,x2; t1,t2)dx1dx2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
RXY ( ) RYX ( )
证
RXY ( ) E[ X (t )Y (t )]
E[Y (t ) X (t )] RYX ( )
性质3 证
E[ A] 2, D[ A] 4
(1)证明 X (t ) 是平稳过程;
首页
k 0 k 0
(t ) 2 k 1 (2k 1)!
R (t , t ) e
2
故 X (t ) 是平稳随机序列。
例3
设随机序列{ X (t ) sin(2 t ) ， t T }，
其中T={1，2，…} 试讨论随机序列 解
是在[0，1]上服从均匀分
首页
X (t ) 的自相关函数
E[(U cos (t ) V sin (t )) (U cost V sin t )]
RX ( ) E[ X (t ) X (t )]
2
首页
E(U ) cos (t ) cost E(V 2 ) sin (t ) sin t 2 cos
注
说明相关函数 RX ( ) 在 0 时取得最大值
性质3 证 性质4
RX ( ) RX ( ) RX ( ) 为偶函数：
RX ( ) E[ X (t ) X (t )]
E[ X ((t ) ) X (t )] RX ( )
RX ( ) 具有非负定性 即对任意的2n个实数
布的随机变量， 的平稳性。
X (t )
的密度函数为
所以
1 ，当 0 R(t , t ) 0 sin 2 (t ) x sin 2txdx 2 0，当 0 故 X (t ) 是平稳随机序列。
E[ X (t )] sin 2txdx 0
| RXY ( ) |2 RX (0)RY (0)
| RXY ( ) |2 | E[ X (t )Y (t )] |2
E | X (t ) |2 E | Y (t ) |2 RX (0) RY (0)
例1
设有两个随机过程 X (t ) U cos t V sin t
___________ int in (t ）
E[X(t )] 0
R X (t , t ) E[X(t) X(t ) ]=E[ Z ne . Z me
= e
n=-
]
n=-
n=-
2 in n
.
随机变量序列 X（t) 是平稳过程。
首页
三、互相关函数及性质 五 联合平稳过程与相关函数的性质
故 X n 是一个平稳时间序列。
2，当 0 0，当 0
注
在科学和工程中，例1中的过程称为“白噪 声”，它是实际中最常用的噪声模型。
首页
例2
设随机点出现的次数 N (t )服从速率为
的泊松过程，
设随机电报信号流{ X (t ), t 0 }为一随机过程
1 P( X (t ) 1) P( X (t ) 1) 2 试讨论随机信号流的平稳性。 1 1 解 E[ X (t )] 1 1 0 2 2 P( X (t ) X (t ) 1) Rx (t , t ) 1 P( X (t )X (t ) 1) (1) P ( X (t ) X (t ) 1) P( N ( ) 2k ) e (t ) 2 k / (2k )!
对于两个平稳过程，给出联合平稳的概念。
, T }是两个平稳过程， 定义1 设{ X (t ) ,t T }，{Y (t ) t
如果对于任意的 t , T ，有互相关函数
E[ X (t )Y (t )] RXY ( )
则称 X (t ) 与 Y (t )
联合平稳随机过程
注 两个平稳联合过程它们的互相关函数仅依赖于
n
E[ [ X ( i ) X ( j )ai a j ] E[ ( X ( i )ai ) (X ( j )a j )]
E[ ( X ( i )ai ) ] 0
2 i 1
n
i 1
j 1
3、互相关函数的性质
性质1 证 性质2
RXY (0) RYX (0)
2 ( cos (t ) sin t n (t ) cos t )
2 sin
作 业
试讨论 X (t ) A cos( ωt ) ， t
其中ω 是常数， A, 相互独立的随机变量，
U 是在[0， 2 ] 上服从均匀的随机变量。
同样可求得 RY ( ) 2 cos
故 X (t ) 、Y (t ) 都是平稳过程。 X (t ) 、 Y (t ) 的互相关函数为
RXY ( ) E[ X (t )Y (t )]
E[(U cos (t ) V sin (t )) (U sin t V cos t )]
k 0 k 0
若在[0,t]内随机点出现偶数次 X (t ) 1 ；随机点出现奇数 t k 次 X (t ) 1 ；P( N (t ) k ) e (t ) / k !
P ( X (t ) X (t ) 1) P( N ( ) 2k 1) e
F (t1 , t2 ,, tn ；x1, x2 ,, xn )
则 X (t ) 称为严平稳过程
首页
二、严平稳过程的特点 1
严平稳过程 X (t ) 的一维概率密度 f (t；x) 与 t 无关，
二维概率密度 f (t1 , t2；x1 , x2 ) 仅与时间差 t1 t 2 有关， 而与时间起点无关。
首页
三、宽（弱）平稳过程
定义2 设随机过程{X (t ) ， t T }， 如果它满足：
（1） X (t ) 是二阶矩过程；
（2）均值函数为常数，即 m(t ) E[ X (t )] m
（3）相关函数 r (t1, t2 ) 仅依赖 t1 t 2 ，即
RX (t1, t2 ) E[ X (t1 ) X (t2 )] B( )
a1 , a2 ,, an 与 1 , 2 ,, n ，有
证
n
n
n
i 1 j 1
X
RX ( i j )ai a j 0
n n i 1 j 1
n
R
i 1 j 1
n i 1 j 1
n
n
( i j )ai a j E[ X ( i ) X ( j )]ai a j
则称 X (t ) 为宽平稳过程， 简称 平稳过程
首页
例1
设{ X n , n 0, 1, 2,... }是相互独立同分布的随机变量序列，
且均值和方差为
E[ X n ] 0
试讨论随机变量序列 解 因为
D[ X n ] 2
Xn
的平稳性。
E[ X n ] 0 R(t , t ) E[ X n X n )]
首页
2、自相关函数的性质 性质1 证 性质2 证
R X (0) 0
RX (0) RX (t , t ) E[ X (t )2 ] 0
| RX ( ) | RX (0)
由许瓦兹不等式得
2
2
| RX ( ) | | E[ X (t ) X (t )] |
2 2
E[(X (t )) ]E[(X (t )) ] 2 [ R (0)] E[ X (t ) X (t )]E[ X (t ) X (t )] X
Y (t ) U sin t V cos t
t
其中U和V是均值都为零、方差都为 2 的不相关随机变 量，试讨论它们的平稳性，并求自相关函数与互相关函数。
解
因为 所以
E (U ) E (V ) 0
D(U ) D(V ) 2
mX (t ) E[ X (t )] E[U cost V sin t ] 0 E[U sin t V cos t ] 0 mY (t ) E[Y (t )]
Rz (t , t ) E[Z(t ) Z(t ) ] rZ ( ),
则称 Z(t ) 为复平稳过程。
___________
t, t T
例 复随机过程
i1t
Z(t) Z1e Z2e , Z1 , Z2是不相关的复随机变量 EZ1 EZ2 0，E Z ，E Z 2 2，
f (t；x) f (0；x) f ( x)
f (t, t ；x1, x2 ) f (；x1 , x2 )
2
若严平稳过程存在二阶矩，则
（1）均值函数为常数：
m(t ) E[ X (t )] m
（2）相关函数仅是时间差 记
的函数：
RX ( ) E ( X (t ) X (t ))
0
1, f ( x) 0 , 1
0 x 1
其它
首页
1
注
例4中的过程是宽平稳的，但不是严平稳的， 因为一维分布与t有关。
四、复平稳过程
复平稳过程定义及特征
若{ Z(t ) X(t） +iY(t) , t (,) }是复随机过程，满足
mZ (t ) mZ (复常数），t T
2 1 2 1 2 2