随机过程

随机过程

随机过程的定义 引言

在许多实际问题中，不仅需要对随机现象对特定时间点上的一次观察，而且需要做多次的连续不断的观察，以观察研究对像随时间推移的演变过程。

首先我们观察的对象与通常意义上的函数()f t 是不同的， 观察研究的对象本身是一个随机变量X ，这个随机变量随时间的变化过程就是一个随机过程()X t ，通俗的理解。随机变量X 的所有可能取值。另一种解释是，随机过程是随机变量的函数。

随机两字的含义包含着随机过程()X t 的在某一时刻，如i t 时刻的取值，

()

()i

t t i i X t X t X ===仍然为一随机变量，随机变量i X 取值的样本空间Ω，样本空间中样

本值可以是连续的，也可以是离散的。如{}12,,,n x x x ，意味着在i t 时刻，随机变量i X 的

取某一样本空间的某一元素的概率是确定的（做无穷多次实验的统计规律），在该时刻，所有样本空间元素的概率之和为1。

例如，随机相位正弦波信号。()()sin X t a wt =+Θ 其中Θ服从均匀分布，则固定一个时刻i t 时，显然可求得i t 随机变量()i X t 的分布函数与概率密度。可见其随机过程的概密度是时间参数t 与随机变量Θ的二元函数。

另一种理解是，对随机信号作一次观测相当于做一次随机实验，每次随机实验所得到的观测记录结果()i x t ，是一个确定函数，称为样本函数，所有样本函数的全体构成了随机过程。

随机过程的标准定义

定义：设(?, Σ, P) 是一概率空间，对每一个参数t ∈T ， X (t,ω) 是一定义在概率空间(?, Σ, P) 上的随机变量，则称随机变量族 X T ={X (t ，ω); t ∈T}为该概率空间上的一随机过程。其中T ? R 是一实数集，称为指标集或参数集。X (t,ω)通常简写为()X t 。

随机过程{X (t ); t ∈T }可能取值的全体所构成的集合称为此随机过程的状态空间，记作 S 。

S 中的元素称为状态。状态空间可以由复数、实数或更一般的抽象空间构成。

用映射表示 X T ，X (t,ω) : T × ? → R ；即 X (?, ?)是一定义在T × ?上的二元单值函数，固定t ∈T ，X (t, ?)是一定义在样本空间?上的函数， 即为一随机变量；对于固定的ω∈? ， X (?,ω) 是一个关于参数t ∈T 的函数，通常称为样本函数，或称随机过程的一次实现，所有样本函数的集合确定一随机过程。记号 X (t,ω)有时记为 X t (ω) 或简记为 X (t)。 随机过程的X (t,ω)四种不同情况下的意义： 1，当t 固定时，w 固定时，()X t 是一个确定值。 2，当t 固定时，w 可变时，()X t 是一个随机变量。

3，当t 可变时，w 固定时，()X t 是一个确定的时间函数，即样本函数。 4，当t 可变时，w 可变时，()X t 是一个随机过程。

数字特征的计算公式

1，集平均或统计平均：给定随机过程(){}

,,X t w t T ∈，固定某一时刻t T ∈，()X t 是一随机变量，它的均值与t 有关记为

()()X t E X t μ=????

(1.1)

称()X t μ为随机过程(){}

,X t t T ∈的均值函数。注意，()X t μ 是随机过程的所有样本

函数在t 时刻的函数值的平均值。而非时间平均的概念。

若()X t 为样本空间定义在()-∞∞， 连续型随机变量，则

()()()()X E X t t x t f x dx μ∞

-∞

==?????

(1.2)

例如()()sin X t a wt =+Θ，其中Θ在()02π， 上均匀分布，即()1

,0220,f θπ

θπ

?<

则其均值函数

()()()

20

1

cos cos 02X t E a wt a wt d π

μθθθπ

=+==+=????? 上例可见，()X t μ不是对时间的求和求积分，而是对固定时刻t 的随机变量()X t 的分布求和求积分。

2，随机过程(){}

,X t t T ∈ 的二阶原点矩和二阶中心矩，在均值函数()X t μ的概念上延伸。固定时刻t 时，随机变量()X t 的二阶原点矩和二阶中心矩分别记作

()()()2

2

2

X

E X

t x t f x dx ∞

-∞

??ψ==???

(1.3)

()()()(){}

()()()2

2

2

X

X X X D t Var X t E X t t x t u t f x dx

σμΩ

===-????????

=-????? (1.4)

并把22

,X X σψ 分别称为随机过程的均方值函数和方差函数。

方差函数表示随机过程()X t 在时刻t 对于平均值()X t μ的平均偏离程度。

3，设任意12,t t T ∈，我们把随机变量()()12X t X t 和的二阶原点矩混合矩记作

()()()1212,XX R t t E X t X t =????

(1.5)

()()()()()()121212,XX R t t E X t X t x t x t f x dx Ω

==?????

并称它为随机过程(){}

,X t t T ∈ 的自相关函数，简称相关函数记号

类似地，还可以写出()()12X t X t 和的二阶混合中心矩记作

()()()()()()(){}

12121122,,XX X X C t t Cov X t X t E X t t X t t μμ==--???????????? (1.6)

()()()(){}

()()()()()11221122X X X X E X t t X t t x t u t x t u t f x dx μμΩ

--=--?????????????????

称为自协方差函数或者协方差函数，记作()()1212,,XX X C t t C t t 或。

自相关函数与自协方差函数刻画的是随机过程自身在两个不同时刻的状态之间的统计依赖关系的数字特征。

4，上述数字特征之间的关系式 ()()2,X XX t R t t ψ=

(1.7)

()()()()121212,,XX XX X X C t t R t t t t μμ=-

(1.8)

当12t t t == 时

()()()()22,,X XX X X t C t t R t t t σμ==-

(1.9)

5，柯西-施瓦茨不等式

()(){}()()2

2

1

2

12E X t X t E X

t E X t ????≤????????

(1.10)

6，二维随机过程的数字特征

互相关函数，固定某一时刻t 的随机变量()()X t Y t ，的互相关函数，定义如下12,t t T ∈

()()()()()()121212,,XY R t t E X t Y t x t y t f x y dxdy Ω

==??????

(1.11)

互协方差函数

()()()()(){}

121122,XY X Y C t t E X t t Y t t μμ=--????????

(1.12)

如果两个随机过程相互独立，且它们的二阶矩存在，则它们必然不相关()12,0XY C t t =，反之，从不相关一般不能推断出它们是否相互独立。

()()1212,,XX X R t t R t t 或

平稳过程与遍历性过程

在实际中，有相当的多的随机过程，不仅他的现有的状态，而且它过去状态，都对未来状态的发生有着很强的影响。有这样重要的一类随机过程，即所谓平稳随机过程，它的特点是：过程的统计特性或统计规律不随时间的推移而变化。

严平稳过程

若对任意的n ，()121,2,,,,

,n n t t t T =∈，和任意实数h ，当12,,,n t h t h t h T +++∈时，

n 维随机变量

()()()()()()()()1

2n 12n ,,

,,X t X t X t X t h X t h X t h +++ 与

具有相同的分布函数，则称随机过程(){}

,X t t T ∈ 具有平稳性，称之为平稳随机过程。 例：()()sin X t a wt =+Θ 其中Θ服从均匀分布

这个过程表明，作为随机过程， 不一定非具有不规则的波形，也就是说不一定非要包括很多频率分量。简谐的、周期的或者非周期的波形是不是随机过程，取决于这些波形是不是可以预先被完全确定下来。如果仅在概率意义上为已知，则它们属于随机过程。从这个定义清楚看出，如果一个随机信号一旦被取样而记录下来，则这个特定的波形立即成为完全已知，它本身就不能被认为是随机的了，但是它仍然补认为是从中取样的那个随机过程的一部

分。用统计的办法研究足够数量的样本波形，可以估计这个过程概率密度函数，在这程情况下下任何未被取样的波形在概率意义上为已知。

在实际问题中，确定一个过程的分布函数，并用它来判断其平稳性，一般是很困难的。但是，对于一个被研究的随机过程，如果前后环境和主要条件都不随时间推移而变化，则一般可以认为是平稳的。与平稳过程相反的是非平稳过程，一般随机过程处于过渡阶段总是是非平稳的。

宽平稳过程

定义：给定二阶矩过程（即二阶矩存在的过程）(){}

,X t t T ∈，如果对于任意,t t T τ+∈，满足

()()()()()

12X X E X t E X t X t R μττ=????+=????，常数，

则称(){}

,X t t T ∈为宽平稳过程或广义平稳过程。

一个严平稳过程只要二阶矩存在，则它必定也是宽平稳的，但反过来，一般是不成立。除了正态过程，因为正态过程的概率密度是由均值函数和自相关函数完全确定的，因而均值函数和自相关函数不随时间变的推移而变化，则概率密度也不随时间的推称而变化，由此一个宽平稳的正态过程也是严平稳的。

另外当我们同时时考虑两个平稳过程()(),X t Y t 时，如果它们的互相关函数只是时间差的单变函数，记为()XY R τ 即

()()()(),XY XY R t t E X t Y t R τττ+=+=????

则称这两个过和平稳相关的，或称这两个过程是联合（宽）平稳的。

平稳过程自相关函数的性质

自相关函数()()12,X

XX R R t t τ或 不是一个值，而是一个函数是变量12,t t τ或的函数。

对于平稳随机过程，二维随机变量()()()X t X t τ+，与()()(

)

0X X τ， 同分布，于

是

()()()()(),0XX R t t E X t X t E X X τττ+=+=????????

(1.13)

上式右端只与τ有关，则上式可以记作

()()()()()(),0XX X R t t E X t X t E X X R ττττ+=+==????????

(1.14)

这表明：平稳过程的自相关函数仅是时间差τ的单变量函数，换句话说它不随时间变换而推移。

同理，平稳过程的自协方差函数可表示为

()()(){}

()2X X X X X C E X t X t R τμτμτμ=-+-=-?????

??? (1.15)

0t =当时

()()2

200X X X X C R σμ==-

(1.16)

假设某一平稳随机过程(){}

,X t t T ∈ 的均值函数，0X μ=（恒为0），则其自相关函数

()()2

0X X X R R τσ≤=

(1.17)

对于大数零均值的平稳过程而言，自相关函数随着τ值的增加迅速衰减，这表明两个随机变量时间间隔增大时，它们之前的相关性也迅速丧失。但是也有例外，零均值的随机过程自相关函数的最值不止是只有0点处，也可能有其他的极值点。

遍历性过程或各态历经过程

首先注意，如果按照数学期望的定义来计算平稳过程的()X t 的数字特征，就要预先确定()X t 一族样本函数或一维、二维分布函数，但这实际上是不易办到的。事实上我们用统计实验方法来计算，例如可以把均值函数和自相关函数近似的表示为，某一时刻1t 的均值，抽取N 个样本的样本值的平均

()()11

1

1N

X k

k t x t N

μ=≈

∑

(1.18)

和样本自相关函数

()()()(){}()()2112121

1N

X X k k k R t t R E X t X t x t x t N τ=-==≈∑

(1.19)

根据上述两式，计算一个平稳过程的均值与自相关函数仍然需要重复进行大量观察，以便获取很多的样本函数(),1,2,N k x t k =，而这在实际上也是很困难的。有什么更好的方法

呢？

我们知道平稳过程的统计特性是不随时间推移而变化的。通过长时间观察得到一个样本

曲线，以此作为计算统计特征的依据，只需要这个平稳过程满足一些特定的条件，即各态历经性，则可以用一个样本曲线来计算其统计特征值，从而大大简化计算的难度。

随机过程的时间均值与时间相关函数的概念：随机变量()X t 沿整个时间轴上的两种时间平均

()

()1

lim 2T

T

T X t X t dt T -->+∞=?

(1.20)

和

()()()()1lim

2T

T

T X t X t X t X t dt T

ττ-->+∞+=+?

(1.21)

分别称为随机过程的时间均值和时间相关函数。

例如余弦波随机过程()()cos X t a wt =+Θ其时间均值，时间相关函数

()()1cos sin lim

cos lim

02T

T

T T a wT

X t a wt dt T

wT

-->+∞->+∞Θ=+Θ==?

()()

()()()2

2

1

lim cos cos cos 22T

T T a X t X t a wt w t dt w T

τττ-->+∞+=+Θ++Θ=?

各态历经性的定义：

设()X t 是一平稳过程 1，如果

()()X X t E X t μ==????

(1.22)

以概率为1成立，则称过程()X t 的均值具有各态历经性。后一个等号是平稳过程的要求，前一个等号是各态历经性的要求。

2，如果对于任意实数τ，

()()()()()X X t X t E X t X t R τττ+=+=????

(1.23)

以概率1成立，则称过程()X t 的自相关函数具有各态历经性。特别的当0τ=时，称均方值具有各态历经性。

理解()X X t μ=，即时间均值是一个常数，要以概率1成立，意味着时间均值的方差等于0即

()0D X t ??=??

(1.24)

即为平稳过程()X t 的均值具有各态历经性的充要条件。根据定理其等价条件是

()22

1lim

102T X X T R d T T ττμτ->+∞????--= ?????? (1.25)

各态历经性的价值：即本节前述的提前条件，一旦平稳过程满足各态历经性条件，则根据定理，可以用随机过程的时间均值和时间自相关函数，来计算集合均值和自相关函数，因为前述条件与定理是以概率为1成立的，意味着对随机过程()X t 任意样本函数而()x t 都成立，所以有 ()01lim T

X T x t dt T μ->+∞=? (1.26)

()()()0

1lim T

X T x t x t dt R T ττ->+∞+=? (1.27)

上述两式是定理，不在此处证明。如果试验记录只在时间区间[]0,T 上给出，则相应上述两式的无偏估计式为 ()01T

X X x t dt T μμ≈=?

(1.28)

()()()()01T X X R R x t x t dt T τ

ττττ

-≈=+-? (1.29)

不过在实际中一般不可能给出()x t 的解析表达式，因而工程最终还是通过数字方法来求计算均值与自相关函数。

将区间[]0,T 分为N 等份，T

t N

?=

，然后在每个1,1,2,

,2k

t k t k N ?

?=-?= ??

? 时刻，

即每段中点时刻取值k x ，则数值方法的均值的无偏估计为

11

11N N

X X k k k k x t x T N μμ==≈=?=∑∑

(1.30)

最终的X μ是一个常数值。在图形上看是一个水平直线。

当r t r t =?时，自相关函数的无偏估计

()1

11

1,0,1,2,,N r

N r

X r k k r k k r k k R x x t x x r m m N T N r ττ--++===

?==<--∑∑ (1.31)

由这些估计值计算出一系列近似值，最终通过数据曲线拟合成近似图形。()X R τ 是时

差τ函数。

自相关函的性质

对于具有各态历经性的平稳过程，可以根据各态历经定理，对随机过程的一个样本函数使数学好你分析的计算手续去求它的均值和相关函数。

以下假设()X t 和()Y t 是平稳相关过程，()()(),,X Y XY R R R τττ分别是它们的自相关

函数和互相关函数。

1，()()2

200X X R E X t ??==ψ≥??

2，()()X X R R ττ-=，即()X R τ是τ偶函数，而互相关函数即不是奇函数，也不是偶

函数，但满足()()

X

Y

Y X R R ττ-=。所以在实际问题中只需计算或测量

()()()(),,,X Y XY YX R R R R ττττ在0τ≥的值。

3，关于自相关函数和自协方差函数有不等式：

()()0X X R R τ≤ 和()()20X X X C C τσ≤=

此不等式表明：自相关函数与自协方差函数都在0τ=处取得到最大值。但不排除有其他点可取得最大值。

4，()X

R τ是非负定的，即对任意数组12,,

,n t t t T ∈和任意实值函数()g t 都有

()()(),1

0n

X

i

j

i

j

i j R t t g t g t =-≥∑

对于平稳过程而言，自相关函数的非负定性是最本质的，这是因为理论上可以证明：任意连续函数，只要具有非负定性，那么该函数必是某平稳过程的自相关函数。

5，如果平稳过程()X t 满足条件()(){}

01P X t T X t +==，则称它为周期是0T 的平稳过程，周期平稳过程的自相关函数必是周期函数，且其周期也是0T 。

平稳过程的功率谱密度

一个随机振动过程的特征可以用数学期望、方差和相关函数来描述。但在工程技术问题中，广泛采有频率域来描述一个随机振动过程特征功率谱密度函数。

功率谱密度函数的作用：

1，功率谱密度函数能够反映随机振动的功率关于频率的分布密度。

2，对一个线性系统，输入功率谱、输入功率谱、系统本身的传递性三者之间的关系式非常简便。

3，在对系统进行振动试验时，功率谱有助于振动特性的模拟。

功率谱密度与相关函数可以分别从频域与时域这两个不同的角度反映着同一个统计特性-“功率”。功率谱密度函数可由相关函数转换而来。

对于满足狄利克雷条件，且绝对可积的条件下的时域信号()x t ，其傅里叶变换与逆变换容易给出 i ()()e d .t x F x t t ωω+∞

--∞

=?

(1.32)

i 1()()e d 2π

t

x x t F ωωω+∞-∞=

? (1.33)

其中()x F ω一般是复数量，其共轭函数()()*x F F ωω=- ，根据帕塞瓦尔定理，有以下等式成立

22

1()d ()d 2πx x t t F ωω+∞

+∞

-∞

-∞=?

?

(1.34)

等式左边

2()d x t t +∞

-∞

?

在(),-∞∞积分，表示()x t 的总能量，而2

()x F ω 称为()x t 的能

量谱密度。帕塞瓦定理说明了，无论从频域还是时域观察，同一个过程的能量是不变的。

平均功率：

21lim

()d 2T

T

T x t t T -→+∞?

称为()x t 在(),-∞+∞上的平均功率。

在工程技术中，有很多重要的时间函数总能量是无限的，而且不满足绝对可积条件。所以需要研究过程的平均功率。

忽略推导过程，我们直接得下式

2

2

111lim ()d lim (,)d 22π2T

x T

T T x t t F T T

T

ωω+∞--∞→+∞→+∞=?? (1.35) 左边是()x t 在(),-∞+∞的平均功率，右边2

1lim (,)2x T F T T

ω→+∞ 称为平均功率谱密度。

令()2

1lim

()d 2T x T

T S x t t T ω-→+∞=? ，称之为平均功率谱密度，简称功率谱密度。 将上述概念推广到平稳随机过程()X t 。

将()x t 以平稳随机过程()X t 替代，称2

1

lim ()d 2T

T T E X t t T -→+∞

???

???

?定义为平稳过程的平均功率。

221

lim [()]d 2T

x T

T E X t t T

-→+∞=ψ?

(1.36)

上式表明平稳过程的平均功率等于该过程的均方值或()0X R 。要注意平稳过程的均方值是常数。

而平稳过程()X t 的功率谱密度记为()XX S ω或()X S ω，也称为自谱密度或者谱密度。

()2

1lim

{(,)}2XX X T S E F T T

ωω→+∞=

(1.37)

据式1.35可知平稳随机过程的功率谱密度与其平均功率的关系为

21()d 2π

X X S ωω+∞

-∞ψ=

? (1.38)

功率密度在整个频域内积分后除以2π为平均功率。