随机过程知识点

精心整理

第一章：预备知识

§1.1 概率空间

随机试验，样本空间记为Ω。

定义1.1 设Ω是一个集合，F 是Ω的某些子集组成的集合族。如果 （1）∈ΩF ；

（2）∈A 若F ，∈Ω=A A \则F ；

则称则称

Λ,2,1=有：则称{t X t ,为X 为X §1.4特征函数、母函数和拉氏变换

定义1.10设随机变量的分布函数为F （x ），称 为X 的特征函数

随机变量的特征函数具有下列性质： (1)(0)1,()1,()()g g t g t g t =≤-= 1 (2)g (t )在()∞∞-,上一致连续。（3）()(0)()k k k g i E X =

(4)若12,,,n X X X L 是相互独立的随机变量，则12n X X X X =+++L 的特征函数12()()()()n g t g t g t g t =L ，其中()i g t 是随机变量X i 的特征函数，1,2,,i n =L .

定义1.11设12(,,,)n X X X X =L 是n 维随机变量，t =(12,,,n t t t L ),R ∈则称

121

()(,,,)()[exp()]n

itX n k k k g t g t t t E e

E i t X '

====∑L ,

为X 的特征函数。

定义1.12设X 是非负整数值随机变量，分布列 则称

)()(X

def s E s P =＝k k k s P ∑∞

=0

为X 的母函数。

定义性质性质给定X 的Y 下性质如果Y 是离散型随机变量，则上式为

如果Y 是连续型，具有概率密度f(x)，则（1）式为

第二章 随机过程的概念与基本类型

§2.1随机过程的基本概念

定义2.1设（P F ，，Ω）是概率空间,T 是给定的参数集,若对每个t ∈T ，有一个

随机变量X (t ,e )与之对应，则称随机变量族}),,({T t e t X ∈是（P F ，，Ω）的随机过程,简记为随机过程}),({T t t X ∈。T 称为参数集，通常表示时间。

通常将随机过程}),,({T t e t X ∈解释为一个物理系统。X(t)表示在时刻t 所处的状态。

X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I 。

从数学的观点来说，随机过程}),,({T t e t X ∈是定义在T ×Ω上的二元函数。对固定的t ，X (t ,e )是定义在T 上的普通函数，称为随机过程}),,({T t e t X ∈的一个样本函数或轨道，样本函数的全体称为样本函数的空间。

§2.2随机过程的函数特征

t X ={X (t ),t ∈T }的有限维分布函数族。

定义定义定义t Z =其中定理（1

3412则称()t X 正交增量过程。

二、独立增量过程

定义2.7设(){}T ∈X t t ,是随机过程，若对任意的正整数n 和,21T ∈<<

定义2.8设(){}T ∈X t t ,是平稳独立增量过程，若对任意,t s <随机变量()()s t X -X 的

分布仅依赖于s t -，则称(){}T ∈X t t ,是平稳独立增量过程。

三、马尔可夫过程

定义 2.9设(){}T t t X ∈,为随机过程，若对任意正整数n 及

n t t t <<Λ,21,()()0,,)(1111>==--n n x t X x t X P Λ，且其条件分布

()(){}1111,,|)(--===n n n n x t X x t X x t X P Λ=(){}11|)(--==n n n n x t X x t X P ，(2.6)

则称(){}T t t X ∈,为马尔可夫过程。

四、正态过程和维纳过程

n 和

t t ,,21

,n 当

t ,,1Λn t t t ,,,21ΛT t t X ∈,，也称狭义平稳过程。

定义2.13设(){}T t t X ∈,是随机过程，如果 （1）(){}T t t X ∈,是二阶矩过程； （2）对于任意()()[]=X E =T ∈X t t m t ,常数；

（3）对任意的()()s t R t s R t s -=T ∈X X ,,,，则称(){}T t t X ∈,为广义平稳过程，简称为平稳过程。

若T 为离散集，则称平稳过程(){}T t t X ∈,为平稳序列。

第三章泊松过程

§３.1泊松过程的定义和例子

定义3.1计数过程

定义3.2称计数过程}0),({≥t t X 为具有参数λ＞0的泊松过程，若它满足下列条件 (1)X(0)=0；

(2)X(t)是独立增量过程；

(3)在任一长度为t 的区间中，事件A 发生的次数服从参数λt ＞0的泊松分布，即对任意s,t ＞0，有

定义 定理定理定理数为n 与λ的Γ分布，其概率密度为

三、到达时间的条件分布

定理3.4设}0),({≥t t X 是泊松过程，已知在[0,t]内事件A 发生n 次，则这n 次到达时

间n W W W <<<Λ21与相应于n 个[0,t]上均匀分布的独立随机变量的顺序统计量有相同的分布。

§3.3非齐次泊松过程

定义3.4称计数过程{(),0}X t t ≥为具有跳跃强度函数()t λ的非齐次泊松过程，若它满足下列条件：

(1)(0)0X =；(2)()X t 是独立增量过程；

(3)

{()()1}()()

{()()2}()

P X t h X t t h o h P X t h X t o h λ+-==++-≥=

非齐次泊松过程的均值函数为：

定理3.5设{(),0}X t t ≥是具有均值函数0()()t

X m t s ds λ=?的非齐次泊松过程，则有 或

上式表明{()()}P X t s X t n +-=不仅是t 的函数，也是s 的函数。

3.4复合泊松过程

定义3.5设}0),({≥t t N 是强度为λ的泊松过程，

,...}2,1{,=k Y k 是一列独立同分布随机

则称定理数；定义则称 定义为马尔可夫链},{T n X n ∈的n 步转移概率，

定理1设},{T n X n ∈为马尔可夫链，则对任意整数n l n <≤≥0,0和I j i ∈,，n 步转移概率)

(n ij p 具有下列性质： 定义5设},{T n X n ∈为马尔可夫链，称 为},{T n X n ∈的初始概率和绝对概率，并分别称},{I j p j ∈和}),({I j n p j ∈为},{T n X n ∈的初始分布和绝对分布，简记为}{j p 和)}({n p j 。

定理2设},{T n X n ∈为马尔可夫链，则对任意I j ∈和1≥n ，绝对概率)(n p j 具有下列

性质：

定理3设},{T n X n ∈为马尔可夫链，则对任意I i i i n ∈,,,21Λ和1≥n ，有

§4.2马尔可夫链的状态分类

一、状态分类

假设{,0}n X n ≥是齐次马尔可夫链，其状态空间{0,1,2,}I =L ，

转移概率是,,ij p i j I ∈,初始分布为{,,}j p i j I ∈。

定义 4.6如集合()

{:1,0}n ii

n n p ≥>非空，则称该集合的最大公约数()

()..{:0}n ii d d i G C D n p ==>为状态i 的周期。如1>d 就称i 为周期的，如1=d 就称i 为非周

0统称为首定理4.4对任意状态,i j ，及∞<≤n 1，有

()()()()()1

.n

n

n k n k n k k ij

ij

jj

ij jj k k p

f

p

f p --====∑∑（4.16）

引理4.2}.0,1:{..}0,1:{..)()

(>≥=>≥n ii n ii

f n n D C G p n n D C G 二、常返态的性质及其性质

定理4.5状态i 常返的充要条件为

∞=∑∞

=0

n ii

p

（4.18）

如i 非常返，则

定理4.7设i 常返且有周期d ，则

i

nd ii n d

p μ=∞

→)

(lim .

（4.26）

其中i μ为i 的平均返回时间。当∞=i μ时，0=i

d

μ.

推论设i 常返，则

(1) i 零常返0lim )(=?∞

→n ii n p ；（2）i 遍历()

1

lim

0n ii n i

p μ←∞

?=>。

定理4.8可达关系与互通关系都具有传递性，即 定理 C

1,,D C n C 。 则G 即

1

0,,,d r r S r C G G G r s φ-===≠I U （4.31）

且使得自r G 中任一状态出发，经一步转移必进入1+r G 中（其中0G G d =）。

定理4.12设{,0}n X n ≥是周期为d 的不可约马氏链，则在定理4.11的结论下有

(1)如只在时刻0,,2,d d L 上考虑{}n X ，即得一新马氏链，其转移阵()()

()d d ij P p =，对此新链，

每一r G 是不可约闭集，且r G 中的状态是非周期的。 (2)如原马氏链{}n X 常返，{}nd X 也常返。

§4.4)(n ij p 的渐近性质与平稳分布

一、)

(n ij p 的渐近性质

定理4.13如j 非常返或零常返，则)(lim n ij n p ∞

→＝0，I i ∈?（4.33）

推论1有限状态的马氏链，不可能全是非常返状态，也不可能含有零常返状态，从而不可约的有限马氏链必为正常返的。

推论2如马氏链有一个零常返状态，则必有无限多个零常返状态。 定理4.14如j 正常返，周期为d ，则对任意i 及10-≤≤d r 有

()

lim ()nd r ij ij n j

d p f r μ+→∞=（4.37） 其中???

?

??

?∑∈I j j π{j

u 推论1有限状态的不可约非周期马尔可夫链必存在平稳分布。

推论2若不可约马尔可夫链的所有状态是非常返或零常返的，则不存在平稳分布. 推论3若{,}j j I π∈是马尔可夫链的平稳分布，则

第五章连续时间的马尔可夫链

§5.1连续时间的马尔可夫链

定义 5.1设随机过程{X (t),t ≥0},状态空间{,0}n I i n =≥,若对于任意1210n t t t +≤<<

=11{()|()}n n n n P X t i X t i ++==(5.1)

则称{X (t),t ≥0}为连续时间的马尔可夫链。

记(5.1)式条件概率的一般形式为 (,){()|()}ij p s t P X s t j X s i =+==(5.2)

定义5.2若(5.2)式的转移概率与s 无关，则称连续时间马尔可夫链具有平稳的或齐次的转移概率，此时转移概率简记为

(,)()ij ij p s t p t =(5.3) 其转移概率矩阵简记为()(()),(,,0)ij P t p t i j I t =∈≥。

以下的讨论均假定我们所考虑的连续时间马尔柯夫链都具有齐次转移概率。为

定理其中()ij p t 定义性质引理定理推论 定理定理定理定理§5.3生灭过程

定义设齐次马尔可夫过程{(),0}X t t ≥的状态空间为{0,1,2,}I =L ，转移概率为()ij p t ，如果

则称{(),0}X t t ≥为生灭过程。其中，i λ称为出生率，i μ称为死亡率。

(1)若,i i i i λλμμ==(λ,μ为正常数)，则称{(),0}X t t ≥为线性生灭过程； (2)若0i μ≡，则称{(),0}X t t ≥为纯生过程； (3)若0i λ≡，则称{(),0}X t t ≥为纯灭过程。

第六章平稳随机过程

§6.1平稳过程的概念与例子

一、平稳过程的定义

1.平稳过程

定义

§6.2联合平稳过程及相关函数的性质

一、联合平稳过程

定义设{(),}X t t T ∈和{(),}Y t t T ∈是两个平稳过程，若它们的互相关函数[()()]

E X t Y t τ-及[()]E X t τ-

则

1 其中2的e 我们称二阶矩随机序列{()}n X e 以概率1收敛于二阶矩随机变量X(e)，或称{()}n X e 几

乎处处收敛于X(e)，记作X X e

a n ?→?.。

3、依概率收敛

若对于任给的ε>0，若有

0}|)()({|lim =≥-∞

→εe X e X P n n ，

则称二阶矩随机序列{()}n X e 依概率收敛于二阶矩随机变量X(e)，记作X X P n ?→?。

4、均方收敛

设有二阶矩随机序列{}n X 和二阶矩随机变量X ，若有

0]|[|lim 2=-∞

→X X E n n (6.3)

成立，则称{}n X 均方收敛，记作X X s

m n ??→

?.。 注：(6.3)式一般记为l.i.m n x X X →∞

=或..

n l i mX X =。 5、依分布收敛

设有二阶矩随机序列{}n X 和二阶矩随机变量X ，若{}n X 相应的分布函数列{()}n F x ，

在X 的分布函数F(x)的每一个连续点处，有

则称二阶矩随机序列{}n X 依分布收敛于二阶矩随机变量X ，记作X X d n ?→?

定理2定理a ，b 定理

二、均方连续

定义设有二阶矩过程}),({T t t X ∈，若对0t T ∈，有

2000

lim [|()()|]0h E X t h X t →+-=，

则称()X t 在0t 点均方连续，记作000

..()()h l i m X t h X t →+=。若对T 中一切点都均方连续，则

称()X t 在T 上均方连续。

定理（均方连续准则）二阶矩过程}),({T t t X ∈在t 点均方连续的充要条件为相关函数处连续在点),(),(21t t t t R X 。

推论若相关函数),(21t t R X 在}),,{(T t t t ∈上连续，则它在T ×T 上连续

三、均方导数

定义7设}),({T t t X ∈是二阶矩过程，若存在一个随机过程)(t X '，满足

类似的有2

2)(dt X

d t X 或

'' 称

为),(21t t R X 在12(,)t t 的广义二阶导数，记为

定理6均方可微准则二阶矩过程}),({T t t X ∈在t 点均方可微的充要条件为相关函数),(),(21t t t t R X 在点的广义

),21t 在),,{(t t 在T 在[,]

a b 定理[,]a b 上定理(1)[E (2)E 定理在均方意义下存在，且随机过程}),({T t t X ∈在[,]a b 上均方可微，且有()()Y t X t '=。 推论设()X t 均方可微，且()X t '均方连续，则 特别有

§4平稳过程的各态历经性

定义9设{(),}X t t -∞<<∞为均方连续的平稳过程，则分别称 为该过程的时间均值和时间相关函数。

定义10设{(),}X t t -∞<<∞是均方连续的平稳过程，若()Pr.1(())X t E X t <>，即

以概率1成立，则称该平稳过程的均值具有各态历经性。

若()()Pr.1(()())X t X t E X t X t ττ<->-，即

以概率1成立，则称该平稳过程的相关函数具有各态历经性。

定义11如果均方连续的平稳过程{(),}X t t T ∈的均值和相关函数都具有各态历经性，则称该平稳过程为具有各态历经性或遍历性。

定理10设{(),}X t t -∞<<∞是均方连续的平稳过程，则它的均值具有各态历经性的充要条件为

2221

lim

1[()]022T

X X T T R m d T T τττ-→∞??--=

???

?(6.9)

其中

若(X 其中因为定义7.1设{}∞<<-∞t t X ),(为均方连续随机过程，称 为)(t X 的平均功率，称

为)(t X 的功率谱密度，简称谱密度。

当)(t X 是平稳均方连续函数时，由于[])(2t X E 是与t 无关的常数，利用均方积分的性质可以将（7.5）式简化得

()22

1()()02lim

x T T E X t dt E X t R T

T →∞

????===????-?………..(7.8) 由（7.8）式和（7.5）式看出，平稳过程的平均功率等于该过程的均方值，或等于它

的谱密度在频域上的积分，即

()2

12X S d ψωωπ∞=-∞

?……………….(7.9)

定义7.2设{,0,1,2,}n X n =±±L 是平稳随机序列，若相关函数满足()X n R n ∞

=-∞

<∞∑则称

为{,0,1,2,}n X n =±±L 的谱密度。

§7.2谱密度的分析

设{}∞<<-∞t t X ),(为均方连续平稳过程，)(τX R 为它的相关函数，()ωX S 为它的频率谱密度，()ωX S 具有下列性质：

（1

(2)X S (3)当函数是(X 因此互谱密度()YX s ω与互相关函数()YX R τ的关系如下： ()()i YX YX

s R e d ωτωττ∞--∞=?, 互谱密度具有下列性质：

⑴()()XY YX s s ωω=，即()XY s ω与()YX s ω互为共轭；

⑵()Re XY s ω????和()Re YX s ω????是ω的偶函数，而()Im XY s ω????和()Im YX s ω????是ω的奇函数； ⑶()XY s ω与()X s ω和()Y s ω满足下列关系式： ⑷若()X t 和()Y t 相互正交，则()()0XY YX s s ωω==