随机过程知识点汇总

2

0 — 1分布

P(X 1) P,P(X 0) q EX

DX

pq

二项分布

P(X

k)

C ：

EX

np

DX

npq

泊松分布

P(X

k)

k!

EX

DX

均匀分布略

正态分布

N(a, 2)

f(x)

(X a)2

2 2

EX DX

第一章随机过程的基本概念与基本类型 一.随机变量及其分布

1 .随机变量X ,分布函数F(x) P(X X) 离散型随机变量

X 的概率分布用分布列 P k P(X x k )分布函数 F(x)

P k

连续型随机变量

X 的概率分布用概率密度

f(x)

分布函数F(x)

X

f(t)dt

2. n 维随机变量

X (X 1,X 2, ,X n )

其联合分布函数 F (X ) F (X 1,X 2,

,

X n )

P(X 1 X [ , X 2 X 2 ,

, X n

X n ,)

离散型

联合分布列 连续型联合概率密度

3 .随机变量的数字特征

数学期望：离散型随机变量 X EX X k P k

连续型随机变量

X

EX xf (x)dx

2 2 2

方差：DX E(X EX) EX (EX) 反映随机变量取值的离散程度

协方差(两个随机变量 X,Y )： B XY E[(X EX )(Y

相关系数(两个随机变量 X, Y ) : XY t

_

____________________________________

VDX v'DY

独立 不相关

5 ?常见随机变量的分布列或概率密度、期望、方差 B XY EY)] E(XY) EX EY

则称X,Y 不相关。

4 ?特征函数 g(t)

E(e ItX ) 离散 g(t) e ItX k

p k

连续

g(t)

e ltx

f (x)dx

重要性质：g(0)

1 , g(t) 1 , g( t) g(t) , g

(0) EX k

a (a 1,a 2, ,a n )， x (X 1,X 2, ,X n )， B (

b j )nn 正定协方差阵

二?随机过程的基本概念 1. 随机过程的一般定义

设(，

P)是概率空间，T 是给定的参数集，若对每个t T ,都有一个随机变量 X 与之对应,

则称随机变量族 X(t,e),t T 是(，

P)上的随机过程。简记为

X(t),t T 。

含义：随机过程是随机现象的变化过程，

用一族随机变量才能刻画出这种随机现象的全部统计规

律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。

当t 固定时，X(t,e)是随机变量。当e 固定时，X(t,e)时普通函数，称为随机过程的一个样本 函数或轨道。 分类：根据参数集 T 和状态空间I 是否可列，分四类。 也可以根据X(t)之间的概率关系分类,

如独立增量过程，马尔可夫过程，平稳过程等。 2. 随机过程的分布律和数字特征

用有限维分布函数族来刻划随机过程的统计规律性。随机过程

X(t),t T 的一维分布，二维分

布，…，n 维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征 的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征 来取代。 (1)

均值函数m X (t) EX (t)表示随机过程 X(t),t T 在时刻t 的平均值。 (2)

方差函数 D x (t) E[X(t) m x (t)]2表示随机过程在时刻t 对均值的偏离程度。

B x (s,t)

E[(X(s) m x (s))(X(t) m x (t))]

(3)

协方差函数

且有B x (t,t) D x (t)

E[X(s)X(t)] m x (s)m x (t)

(4)

相关函数R x (s,t)

E[X(s)X(t)]⑶和⑷表示随机过程在时刻s , t 时的线性相关程度。

(5) 互相关函数：

X(t),t T , Y(t),t T 是两个二阶距过程，则下式称为它们的互协方差函

数。

B xY (s,t)

E[(X(s) m x (s))(Y(t) m Y (t))]

，那么R xY (s,t)

E[X(s)Y(t)]，称为互相关函数。

指数分布

f(x)

e x , x 0 0, x 0

EX — DX

1

~2

6.N 维正态随机变量 X

(X i ，X 2, ,X n )的联合概率密度 X ?N(a, B)

1

f(X 1,X 2, ,X n ) --------------- n - (2 )2

—exp{

|B |2 1 T 1 2(x a) B (x a)}

E[X(s)Y(t)] m x(s)m Y(t)

若E[X(s)Y(t)] m x (s)m Y(t)，则称两个随机过程不相关。

3?复随机过程Z t X t jY t

均值函数m z (t) EX t jEY t 方差函数

D z(t) E[| Z t m z(t) |]2E[(Z t m z(t))(Z t m z(t))]

B z(s,t) E[(Z s m z (s))(Z t m z(t))] -

协方差函数_ _____ 相关函数R z(s,t) E[Z s Z t]

E[Z s Z t] m z(s)m z(t)

4?常用的随机过程

2

(1)二阶距过程：实(或复)随机过程X(t),t T，若对每一个t T，都有EX(t) (二阶距存在)，则称该随机过程为二阶距过程。

(2)正交增量过程：设X(t),t T是零均值的二阶距过程，对任意的t1t2t3 t4 T，有

E[(X(t2) X(tJ)(X(t4) X(t3))] 0,则称该随机过程为正交增量过程。

其协方差函数B x(s,t) R x(s,t) X(min(s,t))

(3)独立增量过程：随机过程X(t),t T，若对任意正整数n 2，以及任意的t1 t2t n T , 随机变量X(t2) X(tJ,X(t4)X(t3), ,X(t n) X(t n1)是相互独立的，则称X(t),t T是独立增量过程。进一步，如X(t),t T是独立增量过程，对任意s t，随机变量X(t) X(s)的分

布仅依赖于t s，则称X(t),t T是平稳独立增量过程。

(4 )马尔可夫过程：如果随机过程X(t),t T具有马尔可夫性，即对任意正整数n及

t1 t2 t n T , P(X(tJ X1, ,X(t n1) X nJ 0，都有

P X(t n)人X(tJ X1, ,X(tnJ P X(t n) X n X(t n 1)粘，则则称X(t),t T

是马尔可夫过程。

(5 )正态过程：随机过程 X(t),t T ,若对任意正整数n 及t 1,t 2, ,t n T ,

X(t),t T 是正态过程或高斯过程。

(6) 维纳过程：是正态过程的一种特殊情形。 设W(t), t

为实随机过程，如果，① W(0) 0 ;②是平稳独立增量过程；③对任意

s,t 增

量W(t) W(s)服从正态分布，即 W(t) W(s)~N(O, 2t s) 2

0。则称

W(t), t

为维纳过程，或布朗运动过程。

另外：①它是一个 Markov 过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。 ②维纳过程具有独立增量。

该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间

上变化的概率。③它在任何有限时间上的变化服从正态分布，其方差随时间区间的长度呈线性增加。 (7) 平稳过程：

严(狭义)平稳过程：X(t),t T ，如果对任意常数 和正整数n 及t 1,t 2, ,t n T ，

t l ,t 2 , ,t n

T ，( X(t i ),X(t 2) X(t n ))与(X(t “ ), X&

) X(t .))有相

同的联合分布，则称

X(t),t T 是严(狭义)平稳过程。

广义平稳过程：随机过程

X(t),t T ，如果① X(t),t T 是二阶距过程；②对任意的 t T ，

m x (t)

EX(t)常数；③对任意 s ，t T ，R x (s,t)

E[X(s)X(t)]

R X (t s)，或仅与时间差

t s 有关。则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。

第二章泊松过程

一.泊松过程的定义(两种定义方法)

1,设随机计数过程 X(t),t 0，其状态仅取非负整数值， 若满足以下三个条件，贝y 称：X(t),t T 是具有参数 的泊松过程。

①X(0)

0 ；②独立 增量过程，对任意正整 数n ,以及任 意的

t 1

t 2 t n T X(t 2) X(t 1 ), X(t 3) X (t 2 ), ,X(t n ) X(t n 1)相互独立，即不同时间间隔

的计数相互独立；③在任一长度为

t 的区间中，事件A 发生的次数服从参数

t 0的的泊松分布，即

(t)n

对任意 t,s 0,有 P X(t s) X(s) ne t

n 0,1,L E[X(t)] n!

t ,

E[X(t)]，表示单位时间内时间A 发生的平均个数，也称速率或强度。

t

2,设随机计数过程

X(t),t 0，其状态仅取非负整数值，若满足以下三个条件，贝y 称：X(t),t 0

是具有参数 的泊松过程。①X(0) 0 ;②独立、平稳增量过程；③

P X(t h) X(t) 1 h o(h) P X(t

h) X(t)

2

o(h)

°

第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同 时发生，也称为单跳性。 二.基本性质

为 ETn -

四.复合泊松过程 Y k ,k 1,2, L 是一列独立同分布的随机变量，且与

N (t)

N(t),t 0独立，令X(t)

Y k 则称 X(t),t 0为复合泊松过程。

k 1

X(t),t 0 是独立增量过程；若 E(Yj) ,则 E[X(t)] tE(Y 1),

1,数字特征

m x (t) E[X(t)] t D[X(t)] R x (s,t)

s( t 1) s t t( s 1) s t

B x (s,t) R x (s,t) m x (s)m x (t)

min (s,t)

推导过程要非常熟悉

2, T n 表示第n 1事件A 发生到第

n 次事件发生的时间间隔, T n , n 1是时间序列，随机变量 T n

服从参数为 的指数分布。

概率密度为

f (t)

e t ,t 0

，分布函数

0, t

Pt)

1 e t ,t 0

均值

0, t 0

证明过程也要很熟悉

?非齐次泊松过程

到达时间的分布 到达强

度是t 的函数

①X(0) 0 ;②独立增量过程；③

X(t h) X(t) (t)h o(h)

。

不具有平稳增量

性。

t

均值函数 m x (t) E[X(t)]

° (s)ds

X(t

h) X(t)

o(h)

定理： X(t),t 0是具有均值为

m x (t) (s)ds 的非齐次泊松过程，则有

P X(t s) X(t) n

[m x (t s) m x (t)]n e

n!

[m x (t s) m x (t)]

设 N(t),t 0是强度为

的泊松过程,

重要结论：

2

D[X(t)] tE(￡ )

移到j 的概率。记为p ij (n)。则p j (n) P X n 1 j X n i 称为马尔可夫链在时刻

n 的一步转移概

率。若齐次马尔可夫链，则

pHn)与n 无关，记为 卩耳。

P [ P j ]

i, j I I 1,2,L 称为系统的一步转移矩阵。性质：每个元素

p j

0,每行的和

为1。

3. n 步转移概率 P ij (n) = P X m n j X m i ; P ⑺[P j ⑴]i, j I I 1,2, L 称为 n 步转

移矩阵。

重要性质：①p jj (n ) p ik ⑴p k j (nl)称为C K 方程，证明中用到条件概率的乘法公式、马尔可夫

性、齐次性。

马尔可夫过程的特性：马尔可夫性或无后效性。即：在过程时刻

10所处的状态为已知的条件下,

过程在时刻t t o 所处状态的条件分布与过程在时刻 在 有 关， 而 与 过

t o 之前所处的状态无关。也就是说，将来只与现

去 无 关。 表 示 为

PX(t n ) X n X(t i ) X i , ,X(t n i ) X .i

PX(t n ) X n X(t ni )粘

.马尔可夫链的概念及转移概率

1 ?定义：设随机过程

X n , n T ，对任意的整数

n T 和任意的i 0,h,L ,i n 1

I ，条件概率满足

P X n 1 i n 1 X o i o ,X i i i ,L ,X n i n P X n 1

i n 1 X n

i n ，则称X n , n T 为马尔可夫

链。

马尔可夫链的统计特性完全由条件概率

P X n 1 i n 1 X n i n 所决定。

2.转移概率 P X n 1 j X n i 相当于随机游动的质点在时刻

n 处于状态i 的条件下，下一步转

定理：① p j (n)

P i P (n)矩阵形式：P T (n)

P T (0) P (n)② P j (n)

p i (n 1)p ij

i I

i I

P i P ii L P i i 说明马氏链的有限维分布完全由它的初

1

n 1 n

i I

始概率和一步转移概率所决定。 二.马尔可夫链的状态分类

1 ?周期：自某状态出发，再返回某状态的所有可能步数最大公约数，即 d 1，则称该状态是周期

的；若 d 1，则称该状态是非周期的。

2?首中概率：f j (n)表示由i 出发经n 步首次到达j 的概率。

3.

f j

f ij (n)表示由i 出发经终于(迟早要)到达 j 的概率。

n 1

4. 如果f ii 1，则状态i 是常返态；如果 花1，状态i 是非常返(滑过)态。

5.

i

nf H (n)表示由i 出发再返回到i 的平均返回时间。若i ，则称i 是正常返态；若

n 1

则称i 是零常返态。非周期的正常返态是遍历状态。

掌握证明方法:

P ij (n)

P X mn

j|X m i T Mmn j

P X m i

P X m i,X m | k,X m n j

P X m i

P X

m i

, X

m l k,X mn j

T

P X m i,X ml k p kj n °(m l) P ik )(m)

p k"

k I

k I

(n l)

p kj

②P (n) P n 说明n 步转移概率矩阵是一步转移概率矩阵的

n 次乘方。

4.

X n ,n T 是马尔可夫链，称 P j P X o j 为初始概率，即 0时刻状态为j 的概率；称

P j (n) P X n j 为绝对概率，即n 时刻状态为j 的概率。P T (0)

P l , P 2,L 为初始概率向量,

P T ( n)

P i (n), p 2(n)丄为绝对概率向量。

定理：P X i i i ,X 2 i 2,L ,X n i n

d GC D n: p (n) 0。若