随机过程知识点汇总
随机过程知识点汇总
第一章 随机过程的基本概念与基本类型 一.随机变量及其分布
1.随机变量X , 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )
(k k x X P p == 分
布函数∑=k
p x F )(
连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞
-=x dt t f x F )()(
2.n 维随机变量)
,,,(2
1
n X X
X X Λ=
其联合分布函数)
,,,,(),,,()(2211
2
1
n n n
x X x X x X P x x x F x F ≤≤≤==ΛΛ
离散型 联合分布列 连续型 联合概率密度
3.随机变量的数字特征 数学期望:离散型随机变量X ∑=k
k p x EX 连续型随
机变量X ?∞
∞-=dx
x xf EX )(
方差:2
22
)()
(EX EX EX X E DX -=-= 反映随机变量取值的
离散程度
协方差(两个随机变量Y
X ,):
EY EX XY E EY Y EX X E B XY
?-=--=)()])([(
相关系数(两个随机变量Y X ,):
DY
DX B XY XY
?=
ρ 若
0=ρ,则称Y X ,不相关。
独立?不相关?0=ρ
4.特征函数)()(itX
e E t g = 离散 ∑=k
itx p e t g k )( 连续
?∞
∞
-=dx x f e t g itx
)()(
重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k
k k
EX i g =)0(
5.常见随机变量的分布列或概率密度、期望、方差
0-1分布 q
X P p X P ====)0(,)1( p
EX =
pq
DX =
二项分布 k
n k k
n q p C k X P -==)(
np
EX =
npq
DX =
泊松分布 !
)(k e
k X P k
λλ
-== λ
=EX
λ
=DX 均匀分布
略
正态分布),(2
σa N
2
22)(21)(σσ
πa x e
x f --
=
a
EX =
2
σ=DX
指数分布
??
?<≥=-0,
00,)(x x e x f x λλ
λ
1
=
EX 2
1
λ
=
DX
6.N维正态随机变量)
,,,(2
1
n X X
X X Λ=的联合概率密度
),(~B a N X
)}
()(2
1
ex p{|
|)2(1),,,(12
12
21a x B a x B x x x f T n n ---=
-πΛ
)
,,,(21n a a a a Λ=,),,,(2
1
n
x x x x Λ=,n
n ij
b B ?=)(正定协方差阵
二.随机过程的基本概念 1.随机过程的一般定义
设)
,
(P Ω是概率空间,T 是给定的参数集,若对每
个T t ∈,都有一个随机变量X 与之对应,则称随机变量
族{}T t e t X ∈),,(是)
,
(P Ω上的随机过程。简记为{}T t t X ∈),(。
含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性。另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。
当t 固定时,),(e t X 是随机变量。当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道。 分类:根据参数集T 和状态空间I 是否可列,分四类。 也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。 2.随机过程的分布律和数字特征
用有限维分布函数族来刻划随机过程的统计规律性。随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代。 (1)均值函数)
()(t EX t m X
= 表示随机过程{}T t t X ∈),(在时
刻t 的平均值。 (2)方差函数2
)]()([)(t m t X E t D
X X
-=表示随机过程在时刻t
对均值的偏离程度。 (3)协方差函数
)
()()]()([))]
()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有
)
(),(t D t t B X X =
(4)相关函数)]
()([),(t X s X E t s R
X
= (3)和(4)表示随机过程
在时刻s ,t 时的线性相关程度。
(5)互相关函数:{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数。
)
()()]()([))]
()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]
()([),(t Y s X E t s R
XY
=,称为
互相关函数。 若)
()()]()([t m s m t Y s X E Y X
=,则称两个随机过程不相关。
3.复随机过程
t
t t jY X Z +=
均值函数t
t Z
jEY EX t m
+=)( 方差函数
]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z
t
Z
t
Z t Z --=-=
协方差函数
)
()(][]
))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数
]
[),(t s Z Z Z E t s R =
4.常用的随机过程
(1)二阶距过程:实(或复)随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞
<2
)
(t X E (二阶距存在),则称该随
机过程为二阶距过程。
(2)正交增量过程:设{}T t t X ∈),(是零均值的二阶距过程,对任意的T
t t t t ∈<<<4321
,有
]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过
程。
其协方差函数))
,(m in(),(),(2
t s t s R t s B X X X
σ==
(3)独立增量过程:随机过程{}T t t X ∈),(,若对任意正
整数
2
≥n ,以及任意的
T
t t t n ∈<<<Λ21,随机变量
)
()(,),()(),()(13412----n n t X t X t X t X t X t X Λ是相互独立的,则称
{}T t t X ∈),(是独立增量过程。 进一步,如{}T t t X ∈),(是独
立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程。 (4)马尔可夫过程:如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数
n
及
T
t t t n ∈<<<Λ21,
))(,,)((1111>==--n n x t X x t X P Λ,都有
{}{}
111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P Λ,则则称
{}T t t X ∈),(是马尔可夫过程。
(5)正态过程:随机过程{}T t t X ∈),(,若对任意正整数n 及T
t
t t n
∈,,,2
1
Λ,()()(),(2
1
n
t X t X t X Λ)是n 维正态随机变量,其
联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程。
(6)维纳过程:是正态过程的一种特殊情形。 设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ;②是平稳独立增量过程;③对任意t s ,增量)()(s W t W -服从正态分布,即0)
,0(~)()(22
>--σσ
s t N s W t W 。则称{}∞<<-∞t t W ),(为维纳
过程,或布朗运动过程。
另外:①它是一个Markov 过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。 ②维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加。 (7)平稳过程:
严(狭义)平稳过程:{}T t t X ∈),(,如果对任意常数τ和
正整数n 及T
t
t t n
∈,,,2
1
Λ,T
t t t
n ∈+++τττ,,,21
Λ,()()(),(2
1
n
t X t X t X Λ)
与()
()(),(21
τττ+++n t X t X t
X Λ)有相同的联合分布,则称
{}T t t X ∈),(是严(狭义)平稳过程。
广义平稳过程:随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程;②对任意的T t ∈,
常数
==)()(t EX t m X ;③对任意
T
t s ∈,,)
()]()([),(s t R t X s X E t s R
X X
-==,或仅与时间差s t -有关。
则满足这三个条件的随机过程就称为广义平稳过程,
或宽平稳过程,简称平稳过程。
第二章 泊松过程
一.泊松过程的定义(两种定义方法)
1,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}T t t X ∈),(是具有参数λ的泊松过程。①(0)0X =;②独立增量过程,对任意正整数
n
,以及任意的T t t t
n ∈<<<Λ21
)
()(,),()(),()(12312----n n t X t X t X t X t X t X Λ相互独立,即不同时间间隔的计数相互独立;③在任一长度为t 的区间中,事件A发生的次数服从参数0t λ>的的泊松分布,即对任意
,0
t s >,有
{}()()()0,1,!
n
t
t P X t s X s n e
n n λλ-+-===L
[()]E X t t
λ=,[()]
E X t t
λ=,表示单位时间内时间A发生的平均个数,也称速率或强度。
2,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}(),0X t t ≥是具有参数λ的泊松过程。①(0)0X =;②独立、平稳增量过程;③
{}{}()()1()
()()2()
P X t h X t h o h P X t h X t o h λ+-==+???+-≥=??。
第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发
生,也称为单跳性。 二.基本性质 1,数字特征
()[()][()]
X m t E X t t D X t λ===
(1)
(,)(1)
X s t s t R s t t s s t
λλλλ+=?
+≥?
(,)(,)()()min(,)
X X X X B s t R s t m s m t s t λ=-= 推导过程要非常熟悉
2,n
T 表示第1n -事件A发生到第n 次事件发生的时间间隔,{},1n
T n ≥是时间序列,随机变量n
T 服从参数为λ的
指数分布。概率密度为
,0
()0,
0t e t f t t λλ-?≥=?
,分布函数
1,0
()0,
0n t T e t F t t λ-?-≥=?
n
ET
λ
=
证明过程也要很熟悉 到达时间的分布 略 三.非齐次泊松过程 到达强度是t 的函数 ①(0)0X =;②独立增量过程;③{}{}()()1()()()()2()
P X t h X t t h o h P X t h X t o h λ+-==+???+-≥=??。
不具有平稳增量性。
均值函数0
()[()]()t
X
m t E X t s ds λ==?
定理:{}(),0X t t ≥是具有均值为0
()()t
X m t s ds
λ=?的非齐次泊松过程,则有
{}{}
[()()]()()exp [()()]!
n
X X X X m t s m t P X t s X t n m t s m t n +-+-==-+-
四.复合泊松过程
设{}(),0N t t ≥是强度为λ的泊松过程,{},1,2,k
Y k =L 是一列独
立同分布的随机变量,且与{}(),0N t t ≥独立,令()
1
()N t k
k X t Y ==∑
则称{}(),0X t t ≥为复合泊松过程。
重要结论: {}(),0X t t ≥是独立增量过程;若21
()E Y
<∞
,则
1[()]()
E X t tE Y λ=,21
[()]()D X t tE Y λ=
第五章 马尔可夫链
泊松过程是时间连续状态离散的马氏过程,维纳过程是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为马尔可夫链。
马尔可夫过程的特性:马尔可夫性或无后效性。即:在过程时刻0
t 所处的状态为已知的条件下,过程在时
刻0
t t >所处状态的条件分布与过程在时刻0
t 之前所处
的状态无关。也就是说,将来只与现在有关,而与过去
无
关
。
表
示
为
{}{}
111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P Λ 一.马尔可夫链的概念及转移概率
1.定义:设随机过程{},∈n
X n T ,对任意的整数∈n T 和任
意的
011,,,n i i i I
+∈L ,条件概率满
足
{}{}
11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======L ,则称{},∈n
X n T 为
马尔可夫链。
马尔可夫链的统计特性完全由条件概率
{}
11n n n n P X i X i ++==所决定。
2.转移概率 {}
1
n n P X
j X i +==相当于随机游动的质点在时
刻n 处于状态i 的条件下,下一步转移到j 的概率。记为
()
ij p n 。则()ij
p n {}
1
n n P X
j X i +===称为马尔可夫链在时刻n 的一
步转移概率。若齐次马尔可夫链,则()ij
p n 与n 无关,记为ij
p 。
[]
,1,2,ij P p i j I
I =∈=L
称为系统的一步转移矩阵。性质:
每个元素0
ij
p ≥,每行的和为1。
3.
n
步转移概率
()
n ij p =
{}
m n m P X j X i +== ;
()()[]
,1,2,n n ij P p i j I
I =∈=L
称为n 步转移矩阵。
重要性质:①()
()()
n l n l ij
ik kj k I
p
p p -∈=∑ 称为C K -方程,证明中用到
条件概率的乘法公式、马尔可夫性、齐次性。
掌握证明方法:
{}{}
{}
{}{}{}{}{}
{}
()()()()()
,,,,,,,()()m m n n ij m n m m m m l m n k T m m m l m n m m l k T
m m l m n l l l n l kj ik ik kj k I
k I
P X i X j p P X j X i P X i P X i X k X j P X i P X i X k X j P X i X k P X i X k P X i p m l p m p p ++++∈+++∈+--∈∈======
============?
====+?=?∑
∑
∑∑
②()
n n
P
P = 说明n 步转移概率矩阵是一步转移概率矩阵
的n 次乘方。
4.{},∈n
X n T 是马尔可夫链,称{}
0j
p
P X j ==为初始概率,即0时刻状态为j 的概率;称{}
()j
n
p n P X
j ==为绝对概率,
即n 时刻状态为j 的概率。{}1
2
(0),,T
P p p =L 为初始概率向量,
{}
12()(),(),T P n p n p n =L 为绝对概率向量。
定理:①
()
()n j i ij
i I
p n p p ∈=∑矩阵形式:
()
()(0)T T n P n P P =②
()(1)j i ij
i I
p n p n p ∈=-∑
定理:{}111
122,,,n n
n n i ii i i i I
P X
i X i X i p p p -∈====∑L L 说明马氏链的有
限维分布完全由它的初始概率和一步转移概率所决定。
二.马尔可夫链的状态分类
1.周期:自某状态出发,再返回某状态的所有可能步数最大公约数,即{}
():0n ii
d GC D n p
??
=>。若1d >,则称该状
态是周期的;若1d =,则称该状态是非周期的。 2.首中概率:()
n ij
f 表示由i 出发经n 步首次到达j 的概率。
3.()1
n ij
ij n f f ∞
==∑表示由i 出发经终于(迟早要)到达j 的概
率。 4.如果1
ii
f
=,则状态i 是常返态;如果1
ii
f
<,状态i 是非
常返(滑过)态。
5.()1
n i
ii
n nf μ∞
==∑表示由i 出发再返回到i 的平均返回时间。
若i
μ
<∞
,则称i 是正常返态;若i
μ
=∞
,则称i 是零常返态。非周期的正常返态是遍历状态。 6.状态i 是常返充要条件是()
ii
n n p
∞
==∞
∑;状态i 是非常返充
要条件是()
1
1ii
n n ii
p
f ∞
==
-∑。
7.称状态i 与j 互通,,i j i j j i ?→→即且。如果i j ?,则他们同为常返态或非常返态,;若i ,j 同为常返态,则他们同为正常返态或零常返态,且i ,j 有相同的周期。 8.状态i 是遍历状态的充要条件是()
1
lim 0
n ii
n i
p
μ→∞
=
>。一个不
可约的、非周期的、有限状态的马尔可夫链是遍历的。 9.要求:熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态。 三.状态空间的分解
1.设C 是状态空间I 的一个闭集,如果对任意的状态
i C
∈,状态j C ?,都有0
ij
p
=(即从i 出发经一步转移不能
到达j ),则称C 为闭集。如果C 的状态互通,则称C 是不可约的。如果状态空间不可约,则马尔可夫链
{},∈n X n T 不可约。或者说除了C 之外没有其他闭集,则
称马尔可夫链{},∈n
X n T 不可约。
2.C 为闭集的充要条件是:对任意的状态i C ∈,状态
j C
?,都有()
ij
n p
=。所以闭集的意思是自C 的内部不能到
达C 的外部。意味着一旦质点进入闭集C 中,它将永远留在C 中运动。 如果1
ii
p
=,则状态i 为吸收的。等价于单点{}i 为闭集。
3.马尔可夫链的分解定理:任一马尔可夫链的状态空间I ,必可唯一地分解成有限个互不相交的子集
12,,,n D C C C L L
的和,①每一个n
C 都是常返态组成的不可约
闭集;②n
C 中的状态同类,或全是正常返态,或全是零常返态,有相同的周期,且1
ij
f
=。③D 是由全体非常
返态组成。 分解定理说明:状态空间的状态可按常返与非常返分为两类,非常返态组成集合D ,常返态组成一个闭集C 。闭集C 又可按互通关系分为若干个互不相交的基本常返闭集1
2
,,n
C C C L L 。 含义:一个
马尔可夫链如果从D 中某个非常返态出发,它或者一直停留在D 中,或某一时刻进入某个基本常返闭集n
C ,
一旦进入就永不离开。一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集n
C ,永远在该闭
集n
C 中运动。
4.有限马尔可夫链:一个马尔可夫链的状态空间是一个有限集合。
性质:①所有非常返态组成的集合不是闭集;②没有零常返态;③必有正常返态;④状态空间
12n
I D C C C =++++L ,D 是非常返集合,1
2
,,n
C C C L 是正常返集
合。
不可约有限马尔可夫链只有正常返态。 四.()n ij
p 的渐近性质与平稳分布
1.为什么要研究转移概率()n ij
p 的遍历性?
研究()n ij
p 当n →∞时的极限性质,即{}
0n
P X
j X i ==的极限分
布,包含两个问题:一是()lim n ij
n p →∞
是否存在;二是如果存在,是否与初始状态有关。这一类问题称作遍历性定理。
如果对,i j I ∈,存在不依赖于i 的极限()lim n ij
n p
→∞
j p =>,则称
马尔可夫链具有遍历性。 一个不可约的马尔可夫链,如果它的状态是非周期的正常返态,则它就是一个遍历链。 具有遍历性的马尔可夫链,无论系统从哪个状态出发,当转移步数n 充分大时,转移到状态j 的概率都近似等于j
p ,这时可以用j
p 作为()n ij
p 的近似值。
2.研究平稳分布有什么意义?
判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的,可以通过讨论()lim n ij
n p →∞
来解决,但求极限
时困难的。所以,我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链。一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平
稳分布,且平稳分布即极限分布()
lim n ij
n p →∞
=1
,j
j I μ∈。
3.{},0≥n
X n 是齐次马尔可夫链,状态空间为I ,一步转
移概率为ij
p ,概率分布{},j
j I π∈称为马尔可夫链的平稳
分布,满足
1
j i ij
i I
j
j I
p πππ
∈∈==∑∑
4.定理:不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布,且此平稳分布就是极限分布
1
,j
j I
μ∈。 推论:有限状态的不可约非周期马尔可夫
链必存在平稳分布。
5.在工程技术中,当马尔可夫链极限分布存在,它的遍历性表示一个系统经过相当长时间后达到平衡状态,此时系统各状态的概率分布不随时间而变,也不依赖于初始状态。
6.对有限马尔可夫链,如果存在正整数k ,使()0
k ij
p
>,
即k 步转移矩阵中没有零元素,则该链是遍历的。
第六章 平稳随机过程
一.定义(第一章)
严平稳过程:有限维分布函数沿时间轴平移时不发生变化。
宽平稳过程:满足三个条件:二阶矩过程2
[()
]E X t <∞
;
均值为常数[()]E X t =常数;相关函数只与时间差有关,
即(,)()()()X
X
R t t E X t X t R τττ??-=-=??。
宽平稳过程不一定是严平稳过程,而严平稳过程一定是宽平稳过程。
二.联合平稳过程及相关函数的性质
1.定义:设{}(),X t t T ∈和{}(),X t t T ∈是两个平稳过程,若它
们的互相关函数()()E X t Y t τ??-??及()()E Y t X t τ??-??仅与时间差τ有
关,而与起点t 无关,则称()X t 和()Y t 是联合平稳随机过程。
即,(,)()()()
XY
XY R t t E X t Y t R τττ??-=-=??
(,)()()()
YX YX R t t E Y t X t R τττ??-=-=??
当然,当两个平稳过程联合平稳时,其和也是平稳过
程。
2.相关函数的性质:①(0)0
X
R ≥;②()()
X
X R
R ττ≥,对于实
平稳过程,()
X
R
τ是偶函数。③()(0)
X
X R
R τ≤④非负定。⑤
若()X t 是周期的,则相关函数()
X
R
τ也是周期的,且周期
相同。⑥如果()X t 是不含周期分量的非周期过程,()X t 与
()
X t τ+相互独立,则||()lim X
X X
R
m m ττ→∞
=。
联合平稳过程()X t 和()Y t 的互相关函数,()(0)(0)
XY
X Y R
R R τ≤,
()(0)(0)
YX X Y R R R τ≤;()()
XY
YX R
R ττ-=。()X t 和()Y t 是实联合平稳过程
时,则,()()
XY
YX R
R ττ-=。
三.随机分析 略
四.平稳过程的各态历经性 1.时间均值
1
()..()2T
T
T X t l i m
X t dt
T
-→∞
=?
时间相关函数1
()()..()()2T T
T X t X t l i m
X t X t dt
T
ττ-→∞-=-?
2.如果
()[()]()
X X t E X t m t ==以概率1成立,则称均方连续
的平稳过程的均值有各态历经性。
如果()()[()()]()X
X t X t E X t X t R τττ-=-= 以概率1成立,则称
均方连续的平稳过程的相关函数有各态历经性。 如果均方连续的平稳过程的均值和相关函数都有各态历经性,则称该平稳过程是各态历经的或遍历的。
一方面表明各态历经过程各样本函数的时间平均实
际上可以认为是相同的;另一方面也表明[()]E X t 与
[()()]
E X t X t τ-必定与t 无关,即各态历经过程必是平稳过
程。
3.讨论平稳过程的历经性,就是讨论能否在较宽松的条件下,用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征,即用时间平均代替统计平均。 只在一定条件下的平稳过程,才具有各态历经性。
4.均值各态历经性定理:均方连续的平稳过程的均值具有各态历经的充要条件是
22
21lim
(1)(())0
22T
X X T
T R m d T T
τ
ττ-→∞-
-=?
5.相关函数各态历经性定理:均方连续的平稳过程的相关函数具有各态历经的充要条件是
22
1
121lim
(1)[()()]0
22T
X T
T B R d T T
ττττ-→∞-
-=?
111()[()()()()]
B E X t X t X t X t τττττ=----
第七章 平稳过程的谱分析 一.平稳过程的谱密度 推导过程:
随机过程{}(),X t t -∞<<∞为均方连续过程,作截尾处理
(),()0,
T X t t T
X t t T ?≤?=?
>??,由于()
T
X
t 均方可积,所以存在FT ,得
(,)()()T
j t
j t T T
F T X t e
dt X t e dt
ωωω∞
---∞
-==??,利用paserval 定理及IFT
定义得
2
2
2
1
()()(,)2T
T T
X t dt X t dt F T d ωω
π
∞
∞
-∞--∞
==???
该式两边都是随机变
量,取平均值,这时不仅要对时间区间[,]T T -取,还要取概率意义下的统计平均,即
22
2
111
11()(,)(,)22222lim lim lim T
T T T T E X t dt E F T d E F T d T T T
ωωωωπ
π∞
∞
--∞-∞→∞
→∞→∞??
????==??????????
???
定义2
21
()2lim T T
T E X t dt
T
ψ-→∞
??
=????
?为{}(),X t t -∞<<∞平均功率。
2
1()(,)2lim
X T s E F T T ωω→∞
??
=?
?为{}(),X t t -∞<<∞功率谱密度,简称谱密
度。
可以推出当{}(),X t t -∞<<∞是均方连续平稳过程时,有
22
22
1
1()()()(0)
22lim lim T T
X T T T T E X t dt E X t E X t R T T
ψ--→∞
→∞????????====?????
???????
??
21()2X s d ψωω
π
∞
-∞
=
?
说明平稳过程的平均功率等于
过程的均方值,或等于谱密度在频域上的积分。 2.平稳过程的谱密度和相关函数构成FT 对。
1
()()2j X
X R s e d ωτ
τωωπ
∞
-∞
=? ()()j X
X
s R e d ωτ
ωττ∞
--∞
=?
随机信号分析期末总复习提纲重点知识点归
第 一 章 1.1不考 条件部分不考 △雅柯比变换 (随机变量函数的变换 P34) △随机变量之间的“不相关、正交、独立” P51 (各自定义、相关系数定义 相互关系:两个随机变量相互独立必定互不相关,反之不一定成立 正交与不相关、独立没有明显关系 结合高斯情况) △随机变量的特征函数及基本性质 (一维的 P53 n 维的 P58) △ 多维高斯随机变量的概率密度和特征函数的矩阵形式、三点性质 P61 ( )()() () ( ) ()()2 2 1 () 2112 2 22 11 ,,exp 2 2exp ,,exp 22T T x m X X X X X n n X T T jU X X X X X n X M X M f x f x x U U u Q u j m Q u u E e jM U σπσμ---?? --??= = -????? ? ?? ?? ?? ??=-==- ?? ??? ????? ?? C C C u u r u u r u u r u u r u u r u u r L u r u r u u r u r L 另外一些性质: []()20XY XY X Y X C R m m D X E X m ??=-=-≥??
第二章 随机过程的时域分析 1、随机过程的定义 从三个方面来理解①随机过程(),X t ζ是,t ζ两个变量的函数②(),X t ζ是随时间t 变化的随机变量③(),X t ζ可看成无穷多维随机矢量在0,t n ?→→∞的推广 2、什么是随机过程的样本函数?什么是过程的状态?随机过程与随机变量、样本函数之间的关系? 3、随机过程的概率密度P7 4、特征函数P81。(连续、离散) 一维概率密度、一维特征函数 二元函数 4、随机过程的期望、方差、自相关函数。(连续、离散) 5、严平稳、宽平稳的定义 P83 6、平稳随机过程自相关函数的性质: 0点值,偶函数,周期函数(周期分量),均值 7、自相关系数、相关时间的定义 P88 2 2 2() ()()()()(0)()X X X X X X X X X X C R m R R R R τττρτσ σ--∞= = -∞= 非周期 相关时间用此定义(00()d τρττ∞ =?) 8、两个随机过程之间的“正交”、“不相关”、“独立”。 (P92 同一时刻、不同时刻) 9、两个随机过程联合平稳的要求、性质。P92
随机过程知识点汇总
第一章随机过程的基本概念与基本类型 一.随机变量及其分布 1.随机变量X,分布函数F(x)P(X x) 离散型随机变量X的概率分布用分布列p k P(X x)分布函数F(x)p k k 连续型随机变量X的概率分布用概率密度f(x)分布函数 x F(x)f(t)dt 2.n维随机变量X(X1,X2,,X n) 其联合分布函数()(1,x,,x n)P(X x,X x,,X n x n,) F x F x 21122 离散型联合分布列连续型联合概率密度 3.随机变量的数字特征 数学期望:离散型随机变量X E X x k p连续型随机变量X EX xf(x)dx k 方差:2() 2 2 DX E(X EX)EX EX反映随机变量取值的离散程度 协方差(两个随机变量X,Y):B XY E[(X EX)(Y EY)]E(XY)EX EY 相关系数(两个随机变量X,Y): B XY XY若0,则称X,Y不相关。 DX DY 独立不相关0 itX 4.特征函数g(t)E(e)离散g(t)e连续g(t)e f x dx itx p itx() k k 重要性质:g(0)1,g(t)1,g(t)g(t),k i k EX g(0) k 5.常见随机变量的分布列或概率密度、期望、方差 0-1分布P(X1)p,P(X0)q EX p DX pq 二项分布k k n k P(X k)C n p q EX np DX n p q k 泊松分布P(X k)e EX DX均匀分布略 k!
2正态分布N(a,) 2 (x a) 1 2 f(x)e EX a 2 2 D X2
指数分布f(x) e 0, x1 ,x0 EX x0 DX 1 2 6.N维正态随机变量(X1,X,,X n) X的联合概率密度X~N(a,B) 2 f( 11 T1 x1,x,,x)exp{(x a)B(x a)} 2n n1 2 22 (2)|B| a(a1,a2,,a n),x(x1,x2,,x n),B(b ij)n n正定协方差阵 二.随机过程的基本概念 1.随机过程的一般定义 设 (,P)是概率空间,T是给定的参数集,若对每个t T,都有一个随机变量X与之对应, 则称随机变量族X(t,e),t T是(,P)上的随机过程。简记为X(t),t T。 含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规 律性。另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。 当 t固定时,X(t,e)是随机变量。当e固定时,X(t,e)时普通函数,称为随机过程的一个样本 函数或轨道。 分类:根据参数集T和状态空间I是否可列,分四类。也可以根据X(t)之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳 过程等 。 2.随机过程的分布律和数字特征 用有限维分布函数族来刻划随机过程的统计规律性。随机过程X(t),t T的一维分布,二维分布,?,n维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征 的完整描述。在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些 统计特征 来取代。 (1)均值函数 m X(t)EX(t)表示随机过程X(t),t T在时刻t的平均值。 (2)方差函数2 D X(t)E[X(t)m X(t)]表示随机过程在时刻t对均值的偏离程度。 (3)协方差函数B X (s,t)E[(X( E[X s) (s) m ( s ) ) (t) (s) m X m X (t) (t))] 且有 B(t,t)D(t) X X
应用随机过程学习总结
应用随机过程学习总结 一、预备知识:概率论 随机过程属于概率论的动态部分,即随机变量随时间不断发展变化的过程,它以概率论作为主要的基础知识。 1、概率空间方面,主要掌握sigma代数和可测空间,在随机过程中由总体样本空间所构成的集合族。符号解释: sup表示上确界, inf表示下确界。 本帖隐藏的内容 2、数字特征、矩母函数与特征函数:随机变量完全由其概率分布来描述。其中由于概率分布较难确定,因此通常计算随机变量的数字特征来估算分布总体,而矩母函数和特征函数便用于随机变量的N阶矩计算,同时唯一的决定概率分布。 3、独立性和条件期望:独立随机变量和的分布通常由卷积来表示,对于同为分布函数的两个函数,卷积可以交换顺序,同时满足结合律和分配率。条件期望中,最重要的是理解并记忆E(X) = E[E(X|Y)] = intergral(E(X|Y=y))dFY(y)。 二、随机过程基本概念和类型 随机过程是概率空间上的一族随机变量。因为研究随机过程主要是研究其统计规律性,由Kolmogorov定理可知,随机过程的有限维分布族是随机过程概率特征的完整描述。同样,随机过程的有限维分布也通过某些数值特征来描述。 1、平稳过程,通常研究宽平稳过程:如果X(t1)和X(t2)的自协方差函数 r(t1,t2)=r(0,t-s)均成立,即随机过程X(t)的协方差函数r(t,s)只与时间差 t-s有关,r(t) = r(-t)记为宽平稳随机过程。 因为一条随机序列仅仅是随机过程的一次观察,那么遍历性问题便是希望将随即过程的均值和自协方差从这一条样本路径中估计出来,因此宽平稳序列只需满足其均值遍历性原理和协方差遍历性原理即可。 2、独立增量过程:若X[Tn]– X[T(n-1)]对任意n均相互独立,则称X(t)是独立增量过程。若独立增量过程的特征函数具有可乘性,则其必为平稳增量过程。 兼有独立增量和平稳增量的过程称为平稳独立增量过程,其均值函数一定是时间t的线性函数。
随机过程知识点汇总
第一章 随机过程得基本概念与基本类型 一.随机变量及其分布 1.随机变量, 分布函数 离散型随机变量得概率分布用分布列 分布函数 连续型随机变量得概率分布用概率密度 分布函数 2.n 维随机变量 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量得数字特征 数学期望:离散型随机变量 连续型随机变量 方差: 反映随机变量取值得离散程度 协方差(两个随机变量): 相关系数(两个随机变量): 若,则称不相关。 独立不相关 4.特征函数 离散 连续 重要性质:,,, 5.常见随机变量得分布列或概率密度、期望、方差 0-1分布 二项分布 泊松分布 均匀分布略 正态分布 指数分布 6.N维正态随机变量得联合概率密度 )}()(2 1ex p{||)2(1 ),,,(121221a x B a x B x x x f T n n ---=-π ,,正定协方差阵 二.随机过程得基本概念 1.随机过程得一般定义 设就是概率空间,就是给定得参数集,若对每个,都有一个随机变量与之对应,则称随机变量族就是上得随机过程。简记为。 含义:随机过程就是随机现象得变化过程,用一族随机变量才能刻画出这种随机现象得全部统计规律性。另一方面,它就是某种随机实验得结果,而实验出现得样本函数就是随机得。 当固定时,就是随机变量。当固定时,时普通函数,称为随机过程得一个样本函数或轨道。 分类:根据参数集与状态空间就是否可列,分四类。 也可以根据之间得概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。 2.随机过程得分布律与数字特征 用有限维分布函数族来刻划随机过程得统计规律性。随机过程得一维分布,二维分布,…,维分布得全体称为有限维分布函数族。随机过程得有限维分布函数族就是随机过程概率特征得完整描述。在实际中,要知道随机过程得全部有限维分布函数族就是不可能得,因此用某些统计特征来取代。 (1)均值函数 表示随机过程在时刻得平均值。
概率论与随机过程考点总结
概率论与随机过程考点总 结 This manuscript was revised by the office on December 10, 2020.
第一章 随机过程的基本概念与基本类型 一.随机变量及其分布 1.随机变量X , 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞-=x dt t f x F )()( 2.n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征 数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X ?∞ ∞-=dx x xf EX )( 方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数(两个随机变量Y X ,):DY DX B XY XY ?= ρ 若0=ρ,则称Y X ,不相关。 独立?不相关?0=ρ 4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞-=dx x f e t g itx )()( 重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数:∑∞ ===0 )()(k k k k z p z E z g !) 0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+= 5.常见随机变量的分布列或概率密度、期望、方差 0-1分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 ! )(k e k X P k λλ -== λ=EX λ=DX 均匀分布略 正态分布),(2σa N 2 22)(21)(σσ πa x e x f -- = a EX = 2σ=DX 指数分布 ???<≥=-0,00,)(x x e x f x λλ λ1=EX 21 λ=DX 6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X
通信原理知识点归纳
1.2.1 通信系统的一般模型 1.2.3 数字通信的特点 (1) 抗干扰能力强,且噪声不积累 (2) 传输差错可控 (3) 便于处理、变换、存储,将来自不同信源的信号综合到一起传输 (4) 易于集成,使通信设备微型化,重量轻 (5) 易于加密处理,且保密性好 1.3.1 通信系统的分类 按调制方式分类:基带传输系统和带通(调制)传输系统 。调制传输系统又分为多种 调制,详见书中表1-1。 按信号特征分类:模拟通信系统和数字通信系统 按传输媒介分类:有线通信系统和无线通信系统 3.1.2 随机过程的数字特征 均值(数学期望): 方差: 相关函数 3.2.1 平稳随机过程的定义 (1)其均值与t 无关,为常数a ; (2)自相关函数只与时间间隔τ 有关。 把同时满足(1)和(2)的过程定义为广义平稳随机过程。 3.2.2 各态历经性 如果平稳过程使下式成立 则称该平稳过程具有各态历经性。 3.2.4 平稳过程的功率谱密度 非周期的功率型确知信号的自相关函数与其功率谱密度是一对傅里叶变换。这种关系对平稳随机过程同样成立,即有 []∫∞∞?=dx t x xf t E ),()(1ξ} {2)]()([)]([t a t E t D ?=ξξ2121212212121),;,()] ()([),(dx dx t t x x f x x t t E t t R ∫∫ ∞∞?∞∞?==ξξ???==)()(τR R a a ∫∫ ∞ ∞?∞∞??==ω ωπτττωωτξωτξd e P R d e R P j j )(21)()()(
3.3.2 重要性质 广义平稳的高斯过程也是严平稳的。 高斯过程经过线性变换后生成的过程仍是高斯过程。 3.3.3 高斯随机变量 (1)f (x )对称于直线 x = a ,即 (2) 3.4 平稳随机过程通过线性系统 输出过程ξo (t )的均值: 输出过程ξo (t )的自相关函数: 输出过程ξo (t )的功率谱密度: 若线性系统的输入是平稳的,则输出也是平稳的。 如果线性系统的输入过程是高斯型的,则系统的输出过程也是高斯型的。 3.5 窄带随机过程 若随机过程ξ(t )的谱密度集中在中心频率f c 附近相对窄的频带范围Δf 内,即满足Δf << f c 的条件,且 f c 远离零频率,则称该ξ(t )为窄带随机过程。 3.7 高斯白噪声和带限白噪声 白噪声n (t ) 定义:功率谱密度在所有频率上均为常数的噪声 - 双边功率谱密度 - 单边功率谱密度 4.1 无线信道 电磁波的分类: 地波:频率 < 2 MHz ;距离:数百或数千千米 天波:频率:2 ~ 30 MHz ;一次反射距离:< 4000 km 视线传播:频率 > 30 MHz ;距离: 4.3.2 编码信道模型 P(0 / 0)和P(1 / 1) - 正确转移概率,P(1/ 0)和P(0 / 1) - 错误转移概率 P (0 / 0) = 1 – P (1 / 0) P (1 / 1) = 1 – P (0 / 1) 2)(0 n f P n =)(+∞<∞f 0 )(n f P n =)(0+∞< 第一章:预备知识 §1、1 概率空间 随机试验,样本空间记为Ω。 定义1、1 设Ω就是一个集合,F 就是Ω的某些子集组成的集合族。如果 (1)∈ΩF; (2)∈A 若F ,∈Ω=A A \则F; (3)若∈n A F , ,,21=n ,则 ∞=∈1n n A F; 则称F 为-σ代数(Borel 域)。(Ω,F )称为可测空间,F 中的元素称为事件。 由定义易知: . 216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈?∞ === ,,则,,,)若(; 则若(; 定义1、2 设(Ω,F )就是可测空间,P(·)就是定义在F 上的实值函数。如果 ()()()()∑∞ =∞==???? ???=?≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有 时,当)对两两互不相容事件(; )(; 任意 则称P 就是()F ,Ω上的概率,(P F ,,Ω)称为概率空间,P(A)为事件A 的概率。 定义1、3 设(P F ,,Ω)就是概率空间,F G ?,如果对任意 G A A A n ∈,,,21 , ,2,1=n 有: (),1 1∏===???? ??n i i n i i A P A P 则称G 为独立事件族。 §1、2 随机变量及其分布 随机变量X ,分布函数)(x F ,n 维随机变量或n 维随机向量,联合分布函 数,{}T t X t ∈,就是独立的。 §1、3随机变量的数字特征 定义1、7 设随机变量X 的分布函数为)(x F ,若?∞ ∞-∞<)(||x dF x ,则称 )(X E =?∞ ∞-)(x xdF 为X 的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes 积分。 方差,()()[]EY Y EX X E B XY --=为X 、Y 的协方差,而 DY DX B XY XY = ρ 为X 、Y 的相关系数。若,0=XY ρ则称X 、Y 不相关。 (Schwarz 不等式)若,,22∞<∞ 随机过程知识点汇总 第一章 随机过程的基本概念与基本类型 一.随机变量及其分布 1.随机变量X , 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 ) (k k x X P p == 分 布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞ -=x dt t f x F )()( 2.n 维随机变量) ,,,(2 1 n X X X X Λ= 其联合分布函数) ,,,,(),,,()(2211 2 1 n n n x X x X x X P x x x F x F ≤≤≤==ΛΛ 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征 数学期望:离散型随机变量X ∑=k k p x EX 连续型随 机变量X ?∞ ∞-=dx x xf EX )( 方差:2 22 )() (EX EX EX X E DX -=-= 反映随机变量取值的 离散程度 协方差(两个随机变量Y X ,): EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数(两个随机变量Y X ,): DY DX B XY XY ?= ρ 若 0=ρ,则称Y X ,不相关。 独立?不相关?0=ρ 4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞ -=dx x f e t g itx )()( 重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 5.常见随机变量的分布列或概率密度、期望、方差 0-1分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 ! )(k e k X P k λλ -== λ =EX λ =DX 均匀分布 略 正态分布),(2 σa N 2 22)(21)(σσ πa x e x f -- = a EX = 2 σ=DX 指数分布 ?? ?<≥=-0, 00,)(x x e x f x λλ λ 1 = EX 2 1 λ = DX 6.N维正态随机变量) ,,,(2 1 n X X X X Λ=的联合概率密度 ),(~B a N X )} ()(2 1 ex p{| |)2(1),,,(12 12 21a x B a x B x x x f T n n ---= -πΛ ) ,,,(21n a a a a Λ=,),,,(2 1 n x x x x Λ=,n n ij b B ?=)(正定协方差阵 二.随机过程的基本概念 1.随机过程的一般定义 设) , (P Ω是概率空间,T 是给定的参数集,若对每 个T t ∈,都有一个随机变量X 与之对应,则称随机变量 概率论与随机过程考点 总结 HUA system office room 【HUA16H-TTMS2A-HUAS8Q8-HUAH1688】 第一章 随机过程的基本概念与基本类型 一.随机变量及其分布 1.随机变量X , 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞-=x dt t f x F )()( 2.n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征 数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X ?∞ ∞-=dx x xf EX )( 方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数(两个随机变量Y X ,):DY DX B XY XY ?=ρ 若0=ρ,则称Y X ,不相 关。 独立?不相关?0=ρ 4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞ -=dx x f e t g itx )()( 重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数:∑∞ ===0 )()(k k k k z p z E z g !) 0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+= 5.常见随机变量的分布列或概率密度、期望、方差 0-1分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 ! )(k e k X P k λλ -== λ=EX λ=DX 均匀分布略 正态分布),(2σa N 2 22)(21)(σσ πa x e x f -- = a EX = 2σ=DX 指数分布 ???<≥=-0,00,)(x x e x f x λλ λ1=EX 21 λ=DX 6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X T n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ?=)(正定协方差阵 3.随机向量的变换 二.随机过程的基本概念 1.随机过程的一般定义 第一章随机过程 的基本概念与基本类型 一.随机变量及其分布 X ,分布函数 F (x) P(X x) 1.随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x) p k f (t)dt 分布函数 k x X 的概率分布用概率密度 f (x) F(x) 分布函数 连续型随机变量 2.n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,) 其联合分布函数 1 2 n 1 1 2 离散型 联合分布列 连续型联合概率密度 3.随机变量 的数字特征 数学期望:离散型随机变量 X EX x p k k X EX xf (x)dx 连续型随机变量 2 DX E(X EX) 2 EX (EX) 2 方差: 反映随机变量取值 的离散程度 协方差(两个随机变量 X ,Y ): B E[( X EX)(Y EY)] E(XY) EX EY XY B XY 相关系数(两个随机变量 X,Y ): 0,则称 X ,Y 不相关。 若 XY DX DY 独立 不相关 itX g(t) E(e ) itx e p k 连续 g(t) k e itx f (x)dx 4.特征函数 离散 g(t) 重要性质: g(0) 1, g(t) 1 g( t) g(t) , , g (0) i EX k k k 5.常见随机变量 的分布列或概率密度、期望、方差 0-1分布 二项分布 P( X 1) p,P( X 0) q EX p DX pq P(X k) C p q n k k k EX np DX n p q n k 泊松分布 P( X k) e k! EX DX 均匀分布略 ( x a)2 1 2 N(a, ) f (x) 2 2 2 EX a 正态分布 e DX 2 随机过程学习报告 通过这一段时间以来的学习,我认识到我们的生活中充满了随机过程的实例,在生活中我们经常需要了解在一定时间间隔[0,t)内某随机事件出现次数的统计规律,如到某商店的顾客数;某电话总机接到的呼唤次数;在电子技术领域中的散粒噪声和脉冲噪声;已编码信号的误码数等。在我们的专业学习——通信工程中,研究数字通信中已编码信号的误码流,数模变换中对信号进行采样等也都会应用到随机过程的知识,因此这门课程的学习是非常重要的。 一、认识泊松过程与复合泊松过程的区别 泊松过程是一类很重要的随机过程,随机质点流描述的随机现象十分广泛,下面我就通过运用泊松过程的知识解答一道书本中的实际应用题目: 设移民到某地区定居的户数是一泊松过程,平均每周有两户定居,即λ=2。若每户的人口数是随机变量,一户4人的概率是1/6,一户3人的概率是1/3,一户两人的概率是1/3,一户一人的概率是1/6,且每户的人口数是相互独立的,①5周内移民到该地区定居的人口数是否为泊松过程?②求上述随机过程的数学期望与方差。 分析:这道题目中的问题就是复合泊松过程的实际应用,这类过程具有泊松过程的一部分性质,不同的地方就在于随机质点流的到达不必再满足每次只能到一个的标准,这就将随机过程的研究与实际相融合,生活中的大部分过程其实是不可能满足每次到达一个这样的苛刻要求的,比如调查到达商场购物的人数等问题时,实际去商场购物时人们大多都是与好朋友结伴出行而不可能存在每个人都是独自来购物的现象,所以引入复合泊松过程是十分有必要的。 解:设[0,t)时间内到该地定居的户数为N(t),则{N(t),t>=0}是一泊松过程,X(n)为第n 户移民到该地定居的家庭人口数,{X(0)=0,X(n),n=1,2,3···}是独立同分布随机变量列,Y(t)为[0,t)时间内定居到该地的人数。 则Y(t)=∑=) (0 )n (X t N n t>=0 为一复合泊松过程, )()(υ?n X =4γi e *1/6+3γi e *1/3+2γi e *1/3+γi e *1/6 )()t (υ?Y =)1)((t )1(-γ?λX e 由特征函数的唯一性可知,Y(t)不是泊松过程。 E[X(n)]=4*1/6+3*1/3+2*1/3+1*1/6=5/2 E[)(n X 2 ]=16*1/6+9*1/3+4*1/3+1*1/6=43/6 则E[Y(t)]=λt*E[X(1)]=t*5; D[Y(t)]=λt*E[)(1X 2 ]=t*43/3; 则五周内定居到该地的人数数学期望为:5*5=25 方差为:5*43/3=215/3 第一章: 考试范围1.3,1.4 1、计算指数分布的矩母函数. 2、计算标准正态分布)1,0(~N X 的矩母函数. 3、计算标准正态分布)1,0(~N X 的特征函数. 第二章: 1. 随机过程的均值函数、协方差函数与自相关函数 2. 宽平稳过程、均值遍历性的定义及定理 3. 独立增量过程、平稳增量过程,独立增量是平稳增量的充要条件 1、设随机过程()Z t X Yt =+,t -∞<<∞.若已知二维随机变量(,)X Y 的协方差矩阵为2122σρρσ?????? ,求()Z t 的协方差函数. 2、设有随机过程{(),}X t t T ∈和常数a ,()()()Y t X t a X t =+-,t T ∈,计算()Y t 的自相关函数(用(,)X R s t 表示). 3、设12()cos sin X t Z t Z t λλ=+,其中212,~(0,)Z Z N σ是独立同分布的随机变量,λ为实数,证明()X t 是宽平稳过程. 4、设有随机过程()sin cos Z t X t Y t =+,其中X 和Y 是相互独立的随机变量,它们都分别以0.5和0.5的概率取值-1和1,证明()Z t 是宽平稳过程. 第三章: 1. 泊松过程的定义(定义3.1.2)及相关概率计算 2. 与泊松过程相联系的若干分布及其概率计算 3. 复合泊松过程和条件泊松过程的定义 1、设{(),0}N t t ≥是参数3λ=的Poisson 过程,计算: (1). {(1)3}P N ≤; (2). {(1)1,(3)3}P N N ==; (3). {(1)2(1)1}P N N ≥≥. 2、某商场为调查顾客到来的客源情况,考察了男女顾客来商场的人数. 假设男女顾客来商场的人数分别独立地服从每分钟2人与每分钟3人的泊松过程. (1).试求到某时刻t 时到达商场的总人数的分布; 概率论与随机过程考点 总结 Coca-cola standardization office【ZZ5AB-ZZSYT-ZZ2C-ZZ682T-ZZT18】 第一章 随机过程的基本概念与基本类型 一.随机变量及其分布 1.随机变量X , 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞-=x dt t f x F )()( 2.n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征 数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X ?∞ ∞-=dx x xf EX )( 方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数(两个随机变量Y X ,):DY DX B XY XY ?= ρ 若0=ρ,则称Y X ,不相关。 独立?不相关?0=ρ 4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞-=dx x f e t g itx )()( 重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数:∑∞ ===0 )()(k k k k z p z E z g !) 0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+= 5.常见随机变量的分布列或概率密度、期望、方差 0-1分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 ! )(k e k X P k λλ -== λ=EX λ=DX 均匀分布略 正态分布),(2σa N 2 22)(21)(σσ πa x e x f -- = a EX = 2σ=DX 指数分布 ???<≥=-0,00,)(x x e x f x λλ λ1=EX 21 λ=DX 6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N X H a r b i n I n s t i t u t e o f T e c h n o l o g y 课程设计(论文) 课程名称:应用随机过程 设计题目:随机过程简史 院系:电气工程学院 班级: 11S0104 设计者:孙延博 学号: 11S001070 指导教师:田波平 设计时间: 2011-10-23 随机过程简史 摘要 本文简要地介绍了随机过程从20世纪初创立至今,100年的发展历程考察了导致随机过程产生的历史契机,以及早期数学家在这方面作出的杰出工作。并简要介绍了随机过程的概念,研究方法 和研究内容,在现代工程技术领域的应用。 关键词:随机过程平稳随机过程平稳随机序列 1.随机过程的概念研究方法及研究内容 随机过程是现代概率论研究的一个重要分支。数学上的随机过程是由实际随机过程概念引起的一种数学结构。人们研究这种过程,是因为它是实际随机过程的数学模型,或者是因为它的内在数学意义以及它在概率论领域之外的应用。数学上的随机过程可以简单的定义为一组随机变量,即指定一参数集,对于其中每一参数点t指定一个随机变量x(t)。如果回忆起随机变量自身就是一个函数,以ω表示随机变量x(t)的定义域中的一点,并以x(t,ω)表示随机变量在ω的值,则随机过程就由刚才定义的点偶(t,ω)的函数以及概率的分配完全确定。如果固定t,这个二元函数就定义一个ω的函数,即以x(t)表示的随机变量。如果固定ω,这个二元函数就定义一个t的函数,这是过程的样本函数。由于物理学生物学,通讯和控制管理科学等学科的需要随机过程逐步发展起来的。马尔柯夫最早研究了随机过程。研究随机过程的方法多种多样,主要可以分为两大类:一类是概率方法,其中用到轨道性质、停时和随机微分方程等;另一类是分析的方法,其中用到测度轮、微分方程、半群理论、函数堆和希尔伯特空间等。实际研究中常常两种方法并用。另外组合方法和代数方法在某些特殊随机过程的研究中也有一定作用。研究的主要内容有:多指标随机过程、无穷质点与马尔可夫过程、概率与位势及各种特殊过程的专题讨论等。中国学者在平稳过程、马尔科夫过程、鞅论、极限定理、随机微分方程等方面做出了较好的工作。 2.随机过程的历史 1900年,Bachelier在分析股票市场波动时.发现了随机过程的一个重过程——独立增量过程的特恻。1905年,物理学家Einstein在研究Brown运动时,也遇到了相同的过程.1923年,Wiener 给出了Brown运动的数学描述- wiener过程。 Lunbderg在1903年研究一个保险公司所承担索赔累计数的变化规律时.导出了另一类型的随机过程——Lundberg过程。而众所周知、应用甚广的Poisson过程是当所有得付出的索赔总数中每一笔数目都相同时的Lundberg过程。 1909年,Erlang在研究电话业务时引入了Poisson过程,并被物理学家Rutherford和Geiger用于分析放射性蜕变。这些早期对随机过程的研究都是同实际问题紧密联系在一起的。虽然在数学上用了不太严密的方法,却表现出了直观处理这些概念和方法的绝妙能力。 随机过程知识点汇总-CAL-FENGHAI-(2020YEAR-YICAI)_JINGBIAN 第一章 随机过程的基本概念与基本类型 一.随机变量及其分布 1.随机变量X , 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数?∞-=x dt t f x F )()( 2.n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征 数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X ?∞ ∞-=dx x xf EX )( 方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数(两个随机变量Y X ,):DY DX B XY XY ?= ρ 若0=ρ,则称Y X ,不相关。 独立?不相关?0=ρ 4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞-=dx x f e t g itx )()( 重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 5.常见随机变量的分布列或概率密度、期望、方差 0-1分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 !)(k e k X P k λλ-== λ=EX λ=DX 均匀分布略 第一章 随机过程的基本概念与基本类型 一.随机变量及其分布 1.随机变量X , 分布函数)()(x X P x F ≤= 离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数? ∞ -=x dt t f x F )()( 2.n 维随机变量),,,(21n X X X X = 其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征 数学期望:离散型随机变量X ∑= k k p x EX 连续型随机变量X ?∞ ∞-=dx x xf EX )( 方差:2 2 2 )()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ?-=--=)()])([( 相关系数(两个随机变量Y X ,):DY DX B XY XY ?= ρ 若0=ρ,则称Y X ,不相关。 独立?不相关?0=ρ 4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ?∞ ∞-=dx x f e t g itx )()( 重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 5.常见随机变量的分布列或概率密度、期望、方差 0-1分布 q X P p X P ====)0(,)1(p EX =pq DX = 二项分布 k n k k n q p C k X P -==)(np EX =npq DX = 泊松分布 ! )(k e k X P k λλ -==λ=EX λ=DX 均匀分布略 第一章:预备知识 §1.1 概率空间 随机试验,样本空间记为Ω。 定义1.1 设Ω是一个集合,F 是Ω的某些子集组成的集合族。如果 (1)∈ΩF ; (2)∈A 若F ,∈Ω=A A \则F ; (3)若∈n A F , ,,21 =n ,则 ∞ =∈1 n n A F ; 则称F 为-σ代数(Borel 域)。(Ω,F )称为可测空间,F 中的元素称为事件。 由定义易知: . 216\,,)5)4(1 1 1 F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈?∞ === ,,则,,,)若(; 则若(; 定义1.2 设(Ω,F )是可测空间,P(·)是定义在F 上的实值函数。如果 ()()()()∑∞=∞==???? ???=?≠=Ω≤≤∈1 121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有 时,当)对两两互不相容事件(;)(; 任意 则称P 是()F ,Ω上的概率,(P F ,,Ω)称为概率空间,P(A)为事件A 的概率。 定义1.3 设(P F ,,Ω)是概率空间,F G ?,如果对任意G A A A n ∈,,,21 , ,2,1=n 有: (),1 1 ∏===??? ? ??n i i n i i A P A P 则称G 为独立事件族。 §1.2 随机变量及其分布 随机变量X ,分布函数)(x F ,n 维随机变量或n 维随机向量,联合分布函数, {}T t X t ∈,是独立的。 §1.3随机变量的数字特征 定义1.7 设随机变量X 的分布函数为)(x F ,若 ? ∞ ∞ -∞<)(||x dF x ,则称 )(X E =?∞ ∞ -)(x xdF 为X 的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes 积分。 方差,()()[]EY Y EX X E B XY --=为X 、Y 的协方差,而 DY DX B XY XY =ρ 为X 、Y 的相关系数。若,0=XY ρ则称X 、Y 不相关。 (Schwarz 不等式)若,,2 2 ∞<∞随机过程知识点
随机过程知识点汇总
概率论与随机过程考点总结定稿版
(完整版)随机过程知识点汇总
随机过程学习总结
随机过程知识点总结
概率论与随机过程考点总结
随机过程简史
随机过程知识点汇总
随机过程知识点汇总
随机过程知识点