随机过程讲义4
随机过程第四章

pii
(n)
1
i
0
证:(1)如i为零常返则i
,由lim n
pii nd
d
i
0
而当n不能被周期d整除时n 0modd ,
必然有pii
(n)
0,故
lim
n
pii
n
0
反之,若lim n
pii
(n)
0,
而i是正常返,
则由lim n
pii (nd )
d
i
0矛盾.
(2) 如i为遍历,即d 1,由上面定理得
即 Tij minn:X m i, X mn j,n 1
而称:
fij (n) P Tij n
P{X mv j,1 v n 1,X mn j / X m i},n 1 为自状态i出发,经n步首次到达状态j的概率, 简称首达概率。
注:由齐次马氏链性质知,首达概率与出发时刻
p3
① q1 q2
p1
③ q3 ②
p2
求从状态1出发经n步转移首次到达各个状态的概率。
f12
(n)qq11p3 p3源自q m1 1m p1,
q3
,
n 2m, n 2m 1,
m 1 m0
同理:
f13 (n)
p1q2 p1q2
p m1 1
m q1,
p2
,
n 2m, n 2m 1,
m 1 m0
互通关系的状态是同一类型.
定理:如果i j, 则
(1) i与j同为常返或非常返,如为常返,则它们
同为正常返或零常返;
(2) i与j有相同的周期。
1证:因为i j,故存在正整数k与m,使
pij (m) 0, p ji (k ) 0
北大随机过程随机游动讲义

随机游动1.随机游动模型设有一个质点在x 轴上作随机游动,在t=0时在x 轴的原点,在t=1,2,3,…时沿x 轴正方向或反方向移动一个单位距离,沿正方向移动一个单位距离的概率为p ,沿反方向移动一个单位距离的概率为q=1-p 。
质点随机游动构成一个离散时间、离散状态的随机过程。
记质点在第n 步时的状态为L ,2,1,0,=n n η,¾ 样本空间:{……-3,-2,-1,0,1,2,3……} ¾ 初始态:00=η¾ 一步转移概率:经过一步从状态i 转移到状态j 的概率1110ij p j i p q p j i otherwise =+⎧⎪==−=−⎨⎪⎩2.随机游动模型的分析¾ 经过n 步以后的位置特征 ¾ 经过n 步返回原点的概率 ¾ 经过n 步第一次返回原点的概率 ¾ 第一次返回原点所需的平均时间 ¾ 迟早返回原点的概率 ¾ 多次返回原点的概率 ¾ 经过n 步达到+1的概率 ¾ 第1次通过最大值2.1 经过n 步以后的位置特征:概率分布、统计特征质点在第n 步时的状态为L ,2,1,0,=n n η,? 经过时间n ,质点距离原点的距离为m 的概率P{n η=m}n η是一个随机变量,它的可能取值是:{}n n n n n ,1,,1,,0,1,,2,1,−−−−−L L若质点移动n 步后到达m n =η 的位置,则所有的移动中,正方向移动2mn +步,反方向移动2mn −步,因此: 一维概率分布:{}222m n m n n q p m n n m P −+⎟⎟⎟⎠⎞⎜⎜⎜⎝⎛+==η, m=-n,-n+2,-n+4,……,n-2,n ;n m ≤均值:∑==nk k n 1ξη;其中k ξ为每一步的移动,{}{},n ,,q,k ξP p,ξP k k L 2111==−==={}{}{}q p 1)(*11*1E −=−=+==k k k ξP ξP ξ{}{})(n 11q p E E E nk k n k k n −==⎭⎬⎫⎩⎨⎧=∑∑==ξξη,[]∑∑∑∑∑∑=======⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡⋅=n k n l l k n k n l l k n k nl l k nE E E E 1111112}{ξξξξξξη考虑到l k ≠,[][][]()2q p E E E l k l k −=⋅=ξξξξ;l k =,[]()11122=+=⋅−+⋅=q p q p E l k ξξ∴ [][][]n ))(1n (n 21kl 112+−−=+=∑∑∑=≠==q p E E E n k n l nk k k l k ξξξξη方差:()[]{}()(){}n n n n n E E E E E ηηηηηη⋅−+=−2222=()()[]22n n E E ηη−=()22n n E ημη−npqq)n(p n q)(p n n q))(p n(n 412222=−−=−−+−−=相关函数:若n<m, []⎥⎦⎤⎢⎣⎡⋅=⋅∑∑==ml l n k k m n E E 11ξξηη⎥⎦⎤⎢⎣⎡=∑∑==n k m l l k E 11ξξ()∑∑===nk ml l k E 11ξξ()()∑∑∑==≠=+=nk k kn k mk l l l kE E 111ξξξξn q p nk m kl l +−=∑∑=≠=112)( n q p m n +−−=2))(1(若n>m, []m q p n m E m n +−−=⋅2))(1(ηη[][][]22)()(1,min q p nm q p m n E m n −⋅+−−=⋅ηη总结:概率分布:{}222m n m n n q p m n n m P −+⎟⎟⎟⎠⎞⎜⎜⎜⎝⎛+==η , m=-n,-n+2,-n+4,……,n-2,n ;n m ≤均值:{}()n E n p q η=− 方差:(){}24n n E E npq ηη−=⎡⎤⎣⎦相关函数:[][]2min ,4()n m E n m pq nm p q ηη⋅=⋅+⋅−2.2 经过n 步返回原点的概率根据一维分布的分析可知,第n 步返回原点的概率为:⎪⎪⎩⎪⎪⎨⎧⎟⎟⎟⎠⎞⎜⎜⎜⎝⎛==为偶数,为奇数n q p n n n P nn n 222,0}0{η只有经过偶数步才能返回原点,经过奇数步返回原点的概率为0。
随机过程4-4

X (t3 ) X (t2 ), ..., X (tm ) X (tm1 ) 相互独立。
需要指出,这个定义并不要求随机过程的状态空间是离 散的。在本节关于电话交换站的例1中, X(t) 显然是平稳独 立增量过程。
第4章 马尔科夫过程
第5页
定理3 若 { X (t ), t [0, )} 是状态离散的平稳独立增量过程, 则它是时齐马尔科夫过程。 证 往证“无后效性”成立。
P{ X ( t t ) X ( t ) 2} o( t )
(4.3)
这两种定义中的条件 (1) 是相同的,所不同的是条件 (2) .
前者给出增量的具体概率分布,后者给出在小时间间隔 t 内引起增量分布的极限性质。 可以说,前者从宏观上给出增量的概率分布,后者从 微观上给出增量的分布。 泊松过程是独立增量过程,由上节定理3可以判断它是 马尔科夫过程,且 X (0) 0 。
其中 0 .如果从零时刻起算, X 1 理解为第一个“事件” 的发生时刻,X 2 理解为第一个“事件”发生与第二个“事件” 发生的相隔时间, X 3 理解为第二个“事件”发生与第三个 “事件”发生的相隔时间,……。
第4章 马尔科夫过程
第15页
X 一般地, n 理解为第 n-1 个“事件”发生与第 n 个“事件” 发生的相隔时间。见上图。令 Sn X1 X 2 ... X n , n 1, 2, ... 它表示第 n 个 “事件”发生的时刻。在 [0, t] 时间 内发生的事件数记为 X(t) ,即
第1页
内容 回顾
P{ X a x | X a } 1 e
x
P{ X x}
遍历性 lim pij ( t ) p j , i , j E 与 i 无关。 t
随机过程4(1.3)

Poisson过程的到达时间与到达时间间隔 过程的到达时间与到达时间间隔 分布
到达时间(序列 到达时间 序列) 序列 是参数为λ 过程, 设 {N(t),t≥0} 是参数为 的Poisson过程, 过程 表示时间区间(0,t]内到达的随机点数 内到达的随机点数. 则N(t)表示时间区间 表示时间区间 内到达的随机点数
RN ( s, t ) = λ 2 st + λ min( s, t ), s, t , ≥ 0 CN ( s, t ) = λ min( s, t ), s, t , ≥ 0
2)
对0 ≤ s ≤ t , N (t ) N ( s )服从参数为
λ (t s)的poisson分布
证明 1) 由定义,显然有 mN (t ) = λt , DN (t ) = λt , t ≥ 0. 又对s≥0, t ≥0,不妨设s≤t,则有
= (λteλt )1 P{ ≤ s, N(t) =1 τ }
= (λte λt ) 1 P{N ( s ) = 1, N (t ) N ( s ) = 0}
= (λteλt )1 λseλs eλ(t s) = st 1
更一般有以下问题
是参数为λ 过程,如果 设 {N(t),t≥0} 是参数为 的Poisson过程 如果 过程 在[0,t)内有 n 个随机点到达,则 n 个到达时间 内有 个随机点到达, τ 1 < τ 2 < < τ n 服从怎样的概率分布 服从怎样的概率分布?
令 i 表示第 个随机点的到达时刻,则称 τ 表示第i个随机点的到达时刻 则称 个随机点的到达时刻
{ n , n =1,2, 为Poisson过程的到达时间序列 τ } 过程的到达时间序列 过程的到达时间序列.
随机过程讲义(南开大学内部)

舱舮舴 复合艐良艩艳艳良艮过程及应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舷
舱舮舴舮舱 复合艐良艩艳艳良艮过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舷
舱舮舴舮舲 复合艐良艩艳艳良艮过程在保险风险理论中的应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舸
3 连续时间马氏链
33
舳舮舱 定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舳
舳舮舱舮舱 马氏性与等价条件 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舳
对 h > 0般 有
pn(t
+
h) h
−
pn(t)
=
−λpn(t)
+
λpn−1(t)
+
o(h) ,
h
从而 pn(t) 在 t 的右导数为 −λpn(t) + λpn−1(t)舮 类似的可知 pn(t) 的左导数也存在。
这样
pn(t) = −λpn(t) + λpn−1(t), pn(0) = 0, n ≥ 1.
舱舮舵 艐良艩艳艳良艮 过程的其它扩展 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舰
舱舮舵舮舱 非齐次 艐良艩艳艳良艮 过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舰
随机过程讲义

故有:
Pn (t + h) = Pn (t )(1 − λh − ο (h)) + Pn −1 (t )(λh + ο (h)) + ο (h)
化简并令 h → 0 得:
Pn′(t ) = −λPn (t ) + λPn −1 (t )
∀ n ∈ N , t i ∈ T , 1 ≤ i ≤ n ,有随机过程 X (t ) 的增量: X (t 2 ) − X (t1 ), X (t 3 ) − X (t 2 ),L, X (t n ) − X (t n−1 )
相互独立,则称随机过程 { X (t ), t ∈ T } 是独立增量过程。 注意:若独立增量过程的参数集 T = [ a, b), a > −∞ ,一般假定 X ( a ) = 0 , 则 独 立 增 量 过 程 是 一 马 氏 过 程 。 特 别 地 , 当 X ( 0) = 0 时 , 独 立 增 量 过 程
两边同乘以 e ,移项后有:
λt
d λt λt [e Pn (t )] = λ e Pn −1 (t ) dt Pn (0) = P{N (0) = n} = 0
当 n = 1 时,有:
d λt [e P1 (t )] = λ , P1 (0) = 0 ⇒ P1 (t ) = (λ t )e −λ t dt
由归纳法可得:
(λ t ) n − λ t Pn (t ) = e , n ∈ N0 n!
注意: E{N (t )} = λ t 现的平均次数。 注意:Poission 过程的转移率矩阵(Q 矩阵)的表示,并用上一章讲过的方 法求解 Poission 过程的一维分布。
随机过程(第四版)刘次华研究生用书

概率空间随机试验是概率论的基本概念,试验的结果事先不能准确地预言,但具有如下的三个特性:)可以在相同的条件下重复进行;每次试验的结果不止一个,但预先知道试验的所有可能的结果;每次试验前不能确定哪个结果会出现随机试验所有可能结果组成的集合称为这个试验的样本空间称为样本点或基本事件,称为必然事件,空集上的概率的概念和称为不可中的元素称为事件,样本空间或基本事件空间,记为的子集能事件由于事件是集合,故集合的运算(并、交、差、上极限、下极限、极限等)都适用于事件的所有子的某些子集)及其发生的可在实际问题中,我们不是对所有的事件(样本空间集)都感兴趣,而是关心某些事件(这样,便导致设是代数是一个集合,的某些子集组成的集合族,则,则)若)若能性大小(概率)定义如果第一章 预备知识)对两两互不相容事件(当中的元素)称为可测空间域)代数(为由定义易知:,则)若)),则)若设()若定义上的实)是定义在是可测空间,(如果)任意);时,)称为概率空间,)上的概率,是(的概率由定义易知:);)一)为事,即概定义,如果对任意)是概率空间,设()设,则率具有单调性;件则称)有值函数称为事件则称连续型随机变量数)描述,其分布函的概率分布用概率密度其分布函数,,,…离散型随机变量的概率分布用分布列描述:续型随机变量在应用中,常见的随机变量有两种类型:离散型随机变量和连量,其分布函数是)及其上的随机变上述三个性质,必存在一个概率空间((,若具有)上实值函数可以证明,定义在)是右连续,即;(时,有)是非降函数:即当分布函数)具有下列性质:为随机变量的分布函数,是上的随机变量称,简记为随机变量上的实函数,如果对任意实数,则称设(定义)是概率空间是定义在分布函数来描述随机变量是概率论的主要研究对象,随机变量的统计规律用随机变量及其分布则称为独立事件族)是非降)是右连,其中维随机变量也有两种类型:离散型和连续在应用中,常见的,其联合分布函数为维随机变量)及其上的,必存在一个概率空间(可以证明,对于定义在上具有上述性质的实函数,,,…)对于中的任意区域(续的;)对于每个变元函数;对于每个变元维联合分布函数)具有下列性质:为)的联合分布函数,…,,…,…,则称)为维随机变量或维随机向量称对于任意上的是定义在维空间中取值的向量函数如果定义设()是概率空间,下面我们讨论维随机变量及其概率分布常见随机变量的分布参见表则称度和则称价于其中价于…,)的联合概是随机向量其中式等}是一族独立的连续型随机变量,如果是的任意可能值,式等}是一族独立的离散型随机变量,如果是独立的,有设定义是一族随机变量,若对于任意的联合概率密)称为是连续型随机向量,,随机向量)的联合分布函数,,若存在定义在上的非负函数,对于任意(,其中是离散集,的联合分布函数对于离散型随机向量),其联合分布列为,都是离散型随机变量,则称是离散型随机向量若随机向量)的每个分量型的数学期望或均值上式右边的积分称为为的分布函数为定义设随机变量,则定义是随机变量,若设,则称为若是离散型随机变量,分布列,…,,积分则是连续型随机变量,概率密度为若的方差随机变量的数学期望是随机变量的取值依概率的平均随机变量的方差反映随机变量取值的离散程度一,则称是随机变量设定义,若机变量的某些特征值就够了分布函数却是相当麻烦的在实际问题中,我们有时只需要知道随随机变量的概率分布完全由其分布函数描述,但是如何确定随机变量的数字特征常是根据经验或具体情况来决定的独立性是概率中的重要概念在实际问题中,独立性的判断通率密度,)是随机变量的概率密度,)是)维随机变量(相关系数是常数;的协方差,而为的相关系数,则称不相关若表示之间的线性相关程度的大小随机变量的数学期望和方差具有如下性质:)若)的联合分布函数为维连续函数,则,其中)若,其中)若独立,则独立,则律和特征函数之间存在一一对应关系,因此在得知随机变量的特由于分布特征函数是研究随机变量分布律的一个重要工具特征函数、母函数和拉氏变换有关的证明可参考,则引理)若,则(单调收敛定理)若,则不等式)若是常数;为的特征函数为定义当))若随机变量可微分次,且当特征函数当则和复数)若…用特征函数求分布律比直接,…,,则存在,则的特征函数及任意实数),称(的复值函数,由于为此,我,故随机是相互独立的随机变量,则…,…的特征函数,是随机变量其中)的特征函数,有即对任意正整数是非负定函数时,有阶矩的)上一致连续)在(,(随机变量的特征函数具有下列性质:是连续型随机变量,概率密度为,是离散型随机变量,分布列变量的特征函数必然存在是实变量设随机变量的分布函数为们首先介绍特征函数求分布律容易得多,而且特征函数具有良好的分析性质征函数之后,就可以知道它的分布律因为所以以对于定义==由性质知的分布列为解及的特征函数,求服从设例数的性质维随机变量的特征函数具有类似于一维随机变量的特征函为的特征函数,则称)是维随机变量,设维随机变量也可以定义特征函数…,相互独立,所以也相互独立,所是非负定函数我们只对(进行证明随机变量的分布函数由其特征函数唯一确定于是得微分方程式右端在积分号下求导,得对设例解这是可分离变量方程,有两边积分得故得方程的通解为,其的特征函数为设随机变量例,于是,所以的特征函数为由于),求数的特征的特征函数,则由例,求为任意实数,证明的特征函数知的特征函数由例知,为证设随机变量解设,则例,令常见随机变量的数学期望、方差和特征函数见表是非负整数值随机变量,分布列设定义研究非负整数值随机变量,母函数是非常方便的工具表的特征函数中为若量)由,,…!,故,则令阶导数,得上式两边对求的母函数)分别是其中),的母函数是与…独立的非负整数值随机变量,则)若…是相互独立且同分布的非负整数值随机变)独立随机变量之和的母函数等于母函数之和))+)存在,则,)是)设存在,则的母函数,若非负整数值随机变量的分布列由其母函数唯一确定母函数具有以下性质:的母函数则称另一限定理知实际中许多随机变量服从或近似地服从正态分布方面,由中心极正态分布在概率论中扮演极为重要的角色维正态分布(元),故由式解 由条件知销售额的平均值服从,求商店的日松分布,又设每位额客所花的钱人的泊服从参数例设商店在一天的额客数)可得由公式(显然同理可证(式性质性质式中,为性质,布定义率密度为设义给定的条件分布函数为时,给定的条件概率为时,的,定是离散型随机变量,对一切使条件期望),,,则)是四维正态随机变量,设即正态随机变量的线性变换仍为正态随机变量正定,则设,若,则若为了应用的方便,下面,我们不加证明地给出常用的几个结论…,)),则可以证明,若的特征函数维正态分布,记作维正态随机变量或服从)是常向量,是对称矩阵,则称,若维随机变量)的联合概方面,正态分布具有良好的分析性质下面我们讨论维正态分的条件概率密度定义为,给定的条件期望为而给定时,,则对一切的条件分布函数为给定时,的条件期望定义为而给定时,的下的条件期望,则(式为是连续型随机变量,其联合概率密度为的若使的条件概率以外,现在的由此可见除了概率是关于事件是的一个可能值若在已知是条件下,全面地考虑代替定义与无条件的情况完全一样的函数,的均值,需要以)是随机变量在的函数,也是随机变量,称为条件期望在概率论、数理统计和随机过程中是一个十分重要的概念,下面我们介绍一个极其有用的性质与性质 若随机变量的期望存在,则是离散型随机变量,则如果式为是连续型,具有概率密度如果式都是离散型随机变量证明与证明 我们仅对式我们看到,从是给定的条件期望的一时,所加的权是作为条件的事件个加权平均值,每一项为一个任意事件,的示性的概率设先对一个适当的随机变量取条件,不仅使我们能求得期望,也可以用这种方法计算事件的概率函数,则,记()和为)的分布函数为设是相互独立的随机变量,其分布函数分别与例式我们有由(,所对任意的随机变量,)是一个二值随机变量显然为全不匹配这一事件,例张选票,其中得到而候选人是等可能的,证明:在计票过程中,始终领先始终领先得到最后一票的条件下,注意到,在票而得到条件下,可得类似的结果于是下面,我们用归纳法,对当时,成立,则当)证 记所求概率为件,我们有始终领先始终领先证毕(匹配问题)设有例每人随机地选一顶,求恰好有解记子这一事件,为第一个人没有选到自己的帽子这一事件,令为第一个人选到自己的帽个人选到自己帽子的概率个人,把他们的帽子混在一起后,式及归纳假设有时,由式时假设,结论为真进行归纳,证明在得到最后一票的张票的概率是一样的得到始终领先的概率与得到最后一票得到最后一票得到最后一票得到最后一票得到最后一票得到最后一票以得到最后那张选票的候选人为条的票数始终领先的概率为假定选票的一切排列次序(选票问题)在一次选举中,候选人得到张选票,从而个人从)取条件我们得到,因为可以将多余的帽子则与有关)是由于现在顶帽子中各取一顶都不匹配顶帽子中的概率,其中有一个人的帽子不在这个互不相容的事件组成此事件由两个事件是都不匹配且多余的那个人(即前一个事件的概率是其帽子已给第一个人取走的那个人)未能选中多余的帽子(即第一个选取人的帽子),另一个事件是都不匹配但多余的人选取到了多余的帽子由于第二个事件的概率是我们有)式得看作为多余的人的于是,从(,于是由(或等价地由于)式得所以一般地,我们有个人,只有他们选中自己的帽子的概率为对于固定的其中因是其余匹配的概率是充分大时上式近似地等于当个匹配的概率种,所有恰有个人的选择法有个人从他们自己的那些帽子中选取但全不第二章 随机过程的概念与基本类型随机过程的基本概念为了预报该地区未来的气表示在时刻初等概率论研究的主要对象是一个或有限个随机变量(或随机向量),虽然有时我们也讨论了随机变量序列,但假定序列之间是相互独立的随着科学技术的发展,我们必须对一些随机现象的变化过程进行研究,这就必须考虑无穷个随机变量;而且解决问题的出发点不是随机变量的的一次具体观测个独立样本,而是无穷多个随机变量这时,我们必须用一族随机变量才能刻划这种随通常我们称随机变量族为随机过程机现象的全部统计规律性在描述群体的发展或演变过群体的个数,则对每一个生物群体的增长问题表示在时刻是一个随机开始每隔假设我们从小时对群体的个数观测一次,是随机过程内接到的呼唤次数是,对于固定的某电话交换台在时间段有关的随机变量是一个取非负整数故的随机变量是随机过程表示某地区第次统计所得是随机变量在天气预报中,若以到的该天最高气温,则的统计规律性在海浪分析中,需要观测某固定点处海平面的垂直温,我们必须研究随机过程{例设振动该处的海平面相对于平均海平面的高是随机变量,而度,则是随机过程以上例子说明,必须扩大概率论的研究范围,讨论随机过程的变量例程中,以则例与例值得注意的是参数可以指通常的时间,也可以指别的;当是给定的参数集,若)是概率空间,与之对应,则称随机变量族)上的随机过程,简记为随机过程是(通常表示时间称为参数集解释为一个物理系统)表通常将随机过程的所有可能状态所构成的集合所处的状态示系统在时刻称为状态空间或相空间,记为为了简单起见,我们以后总是向量时,则称此随机过程为随机场,)上的随机变量;为此,我们给出随机过程的一般定义设(有关性质定义,有一个随机变量对每个(是假设是定义在上的二元函数是(从数学的观点来说,随机过程对固定的上的普通函数,称为随机过程{对固定是定义在的一个样本函数或轨道,样本函数的全体称为样本函数空间及状态空间是可列集或非可列集,可以把随机过程分为以下四种类型:都是可列的;非可列,可列,和根据参数情形)的随机过程也称为随机序列或}表示显然例的情况是否可列外,还可以进一步根据参数集和状态空间可列,可列;非可列;都非可列可列(即,时间序列,一般用至例(即, 情形)的随机过程也称为可列过程分别对应于上述与状态空间随机过程的分类,除上述按参数集之间的概率关系进行分类,如独立增量过程,马尔科夫过程,平稳过程和鞅过程等随机过程的分布律和数字特征定义),…,…研究随机现象,主要是研究它的统计规律性个随机变量的统计规律性完全由它们的联合分布函数所刻划我们知道,有限由于随机变量可视为一族(一般是无穷多个)随机变量,我们是否也可以用一个无穷维联合分布函数来刻划其统计规律性呢?由概率论的理论可知,使用无穷维分布函数的方法是行不通的,可行的办法就是采用有限维分布函数族来刻划随机过程的统计规律性设是随机过程,对任意,随机向量(和的联合分布函数为这些分布函数的全体,…,,…,的有限维分布函数族称为的有限维分布函数族显然,随机过程具有如下性质:的任意排列{)对称性 对于及满足存在定理)设已给参数集定理机过程的存在性定理要回答的问题作为有限维分布函数族的随机过程呢?这就是随定存在一个以是否一反之,对给定的满足对称性和相容性条件的分布函数族,…,…,…)时相容性当,,));柯尔莫哥洛夫定理是随机过程理论的基本定理,它是证明随族是,则必存在概率空间(对称性和相容性条件的分布函数族,它的有限维分布函数)及定义在其上的随机过程值得注意的是存在性定理中的概率空机过程存在性的有力工具的构造并不唯)和,…来完整地描述,其中在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此,人们往往用随机过程的某些统计特征来取代随机过程常用的统计特征定义如下定义设是随机过程,如果对任意存在,则称函数间(机过程概率特征的完整描述柯尔莫哥洛夫定理说明,随机过程的有限维分布函数族是随由于随机变量的分布函数和特征函数的一一对应关系,随机过程的概率特征也可以通过随机过程的有限维特征函数族为的均值函数若对任意存在,则称为二阶矩过程,而称))的协方差函数)的方差函数的相关函数为为为由许瓦兹不等式知,二阶矩过程的协方差函数和相关函数一)即可要计算数字特征的一、二维概率密度,只仍为正态随机变量,要计算是相互独立的正态随机变量,故其线性组合解 由于与二维概率密度族的一、随机变量,求是相互独立的其中,设随机过程例++与因为相互独立,故解 由数学期望的性质,求)和协方差函数的均值函数是相互独立的随机变量,且其中,+例设随机过程和时的线性相关程度在时刻协方差函数)和相关函数)则反映随机过程方差函数)是随机过程在时刻对均值的偏离程度,而均值函数是随机过程的平均值,在时刻特别,当),则的均值函数))一定存在,且有下列关系在实际问题中,有时需要考虑两个随机过程之间的关系其中如,通信系统中信号与干扰之间的关系设函数和互相关函数来描述它们之间的线性关系定义程,则称是在的周期方波,和都是周期为,其中和设有两个随机过程例)显然有}互不相关}与,则称{,有如果对任意}的互相关函数与为{的互协方差函数,称为与))}是两个二阶矩过此时,我们采用互协方差例故随机过程的一、二维概率密度分别为其相关函数为),)的表达求互相关函数上服从均匀分布的随机变量解 由定义,利用式令例)为信号过程)的均值函数为)设,则)的周期性,我们有)和)为噪声过程令)+++)+特别,若两个随机过程上式表明两个随机过程之和的相关函数可以表示为各个随机过程的相关函数与它们的互相关函数之和的均值函数恒为零且互不相关时,有及复数;由定义,易见)一复随机过程复随机过程的协方差函数具有如下重要性质定理有性质)对称性:)非负定性:对任意有具}的协方差函数差函数、相关函数和协方差函数的定义如下:和{当}是二阶矩过程时,其均值函数、方,则称{其中为复随机过程机过程,若对任意设定义是取实数值的两个随讨论复随机过程的概念和数字特征工程中,常把随机过程表示成复数形式来进行研究下面我们复随机过程互协方差函数定义为,的互相关函数定义为两个复随机过程数 )和相关的均值函数是常数,求)的随机变量,是相互独立的,且服从例设复随机过程,其中、正交增量过程定义意的则称事实上,不妨设故同理,当于是时,有时,有,则当,,取为有限区间,且规定由定义知,正交增量过程的协方差函数可以由它的方差确定为正交增量过程)),有设是零均值的二阶矩过程,若对任简单地介绍几种常用的随机过程的进行分类,也可以根据随机过程的概率结构进行分类下面我们随机过程可以根据参数空间,状态空间是离散的,还是非离散几种重要的随机过程假设设备二、独立增量过程}是随机过程,若对任意的正整数设))是)是相互独立的,则称)独立增量过程,又称可加过程这种过程的特点是:它在任一个时间间隔上过程状态的改变,实际中,如不影响任一个与它不相重叠的时间间隔上状态的改变服务系统在某段时间间隔内的“顾客”数,电话传呼站电话的“呼是独立增量随机过程,若对任意)的分布仅依赖于,则称,)段更是平稳独立增量过程定义,随机变量和…叫”数等均可用这种过程来描述因为在不相重叠的时间间隔内,来到的“顾客”数,“呼叫”数都是相互独立的显然,正交增量过程不是独立增量过程;而独立增量过正交增量过程与独立增量过程都是根据不相重叠的时间区间上增量的统计相依性来定义的,前者增量是互不相关,后者增量是相互独立程只有在二阶矩存在,且均值函数恒为零的条件下是正交增量过程设定义),随机变量考虑一种设备(它可以是灯泡,汽车轮胎或某种电是平稳独立增量过程例,则相继换上的设备寿命是与子元件)一直使用到损坏为止,然后换上同类型的设备的使用寿命是随机变量,记作同,其中为第个设备的使用寿设分布的独立随机变量命)为在时间段内更换设备的件数,则对于任意)分别表示在时是随机过程)另外,对于任意换设备的件数,可以认为它们是相互独立的随机变量,所以,是独立增量过程的,故分布仅依赖于定义立增量过程纳过程和泊松过程都是平稳独立增量过程三、马尔科夫过程设由于正态过程的一阶矩和二阶矩存在,所以正态过程是二阶是正态过程或高斯过程量,则称)是维正态随机变和}是随机过程,若对任意正整数设定义四、正态过程和维纳过程们将在第四章和第五章进行有关马尔科夫过程的进一步讨论,我是连续的,也可以是离散的可以和参数集,其状态空间马尔科夫过程状态的条件下,它将来所处的状态与过去所处的状态无关式说明,系统在已知现在所处处于状态示系统在时刻”表就是“过去”在”,则就是“未来”,而看作“现换句话说,若把而不管系统是如何到达现在的状态知系统的现在状态,则系统未来所处状态的概率规律性就已确定,它表示若已式称为过程的马尔科夫性(或无后效性)则称{为马尔科夫过程,,…件分布及>,且其条为随机过程,若对任意正整数平稳独立增量过程是一类重要的随机过程,后面将提到的维运动是大量分子的随机碰撞引起的,因此,是平稳独面上微粒位置的横坐标,则是随机过程由于微粒的例考虑液体表面物质的运动设)表示悬浮在液现代随机过程理论和应用中也有重要意义正态过程在随机过程中的重要性,类似于正态随机变量在概率中的地位这是由于在实际问题中,尤其是在电讯技术中正态过正态过程的一种特殊情形维纳过程,在程有着广泛的应用为维纳过程,也称布朗运动过程,)))(定义设为随机过程,如果,;它是独立、平稳增量过程;)对,增量)),则称设这类过程常用来描述布朗运动,通信中的电流热噪声等定理是参数为程,则(一)对任意)对任意特别,证(显然下证(,不妨设,则所以证毕,的维纳过(或相关函数,即可确定其有限维分布和协方差函数显然,正态过程只要知道其均值函数矩过程。
随机过程PPT课件

4、自相关序列性质
◆ 若平稳随机序列不含任何周期分量,则
lim
m
RX
(m)
RX
()
mX2
lim
m
K
X
(m)
K
X
()
0
◆ 如果Y (n) X (n n0 ),其中n0为某一个固定的离散时刻, 则有RY (m) RX (m),KY (m) KX (m)
◆ K X (m) RX (m) mX2
概率密度函数
2020/2/18
fX (x1, x2,L
, xN ;1, 2,L
, N)
N FX (x1, x2,L , xN ;1, 2,L x1x2 L xN
, N)
3
4.1 离散时间随机过程基本概念
二、概率分布
4、相互独立
FX (x1, x2 ,L , xN ;1, 2,L , N ) FX (x1;1)FX (x2; 2)L FX (xN ; N )
FXn (xn; n) xn
概率分布函数 FXn (xn, xm;n, m) PXn xn, Xm xm
概率密度函数
3、n维情况
fXn
( xn
,
xm ;
n,
m)
2 FXn
(xn , xm; xnxm
n,
m)
概率分布函数 FX (x1, x2,L , xN ;1, 2,L , N) PX1 x1, X2 x2,L , XN xN
线性独立的含义是随机序列X n和Ym中的任意两个随机变量都互不相关。
统计独立一定线性独立,反之不一定
2020/2/18
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
随机过程讲义
§4.1 平稳过程
一、两种平稳过程
1. 严平稳过程: 严平稳过程: 特别: 为同分布过程, 特别: { X ( t ) } 为同分布过程, 即:F ( t;x ) = FX ( x ) 但一般而言,确定随机过程的有限维分布是 但一般而言, 困难的,不过其数字特征(特别是一、 困难的,不过其数字特征(特别是一、二阶 矩)在工程实际中较易近似得到,它反映了 在工程实际中较易近似得到, 该过程的基本特征。 该过程的基本特征。若只考虑这些特征的平 稳性,就可引出宽平稳过程。 稳性,就可引出宽平稳过程。
随机过程讲义
第四章 平稳随机过程
随机过程讲义
§4.0 内积空间
一、内积空间
1. 意义: 意义: 分析性能 <—— 极限 <—— 距离 <—— 内积 2. H 空间: 空间:
( Ω , F , Ρ ) 上具有二阶矩的(复)随机变量之全 上具有二阶矩的(
体,记为 H. 注:若 X,Y ∈ H ,且 P ( X = Y ) = 1,则记 = X ,则记Y
n→ ∞
随机过程讲义
§4.3
2. 四种收敛: 四种收敛:
随机分析
二、四种收敛性(极限) 四种收敛性(极限)
c. m . s . (均方)收敛 均方)
Xn → X :
m .s .
lim 均有二阶矩, 若 { Xn }, Xn 均有二阶矩,且 n → ∞ E { X n − X } = 0
2
记做 l.i.m Xn = X
随机过程讲义
§4.0 内积空间
一、内积空间
6. 范数: 对变量自身的一种度量 范数:
X = ( X,X )1 2 ∀X ∈ H ,记
范数的条件: 范数的条件: a. b. c.
X ≥0 ,X =0⇔ X =0 cX =| c | X X1 + X2 ≤ X1 + X2
随机过程讲义
§4.0 内积空间
2 2 E{ X n } = σ X
∀n
E { X n X m } = E { X n } E { X m } = 0 ∀n ≠ m
关于非平稳白噪声的说明。 另: 关于非平稳白噪声的说明。
随机过程讲义
§4.1 平稳过程
三、白噪声
3. 意义: 意义: 最简单的关于随机干扰的数学表达 —— 如高斯白噪声
= RX (τ ) + RY (τ ) + E{ X (t )Y (t + τ )} + E{Y (t ) X (t + τ )}
随机过程讲义
§4.2
三、定义: 定义:
联合平稳过程
平稳过程X 平稳过程 ( t ) 、Y ( t ) 的互相关函数只与时间增 量有关。 量有关。即
RXY (t,t + τ ) = E{ X (t )Y (t + τ )} = RXY (τ )
n→ ∞
随机过程讲义
§4.3
2. 四种收敛: 四种收敛:
随机分析
二、四种收敛性(极限) 四种收敛性(极限)
设 { Xn },X n ∈ ( Ω , F , P ) —— 同一概率空间 a. a . e . ( a . s ) 收敛 记作: 记作: X → X n 若 P { ω | lim X n ( ω ) = X ( ω )} = P { A } = 1 或 P( Ω − A ) = 0
最小方差估计 最小二乘估计
随机过程讲义
§4.2
一、意义: 意义:
联合平稳过程
由于平稳过程的数学处理较方便,而实际中信号 由于平稳过程的数学处理较方便, 又是多种成分的迭加,人们自然希望平稳信号的 又是多种成分的迭加, 迭加还平稳,这就导致了联合平稳概念的引入。 迭加还平稳,这就导致了联合平稳概念的引入。
RZ ( τ ) = R X ( τ ) + RY ( τ ) + R XY ( τ ) + RYX ( τ )
问: 这时 Z ( t ) =a X ( t ) + bY ( t ) 亦平稳否? 亦平稳否? Z ( t ) =f ( t ) X ( t ) + g ( t ) Y ( t ) 平稳 否?
随机过程讲义
§4.1 平稳过程
一、两种平稳过程
1. 严平稳过程: 严平稳过程: 特点是过程的统计特性不随时间的整体推移而 变化。即: 变化。
∀n,∀t 1 ........t n ∈ T ,及 ∀实数 h, ,
n 维随机向量 ( X ( t 1 ).....X ( t n )) 和 ( X ( t 1 + h ).....X ( t n + h )) 具有相同的联合分布 函数。 函数。
随机过程讲义
§4.2
联合平稳过程
四、各种相关函数的性质: 各种相关函数的性质:
1. 自相关函数: { X ( t ) } 平稳,则 RX ( τ ) 满足 自相关函数: 平稳, a. R X ( 0 ) ≥ 0 b. RX (τ ) = RX (−τ ) 共轭对称, 共轭对称, 特别 X ( t ) 为实过程时 R X ( τ ) = R X ( −τ ) c. R X ( τ ) ≤ R X ( 0 ) d. R X ( τ ) 非负定,即 非负定,
t
随机过程讲义
§4.3
分析的基础
1. 回顾普通收敛概念: 回顾普通收敛概念:
随机分析
二、四种收敛性(极限)—— 极限是其它数学 四种收敛性(极限)
{ x n } → x ,即 ∀ ε > 0 ,有 N ,当 n > N 后,
x n − x < ε ,记做 lim x n = x 。
n→ ∞
对随机序列 { Xn } ,可设想有随机变量 X ( ω ) 对 ∀ω ∈ Ω 这叫处处收敛, 使 lim X n ( ω ) = X ( ω ),这叫处处收敛,但要求太 强了!下面介绍四种概率统计意义下的收敛性。 强了!下面介绍四种概率统计意义下的收敛性。
二、距离
1. 空间距离的概念 d ( X , Y ) 是 H 中 X与 Y 的距离: 与 的距离: a. d ( X,Y ) ≥ 0 ,d ( X,Y ) = 0 ⇔ X = Y b. d ( X,Y ) = d ( Y,X ) c. d ( X,Z ) ≤ d ( X,Y ) + d ( Y,Z )
随机过程讲义
§4.1 平稳过程
一、两种平稳过程
3. 平稳序列: 平稳序列: 若平稳过程的参数集 T = { 0,,.....} 则称为平 12 稳序列。 稳序列。 { X n } 4. 严平稳过程不一定是宽平稳的,还要求一、二 严平稳过程不一定是宽平稳的,还要求一、 阶矩都存在。 阶矩都存在。
随机过程讲义
三、白噪声
1. 白噪声过程定义 物理上:理想的“白光”其功率谱均分布于整 物理上:理想的“白光” 个 频段上。 频段上。 上述定义在物理上很难做到, 上述定义在物理上很难做到,实用中用近似 定义。 定义。
随机过程讲义
§4.1 平稳过程
三、白噪声
2. 白噪声序列: 白噪声序列: 为零均值、不相关的平稳序列。 { X n } 为零均值、不相关的平稳序列。 即 E{ X n } = µ X = 0
随机过程讲义
§4.1 平稳过程
一、两种平稳过程
2. 宽平稳过程: 宽平稳过程: 设 { X ( t ),t ∈ T } 为二阶矩过程,它满足 为二阶矩过程, a. E { X ( t )} = µ X ( t ) = µ X b.E { X ( t ) X ( t + τ )}则称为( 则称为(宽)弱平稳过程。 弱平稳过程。
∀τ,∀t
RYX ( t,t + τ ) = E { Y ( t ) X ( t + τ ) } = RYX ( τ )
联合平稳。 则称为 X ( t ) 、Y ( t ) 联合平稳。
随机过程讲义
§4.2
联合平稳过程
亦平稳, 这时 Z ( t ) = X ( t ) + Y ( t ) 亦平稳,且
n→ ∞
a .e .
随机过程讲义
§4.3
2. 四种收敛: 四种收敛: b. P(依概率 收敛 依概率)收敛 依概率
Xn → X :
P
随机分析
二、四种收敛性(极限) 四种收敛性(极限)
若 lim P { X n − X ≥ ε } = 0
n→ ∞
成立。 ∀ε > 0 成立。
或 lim P { X n − X < ε } = 1
随机过程讲义
§4.0 内积空间
一、内积空间
3. H是一个线性空间: 是一个线性空间: 是一个线性空间 即
X,Y ∈ H ⇒ aX + bY ∈ H
E 2 { XY } ≤ E{ X } • E{ Y } < ∞
2 2
由许瓦兹不等式 4. H上内积的引入 上内积的引入
∀X,Y ∈ H ,定义(X,Y)= E { XY }
随机过程讲义
§4.1 平稳过程
三、白噪声
1. 白噪声过程定义: 白噪声过程定义: 零均值、谱密度为非零常数的宽平稳过程 零均值、
{ X ( t ),t ∈ [ 0,∞ ]}
且
∞ RX ( τ ) = 0
τ =0 其它 ← 不相关
∫0
∞
2 R X ( τ )dτ = σ X
随机过程讲义
§4.1 平稳过程
随机过程讲义
§4.0 内积空间
一、内积空间
5.(X,Y)是H上内积的条件。 上内积的条件。 上内积的条件 对 ∀X 1,X 2,X,Y ∈ H ,有 a. ( Y,X ) = ( X,Y )
( b. ( cX,Y) = c(X,Y) , X,cY ) = c ( X,Y )