湖南城市学院随机过程讲稿(18).pptx
合集下载
湖南城市学院-随机过程讲稿(17)
l pii , p ljj 相互控制，同为无穷或有限，从而同为常返或非常 l 0
l 0
l 0
l 0
[定理7.11]如果j是非常返态，则对于每一个i，有
p
n 1
n
ij
和
lim pij 0
n
n
[定义7.12]如果有正整数d，d>1，只有当n=d, 2d, 3d,…时 态i是具有周期性的状态。
[定义7.9] 如果单个状态i构成一个闭集，则称这个状态i为吸 收态。 例题： 设有四个状态（0,1,2,3）的马尔可夫链，它的一步 转移概率矩阵为P，对其状态进行分类。
1 1 2 2 0 1 1 0 P 2 2 1 1 1 4 4 4 0 0 0
0 0 1 4 1
f ij P Tij n1X 0 i 0
n
[定义7.11] 对于马尔可夫链X(k)，定义自状态i出发迟早到达 状态j的概率为
fij
1 n
fij
n
1 n
P T
ij
n1X 0 i P Tij
[定理7.8] fij>0的充要条件是i→j。 [推论7.3] 状态i,j相通的充要条件是fij>0 和fji>0 。当i=j时，fii 的取值在0-1之间的一个数值，根据取值情况，把状态i分为： 若fii=1, 则称 i 为常返状态， 若fii<1, 则称 i 为非常返状态（或瞬时状态或称滑过的）。
n 1
由定义知状态0为常返态。 因此，由定理知I中所有状态都是常返态。 故此马氏链为不可约常返链。
7.2.4马尔可夫链的遍历性 [定义7.13]如果齐次马尔可夫链中，对于一切的i和j，存在 不依赖i的极限，即
随机过程课件
1
m X (t1 )][ x2 m X (t 2 )] f ( x1 x2 ; t1 , t 2 )dx1dx 2 f ( x1, x2 ; t1 , t 2 )dx1dx 2
x x
1 2
X(t) 协方差与相关函数的关系为 当 mx (t ) 0 时 C X (t 1 , t 2 ) R X (t 1 , t 2 ) 在协方差定义中取t1=t2=t,就有
为XT 的均值函数或数学期望。其中F(x,t)是过程 的一维分布函数。 若是连续型随机变量，有 mX (t) xf(x,t)dx 其中f(x,t)是一维分布密度。 12
2．随机过程的方差 若 DX (t) 2 (t) E[X(t) mX (t)]2 存在，t∈T， X 称为X（t）的方差。 x (t) Dx (t) 称为X（t）的标准差。 它们描绘过程的样本曲线在各个t时刻对均 值 m X ( t ) 的离散程度， 对每个t1∈T， EX (t1 ) 反映t1状态取值的概率平均。 DX (t1 ) 反映t1状态取值与 EX (t1 ) 离散程度。 在工程中随机过程的均方值具有物理意义，比 较有用。均方值定义为： E[ X 2 (t )] X (t ) DX (t ) E( X 2 (t )) E 2 ( X (t )) 有关系式： 13 Dx (t ) x (t ) [mx (t )]2 即
第一章. 随机过程的基本概念
§1.1 随机过程及其概率分布
在实际问题中，有时需要对随机现象的变化进 行研究，这时就必须考虑无穷个随机变量或一族 随机变量, 我们就称这种随机变量族为随机过程。 例1: 生物群体的增长问题。在描述群体的发展 或演变过程中, 以 Xt 表示在时刻 t 群体的个数, 则 对每一个 t ，Xt 是随机变量。假设我们从 t ＝0 开 始每隔24小时对群体的个数观测一次, 则{Xt , t ＝0, 1, 2, ...}是一个随机过程。 例2: 电话呼唤问题。某电话总机在[0，t]时间 内收到的呼唤次数用 Xt 来表示, 则对于固定的 t ， 1 Xt 是随机变量。于是{Xt , t ∈[0, ∞)}是随机过程。
湖南城市学院-随机过程讲稿(3)
E[( X (t 2 ) X (t1 )) ( X (t 4 ) X (t3 ))] 0
则称X(t)是正交增量过程。
例题
设{X(t),t∈T}是正交增量过程，T=[a,b]为有限区间，且规定X(a)=0， 当a<s<t<b时，求其协方差函数。
独立增量过程
定义：
例题2.10
考虑一种设备一直使用到损坏为止，然后换上同类型的设备。假设设 备的使用寿命是随机变量，令N(t)为在时间段[0,t]内更换设备的件数， 通常可以认为{N(t)，t≥0}是平稳独立增量过程。
马尔可夫过程 定义： 设{X(t),t∈T}是随机过程，若对任意正整数n及t1<t2, …<tn， P(X(t1)=x1, …,X(tn-1)=xn-1)>0，且其条件分布
正交增量过程
定义依据： 不相重叠的时间区间上增量的 统计相依性
互不相关
独立增量过程
相互独立
正交增量过程
×
二阶矩存在，均值函数恒为零
独立增量过程
正交增量过程
独立增量过程
平稳独立增量过程
定义：
设{X(t),t∈T}是独立增量过程，若对任意s<t，随机变量X(t)-X(s)的分 布仅依赖于t-s，则称{X(t),t∈T}是平稳独立增量过程。
n
lim 则(1) l.i.m cn n cn c n (2) l.i.m U U n (3) l.i.m c nU cU
n
n
n
(4) (5) (6)
l.i.m (aX n bYn ) aX bY
n
lim EX n EX E l.i.m X n
RX ( s, t ) E[ X ( s ) X (t )]
随机过程的基本概念ppt课件
求X(t)的均值、均方值和方差。
.
2.3 平稳随机过程
三、相关系数及相关时间
也称为归一化协方差函 数或标准协方差函数。
相关系数： rX()KXX 2 ()RX()X 2mX 2
相关时间：
0
0 rX()d
rX ( )
1
rX(0) 0.05
0
0
相关时间示意图
.
2.3 平稳随机过程
三、相关系数及相关时间
为随机过程X(t)的二维概率分布。定义
fX(x1,x2,t1,t2)2FX(xx11,xx22,t1,t2)
为随机过程X(t)的二维概率密度。 注意：X(t1)及X(t2)为同一随机过程上的随机变量。
.
2.2 随机过程的统计描述
2、二维概率分布
例2、设随机相位信号
X (n )co s( n/1 0 )
.
2.2 随机过程的统计描述
二、随机过程的数字特征（连续）
• 协方差函数
K X ( t 1 , t 2 ) E { [ X ( t 1 ) m X ( t 1 ) ] [ X ( t 2 ) m X ( t 2 ) ] } （1）如果 KX(t1,t2)0，则称 X (t1 )和 X (t2 )是不相关的。
.
2.3 平稳随机过程
一、定义
(1)严格平稳随机过程
f X ( x 1 , ,x n ,t 1 , ,t n ) f X ( x 1 , ,x n ,t 1 , ,t n )
一维概率密度： fX(x,t)fX(x)
二维概率密度： fX (x 1 ,x 2 ,t1 ,t2 ) fX (x 1 ,x 2 ,) t1 t2
接收机噪声
5
x1(t) 0
.
2.3 平稳随机过程
三、相关系数及相关时间
也称为归一化协方差函 数或标准协方差函数。
相关系数： rX()KXX 2 ()RX()X 2mX 2
相关时间：
0
0 rX()d
rX ( )
1
rX(0) 0.05
0
0
相关时间示意图
.
2.3 平稳随机过程
三、相关系数及相关时间
为随机过程X(t)的二维概率分布。定义
fX(x1,x2,t1,t2)2FX(xx11,xx22,t1,t2)
为随机过程X(t)的二维概率密度。 注意：X(t1)及X(t2)为同一随机过程上的随机变量。
.
2.2 随机过程的统计描述
2、二维概率分布
例2、设随机相位信号
X (n )co s( n/1 0 )
.
2.2 随机过程的统计描述
二、随机过程的数字特征（连续）
• 协方差函数
K X ( t 1 , t 2 ) E { [ X ( t 1 ) m X ( t 1 ) ] [ X ( t 2 ) m X ( t 2 ) ] } （1）如果 KX(t1,t2)0，则称 X (t1 )和 X (t2 )是不相关的。
.
2.3 平稳随机过程
一、定义
(1)严格平稳随机过程
f X ( x 1 , ,x n ,t 1 , ,t n ) f X ( x 1 , ,x n ,t 1 , ,t n )
一维概率密度： fX(x,t)fX(x)
二维概率密度： fX (x 1 ,x 2 ,t1 ,t2 ) fX (x 1 ,x 2 ,) t1 t2
接收机噪声
5
x1(t) 0
随机过程课件.ppt
随机过程的统计描述 二 有限维分布族
两种描述
分布函数 特征数
设随机过程X (t),t T,对每一固定的t T ,随机变量X (t)的分布函数与t有关， 记为FX (x,t) PX (t) x，x R，称它为随机过程X (t),t T的一维分布函数 FX (x,t),t T称为一维分布函数族
为了描述随机过程在不同时刻状态之间的统计联系， 一般地，对任意n(n 2,3,L )个不同的时刻，t1,t2,L tn T
研究生课程
随机过程
汪荣鑫编 主讲教师：田ቤተ መጻሕፍቲ ባይዱ俊
2013年9月
第一章 随机过程基本概念
第1节 随机过程及其概率分布
1）随机过程概念 随机过程被认为是概率论的“动力学”部分，即
它的研究对象是随时间演变的随机现象，它是从 多维随机变量向一族(无限多个)随机变量的推广。
自然界中事物的变化过程可以大致分成为两类： 确定性过程：事物变化的过程可用时间的确定函数表示；
4
x1 (t )
3
2
1
t1' t1 t2 t2' t3 t3' t4' t4
t
4
例5：考虑抛掷一颗骰子的试验：
(1) 设X n是第n次(n 1)抛掷的点数，对于n 1, 2,L 的不同值，
X n是随机变量，服从相同的分布，P( X n
i)
1 6
,i
1, 2,3, 4,5, 6
因而X n , n 1构成一随机过程，称为伯努利过程或伯努利随机序列,
它的状态空间为1,2,3,4,5,6。
(2) 设Yn是前n次抛掷中出现的最大点数,Yn , n 1也是
一随机过程，它的状态空间仍是1, 2,3, 4,5, 6。
《数学随机过程》PPT课件
所以X与Y不相关。 故 (X,Y )=0 X与Y不相关
几何直观意义
3.3 随机分析初步
附注C—关于赋范线性空间概念的回顾
设V是一个线性空间，若 V，存在一个实数|| ||与
之对应，且具有下列性质：
(1) || ||0 , 且|| ||=0 =0 ； (2) ||c· ||= |c|·|| || , 特别 ||- ||= || ||； c R (3) || + || || ||+ || ||； V 则称|| || 为V中元素 的范数(norm)(模、长度)，此时线
CXX (t1, t2 ) cov{ X (t1), X (t2 )} E{[ X (t1) mX (t1)][ X (t2 ) mX (t2 )]} | CXX (t1, t2 ) |2 | cov{ X (t1), X (t2 )} |2 | E{[ X (t1) mX (t1)][ X (t2 ) mX (t2 )]} |2 {E | [ X (t1) mX (t1)][ X (t2 ) mX (t2 )] |}2 E | X (t1) mX (t1) |2 E | X (t2 ) mX (t2 ) |2 D[ X (t1)]D[ X (t2 )]
3.3 随机分析初步
附注A—关于线性空间概念的回顾
设V是一个非空的集合，K是一个数域，又设
(a)在V中定义加法： , V : + V ; (b)在V中定义数乘： V, k K: k · V ; 且 , , V , k,l K , 满足 (1) k ,l K, , V : (2) +( +)= ( + )+ ; (3) + = + ; (4)0V, V: +0= ; (5) V, V: +=0 (6) 1 K: 1· = ; (7) k ,l K, V: (kl)· =k·(l) ; (8)k ,l K, V: (k+l) = k +l ; (9) k K, , V : k( + )= k + k .
几何直观意义
3.3 随机分析初步
附注C—关于赋范线性空间概念的回顾
设V是一个线性空间，若 V，存在一个实数|| ||与
之对应，且具有下列性质：
(1) || ||0 , 且|| ||=0 =0 ； (2) ||c· ||= |c|·|| || , 特别 ||- ||= || ||； c R (3) || + || || ||+ || ||； V 则称|| || 为V中元素 的范数(norm)(模、长度)，此时线
CXX (t1, t2 ) cov{ X (t1), X (t2 )} E{[ X (t1) mX (t1)][ X (t2 ) mX (t2 )]} | CXX (t1, t2 ) |2 | cov{ X (t1), X (t2 )} |2 | E{[ X (t1) mX (t1)][ X (t2 ) mX (t2 )]} |2 {E | [ X (t1) mX (t1)][ X (t2 ) mX (t2 )] |}2 E | X (t1) mX (t1) |2 E | X (t2 ) mX (t2 ) |2 D[ X (t1)]D[ X (t2 )]
3.3 随机分析初步
附注A—关于线性空间概念的回顾
设V是一个非空的集合，K是一个数域，又设
(a)在V中定义加法： , V : + V ; (b)在V中定义数乘： V, k K: k · V ; 且 , , V , k,l K , 满足 (1) k ,l K, , V : (2) +( +)= ( + )+ ; (3) + = + ; (4)0V, V: +0= ; (5) V, V: +=0 (6) 1 K: 1· = ; (7) k ,l K, V: (kl)· =k·(l) ; (8)k ,l K, V: (k+l) = k +l ; (9) k K, , V : k( + )= k + k .
湖南城市学院-随机过程讲稿(18)
n1
n1
n!
D[ X (t)] E( X 2 (t)) E2 ( X (t)) t
③ 自相关函数
RX (s,t) E[ X (s) X (t)] E[ X (s)( X (t) X (s) X (s))]
独立增量
E[ X (s)( X (t) X (s))] E[( X (s))2 ]
❖如何求高斯-马尔可夫序列X(n+1)的自协方差KX (n, s)？
KX (n, s) E{[ X (n) mX (n)][ X (s) mX (s)]}
E
Ans
X
(s)
ns i1
Ai1W
(n
i)
Ans mX
(s)
ns i1
Ai1mW
(n
i)
X (s) mX (s)
VX (t) 2E [ X (t) mX (t)][ X (t) mX (t)]
2E [ X (t) mX (t)][X (t) W (t) mX (t) mW (t)]
2E [ X (t) mX (t)] X (t) mX (t)] W (t) mW (t)]
2E [ X (t) mX (t)]2 2E [ X (t) mX (t)]W (t) mW (t)]
(t)]W () mW ()]d
t t0
e(t
)
W
2
t
(t
)d
2
W
2
t
VX (t) 2E [ X (t) mX (t)]2 2E [ X (t) mX (t)]W (t) mW (t)]
2VX
(t
)
2
2 W
(t
)
初始条件VX(0)已知即可确定VX(t)。
《随机过程》教程.ppt
无穷大的分类
0, 1 ,2 ,3,……(自然数集合的无限多 为0， 0集合的所有子集构成的集合的 “无限多（势）”为1 ， 1集合的所有 子集构成的集合的势为2 ， ……)，在数 学上已经严格证明： 0, 1 ,2 ,3,等之 间不能建立双射的关系。
对于无穷大，“整体大于部分”的直觉不再成立
对于自然数集 N 1,2,3,4,5,L ，偶数集合
原像集
像集 单射（不同的原
f
像具有不同的像）
f a1 f a2
满射（每一个像都有原像）
原像集
像集
f
b, a, s.t.
b f a
双射（既是单射，又是满射）
原像集
像集
f
从直觉上承认能建立双射关系的两 个集合，其所含元素的“个数”一样多。
可数和不可数的定义
凡是能和自然数集合或者自然数集合的 一个子集建立双射关系的集合称为可数 集合；否则称为不可数集合。 可数和不可数是人类认识“无穷”所产 生的概念，是对无穷的分类。 已经证明连续的区间，和实数集等都是 不可数集合：[1,2],(0.1,0.01),R,等等
事件和Borel集
事件：样本空间中满足一定条件的全体 元素构成子集，“一定条件”有事件的 意义，因此称样本空间的子集为事件。
（举例说明）
不可能事件 必然事件 基本事件：可数和不可数 Borel集：规定了事件的全体及其相容性
概率空间的定义
阅读讲解p.16定义2.1 理解概率空间
概率空间是对随机现象的基本建模方法 概率空间有三个要素：样本空间、Borel事
《随机过程》教程
第三讲 随机对象（一）
本章要义（阅读引言部分）
本章介绍如何对随机现象建立数学模型。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(t)]W () mW ()]d
t t0
e(t
)
W
2
t
(t)d2来自W2t
VX (t) 2E [ X (t) mX (t)]2 2E [ X (t) mX (t)]W (t) mW (t)]
2VX
(t
)
2
2 W
(t
)
初始条件VX(0)已知即可确定VX(t)。
7.4 独立增量过程的基本概念
是否和马尔可夫序列一样也 为零？
❖X(t)的方差函数：
对所有t>t0所,X(t0)与W(t)不 相关，故该项为零
E[ X (t) mX (t)]W (t) mW (t)]
e(tt0 ) E[ X (t0 ) mX (t0 )]W (t) mW (t)]
t e(t) E
t0
[ X (t) mX
X (t) X (t) W (t) mX (t) mX (t) mW (t) 上式为简单的常系数一阶微分方程，只要初始条件mX(0)已知， 就可以确定mX(t)。
❖X(t)的方差函数：
VX (t) 2X (t) K X (t,t) E[ X (t) mX (t)]2
对该式两边微分可得：
tn
etn X (tn ) etn1 X (tn1) eW ()d
tn 1
tn
X (tn ) etn tn1) X (tn1 ) etn )W ()d
tn 1
X(tn)的概率密度只与tn-1 时刻的值有关，而与tn-1 以前的值无关，因此X(tn)
为马尔可夫过程。
❖X(t)的均值函数：
❖如何求高斯-马尔可夫序列X(n+1)的自协方差KX (n, s)？
KX (n, s) E{[ X (n) mX (n)][ X (s) mX (s)]}
E
Ans
X
(s)
ns i1
Ai1W
(n
i)
Ans mX
(s)
ns i1
Ai1mW
(n
i)
X (s) mX (s)
E
Ans
X (s) mX (s)
ns i1
Ai1W
(n
i)
ns i1
Ai1mW
(n
i)
X (s) mX
(s)
E Ans X (s) mX (s) X (s) mX (s)
Ans2X (s)
马尔可夫序列的一般形式：
X (n 1) A(n) X (n) B(n)W (n)
① 高斯-马尔可夫序列X(n+1)的条件均值：
E[ X (n 1)X (n)] E( AX (n)) E[W (n)] AmX (n) mW (n)
② 高斯-马尔可夫序列X(n+1)的条件方差：
X (n 1) n
E({X (n 1) E[ X (n 1) xn]}2 ) E{[W (n) mW (n)]2} W (n)
独立 增量 过程
泊松过程 维纳过程
7.5 泊松过程 7.5.1 计数过程
[定义7.19] 在(0,t)内出现事件A的总数所组成的过程 N t , t 0
称为计数过程。
[定义7.20] 在计数过程中，如果在不相交叠的时间间隔内出现事 件A的次数是相互统计独立的，则该计数过程为独立增量过程。
W (n)
X (n 1) AX (n) W (n)
高 斯
高斯-马尔可夫序列
X (n 1)
A X (n) 延迟
高斯
A为常数 W(n)为均值为 mW (n) ,方差为 2W (n)的白噪声
❖如何求高斯特性的状态转移概率密度 f (xn1;tn1 xn ;tn ) ？
为了确定高斯概率密度，只需要知道给定X(n)的X(n+1) 的条件均值和条件方差就够了。
A(n), B(n)为确知的随时间变化的矩阵
W (n)
X (n 1)
A X (n) 延迟
7.3.2 连续的马尔可夫过程
[定义7.15] 状态和时间都是连续的马尔可夫过程称为连续的马尔可夫过程。
X (t) X (t) W (t) X (t) tX (t) (t)W (t)
Ito过程
股票预期收 益率
VX (t) 2E [ X (t) mX (t)][ X (t) mX (t)]
2E [ X (t) mX (t)][X (t) W (t) mX (t) mW (t)]
2E [ X (t) mX (t)] X (t) mX (t)] W (t) mW (t)]
2E [ X (t) mX (t)]2 2E [ X (t) mX (t)]W (t) mW (t)]
有
E X t2 X t1 X t4 X t3 0
则称这类随机过程X(t)为正交增量过程。
[定理7.13] 对于独立增量过程 X t ,t T ，如果它还满足
E
X
t
0,
E
X
t
2
，则该过程也是正交增量过程。
[定义7.18] 如果独立增量过程的增量X(tk)-X(tk-1)的分布仅与时 间差(tk-tk-1)有关，而与tk,tk-1本身无关，则称它为齐次的独立增 量过程。
第七章 马尔可夫过程
7.1 马尔可夫过程的一般概念 7.2 马尔可夫链 7.3 状态连续马尔可夫过程特性 7.4 独立增量过程的基本概念 7.5 泊松过程 7.6 维纳过程
1
7.3状态连续马尔可夫过程特性
7.3.1 马尔可夫序列
[定义7.14]状态连续，时间离散的马尔可夫过程称为马尔可夫序列。
在实际中，一般的马尔可夫序列 是对连续的马尔可夫过程进行抽 样得到的，例如，在对运动目标 （导弹，飞机）的轨迹测量中， 信号的模型常采用以下的一阶差 分方程，即：
[定义7.16] 如果在参数集T上任意选取t1<t2<t3<…<tn的n个时间 点，随机过程X(t)的增量X(t2)-X(t1), X(t3)-X(t2), …, X(tn)-X(tn-1) 是相互统计独立的随机变量，则称这类随机过程X(t)为独立增 量过程。独立增量过程是一种特殊的马尔可夫过程。
[定义7.17] 设随机过程X(t)的二阶矩存在，当 t1 t2 t3 t4时，T
股票 价格
股票价格波 动率
❖为什么说X(t)是一个马尔可夫过程？
dX (t) X (t) X (t) W (t) dt d [et X (t)] etW (t) dt
取任意两个时刻tn和tn-1,对上式两边进行tn-1到tn的积分，则
tn
[e
t
X
(t
)]tn tn1
etW ()d
tn 1