随机过程讲义
合集下载
随机过程讲义4
随机过程讲义
§4.1 平稳过程
一、两种平稳过程
1. 严平稳过程： 严平稳过程： 特别： 为同分布过程， 特别： { X ( t ) } 为同分布过程， 即：F ( t；x ) = FX ( x ) 但一般而言，确定随机过程的有限维分布是 但一般而言， 困难的，不过其数字特征（特别是一、 困难的，不过其数字特征（特别是一、二阶 矩）在工程实际中较易近似得到，它反映了 在工程实际中较易近似得到， 该过程的基本特征。 该过程的基本特征。若只考虑这些特征的平 稳性，就可引出宽平稳过程。 稳性，就可引出宽平稳过程。
随机过程讲义
第四章 平稳随机过程
随机过程讲义
§4.0 内积空间
一、内积空间
1. 意义： 意义： 分析性能 <—— 极限 <—— 距离 <—— 内积 2. H 空间： 空间：
( Ω , F , Ρ ) 上具有二阶矩的（复）随机变量之全 上具有二阶矩的（
体，记为 H. 注：若 X，Y ∈ H ，且 P ( X = Y ) = 1，则记 = X ，则记Y
n→ ∞
随机过程讲义
§4.3
2. 四种收敛： 四种收敛：
随机分析
二、四种收敛性（极限） 四种收敛性（极限）
c. m . s . （均方）收敛 均方）
Xn → X ：
m .s .
lim 均有二阶矩， 若 { Xn }， Xn 均有二阶矩，且 n → ∞ E { X n − X } = 0
2
记做 l.i.m Xn = X
随机过程讲义
§4.0 内积空间
一、内积空间
6. 范数： 对变量自身的一种度量 范数：
X = ( X，X )1 2 ∀X ∈ H ，记
随机过程课程讲义
对每一固定的时刻t, X (t) cos(t )是随机变量的函数, 从而也是随机变量。它的状态空间是[- , ]. 在(0, 2 )内随机取一数 ,相应的就得到一个样本函数 x(t) cos(t ), 这族样本函数的差异在于它们相位的不同,
故这一过程称为随机相位正弦波。
6
例3：设X (t) Vcost t , 其中是常数；
一般地，FX (x1, x2 , xn;t1, t2 , tn ), n 1, 2, ti T 称为随机过程X (t),t T的有限维分布函数族
它完全确定了随机过程的统计特性
下面分别给出它们的一条样本函数：
xn
6
(1)
5
4
3
2
yn
6
xn
5
4
3
2
(2)
yn
1
1
1 2 3 45 678
n
1 2 3 45 678
n
随机过程的分类：
随机过程可根据参数集T和任一时刻的状态分为四类，参数集T 可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随 机变量和连续型随机变量两种：
10
§2 随机过程的统计描述
两种描述
分布函数 特征数
(一) 随机过程的分布函数族
设随机过程X (t),t T, 对每一固定的t T , FX (x,t) PX (t) x，x R，称为随机过程X (t),t T的一维分布函数 FX (x,t),t T称为一维分布函数族
一般地，对任意n(n 2,3, )个不同的时刻，t1,t2, tn T
1. 连续参数连续型的随机过程，如例2，例3 2. 连续参数离散型的随机过程，如例1，例4 3. 离散参数离散型的随机过程，如例5 4. 离散参数连续型的随机过程时间集T t, 2 t, n t, 上观察X (t)，就得到 随机序列X1, X 2 , , X n , , X n X (n t)是连续型随机变量。
故这一过程称为随机相位正弦波。
6
例3：设X (t) Vcost t , 其中是常数；
一般地，FX (x1, x2 , xn;t1, t2 , tn ), n 1, 2, ti T 称为随机过程X (t),t T的有限维分布函数族
它完全确定了随机过程的统计特性
下面分别给出它们的一条样本函数：
xn
6
(1)
5
4
3
2
yn
6
xn
5
4
3
2
(2)
yn
1
1
1 2 3 45 678
n
1 2 3 45 678
n
随机过程的分类：
随机过程可根据参数集T和任一时刻的状态分为四类，参数集T 可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随 机变量和连续型随机变量两种：
10
§2 随机过程的统计描述
两种描述
分布函数 特征数
(一) 随机过程的分布函数族
设随机过程X (t),t T, 对每一固定的t T , FX (x,t) PX (t) x，x R，称为随机过程X (t),t T的一维分布函数 FX (x,t),t T称为一维分布函数族
一般地，对任意n(n 2,3, )个不同的时刻，t1,t2, tn T
1. 连续参数连续型的随机过程，如例2，例3 2. 连续参数离散型的随机过程，如例1，例4 3. 离散参数离散型的随机过程，如例5 4. 离散参数连续型的随机过程时间集T t, 2 t, n t, 上观察X (t)，就得到 随机序列X1, X 2 , , X n , , X n X (n t)是连续型随机变量。
随机过程讲义(南开大学内部)
舱舮舴 复合艐良艩艳艳良艮过程及应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舷
舱舮舴舮舱 复合艐良艩艳艳良艮过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舷
舱舮舴舮舲 复合艐良艩艳艳良艮过程在保险风险理论中的应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舸
3 连续时间马氏链
33
舳舮舱 定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舳
舳舮舱舮舱 马氏性与等价条件 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舳
对 h > 0般 有
pn(t
+
h) h
−
pn(t)
=
−λpn(t)
+
λpn−1(t)
+
o(h) ,
h
从而 pn(t) 在 t 的右导数为 −λpn(t) + λpn−1(t)舮 类似的可知 pn(t) 的左导数也存在。
这样
pn(t) = −λpn(t) + λpn−1(t), pn(0) = 0, n ≥ 1.
舱舮舵 艐良艩艳艳良艮 过程的其它扩展 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舰
舱舮舵舮舱 非齐次 艐良艩艳艳良艮 过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舰
随机过程讲义
n U U{N (t ) = n − l , N (t + h) − N (t ) = l} l =2
故有：
Pn (t + h) = Pn (t )(1 − λh − ο (h)) + Pn −1 (t )(λh + ο (h)) + ο (h)
化简并令 h → 0 得：
Pn′(t ) = −λPn (t ) + λPn −1 (t )
∀ n ∈ N ， t i ∈ T , 1 ≤ i ≤ n ，有随机过程 X (t ) 的增量： X (t 2 ) − X (t1 ), X (t 3 ) − X (t 2 ),L, X (t n ) − X (t n−1 )
相互独立，则称随机过程 { X (t ), t ∈ T } 是独立增量过程。 注意：若独立增量过程的参数集 T = [ a, b), a > −∞ ，一般假定 X ( a ) = 0 ， 则 独 立 增 量 过 程 是 一 马 氏 过 程 。 特 别 地 ， 当 X ( 0) = 0 时 ， 独 立 增 量 过 程
两边同乘以 e ，移项后有：
λt
d λt λt [e Pn (t )] = λ e Pn −1 (t ) dt Pn (0) = P{N (0) = n} = 0
当 n = 1 时，有：
d λt [e P1 (t )] = λ , P1 (0) = 0 ⇒ P1 (t ) = (λ t )e −λ t dt
由归纳法可得：
(λ t ) n − λ t Pn (t ) = e , n ∈ N0 n!
注意： E{N (t )} = λ t 现的平均次数。 注意：Poission 过程的转移率矩阵（Q 矩阵）的表示，并用上一章讲过的方 法求解 Poission 过程的一维分布。
故有：
Pn (t + h) = Pn (t )(1 − λh − ο (h)) + Pn −1 (t )(λh + ο (h)) + ο (h)
化简并令 h → 0 得：
Pn′(t ) = −λPn (t ) + λPn −1 (t )
∀ n ∈ N ， t i ∈ T , 1 ≤ i ≤ n ，有随机过程 X (t ) 的增量： X (t 2 ) − X (t1 ), X (t 3 ) − X (t 2 ),L, X (t n ) − X (t n−1 )
相互独立，则称随机过程 { X (t ), t ∈ T } 是独立增量过程。 注意：若独立增量过程的参数集 T = [ a, b), a > −∞ ，一般假定 X ( a ) = 0 ， 则 独 立 增 量 过 程 是 一 马 氏 过 程 。 特 别 地 ， 当 X ( 0) = 0 时 ， 独 立 增 量 过 程
两边同乘以 e ，移项后有：
λt
d λt λt [e Pn (t )] = λ e Pn −1 (t ) dt Pn (0) = P{N (0) = n} = 0
当 n = 1 时，有：
d λt [e P1 (t )] = λ , P1 (0) = 0 ⇒ P1 (t ) = (λ t )e −λ t dt
由归纳法可得：
(λ t ) n − λ t Pn (t ) = e , n ∈ N0 n!
注意： E{N (t )} = λ t 现的平均次数。 注意：Poission 过程的转移率矩阵（Q 矩阵）的表示，并用上一章讲过的方 法求解 Poission 过程的一维分布。
随机过程第一章课件
5.2 随机过程分类和举例
【二】举例:
【例二】参数连续离散型随机过程：脉冲数字通信系统。 该系统传送的信 号是脉宽为 T0 的脉冲信号，每隔 T0 送出一个脉冲。脉冲幅度X t 是一个随机变量，它可能取四个值 2,1,1,2 ，且取这四个值的 概率是相等的，即
PX t 2 PX t 1 PX t 1 PX t 2 1 / 4
【分析】设 V 0,1,
1 2 , 得到几个样本函数，可以画出它们的波形（略） 4 3
5.2 随机过程分类和举例
【二】举例:
【例三分析续】正弦波随机过程：
X （2）当 t 0 时， 0 V ，故 X 0 的概率密度就是 V 的概率密度，即
otherwise 时， 1 当 t1 X t1 X 1 V cos V ，故 4 4 2 1 2 0 x f X1 x 2 0 otherwise 3 3 1 V ，故 当 t2 时，X t2 X 2 V cos 4 4 2 1 2 x 0 f X 2 x 2 0 otherwise
P X i 1 p, P X i 1 1 p 设质点在 t n 时偏离原点的距离为 Yn ，Yn 也是一随机变量，
于是
Yn X i ,
i 1
n
Y0 0
又设质点每次游动与该质点所处的位置无关，当 i k 时 X i 与 X k 是相互统计独立的随机变量。
则称
X t, , t T ,
为随机过程，简记为
X t , t T 。
一个随机过程 X t , t T 实际上是两个变量的二元函 数，其中 一个变量为样本空间 中 的 ，另一个为参 T 数集 t 中的 。
随机过程课件
1
m X (t1 )][ x2 m X (t 2 )] f ( x1 x2 ; t1 , t 2 )dx1dx 2 f ( x1, x2 ; t1 , t 2 )dx1dx 2
x x
1 2
X(t) 协方差与相关函数的关系为 当 mx (t ) 0 时 C X (t 1 , t 2 ) R X (t 1 , t 2 ) 在协方差定义中取t1=t2=t,就有
为XT 的均值函数或数学期望。其中F(x,t)是过程 的一维分布函数。 若是连续型随机变量，有 mX (t) xf(x,t)dx 其中f(x,t)是一维分布密度。 12
2．随机过程的方差 若 DX (t) 2 (t) E[X(t) mX (t)]2 存在，t∈T， X 称为X（t）的方差。 x (t) Dx (t) 称为X（t）的标准差。 它们描绘过程的样本曲线在各个t时刻对均 值 m X ( t ) 的离散程度， 对每个t1∈T， EX (t1 ) 反映t1状态取值的概率平均。 DX (t1 ) 反映t1状态取值与 EX (t1 ) 离散程度。 在工程中随机过程的均方值具有物理意义，比 较有用。均方值定义为： E[ X 2 (t )] X (t ) DX (t ) E( X 2 (t )) E 2 ( X (t )) 有关系式： 13 Dx (t ) x (t ) [mx (t )]2 即
第一章. 随机过程的基本概念
§1.1 随机过程及其概率分布
在实际问题中，有时需要对随机现象的变化进 行研究，这时就必须考虑无穷个随机变量或一族 随机变量, 我们就称这种随机变量族为随机过程。 例1: 生物群体的增长问题。在描述群体的发展 或演变过程中, 以 Xt 表示在时刻 t 群体的个数, 则 对每一个 t ，Xt 是随机变量。假设我们从 t ＝0 开 始每隔24小时对群体的个数观测一次, 则{Xt , t ＝0, 1, 2, ...}是一个随机过程。 例2: 电话呼唤问题。某电话总机在[0，t]时间 内收到的呼唤次数用 Xt 来表示, 则对于固定的 t ， 1 Xt 是随机变量。于是{Xt , t ∈[0, ∞)}是随机过程。
3 马尔科夫随机过程(可靠性讲义)--31
表示初始状态位于状态i，经过一个时间间隔后转移到状态
()⎢⎢⎢⎣⎡=−=−3/43/23/83/43/43/51
Q E N 初始状态为3时的平均1718
20
共因停运
不计共因停运
U:up D:down
状态合并连续马尔科夫过程(状态合并的条件)
•状态合并的条件：组合状态内的每一状态到组合外仍一其他状态或状态群的转移率都相同。
状态
若干状态合并后的组合:J J
j I i I i ji JI J j ij IJ ⎪⎩
⎪⎨
⎧∈=∈=∑∑∈∈λλλλ23连续马尔科夫过程(状态空间图应用算例)U:up D:down
24
马尔科夫模型
25 马尔科夫模型
连续马尔科夫过程(失效前平均时间[2元件])选择Δt 为
微小时段，即单位时间
由马尔科夫链可知，从状态29
从状态i 开始进入吸收态3前到状态⎦从状态i 开始进入吸收态3前到状态1
)(−−=Q E M
从状态i 开始进入吸收态3前到状态⎤
⎡+λμλ21。
随机过程课件PPT资料(正式版)
应怎样分才合理呢➢？」
☞随机事件：样本空间的子集,常记为 A ,B ,…它是满足某些条件的样本点所组成的集合.
排队和服务系统 ◙A∩勤B 奋⇔、A刻B ：苦A、与合➢B作的、积探事索件；； 更新过程 为从事科学研究打下坚实的基础；
☞抽取的是精装中➢文版数学书 ⇒
➢ 时间序列分析
➢ 鞅过程
绪论
《随机过程》基础
概率(或然率或几率) ——随机事件出现的可能 性的量度；
概率论其起源与博弈、 、天气预报等问题有 关
⊕16世纪意大利学者开始研究掷骰子等赌博 中的一些问题；
⊕17世纪中叶，「现有两个赌徒相约赌若干 局，谁先赢S局就算赢了，当赌徒A赢K局(K<S)， 而赌徒B赢L局(L<S)时，赌博中止，赌资应怎 样分才合理呢？」
随机过程课件
《随机过程》
➢ 教材： ◙ 张卓奎,陈慧婵，随机过程.西安电子科技大 学.2003.
➢ 主要参考文献： ◙ 胡奇英编著,随机过程.西安电子科技大学.1998. ◙ 周荫清 ,随机过程习题集. 清华大学出版社, 2004. ◙ 林元纟金烈 ,应用随机过程. 清华大学出版社, 2002.
……
➢ 随机过程理论在社会科学中例如在社会统计， 学、经 济、金融工程、管理中也得到极其广泛的应用。
➢ 为从事科学研究打下坚实的基础；
绪论
教学目标
➢ 充分理解、熟练掌握教材的内容 ◙ 熟练掌握基本的数学概念和定理；
◙ 熟练掌握随机过程研究对象的数学描述；
Hale Waihona Puke ➢ 通过学习和练习，具备一定的分析、解决本专业具体 问题的能力；
☞拉普拉斯曾说：“生活中最重要的问题，其中 绝大多数在实质上只是概率的问题”。
☞概率论是研究随机现象数量规律的数学分支。 在实际中，人们往往还需要研究在时间推进中某 一特定随机现象的演变情况，描述这种演变的就 是概率论中的随机过程。
☞随机事件：样本空间的子集,常记为 A ,B ,…它是满足某些条件的样本点所组成的集合.
排队和服务系统 ◙A∩勤B 奋⇔、A刻B ：苦A、与合➢B作的、积探事索件；； 更新过程 为从事科学研究打下坚实的基础；
☞抽取的是精装中➢文版数学书 ⇒
➢ 时间序列分析
➢ 鞅过程
绪论
《随机过程》基础
概率(或然率或几率) ——随机事件出现的可能 性的量度；
概率论其起源与博弈、 、天气预报等问题有 关
⊕16世纪意大利学者开始研究掷骰子等赌博 中的一些问题；
⊕17世纪中叶，「现有两个赌徒相约赌若干 局，谁先赢S局就算赢了，当赌徒A赢K局(K<S)， 而赌徒B赢L局(L<S)时，赌博中止，赌资应怎 样分才合理呢？」
随机过程课件
《随机过程》
➢ 教材： ◙ 张卓奎,陈慧婵，随机过程.西安电子科技大 学.2003.
➢ 主要参考文献： ◙ 胡奇英编著,随机过程.西安电子科技大学.1998. ◙ 周荫清 ,随机过程习题集. 清华大学出版社, 2004. ◙ 林元纟金烈 ,应用随机过程. 清华大学出版社, 2002.
……
➢ 随机过程理论在社会科学中例如在社会统计， 学、经 济、金融工程、管理中也得到极其广泛的应用。
➢ 为从事科学研究打下坚实的基础；
绪论
教学目标
➢ 充分理解、熟练掌握教材的内容 ◙ 熟练掌握基本的数学概念和定理；
◙ 熟练掌握随机过程研究对象的数学描述；
Hale Waihona Puke ➢ 通过学习和练习，具备一定的分析、解决本专业具体 问题的能力；
☞拉普拉斯曾说：“生活中最重要的问题，其中 绝大多数在实质上只是概率的问题”。
☞概率论是研究随机现象数量规律的数学分支。 在实际中，人们往往还需要研究在时间推进中某 一特定随机现象的演变情况，描述这种演变的就 是概率论中的随机过程。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
（2）每次试验的结果不止一个，并能事先明确 试验的所有可能的结果；
（3）每次试验前不能确定哪个结果会出现。
随机试验
为研究随机现象的规律性，往往进行试验。例如： 1. 抛一枚硬币，观察正面、反面出现的情况。 2.抛一枚骰子，观察出现的点数。 3.记录某段时刻来某个银行办理业务的顾客数。 4. 记录车站售票处一天内售出的车票数。 5. 在一批灯泡中任意抽取一只，测试它的寿命。 6. 记录某地一昼夜的最高温度和最低温度。
随机变量
取到次品的个数 顾客数 销售量 猜对的题数
可能的取值
0, 1, 2, …, 100 0, 1, 2, … 0, 1, 2, … 0, 1, ... , 10
3．分布密度
连续型 随机变量
如果对于随机变量X的分布函数为F（x）， 存在非负的函数f（x）,使对任意的实数x 有
x
F(x) f (t)dt
2. 相关系数
rXY
Cov(X ,Y ) D(X )D(Y )
3．性质
n
n
n
（1） D( X i ) D(X i ) 2 Cov(X i , X j )
i1
i1
i, j1
i j
（2）若X和Y相互独立，则
Cov( X ,Y ) 0
（3）| rXY | 1
（4） | rXY | 1 的充要条件是X与Y以概率1
1．联合分布函数
设 X1，X 2，，X n 是样本空间的n个随机
变量，x1，x2，，xn为任意实数，则称
F(x1，x2 ,, xn ) P(X1 x1, X 2 x2 ,, X n xn )
为随机变量的n维联合分布函数 。
特别地 F(x，y) P(X x,Y y)
即是X，Y的二维联合分布函数。
则称X为连续型随机变量，f（x）称为X的概率密 度，且满足
f (x) 0
f (x)dx 1
连续型随机变量
连续型随机变量的一些例子
试验
随机变量
可能的取值
抽查一批电子元件 使用寿命(小时)
X0
新建一座住宅楼
半年后工程完成的百分比 0 X 100
测量一个产品的长度 测量误差(cm)
X0
二、随机变量的联合分布
s (2 s n) 和 1 i1 i2 is n ，有 P（Ai1 Ai2 Ais） P（Ai1）P（Ai2）P（Ais）
则称事件 A1，A2，，An 相互独立。
美国有一对夫妻连续生了8个儿子。他们原本只想要4 个小孩，但是当前面4个小孩都是男孩时，他们想再生一 个女孩，直到连续生了7个男孩。后来他们的医生都保证 说，按照平均数定律，下次生女孩的概率是99％。不幸的 是，第8次还是男孩。因为生孩子和扔硬币一样，连续8个 男孩的概率固然很小，但是在已经生了7个男孩之后，下 一个是女孩的概率仍然是50％。
i1 j 1
2．二维分布密度
连续型
如果存在一个非负的二元函数f（x，y）,使对 任意的实数x，y有
F(x，y) x y f (u,v)dudv
则称（X，Y）为二维连续型随机变量，f（x，y）称为 （X，Y）的概率密度，满足：
f (x, y) 0
f (x, y)dxdy 1
3．边缘分布及独立性
第一章 预备知 识
第一节 概 率 第二节 随机变量及其分布 第三节 随机变量的数字特征 第四节 矩母函数和特征函数 第五节 条件期望 第六节 指数分布 第七节 n维正态分布
第八节 收敛性和极限定理
第一节 概 率
一、基本概念 ：
1．随机试验 其结果在事先不能确定的试验。 具有三个特性：
（1）可以在相同的条件下重复进行；
称随机变量 [X E(X )]2的期望为X的
方差，即
D(X ) E[(X E(X ))2 ]
计算方差时通常用下列关系式：
D(X ) E[X 2 ] [E(X )]2
3．性质
（1） E(C) C D(C) 0
E(CX ) CE(X ) D(CX ) C 2D(X )
n
n
（2） E( X i ) E(X i )
2．样本空间 3．随机事件
随机试验所有可能结果的集合， 记为。其中每一个结果，称 为样本点 。
样本空间的一个子集 A 。
4．概率
对样本空间的每一个事件A，都有 一实数P（A）与之对应，且满足：
（1） 0 P（A） 1
（2） P（） 1
（3）对两两互不相容的事件序列 A1，A2，
P（ Ai） P（Ai )
i 1
i 1
则称P（A）为事件A的概率。
二、概率的性质：
1 P（） 0 2 P（A B） P（A） P（B） P（A B）
3 P(Ac ) 1 P(A)
4 设 A1，A2， ，An 两两互不相容 ，则
n
n
P（ Ai） P（Ai )
i 1
i 1
5 设两两互不相容的事件 A1，A2， ， Ai
n
P( A) P（Bi）P（A | Bi ) i 1
（2）对任意事件A ，若 P（A） 0 ，有
P(Bi | A)
P（Bi）P（A | Bi )
n
P（Bi）P（A | Bi )
i 1
四、独立性
1．定义
如果事件A，B满足
P（AB） P（A）P（B）
则称事件A，B相互独立。 设 A1，A2，，An 是n个事件，如果对于任意
个 都有唯一的一个实数 X () 与之对应，这 种对应关系称为一个随机变量，记作X () 或X。
2．分布函数
随机变量X取值不超过x的概率 P(X x)， 称
为X的分布函数（其中x为任意实数），记为
F(x) 即 F(x) P(X x) x
分布函数F（x）具有下列性质：
1
0 F(x) 1 x
线性相关，即
P(Y aX b) 1
离散型随机变量的方差
（实例）
某人花2元钱买彩票，他抽中100元奖的概率 是0.1%，抽中10元奖的概率是1%，抽中1元奖的 概率是0.5，求：
此人收益的概率分布； 此人收益的期望值和方差。
X = xi P(X =xi)=pi
100 10 1 0 0.001 0.01 0.5 0.489
随机过程 Stochastic processes
1
参考教材
随机过程，刘次华著，华中科技大学出版社，第四版 随机过程及其在金融领域中得应用， 王军，王娟著，清
华大学出版社
人类社会的三类现象
在自然界和人类社会活动中，普遍存在三类现象： 确定性现象：在相同的条件下出现相同的结果，称为
确定性现象或必然现象。如早上太阳在东方升起。 随机性现象：在相同的条件下出现不同的结果，但结
E(X )
xk pk
k 1
设连续型随机变量X的概率密度为 f (x) ，
则
E(X )
xf (x)dx
函数期望 Y g(X )
当 X为离散型随机变量
则 E(Y ) E[g(X )] g(xk ) pk k 1
当X为连续型随机变量，
则
E(Y
)
E[ g ( X
)]
g(x)
f
(x)dx
2. 方差
2．独立性的性质
定理3 若事件A，B相互独立，则A与B ；A与B ；
A与B 分别也相互独立。
定理4 设事件A1，A2，，An 相互独立，若其中
任意 m(1 m n)个事件相应地换成它们的
对立事件，则所得的n个事件仍然相互独立。
第二节 随机变量及其分布
一、一维随机变量的分布
1．随机变量
设随机试验的样本空间为 ，如果对于每一
P( X xi ,Y y j ) pij
则 pi P(X xi ) pij (i 1,2,
j 1
p j P(Y y ຫໍສະໝຸດ ) pijj 1,2,)
i1
分别称为（X，Y）关于X和Y的边缘分布律。
X和Y相互独立的充要条件是 pij pi p j
连续型 则
若随机变量（X，Y）的概率密度为 f (x, y)
例2（匹配问题）
在一次集会上，n个人把他们的帽子放到房间的 中央混合在一起，而后每个人随机地选取一项，求 拿到自己的帽子的人数X的均值和方差。
解 利用表达式 X X1 X 2 X n
其中
Xi
1，如果第i个人拿到自己的帽子
0，其它
即求期望和方差
因
P(X i 1) 1/ n
故
E(Xi ) 1/ n
离散型随机变量的方差
（实例）
X = xi
100 10 1 0
P(X =xi)=pi
0.001 0.01 0.5 0.489
解：数学期望为：E ( X
)
4
xi
pi
100 0.001
0 0.489 0.7元
i 1
方差为：
D(
X
)
4
xi
E(
X
)2
pi
i 1
(100 0.7)2 0.001
(0 0.7)2 0.489 11.0（1 元2）
i 1
i1
（3） 若X和Y相互独立，则
E(XY ) E(X )E(Y )
（4） D(X ) 0 的充要条件是 P[X E(X )] 1
二、协方差和相关系数
1．协方差
Cov(X ,Y) E[(X E(X ))(Y E(Y))]
计算协方差时通常用下列关系式：
Cov(X ,Y ) E(XY ) E(X )E(Y)
1}
1 n
边缘分布
设（X，Y）的分布函数为 F(x，y)，则X，Y 的分布函数 FX (x)、FY ( y)，依次称为关于X和关于Y
（3）每次试验前不能确定哪个结果会出现。
随机试验
为研究随机现象的规律性，往往进行试验。例如： 1. 抛一枚硬币，观察正面、反面出现的情况。 2.抛一枚骰子，观察出现的点数。 3.记录某段时刻来某个银行办理业务的顾客数。 4. 记录车站售票处一天内售出的车票数。 5. 在一批灯泡中任意抽取一只，测试它的寿命。 6. 记录某地一昼夜的最高温度和最低温度。
随机变量
取到次品的个数 顾客数 销售量 猜对的题数
可能的取值
0, 1, 2, …, 100 0, 1, 2, … 0, 1, 2, … 0, 1, ... , 10
3．分布密度
连续型 随机变量
如果对于随机变量X的分布函数为F（x）， 存在非负的函数f（x）,使对任意的实数x 有
x
F(x) f (t)dt
2. 相关系数
rXY
Cov(X ,Y ) D(X )D(Y )
3．性质
n
n
n
（1） D( X i ) D(X i ) 2 Cov(X i , X j )
i1
i1
i, j1
i j
（2）若X和Y相互独立，则
Cov( X ,Y ) 0
（3）| rXY | 1
（4） | rXY | 1 的充要条件是X与Y以概率1
1．联合分布函数
设 X1，X 2，，X n 是样本空间的n个随机
变量，x1，x2，，xn为任意实数，则称
F(x1，x2 ,, xn ) P(X1 x1, X 2 x2 ,, X n xn )
为随机变量的n维联合分布函数 。
特别地 F(x，y) P(X x,Y y)
即是X，Y的二维联合分布函数。
则称X为连续型随机变量，f（x）称为X的概率密 度，且满足
f (x) 0
f (x)dx 1
连续型随机变量
连续型随机变量的一些例子
试验
随机变量
可能的取值
抽查一批电子元件 使用寿命(小时)
X0
新建一座住宅楼
半年后工程完成的百分比 0 X 100
测量一个产品的长度 测量误差(cm)
X0
二、随机变量的联合分布
s (2 s n) 和 1 i1 i2 is n ，有 P（Ai1 Ai2 Ais） P（Ai1）P（Ai2）P（Ais）
则称事件 A1，A2，，An 相互独立。
美国有一对夫妻连续生了8个儿子。他们原本只想要4 个小孩，但是当前面4个小孩都是男孩时，他们想再生一 个女孩，直到连续生了7个男孩。后来他们的医生都保证 说，按照平均数定律，下次生女孩的概率是99％。不幸的 是，第8次还是男孩。因为生孩子和扔硬币一样，连续8个 男孩的概率固然很小，但是在已经生了7个男孩之后，下 一个是女孩的概率仍然是50％。
i1 j 1
2．二维分布密度
连续型
如果存在一个非负的二元函数f（x，y）,使对 任意的实数x，y有
F(x，y) x y f (u,v)dudv
则称（X，Y）为二维连续型随机变量，f（x，y）称为 （X，Y）的概率密度，满足：
f (x, y) 0
f (x, y)dxdy 1
3．边缘分布及独立性
第一章 预备知 识
第一节 概 率 第二节 随机变量及其分布 第三节 随机变量的数字特征 第四节 矩母函数和特征函数 第五节 条件期望 第六节 指数分布 第七节 n维正态分布
第八节 收敛性和极限定理
第一节 概 率
一、基本概念 ：
1．随机试验 其结果在事先不能确定的试验。 具有三个特性：
（1）可以在相同的条件下重复进行；
称随机变量 [X E(X )]2的期望为X的
方差，即
D(X ) E[(X E(X ))2 ]
计算方差时通常用下列关系式：
D(X ) E[X 2 ] [E(X )]2
3．性质
（1） E(C) C D(C) 0
E(CX ) CE(X ) D(CX ) C 2D(X )
n
n
（2） E( X i ) E(X i )
2．样本空间 3．随机事件
随机试验所有可能结果的集合， 记为。其中每一个结果，称 为样本点 。
样本空间的一个子集 A 。
4．概率
对样本空间的每一个事件A，都有 一实数P（A）与之对应，且满足：
（1） 0 P（A） 1
（2） P（） 1
（3）对两两互不相容的事件序列 A1，A2，
P（ Ai） P（Ai )
i 1
i 1
则称P（A）为事件A的概率。
二、概率的性质：
1 P（） 0 2 P（A B） P（A） P（B） P（A B）
3 P(Ac ) 1 P(A)
4 设 A1，A2， ，An 两两互不相容 ，则
n
n
P（ Ai） P（Ai )
i 1
i 1
5 设两两互不相容的事件 A1，A2， ， Ai
n
P( A) P（Bi）P（A | Bi ) i 1
（2）对任意事件A ，若 P（A） 0 ，有
P(Bi | A)
P（Bi）P（A | Bi )
n
P（Bi）P（A | Bi )
i 1
四、独立性
1．定义
如果事件A，B满足
P（AB） P（A）P（B）
则称事件A，B相互独立。 设 A1，A2，，An 是n个事件，如果对于任意
个 都有唯一的一个实数 X () 与之对应，这 种对应关系称为一个随机变量，记作X () 或X。
2．分布函数
随机变量X取值不超过x的概率 P(X x)， 称
为X的分布函数（其中x为任意实数），记为
F(x) 即 F(x) P(X x) x
分布函数F（x）具有下列性质：
1
0 F(x) 1 x
线性相关，即
P(Y aX b) 1
离散型随机变量的方差
（实例）
某人花2元钱买彩票，他抽中100元奖的概率 是0.1%，抽中10元奖的概率是1%，抽中1元奖的 概率是0.5，求：
此人收益的概率分布； 此人收益的期望值和方差。
X = xi P(X =xi)=pi
100 10 1 0 0.001 0.01 0.5 0.489
随机过程 Stochastic processes
1
参考教材
随机过程，刘次华著，华中科技大学出版社，第四版 随机过程及其在金融领域中得应用， 王军，王娟著，清
华大学出版社
人类社会的三类现象
在自然界和人类社会活动中，普遍存在三类现象： 确定性现象：在相同的条件下出现相同的结果，称为
确定性现象或必然现象。如早上太阳在东方升起。 随机性现象：在相同的条件下出现不同的结果，但结
E(X )
xk pk
k 1
设连续型随机变量X的概率密度为 f (x) ，
则
E(X )
xf (x)dx
函数期望 Y g(X )
当 X为离散型随机变量
则 E(Y ) E[g(X )] g(xk ) pk k 1
当X为连续型随机变量，
则
E(Y
)
E[ g ( X
)]
g(x)
f
(x)dx
2. 方差
2．独立性的性质
定理3 若事件A，B相互独立，则A与B ；A与B ；
A与B 分别也相互独立。
定理4 设事件A1，A2，，An 相互独立，若其中
任意 m(1 m n)个事件相应地换成它们的
对立事件，则所得的n个事件仍然相互独立。
第二节 随机变量及其分布
一、一维随机变量的分布
1．随机变量
设随机试验的样本空间为 ，如果对于每一
P( X xi ,Y y j ) pij
则 pi P(X xi ) pij (i 1,2,
j 1
p j P(Y y ຫໍສະໝຸດ ) pijj 1,2,)
i1
分别称为（X，Y）关于X和Y的边缘分布律。
X和Y相互独立的充要条件是 pij pi p j
连续型 则
若随机变量（X，Y）的概率密度为 f (x, y)
例2（匹配问题）
在一次集会上，n个人把他们的帽子放到房间的 中央混合在一起，而后每个人随机地选取一项，求 拿到自己的帽子的人数X的均值和方差。
解 利用表达式 X X1 X 2 X n
其中
Xi
1，如果第i个人拿到自己的帽子
0，其它
即求期望和方差
因
P(X i 1) 1/ n
故
E(Xi ) 1/ n
离散型随机变量的方差
（实例）
X = xi
100 10 1 0
P(X =xi)=pi
0.001 0.01 0.5 0.489
解：数学期望为：E ( X
)
4
xi
pi
100 0.001
0 0.489 0.7元
i 1
方差为：
D(
X
)
4
xi
E(
X
)2
pi
i 1
(100 0.7)2 0.001
(0 0.7)2 0.489 11.0（1 元2）
i 1
i1
（3） 若X和Y相互独立，则
E(XY ) E(X )E(Y )
（4） D(X ) 0 的充要条件是 P[X E(X )] 1
二、协方差和相关系数
1．协方差
Cov(X ,Y) E[(X E(X ))(Y E(Y))]
计算协方差时通常用下列关系式：
Cov(X ,Y ) E(XY ) E(X )E(Y)
1}
1 n
边缘分布
设（X，Y）的分布函数为 F(x，y)，则X，Y 的分布函数 FX (x)、FY ( y)，依次称为关于X和关于Y