第1章 随机过程预备知识(2)

合集下载

(完整版)随机过程知识点汇总

(完整版)随机过程知识点汇总

第一章随机过程 的基本概念与基本类型 一.随机变量及其分布X ,分布函数 F (x) P(X x) 1.随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x)p kf (t)dt分布函数kxX 的概率分布用概率密度 f (x)F(x)分布函数连续型随机变量 2.n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,)其联合分布函数 1 2 n 1 1 2 离散型联合分布列连续型联合概率密度3.随机变量 的数字特征 数学期望:离散型随机变量 XEX x p kkXEX xf (x)dx连续型随机变量2DX E(X EX) 2 EX (EX) 2方差:反映随机变量取值 的离散程度协方差(两个随机变量 X ,Y ):B E[( X EX)(Y EY)] E(XY) EX EYXYB XY相关系数(两个随机变量X,Y ):0,则称 X ,Y 不相关。

若XYDX DY独立不相关itXg(t) E(e )itxe p k 连续 g(t)ke itxf (x)dx4.特征函数离散 g(t) 重要性质: g(0) 1,g(t) 1 g( t) g(t),, g (0) i EX kk k5.常见随机变量 的分布列或概率密度、期望、方差 0-1分布 二项分布P( X 1) p,P( X 0) qEX pDX pqP(X k) C p q n kk kEX npDX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)21 2N(a, ) f (x)222EX a正态分布eDX2xe ,x 0 0, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X ~ N(a, B) 6.N维正态随机变量1 2 n11 2T 1(x a) B (x a)}f (x , x , , x n ) exp{ 11 2n 2(2 ) | B |2a (a ,a , ,a ), x (x , x , ,x ), B (b ) 正定协方差阵 1 2 n 1 2 n ij n n二.随机过程 的基本概念 1.随机过程 的一般定义设 ( , P)是概率空间, T 是给定 的参数集,若对每个 t T ,都有一个随机变量 X 与之对应, X(t,e),t T ( , 是P)上 的随机过程。

随机过程_第一章

随机过程_第一章
k k 1 k 1 k
则称P为(Ω,F)上的概率,(Ω,F,P)称 为概率空间,P(A)为事件A的概率。
由此定义出发,可推出概率的其它一些性质:
(4) P(F) 0;
(5) 若A, B F , A B, 则P( B A) P( B) P( A), 且P( B) P( A)
FY ( y ) P(Y y ) P( X , Y y ) F (, y )
分别称FX(x)和FY(y)为 F ( x, y ) 关于X和关于Y的 边缘分布函数。
离散型随机变量(X,Y)边缘分布律计算如下
P( X xi ) pi pij

, i 1,2,
设X,Y是两个随机变量,若对任意实数x,y有
P( X x, Y y) P(( X x) (Y y)) P( X x)P(Y y)
则称X,Y为相互独立的随机变量。
若X,Y为相互独立随机变量,则有
F ( x, y ) FX ( x) FY ( y ) f ( x, y ) f X ( x ) f Y ( y )
注:所谓某个事件在 试验中是否出现,当且仅 当该事件所包含的某个样本点是否出现,因此 一个事件实际上对应于的一个确定的子集。 事件的概率论运算 Ω子集的集合论运算。
样本空间 W 也是一个事件, 称 W 为必然事件,
空集 F 称为不可能事件。
注:由于事件是集合,故集合的运算(并、交、 差、上极限、下极限、极限等)都适用于事件。
定义1.5 设( Ω ,F,P)是概率空间,X=X(e) =(X1(e),…,Xn(e))是定义在Ω上的n维空间Rn中 取值的向量函数。如果对于任意x=(x1,…,xn) ∈Rn, {e:X1(e) ≤x1,…,Xn(e) ≤xn} ∈F,则称X=X(e)为n维 随机变量。称

随机过程预备知识

随机过程预备知识
上的概率,称(Ω,F,PB)是条件概率空间.

概率空间
四、全概率公式与Bayes公式 定理:设 (Ω,F, P)是概率空间,若 1) A i∈F, 且 P(Ai)>0 ,(i=1,2, …); 2)
i 1
Ai Ω , Ai A j .

完备性 条件.

概率空间
则对任意B∈F 有 1)
Ak Ak 1 B k , ˆ
kn kn
An+1
n 1,2,

其中B1,B2,…互不相容,由完全可加性有
概率空间
1 P ( A1 ) P B k P Ak Ak 1 0 k 1 k 1
lim P Bn 0 P An P A P An A 0.
n
P An P A
( as
n )

概率空间
4)多除少补原理 设 Ai F, i 1,2, , n , 有
n n P Ai P Ai i 1 i 1
P Ai P Ai i 1 i 1
Ai F i 1,2, , Ai A j , i j ,
称P是(Ω,F)上的概率(测度),P(A)是事件A 的概率. 三元体(Ω,F, P)称为概率空间.

概率空间
二、概率性质 设(Ω,F, P)是概率空间,则概率P 有如下性质: 1) P(φ)=0;
n
lin P An P A.

n 1
概率空间
A
证:在推论2中
令 Bn An A, 则 B1 B2 ,

随机过程第一章概率预备知识

随机过程第一章概率预备知识

随机过程的有限维分布
定义
随机过程的有限维分布是指多个时间点的联合概率分布,描述了随机过程在不同 时间点的相关性。
性质
有限维分布具有时间可加性,即随着时间的推移,联合概率分布可以由单个时间 点的概率分布累加得到。
随机过程的数字特征
定义
随机过程的数字特征是一组统计量, 用于描述随机过程的总体“性格”, 如均值、方差、偏度、峰度等。
状态分类
根据状态之间的转移关系,可以将状态分为 吸收态、周期性状态和遍历状态等。
转移概率矩阵
描述状态之间转移概率的矩阵,其中每个元 素$P_{ij}$表示从状态$i$转移到状态$j$的 概率。
极限定理和不变概率分布
极限定理
描述马尔科夫链状态概率的极限行为,如强大数定律和中心极限定理等。
不变概率分布
随机过程在金融风险管理领域也发挥 了重要作用,如通过蒙特卡洛模拟等 方法评估投资组合的风险。
在物理和工程中的应用
物理模拟
在物理学的许多领域,如粒子物 理学和流体动力学,随机过程用 于模拟自然现象和实验结果的统
计性质。
通信工程
在通信系统中,随机过程用于描 述信号的噪声和干扰,以及信道
容量等性能指标。
对数函数
对于随机变量X,对数函 数f(X)=lnX的期望和方差 分别为E(lnX)=lnE(X)和 Var(lnX)=1/E(X)Var(X)。
Part
03
随机过程的基本概念
随机过程的定义和分类
定义
随机过程是由随机变量构成的数学结 构,每个随机变量对应一个时间点或 位置。
分类
根据不同的特性,随机过程可以分为 离散时间随机过程和连续时间随机过 程,平稳随机过程和非平稳随机过程 等。

第一章 随机过程 第二节 随机过程的基本概念

第一章 随机过程 第二节  随机过程的基本概念
若 FX ( x, t ) 的偏导数存在,则有随机 过程 X(t)一维概率密度函数
FX ( x1 , t1 ) f X ( x1 , t1 ) x1
2 、二维概率分布 为了描述S.P在任意两个时刻t1和t2的状态间的 内在联系,可以引入二维随机变量[X(t1),X(t2)]的分 布函数FX(x1,x2;t1,t2),它是二随机事件{X(t1)≤x1} 和{X(t2)≤x2}同时出现的概率,即
FX(x1,x2;t1,t2)=P{ X(t1)≤x1,X(t2)≤x2}
称为随机过程X(t)的二维分布函数。 若FX(x1,x2;t1,t2)对x1,x2的二阶混合偏导存在, 则 2 F ( x , x ;t ,t )
f X ( x1 , x2 ; t1 , t 2 )
X 1 2 1 2
x1x2
E[cos ] cos f ( )d cos
0 0
2
2
同理
1 d 0 2
E[sin ] 0
mx (t ) 0
2 2 x (t ) 2 (t ) mx (t ) 2 (t ) E[ x2 (t )] x x (2)
2 = E[sin (0t )] E [1 cos(20t 2 )]
t 离散型随机过程:对随机过程任一时刻1 的取值X (t1 ) 都是离散型随机变量。
连续随机序列:随机过程的时间t只能取 t 某些时刻,如 t , 2 ,…..,n t,且这 时得到的随机变量 X ( nt ) 是连续型随机变 量,即时间是离散的。相当于对连续型随 机过程的采样。 离散随机序列:随机过程的时间t只能取 t 某些时刻,如 t , 2 ,…..,n t,且这 时得到的随机变量 X ( nt ) 是离散型随机变 量,即时间和状态是离散的。相当于采样 后再量化 。

随机过程第章预备知识

随机过程第章预备知识
������ = ������1, ������2, ������3, ������4, ������5, ������6
基本
概念 ℱ = ������, ������1, ������2, ������3 , ������4, ������5, ������6 , Ω - ℱ为-代数, ������, ℱ 为可测空间
代数

若������������ ∈ ℱ ,则‫ڂ‬������������=1 ������������ , ‫ځ‬������������=1 ������������ , ‫ځ‬���∞���=1 ������������ ∈ ℱ (有限并,有限
概率 交,可列交事件)
空间
独立 事件
中南民族大学经济学院
3
《随机过程》第1章-预备知识
1 概率空间
例:抛掷一枚骰子,观察出现的点数。
背景
������ = 1,2,3,4,5,6
基本
概念 ������ = 1,3,5 ⊆ Ω ������ = 2,4,6 ⊆ Ω
-
代数 骰子“出现1点”, “出现2点”, … ,“出现6点”, “点数不大于6”,“点数为偶数” 等都为随机事件.
-
代数 (3)若������������ ∈ ℱ, ������ ∈ ������,则‫ڂ‬���∞���=1 ������������ ∈ ℱ(可列并事件)
概率
空间 则称ℱ为-代数, (������, ℱ)为可测空间。
独立 事件
中南民族大学经济学院
6
《随机过程》第1章-预备知识
背景 例:抛掷一枚骰子,������������表示出现������点。


概率 空间

随机过程第一章 预备知识及补充

随机过程第一章 预备知识及补充
且 A limsup An 。若 P( An ) ,则
n
PAn,i.o. P(A) 0
命题 1.3(波莱尔-坎泰利(Borel-Cantelli)第二引理):如果An , n 1 为独立的事件
序列,使得 P( An ) ,则 n1
PAn,i.o. 1
第一引理证明:
根据定义 1.4 对事件序列An , n 1 上极限的定义可知,因为样本点 在无穷多个事件
n1
n1
假定一些事件组成了一个可数的集合,那么这集合中的至少一个事件发生的概率不大于每个事件
发生的概率的和。);
当 An , n 1, 2,两两互不相容时,则 P( An ) P( An ) ;
n1
n1
概率函数 P 的一个重要性质是连续性,为了更精确地阐明这一性质,需要引进极限事
件的概念。定义如下:
An , n 1发生,则在 An ,k 1也同样发生,从而在
An 亦发生;另一方面,如果
nk
k 1 nk
样本点 在
An ,则对于 k 1, 在 An 发生,从而对于 k 1至少有一个 n k ,
k 1 nk
nk
即 n k ,使得 在 An 发生,因此有 在无穷多个 An 发生。
若 An An1, n 1,称事件序列An , n 1 为递增的;
当 An An1, n 1,则事件序列An , n 1 为递减的。
如果
An
,
n
1
是一递增的事件序列,那么我们定义一个新的事件,记为
lim
n
An

lim
n
An
Ai ;
i 1
如果
An
,
n
1
是一递减的事件序列,那么我们定义一个新的事件,记为

概率论与随机过程

概率论与随机过程

概率论与随机过程(工程硕士生60学时)教材及主要参考书:1.《随机过程》刘次华著,华中理工大学出版社出版。

2.《概率论与数理统计》浙江大学编,高等教育出版社出版。

3.《概率论与数理统计》同济大学编,高等教育出版社出版。

第一章 概率论第一节 预备知识一、排列与组合问题(一) 排列问题的提法:从n 个不同元素n a a a ...,21中任取r 个)(n r ≤,按先后顺序把它们排列,共有多少种不同的排列?分析:第一个位置有n 种取法,第二个位置有1-n 种取法,…第r 个位置有1+-r n 种取法,则共有:rn A r n n r n n n =-=+--)!(!)1()1((二) 组合问题的提法:从n 个不同元素n a a a ...,21中任取r 个(n r ≤),不按先后顺序得到一种组合,共有多少中不同的组合?分析:由于不按先后顺序,因此r r a a a a 121- 与121a a a a r r -是同一组合,因此一种组合对应!r 种排列,共有:!)1()1(r r n n n +-- =)!(!!r n r n -=rn C 二、集合论(不妨假设所有集合全为Ω的子集)(一)A B ⊂,A 是B 的子集,即集合A 的元素全部属于集合B 。

例:{}全体实数=R {}全体自然数=N 则:R N ⊂(二)B A =B A ⊂⇔且A B ⊂分析:定义蕴涵了证明两个集合相等的方法。

(三)B A C =或B A C +=,即集合C 包含集合A 和集合B 的全部元素,但不包含其它元素。

例:{}全体有理数=A {}全体无理数=B 则:{}R B A C ==+=全体实数 1.运算规律(1)交换律 A B B A =(2)结合律 )()(C B A C B A =特别地:若B A ⊂,则:B B A =A A =Φ Ω=Ω A A A A =2.推广情形集合的并运算可以推广到有限个、可数多个甚至到不可数情形,为了阐述清楚,下面补充可数集合的定义。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
随机过程
学习要求
• 不仅是掌握知识,更重要的是掌握思想 • 学会把抽象的概率和实际模型结合起来
2012-9-20
2
学习重点
1. 用随机变量表示事件及其分解——基本理论 2. 全概率公式——基本技巧 3. 数学期望和条件数学期望——基本概念
2012-9-20
3
1.2 随机变量
• 设( ,F,P )为概率空间, • 映射X : R, ω X( ω )满足 • 对任意 aR, { ω : X(ω) a } F, • 则称 X(ω)是随机变量,简记 X 。 • 对xR,称F(x)=P{ ω:X(ω)x }为随机 变量X的累积分布函数,简称分布函数,或 F(x)=P( Xx )= P( X [-∞,x ] )
2012-9-20


g ( x) f ( x)dx
21
随机变量的函数的数学期望
TH2: 若a和b都是常数,则 E[aX+b]= aE[X] + b 证明: 若X是离散随机变量: 若X是连续随机变量:
2012-9-20 22
n维随机变量及其概率分布
设(, F,P)为概率空间, X=X(e)=( X1(e), X2(e),, Xn(e) )是定义在 上的n维空间Rn中取值的向量函数, x=(x1, x2, , xn)Rn, {e:X1(e)x1, X2(e)x2, ,Xn(e)xn} F, 则称X(e)是n维随机变量,简记为 X =(X1, X2,, Xn)。
p+q=1, k=1,2,
18
(1)均匀分布
1 ,a x b f ( x) b a 0 , 其它
EX=(a+b)/2, DX=(b-a)2/12
(2)正态分布
1 f ( x) e 2
( x )2 2 2
EX=μ, DX=σ2
(3)指数分布
e , x 0 f ( x) , 0 0 , x 0
2012-9-20 7
正面出现的次数 用X表示,则X是一个取值于0,1,2的 随机变量,分别具有概率: P(X=0)= P({反反})= 1/4, P(X=1)= P({正反,反正})= 2/4, P(X=2)= P({正正})= 1/4, 并且有: P(X=0) + P(X=1) + P(X=2) = 1
2012-9-20 20
随机变量的函数的数学期望
无需确定g(X)的分布,计算期望:TH1 若X是离散随机变量,有概率质量函数p(x), 则对于任意实值函数g(X): E[g(X)]=
x: p ( x ) 0


g ( x) p( x)
若X是连续随机变量,有概率密度函数f(x), 则对于任意实值函数g(X): E[g(X)]=
F( y1, y2 ,, yn ) f ( x1, x2 ,, xn )dx1 dxn

y1
yn
(y1, y2, , yn) Rn
27
•随机变量的独立性 设{ Xt ,tT }是一族随机变量,若对任意n2 和t1, t2,, tn T ,x1, x2, , xn R , 有
k! >0, k=0,1,2,
k 1
P (X = k) =
k
e

(4)几何随机变量(几何分布)
P( X =k ) =
0<p<1,
pq

p+q=1, k=1,2,
11
连续型随机变量
• 连续型:其可能值不是可数的。 • 连续型随机变量X的概率分布用概率密度函数 • 对于连续型随机变量X,如存在一个定义在所 有实数 x(-∞,∞)上的非负函数f(x), 使得对于任意实数集合B,有性质
2012-9-20 4
• F(x)=P( Xx )= P( X [-∞,x ] ) • 分布函数的性质: (1)单调性:若x1<x2,则F(x1)F(x2)
F ( x) 0 (2) F () xlim
F ( x) 1 (3) F () xlim
(4)F(x)右连续, F(x+0) = F(x) 这三个性质完全刻划了分布函数
k n k nk
, EX=np,DX=np(1-p)
k=1,2,,n
2012-9-20
17
(3)泊松随机变量(泊松分布)
k! >0, k=0,1,2,
k 1
P (X = k) =
k
e

EX=λ, DX=λ
(4)几何随机变量(几何分布)
P(X=k) = pq
0<p<1,

EX=1/p DX=(1-p)/p2
9
离散型随机变量
(1)伯努利随机变量(0-1分布,两点分布) P(X=1)=p, P(X=0)=q, 0<p<1, p+q=1 (2)二项随机变量(二项分布) P(X=k) = C p q 0<p<1, p+q=1,
k n k nk

k=1,2,,n
2012-9-20
10
(3)泊松随机变量(泊松分布)
2012-9-20 8
随机变量:离散型,连续型
• 离散型:最多取可数个可能值的随机变量。 • 离散型随机变量X的概率分布用 pk = P(X=xk) • 分布律(列)描述,称pk为概率质量函数。 • 分布函数:
F(x ) p k
xk x
• 常见离散型随机变量X及其分布律
2012-9-20
F ( y1 , y2 , , yn )
(y1, y2, , yn) Rn .
xi yi i 1,, n
p
x1 ,, x n
26
• n维连续型随机变量 X=(X1, X2, , Xn) 联合概率密度 f(x1, x2, , xn) X=(X1, X2, , Xn)的联合分布函数为
连续型随机变量
x
EX=1/λ DX=1/λ2
19
随机变量的函数的数学期望
例:假定X有如下概率质量函数: p(0)=0.2, p(1)=0.5, p(2)=0.3, 计算E[X2] 解 :令Y=X2,Y是随机变量,取值为 0,1,4,相应概率为 pY(0)=P{Y=02}=0.2, pY(1)=P{Y=12}=0.5, pY(4)=P{Y=22}=0.3。 E[X2]= E[Y]=0(0.2)+1(0.5)+4(0.3) = 1.7
i 1 n
其中xi是Xti的任意可能值(i =1, 2, , n)
29
• 若{Xt , tT}是一族连续型随机变量,则 独立性等价于
f t1 ,,t n ( x1 , x 2 , , x n ) f t i ( x i )
i 1
n
其中 f t1 ,,tn ( x1 , x2 , , xn ) 是n维随机变量
P ( x B) f ( 的概率密度函数
12
• 连续型随机变量X的分布函数F(x)与概率密 度函数f(x)的关系
F ( x) P{ X (, x)}
(1)均匀分布
x

f (t )dt
• 常见连续型随机变量X 及其概率密度
1 ,a x b f ( x) b a 0 , 其它
2012-9-20 23
对 x =(x1, x2, , xn) Rn ,称 F(x) = F(x1, x2, , xn) = P{e:X1(e)x1, X2(e)x2, ,Xn(e)xn} 为 n 维随机变量 X=(X1, X2, , Xn) 的 联合分布函数
24

n维联合分布函数F(x1, x2, , xn)的性质 F(x1, x2, , xn)是非降函数
Eg ( X ) g ( x1 , , x n )dF ( x1 , , x n )

(2)随机变量 X 的期望值E[X](均值,一阶矩) E[Xn],n≥1,称为X的n阶矩。
x n p ( x) x是离散的 x: p ( x ) 0 n E[ X ] x n f ( x)dx x是连续的
P ( X t1 x1 , X t2 x2 , , X tn xn ) P ( X ti xi )
i 1 n
则称{ Xt ,
tT }是独立的。
28
• 若{Xt , tT}是一族离散型随机变量,则 独立性等价于
P ( X t1 x1 , X t 2 x 2 , , X t n x n ) P ( X t i x i )
( X t1 , X t2 , , X tn ) 的联合概率密度,
f ti ( xi ) 是随机变量 X t 的概率密度(i=1,2,,n) i
30
• 随机变量的数字特征的性质 (1)若n维随机变量 X=(X1,X2,,Xn) 的联合分 布函数为F(x1,x2,,xn),g(x1,x2,,xn)是 n维连续函数,则
k 1
• 对连续型随机变量X,概率密度f(x)的 数学期望
EX xf ( x )dx

16
离散型随机变量-数学期望
(1)伯努利随机变量(0-1分布,两点分布) P(X=1)=p, P(X=0)=q, 0<p<1, p+q=1 EX=p, DX=p(1-p) (2)二项随机变量(二项分布) P(X=k) = C p q 0<p<1, p+q=1,
32
例:在一次聚会上,N个人将帽子扔到房间的 中央。帽子混杂了以后,每个人随机地取一个。 计算取到自己的帽子的人的期望数。 解:以X表示取到自己帽子的人数。 (通过 X=X1+…+XN 计算E[X] )
相关文档
最新文档