随机过程导论Chapter 1
15
1.1 Basic concepts
11. Jointly distributed random variable For any two random variables X and Y, the joint cumulative probability distribution function of X and Y is defined by F(a,b)=P{X≤a, Y≤b}, -∞<a and b<∞
∫ ∑
i
xn
xin p(x) f (x)dx
if X is discrete if X is continuous
12
1.1 Basic concepts
7. Variance of a random variable Var(X)= E [(X-E[X])2] = E [X2]-(E[X])2
∑ E[X]= xi p(xi ) i
b) If X is continuous random variable having a probability density function f(x), then the expected value of X is defined by
∞
∫ E[X] = xf (x) dx −∞
14
1.1 Basic concepts
pound random variable
Let {Xi} be a sequence of i.i.d. (independently and identically distributed), nonnegative, and integer-valued random variables. Let N be a nonnegative and integer-valued random variable. The compound random variable SN is defined as the sum of X1,…XN, this random variable is often called the random sum.
For each event E of the sample space S, we assume that
a number P(E) is defined and satisfied that following three conditions: (i) 0 ≤ P(E) ≤ 1, (ii) P(S) =1, (iii) For any sequence of events E1, E2 …
P ( EF )
P ( E | F )=
P(F )
or P(EF)= P(F) P (E | F)
If E and F are independent, then
P(EF)=P(E)P(F) P( E | F )=P(E)
6
1.1 Basic concepts
4. Random variable The real-valued functions defined on the sample space are known as random variables.
If X and Y are independent, then Cov( X,Y )=0
17
1.1 Basic concepts
Law of total probability:
① Discrete case let X1,…, Xk be mutually exclusive and collectively exhaustive events. For any event A, we have
10
1.1 Basic concepts
c) Expectation of g(X) z If X is a discrete random variable with probability mass
function p(x), then for any real-valued function g(X),
P(E∪F) = P(E) + P(F) – P(EF) 5
1.1 Basic concepts
3. Conditional probability
Conditional probability is denoted by P(E|F).
It states that E occurs given that F has occurred.
An extremely important property of conditional expectation is
that for all random:
∑ E[ X Y = y]P{Y = y} (discrete)
E [ X ] = E[ E[X|Y] ]=
y ∞
∫−∞ E[ X Y = y] fY ( y)dy (continuous)
13
1.1 Basic concepts
9. Conditional variance of a random variable Var( X Y = y) = E[( X − E[ X Y = y])2 Y = y] = E[ X 2 Y = y] − (E[ X Y = y])2
Computing expectations by conditioning:
16
1.1 Basic concepts
z Expectation of random variables For both discrete and continuous random variables E[X+Y ]=E[X ]+E[Y ]
z Covariance of random variables Cov( X,Y )=E[XY ]-E[X ]E[Y ]
z For a continuous random variable X, the distribution
function F can be expressed as
∫ F(xi)
=
xi −∞
f
(x)dx
where f(x) is called probability density function of X
Chapter 1 Introduction of Probability Theory
1.1 Basic Concepts 1.2 Generating function for discrete random variables 1.3 Laplace transforms for continuous random variables 1.4 Some mathematical background 1.5 Classification of stochastic processes
7
1.1 Basic concepts
5. (cumulative) Distribution function Distribution function F(⋅) of the random variable X is defined for any real number b by
F(b)=P{X ≤ b}
② E∩F: is referred to as the intersection of E and F.
The event EF will occur only if both E and F occur.
If EF=Φ, then E and F are said to be mutually exclusive
z X and Y are both discrete random variables:
F(a,b) = ∑ ∑ p(x, y) x<a y<b
z X and Y are both continuous random variables:
F{X ∈ A,Y ∈ B}= ∫B ∫A f (x, y)dxdy
that are mutually exclusive, i.e., events for which
En Em = Φ when n≠m, then
U ∑ P⎜⎜⎝⎛
∞ n=1
E
n
⎟⎟⎠⎞
=
∞ n=1
P(En )
We refer to P(E) as the probability of the event E.
Discrete random variable: take on either a finite or a countable number of possible values. Continuous random variable: take on a continuum of possible values
8
1.1 Basic concepts
z For a discrete random variable X, the distribution
function F can be expressed as
∑ F(xi)
=
all
p(x)
x≤ xi
where p(xi) is the probability mass function of X, p(xi)=P{X=xi}
③ E: is referred to as the complement of E The event E will occur only if E does not occur.
4
1.1 Basic concepts
2. Probability defined on events
1第一章 随机过程基础
3、 基本事件与样本空间 在随机试验 S E中最简单的随机事件称为基本事件,所 有基本事件的集合称为基本事件空间。例如对一个六面 体骰子,出现1,2,…, 6 点是基本事件,而所有的基本事件 1,2,…, 6 的集合称为基本事件空间,而“出现奇数点”是随机 事件,但不是基本事件。可见基本事件只是事件的一种。 例如A:掷骰子试验中,事件:“出现点数不大于3”是由 三个基本事件“出现点数1”、“出现点数2”、“出现点数3 共同组成的,是事件空间 A 的一个事件,即 A 1,2,3 , SE。
1.1 概率论中的几个概念与公式
2、 随机试验、复合随机试验与样本空间 通常把对自然现象进行的一次观察或进行的一次试验, 统称为一个试验,而若这个试验满足下列条件: (1)在相同条件下可重复进行; (2)每次试验结果有多种可能,且所有可能的结果能 事先明确; (3)每次试验之前不能确定会出现哪一个结果。 就称其为随机试验。显然,随机试验表示的是在一组 可以重复实现的条件下观察某种现象能否出现的行动。 如投硬币,掷骰子等等。当然,随机试验可以 根据上述条件进行设计。
P A B P AB P B
(1-7)
式中 解释为
P AB
为事件A与B的联合概率。式(1-7)的频率的
nAB nAB n nB nB n
P A B
,
nAB P AB n
且
nAB nB n n
,故有
P AB P B
。
式(1-7)的含义是事件A与事件B有关,若 A B ,即 事件A与事件B互不相交,则 P A B 0 ;而条件一词的含 P 义是 P B 0,否则若 B , B 0,则式(1-7)没有意义。 2、乘法公式 设有n个事件 A1 ,…, An ,则 A A …A 同时发生也是一个 事件,其概率记为 P A A …A ,称为事件 A1 , A2 ,…, An 的联合 概率。则 P A1 A2 …An P A1 P A2 A1 P A3 A1 A2 …P An A1…An 1 (1-8)
第1章1,随机过程-绪论
绪 论
《随机过程》基础 随机过程》
高等数学 线性代数 概率论
绪 论
学习《随机过程》 学习《随机过程》意义
在科学研究中, 在科学研究中,只有借助于数学才能精确地描述一个 现象的不同量之间的关系; 现象的不同量之间的关系; 随机过程理论在自然科学和工程技术研究的许多领域 都得到广泛的应用例如物理、化学、生物、通信、 都得到广泛的应用例如物理、化学、生物、通信、机 自动化、地震、海洋、医学、气象、 电、自动化、地震、海洋、医学、气象、航空航天等 学科中均有着广泛的应用。 学科中均有着广泛的应用。 随机过程理论在社会科学中例如在社会统计,保险学、 随机过程理论在社会科学中例如在社会统计,保险学、 经济、金融工程、管理中也得到极其广泛的应用。 经济、金融工程、管理中也得到极其广泛的应用。 为从事科学研究打下坚实的基础; 为从事科学研究打下坚实的基础;
1.随机过程概论
{ X (t ) , t (,) } 是一随机过程 . 状态空间 I (,) . 样本函数空间 X { cos πt , t } .
H 发生
x( t )
x( t ) t
x( t ,T ) x( t )
1 1 1
T 发生
o
t t x( t , H )
1
2
x( t , T ) x( t ) x( t , H )
Ft
1 , t 2 ,, t n
( x1 , x2 ,, xn ) Ft ( xk ) , t1 , t 2 ,, t n T , n 1 ,
k 1
k
n
则称 X (t ) 具有独立性 , 或称 X (t ) 是独立过程 .
随机过程的独立性是指其在不同的时刻互不影响 , 一维分布
t1 , t 2 T .
当 A~N (0,1), B~U (0,2) 且 A, B 相互独立时 ,
EA 0,
EA2 DA ( EA)2 1,
EB 1,
EB 2 DB ( EB)2 4 3 ,
E ( AB ) EA EB 0,
所以可得
m X ( t ) t EA EB 1 , RX (t1 , t 2 ) t1t 2 EA2 ( t1 t 2 ) E ( AB) EB 2 t1t 2 4 3 , t1 , t 2 T .
o
称为统计平均或集平均 . 均值函数 m X ( t ) 表示了随机过程 X ( t ) 在各个时刻的摆动中心 .
X ( t ) 的二阶原点矩和二阶中 心矩分别记为
2 ΨX ( t ) EX 2 ( t ) 2 2 2 X ( t ) E[ X ( t ) m X ( t )]2 Ψ X (t ) m X (t )
随机过程 第一章1
定义1.1设样本空间 W {e} 的某些子集构成 的集合记为F,如果F满足下列性质:
(1).W F ;
(2).若A F,则A W A F
(3).若Ak F , k 1,2,, 则 Ak F .
则称F为
(W , F )
代数(Bord事件域),
称为可测空间
n i
0 F x1 , x2 ,, xn 1
三、边缘分布
若二维联合分布函数中有一个变元趋于无 穷,则其极限函数便是一维分布函数,对于这 种特殊性质,我们称其为边缘分布。
对于任意两个随机变量X,Y,其联合分布函数为: F ( x, y) 则: FX ( x) P( X x) P( X x, Y ) F ( x, )
P( X x, Y y) P(( X x) (Y y)) P( X x) P(Y y)
则称X,Y为相互独立的随机变量。
若X,Y为相互独立随机变量,则有
F ( x, y) FX ( x) FY ( y) f ( x, y) f X ( x) f Y ( y)
即概率具有单调性;
(6) 设An F , n 1,2, , 则 P ( Ai ) 若 i 1 P( An ) P( A ) 若 i i 1 A1 A2
lim
n
连续性定理
A1 A2
当An An1 , n 1
x
离散型随机变量的概率分布用分布列描述
0-1分布
P( X 1) p, P( X 0) q
k P( X k ) Cn p k q nk , k 0,1,2n
二项分布
随机过程讲义 第一章
第一章 随机过程及其分类在概率论中,我们研究了随机变量,n 维随机向量。
在极限定理中我们研究了无穷多个随机变量,但只局限在它们之间相互独立的情形。
将上述情形加以推广,即研究一族无穷多个、相互有关的随机变量,这就是随机过程。
1. 随机过程的概念定义:设),,(P ∑Ω是一概率空间,对每一个参数T t ∈,),(ωt X 是一定义在概率空间),,(P ∑Ω上的随机变量,则称随机变量族});,({T t t X X T ∈=ω为该概率空间上的一随机过程。
其中R T ⊂是一实数集,称为指标集或参数集。
随机过程的两种描述方法: 用映射表示T X ,R T t X →Ω⨯:),(ω即),(⋅⋅X 是一定义在Ω⨯T 上的二元单值函数,固定T t ∈,),(⋅t X 是一定义在样本空间Ω上的函数,即为一随机变量;对于固定的Ω∈ω,),(ω⋅X 是一个关于参数T t ∈的函数,通常称为样本函数,或称随机过程的一次实现,所有样本函数的集合确定一随机过程。
记号),(ωt X 有时记为)(ωt X 或简记为)(t X 。
参数T 一般表示时间或空间。
常用的参数一般有:(1)},2,1,0{0 ==N T ;(2)},2,1,0{ ±±=T ;(3)],[b a T =,其中a 可以取0或∞-,b 可以取∞+。
当参数取可列集时,一般称随机过程为随机序列。
随机过程});({T t t X ∈可能取值的全体所构成的集合称为此随机过程的状态空间,记作S 。
S 中的元素称为状态。
状态空间可以由复数、实数或更一般的抽象空间构成。
实际应用中,随机过程的状态一般都具有特定的物理意义。
例1:抛掷一枚硬币,样本空间为},{T H =Ω,借此定义:⎩⎨⎧=时当出现,时当出现T 2H ,cos )(t t t X π ),(∞+-∞∈t 其中2/1}{}{==T P H P ,则)},(,)({∞+-∞∈t t X 是一随机过程。
概率统计及随机过程课件 第一章第一节
本课程学习, 只学习基本的问题,基本的思想方法, 基本的知识,基本的技巧.
基本要求:
(1)要求我每次上课至少提前五分钟到达教室,准备好上课;
(2)要求同学们按时来上课、听课, 遵守课堂纪律, 保持安静,不影响大家听讲;
(3)课前适当预习,上课时认真听课,课后及时复习,必要 时,要经常复习用到的高等数学有关知识原理;
变量非线性生灭过程; 8. 许多服务系统,如电话通信、船舶装卸、
机器维修、病人候诊、存货控制、水库调度、购
物排队、红绿灯转换等,都可用一类概率模型 来描述,其涉及到 的知识就是 排队论.
目前,概率统计理论 进入其他科学领域的 趋势还在不断发展. 在社会科学领域 ,特别是 经济学中研究最优决策和经济的稳定增长等问 题,都大量采用 概率统计方法. 正如 拉普拉斯 所说 : “ 生活中最重要的问题 ,其中绝大多数 在实质上只是概率的问题.”
例1 给出一组随机试验及相应的样本空间
投一枚硬币,观察正面反面出现的情况
投一枚硬币3次,观察正面反面出现的 情况
投一枚硬币3次,观察正面反面出现的 次数
投一颗骰子,观察向上一面出现的点数 有限样本空间
观察电话总机每天9:00~10:00接到的电话 次数
观察某地区每天的最高温度与最低温度 无限样本空间
1. 气象、水文、地震预报、人口控制及预 测都与 概率论 紧密相关;
2. 产品的抽样验收,新研制的药品能否在 临床中应用,均需要用到 假设检验;
3. 寻求最佳生产方案要进行 实验设计 和 数据处理;
4. 电子系统的设计离不开 可靠性估计; 5. 探讨太阳黑子的规律时,时间序列分析 方法非常有用; 6. 研究化学反应的时变率,要以 马尔可夫 过程 来描述; 7. 在生物学中研究群体的增长问题时 提出 了生灭型随机模型,传染病流行问题要用到多
随机过程第一章课件
5.2 随机过程分类和举例
【二】举例:
【例二】参数连续离散型随机过程:脉冲数字通信系统。 该系统传送的信 号是脉宽为 T0 的脉冲信号,每隔 T0 送出一个脉冲。脉冲幅度X t 是一个随机变量,它可能取四个值 2,1,1,2 ,且取这四个值的 概率是相等的,即
PX t 2 PX t 1 PX t 1 PX t 2 1 / 4
【分析】设 V 0,1,
1 2 , 得到几个样本函数,可以画出它们的波形(略) 4 3
5.2 随机过程分类和举例
【二】举例:
【例三分析续】正弦波随机过程:
X (2)当 t 0 时, 0 V ,故 X 0 的概率密度就是 V 的概率密度,即
otherwise 时, 1 当 t1 X t1 X 1 V cos V ,故 4 4 2 1 2 0 x f X1 x 2 0 otherwise 3 3 1 V ,故 当 t2 时,X t2 X 2 V cos 4 4 2 1 2 x 0 f X 2 x 2 0 otherwise
P X i 1 p, P X i 1 1 p 设质点在 t n 时偏离原点的距离为 Yn ,Yn 也是一随机变量,
于是
Yn X i ,
i 1
n
Y0 0
又设质点每次游动与该质点所处的位置无关,当 i k 时 X i 与 X k 是相互统计独立的随机变量。
则称
X t, , t T ,
为随机过程,简记为
X t , t T 。
一个随机过程 X t , t T 实际上是两个变量的二元函 数,其中 一个变量为样本空间 中 的 ,另一个为参 T 数集 t 中的 。
随机过程第一章习题答案
随机过程 第一章 习题答案
1.方法一: F (t ; x) P{ X (t ) x} P{ X sin t x} 当t k 时,P{ X (t ) 0} 1,其中k为整数,
k 当t 时,
x x sin t (i)若 sin t 0, F (t ; x) P{ X } ( x) dx sin t x 1 1 1 1 x 2 f (t ; x) ( ) exp{ ( )} sin t sin t sin t 2 2 sin t x x x sin t (ii )若 sin t 0, F (t ; x) P{ X } 1 P{ X } 1 ( x)dx sin t sin t 1 1 1 x 2 f (t ; x) Fx' (t ; x) exp{ ( )} sin t 2 2 sin t 1 1 x 2 f (t ; x) exp{ ( ) }, k 为整数。 2 sin t 2 sin t
时,k为整数,有 X
一维分布密度为:f (t ; x) 当t= k
时,k为整数,有P{ X (t ) 0} 1
1 1 Xt x}=P{e } e Xt x 1 1 1 =P{Xt ln }=P{Xt ln x}=P{X ln x}=1-P{X ln x} x t t 1 11 1 1 f (t ; x) Fx' (t ; x) f ( ln x)( ) f ( ln x) t t x tx t 2.F(t;x)=P{X(t) x}=P{e Xt x}=P{
方法二: X N(0,1) EX=0,EX 2 =DX=1 EX(t)=E(Xsin t)=sin tEX 0 k N(0 , sin 2 t) 1 1 x 2 exp{ ( ) }, x 2 sin t 2 sin t DX (t ) D(Xsin t) (sin t) 2 DX sin 2 t 当t
《随机过程-孙应飞》1第一章随机向量与多元正态分布
往在使用某种统计方法之前,将每个指标“标准化”, 即做出如下变换:
X *Biblioteka jX j EX j DX j
, j 1, 2, ,X* p)
,p
* X * ( X 1* , X 2 ,
于是
1 EX 0, DX corr ( X ) R X * X * n 1
* *
欧氏距离的优点是能反映空间两个点的实际距离; 缺点是每个坐标对欧氏距离的贡献是对等的,即欧 氏距离大小与坐标的量刚或单位有关。 马氏距离的优点是它是统计距离,大小与坐标的量 刚或单位无关,由标准化数据和中心化数据得到的 马氏距离相同,还可排除变量间的相互干扰。缺点 是夸大了变化微小的变量的作用。
设随机向量X= (X1,X2,┅,Xp)′的协方差存在, 且每个分量的方差都大于0,则X的相关阵定义为:
R Corr ( X i , X j ) ri j ri j cov( X i , X j ) DX i DX j
p p
, i, j 1, 2,
,p
称rij也称为Xi与Yj之间的(线性)相关系数。 对于两组不同的随机向量X与Y,它们之间的相关问题 将在典型相关分析的章节讨论。 在数据处理时,为了克服指标量刚带来的不利影响,往
x
f (u )du,
xRp
一般: P( X 1 x1 , X 2 x2 , , X k xk ) F ( x1, x2 , , xk , , , ) 连续 : f1 ( x1 ) f1 ( x1 , x2 , , xk ) f ( x1, x2 ,
称cov(X, Y)=0,称为X与Y是不相关的。 当A,B为常数矩阵时,有如下性质: 1)D(AX)=AD(X)A′=AΣA′ 2)cov(AX, BX)=Acov(X, Y)B′ 3)令μ=EX,Σ=DX,则E(X′AX)=tr(AΣ)+μ′Aμ 注:Σ是一个对称阵,并总是非负定的,多为正定的。
随机过程-第一章
• {X(t, e),t∈T ,e∈Ω} 为一随机过程。
• 其实际意义就是: 若一物理过程,当时间t(或广义时间)固定,
过程所处的状态是随机的(不确定的),则此
过程就为随机过程。对该过程的一次记录(或
一个观察)就是一个现实,或称作随机过程的
一个样本函数或样本曲线。 • 固定t0,X(t0)是随机变量。 • 固定e0,X(t,e0)是一个现实,是t的函数,记 为 x(t)。
例4:具有随机初位相的简谐波。 X(t)=acos(ω0t+Φ),-∞<t<+∞, 其中a与ω0是正常数, Φ是在[0,2π]上均匀分布的随机变量。 一方面,随机过程X(t)是一族随机变量。 对每个固定t0, X(t0)= acos(ω0t+Φ)是个 随机变量。对(-∞,+∞)上有多少个t, 就对应多少个随机变量。∴对(-∞,+∞) 所有t,X(t)看作一族随机变量。 另一方面,随机过程是一族样本函数(曲线) 对样本空间Ω中每个基本事件e对应一个样本 函数,本例,Φ在Ω=[0,2π] 上任给定一个 相 位φi=e,就对应一个样本曲线,如:书P 4。
例6: 利用抛掷硬币的试验定义一个随机过程。
X(t) { sin π t,出现正面 ,记为记为 ω 0 e ,出现反面, 记 ω 1
t
(t R)
写出X(t)的所有样本函数(现实)
二、随机过程的的分布(有限维分布族) 1、对任意固定的t0∈T,随机过程X(t)的状态 X(t0)是一维随机变量, 其分布函数是P{X(t0)≤x} F(x,t0) 由于t的任意性,称F(x; t) = P{X(t) ≤x } 为随机过程X(t)的一维分布函数。 F(x,t)是与t有关的一维分布函数,在t,x平 面上是X(t)落在区间(X(t) ≤x)上的概率。
