概率论与随机过程考点总结

合集下载

北邮概率论与随机过程笔记

北邮概率论与随机过程笔记

北邮概率论与随机过程笔记北邮概率论与随机过程笔记第一章绪论1.1 概率论的起源与发展1.2 概率的基本概念1.3 概率论的应用领域1.4 随机过程的起源与发展1.5 随机过程的基本概念1.6 随机过程的应用领域第二章概率论的基本概念2.1 随机试验与随机事件2.2 频率与概率2.3 古典概型2.4 贝叶斯概型2.5 随机变量2.6 随机变量的函数及其分布2.7 条件概率与条件分布2.8 独立性第三章随机变量及其分布3.1 离散型随机变量及其分布3.2 连续型随机变量及其分布3.3 随机变量的数学期望3.4 随机变量的方差与标准差3.5 随机变量的矩与生成函数3.6 概率母函数与特征函数3.7 大数定律与中心极限定理第四章多维随机变量及其分布4.1 多维随机变量及其分布函数4.2 联合分布函数与边缘分布函数4.3 多维离散型随机变量的分布4.4 多维连续型随机变量的密度4.5 条件分布与独立性4.6 随机变量的矩与协方差矩阵4.7 多维随机变量的生成函数与特征函数第五章数理统计基本概念5.1 数理统计的概念与作用5.2 参数估计与假设检验5.3 点估计与区间估计5.4 最大似然估计5.5 矩估计5.6 假设检验5.7 重要的假设检验第六章随机过程基本概念6.1 随机过程的概念与分类6.2 随机过程的样本函数与轨道6.3 随机过程的数学描述6.4 平稳性与各态平衡性6.5 随机过程的独立增量性与平稳增量性第七章随机过程的数学描述7.1 随机过程的数学描述7.2 随机过程的分布函数、密度函数与生成函数7.3 平稳随机过程的均值序列与相关函数7.4 广义平稳随机过程7.5 随机过程的协方差函数与自相关函数7.6 平稳随机过程的功率谱第八章马尔可夫链8.1 马尔可夫链的概念8.2 马尔可夫链的数学描述8.3 长期行为与不可约性8.4 平稳分布与转移概率矩阵8.5 极限分布与转移概率8.6 马尔可夫链的细致平衡方程第九章扩散过程9.1 扩散过程的概念与分类9.2 布朗运动与维纳过程9.3 平稳扩散过程与布朗桥9.4 非平稳扩散过程9.5 随机微分方程及其应用第十章随机过程的数值计算10.1 随机过程的模拟方法10.2 马尔可夫链模拟10.3 扩散过程的数值模拟第十一章随机过程的应用11.1 队列论与排队模型11.2 信道容量与信息论11.3 金融工程与随机过程11.4 生物与生态系统中的随机过程11.5 电力系统中的随机过程第十二章最优控制问题12.1 动态规划问题与最优控制12.2 马尔可夫控制问题12.3 黑塞矩阵与二次型控制问题第十三章随机过程的其他扩展13.1 小波分析与随机过程13.2 分数阶随机过程13.3 非高斯与非马尔可夫随机过程总结:北邮的概率论与随机过程课程涵盖了概率论和随机过程的基础知识和应用,对于理解随机现象和建立数学模型具有重要的意义。

随机过程知识点汇总

随机过程知识点汇总

随机过程知识点汇总随机过程是指一组随机变量{X(t)},其中t属于某个集合T,每个随机变量X(t)都与一个时刻t相关联。

2.随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。

离散时间随机过程是指在离散的时间点上取值的随机过程,例如随机游走。

连续时间随机过程是指在连续的时间区间上取值的随机过程,例如XXX运动。

3.随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。

均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。

自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。

4.平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。

弱平稳随机过程的自相关函数只与时间差有关,而不依赖于具体的时间点。

强平稳随机过程的概率分布在时间上是不变的。

5.高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。

高斯随机过程的均值函数和自相关函数可以唯一确定该过程。

6.马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下,未来状态的条件概率分布只依赖于当前状态,而与过去状态无关的随机过程。

马尔可夫性质可以用转移概率矩阵描述,并且可以用马尔可夫链来建模。

7.泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。

泊松过程的重要性质是独立增量和平稳增量。

8.随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。

例如,布朗运动被广泛应用于金融学中的期权定价,马尔可夫链被应用于自然语言处理中的语言模型。

t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))],其中Zs和Zt是Z在时刻s和t的取值。

复随机过程是由实部和虚部构成的随机过程,其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。

协方差函数和相关函数也可以类似地计算得到。

复随机过程在通信系统中有广泛的应用,例如调制解调、信道编解码等。

概率论与随机过程考点总结

概率论与随机过程考点总结

概率论与随机过程考点总结Company number:【0089WT-8898YT-W8CCB-BUUT-202108】第一章 随机过程的基本概念与基本类型 一.随机变量及其分布1.随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2.n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数(两个随机变量Y X ,):DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关。

独立⇒不相关⇔0=ρ4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0(母函数:∑∞===0)()(k kk kz p z E z g !)0()(k g p k k = )1()('g X E =2''")]1([)1()1()(g g g X D -+=5.常见随机变量的分布列或概率密度、期望、方差0-1分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 kn k k nq p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX 6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二.随机过程的基本概念 1.随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。

随机过程例题和知识点总结

随机过程例题和知识点总结

随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学学科,在通信、金融、物理等众多领域都有广泛应用。

下面我们通过一些例题来深入理解随机过程的相关知识点。

一、随机过程的基本概念随机过程可以看作是一族随机变量的集合,其中每个随机变量都对应着某个特定的时刻。

例如,考虑一个在时间段0, T内的股票价格变化过程,对于每个时刻 t∈0, T,都有一个对应的随机变量 X(t)表示股票的价格。

二、常见的随机过程类型1、泊松过程泊松过程常用于描述在一定时间内随机事件发生的次数。

例如,某电话交换台在单位时间内接到的呼叫次数就可以用泊松过程来建模。

例题:假设某电话交换台在上午 9 点到 10 点之间接到的呼叫次数是一个泊松过程,平均每分钟接到 2 次呼叫。

求在 9 点 10 分到 9 点 20 分这 10 分钟内接到至少 5 次呼叫的概率。

解:设 X(t) 表示在时间段 0, t 内接到的呼叫次数,且 X(t) 是一个强度为λ = 2 的泊松过程。

10 分钟内接到的呼叫次数 X(10) 服从参数为λt = 2×10 = 20 的泊松分布。

P(X(10) ≥ 5) = 1 P(X(10) < 5) = 1 P(X(10) = 0) + P(X(10) = 1) + P(X(10) = 2) + P(X(10) = 3) + P(X(10) = 4)通过泊松分布的概率质量函数可以计算出每个概率值,进而求得最终结果。

2、马尔可夫过程马尔可夫过程具有“无记忆性”,即未来的状态只与当前状态有关,而与过去的状态无关。

例题:一个状态空间为{0, 1, 2} 的马尔可夫链,其一步转移概率矩阵为 P = 05 03 02; 02 06 02; 01 03 06 ,初始状态为 0,求经过 3 步转移后处于状态 2 的概率。

解:通过计算 P³得到 3 步转移概率矩阵,然后取出第 0 行第 2 列的元素即为所求概率。

概率论与随机过程考点总结

概率论与随机过程考点总结

第一章 随机过程的基本概念与基本类型 一.随机变量及其分布1.随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()( 2.n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差两个随机变量Y X ,:EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数两个随机变量Y X ,:DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关;独立⇒不相关⇔0=ρ4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k)( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数:∑∞===0)()(k kk kzp z E z g!)0()(k g p k k =)1()('g X E =2''")]1([)1()1()(g g g X D -+=5.常见随机变量的分布列或概率密度、期望、方差0-1分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二.随机过程的基本概念 1.随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程;简记为{}T t t X ∈),(;含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性;另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的;当t 固定时,),(e t X 是随机变量;当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道;分类:根据参数集T 和状态空间I 是否可列,分四类; 也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等; 2.随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性;随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族;随机过程的有限维分布函数族是随机过程概率特征的完整描述;在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代;1均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值; 2方差函数2)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度; 3协方差函数)()()]()([))]()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =4相关函数)]()([),(t X s X E t s R X = 3和4表示随机过程在时刻s ,t 时的线性相关程度;5互相关函数:{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数;)()()]()([))]()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]()([),(t Y s X E t s R XY =,称为互相关函数;若)()()]()([t m s m t Y s X E Y X =,则称两个随机过程不相关; 3.复随机过程 t t t jY X Z += 均值函数tt Z jEY EX t m +=)( 方差函数]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-=协方差函数)()(][]))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =4.常用的随机过程1二阶距过程:实或复随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞<2)(t X E 二阶距存在,则称该随机过程为二阶距过程;2正交增量过程:设{}T t t X ∈),(是零均值的二阶距过程,对任意的T t t t t ∈<<<4321,有0]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过程;其协方差函数)),(m in(),(),(2t s t s R t s B XX X σ== 3独立增量过程:随机过程{}T t t X ∈),(,若对任意正整数2≥n ,以及任意的T t t t n ∈<<< 21,随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的,则称{}T t t X ∈),(是独立增量过程; 进一步,如{}T t t X ∈),(是独立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程;4马尔可夫过程:如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数n 及T t t t n ∈<<< 21,0))(,,)((1111>==--n n x t X x t X P ,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称{}T t t X ∈),(是马尔可夫过程;5正态过程:随机过程{}T t t X ∈),(,若对任意正整数n 及T t t t n ∈,,,21 ,)()(),(21n t X t X t X 是n 维正态随机变量,其联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程; 6维纳过程:是正态过程的一种特殊情形;设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ;②是平稳独立增量过程;③对任意t s ,增量)()(s W t W -服从正态分布,即0),0(~)()(22>--σσs t N s W t W ;则称{}∞<<-∞t t W ),(为维纳过程,或布朗运动过程;另外:①它是一个Markov 过程;因此该过程的当前值就是做出其未来预测中所需的全部信息;②维纳过程具有独立增量;该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率;③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加; 7平稳过程:严狭义平稳过程:{}T t t X ∈),(,如果对任意常数τ和正整数n 及Tt t t n ∈,,,21 ,Tt t t n ∈+++τττ,,,21 ,)()(),(21n t X t X t X 与)()(),(21τττ+++n t X t X t X 有相同的联合分布,则称{}T t t X ∈),(是严狭义平稳过程;广义平稳过程:随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程;②对任意的T t ∈, 常数==)()(t EX t m X ;③对任意T t s ∈,,)()]()([),(s t R t X s X E t s R X X -==,或仅与时间差s t -有关;则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程;第三章 泊松过程一.泊松过程的定义两种定义方法1,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}T t t X ∈),(是具有参数λ的泊松过程;①(0)0X =;②独立增量过程,对任意正整数n ,以及任意的T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立,即不同时间间隔的计数相互独立;③在任一长度为t 的区间中,事件A发生的次数服从参数0t λ>的的泊松分布,即对任意,0t s >,有{}()()()0,1,!ntt P X t s X s n en n λλ-+-===[()]E X t t λ=,[()]E X t tλ=,表示单位时间内时间A发生的平均个数,也称速率或强度;2,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}(),0X t t ≥是具有参数λ的泊松过程;①(0)0X =;②独立、平稳增量过程;③{}{}()()1()()()2()P X t h X t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性; 二.基本性质1,数字特征 ()[()][()]X m t E X t t D X t λ=== (1)(,)(1)X s t s t R s t t s s tλλλλ+<⎧=⎨+≥⎩(,)(,)()()min(,)X X X X B s t R s t m s m t s t λ=-= 推导过程要非常熟悉2,n T 表示第1n -事件A发生到第n 次事件发生的时间间隔,{},1n T n ≥是时间序列,随机变量n T 服从参数为λ的指数分布;概率密度为,0()0,0t e t f t t λλ-⎧≥=⎨<⎩,分布函数1,0()0,0n t T e t F t t λ-⎧-≥=⎨<⎩均值为1n ET λ=证明过程也要很熟悉 到达时间的分布 略 三.非齐次泊松过程 到达强度是t 的函数①(0)0X =;②独立增量过程;③{}{}()()1()()()()2()P X t h X t t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 不具有平稳增量性;均值函数0()[()]()tX m t E X t s ds λ==⎰定理:{}(),0X t t ≥是具有均值为0()()tX m t s ds λ=⎰的非齐次泊松过程,则有 四.复合泊松过程设{}(),0N t t ≥是强度为λ的泊松过程,{},1,2,k Y k =是一列独立同分布的随机变量,且与{}(),0N t t ≥独立,令()1()N t kk X t Y==∑ 则称{}(),0X t t ≥为复合泊松过程;重要结论:{}(),0X t t ≥是独立增量过程;若21()E Y <∞,则1[()]()E X t tE Y λ=,21[()]()D X t tE Y λ=第四章 马尔可夫链泊松过程是时间连续状态离散的马氏过程,维纳过程是时间状态都连续的马氏过程;时间和状态都离散的马尔可夫过程称为马尔可夫链;马尔可夫过程的特性:马尔可夫性或无后效性;即:在过程时刻0t 所处的状态为已知的条件下,过程在时刻0t t >所处状态的条件分布与过程在时刻0t 之前所处的状态无关;也就是说,将来只与现在有关,而与过去无关;表示为{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P一.马尔可夫链的概念及转移概率1.定义:设随机过程{},∈n X n T ,对任意的整数∈n T 和任意的011,,,n i i i I +∈,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称{},∈n X n T 为马尔可夫链;马尔可夫链的统计特性完全由条件概率{}11n n n n P X i X i ++==所决定;2.转移概率 {}1n n P X j X i +==相当于随机游动的质点在时刻n 处于状态i 的条件下,下一步转移到j 的概率;记为()ij p n ;则()ij p n {}1n n P X j X i +===称为马尔可夫链在时刻n 的一步转移概率;若齐次马尔可夫链,则()ij p n 与n 无关,记为ij p ;[],1,2,ij P p i j II =∈= 称为系统的一步转移矩阵;性质:每个元素0ij p ≥,每行的和为1;3.n 步转移概率()n ij p ={}m n m P X j X i +== ;()()[],1,2,n n ij P p i j II =∈=称为n步转移矩阵;重要性质:①()()()n l n l ij ik kj k Ip p p -∈=∑ 称为C K -方程,证明中用到条件概率的乘法公式、马尔可夫性、齐次性;掌握证明方法:{}{}{}{}{}{}{}{}{}()()()()(),,,,,,,()()m m n n ijm nm m m m l m n k Tm m m l m n m m l k Tm m l m n l l l n l kj ik ik kj k Ik IP X i X j p P X j X i P X i P X i X k X j P X i P X i X k X j P X i X k P X i X k P X i p m l p m p p ++++∈+++∈+--∈∈==================⋅====+⋅=⋅∑∑∑∑②()n n P P = 说明n 步转移概率矩阵是一步转移概率矩阵的n 次乘方;4.{},∈n X n T 是马尔可夫链,称{}0j p P X j ==为初始概率,即0时刻状态为j 的概率;称{}()j n p n P X j ==为绝对概率,即n 时刻状态为j 的概率;{}12(0),,T P p p =为初始概率向量,{}12()(),(),T P n p n p n =为绝对概率向量;定理:①()()n j i ij i Ip n p p ∈=∑矩阵形式:()()(0)T T n P n P P =②()(1)j i ij i Ip n p n p ∈=-∑定理:{}111122,,,n n n n i iii i i IP X i X i X i p p p -∈====∑ 说明马氏链的有限维分布完全由它的初始概率和一步转移概率所决定; 二.马尔可夫链的状态分类1.周期:自某状态出发,再返回某状态的所有可能步数最大公约数,即{}():0n ii d GC D n p ⋅⋅=>;若1d >,则称该状态是周期的;若1d =,则称该状态是非周期的;2.首中概率:()n ij f 表示由i 出发经n 步首次到达j 的概率; 3.()1n ij ij n f f ∞==∑表示由i 出发经终于迟早要到达j 的概率;4.如果1ii f =,则状态i 是常返态;如果1ii f <,状态i 是非常返滑过态;5.()1n i ii n nf μ∞==∑表示由i 出发再返回到i 的平均返回时间;若i μ<∞,则称i 是正常返态;若i μ=∞,则称i 是零常返态;非周期的正常返态是遍历状态; 6.状态i 是常返充要条件是()0iin n p∞==∞∑;状态i 是非常返充要条件是()11iin n iip f ∞==-∑; 7.称状态i 与j 互通,,i j i j j i ↔→→即且;如果i j ↔,则他们同为常返态或非常返态,;若i ,j 同为常返态,则他们同为正常返态或零常返态,且i ,j 有相同的周期;8.状态i 是遍历状态的充要条件是()1lim 0n iin ip μ→∞=>;一个不可约的、非周期的、有限状态的马尔可夫链是遍历的;9.要求:熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态; 三.状态空间的分解1.设C 是状态空间I 的一个闭集,如果对任意的状态i C ∈,状态j C ∉,都有0ij p =即从i 出发经一步转移不能到达j ,则称C 为闭集;如果C 的状态互通,则称C 是不可约的;如果状态空间不可约,则马尔可夫链{},∈n X n T 不可约;或者说除了C 之外没有其他闭集,则称马尔可夫链{},∈n X n T 不可约;2.C 为闭集的充要条件是:对任意的状态i C ∈,状态j C ∉,都有()0ijn p =;所以闭集的意思是自C 的内部不能到达C 的外部;意味着一旦质点进入闭集C 中,它将永远留在C 中运动;如果1ii p =,则状态i 为吸收的;等价于单点{}i 为闭集;3.马尔可夫链的分解定理:任一马尔可夫链的状态空间I ,必可唯一地分解成有限个互不相交的子集12,,,nD C C C 的和,①每一个n C 都是常返态组成的不可约闭集;②n C 中的状态同类,或全是正常返态,或全是零常返态,有相同的周期,且1ij f =;③D 是由全体非常返态组成; 分解定理说明:状态空间的状态可按常返与非常返分为两类,非常返态组成集合D ,常返态组成一个闭集C ;闭集C 又可按互通关系分为若干个互不相交的基本常返闭集12,,nC C C ; 含义:一个马尔可夫链如果从D 中某个非常返态出发,它或者一直停留在D 中,或某一时刻进入某个基本常返闭集n C ,一旦进入就永不离开;一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集n C ,永远在该闭集n C 中运动;4.有限马尔可夫链:一个马尔可夫链的状态空间是一个有限集合;性质:①所有非常返态组成的集合不是闭集;②没有零常返态;③必有正常返态;④状态空间12n I D C C C =++++,D 是非常返集合,12,,n C C C 是正常返集合;不可约有限马尔可夫链只有正常返态;四.()n ij p 的渐近性质与平稳分布 1.为什么要研究转移概率()n ij p 的遍历性研究()n ij p 当n →∞时的极限性质,即{}0n P X j X i ==的极限分布,包含两个问题:一是()lim n ij n p →∞是否存在;二是如果存在,是否与初始状态有关;这一类问题称作遍历性定理;如果对,i j I ∈,存在不依赖于i 的极限()lim n ijn p →∞0j p =>,则称马尔可夫链具有遍历性; 一个不可约的马尔可夫链,如果它的状态是非周期的正常返态,则它就是一个遍历链; 具有遍历性的马尔可夫链,无论系统从哪个状态出发,当转移步数n 充分大时,转移到状态j 的概率都近似等于j p ,这时可以用j p 作为()n ij p 的近似值;2.研究平稳分布有什么意义判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的,可以通过讨论()lim n ij n p →∞来解决,但求极限时困难的;所以,我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链;一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布,且平稳分布即极限分布()lim n ij n p →∞=1,jj I μ∈;3.{},0≥n X n 是齐次马尔可夫链,状态空间为I ,一步转移概率为ij p ,概率分布{},j j I π∈称为马尔可夫链的平稳分布,满足1j i iji Ijj Ip πππ∈∈==∑∑4.定理:不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布,且此平稳分布就是极限分布1,jj I μ∈; 推论:有限状态的不可约非周期马尔可夫链必存在平稳分布;5.在工程技术中,当马尔可夫链极限分布存在,它的遍历性表示一个系统经过相当长时间后达到平衡状态,此时系统各状态的概率分布不随时间而变,也不依赖于初始状态;6.对有限马尔可夫链,如果存在正整数k ,使()0k ij p >,即k 步转移矩阵中没有零元素,则该链是遍历的;第六章 平稳随机过程一.定义第一章严平稳过程:有限维分布函数沿时间轴平移时不发生变化;宽平稳过程:满足三个条件:二阶矩过程2[()]E X t <∞;均值为常数[()]E X t =常数;相关函数只与时间差有关,即(,)()()()X X R t t E X t X t R τττ⎡⎤-=-=⎣⎦;宽平稳过程不一定是严平稳过程,而严平稳过程一定是宽平稳过程; 二.联合平稳过程及相关函数的性质1.定义:设{}(),X t t T ∈和{}(),X t t T ∈是两个平稳过程,若它们的互相关函数()()E X t Y t τ⎡⎤-⎣⎦及()()E Y t X t τ⎡⎤-⎣⎦仅与时间差τ有关,而与起点t 无关,则称()X t 和()Y t 是联合平稳随机过程;即,(,)()()()XY XY R t t E X t Y t R τττ⎡⎤-=-=⎣⎦ (,)()()()YX YX R t t E Y t X t R τττ⎡⎤-=-=⎣⎦当然,当两个平稳过程联合平稳时,其和也是平稳过程;2.相关函数的性质:①(0)0X R ≥;②()()X X R R ττ≥,对于实平稳过程,()X R τ是偶函数;③()(0)X X R R τ≤④非负定;⑤若()X t 是周期的,则相关函数()X R τ也是周期的,且周期相同;⑥如果()X t 是不含周期分量的非周期过程,()X t 与()X t τ+相互独立,则||()lim X X X R m m ττ→∞=;联合平稳过程()X t 和()Y t 的互相关函数,()(0)(0)XY X Y R R R τ≤,()(0)(0)YX X Y R R R τ≤;()()XY YX R R ττ-=;()X t 和()Y t 是实联合平稳过程时,则,()()XY YX R R ττ-=;三.随机分析 略四.平稳过程的各态历经性 1.时间均值1()..()2TTT X t l i mX t dt T-→∞=⎰时间相关函数1()()..()()2TTT X t X t l i mX t X t dt Tττ-→∞-=-⎰2.如果()[()]()X X t E X t m t ==以概率1成立,则称均方连续的平稳过程的均值有各态历经性;如果()()[()()]()X X t X t E X t X t R τττ-=-= 以概率1成立,则称均方连续的平稳过程的相关函数有各态历经性;如果均方连续的平稳过程的均值和相关函数都有各态历经性,则称该平稳过程是各态历经的或遍历的;一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的;另一方面也表明[()]E X t 与[()()]E X t X t τ-必定与t 无关,即各态历经过程必是平稳过程;3.讨论平稳过程的历经性,就是讨论能否在较宽松的条件下,用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征,即用时间平均代替统计平均; 只在一定条件下的平稳过程,才具有各态历经性;4.均值各态历经性定理:均方连续的平稳过程的均值具有各态历经的充要条件是5.相关函数各态历经性定理:均方连续的平稳过程的相关函数具有各态历经的充要条件是第七章 平稳过程的谱分析 一.平稳过程的谱密度 推导过程:随机过程{}(),X t t -∞<<∞为均方连续过程,作截尾处理(),()0,T X t t TX t t T ⎧≤⎪=⎨>⎪⎩,由于()T X t 均方可积,所以存在FT,得(,)()()Tj tj t T TF T X t edt X t e dt ωωω∞---∞-==⎰⎰,利用paserval 定理及IFT 定义得2221()()(,)2TT TX t dt X t dt F T d ωωπ∞∞-∞--∞==⎰⎰⎰该式两边都是随机变量,取平均值,这时不仅要对时间区间[,]T T -取,还要取概率意义下的统计平均,即 定义221()2lim TTT E X t dt Tψ-→∞⎡⎤=⎢⎥⎣⎦⎰为{}(),X t t -∞<<∞平均功率;21()(,)2limX T s E F T T ωω→∞⎡⎤=⎣⎦为{}(),X t t -∞<<∞功率谱密度,简称谱密度; 可以推出当{}(),X t t -∞<<∞是均方连续平稳过程时,有 21()2X s d ψωωπ∞-∞=⎰说明平稳过程的平均功率等于过程的均方值,或等于谱密度在频域上的积分;2.平稳过程的谱密度和相关函数构成FT 对;若平稳随机序列{},0,1,2,n X n =±±,则其谱密度和相关函数构成FT 对二.谱密度的性质1.①()X s ω是()X R τ的FT;()()j X X s R e d ωτωττ∞--∞=⎰如果{}(),X t t -∞<<∞是均方连续的实平稳过程,有()()X X R R ττ=-,()X s ω是也实的非负偶函数,则②()X s ω是ω的有理分式,分母无实根;2.谱密度的物理含义,()X s ω是一个频率函数,从频率域来描绘()X t 统计规律的数字特征,而()X t 是各种频率简谐波的叠加,()X s ω就反映了各种频率成分所具有的能量大小;3.计算 可以按照定义计算,也可以利用常用的变换对()1t δ↔ 12()πδω↔ 2220a ae a a τω-↔>+22τω↔-00()()j X X R e s ωττωω⋅↔- ()()j T X X R T s e ωτω+↔⋅001,sin 0,ωωωτωωπτ⎧<⎪↔⎨≥⎪⎩等 三.窄带过程及白噪声过程的功率谱密度1.窄带随机过程:随机过程的谱密度限制在很窄的一段频率范围内;2.白噪声过程:设{}(),X t t -∞<<∞为实值平稳过程,若它的均值为零,且谱密度在所有的频率范围内为非零的常数,即0()X s N ω=,则称{}(),X t t -∞<<∞为白噪声过程; 是平稳过程;其相关函数为0()()X R N τδτ=;表明在任意两个时刻1t 和2t ,1()X t 和2()X t 不相关,即白噪声随时间的变换起伏极快,而过程的功率谱极宽,对不同输入频率的信号都有可能产生干扰;四.联合平稳过程的互谱密度互谱密度没有明确的物理意义,引入它主要是为了能在频率域上描述两个平稳过程的相关性;1.互谱密度与互相关函数成FT对关系 2.性质()()XY XY s s ωω= ()XY s ω的实部是ω的偶函数,虚部是ω的奇函数,()YX s ω也是; 2()()()XY X Y s s s ωωω≤;若()X t 和()Y t 相互正交,有()0XY R τ=,则()()0XY YX s s ωω== ;五.平稳过程通过线性系统1.系统的频率响应函数()H ω也可以写成()H j ω一般是一个复值函数,是系统单位脉冲响应的FT;2.系统输入()X t 为实平稳随机过程,则输出()Y t 也是实平稳随机过程;即输出过程的均值为常数,相关函数是时间差的函数;且有()()()()()()Y XY X R R h R h h ττττττ=*-=**-说明输出过程的相关函数可以通过两次卷积产生;()()()XY X R R h τττ=*的应用:给系统一个白噪声过程()X t ,可以从实测的互相关资料估计线性系统的未知脉冲响应;因为0()()X R N τδτ=,00()()()()()()XY X R R h N u h u du N h τττδττ∞-∞=*=-=⎰,从而3.输入输出谱密度之间的关系 2()()()Y X s H s ωωω=2()()()H H H ωωω=称为系统的频率增益因子或频率传输函数;有时,采用时域卷积的方法计算输出的相关函数比较烦琐,可以先计算输出过程的谱密度,然后反FT 计算出相关函数;2()()()()()X Y X Y R s H s R τωωωτ→=→另外()()()XY X R R h τττ=*,所以()()()XY X s H s ωωω= ,()()()YX X s H s ωωω= 补充:排队轮平均间隔时间=总时间/到达顾客总数 平均服务时间=服务时间总和/顾客总数平均到达率=到达顾客总数/总时间 平均服务率=顾客总数/服务时间总和一.当顾客到达符合泊松过程时,顾客相继到达的间隔时间T 必服从负指数分布;对于泊松分布,λ表示单位时间平均到达的顾客数,所以1λ表示顾客相继到达的平均间隔时间;服务时间符合负指数分布时,设它的概率密度函数和分布函数分别为()(){}[]1tttt t tf t e F t P T t e dt d e e μμμμμμ----==≤==-=-⎰⎰ 其中μ表示单位时间能够服务完的顾客数,为服务率;而1μ表示一个顾客的平均服务时间; 二.排队模型的求解把系统中的顾客数称为系统的状态;若系统中有n 个顾客,则称系统的状态是n ;瞬态和稳态:考虑在t 时刻系统的状态为n 的概率,它是随时刻t 而变化的,用()n P t 表示,称为系统的瞬态;求瞬态解是很不容易的,求出也很难利用;因此我们常用稳态概率n P ,表示系统中有n 个顾客的概率; 各运行指标:1队长:把系统中的顾客数称为队长,它的期望值记作s L ,也叫平均队长,即系统中的平均顾客数;而把系统中排队等待服务的顾客数称为排队长队列长,它的期望值记作q L ,也叫平均排队长,即系统中的排队的平均顾客数; 显然有 队长=排队长+正被服务的顾客数;2逗留时间:一个顾客从到达排队系统到服务完毕离去的总停留时间称为逗留时间,它的期望值记作s W ;一个顾客在系统中排队等待的时间称为等待时间,它的期望值记作q W ;逗留时间=等待时间+服务时间;3忙期:从顾客到达空闲服务机构起,到服务台再次变为空闲为止; 4顾客损失率:由于服务能力不足而造成顾客损失的比率;5服务强度服务机构利用率:指服务设备工作时间占总时间的比例; 三.几种典型的排队模型1.//1//M M ∞∞:单服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,λρμ=服务强度; 状态转移图 , 稳态概率方程 得 系统中无顾客的01P ρ=- 系统中有n 个顾客的概率0(1)n n n P P ρρρ=-=且必有s q L L uλ=+qq L W λ=1s q W W μ=+2.//1//M M N ∞:单服务台,系统容量为N 说明若到了系统最大容量,顾客将不能进入系统,顾客源无限;λ到达率,μ服务率,λρμ=服务强度;☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆状态转移图 , 稳态概率方程 得 系统中无顾客的0111N P ρρ+-=- 系统中有n 个顾客的概率0n n P P ρ= 3.//1//M M m ∞:单服务台,系统容量无限,顾客源m;λ到达率,μ服务率;状态转移图 , 稳态概率方程 得 系统中无顾☆客的001!()!()mii P m m i λμ==-∑系统中有n 个顾客的概率0!()()!n n m P P m n λμ=-1n m ≤≤0(1)s L m P μλ=--;00()(1)(1)q s P L m L P λμλ+-=-=--01(1)s m W P μλ=--1q s W W μ=-4. ////M M c ∞∞:多服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,c λρμ=服务强度; 状态转移图 , 稳态概率方程 得☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆系统中无顾客的110011!!1k c c k P k c λλμμρ--=⎡⎤⎛⎫⎛⎫=+⎢⎥ ⎪ ⎪-⎝⎭⎝⎭⎢⎥⎣⎦∑系统中有n 个顾客的概率001()!1()!nn n n c P n c n P P n c c cλμλμ-⎧≤⎪⎪=⎨⎪>⎪⎩。

随机过程复习提纲汇总

随机过程复习提纲汇总

随机过程复习提纲汇总随机过程是概率论中研究随机现象的一种数学工具,它描述了随机事件或变量在时间或空间上的演化规律。

随机过程在概率论、统计学以及各个科学领域中都有广泛的应用。

在复习随机过程的过程中,可以按照以下提纲进行系统地总结和复习:一、随机过程的定义和基本概念1.随机过程的定义和基本性质2.随机变量和随机过程的关系3.有限维分布和无限维分布4.随机过程的连续性和可测性二、随机过程的分类1.马尔可夫链和马尔可夫过程2.马尔可夫链的平稳分布和细致平衡条件3.各类随机过程的特性和应用(如泊松过程、布朗运动等)三、随机过程的数学描述1.随机过程的表示方法(如状态空间表示、样本函数表示等)2.随机过程的独立增量性质3.随机过程的平稳性质和相关函数四、随机过程的统计特性1.随机过程的均值和方差2.随机过程的相关函数和自相关函数3.随机过程的功率谱密度和自相关函数之间的关系五、随机过程的极限理论1.强大数定律和中心极限定理在随机过程中的应用2.极限理论在随机过程中的应用(如大数定律、中心极限定理等)六、马尔可夫过程的统计推断1.马尔可夫链的参数估计2.马尔可夫过程的参数估计3.马尔可夫过程的隐马尔可夫模型和参数估计七、随机过程的应用1.随机过程在金融领域的应用2.随机过程在电信领域的应用3.随机过程在信号处理领域的应用以上是一个较为全面的随机过程复习提纲,按照这个提纲进行复习可以帮助系统地回顾和学习随机过程的各个重要概念、定理和应用。

在复习的过程中,可以结合课本、教材以及相关资料进行深入学习和巩固。

同时,通过解答题目、做习题和实际应用案例的分析,可以提高对随机过程的理解和应用能力。

复习随机过程时,要注意理论和实践相结合,注重理论概念的理解和应用技巧的掌握。

(完整版)概率论知识点总结

(完整版)概率论知识点总结

概率论知识点总结第一章 随机事件及其概率第一节 基本概念随机实验:将一切具有下面三个特点:(1)可重复性(2)多结果性(3)不确定性的试验或观察称为随机试验,简称为试验,常用 E 表示。

随机事件:在一次试验中,可能出现也可能不出现的事情(结果)称为随机事件,简称为事件。

不可能事件:在试验中不可能出现的事情,记为Ф。

必然事件:在试验中必然出现的事情,记为Ω。

样本点:随机试验的每个基本结果称为样本点,记作ω.样本空间:所有样本点组成的集合称为样本空间. 样本空间用Ω表示.一个随机事件就是样本空间的一个子集。

基本事件—单点集,复合事件—多点集一个随机事件发生,当且仅当该事件所包含的一个样本点出现。

事件的关系与运算(就是集合的关系和运算)包含关系:若事件 A 发生必然导致事件B 发生,则称B 包含A ,记为或。

A B ⊇B A ⊆相等关系:若且,则称事件A 与事件B 相等,记为A =B 。

A B ⊇B A ⊆事件的和:“事件A 与事件B 至少有一个发生”是一事件,称此事件为事件A 与事件B 的和事件。

记为 A ∪B 。

事件的积:称事件“事件A 与事件B 都发生”为A 与B 的积事件,记为A∩ B 或AB 。

事件的差:称事件“事件A 发生而事件B 不发生”为事件A 与事件B 的差事件,记为 A -B 。

用交并补可以表示为。

B A B A =-互斥事件:如果A ,B 两事件不能同时发生,即AB =Φ,则称事件A 与事件B 是互不相容事件或互斥事件。

互斥时可记为A +B 。

B A ⋃对立事件:称事件“A 不发生”为事件A 的对立事件(逆事件),记为。

对立事件的性质:A 。

Ω=⋃Φ=⋂B A B A ,事件运算律:设A ,B ,C 为事件,则有(1)交换律:A ∪B=B ∪A ,AB=BA(2)结合律:A ∪(B ∪C)=(A ∪B)∪C=A ∪B ∪C A(BC)=(AB)C=ABC(3)分配律:A ∪(B∩C)=(A ∪B)∩(A ∪C) A(B ∪C)=(A∩B)∪(A∩C)= AB ∪AC (4)对偶律(摩根律): B A B A ⋂=⋃BA B A ⋃=⋂第二节 事件的概率概率的公理化体系:(1)非负性:P(A)≥0;(2)规范性:P(Ω)=1(3)可数可加性:两两不相容时⋃⋃⋃⋃n A A A 21++++=⋃⋃⋃⋃)()()()(2121n n A P A P A P A A A P 概率的性质:(1)P(Φ)=0(2)有限可加性:两两不相容时n A A A ⋃⋃⋃ 21)()()()(2121n n A P A P A P A A A P +++=⋃⋃⋃ 当AB=Φ时P(A∪B)=P(A)+P(B)(3))(1)(A P A P -=(4)P(A -B)=P(A)-P(AB)(5)P (A ∪B )=P(A)+P(B)-P(AB)第三节 古典概率模型1、设试验E 是古典概型,其样本空间Ω由n 个样本点组成,事件A 由k 个样本点组成.则定义事件A 的概率为nk A P =)(2、几何概率:设事件A 是Ω的某个区域,它的面积为 μ(A),则向区域Ω上随机投掷一点,该点落在区域 A 的概率为)()()(Ω=μμA A P 假如样本空间Ω可用一线段,或空间中某个区域表示,则事件A 的概率仍可用上式确定,只不过把μ理解为长度或体积即可.第四节 条件概率条件概率:在事件B 发生的条件下,事件A 发生的概率称为条件概率,记作 P(A|B).)()()|(B P AB P B A P =乘法公式:P(AB)=P(B)P(A|B)=P(A)P(B|A)全概率公式:设是一个完备事件组,则P(B)=∑P()P(B|)n A A A ,,,21 i A i A 贝叶斯公式:设是一个完备事件组,则n A A A ,,,21 ∑==)|()()|()()()()|(j j i i i i A B P A P A B P A P B P B A P B A P 第五节 事件的独立性两个事件的相互独立:若两事件A 、B 满足P(AB)= P(A) P(B),则称A 、B 独立,或称A 、B 相互独立.三个事件的相互独立:对于三个事件A 、B 、C ,若P(AB)= P(A) P(B),P(AC)= P(A)P(C),P(BC)= P(B) P(C),P(ABC)= P(A) P(B)P(C),则称A 、B 、C 相互独立三个事件的两两独立:对于三个事件A 、B 、C ,若P(AB)= P(A) P(B),P(AC)= P(A)P(C),P(BC)= P(B) P(C),则称A 、B 、C 两两独立独立的性质:若A 与B 相互独立,则与B ,A 与,与均相互独立A B A B 总结:1.条件概率是概率论中的重要概念,其与独立性有密切的关系,在不具有独立性的场合,它将扮演主要的角色。

(高等数学)概率统计与随机过程

(高等数学)概率统计与随机过程

λk
k!
e −λ
式中 λ = np。
二、
随机变量与分布函数
[随机变量及其概率分布函数]
每次试验的结果可以用一个变量 ξ 的数值来表示,这个变量的
取值随偶然因素而变化,但又遵从一定的概率分布规律,这种变量称为随机变量,用 ξ ,η ,···表示。 它是随机现象的数量比。 给定随机变量 ξ ,它的取值不超过实数 x 的事件的概率 P( ξ ≤ x)是 x 的函数,称为 ξ 的概率分 布函数,简称分布函数,记作 F(x) ,即 F(x)=P( ξ ≤ x ) [分布函数的基本性质] 1° lim F ( x ) = 0 lim F ( x ) = 1
f ( xk ) ≤ x
∑p
k
当 ξ 是连续型随机变量时 ,其分布密度为 p(x),则 G(x)=

f ( y )≤ x
p( y) d y
[随机矢量的联合分布函数与边缘分布函数]
如果 ξ1 , ξ 2 , ···, ξ n 联系于同一组条件下的 n 个随机
变量,则称 ξ (ξ1 , ξ 2 , ···, ξ n )为 n 维随机变量或随机矢量。 若(x1 , x2 ,···,xn)是n维实数空间Rn上的一点,则事件“ ξ1 ≤ x1 , ξ 2 ≤ x2 , ···, ξ n ≤ x n 的概率 F ( x1 , x 2 , L, x n ) = P(ξ 1 ≤ x1 , ξ 2 ≤ x 2 , L , ξ n ≤ x n ) 作为x1 , x2 ,···, xn的函数,称为随机矢量 ξ (ξ1 , ξ 2 , ···, ξ n ) 的联合分布函数。 设 ( ξ i1 , ξ i2 , ···, ξ im ) 是 ( ξ1 , ξ 2 , ···, ξ n ) 中任意取出 m(m ≤ n) 个分量构成的 m 维随机变量,则称 ( ξ i1 , ξ i2 , ···, ξ im ) 的联合分布函数为( ξ1 , ξ 2 , ···, ξ n ) 的 m 维边缘分布函数。 这 时 , 如 果 分 别 记 ( ξ1 , ξ 2 , ···, ξ n ) 与 ( ξ i1 , ξ i2 , ···, ξ im ) 的 分 布 函 数 为 F(x1,x2,···,xn) 与
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

概率论与随机过程考点总结Coca-cola standardization office【ZZ5AB-ZZSYT-ZZ2C-ZZ682T-ZZT18】第一章 随机过程的基本概念与基本类型 一.随机变量及其分布1.随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2.n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 3.随机变量的数字特征数学期望:离散型随机变量X ∑=k k p x EX 连续型随机变量X ⎰∞∞-=dx x xf EX )(方差:222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差(两个随机变量Y X ,):EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数(两个随机变量Y X ,):DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关。

独立⇒不相关⇔0=ρ4.特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质:1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0(母函数:∑∞===0)()(k kk kz p z E z g !)0()(k g p k k = )1()('g X E = 2''")]1([)1()1()(g g g X D -+=5.常见随机变量的分布列或概率密度、期望、方差0-1分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 k n k knq p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX6.N维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换二.随机过程的基本概念 1.随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。

简记为{}T t t X ∈),(。

含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性。

另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。

当t 固定时,),(e t X 是随机变量。

当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道。

分类:根据参数集T 和状态空间I 是否可列,分四类。

也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。

2.随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。

随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族。

随机过程的有限维分布函数族是随机过程概率特征的完整描述。

在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代。

(1)均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值。

(2)方差函数2)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度。

(3)协方差函数)()()]()([))]()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =(4)相关函数)]()([),(t X s X E t s R X = (3)和(4)表示随机过程在时刻s ,t 时的线性相关程度。

(5)互相关函数:{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数。

)()()]()([))]()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]()([),(t Y s X E t s R XY =,称为互相关函数。

若)()()]()([t m s m t Y s X E Y X =,则称两个随机过程不相关。

3.复随机过程 t t t jY X Z +=均值函数t t Z jEY EX t m +=)( 方差函数]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-= 协方差函数)()(][]))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =4.常用的随机过程(1)二阶距过程:实(或复)随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞<2)(t X E (二阶距存在),则称该随机过程为二阶距过程。

(2)正交增量过程:设{}T t t X ∈),(是零均值的二阶距过程,对任意的T t t t t ∈<<<4321,有0]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过程。

其协方差函数)),(m in(),(),(2t s t s R t s B XX X σ== (3)独立增量过程:随机过程{}T t t X ∈),(,若对任意正整数2≥n ,以及任意的T t t t n ∈<<< 21,随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的,则称{}T t t X ∈),(是独立增量过程。

进一步,如{}T t t X ∈),(是独立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程。

(4)马尔可夫过程:如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数n 及T t t t n ∈<<< 21,0))(,,)((1111>==--n n x t X x t X P ,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称{}T t t X ∈),(是马尔可夫过程。

(5)正态过程:随机过程{}T t t X ∈),(,若对任意正整数n 及T t t t n ∈,,,21 ,()()(),(21n t X t X t X )是n 维正态随机变量,其联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程。

(6)维纳过程:是正态过程的一种特殊情形。

设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ;②是平稳独立增量过程;③对任意t s ,增量)()(s W t W -服从正态分布,即0),0(~)()(22>--σσs t N s W t W 。

则称{}∞<<-∞t t W ),(为维纳过程,或布朗运动过程。

另外:①它是一个Markov 过程。

因此该过程的当前值就是做出其未来预测中所需的全部信息。

②维纳过程具有独立增量。

该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。

③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加。

(7)平稳过程:严(狭义)平稳过程:{}T t t X ∈),(,如果对任意常数τ和正整数n 及T t t t n ∈,,,21 ,T t t t n ∈+++τττ,,,21 ,()()(),(21n t X t X t X )与()()(),(21τττ+++n t X t X t X )有相同的联合分布,则称{}T t t X ∈),(是严(狭义)平稳过程。

广义平稳过程:随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程;②对任意的T t ∈,常数==)()(t EX t m X ;③对任意T t s ∈,,)()]()([),(s t R t X s X E t s R X X -==,或仅与时间差st -有关。

则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。

第三章 泊松过程一.泊松过程的定义(两种定义方法)1,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}T t t X ∈),(是具有参数λ的泊松过程。

①(0)0X =;②独立增量过程,对任意正整数n ,以及任意的T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立,即不同时间间隔的计数相互独立;③在任一长度为t 的区间中,事件A发生的次数服从参数0t λ>的的泊松分布,即对任意,0t s >,有{}()()()0,1,!n tt P X t s X s n en n λλ-+-===[()]E X t t λ=,[()]E X t tλ=,表示单位时间内时间A发生的平均个数,也称速率或强度。

2,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称:{}(),0X t t ≥是具有参数λ的泊松过程。

相关文档
最新文档