北邮概率论与随机过程笔记
概率论与随机过程----第二讲
B
n 1
n
λA
（由BnλA ，则A Bnλ() ，且A Bn
n 1 2017/2/27
A B
n
λA）
北京邮电大学电子工程学院 8
第一节 集合代数和σ -代数
2. λA是包含的λ-系
（λA ，只要证明对任意的B B λA 由B λ ()，Aλ ()
第一节 集合代数和σ -代数
简单回顾上一讲的内容： 1. 集代数、σ -代数、单调类、 ()、μ()的定义 2. 它们之间的关系
σ -代数（可列可加） 集代数（有限可加）
σ -代数 单调类 集代数+单调类 σ -代数 μ()、 () 是存在且唯一的 是集代数，μ() = ()
Ω=Aλ() ）
若B,C λA且B C，有B\C λA
（ 由B,C λA， 有B,Cλ() ，且对任意 取定的Aλ()，有A B,A Cλ() ； 然而A B A C ，必有(A C)\ (A B) λ() 即(A C)\ (A B) =A (C\B) λ()，即C\B λA
第一节 集合代数和σ -代数
定理1.1.10 设，是由Ω的一些子集组成的非空集合类， 且
1. 若为λ -系, 是π -系，则：σ () 2. 若为单调类, 是集代数，则： σ ()
证明1：由于 ，是包含的λ -系
则也包含所生成的最小λ -系λ ()，即λ () 而是π -系，由定理1.1.9：λ ()= σ ()
1. Ω ； 2. 若 A,B ，A-B ；
而A-B=A-(AB) ABA 因此： A-B
《概率论与随机过程》课程自学内容小结
大学2015～2016学年秋季学期本科生课程自学报告课程名称：《概率论与随机过程》课程编号：07275061报告题目：大数定律和中心极限定理在彩票选号的应用学生：学号：任课教师：成绩：评阅日期：随机序列在通信加密的应用2015年10月10日摘 要：大数定律与中心极限定理是概率论中很重要的定理，较多文献给出了不同条件下存在的大数定律和中心极限订婚礼，并利用大数定律与中心极限定理得到较多模型的收敛性。
但对于他们的适用围以及在实际生活中的应用涉及较少。
本文通过介绍大数定律与中心极限定理，给出了其在彩票选号方面的应用，使得数学理论与实际相结合，能够让读者对大数定律与中心极限定理在实际生活中的应用价值有更深刻的理解。
1. 引言在大数定律与中心极限定理是概率论中很重要的定理，起源于十七世纪，发展到现在，已经深入到了社会和科学的许多领域。
从十七世纪到现在，很多国家对这两个公式有了多方面的研究。
长期以来，在大批概率论统计工作者的不懈努力下，概率统计的理论更加完善，应用更加广泛，如其在金融保险业的应用，在现代数学中占有重要的地位。
本文主要通过对大数定律与中心极限定理的分析理解，研究探讨了其在彩票选号中的应用，并给出了案例分析，目的旨在给出大数定律与中心极限定理应用对实际生活的影响，也对大数定律与中心极限定理产生更深刻的理解。
2. 自学容小结与分析2.1 随机变量的特征函数在对随机变量的分析过程中，单单由数字特征无法确定其分布函数，所以引入特征函数。
特征函数反映随机变量的本质特征，可唯一的确定随机变量的分布函数、随机变量X 的特征函数定义为：定义1 ][)()(juX jux e E dx e x p ju C ==⎰+∞∞-(1)性质1 两两相互独立的随机变量之和的特征函数等于各个随机变量的特征函数之积。
性质1意味着在傅立叶变换之后，时域的卷积变成频域的相乘，这是求卷积的简便方法。
类比可知求独立随机变量之和的分布的卷积，可化为乘法运算，这样就简便了计算，提高了运算效率。
概率论与随机过程考点总结
概率论与随机过程考点总结Company number：【0089WT-8898YT-W8CCB-BUUT-202108】第一章 随机过程的基本概念与基本类型 一．随机变量及其分布1．随机变量X ， 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()(2．n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数（两个随机变量Y X ,）：DYDX B XY XY ⋅=ρ 若0=ρ，则称Y X ,不相关。
独立⇒不相关⇔0=ρ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0(母函数：∑∞===0)()(k kk kz p z E z g !)0()(k g p k k = )1()('g X E =2''")]1([)1()1()(g g g X D -+=５．常见随机变量的分布列或概率密度、期望、方差０－１分布 q X P p X P ====)0(,)1( p EX = pq DX =二项分布 kn k k nq p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX ６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =，T n x x x x ),,,(21 =，n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二．随机过程的基本概念 １．随机过程的一般定义设),(P Ω是概率空间，T 是给定的参数集，若对每个T t ∈，都有一个随机变量X 与之对应，则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程。
随机过程例题和知识点总结
随机过程例题和知识点总结随机过程是研究随机现象随时间演变的数学学科，在通信、金融、物理等众多领域都有广泛应用。
下面我们通过一些例题来深入理解随机过程的相关知识点。
一、随机过程的基本概念随机过程可以看作是一族随机变量的集合，其中每个随机变量都对应着某个特定的时刻。
例如，考虑一个在时间段0, T内的股票价格变化过程，对于每个时刻 t∈0, T，都有一个对应的随机变量 X(t)表示股票的价格。
二、常见的随机过程类型1、泊松过程泊松过程常用于描述在一定时间内随机事件发生的次数。
例如，某电话交换台在单位时间内接到的呼叫次数就可以用泊松过程来建模。
例题：假设某电话交换台在上午 9 点到 10 点之间接到的呼叫次数是一个泊松过程，平均每分钟接到 2 次呼叫。
求在 9 点 10 分到 9 点 20 分这 10 分钟内接到至少 5 次呼叫的概率。
解：设 X(t) 表示在时间段 0, t 内接到的呼叫次数，且 X(t) 是一个强度为λ ＝ 2 的泊松过程。
10 分钟内接到的呼叫次数 X(10) 服从参数为λt ＝ 2×10 ＝ 20 的泊松分布。
P(X(10) ≥ 5) ＝ 1 P(X(10) ＜ 5) ＝ 1 P(X(10) ＝ 0) ＋ P(X(10) ＝ 1) ＋ P(X(10) ＝ 2) ＋ P(X(10) ＝ 3) ＋ P(X(10) ＝ 4)通过泊松分布的概率质量函数可以计算出每个概率值，进而求得最终结果。
2、马尔可夫过程马尔可夫过程具有“无记忆性”，即未来的状态只与当前状态有关，而与过去的状态无关。
例题：一个状态空间为｛0, 1, 2} 的马尔可夫链，其一步转移概率矩阵为 P ＝ 05 03 02; 02 06 02; 01 03 06 ，初始状态为 0，求经过 3 步转移后处于状态 2 的概率。
解：通过计算 P³得到 3 步转移概率矩阵，然后取出第 0 行第 2 列的元素即为所求概率。
概率论与随机过程考点总结
第一章 随机过程的基本概念与基本类型 一．随机变量及其分布1．随机变量X , 分布函数)()(x X P x F ≤=离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k p x F )( 连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰∞-=xdt t f x F )()( 2．n 维随机变量),,,(21n X X X X =其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤== 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征数学期望：离散型随机变量X ∑=k k p x EX 连续型随机变量X⎰∞∞-=dx x xf EX )(方差：222)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差两个随机变量Y X ,：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数两个随机变量Y X ,：DYDX B XY XY ⋅=ρ 若0=ρ,则称Y X ,不相关;独立⇒不相关⇔0=ρ４．特征函数)()(itX e E t g = 离散 ∑=k itx p e t g k)( 连续 ⎰∞∞-=dx x f e t g itx )()(重要性质：1)0(=g ,1)(≤t g ,)()(t g t g =-,k k k EX i g =)0( 母函数：∑∞===0)()(k kk kzp z E z g!)0()(k g p k k =)1()('g X E =2''")]1([)1()1()(g g g X D -+=５．常见随机变量的分布列或概率密度、期望、方差０－１分布 q X P p X P ====)0(,)1( p EX = pq DX = 二项分布 k n k k n q p C k X P -==)( np EX = npq DX = 泊松分布 !)(k ek X P kλλ-== λ=EX λ=DX 均匀分布略正态分布),(2σa N 222)(21)(σσπa x ex f --=a EX = 2σ=DX指数分布 ⎩⎨⎧<≥=-0,00,)(x x e x f x λλ λ1=EX 21λ=DX６．Ｎ维正态随机变量),,,(21n X X X X =的联合概率密度),(~B a N XT n a a a a ),,,(21 =,T n x x x x ),,,(21 =,n n ij b B ⨯=)(正定协方差阵3.随机向量的变换 二．随机过程的基本概念 １．随机过程的一般定义设),(P Ω是概率空间,T 是给定的参数集,若对每个T t ∈,都有一个随机变量X 与之对应,则称随机变量族{}T t e t X ∈),,(是),(P Ω上的随机过程;简记为{}T t t X ∈),(;含义：随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性;另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的;当t 固定时,),(e t X 是随机变量;当e 固定时,),(e t X 时普通函数,称为随机过程的一个样本函数或轨道;分类：根据参数集T 和状态空间I 是否可列,分四类; 也可以根据)(t X 之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等; ２．随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性;随机过程{}T t t X ∈),(的一维分布,二维分布,…,n 维分布的全体称为有限维分布函数族;随机过程的有限维分布函数族是随机过程概率特征的完整描述;在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代;１均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值; ２方差函数2)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度; ３协方差函数)()()]()([))]()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =４相关函数)]()([),(t X s X E t s R X = 3和4表示随机过程在时刻s ,t 时的线性相关程度;５互相关函数：{}T t t X ∈),(,{}T t t Y ∈),(是两个二阶距过程,则下式称为它们的互协方差函数;)()()]()([))]()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=,那么)]()([),(t Y s X E t s R XY =,称为互相关函数;若)()()]()([t m s m t Y s X E Y X =,则称两个随机过程不相关; ３．复随机过程 t t t jY X Z += 均值函数tt Z jEY EX t m +=)( 方差函数]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-=协方差函数)()(][]))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =４．常用的随机过程１二阶距过程：实或复随机过程{}T t t X ∈),(,若对每一个T t ∈,都有∞<2)(t X E 二阶距存在,则称该随机过程为二阶距过程;2正交增量过程：设{}T t t X ∈),(是零均值的二阶距过程,对任意的T t t t t ∈<<<4321,有0]))()(())()([(3412=--t X t X t X t X E ,则称该随机过程为正交增量过程;其协方差函数)),(m in(),(),(2t s t s R t s B XX X σ== 3独立增量过程：随机过程{}T t t X ∈),(,若对任意正整数2≥n ,以及任意的T t t t n ∈<<< 21,随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X 是相互独立的,则称{}T t t X ∈),(是独立增量过程; 进一步,如{}T t t X ∈),(是独立增量过程,对任意t s <,随机变量)()(s X t X -的分布仅依赖于s t -,则称{}T t t X ∈),(是平稳独立增量过程;4马尔可夫过程：如果随机过程{}T t t X ∈),(具有马尔可夫性,即对任意正整数n 及T t t t n ∈<<< 21,0))(,,)((1111>==--n n x t X x t X P ,都有{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称{}T t t X ∈),(是马尔可夫过程;5正态过程：随机过程{}T t t X ∈),(,若对任意正整数n 及T t t t n ∈,,,21 ,)()(),(21n t X t X t X 是n 维正态随机变量,其联合分布函数是n 维正态分布函数,则称{}T t t X ∈),(是正态过程或高斯过程; 6维纳过程：是正态过程的一种特殊情形;设{}∞<<-∞t t W ),(为实随机过程,如果,①0)0(=W ；②是平稳独立增量过程；③对任意t s ,增量)()(s W t W -服从正态分布,即0),0(~)()(22>--σσs t N s W t W ;则称{}∞<<-∞t t W ),(为维纳过程,或布朗运动过程;另外：①它是一个Markov 过程;因此该过程的当前值就是做出其未来预测中所需的全部信息;②维纳过程具有独立增量;该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率;③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加; 7平稳过程：严狭义平稳过程：{}T t t X ∈),(,如果对任意常数τ和正整数n 及Tt t t n ∈,,,21 ,Tt t t n ∈+++τττ,,,21 ,)()(),(21n t X t X t X 与)()(),(21τττ+++n t X t X t X 有相同的联合分布,则称{}T t t X ∈),(是严狭义平稳过程;广义平稳过程：随机过程{}T t t X ∈),(,如果①{}T t t X ∈),(是二阶距过程；②对任意的T t ∈, 常数==)()(t EX t m X ；③对任意T t s ∈，,)()]()([),(s t R t X s X E t s R X X -==,或仅与时间差s t -有关;则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程;第三章 泊松过程一．泊松过程的定义两种定义方法１,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称：{}T t t X ∈),(是具有参数λ的泊松过程;①(0)0X =；②独立增量过程,对任意正整数n ,以及任意的T t t t n ∈<<< 21)()(,),()(),()(12312----n n t X t X t X t X t X t X 相互独立,即不同时间间隔的计数相互独立；③在任一长度为t 的区间中,事件Ａ发生的次数服从参数0t λ>的的泊松分布,即对任意,0t s >,有{}()()()0,1,!ntt P X t s X s n en n λλ-+-===[()]E X t t λ=,[()]E X t tλ=,表示单位时间内时间Ａ发生的平均个数,也称速率或强度;２,设随机计数过程{}(),0X t t ≥,其状态仅取非负整数值,若满足以下三个条件,则称：{}(),0X t t ≥是具有参数λ的泊松过程;①(0)0X =；②独立、平稳增量过程；③{}{}()()1()()()2()P X t h X t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时发生,也称为单跳性; 二．基本性质１,数字特征 ()[()][()]X m t E X t t D X t λ=== (1)(,)(1)X s t s t R s t t s s tλλλλ+<⎧=⎨+≥⎩(,)(,)()()min(,)X X X X B s t R s t m s m t s t λ=-= 推导过程要非常熟悉２,n T 表示第1n -事件Ａ发生到第n 次事件发生的时间间隔,{},1n T n ≥是时间序列,随机变量n T 服从参数为λ的指数分布;概率密度为,0()0,0t e t f t t λλ-⎧≥=⎨<⎩,分布函数1,0()0,0n t T e t F t t λ-⎧-≥=⎨<⎩均值为1n ET λ=证明过程也要很熟悉 到达时间的分布 略 三．非齐次泊松过程 到达强度是t 的函数①(0)0X =；②独立增量过程；③{}{}()()1()()()()2()P X t h X t t h o h P X t h X t o h λ+-==+⎧⎪⎨+-≥=⎪⎩; 不具有平稳增量性;均值函数0()[()]()tX m t E X t s ds λ==⎰定理：{}(),0X t t ≥是具有均值为0()()tX m t s ds λ=⎰的非齐次泊松过程,则有 四．复合泊松过程设{}(),0N t t ≥是强度为λ的泊松过程,{},1,2,k Y k =是一列独立同分布的随机变量,且与{}(),0N t t ≥独立,令()1()N t kk X t Y==∑ 则称{}(),0X t t ≥为复合泊松过程;重要结论：{}(),0X t t ≥是独立增量过程；若21()E Y <∞,则1[()]()E X t tE Y λ=,21[()]()D X t tE Y λ=第四章 马尔可夫链泊松过程是时间连续状态离散的马氏过程,维纳过程是时间状态都连续的马氏过程;时间和状态都离散的马尔可夫过程称为马尔可夫链;马尔可夫过程的特性：马尔可夫性或无后效性;即：在过程时刻0t 所处的状态为已知的条件下,过程在时刻0t t >所处状态的条件分布与过程在时刻0t 之前所处的状态无关;也就是说,将来只与现在有关,而与过去无关;表示为{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P一．马尔可夫链的概念及转移概率1．定义：设随机过程{},∈n X n T ,对任意的整数∈n T 和任意的011,,,n i i i I +∈,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称{},∈n X n T 为马尔可夫链;马尔可夫链的统计特性完全由条件概率{}11n n n n P X i X i ++==所决定;2．转移概率 {}1n n P X j X i +==相当于随机游动的质点在时刻n 处于状态i 的条件下,下一步转移到j 的概率;记为()ij p n ;则()ij p n {}1n n P X j X i +===称为马尔可夫链在时刻n 的一步转移概率;若齐次马尔可夫链,则()ij p n 与n 无关,记为ij p ;[],1,2,ij P p i j II =∈= 称为系统的一步转移矩阵;性质：每个元素0ij p ≥,每行的和为1;3．n 步转移概率()n ij p ={}m n m P X j X i +== ；()()[],1,2,n n ij P p i j II =∈=称为n步转移矩阵;重要性质：①()()()n l n l ij ik kj k Ip p p -∈=∑ 称为C K -方程,证明中用到条件概率的乘法公式、马尔可夫性、齐次性;掌握证明方法：{}{}{}{}{}{}{}{}{}()()()()(),,,,,,,()()m m n n ijm nm m m m l m n k Tm m m l m n m m l k Tm m l m n l l l n l kj ik ik kj k Ik IP X i X j p P X j X i P X i P X i X k X j P X i P X i X k X j P X i X k P X i X k P X i p m l p m p p ++++∈+++∈+--∈∈==================⋅====+⋅=⋅∑∑∑∑②()n n P P = 说明n 步转移概率矩阵是一步转移概率矩阵的n 次乘方;4．{},∈n X n T 是马尔可夫链,称{}0j p P X j ==为初始概率,即0时刻状态为j 的概率；称{}()j n p n P X j ==为绝对概率,即n 时刻状态为j 的概率;{}12(0),,T P p p =为初始概率向量,{}12()(),(),T P n p n p n =为绝对概率向量;定理：①()()n j i ij i Ip n p p ∈=∑矩阵形式：()()(0)T T n P n P P =②()(1)j i ij i Ip n p n p ∈=-∑定理：{}111122,,,n n n n i iii i i IP X i X i X i p p p -∈====∑ 说明马氏链的有限维分布完全由它的初始概率和一步转移概率所决定; 二．马尔可夫链的状态分类1．周期：自某状态出发,再返回某状态的所有可能步数最大公约数,即{}():0n ii d GC D n p ⋅⋅=>;若1d >,则称该状态是周期的；若1d =,则称该状态是非周期的;2．首中概率：()n ij f 表示由i 出发经n 步首次到达j 的概率; 3．()1n ij ij n f f ∞==∑表示由i 出发经终于迟早要到达j 的概率;4．如果1ii f =,则状态i 是常返态；如果1ii f <,状态i 是非常返滑过态;5．()1n i ii n nf μ∞==∑表示由i 出发再返回到i 的平均返回时间;若i μ<∞,则称i 是正常返态；若i μ=∞,则称i 是零常返态;非周期的正常返态是遍历状态; 6．状态i 是常返充要条件是()0iin n p∞==∞∑；状态i 是非常返充要条件是()11iin n iip f ∞==-∑; 7．称状态i 与j 互通,,i j i j j i ↔→→即且;如果i j ↔,则他们同为常返态或非常返态,；若i ,j 同为常返态,则他们同为正常返态或零常返态,且i ,j 有相同的周期;8．状态i 是遍历状态的充要条件是()1lim 0n iin ip μ→∞=>;一个不可约的、非周期的、有限状态的马尔可夫链是遍历的;9．要求：熟悉定义定理,能由一步转移概率矩阵画出状态转移图,从而识别各状态; 三．状态空间的分解1．设C 是状态空间I 的一个闭集,如果对任意的状态i C ∈,状态j C ∉,都有0ij p =即从i 出发经一步转移不能到达j ,则称C 为闭集;如果C 的状态互通,则称C 是不可约的;如果状态空间不可约,则马尔可夫链{},∈n X n T 不可约;或者说除了C 之外没有其他闭集,则称马尔可夫链{},∈n X n T 不可约;2．C 为闭集的充要条件是：对任意的状态i C ∈,状态j C ∉,都有()0ijn p =;所以闭集的意思是自C 的内部不能到达C 的外部;意味着一旦质点进入闭集C 中,它将永远留在C 中运动;如果1ii p =,则状态i 为吸收的;等价于单点{}i 为闭集;3．马尔可夫链的分解定理：任一马尔可夫链的状态空间I ,必可唯一地分解成有限个互不相交的子集12,,,nD C C C 的和,①每一个n C 都是常返态组成的不可约闭集；②n C 中的状态同类,或全是正常返态,或全是零常返态,有相同的周期,且1ij f =;③D 是由全体非常返态组成; 分解定理说明：状态空间的状态可按常返与非常返分为两类,非常返态组成集合D ,常返态组成一个闭集C ;闭集C 又可按互通关系分为若干个互不相交的基本常返闭集12,,nC C C ; 含义：一个马尔可夫链如果从D 中某个非常返态出发,它或者一直停留在D 中,或某一时刻进入某个基本常返闭集n C ,一旦进入就永不离开;一个马尔可夫链如果从某一常返态出发,必属于某个基本常返闭集n C ,永远在该闭集n C 中运动;4．有限马尔可夫链：一个马尔可夫链的状态空间是一个有限集合;性质：①所有非常返态组成的集合不是闭集；②没有零常返态；③必有正常返态；④状态空间12n I D C C C =++++,D 是非常返集合,12,,n C C C 是正常返集合;不可约有限马尔可夫链只有正常返态;四．()n ij p 的渐近性质与平稳分布 1．为什么要研究转移概率()n ij p 的遍历性研究()n ij p 当n →∞时的极限性质,即{}0n P X j X i ==的极限分布,包含两个问题：一是()lim n ij n p →∞是否存在；二是如果存在,是否与初始状态有关;这一类问题称作遍历性定理;如果对,i j I ∈,存在不依赖于i 的极限()lim n ijn p →∞0j p =>,则称马尔可夫链具有遍历性; 一个不可约的马尔可夫链,如果它的状态是非周期的正常返态,则它就是一个遍历链; 具有遍历性的马尔可夫链,无论系统从哪个状态出发,当转移步数n 充分大时,转移到状态j 的概率都近似等于j p ,这时可以用j p 作为()n ij p 的近似值;2．研究平稳分布有什么意义判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的,可以通过讨论()lim n ij n p →∞来解决,但求极限时困难的;所以,我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链;一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布,且平稳分布即极限分布()lim n ij n p →∞=1,jj I μ∈;3．{},0≥n X n 是齐次马尔可夫链,状态空间为I ,一步转移概率为ij p ,概率分布{},j j I π∈称为马尔可夫链的平稳分布,满足1j i iji Ijj Ip πππ∈∈==∑∑4．定理：不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布,且此平稳分布就是极限分布1,jj I μ∈; 推论：有限状态的不可约非周期马尔可夫链必存在平稳分布;5．在工程技术中,当马尔可夫链极限分布存在,它的遍历性表示一个系统经过相当长时间后达到平衡状态,此时系统各状态的概率分布不随时间而变,也不依赖于初始状态;6．对有限马尔可夫链,如果存在正整数k ,使()0k ij p >,即k 步转移矩阵中没有零元素,则该链是遍历的;第六章 平稳随机过程一．定义第一章严平稳过程：有限维分布函数沿时间轴平移时不发生变化;宽平稳过程：满足三个条件：二阶矩过程2[()]E X t <∞；均值为常数[()]E X t =常数；相关函数只与时间差有关,即(,)()()()X X R t t E X t X t R τττ⎡⎤-=-=⎣⎦;宽平稳过程不一定是严平稳过程,而严平稳过程一定是宽平稳过程; 二．联合平稳过程及相关函数的性质1．定义：设{}(),X t t T ∈和{}(),X t t T ∈是两个平稳过程,若它们的互相关函数()()E X t Y t τ⎡⎤-⎣⎦及()()E Y t X t τ⎡⎤-⎣⎦仅与时间差τ有关,而与起点t 无关,则称()X t 和()Y t 是联合平稳随机过程;即,(,)()()()XY XY R t t E X t Y t R τττ⎡⎤-=-=⎣⎦ (,)()()()YX YX R t t E Y t X t R τττ⎡⎤-=-=⎣⎦当然,当两个平稳过程联合平稳时,其和也是平稳过程;２．相关函数的性质：①(0)0X R ≥；②()()X X R R ττ≥,对于实平稳过程,()X R τ是偶函数;③()(0)X X R R τ≤④非负定;⑤若()X t 是周期的,则相关函数()X R τ也是周期的,且周期相同;⑥如果()X t 是不含周期分量的非周期过程,()X t 与()X t τ+相互独立,则||()lim X X X R m m ττ→∞=;联合平稳过程()X t 和()Y t 的互相关函数,()(0)(0)XY X Y R R R τ≤,()(0)(0)YX X Y R R R τ≤；()()XY YX R R ττ-=;()X t 和()Y t 是实联合平稳过程时,则,()()XY YX R R ττ-=;三．随机分析 略四．平稳过程的各态历经性 １．时间均值1()..()2TTT X t l i mX t dt T-→∞=⎰时间相关函数1()()..()()2TTT X t X t l i mX t X t dt Tττ-→∞-=-⎰２．如果()[()]()X X t E X t m t ==以概率１成立,则称均方连续的平稳过程的均值有各态历经性;如果()()[()()]()X X t X t E X t X t R τττ-=-= 以概率１成立,则称均方连续的平稳过程的相关函数有各态历经性;如果均方连续的平稳过程的均值和相关函数都有各态历经性,则称该平稳过程是各态历经的或遍历的;一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的；另一方面也表明[()]E X t 与[()()]E X t X t τ-必定与t 无关,即各态历经过程必是平稳过程;３．讨论平稳过程的历经性,就是讨论能否在较宽松的条件下,用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征,即用时间平均代替统计平均; 只在一定条件下的平稳过程,才具有各态历经性;４．均值各态历经性定理：均方连续的平稳过程的均值具有各态历经的充要条件是５．相关函数各态历经性定理：均方连续的平稳过程的相关函数具有各态历经的充要条件是第七章 平稳过程的谱分析 一．平稳过程的谱密度 推导过程：随机过程{}(),X t t -∞<<∞为均方连续过程,作截尾处理(),()0,T X t t TX t t T ⎧≤⎪=⎨>⎪⎩,由于()T X t 均方可积,所以存在FT,得(,)()()Tj tj t T TF T X t edt X t e dt ωωω∞---∞-==⎰⎰,利用paserval 定理及IFT 定义得2221()()(,)2TT TX t dt X t dt F T d ωωπ∞∞-∞--∞==⎰⎰⎰该式两边都是随机变量,取平均值,这时不仅要对时间区间[,]T T -取,还要取概率意义下的统计平均,即 定义221()2lim TTT E X t dt Tψ-→∞⎡⎤=⎢⎥⎣⎦⎰为{}(),X t t -∞<<∞平均功率;21()(,)2limX T s E F T T ωω→∞⎡⎤=⎣⎦为{}(),X t t -∞<<∞功率谱密度,简称谱密度; 可以推出当{}(),X t t -∞<<∞是均方连续平稳过程时,有 21()2X s d ψωωπ∞-∞=⎰说明平稳过程的平均功率等于过程的均方值,或等于谱密度在频域上的积分;２．平稳过程的谱密度和相关函数构成FT 对;若平稳随机序列{},0,1,2,n X n =±±,则其谱密度和相关函数构成FT 对二．谱密度的性质１．①()X s ω是()X R τ的FT;()()j X X s R e d ωτωττ∞--∞=⎰如果{}(),X t t -∞<<∞是均方连续的实平稳过程,有()()X X R R ττ=-,()X s ω是也实的非负偶函数,则②()X s ω是ω的有理分式,分母无实根;２．谱密度的物理含义,()X s ω是一个频率函数,从频率域来描绘()X t 统计规律的数字特征,而()X t 是各种频率简谐波的叠加,()X s ω就反映了各种频率成分所具有的能量大小;３．计算 可以按照定义计算,也可以利用常用的变换对()1t δ↔ 12()πδω↔ 2220a ae a a τω-↔>+22τω↔-00()()j X X R e s ωττωω⋅↔- ()()j T X X R T s e ωτω+↔⋅001,sin 0,ωωωτωωπτ⎧<⎪↔⎨≥⎪⎩等 三．窄带过程及白噪声过程的功率谱密度１．窄带随机过程：随机过程的谱密度限制在很窄的一段频率范围内;２．白噪声过程：设{}(),X t t -∞<<∞为实值平稳过程,若它的均值为零,且谱密度在所有的频率范围内为非零的常数,即0()X s N ω=,则称{}(),X t t -∞<<∞为白噪声过程; 是平稳过程;其相关函数为0()()X R N τδτ=;表明在任意两个时刻1t 和2t ,1()X t 和2()X t 不相关,即白噪声随时间的变换起伏极快,而过程的功率谱极宽,对不同输入频率的信号都有可能产生干扰;四．联合平稳过程的互谱密度互谱密度没有明确的物理意义,引入它主要是为了能在频率域上描述两个平稳过程的相关性;１．互谱密度与互相关函数成ＦＴ对关系 ２．性质()()XY XY s s ωω= ()XY s ω的实部是ω的偶函数,虚部是ω的奇函数,()YX s ω也是; 2()()()XY X Y s s s ωωω≤；若()X t 和()Y t 相互正交,有()0XY R τ=,则()()0XY YX s s ωω== ;五．平稳过程通过线性系统１．系统的频率响应函数()H ω也可以写成()H j ω一般是一个复值函数,是系统单位脉冲响应的FT;２．系统输入()X t 为实平稳随机过程,则输出()Y t 也是实平稳随机过程;即输出过程的均值为常数,相关函数是时间差的函数;且有()()()()()()Y XY X R R h R h h ττττττ=*-=**-说明输出过程的相关函数可以通过两次卷积产生;()()()XY X R R h τττ=*的应用：给系统一个白噪声过程()X t ,可以从实测的互相关资料估计线性系统的未知脉冲响应;因为0()()X R N τδτ=,00()()()()()()XY X R R h N u h u du N h τττδττ∞-∞=*=-=⎰,从而３．输入输出谱密度之间的关系 2()()()Y X s H s ωωω=2()()()H H H ωωω=称为系统的频率增益因子或频率传输函数;有时,采用时域卷积的方法计算输出的相关函数比较烦琐,可以先计算输出过程的谱密度,然后反FT 计算出相关函数;2()()()()()X Y X Y R s H s R τωωωτ→=→另外()()()XY X R R h τττ=*,所以()()()XY X s H s ωωω= ,()()()YX X s H s ωωω= 补充：排队轮平均间隔时间=总时间/到达顾客总数 平均服务时间=服务时间总和/顾客总数平均到达率=到达顾客总数/总时间 平均服务率=顾客总数/服务时间总和一．当顾客到达符合泊松过程时,顾客相继到达的间隔时间T 必服从负指数分布;对于泊松分布,λ表示单位时间平均到达的顾客数,所以1λ表示顾客相继到达的平均间隔时间;服务时间符合负指数分布时,设它的概率密度函数和分布函数分别为()(){}[]1tttt t tf t e F t P T t e dt d e e μμμμμμ----==≤==-=-⎰⎰ 其中μ表示单位时间能够服务完的顾客数,为服务率；而1μ表示一个顾客的平均服务时间; 二．排队模型的求解把系统中的顾客数称为系统的状态;若系统中有n 个顾客,则称系统的状态是n ;瞬态和稳态：考虑在t 时刻系统的状态为n 的概率,它是随时刻t 而变化的,用()n P t 表示,称为系统的瞬态;求瞬态解是很不容易的,求出也很难利用;因此我们常用稳态概率n P ,表示系统中有n 个顾客的概率; 各运行指标：1队长：把系统中的顾客数称为队长,它的期望值记作s L ,也叫平均队长,即系统中的平均顾客数;而把系统中排队等待服务的顾客数称为排队长队列长,它的期望值记作q L ,也叫平均排队长,即系统中的排队的平均顾客数; 显然有 队长＝排队长＋正被服务的顾客数;2逗留时间：一个顾客从到达排队系统到服务完毕离去的总停留时间称为逗留时间,它的期望值记作s W ;一个顾客在系统中排队等待的时间称为等待时间,它的期望值记作q W ;逗留时间＝等待时间＋服务时间;3忙期：从顾客到达空闲服务机构起,到服务台再次变为空闲为止; 4顾客损失率：由于服务能力不足而造成顾客损失的比率;5服务强度服务机构利用率：指服务设备工作时间占总时间的比例; 三．几种典型的排队模型1．//1//M M ∞∞：单服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,λρμ=服务强度; 状态转移图 , 稳态概率方程 得 系统中无顾客的01P ρ=- 系统中有n 个顾客的概率0(1)n n n P P ρρρ=-=且必有s q L L uλ=+qq L W λ=1s q W W μ=+2．//1//M M N ∞：单服务台,系统容量为N 说明若到了系统最大容量,顾客将不能进入系统,顾客源无限;λ到达率,μ服务率,λρμ=服务强度;☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆状态转移图 , 稳态概率方程 得 系统中无顾客的0111N P ρρ+-=- 系统中有n 个顾客的概率0n n P P ρ= 3．//1//M M m ∞：单服务台,系统容量无限,顾客源m;λ到达率,μ服务率;状态转移图 , 稳态概率方程 得 系统中无顾☆客的001!()!()mii P m m i λμ==-∑系统中有n 个顾客的概率0!()()!n n m P P m n λμ=-1n m ≤≤0(1)s L m P μλ=--；00()(1)(1)q s P L m L P λμλ+-=-=--01(1)s m W P μλ=--1q s W W μ=-4. ////M M c ∞∞：多服务台,系统容量无限,顾客源无限;λ到达率,μ服务率,c λρμ=服务强度; 状态转移图 , 稳态概率方程 得☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆系统中无顾客的110011!!1k c c k P k c λλμμρ--=⎡⎤⎛⎫⎛⎫=+⎢⎥ ⎪ ⎪-⎝⎭⎝⎭⎢⎥⎣⎦∑系统中有n 个顾客的概率001()!1()!nn n n c P n c n P P n c c cλμλμ-⎧≤⎪⎪=⎨⎪>⎪⎩。
北京邮电大学工程数学概率部分复习
1 5 5 P{恰好出现两次 6 点}= C 6 6 72
2 3
所以选 D． 例：设 A、B 为两个互不相容事件，且 P ( B ) 0 ，则 P ( A B ) _________． 解：因为 A、B 为两个互不相容，即 AB ，所以
P( A B)
） ．
解： P ( A B ) P ( AB ) P ( A) P ( B ) [1 P ( A)][1 P( B)]
0.4 0.3 0.12
所以选 D．
二、随机变量及其分布
1．随机变量及其分布函数：了解随机变量及其分布函数的概念、性质；掌握分布函数与随 机变量取值概率的关系． 2．离散型随机变量：掌握离散型随机变量分布律的性质；掌握分布律的求法；掌握离散型 随机变量分布函数的求法． 3．连续型随机变量：掌握连续型随机变量概率密度的性质；掌握概率密度与分布函数的关 系． 4．几个重要分布：掌握以下常用随机变量的分布．
Y X -1 0 1 1 0 1/3 0 2 1/2 0 1/6
（4） P X Y 1 P X 1, Y 2 P X 0, Y 1 例：设随机变量 X 的分布列为： X P -1 1/2 0 1/4
2
1 1 5 2 3 6
1 1/4
求（1）X 的分布函数 F ( x) ； （2）Y X 的分布列； （3）二维随机变量（X，Y）的分布列； （4） P X Y 0 ． 解： （1）当 x 1 时， F ( x) P{ X x} P( ) 0 当 1 x 0 时， F ( x) P{ X x} P{x 1}
（3） P X xi , Y y j PX xi P Y y j X xi
北邮概率论与数理统计样本空间及随机事件1.1
§1.1 随机事件及其运算1.随机现象自然界和社会上发生的现象多种多样.有些现象,我们可以准确预言他们在一定条件会出现何种结果,例如“在标准大气压下,纯水加热到C ︒100时必定沸腾”等等,这类现象我们称为确定性现象.然而自然界和社会上还有许多现象,他们在一定条件下，并不总是出现相同结果,而且事先我们无法准确预言会出现何种结果, 这类现象我们称为随机现象.随机现象随处可见。
如抛一枚硬币，其结果可能是正面朝上,也可能反面朝上,而且在出现结果之前无法准确预言会出现何种结果.再比如用一仪器在相同条件下测量一物体的质量,各次测量结果会有差异,等等。
有的随机现象可以在相同条件下重复,也有很多随机现象是不能重复的，比如经济现象（如失业，经济增长速度等）大多不能重复. 对在相同条件下可以重复的随机现象的观察、记录、实验称为随机试验.对于这类随机现象，我们常常通过多次重复的随机试验，观察其出现的结果，以期发现随机现象的规律性。
长期的实践经验表明，在大量重复试验下,随机现象的结果的出现往往呈现出某种规律性.例如大量重复抛一枚硬币,正面出现的次数与反面出面出现的次数大致相当,等等.这种在大量重复试验中所呈现的规律性就是我们以后常说的统计规律性.概率论与数理统计的研究对象是随机现象,研究和揭示随机现象的统计规律性. 概率论与数理统计主要研究能重复的随机现象，但也十分注意研究不能重复的随机现象.2.样本空间数学理论的建立总是需要首先给出一些原始的无定义的概念（例如，“点”和“直线”是欧氏几何的公理化处理中无定义的概念）。
在概率论中，第一个“无定义”的原始概念是“样本点”，这一原始概念又联系着另一原始概念“随机试验”.概率论中所说的随机试具有下述特点:(1)可以在相同条件下重复地进行;(2)每次试验的可能结果不止一个,并且事先能明确试验的所有可能的结果;(3)进行一次试验之前不能确定哪个结果会发生.随机试验的可能结果称为样本点，用ω表示样本点；而随机试验的一切样本点组成的集合称为样本空间，记为}{ω=Ω.在具体问题中,认清“样本空间是哪些样本点构成的”是十分重要的. 有些随机试验凭“经验”可确定样本点和样本空间,有些随机试验需要“数学的理想化”去确定样本点和样本空间.样本点和样本空间的确定也与研究目的有关,或者说与观察或记录的是什么有关.看下面一些例子.例 1 考虑试验:掷一骰子,观察出现的点数.根据“实际经验”,该试验的基本结果有6个:1,2,3,4,5,6,从而其样本空间为}6,5,4,3,2,1{=Ω.如果我们只是观察出现奇数点还是偶数点,那么样本空间可以确定为{=Ω出现奇数点,出现偶数点}.例 2 考虑试验:观察一天内进入某商场的人数. 一天内进入某商场的人数是非负整数,但由于不知道最多的人数和最少的人数,我们把该试验的样本空间“理想化”地定为},3,2,1,0{⋅⋅⋅=Ω,即样本空间确定为全体非负整数构成的集合.例3考虑试验:考察一个元件的寿命.为了数学上处理方便, 我们把该试验的样本空间“理想化”地确定为),0[+∞=Ω.例 4 对于试验:将一硬币抛3次.若我们记录3次正反面出现的情况,则样本空间为},,,,,,,{TTT TTH THT HTT THH HTH HHT HHH =Ω;若我们记录正面出现的次数,则样本空间为}3,2,1,0{=Ω.若样本空间中的元素个数是有限个,我们称此样本空间为有限样本空间. 若样本空间中的元素个数是有限个或可列个,我们称此样本空间为离散样本空间.3.随机事件有了样本空间后,我们可以给出随机事件的概念.直观上, 随机事件是随机现象或随机试验中可能发生也可能不发生的事件.例如,在掷骰子试验中,“出现偶数点”是可能发生也可能不发生的,因此它是随机事件,而且当试验出现的结果是2或4或6时该事件就发生了,否则该事件就不发生.一个事件是否发生应当能由试验出现的结果判定,因此一个事件可以由使其发生的那些样本点组成，换言之, 随机事件可以由一个或多个样本点组成的集合来表示.因此有下面概念.设随机试验E 的样本空间为}{ω=Ω,我们称样本空间为}{ω=Ω的子集为随机事件,简称为事件,常用大写字母A,B,C,…表示.若一事件是由单个样本点组成,则称该事件为基本事件;由2个或2个以上样本点组成的事件称为复合事件.由全体样本点组成的事件称为必然事件,必然事件就是样本空间Ω本身.空集Φ作为样本空间Ω的子集也是事件,称此事件为不可能事件. 显然, 必然事件在每次试验中是必定发生的,不可能事件在任一次试验中都不会发生.这两种情况已无随机性可言,但我们把它们视为随机事件的特例.以后在理论上讨论概率论问题时，我们总是假定样本空间已经给定，随机事件就是该样本空间的子集。
(完整word版)随机过程笔记
随机过程笔记2015-05-10 许铁混沌巡洋第一部分：为什么要研究随机过程？人类认识世界的历史，就是一认识和描绘各种运动的历史，从宏观的天体运动到分子的运动，到人心理的运动-我们通称为变化，就是一个东西随时间的改变。
人们最成功的描绘运动的模型是牛顿的天体运动，确定性是牛顿体系最大的特征。
给定位置和速度，运动轨迹即确定。
但是20实际后的科学却失去了牛顿美丽的确定性光环。
因为当人们试图描绘一些真实世界，充满复杂而未知因素的运动时候，人们发现不确定的因素（通常称之为噪音）对事物的变化至关重要，而牛顿的方法几乎难以应用。
而我们所能够给出的最好的对事物变化的东西，是一套叫概率论的东西。
而与之相应的产生的一个全新的研究运动的方法-随机过程, 对不确定性下的运动进行精细的数学描述。
我们周边充满了各种各样的数据，所谓大数据时代，这些数据最基本的特点就是含有巨量的噪音，而随机过程就是从这些噪音里提取信息的武器。
* 其实我们生活中也处处充满“噪音”。
比如说我们每天发邮件，经常有一些人时回时不回。
那些不回的人到底是忘了还是真的不想回，我们却不知道。
一个书呆子统计学家会告诉你，你无法从一次的行为评判他，而要看他一贯的表现。
第一个随机过程方法的伟大胜利是爱因斯坦的布朗运动。
一些小花粉在水里，受到水分子不停碰撞，而呈现随机的运动（花粉颗粒由于很小比较容易受到水分子热扰动的影响）。
研究这些花粉的微小运动似乎有点天然呆，我们却从中找到了分子世界重要的信息。
而花粉那无序与多变的轨道，也为我们提供了随机运动的范式（随机游走）。
计算机生成的十个粒子的布朗运动轨迹如果给随机过程打个比方，它就像是一个充满交叉小径的花园。
你站在现在的点上，看未来的变化，未来有千万种变化的方式，每一种可能又不断分叉变化出其它可能。
第二部分：描述随机过程的武器随机过程怎么研究？几样神器是不可缺少的。
1. 概率空间：面对不可确定的未来，无非有两件事需要关心，一个是有哪些可以实现的可能，一个是每种可能的大小，前者定义一个事件空间（态空间），后者定义一个数-概率。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
北邮概率论与随机过程笔记北邮概率论与随机过程笔记
第一章绪论
1.1 概率论的起源与发展
1.2 概率的基本概念
1.3 概率论的应用领域
1.4 随机过程的起源与发展
1.5 随机过程的基本概念
1.6 随机过程的应用领域
第二章概率论的基本概念
2.1 随机试验与随机事件
2.2 频率与概率
2.3 古典概型
2.4 贝叶斯概型
2.5 随机变量
2.6 随机变量的函数及其分布
2.7 条件概率与条件分布
2.8 独立性
第三章随机变量及其分布
3.1 离散型随机变量及其分布
3.2 连续型随机变量及其分布
3.3 随机变量的数学期望
3.4 随机变量的方差与标准差
3.5 随机变量的矩与生成函数
3.6 概率母函数与特征函数
3.7 大数定律与中心极限定理
第四章多维随机变量及其分布
4.1 多维随机变量及其分布函数
4.2 联合分布函数与边缘分布函数
4.3 多维离散型随机变量的分布
4.4 多维连续型随机变量的密度
4.5 条件分布与独立性
4.6 随机变量的矩与协方差矩阵
4.7 多维随机变量的生成函数与特征函数第五章数理统计基本概念
5.1 数理统计的概念与作用
5.2 参数估计与假设检验
5.3 点估计与区间估计
5.4 最大似然估计
5.5 矩估计
5.6 假设检验
5.7 重要的假设检验
第六章随机过程基本概念
6.1 随机过程的概念与分类
6.2 随机过程的样本函数与轨道
6.3 随机过程的数学描述
6.4 平稳性与各态平衡性
6.5 随机过程的独立增量性与平稳增量性
第七章随机过程的数学描述
7.1 随机过程的数学描述
7.2 随机过程的分布函数、密度函数与生成函数7.3 平稳随机过程的均值序列与相关函数
7.4 广义平稳随机过程
7.5 随机过程的协方差函数与自相关函数
7.6 平稳随机过程的功率谱
第八章马尔可夫链
8.1 马尔可夫链的概念
8.2 马尔可夫链的数学描述
8.3 长期行为与不可约性
8.4 平稳分布与转移概率矩阵
8.5 极限分布与转移概率
8.6 马尔可夫链的细致平衡方程
第九章扩散过程
9.1 扩散过程的概念与分类
9.2 布朗运动与维纳过程
9.3 平稳扩散过程与布朗桥
9.4 非平稳扩散过程
9.5 随机微分方程及其应用
第十章随机过程的数值计算
10.1 随机过程的模拟方法
10.2 马尔可夫链模拟
10.3 扩散过程的数值模拟
第十一章随机过程的应用
11.1 队列论与排队模型
11.2 信道容量与信息论
11.3 金融工程与随机过程
11.4 生物与生态系统中的随机过程11.5 电力系统中的随机过程
第十二章最优控制问题
12.1 动态规划问题与最优控制12.2 马尔可夫控制问题
12.3 黑塞矩阵与二次型控制问题
第十三章随机过程的其他扩展
13.1 小波分析与随机过程
13.2 分数阶随机过程
13.3 非高斯与非马尔可夫随机过程
总结：北邮的概率论与随机过程课程涵盖了概率论和随机过程的基础知识和应用，对于理解随机现象和建立数学模型具有重要的意义。
通过学习这门课程，可以提高对概率和随机过程的理解与分析能力，并掌握相关领域的应用技巧。