~整理版~全部的随机过程
(完整版)随机过程知识点汇总
第一章随机过程 的基本概念与基本类型 一．随机变量及其分布X ，分布函数 F (x) P(X x) 1．随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x)p kf (t)dt分布函数kxX 的概率分布用概率密度 f (x)F(x)分布函数连续型随机变量 2．n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,)其联合分布函数 1 2 n 1 1 2 离散型联合分布列连续型联合概率密度３．随机变量 的数字特征 数学期望：离散型随机变量 XEX x p kkXEX xf (x)dx连续型随机变量2DX E(X EX) 2 EX (EX) 2方差：反映随机变量取值 的离散程度协方差（两个随机变量 X ,Y ）：B E[( X EX)(Y EY)] E(XY) EX EYXYB XY相关系数（两个随机变量X,Y ）：0，则称 X ,Y 不相关。
若XYDX DY独立不相关itXg(t) E(e )itxe p k 连续 g(t)ke itxf (x)dx４．特征函数离散 g(t) 重要性质： g(0) 1，g(t) 1 g( t) g(t)，， g (0) i EX kk k５．常见随机变量 的分布列或概率密度、期望、方差 ０－１分布 二项分布P( X 1) p,P( X 0) qEX pDX pqP(X k) C p q n kk kEX npDX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)21 2N(a, ) f (x)222EX a正态分布eDX2xe ,x 0 0, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X ~ N(a, B) ６．Ｎ维正态随机变量1 2 n11 2T 1(x a) B (x a)}f (x , x , , x n ) exp{ 11 2n 2(2 ) | B |2a (a ,a , ,a )， x (x , x , ,x )， B (b ) 正定协方差阵 1 2 n 1 2 n ij n n二．随机过程 的基本概念 １．随机过程 的一般定义设 ( , P)是概率空间， T 是给定 的参数集，若对每个 t T ，都有一个随机变量 X 与之对应， X(t,e),t T ( , 是P)上 的随机过程。
第二章 随机过程总结
图2-2-3 随机过程的均方值、方差
方差、均方值和均值有数学关系式：
(2.2.18) • 方差描述在该时刻对其数学期望的偏离程度。
• 数学期望、均方值和均方差只能描述随机过程孤 立的时间点上的统计特性。
• 随机过程孤立的时间点上的统计特性不能反映随 机过程的起伏程度。
图2-2-4 随机过程的起伏程度
注：一维概率分布描述了随机过程在各个孤 立时刻的统计特性。 3、二维分布函数
与 ， ， 和 都有直接的关系， 是 ，， 和 的四元函数，记为： (2.2.4) 被称为随机过程的二维分布函数。
4、二维概率密度函数
如果存在四元函数
ቤተ መጻሕፍቲ ባይዱ
，使
(2.2.5)
成立,则称 为随机过程的二维概率密 度函数，是 ，，和 的四元函数，且满足 (2.2.6)
§2.3
平稳随机过程
• 平稳随机过程的定义
• 严平稳随机过程及其性质 • 宽平稳随机过程及其性质
图2-3-1 初相角随机的正弦信号
图2-3-2 幅度随机的正弦信号
图2-3-3 频率随机的正弦信号
图2-3-4 频率、相位和幅度随机的正弦信号
图2-3-5 云层背景下的飞机
2.3.1 随机信号 的统计特性(如概率密度函 数、相关函数)，部分或全部在观察点或观察 点组的位置变化时，保持不变或变化。在随机 信号理论中就称该随机信号的相应统计特性具 有平稳或非平稳性。 2.3.2 随机信号统计平稳性有多种情况： (1)对整个观察点位置 变化的平稳性； (2)对观察点中时间位置 变化的时间平稳性； (3)对观察点空间位置 变化的平稳性； (4)对观察点中空间位置的部分坐标变化的平 稳性。
例2.8 设有随机过程 ，式中A是高斯 随机变量， 为确定的时间函数。试判断 是否为严平稳过程。 解：已知A的概率密度函数
随机过程知识点汇总
随机过程知识点汇总随机过程是指一组随机变量{X(t)}，其中t属于某个集合T，每个随机变量X(t)都与一个时刻t相关联。
２．随机过程的分类随机过程可以分为离散时间随机过程和连续时间随机过程。
离散时间随机过程是指在离散的时间点上取值的随机过程，例如随机游走。
连续时间随机过程是指在连续的时间区间上取值的随机过程，例如XXX运动。
３．随机过程的数字特征随机过程的数字特征包括均值函数和自相关函数。
均值函数E[X(t)]描述了随机过程在不同时刻的平均取值。
自相关函数R(t1,t2)描述了随机过程在不同时刻的相关程度。
４．平稳随机过程平稳随机过程是指其均值函数和自相关函数都不随时间变化而变化的随机过程。
弱平稳随机过程的自相关函数只与时间差有关，而不依赖于具体的时间点。
强平稳随机过程的概率分布在时间上是不变的。
５．高斯随机过程高斯随机过程是指其任意有限个随机变量的线性组合都服从正态分布的随机过程。
高斯随机过程的均值函数和自相关函数可以唯一确定该过程。
６．马尔可夫随机过程马尔可夫随机过程是指其在给定当前状态下，未来状态的条件概率分布只依赖于当前状态，而与过去状态无关的随机过程。
马尔可夫性质可以用转移概率矩阵描述，并且可以用马尔可夫链来建模。
７．泊松过程泊松过程是指在一个时间段内随机事件发生的次数服从泊松分布的随机过程。
泊松过程的重要性质是独立增量和平稳增量。
８．随机过程的应用随机过程在金融学、信号处理、通信工程、控制理论等领域有广泛的应用。
例如，布朗运动被广泛应用于金融学中的期权定价，马尔可夫链被应用于自然语言处理中的语言模型。
t)|^2]协方差函数BZs,t)E[(ZsmZs))(ZtmZt))]，其中Zs和Zt是Z在时刻s和t的取值。
复随机过程是由实部和虚部构成的随机过程，其均值和方差函数分别由实部和虚部的均值和方差函数计算得到。
协方差函数和相关函数也可以类似地计算得到。
复随机过程在通信系统中有广泛的应用，例如调制解调、信道编解码等。
随机过程
n 其中 g t1 , , t n ( 1 , 2 , , n ) E exp i i X ( t i ) k 1
B X ( s, t ) D X (s) D X (t ) 1 st (1 s )( 1 t )
2 2
{X(t),t>0}的一维概率密度
ft ( x)
2 1 x exp ,t 0 2 2 2 (1 t ) 2 (1 t )
15
2.2 随机过程的分布律和数字特征
t
0
g 1 ( v L ) g 2 ( v L ) dv
18
L
1
L
0
g 1 ( v ) g 2 ( v ) dv
2.2 随机过程的分布律和数字特征
例 X(t)为信号过程，Y(t)为噪声过程，设 W(t)=X(t)+Y(t)，求W(t)的均值函数和相 关函数。 解 m ( t ) EW ( t ) E [ X ( t ) Y ( t )]
2 2
i . i .d
identical
Байду номын сангаас
on
B X ( s , t ) E [ X ( s ) X ( t )] m X ( s ) m X ( t ) E [( Y Zs ) (Y Zt ) ] 1 st
14
2.2 随机过程的分布律和数字特征
X ( s, t )
{X(t),t>0}的二维概率密度
f s ,t ( x1 , x 2 ) 1 2 (1 s )( 1 t )( 1 )
随机过程第三章
随机过程的概率密度函数
概率密度函数
对于连续随机过程，其概率密度函数描述了随机过程在各个时间点或位置上的取值的可能性密度。
联合概率密度函数
对于多个连续随机过程的组合，其联合概率密度函数描述了这些随机过程在各个时间点或位置上的取 值的联合可能性密度。
03
随机过程的数字特征
均值函数
总结词
描述随机过程中心趋势的数字特征
泊松过程
定义
泊松过程是一种随机过程，其中事件的 发生是相互独立的，且以恒定的平均速
率在时间上均匀地发生。
应用
在物理学、工程学、生物学等领域都 有应用，如放射性衰变、电话呼叫等。
性质
泊松过程具有无记忆性，即两次事件 发生的时间间隔与它们是否同时发生 无关。
扩展
泊松过程可以推广为更复杂的过程， 如非齐次泊松过程和条件泊松过程。
随机过程第三章
目录
• 随机过程的基本概念 • 随机过程的概率分布 • 随机过程的数字特征 • 随机过程的平稳性和遍历性 • 马尔科夫链和泊松过程 • 随机过程的应用
01
随机过程的基本概念
随机过程的定义
01
随机过程：一个随机过程是一个定义在概率空间上的
参数集的集合，这个集合的元素是随机变量。
02
马尔科夫链和泊松过程的比较
关联性
马尔科夫链和泊松过程都是随机过程，但它们的 性质和应用场景有所不同。
时间连续性
马尔科夫链可以适用于连续时间，而泊松过程通 常适用于离散时间。
ABCD
状态转移
马尔科夫链关注的是状态之间的转移，而泊松过 程关注的是事件的发生。
应用领域
马尔科夫链在社会科学和生物科学中应用广泛， 而泊松过程在物理学和工程学中更为常见。
随机过程的基本概念及类型
第七章 随机过程的基本概念及类型
第一章 概率论基础
目录 Contents
7.1
随机过程的基本概念
7.2
随机过程的分布率和数字特征
7.3
复随机过程
7.4
几种重要的随机过程
7.1 随机过程的基本概念
通俗地讲, 用于研究随机现象变化过程的随机变量 族称为随机过程.
7.1.1 随机过程的实例
当 t1 t2 t 时,
DX (t )
2 X
(t)
BX
(t,t)
RX
(t,t
)
m
2 X
(t)
最主要的数字特征
mX (t) E[X (t)]
均值函数
RX(t1, t2 ) E[X (t1 )X (t2 )] 自相关函数
7.2 随机过程的分布律和数字特征
例7.2 设随机过程 X (t ) Y cos( t) Z sin( t), t 0, 其中 Y , Z 是相互独立的随机变量, 且 EY EZ 0, DY DZ 2 , 求 {X (t ) t 0}的均值函数 mX (t) 和 协方差函数 BX (s, t).
RW (s, t) E[W (s)W (t)] E[( X (s) Y (s))( X (t ) Y (t ))]
E[ X (s)X (t) X (s)Y (t) Y (s)X (t ) Y (s)Y (t)]
7.2 随机过程的分布律和数字特征
E[ X (s)X (t)] E[ X (s)Y (t)] E[Y (s)X (t)] E[Y (s)Y (t)]
◎ 显然有关系式 BX (s, t) RX (s, t) mX (s)mX (t) , s, t T .
随机过程第一章(下)汇总
正态过程
特点： 1. 在通信中应用广泛；（中心极限定理）
只要n充分大，x1,x2,…xn之和近似正态分布. 例如：高斯白噪声; 一个城市某个时刻的总 耗 电量；实验的测量误差。
2.正态过程只要知道其均值函数和协方差函数， 即可确定其有限维分布。
一维正态随机变量的概念：
一维正态随机变量X的概率密度函数可以表示
BXY (s, t) 0
互协方差函数与互相关函数之间的关系
BXY (s,t) RXY (s,t) mX (s)mY (t)
例题2.8： 设X(t)为信号过程，Y(t)为噪声过程，令 W(t)=X(t)+Y(t)，求W(t)的均值函数和相关函数。
例题: 设X(t)为信号过程，Y(t)为噪声过程，令 W(t)=X(t)+Y(t)，求W(t)的均值函数和相关函数。
第一章 随机过程的概念与基本类型
随机过程的定义和统计描述 随机过程分布律和数字特征 复随机过程 随机过程基本类型
自然界事物的变化过程分为两大类： （1）具有确定形式的过程，可以用一个时间t的确定 函数来描述。 （2）另外一种过程没有确定的变化形式，不能用一 个时间 t的确定函数来描述。
例如：液面上的质点的运动。用{x(t),y(t)}表示t时 刻该质点在液面上的坐标。
正交增量过程
独立增量过程
平稳独立增量过程
定义： 设{X(t),t∈T}是独立增量过程，若对任 意s<t，随机变量X(t)-X(s)的分布仅依 赖于t-s，则称{X(t),t∈T}是平稳独立 增量过程。
平稳独立增量过程
例题2.10 考虑一种设备一直使用到损坏为止，然后换 上同类型的设备。假设设备的使用寿命是随 机变量，令N(t)为在时间段[0,t]内更换设备 的件数，通常可以认为{N(t)，t≥0}是平稳独 立增量过程。
随机过程-第二章 随机过程
Ft j ,,t j ( x j1 , , x jn )
1
P X (t j1 ) x j1 , , X (t jn ) x jn P X (t1 ) x1 , , X (tn ) xn Ft1 ,,tn ( x1 , , xn )
（2）相容性 对于 m n ，有
1, X (t ) x Y (t ) 0, X (t ) x
1 n
j1 ,,t jn
(u j1 ,, u jn )
（2）相容性 对于 m n ，有
t ,,t
1
m ,tm1 ,,tn
(u1 ,, um ,0,,0) t1 ,,tm (u1 ,, um )
注：有限维分布族与有限维特征函数族互相唯一决定。
定理 2.1： 存在定理 （Kolmogorov 定理） ： 设分布函数族 Ft1 ,,tn ( x1 ,, xn ), t1 ,, tn , n 1
CXY (s, t ) E[( X (s) X (s))(Y (t ) Y (t ))], s, t T
互相关函数
def
RXY (s, t ) E[ X (s)Y (t )], s, t T
二维随机过程的独立性 若满足
Ft ,,t
1
' ' n ;t1 ,,tm
( x1 ,, xn ; y1 ,, ym ) Ft1 ,,tn ( x1 ,, xn ) Ft ' ,,t ' ( y1 ,, ym ), m 1, n 1
i 1
1 k k Ft1 ,,t1 ;;t 2 ,,t 2 ( x1 ,, x1 n1 ; , x1 , , xnk )
1 n1 1 nk