第三章 随即过程简

合集下载

第三章 随即过程简

第三章  随即过程简

2.2 随机过程的一般表述
随机过程是所有样本函数的集合,是依赖于时间参数 的随机变化的过程。它不能用确切的时间函数描述。即:
1. 每一个可能的波形,称为随机 过程的一个实现或样本函数。 在一次观察中,随机过程一定 取一个样本,然而究竟取哪一 个样本,则带有随机性。
2。随机过程兼有随机变量和时 间函数的特点,某一瞬间来 看,它是一个随机变量。
3、n维统计特性
n维概率分布函数:
Fn(x1,„, xn; t1,„, n维概率密度函数:
f n ( x1 ,..., xn ; t1 ,..., t n ) Fn ( x1 ,..., xn ; t1 ,..., t n )
n
t n)
=P[X(t1)≤x1,„,X(tn)≤xn]
x1 ...xn
Ps ( ) lim T FT ( ) T
2
整个随机过程的平均功率谱为:
P ( ) E[ Ps ( )] lim T E FT ( ) T
2
自相关函数与功率谱密度
由非周期的功率型信号的自相关函数与其功 率普密度的付利叶变换关系。 可见:平稳随机过程ζ(t)的功率谱密度Pζ(w) 与其自相关函数R(τ) 也是一对傅立叶变换关系 即: 1 jw
2.2 随机过程的一般表述

因而随机过程也可定义为:在时间进程中,处 于不同时刻的随机变量的集合。 随机过程的统计特性通过概率分布或数字特征加 以描述。平均值、方差和自相关函数就是常用的 数字特征。

二、随机过程的统计描述
1、一维统计特性
对t1时刻,ζ (t1)是一维随机变量。 概率分布函数: 的 概率. F1(x1, t1)=P[ζ (t1)≤x1] 为随机变量 ζ(t1) 小于或等于某一个数值X

随机过程第三章

随机过程第三章

随机过程的概率密度函数
概率密度函数
对于连续随机过程,其概率密度函数描述了随机过程在各个时间点或位置上的取值的可能性密度。
联合概率密度函数
对于多个连续随机过程的组合,其联合概率密度函数描述了这些随机过程在各个时间点或位置上的取 值的联合可能性密度。
03
随机过程的数字特征
均值函数
总结词
描述随机过程中心趋势的数字特征
泊松过程
定义
泊松过程是一种随机过程,其中事件的 发生是相互独立的,且以恒定的平均速
率在时间上均匀地发生。
应用
在物理学、工程学、生物学等领域都 有应用,如放射性衰变、电话呼叫等。
性质
泊松过程具有无记忆性,即两次事件 发生的时间间隔与它们是否同时发生 无关。
扩展
泊松过程可以推广为更复杂的过程, 如非齐次泊松过程和条件泊松过程。
随机过程第三章
目录
• 随机过程的基本概念 • 随机过程的概率分布 • 随机过程的数字特征 • 随机过程的平稳性和遍历性 • 马尔科夫链和泊松过程 • 随机过程的应用
01
随机过程的基本概念
随机过程的定义
01
随机过程:一个随机过程是一个定义在概率空间上的
参数集的集合,这个集合的元素是随机变量。
02
马尔科夫链和泊松过程的比较
关联性
马尔科夫链和泊松过程都是随机过程,但它们的 性质和应用场景有所不同。
时间连续性
马尔科夫链可以适用于连续时间,而泊松过程通 常适用于离散时间。
ABCD
状态转移
马尔科夫链关注的是状态之间的转移,而泊松过 程关注的是事件的发生。
应用领域
马尔科夫链在社会科学和生物科学中应用广泛, 而泊松过程在物理学和工程学中更为常见。

第三章通信原理 随机过程

第三章通信原理 随机过程
或随机过程的一次实现。 全部样本函数构成的总
体 x1t, x2 ,t,就,是xn 一t个
随机过程,记作 。
t
因此从这个角度得到随机过程的这种定义: 随机过程是所有样本函数的集合。
角度2:现在,我们在某一特定时刻如 时t1刻观察
各台接收机的噪声,可以发现在同一时刻,每个接 收机的输出噪声值是不同的,它在随机变化。
(1)随机过程的协方差函数:B(t1,t2) 描述了随机过程§(t)在任意两个时刻t1和t2,相对
均值的起伏量之间的相关程度。
B(t1, t2 ) E (t1) a(t1) (t2 ) a(t2 )

B(t1, t2 ) x1 a(t1 ) x2 a(t2 ) f2( x1, x2;t1, t2 )dx1dx2
f1x,t
F1x, t
x
F1x, t
x
f1 y, tdy
F1和x, t f即1x是, t 的函数,x 又是时间 的函数。t很显然,
一维分布函数及一维概率密度函数仅仅表示了随机过程 在任一瞬间的统计特性,它对随机过程的描述很不充分, 通常需要在足够多的时间上考察随机过程的多维分布。
测试结果表明,得到的 n张记录图形并不因为有 相同的条件而输出相同 的波形。恰恰相反,即 使n足够大,也找不到两 个完全相同的波形。这 就是说,通信机输出的 噪声电压随时间的变化 是不可预知的,因而它 是一个随机过程。
N部通信机的噪声输出记录
测试结果的每一个记录, 都是一个确定的时间函
数 ,xi 称t 之为样本函数
式中 是一个离散随机变量,且
P

、0
1 2
P 2, 试12求 和E 1。 R 0,1

随机过程 第三章 马尔科夫链

随机过程 第三章 马尔科夫链

4
设P表示一步转移概率所组成的矩阵,则
p11 p12 p1n P p21 p22 p2n
称为系统状态的一步转移概率矩阵,它具有如下性质:
1、pij 0, i, j I
2、
p
jI
ij
1, i, j I
满足上述两个性质的矩阵称为随机矩阵。
p j (n)
pj
(n) p (n 1) p
( pi pijn) iI
i
ij
iI
PT (n) PT (0)P ( n)
P T (n) P T (n 1)P
13
定理 设{Xn,n∈T}为马尔可夫链,则对任意i1, …,in∈I和n≥1,有
P{X1 i1 ,, X n in }
22
状态的常返性 例:状态转移概率图
1 1/2
1
1
2
3
4
1/2
1
23
首中概率 它表示质点由i出发,经n步首次到达j 的概率
f ij( n ) P( X m v j,1 v n 1, X m n j | X m i)
定理 对任一状态i, j及1 n , 有 p
5
例:一维随机游动。设一醉汉Q(或看作一随机游动的 质点)在直线上的点集I={1,2,3,4,5}作随机游动, 游动的概率规则是:如果Q现在位于点i(1<i<5), 则下一时刻各以1/3的概率向左或向右移动一格, 或以1/3的概率留在原处;如果Q现在处于1(或5) 这一点上,则下一时刻就以概率1移动到2(或4)这点上, 1和5这两点称为反射壁,这种游动称为带有两个反射壁 的随机游动。

概率论第三章 平稳随机过程

概率论第三章 平稳随机过程
则称X(t)为宽平稳过程(或称广义平稳过程)
严平稳过程只要均方值有界, 就是广义平稳的, 但反之则不一定。
当我们同时考虑两个平稳过程X(t)和Y(t)时,若它 们的互相关函数仅是单变量τ 的函数,即
RX Y (t1, t2 ) E[ X (t1 )Y (t2 )] RXY ( ), t2 t1,
则称X(t)和Y(t)宽平稳相依,或称这两个随机过程 是联合宽平稳的。
例3.1 设随机过程 X (t) a cos(0 t )
式中a,ω0为常数,Φ是在区间(0,2π)上均匀分 布的随机变量, 这种信号通常称为随相正弦波。求 证X(t)是宽平稳的。
二、各态历经(遍历)随机过程
在上面的讨论中,每当谈到随机过程时,就意味 着所涉及的是大量的样本函数的集合。要得到随机过 程的统计特性,就需要观察大量的样本函数。
ln
p( X
/
mX
)
K
N 1
exp
i0
(xi
mX
2
2 X
)2
均值估计
让对数似然函数取最大值
ln p( X / mX ) 0 m X
得到均值的最大似然估值
mˆ X
1 N
N 1
xi
i0
此式说明,可用N个观测值的算术平均作为均值mX的估值。
估计量的性质(工程)
1.有偏估计与无偏估计
由于估计量依赖于观测结果,因此估计量本身是 随机变量,于是它也存在其均值和方差。
定义1:取对应于ρX(τ)=0.05的那个时间为相关 时间τ
0
定义2:用图3.6中的矩形(高为ρX(0)=1,底为τ0的
矩形)面积等于阴影面(ρX(τ)积分的一半)来定义
τ0,即

第3章 随机过程

第3章 随机过程

A2 cos c 2 比较统计平均与时间平均,有
a a, R( ) R ( )
14
因此,随机相位余弦波是各态历经的。
3.2.3 平稳过程的自相关函数

实平稳过程的自相关函数: R( ) E[ (t ) (t )] 性质:

R(0) E[ 2 (t )]
f 2 ( x1 , x2 ; t1 , t 2 ) f 2 ( x1 , x2 ; )

广义平稳

均值与时间 t 无关: 相关函数仅与 τ有关:
a(t ) a R(t1 , t1 ) R( )
注意:
必 广义平稳 狭义平稳 未必
3.2.2 各态历经性(遍历性)
通信原理
第3章 随机过程
本章内容:
随机过程的基本概念
第3章 随机过程
平稳、高斯、窄带过程的统计特性 正弦波加窄带高斯过程的统§3.1 随机过程的基本概念
随机过程是一类随时间作随机变化的 过程,它不能用确切的时间函数描述。
① 所有样本函数 ② 随机变量
12
例题:
自相关函数:
E[ A cos( c t1 ) A cos( c t 2 )] A2 E{cos c ( t 2 t1 ) cos[ c ( t 2 t1 ) 2 ]} 2 A2 A 2 2 1 cos c ( t 2 t1 ) cos[ ( t t ) 2 ] d c 2 1 0 2 2 2 2 A cos c ( t 2 t1 ) 0 2
erfc( x) 2 erfc( x)
B(t1 , t2 ) R(t1 , t2 ) a(t1 ) a(t 2 )

随机过程第3章

随机过程第3章

第三章 随机过程一. 随机过程的基本概念 1.1 随机过程的定义设(Ω,F ,P )为给定的概率空间,T 为一指标集,对于任意t T ∈,都存在定义在(),,P ΩF 上,取值于E 的随机变量()(),X t ωω∈Ω与它相对应,则称依赖于t 的一族随机变量(){},:X t t T ω∈为随机过程,简记(){}t X ω,{}t X 或(){}X t注:随机过程(){}:,t X t T ωω∈Ω∈是时间参数t 和样本点ω的二元函数,对于给定的时间0t ,是0(,)X t ω是概率空间(),,P ΩF 上的随机变量;对于给定样本点0ω∈Ω,0(,)X t ω是定义在T 上的实函数,此时称它为随机过程对应于0ω的一个样本函数,也成为样本轨道或实现。

E 称为随机过程的相空间,也成为状态空间,通常用“t X x =”表示t X 处于状态x1.2随机过程t X 按照时间和状态是连续还是离散可以分为四类:连续型随机过程、离散型随机过程、连续型随机序列、离散型随机序列1.3 有穷维分布函数设随机过程{}t X ,在任意n 个时刻1,,n t t 的取值1,,n t t X X 构成n 维随机向量()1,,nt t X X ,其n 维联合分布函数为:()()11,,11,,,,nnt t n t t n F x x P X x X x =≤≤其n 维联合密度函数记为()1,,1,,nt t n f x x 。

我们称(){}1,,11,,:1,,,nt t n n F x x n t t T ≥∈ 为随机过程{}t X 的有穷维分布函数。

二.随机过程的数字特征 2.1 数学期望对于任何一个时间t T ∈,随机过程{}t X 的数学期望定义为()()tX t t E X xdF x μ+∞-∞==⎰()t E X 是时间t 的函数2.2 方差与矩随机过程{}t X 的二阶中心矩22()[(())],tX t t t Var X E X E X t T σ==-∈称为随机过程{}t X 的方差随机过程{}t X 的二阶原点矩定义为22()()tt E X x dF x +∞-∞=⎰注:2()X t σ是时间t 的函数,它描述了随机过程()X t 的诸样本对于其数学期望t μ的偏移程度2.3 协方差函数和自相关函数随机过程{}t X 对于任意12,t t T ∈,其协方差函数定义为12112212(,)(,)[(())(())]X t t t t t t c t t Cov X X E X E X X E X ==--当12t t t ==时,协方差函数就是方差随机过程{}t X 的自相关函数(相关函数)定义为121212(,)(),t t R t t E X X t t T =∈当12t t t ==时,自相关函数就是二阶原点矩。

第3章随机过程

第3章随机过程

2
3.0 引言
1.信号的分类 按信号的性质分为确定信号和随机信号两类。 确定信号:是指在相同的实验条件下,能够 重复实现的信号。又有周期信号和非周期信号 之分。确定性信号是时间的确定函数。 随机信号:是在相同的实验条件下,不能够 重复的信号。信号的某个或几个参数不能预知 或不可能完全预知(具有随机性)。
取值小于或等于 x 的概率,即
FX x P X x
在许多问题中,采用概率密度函数 PX x 比采用概率分布函数更方便。概率密度函 数被定义为概率分布函数的导数。
分布函 数:distribution function 概率密度函数: probability density function
式中: a (t1) a(t2) - 在t1和t2时刻得到的 (t)的均值 f 2(x1, x2; t1, t2) - (t)的二维概率密度函数。
相关函数和协方差函数之间的关系
B(t1 , t 2 ) R(t1 , t 2 ) a(t1 ) a(t 2 )
若a(t1) = a(t2)=0,则B(t1, t2) = R(t1, t2)
二维分布函数只与时间间隔 = t2 – t1有关:
f 2 ( x1 , x2 ; t1 , t2 ) f 2 ( x1, x2 ; t1 , t2 ) f 2 ( x1, x2 ; )
10
什么是随机过程?
随机过程是一类随时间作随机变化的过程,不能
用确切的时间函数描述。
角度1:随机过程可视为无穷多个样本函数的 集合 (assemble) 。 设Sk(k=1, 2, …)是随机试验。 每一次试验都有 一条时间波形(称为样本函数或实现),记作xi(t), 所有可能出现的结果的总体{x1(t), x2(t), …, xn(t) …}就构成一随机过程,记作ξ(t)。简言 之,无穷多个样本函数的总体叫做随机过程。
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
通信系统中,信源发出的信息是随机的。系统 的噪声也是一种随机的波形。

从统计学的观点:通信过程中的随机信号和噪 声均可归纳为依赖于时间参数的随机过程。因而 统计数学中有关随机过程的理论可以运用到随机 信号和噪声分析中来。

• 本章介绍分析通信系统所必需的基本理论,即 随机信号与噪声的特性表述,以及他们通过线性 系统的基本分析方法。
2.2 随机过程的一般表述

因而随机过程也可定义为:在时间进程中,处 于不同时刻的随机变量的集合。 随机过程的统计特性通过概率分布或数字特征加 以描述。平均值、方差和自相关函数就是常用的 数字特征。

二、随机过程的统计描述
1、一维统计特性
对t1时刻,ζ (t1)是一维随机变量。 概率分布函数: 的 概率. F1(x1, t1)=P[ζ (t1)≤x1] 为随机变量 ζ(t1) 小于或等于某一个数值X
2.2 随机过程的一般表述
随机过程是所有样本函数的集合,是依赖于时间参数 的随机变化的过程。它不能用确切的时间函数描述。即:
1. 每一个可能的波形,称为随机 过程的一个实现或样本函数。 在一次观察中,随机过程一定 取一个样本,然而究竟取哪一 个样本,则带有随机性。
2。随机过程兼有随机变量和时 间函数的特点,某一瞬间来 看,它是一个随机变量。
仅是时间间隔的函数
2、广义平稳 满足上面三个式子,即数学期望和方差与时间无关,自相 关函数仅与时间间隔有关的随机过程,称为广义平稳随机过程。
二、各态历经性
数字特征的求取不仅要知道随机过程的一维和二 维概率密度函数,还需要得到全体样本,这在实际中 常常十分困难。
我们希望能够通过一个样本函数就能求得随机过 程的数字特征。具有各态历经性的平稳随机过程就可 以这样做。
n
n越大,随机过程的统计特性就描述得越充分, 但问题的复杂性也随之增加。 一般情况下,分析二维分布函数就足够了。
1.随机过程的数学期望
随机过程 X t 的数学期望定义为
at E X t



xp1 x; t dx
其中 p x; t 为 X t 在某个给定瞬间 t 所对应的随机变量 1 的概率密度函数,下标“1”表示“一维”,即只涉及一个
概率密度函数
F1 ( x1 , t1 ) f1 ( x1 , t1 ) x1
随机过程的统计描述
2、多维分布函数与多维概率密度
多维分布函数:
Fn(x1,x2…xn,t1,t2…tn)
=P{ζ (t1) ≤ x1,… ζ (tn) ≤ xn}
多维概率密度:
F1 ( x1...xn , t1...t n ) f n ( x1...xn , t1...t n ) x1...xn
f ( x) ( x a) exp[ ] 2 2 2 1
2
px
1 2
式中:a(均值)及σ(方差)是一个常量。 f(x)曲线如右: 即: a表示分布中心,σ表示集中程度
0
a
x
• 当a固定而σ变化时,表示为f(x)的曲线将随着σ减小而 变高和变窄
反映了随机过程在任意两个不同时刻上取值之 间的线性相关程度。 自相关函数和协方差函数的关系 B(t1,t2)=R(t1,t2)-E[ζ(t1) ] E[ζ(t2) ]
§2-3 平稳随机过程
(stationary stochastic process)
一、定义 1、严格平稳
定义:如果对任意的n和Δ t,随机过程X(t)的n维概率密度 函数与时间无关,即满足
随机变量。
E X 随机过程的统计平均值。反映了随机变量 X 取 值的集中位置 X 。即均值是表示随机过程的摆动中心
a
图2.15 随机过程的数学期望
X t
0

t
反映了随机过程瞬时值的数学期望随时间变化的规律,
是随机过程各个样本的统计平均函数。

图2.15 中较细的线表示随机过程的若干样本函数,
2.8 随即过程通过线性系统
3.1 引 言

随机变量:在数学分析中,将每次实验的结果 用一个变量来表示,如果变量的取值是不确定 的(以某个概率取某个值),则这种变量称为 随机变量。

随机信号:通信中常遇到的带有某种随机性的信 号。既他们的某个或几个参数不确定预知或不 能完全预知。(若确知,则无信息量,通信失 去意义)。
P ( w)



R( )e
jw
d
P ( ) R( )
维纳——辛钦定理
§2-4 高斯随机过程
定义:高斯随机过程又称正态随机过程。是通信领域 中最重要也是最常见的一种过程。如大多数噪声等 都服从高斯分布的随机过程。
由信息论可知: 1. 如果是连续信源,当信号幅度的概率密度函数服 从高斯分布时,载荷的信息量最大,即有效性最好。 2. 如果是起伏噪声:当噪声功率一定时,幅度呈现 高斯分布的噪声对通信系统的影响也最为恶劣。 因而,在系统设计中,常以高斯噪声为着眼点来分 析考虑信噪比、带宽等。
第2章 随机信号分析
主要内容: 随机信号与噪声的特性表达 随机过程及窄带随机过程 随机信号通过线性系统的基本分析 重点: 随机过程的概念及统计特性 平稳随机过程及窄带随机过程 随机信号通过线性系统的基本分析
2.1 引言 2.2 随机过程的一般表述
2.3 平稳随机过程
2.4 平稳过程的相关函数与功率密度 2.5 高斯过程 2.6 窄带随机过程 2.7 正旋波加窄带高斯过程
较粗的曲线则表示数学期望。
2、方差(variance)
定义:

2 ( t ) E{[ X ( t ) m( t )] 2 }

2 [ x m( t )] f1( x;t )dx
描述随机过程的各样本对数学期望的偏离程度。
3.自相关函数

随机过程 X t 的自相关函数可定义为
§2-4 高斯过程
2、重要性质:
(1) 若高斯过程是广义平稳的,则也是狭义的 (2)若高斯过程中的随机变量之间互不相关,则它们也 是 统计独立的 (3)若干个高斯过程之和的过程仍是高斯过程 (4)高斯过程经过线性变换(或线性系统)后生成的过 程
仍是高斯型
一维高斯过程在给定任一时刻上,其概率密度函数: 服从正态分布
FT ( ) lim Ps ( ) T T
2
2
整个随机过程的平均功率谱为:
lim E FT ( ) P ( ) E[ Ps ( )] T T
自相关函数与功率谱密度
由非周期的功率型信号的自相关函数与其功 率普密度的付利叶变换关系。 可见:平稳随机过程ζ(t)的功率谱密度Pζ(w) 与其自相关函数R(τ) 也是一对傅立叶变换关系 即: 1 jw R ( ) P ( w ) e dw 2
§2-4 高斯过程

任意n维联合概率密度函数满足
1
n n
f n ( x1 , x2 ,..., xn ; t1 , t2 ,..., tn ) 1 exp[ 1/ 2 n/2 2B (2 ) 1 2 ... n B
式中:
B
j 1 k 1
jk
(
xj aj
j
)(
xk ak
3、n维统计特性
n维概率分布函数:
Fn(x1,„, xn; t1,„, n维概率密度函数: t n)
=P[X(t1)≤x1,„,X(tn)≤xn]
Fn ( x1 ,..., xn ; t1 ,..., t n ) f n ( x1 ,..., xn ; t1 ,..., t n ) x1 ...xn
k
)]
2 ak E[ (t k )]; k E[ (t k ) ak ]2
B 是归一化协方差矩阵的行列式, 1
B b21 bn1
b12 1 bn 2
... ... ...
b1n b2 n 1
b jk是归一化协方差函数,b jk
E{[ (t j ) a j ][ (tk ) ak ]}
各态历经性:表示一个平稳随机过程的一个实现 能够经历随机过程的所有可能状态。
二、各态历经性
此时,数学期望(统计平均)可以有其任一实现的时间平均 来代替,其自相关函数也可以用时间平均代替统计平均。
lim 1 T 2T x ( t )dt a m T T 2 R( ) lim 1 T x ( t ) x ( t )dt R ( ) 2T T T 2 一般而言:一个随机过程中,不同样本函数的时间平均值 是不一定相同的,而随机过程数学期望则是一定的。因此 一般的随机过程的时间平均≠统计平均。只有平稳随机 过程才有可能是各态历经的。
RX t1 , t2 EX t1 X t2



x1 x2 p2 x1 , x2 ; t1 , t2 dx1dx2
其中 p2 x1 , x2 ; t1 , t 2 是该随机过程的二维概率密度函数。 自相关函数描述了随机过程在两个不同瞬间 t1 的取值之间的相关、相似程度。 、t 2
f n ( x1 , x2 ,..., xn ; t1 , t 2 ,..., t n ) f n ( x1 , x2 ,..., xn ; t1 t, t 2 t,..., t n t )
则称X(t)是严格平稳的。
§2-3 平稳随机过程
如果随机过程严格平稳,则 对一维有
f1 ( x; t ) f1 ( x; t t ) f1 ( x)
3-2 随机过程的一般描述
一、随机过程的概念(stochastic process) 随机过程是一类随时间作随机变化的过程。
例:对一台通信机在相同的条件下所进行的N次观测记录的 噪声波形如下图。
相关文档
最新文档