第10讲随机过程:维纳辛钦、希氏变换、高斯白噪声
通信原理 第三章 随机过程 学习要点及习题解答

第三章 随机过程学习目标通过对本章的学习,应该掌握以下要点: 随机过程的基本概念随机过程的数字特征(均值、方差、相关函数);平稳过程的定义、各态历经性、相关函数和功率谱密度;高斯过程的定义和性质、一维概率密度函数;随机过程通过线性系统、输出和输入的关系;窄带随机过程的表达式和统计特性;正弦波加窄带高斯过程的统计特性;高斯白噪声及其通过理想低通信道和理想带通滤波器。
3.1 内容概要3.1.1 随机过程的基本概念随机过程是一类随时间作随机变化的过程,具有不可预知性,不能用确切的时间函数来描述。
1.定义角度一:随机过程ξ(t )是随机试验的全体样本函数{ξ1 (t ), ξ2 (t ), …, ξn (t )}的集合。
角度二:随机过程ξ(t )是在时间进程中处于不同时刻的随机变量的集合。
这说明,在任一观察时刻t 1,ξ(t 1)是一个不含t 变化的随机变量。
可见,随机过程具有随机变量和时间函数的特点。
研究随机过程正是利用了它的这两个特点。
2.分布函数和概率密度函数 一维分布函数:ξ(t )在11111(,)[()]F x t P t x ξ=≤含义:随机过程ξ(t )在t 1时刻的取值ξ(t 1)小于或等于某一数值x 1的概率。
如果存在1111111),(),(x t x F t x f ∂∂=则称111(,)f x t 为ξ(t )的一维概率密度函数。
同理,任意给定12n t t t T ∈ ,,,,则ξ(t )的n 维分布函数为{}12121122(,,,;,,)(),(),,()n n n n n F x x x t t t P t x t x t x ξξξ=≤≤≤如果此能在n21n 21n 21n n n 21n 21n x )t x ()t x (∂∂∂∂= x x t t x x F t t x x f ,,,;,,,,,,;,,,则称其为ξ(t )的n 维概率密度函数。
显然,n 越大,对随机过程统计特性的描述就越充分。
随机过程的概念及分类方法

随机过程的概念及分类方法随机过程的概念及分类方法随机过程是描述随机现象的数学模型。
它可以看作是一个随机函数,它的输出值依赖于时间和样本空间中的随机变量。
随机过程的研究可追溯到19世纪末20世纪初,当时数学家们开始研究大量的样本统计规律。
随机过程在经济学、物理学、工程学等领域中有着广泛的应用。
随机过程的分类方法主要有以下几种:1. 马氏性质:马氏性质是指在一个随机过程中,给定过去的状态和未来的状态,当前的状态与过去的状态是独立的。
如果一个随机过程满足马氏性质,那么它被称为马氏过程。
常见的马氏过程有马尔可夫链、泊松过程等。
2. 独立增量:独立增量是指在一个随机过程中,任意两个时间点上的增量是独立的。
如果一个随机过程满足独立增量性质,那么它被称为独立增量过程。
常见的独立增量过程有布朗运动和泊松过程。
3. 平稳性:平稳性是指随机过程的统计特性在时间上是不变的。
如果一个随机过程满足平稳性质,那么它被称为平稳过程。
常见的平稳过程有伊索和无记忆过程。
4. 高斯过程:高斯过程是指随机过程中的任意有限个随机变量满足多维高斯分布。
高斯过程在概率论和统计学中有着重要的应用,常见的高斯过程有布朗运动和高斯白噪声过程。
5. 跳跃过程:跳跃过程是指随机过程中存在不连续的跳跃现象。
跳跃过程在金融学和通信工程中有着重要的应用,常见的跳跃过程有泊松过程和利维过程。
除了以上的分类方法,随机过程还可以按照时间的连续性分为连续时间随机过程和离散时间随机过程。
连续时间随机过程是指随机变量的索引集为连续集合,如实数集;离散时间随机过程是指随机变量的索引集为离散集合,如整数集。
另外,在实际应用中,为了更好地描述随机过程的行为,人们还可以使用数学方法对随机过程进行建模。
常见的建模方法有马尔可夫模型、自回归模型、移动平均模型等。
总结起来,随机过程是描述随机现象的数学模型,可以分为马氏过程、独立增量过程、平稳过程、高斯过程和跳跃过程等。
此外,随机过程还可根据时间的连续性分为连续时间随机过程和离散时间随机过程。
维纳过程

几乎处处不可微。这样在通常意义下,他的导数是不存在
的。不过,若在形式上,研究其导数及性质,则维纳过程
X(t)的导数也是零均值的高斯过程。 令N(t)=X'(t)为X(t)形式上的导数,则N(t)的自相关函数 为:
RN (t1 , t 2 ) E[ X '(t1 )X '(t 2 )] (t1 t 2 )
1 n
由上述条件,当
n 时,即 0
时
a Y i X[ s (i 1)] X ( s i) e 0
由中心极限定理可得 X (t 2 ) X (t 1 ) 趋于高斯分布。 补充:中心极限定理证明了,大量独立的、均匀微小的随机 变量之和近似的服从高斯分布。
三、维纳过程的统计特性
1. 数学期望和相关函数 E[X(t)]=0 因为是独立增量过程,所以有X(t0)=0,则
P { X (t1 ) X (t 0 ) } P { X (t1 ) }
故有: [ X (t 1 )] E[ X 2(t 1 )] t 1 D ① 、当t1=t2=t时,有
过程的增量服从高斯分布的证明
令 (t 2 t1 )/ n, t 2 t1 由于:
X (t 2 ) X (t 1 ) [ X (t 2 ) X (t 2 )] [ X (t 2 ) X (t 2 2 )] ... [ X (t 2 (n 1) ) X (t 1 )] Yi
证:因为X(t)具有零均值并为高斯分布,有
E[ X (t 2 )X (t 1 )] E[ X (t 2 )| X (t 1 ) x1 ] x1 x1 x1 , t 2 t 1 2 E[ X (t 1 )]
随机信号处理笔记之白噪声

1 随机信号处理笔记:白噪声1 随机信号处理笔记:白噪声1.1 关于白噪声1.1.1 白噪声的概念1.1.2 白噪声的统计学定义1.1.3 白噪声的自相关函数1.2 白噪声通过LTI系统1.2.1 限带白噪声1.2.1.1 低通白噪声1.2.1.2 带通白噪声1.3 等效噪声带宽1.3.1 等效原则1.3.2 等效公式引言在几乎所有的电子通信中,都不可避免地会有噪声干扰正常的通信质量。
因此对噪声统计特性的研究就显得很重要。
在分析通信系统的抗噪声性能时,常用高斯白噪声作为通信信道的噪声模型。
常见的电子热噪声近似为白噪声。
本文就‘白噪声’统计特性及其通过线性时不变系统的输出特性做简要总结。
1.1 关于白噪声1.1.1 白噪声的概念“白噪声”,Additive White Gaussian Noise(AWGN),符合高斯分布。
“白”的概念来自于光学,和白光的“白”是同一个意思,指的是包含所有频率分量的噪声,且这所有的频率分量是等值的。
1.1.2 白噪声的统计学定义如果白噪声的功率谱密度在所有频率上都是一个常数:其中,;,。
则称该噪声为白噪声。
白噪声的单边功率谱密度:其中,;,。
1.1.3 白噪声的自相关函数根据维纳-辛钦定理,平稳随机过程的功率谱密度函数和自相关函数是傅里叶变换对。
白噪声的自相关函数:对于所有的,都有,说明白噪声仅在时刻才是相关的,而在其他时刻()的随机变量都是不相关的。
白噪声的平均功率:因此真正“白”的噪声是不存在的。
实际工程应用中,只要噪声的功率谱密度均匀分布的频率范围远大于通信系统的工作频带(3dB带宽),就可将其视作白噪声。
1.2 白噪声通过LTI系统尽管白噪声是具有均匀功率谱的平稳随机过程,当它通过线性系统后,其输出端的噪声功率就不再均匀。
假设白噪声的功率谱密度,系统传函是,则LTI系统输出端的噪声功率谱密度函数为:由于LTI系统的传输函数,不是“白”的。
1.2.1 限带白噪声限带白噪声即,在一定的频带范围内,噪声功率谱是白的。
北大随机信号分析基础课件 2.7 高斯过程与白噪声

2.7 高斯过程与白噪声2.7.1 高斯过程中心极限定理已证明:大量独立的、均匀微小的随机变量之和都近似地服从正态分布。
高斯过程定义:如果对于任意时刻),,2,1(n i t i =,随机过程的任意n 维随机变量),,2,1)((n i t X X i i ==服从高斯分布,则X(t)就是高斯过程。
高斯过程的n 维概率密度函数为:2)()(21221211)2(1),,,;,,,(m x C m x n n n T eCt t t x x x f ----=π式中m,x 为n 维向量⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n n n x x x x t m t m t m t X E t X E t X E m 212121)()()()]([)]([)]([C 为协方差矩阵:⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=),(),(),(),(),(),(1212111n n X n X n X X n X X t t C t t C t t C t t C t t C t t C C由此可见,正态随机过程的n 维概率分布仅取决于其一、二阶矩函数。
广义平稳正态过程定义:若正态随机过程X(t)的均值和方差都是与时间无关的常数,即2)]([,)]([XXt X D m t X E σ==;而自相关函数只取决于时间间隔τ,n k i t t R t t R i k i k i k X k i X ,,2,1,;,)(),( =-==--ττ,则称此正态过程为广义平稳正态过程。
高斯过程有许多特殊性质:性质1:宽平稳高斯过程一定是严平稳过程。
性质2:若平稳高斯过程在任意两个不同时刻j i t t ,是不相关的,那么也一定是互相独立的。
证明:由不相关性,可得平稳高斯过程的二维概率密度函数为2222)()(221),;,(σπσm x m x j i j i j i et t x x f -+--=n 维分布为)()()(21),,,;,,,(212)(1212122n m x ni n n x f x f x f et t t x x x f i ==--=∏σσπ这说明任何时刻都不相关的高斯过程一定是独立高斯过程。
维纳-辛钦定理

维纳-辛钦定理人们常说“最小相干系数”,今天我来谈谈最小相干系数。
也就是“维纳-辛钦定理”。
它主要讨论了物理学中的波粒二象性问题。
下面我们先简单介绍一下维纳-辛钦。
维纳-辛钦定理的内容是: 1、如果存在某个波,则由这个波产生的所有的光子都具有该波的频率。
2、由一个光子激发出的所有波,其频率总和为最小相干系数。
3、如果某个波是一个包含所有可能的光子的系统的波源,那么,可以写成包含最小相干系数的波源的“白噪声”之和的形式。
比如,如果把一个钟放在某个地方,则钟每隔一段时间会敲响一次。
这种声音的频率就是这个钟的周期,而这个钟的频率取决于这个钟里存储着多少粒可能的光子。
我们也可以用最小相干系数来描述这种现象。
因为存储的光子越多,则所产生的频率越大;反之,则频率越小。
所以,从这个定义上看,由一个光子产生的光子就具有该光子的频率。
2007年,两名荷兰物理学家:伊利亚·维纳和罗伯特·辛钦首次提出了“最小相干系数”的概念。
这个定理与我们在电视节目上听到的“相干性”非常类似。
但不同的是: 1、由一个光子激发出的所有波,其频率总和为最小相干系数。
2、由一个光子激发出的所有波,其频率总和为最小相干系数。
3、如果某个波是一个包含所有可能的光子的系统的波源,那么,可以写成包含最小相干系数的波源的“白噪声”之和的形式。
维纳--辛钦将最小相干系数称为“费曼熵”,并作了解释。
“当一个信号或者噪声在量子层面上越强的时候,意味着更少的光子能够占据一个原子或者量子位置,即占据更多的状态空间。
因此,相互抵消的几率越大,信号和噪声的融合也越难。
”试想一下,在海拔2万米的高空上,你向下看去,将会发现什么?或许你会惊讶地发现:下面是白茫茫的一片,除了山顶和海面之外,没有任何东西。
但是,在海平面上,你仍然可以看见一座城市,但这座城市却被隐藏在一团雾中,不仔细观察根本发现不了。
维纳和辛钦认为,这正是最小相干系数在起作用。
第10讲随机过程维纳辛钦、希氏变换、高斯白噪声

2
f
f
结论:
j 2
m(t)[e
j0t
e j0t]
m(t) sin0t
1.余弦函数的希氏变换为正弦函数; 2.低通信号与余弦函数乘积的希氏变换为该函数与正 弦函数的乘积。
f t
cos 0 t
s in 0 t
e j0t
m t ej0t
fˆ t
s in 0 t cos0t
je j0t
jmt ej0t
RX ( u v)h(u)h(v)dudv RY ( )
▪可以看出Y(t)的自相关函数与t无关
X(t)和Y(t)的互相关函数与互功率谱密度
RXY (t1, t2 ) E[ X (t1)Y (t2 )]
E[ X (t1) X (t2 u)h(u)du]
E[ X (t1) X (t2 u)]h(u)du
基本含义:单一样本函数随时间变化的过程可以包括该信号所有
样本函数的取值经历
信号间的三种关系:
1. 独立。若: 2. 不相关。若:
f X ,Y (x, y) f X (x) fY ( y)
3. 正交。若:
Cov[X ,Y ] 0 X ,Y 0
x(t), y(t ) x(t) y(t )dt 0
上对同一信号所求的能量相等
则:
lim lim P
1
T 2T
T T
xT2 (t)dt
1
2
T
1 2T
XT () 2 d
两边取期望:
lim lim E[P]
E
T
1 2T
T T
xT2
(t)dt
E
1
2
1
T 2T
X
随机过程新版

2 0
sin(0t
)
1
2
d
0
自有关函数为
R t1, t2 E[ (t1) (t2 )] E[sin0t1 sin0t2 ]
令t1=t,t2=t+τ则
Rt,t E[sin0t sin0t 0 ]
2 0
sin0t
sin0t
0
1
2
d
1 2
cos 0
第3章 随机过程
可见,自有关函数与时间t无关,仅与τ有关。
第3章 随机过程
第3章 随机过程
随机过程 平稳随机过程 高斯随机过程 平稳随机过程经过线性系统 窄带随机过程 高斯白噪声和带限白噪声
第3章 随机过程
§3.1 随机过程旳基本概念
• 随机信号
信号旳某个或某几种参数不能预知或不能完全被预知, 这种具有随机性旳信号称为随机信号。
• 随机噪声
不能预测旳噪声统称为随机噪声。 从统计学旳观点看,随机信号和噪声统称为随机过程。
第3章 随机过程
原则正态分布 a=0,σ=1 其分布函数为φ(x)
f (x)
1
2
exp
x2 2
正态分布函数:
x
F(x)
1
2
exp[
(x a)2
2 2
]dx
(
x
Байду номын сангаас
a)
误差函数:
erf (x) 2 x ez2 dz
0
互补误差函数:erfc(x)=1-erf(x)=
2 ez2 dz
x
当x≤a时,erfc(x)=2-2φ( 2 x)
1
(2 )n / 21 2 n
B 1/2
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
频域变换
上图中LTI系统的冲激响应的傅里叶变换即为系统的传递函数
1 j sgn() 其中 sgn(x)为符号函数,即: t
则系统函数为:
1 x 0 sgn(x) 1 x 0
H
(
j)
j
sgn
j
j
(90o) (90o)
0 0
f t
ht
fˆ t
F
Fˆ
jsgn
f (t) Re[z(t)] f (t) 1 [z(t) z*(t)]
2
● 令 f (t) F(),z(t) Z()则有
Z
()
2F 0
()
0 0
● z(t) 1 2F ()e jtd 1 F ()e jtd
lim GX () T
2T 2T
(1
2T
)RX
(
)e
j
d
当T 时,(1 2T ) 趋近于1,可由上式可得到:
GX ()
2T 2T
RX
(
)e
j
d
由傅立叶变换公式可知
RX
(
)
1
2
2T 2T
GX
()e
j
d
随机过程X(t)的自相关函数和功率谱密度函数是一对傅立叶变换对,
描述了随机过程X(t)的时域与频域统计规律之间的关系,此为维纳
f 2 (t)dt fˆ 2 (t)dt
若f(t)为偶函数,则 fˆ (t)为奇函数;反之亦然
f (t) fˆ (t)dt 0,即f(t)与fˆ (t)相互正交
解析信号
定义:令有实信号f(t),则称复信号:
z(t) f (t) jfˆ (t)
为f(t)的解析信号(或预包络)
解析信号的性质:
随机过程
各态历经性
所谓各态历经就是从随机信号的一次观测记录(一个样本函数) 就可以估计其统计量,也称遍历性
令x(t)为X(t)的一个样本函数,其时间平均值
1im x(t)
1
T
x(t)dt
T 2T T
样本函数的时间平均自相关函数为
1im x(t)x(t )
1
T
x(t)x(t )dt
T 2T T
对于平稳随机信号X(t),若其所有样本函数在某一固定时刻的一阶
和二阶统计特性与单一样本函数在长时间内的统计特性一致,则
称X(t)为各态历经信号
lim E[X (t)] x(t) X
T
1 2T
T
T x(t)dt X
lim E[X (t)X (t )]) RX ( )
T
1 2T
T
T x(t)x(t )dt RX ( )
辛钦定理
功率谱密度函数的物理意义: 1. 从统计的角度,随机信号的功率在各个频率点上分布情况; 2. 在每个时刻都表现为互不相同的时间函数,因此不能简单的用
傅立叶变换分析随机信号
性质: 1. 是非负的; 2. 是实的; 3. 是偶函数
例如:已知 X (t) sin(0t ) ,其中 0 为常数, 为均匀分布的随机
上对同一信号所求的能量相等
则:
lim lim P
1
T 2T
T T
xT2 (t)dt
1
2
T
1 2T
XT () 2 d
两边取期望:
lim lim E[P]
E
T
1 2T
T T
xT2
(t)dt
E
1
2
1
T 2T
X
T
()
2
d
则定义:
lim 1
2
T
1 2T
E
XT
()
2
d
谱密度
GX ()
e e jt d
0 e jt d e jt d
0
1
e jt
j
0
1
j
e
jt
0
1 1 1 1
j j j j
2 2 2
希尔伯特变换
定义:
令f(t)为实函数,则称 1 f ( ) d为f(t)的希尔伯特变换,记为:
t
fˆ (t) H[ f (t)] 1 f ( ) d
t
称 1 g( ) d 为g(t)的希尔伯特反变换,记为:
t
H 1[g(t)] 1 g( ) d
t
对于希尔伯特变换又可记为卷积形式:
fˆ (t) f (t)* 1
t
从希尔伯特变换的定义,可以将希尔伯特变换的结果 fˆ (t)看成是输 入为f(t)的线性时不变系统的输出
变量,概率密度如下,求 RX (t1,t2 ) GX (t1,t2 )
1
f
(
)
2
0 2
0
其他
根据维纳辛钦定理,对相关函数做傅里叶变换
RX
(t , t
)
E[
X
(t ) X
(t
)]
1 2
cos(
)
GX () RX ( )e j d
1 2
cos
0
e
j
d
Hale Waihona Puke [ (20 ) (
0 )]
再例如:设平稳过程X(t)的相关函数为RX ( ) e ,求其功率
基本含义:单一样本函数随时间变化的过程可以包括该信号所有
样本函数的取值经历
信号间的三种关系:
1. 独立。若: 2. 不相关。若:
f X ,Y (x, y) f X (x) fY ( y)
3. 正交。若:
Cov[X ,Y ] 0 X ,Y 0
x(t), y(t ) x(t) y(t )dt 0
lim GX ()
T
1 2T
E
X T () 2
为随机过程X(t)的平均功率谱密度函数
将式X T ()
xT
(t
)e
jt
dt
代入上式整理:
lim GX ()
T
1
T
E[
2T T
T T
xT
(t1 ) xT*
(t2 )e
j (t2 t1 )dt1dt2 ]
lim 1
T 2T
T T
T T
E[
X
(t1 )
X
* (t2
)]e
j (t2
t1 )dt1dt2
由平稳随机过程可知
E[ XT (t1) X T (t2 )] RX (t2 t1) RX (t1 t2 )
令 t1 t2
lim GX ()
T
1 2T
T T
T T
RX
(t2
t1 )e j(t2 t1) dt1dt2
fˆ t f t ht f t 1
t
Fˆ
F
jsgn
jF
jF
(90o) (90o)
0 0
希尔伯特变换的物理意义是将信号f(t)的所有频率成分都相移π/2,而幅度保持 不变。具有这种特性的电路称为希尔伯特滤波器
希尔伯特变换的性质
H 1[ fˆ (t)] f (t)
H[ fˆˆ (t)] f (t)
功率谱密度函数
对于任意信号x(t),定义信号的能量和功率:
lim E
T x(t) 2 dt x(t) 2 dt
帕萨伐尔定理T :T
lim P
1 T x(t) 2 dt
T 2T T
E x(t) 2 dt 1 X ( j) 2 d
2
上述过程即为帕萨伐尔定理或瑞利能量定理 ,即:在频域和时域