期末复习要点

一、简单计算

复习重点 1、已知零均值随机变量X 、Y 的方差2X σ、2

Y σ以及相关系数为ρ的具体值； 它们服从二维联 合正态分布，如何写出(,)XY f x y 的具体表达式？

2、均值为零、方差为2σ窄带正态随机过程0()()cos[()]X t A t t t ω=+Φ的同相分量 ()()cos[()]c A t A t t =Φ的概率密度分布函数为(;)c A c f a t =？，包络()A t 的概率密度分布函数 (;)A f a t =？，包络平方2()()Z t A t =的概率密度分布函数(;)Z f z t =？，相位()t Φ的概率密度分 布函数为(;)f t ?Φ=？。

3、第7章PPT 中关于泊松分布的例子，推广到自上次发车后若乘客数达到n 则立刻发下一趟车， 否则要等到1T 分钟才发车，平均每分钟到达的乘客数为λ的情况。等到n 个乘客所需的时间n S (单 位：分钟)的概率密度分布函数为()n S f t =？，等到1T 分钟才发车的概率P =？平均发车间隔 T =？

4、设()X t 为马尔可夫过程，s r n t t t <<，条件概率密度(,|,)X n n s s f x t x t 与(,|,)X r r s s f x t x t 、 (,|,)X n n r r f x t x t 的关系。

5、若某随机过程()X t 的功率谱的负频部分为零，则该随机过程必为复数随机过程，()X t 与其实 部随机过程()R X t 的关系。

6、如果给出平稳正态随机过程()X t 的相关函数为()X R τ(零均值、相关函数绝对可积)的具体

表达式，对于任意样本函数()x t ，必有1lim ()[()()]2T

T T x t x t x t dt T τ-→∞-+?与()X R τ的关系？

7、对平稳离散时间白色噪声序列(1),(2),...,()X X X n 按从小到大的顺序排序，得到新的非平稳有 色噪声序列(1),(2),...,()Y Y Y n ，若序列X 的一维概率分布函数为()X F x ，则随机变量(1)Y 的一维 概率分布函数为(,1)Y F y =？。

8、功率谱为1的白色噪声通过传递函数为()1/(1)H j j ωω=+的线性系统，如何求输出随机过 程()X t 的功率谱()X G ω、相关函数()X R τ、一维概率密度分布函数(;)X f x t ？

9、乘积过程()()()Z t X t Y t =的相关函数()z R τ与相互独立随机过程()X t 与()Y t 的均值X m 、 Y m 、相关函数()X R τ、()Y R τ的关系？

进一步了解：

1、若给出零均值二维联合正态分布随机变量X 、Y 的联合概率密度分布函数

22

1

(,)exp{()}2XY x xy y f x y A a b c π=--+中a 、b 、c 的具体数值，如何求随机变量X 的方 差、Y 的方差、X 、Y 的相关系数以及A ？

2、零均值窄带正态随机过程0()()cos[()]X t A t t t ω=+Φ，22[()]E X t σ=，其同相

分量()()cos[()]c A t A t t =Φ与正交分量()()sin[()]s A t A t t =Φ的联合概率密度分布函数

(,;,)c s A A c s f a a t t =？()X t 与其希尔伯特变换?()()Y t X

t =的联合概率密度分布函数 (,;,)XY f x y t t =？，()A t 与()t Φ的联合概率密度分布函数(,;,)A f a t t ?Φ=？；设

0()cos[]s t S t ωθ=+为确定性信号，()()()Z t X t s t =+，()U t 为()Z t 的幅度过程，则其概率密度 分布函数为(;)U f u t =？

3、设马尔可夫链的状态集为12{,,...,}N a a a ，(,){()|()}ij j i p s n P X n a X s a ===与

(,){()|()}ik k i p s r P X r a X s a ===、(,){()|()}kj j k p r n P X n a X r a ===之间的关系？

4、某离散时间随机过程0()cos()X n A n ω=+Φ，其中0ω、A 为常数，Φ为[0,2?]区间上均匀分 布的随机变量，如何计算自相关函数 ()[()()]X R m E X n m X n =+？

5、均值为X m 、相关函数为()X R τ的各态经历随机过程的任意样本函数()x t 的特性：

21lim [()]2T X T T x t m dt T -→∞-=?？，1lim [()()]()2T

T T x t x t x t dt T ττ-→∞++-=?？。

6、对平稳离散时间白色噪声序列(1),(2),...,()X X X n 按从小到大的顺序排序，得到新的

非平稳有色噪声序列(1),(2),...,()Y Y Y n ，若序列X 的一维概率分布函数为()X F x ，随机变量(2)Y 的一维概率分布函数为(,2)Y F y =？

7、若给出平稳随机过程()X t 的相关函数为()X R τ(不隐含周期性)，()X t 的总功率与()X R τ关系？

8、正态过程()X t 的功率谱密度为242612()54

X G ωωωω+=++，其一维概率密度分布函数(;)X f x t ？ 二、基本概念方面

复习重点

1、关于实平稳随机过程的相关函数

若给出若干函数的具体表达式，如何根据相关函数的性质(偶函数、|()|X R τ的最大值为(0)X R 、不

隐含周期性时，2()X X R m ∞=非负等)判断哪些函数可以作为相关函数？

2、关于正态随机过程

其任意的N 维联合概率密度分布函数可以由其N 维均值矢量以及N 维协方差矩阵唯一确定吗？严 格平稳与宽平稳等价吗？对于零均值过程，在任意两个不同时刻正交、不相关、相互独立三者等价 吗？若该过程是窄带的，则该窄带过程及其同相分量、正交分量三者具有相同的一维概率密度分布 函数吗？正交分量与同相分量在同一时刻相互独立吗？如果该过程由某一随机过程通过线性系统 所产生，则该输入过程必定为正态随机过程吗？平稳正态随机过程与确定性信号之和依然为正态随 机过程，而且是平稳的吗？

3、关于马尔可夫链

设P 为齐次马尔可夫链的单步状态转移矩阵，p 为状态概率矢量，若该链为渐近平稳链， 则T P p p =必定存在元素值满足01,1i i p p ≤

≤=∑的唯一解p ，进一步，若该链为平稳链，则 初始状态列阵必定为T P p p =的解p 吗？齐次马尔可夫链在某个时刻的状态概率列阵仅仅取决于

单步状态转移矩阵以及初始状态概率列阵吗？对于某个状态有限的马尔可夫链，如果其存在周期 性，则一定不是渐近平稳的，此时T P p p =无合理解吗？对于状态有限的马尔可夫链，若从某个 状态a i 出发迟早返回该状态的概率小于1，则不管初始状态如何，经过有限次状态转移后，就再 也不会到达状态a i 了吗？

进一步了解：

1、关于正态过程相对于其他随机过程的特有性质

一般随机过程都具有如下性质吗：经过线性变换后依然具有相同类型的多维联合概率密度分布；均 值矢量与协方差矩阵可以唯一确定其多维联合概率密度分布；任意两个不同时刻互不相关与相互独 立等价；在已知某些时刻取值情况下，其他不同时刻随机变量的多维条件概率密度分布函数依然为 相同类型的联合概率密度分布；广义平稳与严格平稳等价；在已知某些时刻取值情况下，其他时刻 随机变量的条件均值为这些取值的线性组合。

2、关于随机过程的特性

严格平稳随机过程任意N 个时刻的N 维联合概率密度分布与这N 个时刻的选取无关吗？若某零均 值平稳随机过程()X t 不隐含周期性，相关函数为()X R τ，则必有()0X R ∞=吗？白色噪声随机过 程的功率谱在整个频率轴上为常数，其任意两个不同时刻对应的随机变量是相互独立的吗？正交、 不相关、相互独立的概念：对随机过程()X t ，如果12(,)0X R t t =，则称1()X t 与2()X t 正交；如果 12(,)0X K t t =，则称1()X t 与2()X t 互不相关；如果12121122(,;,)(;)(;)X X X f x x t t f x t f x t =，则称 1()X t 与2()X t 相互独立。如果随机过程依均方意义连续，则它的每一个样本函数都一定是普通连 续的吗？随机过程可以是否看成是其全部样本函数的集合，或看成是所有时刻的随机变量的集合？ 对于相关函数为周期函数的随机过程的样本函数，如果已知其一个周期内的值，则有可能确知其任 意时刻的取值？

3、关于马尔可夫过程

如果一个计数过程满足独立增量特性，则该过程一定是泊松过程吗？不管初始状态如何，经过无限 次状态转移后，状态概率列一定趋于某个常矢量吗？如果有限状态的马尔可夫链如果只有一个常返 态，则该常返态本身构成闭集吗？

三、应用统计1：平稳正态随机过程的二阶单步最大似然预测问题

学习资料(通过课程中心的课程网站下载)：随机过程的最优线性预测(将1213,k k 推广到0.5,-0.2) 若给出零均值平稳正态过程的三维协方差矩阵3K 的具体表达式，根据0X 、1X 的样本现实0x 、1x

的预测2X 的样本现实2x 的估计值2?x

，如何得到最大似然预测(估计)公式的具体表达式？ 1、如何根据3K 写出随机变量0X 、1X 、2X 在012(,,)x x x 处的联合概率密度012012(,,)X X X f x x x ；

2、如何根据3K 得到2K 并写出0X 、1X 在01(,)x x 处的联合概率密度0101(,)X X f x x

3、如何根据012012(,,)X X X f x x x 、0101(,)X X f x x 写出在00X x =、11X x =情况下2X 的条件概率密度 分布函数201|201(|,)X X X f x x x

[

注：一定是正态分布，整理成201221100|2012()(|,)2X X X x a x a x f x x x σ??--=-?????的标准形式，先 确定2

σ，再整理里面的指数项]； 4、如何根据函数201|212(|,)X X X f x x x 的最大值处的自变量2x 的值为2X 的预测值21100?x

a x a x =+。 四、应用统计2：高斯白噪声背景下，含噪信号的最优匹配滤波

补充知识：考察如下的匹配滤波问题：()()() 0Z t y t V t t T =+≤≤，其中()V t 是功率谱密度为 0/2N 的高斯白色噪声，试设计一个冲激响应函数为()h t 的线性时不变滤波器，使得()Z t 通过该 滤波器后，00()()()()()()()X t y t h t V t h t y t V t =?+?=+，T 时刻的输出0()y T C =、噪声功率

2

0[()]E V T 达到最小或2020()[()]y T E V T λ=达到最大值max λ，则 20()() (0)()T

C

h t y T t t T y d ττ=-≤≤?、2max 002()T y d N λττ=?。

这里牵涉到一个数学方法：如何将高等数学中的参数最优化问题推广到函数最优化。

可以运用拉格朗日法则及函数极值方法求解，即假设任意滤波器1()()()h t h t t α=+?，

让()Z t 通过1()h t ，计算20()V T 、0()y T ，若()h t 为最优滤波器，则0α=应该为目标函数 200(,)[()][()]J E V T y T C αμμ=--的极小值点，即方程

(,)0J ααμα=?=?的解()h t 为所求得的最 优匹配滤波器。

分析：假设()Z t 通过任意滤波器1()h t [注：为利用线性变换基本定理1，将积分平方这样一个非线性变换转化为二维积分这样的线性变换]

[注：利用了冲激函数的积分性质]

上式对任意的函数()T τ?-都成立的充分必要条件是：

五、应用统计3：多个相关随机过程中的独立分量分析问题

参考学习资料：多个随机过程中的独立分量分析方法

六、马尔可夫随机过程

复习习题7-16，推广到4个白球、2个红球并以甲袋中的红球作为过程状态的情况，求一步转移概率矩阵，求(0)0X =情况下{()2}P X n =。

进一步了解如下的应用：

一、AR(2)正态过程的最大似然预测问题

设某随机过程()X n 为单位方差的离散正态白噪声()W n 通过线性系统产生，该系统的差分方程为： 输入从零时刻开始，系统初始状态为(1)(2)0X X -=-=。思考：

1、如何写出[() (1) (-2)... (2) (1) (0)]T n W W n W n W n W W W =-的联合概率密度分布？

2、如何根据初始条件及差分方程写出[() (1) (-2) ... (2) (1) (0)]T n

X X n X n X n X X X =-与 [() (1) (-2)... (2) (1) (0)]T n W W n W n W n W W W =-之间的线性代数关系

[注：参考第7章ppt 中的附录：AR(1)正态过程为马氏过程]

3、如何根据多维随机变量的多维函数函数的联合概率密度分布性质，由W 的多维联合概率密度分 布求出n X 的多维联合概率密度分()(1)...(1)(0)110(,,...,,)X n X n X X n n f x x x x --

4、如何同理得到(1)...(1)(0)110(,...,,)X n X X n f x x x --

5、如何根据贝叶斯公式求得多维条件联合概率密度分布()|(1)...(1)(0)110(|,...,,)X n X n X X n n f x x x x --

6、如何根据差分方程求条件概率密度分布()|(1)(2)12(|,)X n X n X n n n n f x x x ----

7、验证()|(1)...(1)(0)110()|(1)(2)12(|,...,,)(|,)X n X n X X n n X n X n X n n n n f x x x x f x x x ------=

8、如何根据()|(1)...(1)(0)110(|,...,,)X n X n X X n n f x x x x --说明在已知1(1)n X n x --=、2(2)n X n x --=、…、

1(1)X x =、0(0)X x =情况下，()X n 的最大似然预测值为1122?n n n x

a x a x --=+，与(3)X n -、 (4)X n -、…(1)X 、(0)X 的取值无关。

二、离散形式的匹配滤波问题：()()() 01Z t y n V n n N =+≤≤-，其中()V n 是功率为2σ的高斯 白色噪声，试设计一个单位脉冲响应函数为()h n 的线性时不变滤波器，使得()Z n 通过该滤波器后， 00()()()()()()()X n y n h n V n h n y n V n =?+?=+，1N -时刻的输出0(1)y N C -=、噪声功率

2

0[(1)]E V N -达到最小，2020(1)[(1)]y N E V N λ-=-达到最大值max λ，则 120()(1) (01)()N m C

h n y N n n N y m -==--≤≤-∑、12max 201()N n y n λσ-==∑。

这里牵涉到一个数学方法：如何将高等数学中的参数最优化问题推广到函数最优化。

可以运用拉格朗日法则及函数极值方法求解，即假设任意滤波器1()()()h n h n n α=+?， 让()Z n 通过1()h n ，若()h n 为最优滤波器，则0α=应该为目标函数

200(,)[(1)][(1)]J E V N y N C αμμ=----的极小值点，即方程

0(,)0J ααμα=?=?的解()h n 为所 求得的最优匹配滤波器。

分析：假设()Z n 通过任意滤波器1()h n

[注意：为了利用线性变换基本定理1，将积分(求和)平方这样的非线性运算转化为二维积分(求和) 这样的线性运算]

[注：利用单位脉冲函数的求和特性]

上式对任意的函数(1)N n ?--都成立的充分必要条件是：

三、有色正态噪声背景中信号参数的最大似然估计

考察有色噪声背景中的直流电平估计问题：()()X n A W n =+，其中()W n 为零均值、相关函数为()W R m 的离散正态有色噪声，A 为待估计的直流电平，()X n 为实际观测到的随机过程；K 为N N ?维协方差矩阵，其第i 行j 列元素值为(||)W R i j -。若在某次观测试验中得到(1)X N -、(2)X N -、…、(1)X 、(0)X 的样本函数值为1N x -、2N x -、…、1x 、0x ；

1、令：[(1) (2)... (2) (1) (0)]T

W W N W N W W W =-- [(1) (2) ... (2) (1) (0)]T X X N X N X X X =--、[1 1 ... 1 1]T I =

如何将观测方程组()() (0,1,...,1)X n A W n n N =+=-写成矢量形式？

2、令：1210[ ... ]T

N N w w w w w --=，如何写出多维随机变量W 在w 矢量端点处的联合概率密度值()W f w (标量)的矢量/矩阵形式的表达式？

3、令：1210[ ... ]T

N N x x x x x --=，如何根据X 与W 的多维函数关系(前面的矢量形式的观测方程组)写出多维随机变量X 在x 矢量端点处的联合概率密度值()X f x (标量)的矢量/矩阵形式的表达式？；

3、如何根据?()0X A A f x A

=?=?求得A 的最大似然估计 1121011?[1 1 ... 1 1][ ... ][1 1 ... 1 1][1 1 ... 1 1]T N N T A K x x x x K ----=？

提示：()X f x 表达式中，111112()()()()T T T T T x AI K x AI x K x x K I I K x A I K I A -------=-++中

的每一项都是关于A 的标量，转化为关于A 的一元二次多项式的求导问题。

四、马尔可夫链应用题

在数字通信系统中，传输0、1 两种信号，一般采用多级传输。设在每一级传输中出错的概率为 (01)αα<<。设(0)0X = 是要传输的最原始的信号，() (0)X n n >表示经过n 级传输后收到的信号，设() (0)X n n >是一个马尔可夫链，求：

1、如何写出该链的一步转移概率矩阵；

2、如何表达和求出头三级传输中原始信号传输均不出错的概率；

3、如何表达和求出原始信号经过头三级传输后收到正确信号的概率。