第2章 维纳滤波
维纳滤波
维纳滤波滤波器概念常用的滤波器是采用电感、电容等分立元件构成，如RC低通滤波器、LC谐振回路等。
但对于混在随机信号中的噪声滤波，这些简单的电路就不是最佳滤波器，这是因为信号与噪声均可能具有连续的功率谱。
不管滤波器具有什么样的频率响应，均不可能做到噪声完全滤掉，信号波形的不失真。
因此，滤波器研究的一个基本课题就是：如何设计和制造最佳的或最优的滤波器。
所谓最佳滤波器是指能够根据某一最佳准则进行滤波的滤波器。
维纳滤波定义及发展维纳滤波滤除背景噪声20世纪40年代，维纳奠定了关于最佳滤波器研究的基础。
即假定线性滤波器的输入为有用信号和噪声之和，两者均为广义平稳过程且知它们的二阶统计特性，维纳根据最小均方误差准则(滤波器的输出信号与需要信号之差的均方值最小)，求得了最佳线性滤波器的参数，这种滤波器被称为维纳滤波器。
在维纳研究的基础上，人们还根据最大输出信噪比准则、统计检测准则以及其他最佳准则求得的最佳线性滤波器。
实际上，在一定条件下，这些最佳滤波器与维纳滤波器是等价的。
因而，讨论线性滤波器时，一般均以维纳滤波器作为参考。
维纳滤波是40年代在线性滤波理论方面所取得的最重要的成果。
利用平稳随机过程的相关特性和频谱特性对混有噪声的信号进行滤波的方法，1942年美国科学家N.维纳为解决对空射击的控制问题所建立。
维纳滤波基本概念从噪声中提取信号波形的各种估计方法中，维纳（Wiener）滤波是一种最基本的方法，适用于需要从噪声中分离出的有用信号是整个信号（波形），而不只是它的几个参量。
设维纳滤波器的输入为含噪声的随机信号。
期望输出与实际输出之间的差值为误差，对该误差求均方，即为均方误差。
因此均方误差越小，噪声滤除效果就越好。
为使均方误差最小，关键在于求冲激响应。
如果能够满足维纳－霍夫方程，就可使维纳滤波器达到最佳。
根据维纳－霍夫方程，最佳维纳滤波器的冲激响应，完全由输入自相关函数以及输入与期望输出的互相关函数所决定。
卡尔曼滤波器
Ak (xk1 xˆk1 H kCk Ak (xˆk1 xk1) k1 H kCk Akk1 H k vk
(I H kCk ) Ak (xk1 xˆk1) (I H kCk )k1 H k vk
(I H kCk ) Ak (xk1 xˆk1) k1 H kvk
(2.5.17)
精品文档
第二章 维纳滤波和卡尔曼滤波
所以(xˆskuǒ1yǐ) 仅依赖于xk-1,vk-1，而与vk不相关，即 E[(xk1 xˆk1)vkT ] E[vk (xk1 xˆk1)T ] 0 (2.5.18)
E[(xk1 xˆk1)kT1] E[k1(xk1 xˆk1)T ] 0 (2.5.19)
(2.5.24)
令
U T (Pk'CkT )T Ck Pk'T Ck Pk'
(2.5.25)
精品文档
第二章 维纳滤波和卡尔曼滤波
定义:设A∈Cn×n是Hermite矩阵,如果对任意0≠x∈Cn,都有 xHAx＞0,则A是Hermite正定阵; 若xHAx≥0,则A是Hermite半正定阵.
定理(dìnglǐ):设A∈ Cn×n 是Hermite矩阵,则下列条件等价 (1)A是Hermite矩阵,AH=A (2)A的特征值全为正实数 (3)存在矩阵P ∈Cn×n,使得A=PHP
(3) 卡尔曼滤波采取的误差准则仍为估计误差的均方值最小。
精品文档
第二章 维纳滤波和卡尔曼滤波 2.5.1 卡尔曼滤波的状态方程(fāngchéng)和量测方程(fāngchéng)
假设某系统k时刻的状态变量为xk，状态方程(fāngchéng)和量 测方程(fāngchéng)（也称为输出方程(fāngchéng)）表示为
第2章 维纳滤波讲解
J min (w R 1p) T R ( w R 1p) J min (w w o ) T R (w w o )
（该式表明最佳权向量与最小均方误差的对应关系）
为使误差性能曲面的表达式简单化，定义权偏差向量为
T , w1 ,, w w w w o w0 M 1
结论：维纳滤波器所得最小均方误差等于期望响应的方差与滤波器输出方差的差值。
6
第2章 维纳滤波
2.4 横向滤波器的维纳解 2.4.1 横向滤波器的维纳-霍夫方程及其解
u (n)
u ( n 1)
z w0
1
z
1
u (n M 2)
z
1
u ( n M 1)
w1
wM 2
wM 1
u (n) ，当前输出 y (n) ，期望响应为 d (n) 滤波器的当前输入值： 重写维纳-霍夫方程
M 1 i 0
w
oi
r (i k ) p(k ) k 0,1,2,
定义横向滤波器的抽头输入 u(n), u(n 1),, u(n M 1) 的相关矩阵为Ｒ，则
p E[u(n)d (n)] [ p(0), p(1),, p(1 M )]T
则横向滤波器的维纳-霍夫方程式的矩阵表示形式为 Rwo p ，即维纳解为 w o R 1p 式中： w o [wo,0 , wo,1 ,, wo,M 1 ]T 是横向滤波器最优抽头权向量。
J J J J J , ,, 0 w w0 w1 wM 1
T
而 故可推出
J 2Rw(n) 2p
Rwo p ，与维纳-霍夫方程一致。
10
维纳滤波
e 2 (n) [ s(n) X (n) H ][ s(n) H T X (n)] s 2 ( n) 2 s ( n) X ( n) H H X (n) X (n)]H
E[e 2 n ] E[ s 2 n ] 2 E[ sn X T n ]H H T E[ X n X T n ]H
x(
我们已知
X ( z ) B( z )W ( z )
则信号功率谱为
2 Pxx ( z) B( z) B( z 1 )
如果已知信号的Pxx(z)，即可求得B(z) 。
非因果IIR维纳滤波器的求解
计算Hopt (z)：
1 B( z )
x( n )
w(n)
G(z)
ˆ( n ) y ( n) s
正交性原理：最优估计 误差正交于任一个进入 估计的输入信号或信号 空间。
由正交方程可得：
E[enxn m] E[{sn hmxn m}xn m]
E[snxn m] E[xn mxn p ]h p 0
m
m 0
k ≥ 0的约束使得上式不能直接转到Z域求解。如
能将其转化为非因果问题，则求解会大大简化。
如果滤波器的输入x(n)是方差为 w 的白噪声w(n)
2
因果维纳滤波器的维纳－霍夫方程变为：
2 2 xs m ws m h p w m p w hm m 0
代入可得： (h) s2 2P H H RH (二次型问题）
其解为：HOP R1P， 且
2 T H H 即 op s op P
结论：在所有N阶FIR滤波器中，最优滤波器的均 方误差值是最小的。其阶数越高，采用的已知信 息越多，最小均方误差越小，计算量也越大。
维纳滤波原理
维纳滤波原理维纳滤波是一种信号处理中常用的滤波方法，它的原理是基于最小均方误差准则，通过对信号和噪声的统计特性进行分析，设计一种能够最小化系统输出与期望输出之间均方误差的滤波器。
维纳滤波在图像处理、语音处理、雷达信号处理等领域都有广泛的应用，下面我们来详细了解一下维纳滤波的原理和应用。
首先，我们需要了解维纳滤波的基本模型。
维纳滤波的输入信号可以表示为s(n)，噪声信号表示为v(n)，系统输出信号表示为x(n)，那么维纳滤波器的输出可以表示为：x(n) = w(n) s(n) + v(n)。
其中，表示卷积操作，w(n)表示滤波器的权值。
维纳滤波的目标是设计一个滤波器，使得系统输出信号x(n)与期望输出信号d(n)之间的均方误差最小，即最小化误差信号e(n)的均方值E[e^2(n)]。
根据最小均方误差准则，我们可以得到维纳滤波器的最优解为：w(n) = R_ss^(-1) p_s。
其中，R_ss表示输入信号s(n)的自相关矩阵，p_s表示输入信号s(n)与期望输出信号d(n)的互相关向量。
这个公式描述了维纳滤波器的权值与输入信号和期望输出信号的统计特性之间的关系。
维纳滤波器的设计需要对输入信号和噪声信号的统计特性有一定的了解。
通常情况下，输入信号和噪声信号被假设为高斯分布，因此可以通过它们的均值和方差来描述它们的统计特性。
在实际应用中，我们可以通过对信号和噪声的样本进行统计分析，估计它们的均值和方差，进而设计维纳滤波器。
除了基本的维纳滤波器设计原理，维纳滤波还有一些扩展应用。
例如，当输入信号和噪声信号的统计特性未知或难以估计时，我们可以通过自适应滤波的方法来实现维纳滤波。
自适应滤波器可以根据系统的实时输入信号和输出信号来动态地调整滤波器的权值，以适应信号和噪声的变化特性，从而实现更好的滤波效果。
维纳滤波在图像处理中有着广泛的应用。
在数字图像处理中，图像通常会受到噪声的影响，例如加性高斯噪声、椒盐噪声等。
维纳滤波文档
维纳滤波1. 简介维纳滤波（Wiener filtering）是一种经典的信号处理技术，用于消除信号中的噪声并恢复原始信号。
它是由诺贝尔奖获得者诺里斯·伯特·维纳（Norbert Wiener）于1949年提出的。
维纳滤波基于统计信号处理理论，通过在频域对信号和噪声进行建模，利用最小均方误差准则来估计信号。
它可以应用于许多领域，例如图像处理、语音信号处理、雷达信号处理等。
2. 维纳滤波的原理维纳滤波的目标是根据信号和噪声的统计特性，对接收到的被噪声污染的信号进行优化处理，以尽可能地恢复原始信号。
其基本原理可以分为以下几个步骤：2.1 信号与噪声建模首先，需要对信号和噪声进行建模。
假设接收到的信号为s(s)，噪声为s(s)，那么接收到的被噪声污染的信号可以表示为：s(s)=s(s)+s(s)2.2 计算信号和噪声的统计特性通过观测和采样，可以估计信号和噪声的统计特性，例如均值、方差、功率谱密度等。
以图像处理为例，可以通过对图像的样本进行统计分析来估计信号和噪声的统计特性。
2.3 估计滤波器函数利用信号和噪声的统计特性，可以估计滤波器函数s(s)，其中s为频率。
滤波器函数描述了在不同频率上应该对信号进行的滤波程度。
通过估计滤波器函数，可以为不同频率的信号分配适当的增益。
2.4 滤波过程在维纳滤波中，滤波器函数s(s)是根据信号和噪声的功率谱密度来估计的。
通过将接收到的信号进行频谱变换，将频谱域中的信号与滤波器函数相乘，然后再进行逆向频谱变换，即可得到滤波后的信号。
3. 维纳滤波的应用维纳滤波在信号处理领域有广泛的应用，下面以图像处理为例说明其应用场景。
3.1 噪声去除在图像处理中，噪声往往是由于图像的采集、传输等过程中产生的。
维纳滤波可以根据图像的统计特性，将噪声进行估计，并对图像进行滤波，从而实现去噪的效果。
3.2 图像恢复图像的失真往往是由于拍摄条件、传输等因素引起的。
维纳滤波可以通过估计图像的信号特性，去除噪声和失真，从而恢复图像的细节和清晰度。
第2章 维纳滤波和卡尔曼滤波
维纳 滤波器
相关函数
H(z)或h(n)
平稳
解析形式
卡尔曼 滤波器
前一个估 计值和最 近的观察
状态方程 量测方程
状态变量 估计值
平稳或 递推算法 非平稳
60 年代
2018年10月9日星期二
15:38:36
4
153
2.2 维纳滤波器的离散形式—时域解
§2.2 维纳滤波器的离散形式—时域解 2.2.1 维纳滤波器时域求解的方法 考虑到系统的因果性，即h(n)=0，n<0 （2.2.2） 设期望信号为d(n)，计算误差和均方误差为 e(n)=d(n) －y(n)=s(n) －y(n) （2.2.３） （2.2.４）
15:38:36
24
153
2.2 维纳滤波器的离散形式—时域解
v2(n)是一个零均值的白噪声，它的自相关函数矩阵呈对角形，
且
2 rv2v2 (， 0) 2
因此，输出信号的自相关Ryy为
2018年10月9日星期二
15:38:36
25
153
2.2 维纳滤波器的离散形式—时域解
(3) 计算输出信号与期望信号的互相关函数矩阵。 由于两个信 号都是实信号，故 ryd(m)=E［y(n)d(n-m)］=E［y(n)x1(n-m)］ =E［(x(n)+v2(n))x1(n-m)］=E［x(n)x1(n-m)］ m=0, 1 根据图2.2.2系统H2(z)的输入与输出的关系, 有 x1(n)-b1x(n-1)=x(n) 这样 x1(n)=x(n)+b1x(n-1)
2018年10月9日星期二 15:38:的离散形式—时域解
% 滤波 y = filter(Wopt, 1, x); % 误差 En = d - y'; % 结果 figure, plot(n, d, 'r:', n, y, 'b-'); legend('维纳滤波信号真值','维纳滤波估计值'); title('期望信号 与滤波结果对比'); xlabel('观测点数');ylabel('信号幅度');figure, plot(n , En); title('维纳滤波误差曲线'); xlabel('观测点数');ylabel('误差幅度'); toc
维纳滤波概述
E[ x(t ) h(t ) y (t )d ]2
0
E[ x(t )]2 2 h( )( E[ y (t ) y ( )]d
0
h( )d h( ) E[ y (t ) y (t )]d
0 0
Rxx (0) 2 h( ) Ryx ( )d
E[e 2 (n)] lim
(2-25)
1 T 2T
T
T
(n) s (n)]2 dn [s
滤波器在n时刻复现信号s(n)显然是滤波问题。这是一种简单的过滤，滤除 噪声v(n)是唯一的目的。 但输出在时间上的简单的超前或者滞后，都不失为线性
(n a) ，这显然是一种超前的情况，输 滤波问题。在n时刻，滤波器输出如果为 s (n a) 是 s(n a) 的估计值，它比x(n)超前了 时间。这个时候滤波器所完成 出s
2 J1 2 J 2 0( 3 )
(2-15) 则将导致
J[ h h( t )] J [ o p t( t ) oh p t (t ) ]
(2-16) 这明显与最佳冲击响应将使均方误差最小的假设相矛盾。所以，我们只能取
J1 =0，即满足式(2-11)。由式(2-13)知，若使 J1 =0成立，则必须使式(2-13)中的方
第 2 章 维纳滤波理论
2.1 维纳滤波的概述
维纳 （Wiener） 滤波是用来解决从噪声中提取信号问题的一种过滤 （或滤波） 的方法。 实际上这种线性的滤波问题，可以看成是一种估计问题或是一种线性估 计问题。 维纳滤波器是一种基于最小均方误差准则下的估计滤波器。 滤波器的输入包 括有真实信号值x(t)和干扰噪声w(t)，信号值与噪声是统计独立的，则两者的合 成输入信号是
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
k J
进一步可求得
J wk
k 0,1,2,
J E[e 2 (n)] e(n) k J 2 E[ e(n)] wk wk wk 2 E[u (n k )e(n)] k 0,1,2,
2
第2章 维纳滤波
置梯度为零,得维纳滤波器最优解的一个充要条件
p p(0)
p(1)
T
2 0 sin N
T
① ②
由，Rwo p
可求得
2 w o 2 cot N
2 2 csc N
T
2 E[d 2 (n)] 2 ，结合Ｒ和ｐ的结果，可得均方误差性能函数及其梯度向 可以求得 d 量为 2 2 cot 2 N 2 J min d pT w o 2 0 sin 0 2 N 2 csc N
8
第2章 维纳滤波
2.4.2 横向滤波器的误差性能 一、误差性能曲面 M 1 输出： y(n) w u(n k ) u T (n)w(n) w T (n)u(n)
k 0
k
估计误差： 均方误差：
e(n) d (n) y(n) d (n) wT (n)u(n)
J E[e 2 (n)] E{[d (n) y (n)]2 } E{[d (n) wT (n)u(n)]2 } E[d 2 (n)] wT (n) E[u(n)uT (n)]w (n) 2wT (n) E[d (n)u(n)]
Rqn nqn
误差性能表面的另一种表示形式:
J J min w T (QΛQ T )w J min (Q T w ) T Λ (Q T w ) J min v T Λv
1
第2章 维纳滤波
2.2 离散形式维纳滤波器的解 单位冲激响应 h(n) 用 w0 , w1 , w2 , 表示，则滤波器的输出 y (n) 为线性卷积和
y(n) wk u (n k )
k 0
n 0,1,2,
最小均方误差准则下的代价函数
J E[e 2 (n)]
代价函数的梯度向量
样本空间
正交原理的几何解释（二维的情况）
4
第2章 维纳滤波
2.3.2 正交原理推论 考察滤波器输出信号与估计误差之间的相关特性
E[ y(n)e(n)] E[ wk u (n k )e(n)] wk E[u (n k )e(n)]
k 0 k 0
最优状态下，上式为
E[ yo (n)eo (n)] E[ wok u (n k )eo (n)] wok E[u (n k )eo (n)]
J min (w R 1p) T R ( w R 1p) J min (w w o ) T R (w w o )
（该式表明最佳权向量与最小均方误差的对应关系）
为使误差性能曲面的表达式简单化，定义权偏差向量为
T , w1 ,, w w w w o w0 M 1
p E[u(n)d (n)] [ p(0), p(1),, p(1 M )]T
则横向滤波器的维纳-霍夫方程式的矩阵表示形式为 Rwo p ，即维纳解为 w o R 1p 式中： w o [wo,0 , wo,1 ,, wo,M 1 ]T 是横向滤波器最优抽头权向量。
11
第2章 维纳滤波
例2-1 如图所示的横向滤波器，该系统输入信号为 u(n) sin(2n N ) ，期望响应 d (n) 2 cos(2n N ) 试计算在均方误差意义下的最佳权向量 w o 和最小均方误差 J min 。
u ( n ) sin( 2 n N )
z 1
u ( n 1)
E[u(n k )eo (n)] 0
k 0,1,2,
(※ )
式中 eo (n) 表示滤波器工作在最优条件下的估计误差。 正交原理: 使均方误差代价函数达到最小值的充要条件是其相应的估计误差 eo (n) 正交于 用于估计期望响应的每个输入样本值。 充要条件之二的推导: 由正交原理出发
E[u (n k )eo (n)] E{u (n k )[d (n) y o (n)]} E{u (n k )[d (n) woi u (n i)]} 0 k 0,1,2,
2 N 2n 2 (n k ) 2k p(k ) Eu (n k )d (n) cos sin sin N n1 N N N
k 0,1
k 0,1
12
第2章 维纳滤波
由此可得输入自相关矩阵Ｒ和互相关向量分ｐ别为
r (0) R r (1) 0.5 r (1) r (0) 0.5 cos 2 N 0.5 cos 2 N 0.5
k 0 k 0
由正交原理(右端为零)可得
E[ yo的估计误差 eo (n) 输入样本值 u(n ) 和滤波器的输出 yo (n) 正交。
5
第2章 维纳滤波
2.3.3 最小均方误差 维纳滤波器的估计误差为
ˆ (n) eo (n) d (n) yo (n) d (n) d o
i 0
整理得
定义
w Eu(n k )u(n i) Eu(n k )d (n)
i 0 oi
k 0,1,2,
滤波器输入的自相关函数 Eu(n k )u(n i) r (i k )
因输入平稳， 故ｒ只与ｉ和 ｋ的差有关
滤波器输入与期望响应的互相关函数 Eu(n k )d (n) p(k )
第2章 维纳滤波
2.1 问题的提出
u ( n)
线性离散时间滤波器
y ( n)
h( n)
d ( n)
e( n )
在给定的约束 条件以及最优 准则下来设计 最佳滤波器
离散形式维纳滤波问题示意图 要求: 滤波器是离散时间滤波器；滤波器是线性的；滤波器为无限冲激响应（IIR） 滤波器，有限冲激响应滤波器可以看成是它的一个特例。 准则: 最小均方误差（MMSE）准则。 维纳滤波器: 输入信号和期望响应平稳且联合平稳时所得到的最佳滤波器。 本质：给定一个输入信号，设计一个线性离散滤波器，对期望响应估计，使得其 估计误差的均方值为最小。
最佳权向量也可以通过置均方误差性能函数的梯度向量为0求得，见教材13页。 本题中最小均方误差为0，但它不是说任何问题中都为0，一般时候大于0。
13
第2章 维纳滤波
三、二次型误差性能曲面的性质 把误差性能函数重新表示为
2 J d w T Rw 2w T p 2 d w T p p T w w T Rw 2 d p T R 1p (w R 1p) T R (w R 1p)
此时的二次型误差性能函数可以表示为 J J min wT Rw
14
第2章 维纳滤波
为直观起见，考虑只有两个权值 w0 和 w1 的横向滤波器。此时，误差性 能曲面是三维空间中的一个抛物面，如图所示。若用一组 J=C 的等值 平面来截取误差性能表面，并向权值平面投影，则可在权值平面上可 得到一组同心椭圆，这就是误差性能曲面的等高线图。椭圆的中心为 性能表面最低点的投影。
o
T wT o E[u(n)u (n)]w o
进一步
2 d ˆ
o
wT o Rw o T T 1 wT op p wo p R p
2 2 由 J min d dˆo ，得最小均方误差的3种表达式
2 2 T 2 T 1 J min d wT o Rwo d p w o d p R p
横向滤波器的二次误差性能曲面和等高 线
15
第2章 维纳滤波
相关矩阵R的特征分解与化为标准形
det[R I] 0
0 , 1 ,, M 1
0 0 Λ 0 0
Q q 0
q1 q M 1
R QΛQT
1
0
0 0 M 1
d (n )
ˆ(n) d
e(n)
横向滤波器结构示意图 由Ｍ级抽头延迟线级联而成，每个抽头的输入分别为u(n), u(n 1),, u(n M 1) 各抽头权值分别为 w0 , w1 ,, wM 1 ，构成一组权系数 wk (k 0,1,, M 1) 。
7
第2章 维纳滤波
r (1) r ( M 1) r (0) r (1) r (0) r ( M 2) R E[u(n)uT (n)] r ( M 1) r ( M 2) r (0) u(n) [u(n),u(n 1),, u(n M 1)]T 是抽头输入向量，矩阵Ｒ对称。 式中： 定义横向滤波器抽头输入与期望响应的互相关向量为ｐ，则
2 d wT (n)Rw (n) 2wT (n)p
误差性能曲面：将代价函数Ｊ相对于抽头权值ｗ的关系曲面。
9
第2章 维纳滤波
代价函数Ｊ是抽头权值ｗ的二次函数； 如果矩阵Ｒ是正定，误差性能曲面就是一个碗状曲面，且有唯一的最小值点J min 。 该点所对应的权值为滤波器最优权值，该点的梯度向量等于零 ：
d (n) dˆ (n) e (n)
o o
(△ )
定义最小均方误差为
2 J min E[eo (n)]
ˆ (n) 和 d (n)为零均值，对△式两边同时取方差，得 假定d o
2 2 d d ˆ J min
o
即
2 2 J min d d ˆ
o
2 2 ˆ (n) 的方差。 式中： d 是期望响应 d (n) 的方差， dˆo 是其最优估值 d o