基于最小均方误差(MMSE)估计的因果维纳滤波的实现.

基于最小均方误差(MMSE)估计的因果维纳滤波的实现.
基于最小均方误差(MMSE)估计的因果维纳滤波的实现.

基于最小均方误差(MMSE)估计的因果维纳滤波的实现

一.功能简介

基于最小均方误差(MMSE)估计的因果维纳滤波的Matlab 实现,用莱文森-德宾(Levinson-Durbin)算法求解维纳-霍夫方程(Yule-wa1ker)方程,得到滤波器系数,进行维纳滤波。

二.维纳滤波简介

信号处理的实际问题,常常是要解决在噪声中提取信号的问题,因此,我们需要寻找一种所谓有最佳线性过滤特性的滤波器,这种滤波器当信号与噪声同时输入时,在输出端能将信号尽可能精确地重现出来,而噪声却受到最大抑制。

维纳(Wiener)滤波就是用来解决这样一类从噪声中提取信号问题的一种过滤(或滤波)方法。

一个线性系统,如果它的单位样本响应为h (n ),当输入一个随机信号x (n ),且

)()()(n n s n x υ+=

其中s (n )表示信号,)(n υ表示噪声,则输出y (n )为

∑-=m

m n x m h n y )()()(

我们希望x (n )通过线性系统h (n )后得到的y (n )尽量接近于s (n ),因此称y (n )为s (n )的估计值,

用)(?n s

表示,即 )(?)(n s

n y =

维纳滤波器的输入—输出关系

如上图所示。这个线性系统)(?h 称为对于s(n)的一种估计器。

如果我们以s

s ?与分别表示信号的真值与估计值,而用e (n )表示它们之间的误差,即

)(?)()(n s

n s n e -= 显然,e (n )可能是正的,也可能是负的,并且它是一个随机变量。因此,用它的均方值来表达误差是合理的,所谓均方误差最小即它的平方的统计平均值最小:

[][]

22)?()(s

s E n e E -=最小 已知希望输出为:

1

?()()()()N m y n s

n h m x n m -===-∑ 误差为:

1

?()()()()()()N m e n s n s

n s n h m x n m -==-=--∑ 均方误差为:

1

2

20()(()()())N m E e n E s n h m x n m -=????=--????

??

∑ 上式对() m=0,1,,N-1h m 求导得到:

1

02(()()())()0

0,1,21N opt m E s n h m x n m x n j j N -=??---==-????

进一步得:

[][]

1

()()()()()0,1,1N opt m E s n x n j h m E x n m x n j j N -=-=--=-∑

从而有:

1

()()()

0,1,2,,1N xs opt xx m R j h m R j m j N -==-=-∑

于是就得到N 个线性方程:

(0)(0)(0)(1)(1)(1)(1)1(1)(0)(1)(1)(0)(1)(2)1(1)(0)(1)(1)(2)(1)(0)

xs xx xx xx xs xx xx xx xs xx xx xx j R h R h R h N R N j R h R h R h N R N j N R N h R N h R N h N R ==+++--??==+++--?

?

??=--=-+-++-?

写成矩阵形式为:

(0)

(1)(1)(0)(0)(1)(0)(2)(1)(1)(1)(2)

(0)(1)(1)xx xx xx xs xx xx xx xs xx xx xx xs R R R N R h R R R N R h R N R N R R N h N -????

????????-??????=???????

??

???----??????

简化形式:xx xs R H R = 其中:H=[h(0) h(1)

h(N-1)]'是滤波器的系数

[](0),(1),(1)'xs xs xs xs R R R R N =-是互相关序列

(0)

(1)(1)(1)(0)(2)(1)(2)

(0)xx xx xx xx

xx xx xx xx xx xx R R R N R R R N R R N R N R -????-?

?=???

?

--??

是自相关矩阵

由上可见,设计维纳滤波器的过程就是寻求在最小均方误差下滤波器的单位脉冲响应或传递函数的表达式,其实质就是解维纳-霍夫(Wiener -Hopf )方程。另外,设计维纳滤波器要求已知信号与噪声的相关函数。 三.程序求解过程

由上述可见,本程序实现的关键是在已知输入信号的自相关函数和输入信号和理想输出信号的互相关函数的情况下,求解维纳-霍夫(Wiener -Hopf )方程,从而得到滤波器系数,再进行维纳滤波。

求解步骤: 1. 初始化值

(0)(0)/(0)xd xx a r r = (0)(1)/(0)xd xx b r r =

2. 对于j=1,2,

,M-1,进行如下计算:

1

10()()()1(0)()()

j xd xx i j xx xx i r j r j i a i temp r r j i b i -=-=--=

--∑∑

()()2() i=0,1,

j-1a i a i temp b i =-?

()1a j temp =

1

01

0(1)(1)()2(0)()()

j xx xx i j xx xx i r j r i b i temp r r j i b i -=-=+-+=

--∑∑

()(1)2() i=1,

j b i b i temp b j i =--?-

(0)2b temp =

3.滤波器系数为:()() i=0,1,

M-1h i a i =

4.利用上面的得到的滤波器对输入信号进行维纳滤波,得到输出信号。 四.函数说明

函数使用方法:y=wienerfilter(x,Rxx,Rxd,M)

参数说明:x 是输入信号,Rxx 是输入信号的自相关向量,Rxx 是输入信号和理想信号的的互相关向量,M 是维纳滤波器的长度,输出y 是输入信号通过维纳滤波器进行维纳滤波后的输出。

具体程序见Matlab 的.m 文件。 五.程序示例

加载Matlab 中的语音数据handel ,人为地加入高斯白噪声,分别计算加入噪声后信号的自相关xx R 和加入噪声后信号和理想信号的互相关xd R ,取滤波器的长度为M=500,将以上参数代入函数中进行维纳滤波,得到输出。

程序如下:

load handel %加载语音信号 d=y; d=d*8; %增强语音信号强度 d=d';

fq=fft(d,8192); %进行傅立叶变换得到语音信号频频 subplot(3,1,1); f=Fs*(0:4095)/8192;

plot(f,abs(fq(1:4096))); %画出频谱图 title('原始语音信号的频域图形');

xlabel('频率f');

ylabel('FFT');

[m,n]=size(d);

x_noise=randn(1,n); %(0,1)分布的高斯白噪声

x=d+x_noise; %加入噪声后的语音信号

fq=fft(x,8192); %对加入噪声后的信号进行傅立叶变换,看其频谱变化

subplot(3,1,2);

plot(f,abs(fq(1:4096))); %画出加入噪声后信号的频谱图

title('加入噪声后语音信号的频域图形');

xlabel('频率f');

ylabel('FFT');

yyhxcorr=xcorr(x(1:4096)); %求取信号的信号的自相关函数

size(yyhxcorr);

A=yyhxcorr(4096:4595);

yyhdcorr=xcorr(d(1:4096),x(1:4096)); %求取信号和理想信号的互相关函数

size(yyhdcorr);

B=yyhdcorr(4096:4595);

M=500;

yyhresult=wienerfilter(x,A,B,M); %进行维纳滤波

yyhresult=yyhresult(300:8192+299);

fq=fft(yyhresult); %对维纳滤波的结果进行傅立叶变换,看其频谱变化subplot(3,1,3);

f=Fs*(0:4095)/8192;

plot(f,abs(fq(1:4096))); %画出维纳滤波后信号的频谱图

title('经过维纳滤波后语音信号的频域图形');

xlabel('频率f');

ylabel('FFT');

求出的频谱图如下所示:

由上述结果可见,经过维纳滤波后信号的噪声减弱,信噪比提高。

维纳滤波的应用综述

基于维纳滤波的应用综述 一、维纳滤波概述 维纳(wiener)滤波是用来解决从噪声中提取信号问题的一种过滤(或滤波)的方法。实际上这种线性滤波问题,可以看成是一种估计问题或一种线性估计问题。一个线性系统,如果它的单位样本响应为h (n ),当输入一个随机信号x (n ),且 x (n )=s (n )+v (n ) (1.1) 其中s(n)表示信号,v(n)表示噪声,则输出y(n)为 ()=()()m y n h m x n m -∑ (1.2) 我们希望x (n )通过线性系统h (n )后得到的y (n )尽量接近于s (n ),因此称y (n )为s (n )的估计值,用^ s 表示,即 ^ ()()y n s n = (1.3) 实际上,式(1.2)的卷积形式可以理解为从当前和过去的观察值x (n ),x (n -1),x (n -2)…x (n -m ),来估计信号的当前值^()s n 。因此,用h (n )进行过滤的问题可以看成是一个估计问题。由于现在涉及的信号是随机信号,所以这样一种过滤问题实际上是一种统计估计问题。 维纳滤波器的优点是适应面较广,无论平稳随机过程是连续的还是离散的,是标量的还是向量的,都可应用。对某些问题,还可求出滤波器传递函数的显式解,并进而采用由简单的物理元件组成的网络构成维纳滤波器。维纳滤波器的缺点是,要求得到半无限时间区间内的全部观察数据的条件很难满足,同时它也不能用于噪声为非平稳的随机过程的情况,对于向量情况应用也不方便。因此,维纳滤波在实际问题中应用不多,更多的是基于维纳滤波器发展而来的滤波方式。 二、基于维纳滤波的应用 2.1在飞机盲降着陆系统中的应用 盲降着陆系统(ILS)又译为仪表着陆系统。它的作用是由地面发射的两束无线电信号实现航向道和下滑道指引,建立一条由跑道指向空中的虚拟路径。飞机通过机载接收设备确定自身与该路径的相对位置,使飞机沿正确方向飞向跑道并且平稳下降高度。最终实现安全着陆。在飞机盲降着陆时,飞机以较慢的恒定速度沿着一个无线电波束下降。为了自动对准跑道,通常要为盲目着陆系统提供两个信号。一个是由无线电波束提供的信号,由航向台提供,它与飞机航向滑离跑道方向的大小成正比;另一个信号由飞机通过自身方位的测量来提供。在这两个信号中,前者是飞机位置信号与高频噪声的叠加,作为前面分系统的x 1(n );后者由于飞机下降过程中风向的改变而在信号中引入了低频噪声,作为x 2(n )。为了对飞机的位置信号进行最佳估计,采用互补维纳滤波器去除无用噪声信号,提高信噪比。由此,增强了飞机着陆时的精度,提高了飞机自身的安全。 2.2在图像处理中的应用 在图像处理中,噪声问题是经常会遇到的问题,它使得图像信息受损,降低了信噪比。如何尽可能地滤去噪声,恢复真实的信号,是图像处理中关键的问题。几类简单、常用的滤

维纳滤波器的设计及Matlab仿真实现

Wiener 滤波器的设计及Matlab 仿真实现 1.实验原理 在许多实际应用中,人们往往无法直接获得所需的有用信号,能够得到的是退化了或失真了的有用信号。例如,在传输或测量信号s(n)时,由于存在信道噪声或测量噪声v(n),接受或测量到的数据x(n)将与s(n)不同。为了从x(n)中提取或恢复原始信号s(n),需要设计一种滤波器,对x(n)进行滤波,使它的输出y(n)尽可能逼近s(n),成为s(n)的最佳 估计,即y(n) = )(?n s 。这种滤波器成为最优滤波器。 Wiener 滤波器是“理想”意义上的最优滤波器,有一个期望响应d(n),滤波器系数的 设计准则是使滤波器的输出y(n)(也常用)(?n d 表示)是均方意义上对期望响应的最优线性估计。Wiener 滤波器的目的是求最优滤波系数],,,,,,[,1,0,1, k o o o o w w w w w -=,从而 使])(?)([])([)(2 2 n d n d E n e E n J -==最小。 通过正交性原理,导出 )()(k r k i r w xd x i oi -=-∑∞ -∞ =, 2,1,0,1,-=k 该式称为Wiener-Hopf 方程,解此方程,可得最优权系数},2,1,0,1,,{ -=i w oi 。 Wiener-Hopf 方程的矩阵形式为xd o x r w R =,解方程求得xd x o r R w 1 -= 2.设计思路 下面我们通过具体的例子来说明Wiener 滤波器的设计方法: 考虑如下图所示的简单通信系统。其中,产生信号S(n)所用的模型为 )95.01/(1)(11-+=z z H ,激励信号为)3.0,0(~)(WGN n w 。信号s(n)通过系统函数为)85.01/(1)(12--=z z H 的信道,并被加性噪声)1.0,0(~)(WGN n v 干扰,v(n)与w(n)不相 关。确定阶数M=2的最优FIR 滤波器,以从接收到的信号x(n) = z(n) + v(n)中尽可能恢复发送信号s(n),并用MATLAB 进行仿真。

基于最小均方误差的Tikhonov正则化参数优化研究

基于最小均方误差的Tikhonov正则化参数优化研究 摘要:本文首先介绍了求解病态方程的L-曲线法、GCV法等常用的方法,然后提出了基于最小均方误差的最优Tikhonov正则化求解参数的方法。通过仿真实验表明,本文提出的基于最小均方误差的Tikhonov正则化参数优化选择方法是一种可行有效的方法。 关键字:Tikhonov正则化、均方误差、病态问题 Based on the minimum mean square error of Tikhonov regularization parameter optimization research Abstract:This paper first introduces the morbid equation of L - curve method, GCV method such as the commonly used method, and then based on the minimum mean square error of the optimal Tikhonov regularization method to solve the parameter. Through the simulation experiments show that the proposed based on the minimum mean square error of Tikhonov regularization parameter optimization selection method is a feasible and effective method. Key words: Tikhonov regularization, mean square error (mse), pathological problems 1 引言 求解线性不适定问题的正则化方法中,应用最广泛也最经典的是Tikhonov正则化方法[1]。随着各个领域中数据的处理中应用多种不适定问题的正则化方法,Tikhonov正则化方法是比较常见也是应用比较广泛的方法。该方法可以解决不同领域中不适定问题的纠正,地震中发射波长中的应用、电容层析成像图像重建、无线传感器网络实现监测和跟踪等病态问题中均可以应用Tikhonov正则化方法。本文通过对Tikhonov正则化方法中常见的L-曲线法和GCV 法进行分析Tikhonov正则化方法的特点,通过L-曲线法和GCV法进行Tikhonov正则化方法参数的确定,从而确定基于最小均方误差的Tikhonov正则化优化参数,并通过仿真实验进行验证,从而确定基于最小均方误差的Tikhonov正则化优化参数可行。从而为更深入的研究提供可靠依据。 2迭代Tikhonov正则化方法参数确定方法: 目前正则化参数的选择有先验和后验两种方法。用先验法选择正则化参数时,都需要预先对于原始数据的误差水平做出估计,但在大多数情况下这是难以做到的。后验取法可以直接应用带有噪音的原始数据对正则化参数作出估计。 2.1L-曲线法

基于维纳滤波的图像复原

基于维纳滤波的图像复原 摘要: 本文简单介绍了用维纳滤波图像复原算法,该方法计算量小鉴别精度高抗噪声能力较强,提高了图像的复原质量。关键词: 图像复原; 维纳滤波 Image restoration based on wiener filtering Abstact:This thesis makes a introduction on the image restoration by Wiener filtering.The method has less calculation,the advantages of high precision,and strong anti-noise capability.And the image restoration results are improved significantly campared with the results obtainly by using traditional Wiener filters. Keywoerd:image restoration;wiener filtering 1 引言 图像复原是图像处理的重要组成部分,由于图像在获取 和传输过程当中通常不可避免的要受到一些噪声干扰,因此 在进行其他图像处理以及图像分析之前,应该尽量将图像复 原到其原始真实状态,以减少噪声对图像理解的干扰,故而 图像复原技术不仅仅是一种重要的图像处理方法,也是图像 工程中其他各种应用的前提,或者说是它们的预处理。 图像复原技术是数字图像处理的一个基本和重要的课 题。与图像增强技术不同,图像复原的目的是将观测到的退 化图像以最大的保真度复原到退化前的状态。研究内容主要 是对退化图像中的模糊和噪声进行建模,通过逆向过程来估 计原始图像。这种估计往往是近似的,通过某种最佳准则作 为约束。 图像复原的关键问题是在于建立退化模型。如图1所示: ? 图1 基本图像退化/复原模型 图像退化过程可以被模型化为一个退化函数和 一个加性噪声项,共同作用于原始图像f(x,y),产生一 幅退化的图像g(x,y)。给定f(x,y),退化因子H和噪声n(x,y)。 的一些先验知识,便可以获得原始图像的一个近似估计∧f。 根据该模型,退化图像的数学描述为: g(x,y)=H[f(x,y)]+n(x,y) 2 维纳滤波图像复原 2.1维纳滤波介绍 维纳滤波是诺波特维纳在二十世纪四十年代提出的一种滤波器,即假定线性滤波器的输入为有用信号和噪声之和,两者均为广义平稳过程且知它们的二阶统计特性,根据最小均方误差准则( 滤波器的输出信号与需要信号之差的均方值最小) ,求得最佳线性滤波器的参数。 维纳滤波器是一种自适应最小均方误差滤波器。维纳滤波的方法是一种统计方法,它用的最优准则是基于图像和噪声各自的相关矩阵,它能根据图像的局部方差调整滤波器的输出,局部方差越大,滤波器的平滑作用就越强。它的最终 目的是使复原图像 ∧ f(x,y) 与原始图像f(x,y) 的均方误差最小,即 m in } )] , ( ) , ( {[2= - ∧ y x f y x f E 其中E[●]为数学期望算子。因此,维纳滤波器通常又称为最小均方误差滤波器。 2.2 维纳滤波原理 维纳滤波综合了退化函数和噪声统计特性两个方面进行复原处理维纳滤波建立在最小化统计准则的基础上,它所得的结果只是平均意义上的最优。 从退化图像g(x,y)复原出原图像f(x,y)的估计值,噪声为n(x,y)。用向量f、g、n来表示f(x,y)、g(x,y)、n(x,y),Q为对f的线性算子。最小二乘方问题可看成是使形式为 2 ∧ f Q 的函数服从约束条件2 2n f H g= - ∧ 的最小化问题,也就是说,在约束条件2 2n f H g= - ∧ 下求 ∧ f Q得最小化而得到f 的最佳估计。这种有条件的极值问题可以用拉格朗日乘数法来处理。 用拉格朗日法建立目标函数:

线性分类器值感知机算法和最小均方误差算法

线性分类器之 感知机算法和最小平方误差算法 1.问题描述 对所提供的的数据“data1.m ”,分别采用感知机算法、最小平方误差算法设计分类器,分别画出决策面,并比较性能,并且讨论算法中参数设置的影响 2.方法叙述 2.1感知机算法 1.假设已知一组容量为N 的样本集1y ,2y ,…,N y ,其中N y 为d 维增广样本向量,分别来自1ω和2ω类。如果有一个线性机器能把每个样本正确分类,即存在一个权向量a ,使得对于任何1ω∈y ,都有y a T >0,而对一任何2ω∈y ,都有y a T <0,则称这组样本集线性可分;否则称线性不可分。若线性可分,则必存在一个权向量a ,能将每个样本正确分类。 2.基本方法: 由上面原理可知,样本集1y ,2y ,…,N y 是线性可分,则必存在某个权向量a ,使得 ?? ???∈<∈>21 y ,0y ,0ωωj j T i i T y a y a 对一切对一切 如果我们在来自2ω类的样本j y 前面加上一个负号,即令j y =—j y ,其中2ω∈j y ,则也有 y a T >0。因此,我们令 ???∈∈='21y ,-y ,ωωj j i i n y y y 对一切对一切 那么,我们就可以不管样本原来的类型标志,只要找到一个对全部样本n y '都满足 y a T >0,N n ,,3,2,1??=的权向量a 就行了。此过程称为样本的规范化,n y '成为规范化 增广样本向量,后面我们用y 来表示它。 我们的目的是找到一个解向量* a ,使得 N n y a n T ,...,2,1,0=> 为此我们首先考虑处理线性可分问题的算法。先构造这样一个准则函数 )()(y ∑∈= k y T p y a a J γ δ 式中k γ是被权向量a 错分类的样本集合。y δ的取值保证因此()a J p 总是大于等于0。即错

维纳维纳滤波实现模糊图像恢复

维纳滤波实现模糊图像恢复 摘要 维纳滤波器是最小均方差准则下的最佳线性滤波器,它在图像处理中有着重要的应用。本文主要通过介绍维纳滤波的结构原理,以及应用此方法通过MA TLAB 函数来完成图像的复原。 关键词:维纳函数、图像复原 一、引言 在人们的日常生活中,常常会接触很多的图像画面,而在景物成像的过程中有可能出现模糊,失真,混入噪声等现象,最终导致图像的质量下降,我们现在把它还原成本来的面目,这就叫做图像还原。引起图像的模糊的原因有很多,举例来说有运动引起的,高斯噪声引起的,斑点噪声引起的,椒盐噪声引起的等等,而图像的复原也有很多,常见的例如逆滤波复原法,维纳滤波复原法,约束最小二乘滤波复原法等等。它们算法的基本原理是,在一定的准则下,采用数学最优化的方法从退化的图像去推测图像的估计问题。因此在不同的准则下及不同的数学最优方法下便形成了各种各样的算法。而我接下来要介绍的算法是一种很典型的算法,维纳滤波复原法。它假定输入信号为有用信号与噪声信号的合成,并且它们都是广义平稳过程和它们的二阶统计特性都已知。维纳根据最小均方准则,求得了最佳线性滤波器的的参数,这种滤波器被称为维纳滤波。 二、维纳滤波器的结构 维纳滤波自身为一个FIR 或IIR 滤波器,对于一个线性系统,如果其冲击响应为()n h ,则当输入某个随机信号)(n x 时, Y(n)=∑-n )()(m n x m h 式(1) 这里的输入 )()()(n v n s n x += 式(2) 式中s(n)代表信号,v(n)代表噪声。我们希望这种线性系统的输出是尽可能地逼近s(n)的某种估计,并用s^(n)表示,即 )(?)(y n s n = 式(3) 因而该系统实际上也就是s(n)的一种估计器。这种估计器的主要功能是利用当前的观测值x(n)以及一系列过去的观测值x(n-1),x(n-2),……来完成对当前信号值的某种估计。维纳滤波属于一种最佳线性滤波或线性最优估计,是一最小均方误差作为计算准则的一种滤波。设信 号的真值与其估计值分别为s(n)和)(?n s ,而它们之间的误差 )(?)()(e n s n s n -= 式(4) 则称为估计误差。估计误差e(n)为可正可负的随机变量,用它的均方值描述误差的大小显然

最小均方算法

第3章最小均方算法 3.1 引言 最小均方(LMS ,least-mean-square)算法是一种搜索算法,它通过对目标函数进行适当的调整[1]—[2],简化了对梯度向量的计算。由于其计算简单性,LMS 算法和其他与之相关的算法已经广泛应用于白适应滤波的各种应用中[3]-[7]。为了确定保证稳定性的收敛因子范围,本章考察了LMS 算法的收敛特征。研究表明,LMS 算法的收敛速度依赖于输入信号相关矩阵的特征值扩展[2]—[6]。在本章中,讨论了LMS 算法的几个特性,包括在乎稳和非平稳环境下的失调[2]—[9]和跟踪性能[10]-[12]。本章通过大量仿真举例对分析结果进行了证实。在附录B 的B .1节中,通过对LMS 算法中的有限字长效应进行分析,对本章内容做了补充。 LMS 算法是自适应滤波理论中应用最广泛的算法,这有多方面的原因。LMS 算法的 主要特征包括低计算复杂度、在乎稳环境中的收敛性、其均值无俯地收敛到维纳解以及利用有限精度算法实现时的稳定特性等。 3.2 LMS 算法 在第2章中,我们利用线性组合器实现自适应滤波器,并导出了其参数的最优解,这对应于多个输入信号的情形。该解导致在估计参考信号以d()k 时的最小均方误差。最优(维纳)解由下式给出: 其中,R=E[()x ()]T x k k 且p=E[d()x()] k k ,假设d()k 和x()k 联合广义平稳过程。 如果可以得到矩阵R 和向量p 的较好估计,分别记为()R k ∧ 和()p k ∧ ,则可以利用如下最陡下降算法搜索式(3.1)的维纳解: w(+1)=w()-g ()w k k k μ∧ w()(()()w())k p k R k k μ∧∧ =-+2(3.2) 其中,k =0,1,2,…,g ()w k ∧ 表示目标函数相对于滤波器系数的梯度向量估计值。 一种可能的解是通过利用R 和p 的瞬时估计值来估计梯度向量,即 1 0w R p -=(3.1)

3.1-3.2.1-估计量的性质、最小方差无偏估计

第三章估计理论 什么是“估计”? 通俗解释:对事物做大致的判断 专业解释:通过一定的技术手段获得关于被估计事件、参数、过程的相关信息,再对这些信 息进行加工、处理获得结果的过程。

3.1引言 3.1 引言 根据研究对象的不同估计分为二种 参量估计:被估计的对象是随机变量或非随机的未知量 波形估计:被估计的对象是随机过程或非随机的未知过程 信号参量估计理论 与信号参量估计相关的理论 最佳估计 一定准则下的“最好”估计 应用领域 通信系统、雷达系统、语音、图像处理、自动控制

3.1.2 估计量的性质质 假设得到N 个观测样本数据为: 为待估计参量,[][]0,1,,1 x n w n n N θ=+=?…式中,是观测噪声。 θ[]w n 估计的任务就是利用观测样本数据构造估计量,获得估计量后,通常需要对的质量进行评价,这就需要研[]x n θ θ θ究估计量的主要性质。 估计量也是一个随机变量,具有均值和方差等统计特征,可以利用其统计特征对估计量的性质进行评价。评价 θ 指标包括:无偏性、一致性、充分性和有效性。

1、无偏性 非随机参量随机参量??θθ 无偏估计 渐进无偏估计()E θθ=()()E E θ=?lim ()N E θθ→∞=?lim ()()N E E θ θ→∞=如果上式不满足,则是一个有偏估计 θ 定义 为估计量的偏估计量的无偏性保证估计量分布在参量真值附近,是衡量()()b E θθθ=?估计量性能优劣的重要指标。然而,一个估计量是无偏的不能确保就是好的估计量,它仅能保证估值的均值近似真值。

2、一致性 可以通过增加观测样本数据来减少估计量的估计误差,具有这种性质的估计称为一致估计。 简单一致性: ?lim (||)1N P θθδ→∞?<=均方一致性:2?lim [()]0N E θ θ→∞ ?= ?定义估计误差,对无偏估计,误差的方差为 222?εθθ=?在同时满足无偏性、均方一致性的条件下,随着观测样本()()()() Var E b E εεθε==数的增加,估计误差的方差将减小并趋于零。

基于维纳滤波的应用综述

基于维纳滤波的应用综述 摘要:介绍了维纳滤波的基本概念,列举了基于维纳滤波的滤波方式在飞机盲降着陆系统、在图像处理、桩基检测、超声物位计、地震数据信号处理和抗多址干扰盲检测中的应用。 一、维纳滤波概述 维纳(wiener)滤波是用来解决从噪声中提取信号问题的一种过滤(或滤波)的方法。实际上这种线性滤波问题,可以看成是一种估计问题或一种线性估计问题。一个线性系统,如果它的单位样本响应为h(n),当输入一个随机信号x(n),且 (1.1) 其中s(n)表示信号,v(n)表示噪声,则输出y(n)为 (1.2) 我们希望x(n)通过线性系统h(n)后得到的.y(n)尽量接近于s(n),因此称y(n)为s(n)的 估计值,用表示,即 (1.3) 如图1.1所示。这个线性系统h(n)称为对于s(n)的一种估计器。 实际上,式(1.2)的卷积形式可以理解为从当前和过去的观察值x(n),x(n一1),x(n一2)…x(n-m),来估计信号的当前值。因此,用h(n)进行过滤的问题可以看成是一个估计问题。由于现在涉及的信号是随机信号,所以这样一种过滤问题实际上是一种统计估计问题[1]。 维纳滤波器的优点是适应面较广,无论平稳随机过程是连续的还是离散的,是标量的还是向量的,都可应用。对某些问题,还可求出滤波器传递函数的显式解,并进而采用由简单的物理元件组成的网络构成维纳滤波器。维纳滤波器的缺

点是,要求得到半无限时间区间内的全部观察数据的条件很难满足,同时它也不能用于噪声为非平稳的随机过程的情况,对于向量情况应用也不方便。因此,维纳滤波在实际问题中应用不多,更多的是基于维纳滤波器发展而来的滤波方式。 二、基于维纳滤波的应用 2.1在飞机盲降着陆系统中的应用 盲降着陆系统(Instrument Landing System.ILS)又译为仪表着陆系统。是目前应用最为广泛的飞机精密进近和着陆引导系统。它的作用是由地面发射的两束无线电信号实现航向道和下滑道指引。建立一条由跑道指向空中的虚拟路径。飞机通过机载接收设备.确定自身与该路径的相对位置,使飞机沿正确方向飞向跑道并且平稳下降高度。最终实现安全着陆。由于是仪表指针引导飞行员按预定下滑线着陆,无需目视。故又称为盲降着陆系统。该系统为飞行员提供相对预定下滑线的水平和垂直面内的修正指示以及到跑道端口的距离指示。 在飞机盲目着陆系统的实际应用中。盲降着陆时,飞机以较慢的恒定速度沿着一个无线电波束下降。为了自动对准跑道,通常要为盲目着陆系统提供两个信号。一个是由无线电波束提供的信号。由航向台提供,它与飞机航向滑离跑道方向的大小成正比;另一个信号由飞机通过自身方位的测量来提供。在这两个信号中,前者是飞机位置信号与高频噪声的叠加。作为前面分系统的x1(n)后者由于飞机下降过程中风向的改变而在信号中引入了低频噪声,作为x2(n)。为了对飞机的位置信号进行最佳估计,采用互补维纳滤波器去除无用噪声信号[2],提高信噪比。由此,增强了飞机着陆时的精度,提高了飞机自身的安全。 2.2在图像处理中的应用 在图像处理中,噪声问题是经常会遇到的问题,它使得图像信息受损,降低了信噪比。如何尽可能地滤去噪声,恢复真实的信号.是图像处理中关键的问题。几类简单、常用的滤波器如维纳滤波器和卡尔曼滤波器等都是假定噪声是高斯的且是加性的,噪声和信号相互独立,这样能得到最小均方误差意义下的最优滤波。对于实际问题中遇到的非加性噪声,也能通过基于维纳滤波器的思想计算,求出适合的滤波器算式[3]。比如在处理乘性噪声时使用的方法就是基于维纳滤波器的思想[4],还有在处理图像运动模糊复原时的频域估计算法中也使用到基于维纳滤波器的一些推广算法[5]。同时,维纳滤波还是一种常见的图像复原方法,其思想是使复原的图像与原图像的均方误差最小原则采复原图像[6]。 2.3在桩基检测中的应用[7] 高层建筑、桥梁、海工结构及特殊建筑结构,都需采用深桩基础,即使普通

维纳滤波应用综述

维纳滤波应用综述 X X (XXXXXXXXXXXXXXXXXXXXXXX,XX XX XXXXXX) 摘要:介绍了维纳滤波的基本概念,列举了维纳滤波在桩基检测、综合脉冲星算法及图像复原中的应用. 维纳滤波是用来解决从噪声中提取信号问题的一种过滤的方法, 又被称为最佳线性过滤与预测或线性最优估计. 这里所谓最佳与最优是以最小均方误差为准则的.采用最小均方误差准则作为最佳过滤准则的原因还在于它的理论分析比较简单.不要求对概率的描述.并且在这种准则下导出的最佳线性系统对其它很广泛一类准则而言也是最佳的.维纳滤波是诺波特维纳在二十世纪四十年代提出的一种滤波器,即假定线性滤波器的输入为有用信号和噪声之和,两者均为广义平稳过程且知它们的二阶统计特性,根据最小均方误差准则( 滤波器的输出信号与需要信号之差的均方值最小) ,求得最佳线性滤波器的参数.维纳滤波器是一种自适应最小均方误差滤波器.维纳滤波的方法是一种统计方法,它用的最优准则是基于图像和噪声各自的相关矩阵,它能根据图像的局部方差调整滤波器的输出,局部方差越大,滤波器的平滑作用就越强. 1 基于Bayes 估计的双小波维纳滤波电能质量信号去噪算法 Bayes 阈值收缩算法的去噪步骤为:先对含噪信号进行离散小波变换;再按式(10)~(12)进行参数估计得到不同尺度α上的阈值,采用软阈值规则处理小波系数;最后经小波逆变换得到去噪信号。 基于Bayes 估计的小波阈值去噪算法在信噪比、均方误差方面均优于常见的阈值去噪算法,如通用硬阈值算法,通用软阈值算法,交叉验证(Cross Validation,CV)软阈值算法,无偏风险(Stein's unbiased risk estimator,Sure)软阈值算法。基于以上考虑,本文算法主要改进在于:在1W 域中采用Bayes 软阈值去噪算法代替图2 中的通用硬阈值去噪算法以得到期望信号的估计1s。 2 基于维纳滤波的电能质量检测去噪算法 由上述讨论可知传统空间自适应维纳滤波的参数是由局部数据,即某个邻域上的系数所估计。实际应用中滤波长度的选择不能过大,所以高斯噪声的大量存在对均值和方差的影响成了一个亟待解决的问题。 首先对叠加有噪声的电能质量检测信号均值滤波,均值滤波方法能很好地抑制高斯噪声。 针对均值滤波对边缘信息的模糊,该算法用阈值滤波方法对其进行更进一步的处理。它采用软阈值处理,不仅对信号不产生影响,而且能保留更多的电能质量检测信号细节。 3 小波分析与维纳滤波相结合的消噪方法研究

基于某维纳滤波的含噪声语音信号的恢复

基于维纳滤波的含噪声语音信号的恢复摘要 本文基于随机信号分析与处理的相关理论,采用维纳滤波技术恢复噪声中的鸟鸣声信号,通过仿真达到预期效果,对工程实践有很好的理论支持。 关键词:维纳滤波器频域法 实验目的 1.熟悉维纳滤波的基本概念 2.熟悉线性最小均方估计的基本原理 3.掌握运用维纳滤波理论恢复信号的基本方法 实验原理 信号从发送者传送到接受者往往受到集中形式的变形而削弱,维纳滤波是一种从接收的原始信号中恢复信号的方法。 由于但时域方法要求协方差矩阵的逆,当数据比较长的时候,求逆的运算量非常大,我们在这里采用频域法来求解。 维纳滤波器作为波形估计的一种方法,可以采用多种估计准则。

假定离散时间的观测过程为 00()()(),,1,...,f z n s n v n n n n n =+=+ 其中()v n 为噪声,()s n 为原信号,0n 为起始观测时刻,f n 为观测结束时刻。 在实际常采用易于实现的线性最小均方准则。线性最小均方估计是观测的线性函数,它可以作为观测序列通过离散时间线性系统,即 (/)(,)()f n f k n s n n h n k z k ∧ ==∑ 滤波器的系数的选择可以由线性最小均方估计的正交原理来求取,即 00{[()(,)()]()}0(,1,...,) n k n E s n h n k z k z i i n n n =-==+∑ 即 00(,)(,)(,),(,1,...,)n sz z k n R n i h n k R k i i n n n ===+∑ 上式也称为Wiener-Hopf 方程。 对于信号和观测过程是平稳随机序列,并且是联合平稳随机序列,系统为因果的线性时不变离散时间线性系统,0 n =-∞,则有 ()()()()(),0sz z z l R n h l R n l h n R n n +∞ ==-=*≥∑ 求解维纳滤波器即求系数()h n 的过程。

第5章 维纳滤波在信号处理中的应用_精简版

UESTC 何子述,夏威2010/4/191 第5章维纳滤波在信号处理中的应用 ?1、介绍线性预测器,讨论与AR 模型的互逆关系;?2、介绍前(后)向线性预测及其格型滤波器结构,导出Burg 算法;?3、介绍维纳滤波在信道均衡中的应用,讨论基于线性预测的语音编码。 本章内容概况

5.1 维纳滤波在线性预测中的应用 M

UESTC 何子述,夏威2010/4/193 5.1.1 线性预测器原理 ()()d n u n =期望响应信号为()1u n ?()2u n ?()u n M ?()u n M ()LP M , ,…,来预测称为阶(一步)线性预测(L inear P rediction ))。 ,(简记为输入数据为()()()1,2,,u n u n u n M ???",即用

UESTC 何子述,夏威2010/4/19 4 5.1.1 线性预测器原理 输入向量()()()()T 12n u n u n u n M ??=?????u "权向量 [] T 11M w w w ?=w "的自相关矩阵()n u ()(){}H E n n =R u u 则 ()()()()()()()()()()()()()()()()()()1112121222E 12u n u n u n u n u n u n M u n u n u n u n u n u n M u n M u n u n M u n u n M u n M ??????????? ??????????????????????????????=??? ???????????????????????? ?????R " """%#"(5.1.1)

次级通路估计误差偏移下的滤波-x最小均方算法收敛性能

V ol 35No.6 Dec.2015 噪 声与振动控制NOISE AND VIBRATION CONTROL 第35卷第6期2015年12月 文章编号:1006-1355(2015)06-0152-07 次级通路估计误差偏移下的滤波-x 最小均方算法 收敛性能 玉昊昕,陈克安 (西北工业大学航海学院环境工程系,西安710072) 摘要:实现自适应有源噪声控制算法时,次级通路辨识是其关键环节。由于环境干扰等因素的存在,实际的次级通路特性不是恒定的,而是在一定范围内随机变化。次级通路传递函数建模结果与实际通路之间会存在随机偏移误差,将影响自适应有源控制算法的收敛性能,严重的可能导致系统不稳定,因此研究此种情况下的系统收敛性能十分必要。以单频噪声为例,通过建立滤波-x 最小均方算法(Fx LMS )的等效传递函数,用线性时不变(LTI )系统的稳定性判据求解算法稳定条件,求得次级通路误差存在时收敛系数的取值范围,然后通过系统极点来分析此时算法收敛特性,并研究收敛系数取值对次级通路误差的承受能力。最后,通过实验证明了分析的有效性。 关键词:振动与波;有源噪声控制;Fx LMS 算法;次级通路误差;收敛性能中图分类号:TU112.3 文献标识码:A DOI 编码:10.3969/j.issn.1006-1335.2015.06.033 Convergence Performance of Filtered-x LMS Algorithm with Shifting Secondary Path Estimation Errors YU Hao-xin ,CHEN Ke-an (School of Marine Engineering,Northwestern Polytechnical University,Xi ’an 710072,China ) Abstract :Implementation of adaptive active noise control requires an estimate model of the secondary path.In practice,the characteristics of physical secondary path are not constant but vary randomly within a specific range because of the environmental disturbance.Thus,random shifting errors,which can lead to low convergence performance or instability,will exist between the modeling results and the physical path.In this paper,the equivalent transfer function of filtered-x LMS (FxLMS)algorithm was applied to calculate the stable conditions of the algorithm according to the stability criterion of linear time invariant (LTI)system.Convergence performance of the algorithm was studied by analyzing the root locus of the equivalent transfer function.Then the effect of adaptive step on the secondary path estimation error tolerance was studied.Finally,an experiment was done to validate the analysis. Key words :vibration and wave ;active noise control ;FxLMS algorithm ;secondary path error ;convergence performance Fx LMS 算法在有源噪声控制中是最常用的前馈算法[1],特别适用于抑制周期性扰动,特别是单频信号,在此情况下,可以忽略前馈结构的因果性约束。 Fx LMS 算法形式简单,便于实现,且运算复杂度较低,有较好的稳定性,是ANC 领域最基本的算法,因此虽然已经得到了广泛运用和研究,但仍然有 收稿日期:2015-04-08 作者简介:玉昊昕(1987-),男,广西梧州市人,博士生,主要 研究方向:有源噪声控制算法研究。 通讯作者:陈克安,男,博士生导师。 E-mail:kachen@https://www.360docs.net/doc/9913989110.html, 进一步研究的必要。在Fx LMS 算法中,为了补偿次级通路(从控制器输出到误差传感器输入之间的物理通路)的影响,参考信号要先经过预估计的次级通路传递函数进行滤波。理论上讲,当估计完全精确时,必定存在使算法收敛的收敛系数。然而实际中,次级通路特性的估计误差总是存在的。对存在次级通路误差时的算法收敛性,已有一些得到广泛认同的结论。 对于宽带信号,Wang 通过常微分方程(ODE )给出了Fx LMS 算法收敛的一个充分条件[2],并将其推广到Fu LMS 算法上[3],Mosquera 也完成了类似工作[4]。他们得到的充分条件十分严格,要求次级通

维纳滤波

维纳滤波 7.2 维纳滤波 从连续的(或离散的)输入数据中滤除噪声和干扰以提取有用信息的过程称为滤波,而相应的装置称为滤波器。根据滤波器的输出是否为输入的线性函数,可将它分为线性滤波器和非线性滤波器两种。滤波器研究的一个基本课题就是:如何设计和制造最佳的或最优的滤波器。所谓最佳滤波器是指能够根据某一最佳准则进行滤波的滤波器。 20世纪40年代,维纳奠定了关于最佳滤波器研究的基础。即假定线性滤波器的输入为有用信号和噪声之和,两者均为广义平稳过程且知它们的二阶统计特性,维纳根据最小均方误差准则(滤波器的输出信号与需要信号之差的均方值最小),求得了最佳线性滤波器的参数,这种滤波器被称为维纳滤波器。在维纳研究的基础上,人们还根据最大输出信噪比准则、统计检测准则以及其他最佳准则求得的最佳线性滤波器。实际上,在一定条件下,这些最佳滤波器与维纳滤波器是等价的。因而,讨论线性滤波器时,一般均以维纳滤波器作为参考。维纳滤波理论用于解决最小均方误差下的线性滤波问题。设接收到(或观测到)的信号为随机信号 (7-1) 其中s(t)是未知的实随机信号,n(t)是噪声。要设计的线性滤波器,其冲击响应为h(t, τ),输入为x(t),输出为,即 (7-2) 令为估计误差。冲击响应h(t, τ)按最小均方误差准则确定,即h(t, τ)必须满足使

(7-3) 达到最小。根据最小均方误差估计的正交条件,有以下关系成立 (7-4) 令 (7-5) (7-6) 则有 (7-7) 上述方程通常称为非平稳随机过程条件下的维纳-霍甫(Wiener-Kolmogorov)积分方程。特别当x(t),s(t)均为广义(或宽)平稳随机信号,而滤波器是线性时不变系统的情况下,x(t)与s(t)必为联合平稳,式(7-7)可写为 (7-8) 令,,则有 (7-9) 此处,“*”号表示卷积,对上式两边取Fourier变换,可得 (7-10) (7-11)

第5章552均方误差准则MSE和LMS算法

5.5.2均方误差准则(MSE )和LMS 算法 引言:均方误差准则同时考虑ISI 及噪声的影响,使其最小化。 本节讨论问题: 1. 均方误差准则; 2. 无限长LMS 均衡器(C (z ),J min ); 3. 有限长LMS 均衡器(C opt ,J min ); 4. LMS 算法; 5. 均衡器的操作; 6. 递推LMS 算法收敛特性的分析。 一. 均方误差准则 其中, 接收数据样本为:k n k n k n f I η-=+∑v ,k η为白噪声。

估计误差:?ISI k k k k I I εε=-,包括及噪声 定义:估计值2?[]k k I J E ε=的均方误差为均衡器的性能指数。 均方误差准则:使均方误差性能指数J 最小(min J ),此准则同时考虑使ISI 及噪声影响最小。 获得min J 的途径:调整{}j c ,当min J J =时,opt C C =(最佳抽头系数) 寻找opt C 的方法:1)根据正交性原理(线性均方估计):* []0k k l E l ε-=,所有v 。(注:与ZF 准则不同的是,这里的输入是经过两个输入滤波器的数据样本k v ,这就包含了噪声)。 即*?[]0k k l E l ε-=,所有I 。 2)求函数极值方法:令 ?0=→=??opt k J C C 2013年5月3日星期五上午讲于此处,已经是第十次矣。 这两种方法是等价的,证明如下。 证明:求导置零方法与正交性原理等价。 ?lim K k j k j j k j K j j K I c c ∞ --→∞ =-∞ =-==∑∑v v lim T k K →∞ =V c 假如均衡器为有限长,则 ?T k k I =V c 其中 11 T k k K k K k k K k K v v v v v ++--+-??=??V ,以及 1 1T K K K K c c c c c --+-??=??c 。

维纳滤波器 matlab实现

实验报告册 数字图形图像处理 维纳滤波器matlab实现 学院:人民武装学院学院 专业:计算机科学与技术 班级: 11级计科班 学号: 1120070544 学生姓名:苏靖 指导教师:

维纳滤波的原理及其matlab 实现,以案例的形式展示FIR 维纳滤波的特性。 2.维纳滤波概述 维纳(Wiener )是用来解决从噪声中提取信号的一种过滤(或滤波)方法。这种线性滤波问题,可以看做是一种估计问题或一种线性估计问题。 一个线性系统,如果它的单位样本响应为)(n h ,当输入一个随机信号)(n x ,且 )()()(n v n s n x += (1) 其中)(n x 表示信号,)(n v )表示噪声,则输出)(n y 为 ∑-=m m n x m h n y )()()( (2) 我们希望)(n x 通过线性系统)(n h 后得到的)(n y 尽量接近于)(n s ,因此称)(n y 为)(n s 的估计值,用^ )(n s 表示,即 ^)()(n s n y = (3) 则维纳滤波器的输入—输出关系可用下面图1表示。 图1 实际上,式(2)所示的卷积形式可以理解为从当前和过去的观察值)(n x ,)1(-n x ,)2(-n x …)(m n x -,…来估计信号的当前值^)(n s 。因此,用)(n h 进行过滤问题实际上是一种统计估计问题。 一般地,从当前的和过去的观察值)(n x ,)1(-n x ,)2(-n x …估计当前的信号值^ )()(n s n y =成为过滤或滤波;从过去的观察值,估计当前的或者将来的信号值)0)(()(^≥+=N N n s n y 称为外推或预测;从过去的观察值,估计过去的信号值)1)(()(^>-=N N n s n y 称为平滑或内插。因此维纳滤波器又常常被称为最佳线性过滤与预测或线性最优估计。这里所谓的最佳与最优是以最小均方误差为准则的。 如果我们分别以)(n s 与^)(n s 表示信号的真实值与估计值,而用)(n e 表示他们之间的误差,即 )()()(^n s n s n e -= (4) 显然)(n e 可能是正值,也可能是负值,并且它是一个随机变量。因此,用它的均方误差来

基于最小均方误差(MMSE)估计的因果维纳滤波的实现.

基于最小均方误差(MMSE)估计的因果维纳滤波的实现 一.功能简介 基于最小均方误差(MMSE)估计的因果维纳滤波的Matlab 实现,用莱文森-德宾(Levinson-Durbin)算法求解维纳-霍夫方程(Yule-wa1ker)方程,得到滤波器系数,进行维纳滤波。 二.维纳滤波简介 信号处理的实际问题,常常是要解决在噪声中提取信号的问题,因此,我们需要寻找一种所谓有最佳线性过滤特性的滤波器,这种滤波器当信号与噪声同时输入时,在输出端能将信号尽可能精确地重现出来,而噪声却受到最大抑制。 维纳(Wiener)滤波就是用来解决这样一类从噪声中提取信号问题的一种过滤(或滤波)方法。 一个线性系统,如果它的单位样本响应为h (n ),当输入一个随机信号x (n ),且 )()()(n n s n x υ+= 其中s (n )表示信号,)(n υ表示噪声,则输出y (n )为 ∑-=m m n x m h n y )()()( 我们希望x (n )通过线性系统h (n )后得到的y (n )尽量接近于s (n ),因此称y (n )为s (n )的估计值, 用)(?n s 表示,即 )(?)(n s n y = 维纳滤波器的输入—输出关系 如上图所示。这个线性系统)(?h 称为对于s(n)的一种估计器。 如果我们以s s ?与分别表示信号的真值与估计值,而用e (n )表示它们之间的误差,即

)(?)()(n s n s n e -= 显然,e (n )可能是正的,也可能是负的,并且它是一个随机变量。因此,用它的均方值来表达误差是合理的,所谓均方误差最小即它的平方的统计平均值最小: [][] 22)?()(s s E n e E -=最小 已知希望输出为: 1 ?()()()()N m y n s n h m x n m -===-∑ 误差为: 1 ?()()()()()()N m e n s n s n s n h m x n m -==-=--∑ 均方误差为: 1 2 20()(()()())N m E e n E s n h m x n m -=????=--???? ?? ∑ 上式对() m=0,1,,N-1h m 求导得到: 1 02(()()())()0 0,1,21N opt m E s n h m x n m x n j j N -=??---==-???? ∑ 进一步得: [][] 1 ()()()()()0,1,1N opt m E s n x n j h m E x n m x n j j N -=-=--=-∑ 从而有: 1 ()()() 0,1,2,,1N xs opt xx m R j h m R j m j N -==-=-∑ 于是就得到N 个线性方程: (0)(0)(0)(1)(1)(1)(1)1(1)(0)(1)(1)(0)(1)(2)1(1)(0)(1)(1)(2)(1)(0) xs xx xx xx xs xx xx xx xs xx xx xx j R h R h R h N R N j R h R h R h N R N j N R N h R N h R N h N R ==+++--??==+++--? ? ??=--=-+-++-?

相关文档
最新文档