现代信号处理_08

2
内 容
自适应滤波器原理 梯度下降算法 横向LMS自适应滤波器 横向RLS自适应滤波器 自适应格型滤波器 盲自适应滤波器 自适应滤波器的应用
3
自适应滤波基本原理
自适应滤波器包括两个过程：滤波过程和自适应过程。 自适应滤波器包括两个过程：滤波过程和自适应过程。 此仅考虑后者,即滤波器的自适应实现问题 即滤波器的自适应实现问题； 此仅考虑后者 即滤波器的自适应实现问题；且主要考虑 FIR滤波器的自适应实现，其关键是自适应算法。 滤波器的自适应实现， 滤波器的自适应实现 其关键是自适应算法。 FIR滤波器的自适应实现指的是：M 阶FIR滤波器的抽 滤波器的自适应实现指的是： 滤波器的自适应实现指的是 滤波器的抽 头权系数w 可以根据估计误差e(n)的大小自动调 头权系数 1,…,wM-1可以根据估计误差 的大小自动调 节，使得误差在某个统计最优准则下最小。 使得误差在某个统计最优准则下最小。 滤波器设计最常用的准则： 准则， 滤波器设计最常用的准则：MMSE准则，即是使滤波器 实际输出y(n)与期望响应 期望响应d(n)之间的均方误差E{ e(n) 2 }最小 最小; 实际输出 期望响应 之间的均方误差 最终达到Wiener解。 最终达到 解
第四章 自适应信号处理
郑宝玉
2010.4.20
1
最优滤波器实现存在的问题
1. Wiener滤波器最优权系数可以由计算输入信号的 滤波器最优权系数可以由计算输入信号的 自相关函数和输入信号与期望输出的互相关得到。 自相关函数和输入信号与期望输出的互相关得到。实 际中这两个参数是未知的，需要通过估计得到。 际中这两个参数是未知的，需要通过估计得到。而估 计需要观测无限长信号。 计需要观测无限长信号。 2. 求最优滤波器时需要计算矩阵求逆，其计算复杂 求最优滤波器时需要计算矩阵求逆， 度量级是滤波器长度的三次方。 度量级是滤波器长度的三次方。 由于存在这些问题，实际实现 滤波时， 由于存在这些问题，实际实现Wiener滤波时，并不是 滤波时 直接计算得到最优Wiener滤波器的系数，而是代之以 滤波器的系数， 直接计算得到最优 滤波器的系数 LMS, RLS等自适应滤波器。 等自适应滤波器。 等自适应滤波器
2
算法推导 e ( n ) = d ( n) − y ( n) = d (n) = w ( n ) − µ∇ ( n ) ˆ ≈ w ( n ) − µ∇ ( n )
≈ w ( n ) + µe ( n ) x ( n )
22
LMS自适应滤波器
（图中“2”应去掉！）
e ( n) = d ( n) − y ( n)
y ( n ) = xT ( n ) w ( n )
w ( n + 1) = w ( n ) + ∆w ( n ) , ∆w ( n ) = µ e ( n ) x ( n )
23
LMS自适应滤波器
使用单次计算的估 1 2 ˆ ξ ( n ) = E e ( n ) ⇒ ξ ( n ) ≈ e ( n ) = ξ ( n ) 计误差平方代替平 2 方误差的期望。 方误差的期望。 ˆ ∂ξ ( n ) ∂ξ ( n ) ˆ ∇ ( n) = ⇒ ∇ ( n) ≈ ∇ ( n) = ∂w ∂w ˆ ( n ) = e ( n ) ∂e ( n ) = −e ( n ) x ( n ) ∇ ∂w The steepest − descent method : LMS使用单次误差 使用单次误差
15
梯度、 梯度、最优权矢量和最小均方误差
很多自适应方法使用基于梯度的方法寻找可以达到最小均 方误差的权矢量。 方误差的权矢量。 均方误差性能曲面的梯度定义为： 均方误差性能曲面的梯度定义为：
∂ ξ (n ) ∂ ξ (n ) ∂ ξ (n ) ∂ ξ (n ) ∇(n ) = = L ∂ w (n ) ∂ w0 (n ) ∂ w1 (n ) ∂ wL (n ) = 2Rw (n ) − 2P
T
w0 (n ) R(0 ) R(1) w0 (n ) ξ (n ) = E d (n ) + [w0 (n ) w1 (n )] w (n ) − 2[P(0) P(1)] w (n ) R(1) R(0) 1 1 2 = E d 2 (n ) + R(0) w0 (n ) + w12 (n ) + 2 R(1)w0 (n )w1 (n ) − 2 P(0)w0 (n ) − 2 P(1)w1 (n )
本章主要讨论自适应线性组合器（其分析和实现简单， 本章主要讨论自适应线性组合器（其分析和实现简单， 在大多数自适应滤波系统中广泛应用） 在大多数自适应滤波系统中广泛应用）。
8
自适应线性组合器
一类具有自适应参数的FIR数字滤波器 ------- 一般形式
多输入自适应线 多输入 性组合器
y (n ) = ∑ wk (n )xk (n )
19
最陡下降法
演示1: 基于梯度搜索均方误差曲面的最小点
20
最陡下降法
演示2:
w (n + 1) = w (n ) + µ [− ∇(n )]
µ 为一个控制收敛速
度和稳定性的常数称 自适应步长。 为自适应步长。
21
内 容
最优滤波理论与Wiener滤波器 滤波器 最优滤波理论与 自适应滤波器原理 梯度下降算法 横向LMS自适应滤波器 横向RLS自适应滤波器 Kalman滤波器 滤波器 自适应格型滤波器 盲自适应滤波器 自适应滤波器的应用
5
自适应滤波基本原理
学习和跟踪(时变信号) 学习和跟踪(时变信号) 两输入两输出（ 两输入两输出（Two inputs and two outputs） ） FIR/IIR, 横向 格形（Lattice） 横向/格形 格形（ ） 最小均方误差和最小平方误差准则 最小均方误差和最小平方误差准则
6
自适应滤波基本原理
k =0
x(n) =[x(n) x(n−1) L x(n−L)]
T
T
w (n ) = [w0 (n ) w1 (n ) L wL (n )]
e(n ) = d (n ) − y (n ) y (n ) = w T (n )x(n ) = x T (n )w (n )
ξ (n ) = E [e 2 (n )] = min
11
均方误差性能曲面 ξ (n ) = E [d (n )]+ w (n )Rw (n ) − P w (n )
2 T T
输入信号x的自相关矩阵 ，期望信号d和输入信号 的互相关向量P 和输入信号x的互相关向量 输入信号 的自相关矩阵R，期望信号 和输入信号 的互相关向量 的自相关矩阵
Rxx (1) L Rxx (L ) Rxx (0 ) R (1) Rxx (0 ) L Rxx (L − 1) R = E x(n )x T (n ) = xx M M M M Rxx (0 ) Rxx (L ) Rxx (L − 1) L
12
[
]
性能曲面
单权重情况: 单权重情况 抛物线
w (n ) = w0 (n ) R = R(0 ) , P = P(0)
2 ξ (n ) = E [d 2 (n )]+ R(0)w0 (n ) − 2 P(0 )w0 (n )
13
性能曲面
两个权系数: 两个权系数 抛物面
w (n ) = [w0 (n ) w1 (n )]
k =0
L
9
自适应线性组合器
单输入 线性组合器
y(n) = ∑ wk (n)x(n − k )
k =0
L
10
自适应线性组合器
多输入
y (n ) = ∑ wk (n )xk (n )
L
L
单输入
y (n ) = ∑ wk (n )x(n − k )
T
k =0
x(n) =[x0(n) x1(n) L xL(n)]
R(0 ) R(1) P(0) R= , P = P(1) R(1) R(0)
[
2
]
[
]
[
]
14
性能曲面
权系数数目大于2的情况： 权系数数目大于 的情况：超抛物面 的情况
L+1个权系数 一个 个权系数: 一个L+2维空间内的超抛物面“碗底” 维空间内的超抛物面“ 个权系数 维空间内的超抛物面 碗底” 点对应于均方误差最小点， 点对应于均方误差最小点，也就是最优权系数矢量 ∗ w 所在的点。对于一个二次性能方程， 所在的点。对于一个二次性能方程，存在唯一全局最 优权矢量，没有局部最优点存在。 优权矢量，没有局部最优点存在。
基本思想： 基本思想：搜索性能曲面
理想情况下（梯度可知） - 理想情况下（梯度可知）: 使用基于梯度的方法（最陡下降法） 使用基于梯度的方法（最陡下降法） 实际情况（梯度多数不可知） - 实际情况（梯度多数不可知）:
LMS方法（the Least-Mean-Square algorithm ） 方法（ 方法 RLS方法（Recursive Least-Square Algorithm） 方法（ 方法 ）
[
]
P = E (d (n )x(n )) = [P (0 ) P (1) L P (L )]
Rxx (m ) = E [xi (n )xi + m (n )] = E [x (n )x (n + m )], m = 0, 1, L , L
T
P (m ) = E d (n )xm (n ) = E [d (n )x (n + m )], m = 0, 1, L , L
∂E e2 (n) W(n +1) =W(n) + µ− ∂W(n)