自适应信号处理2

P = R ⋅ w*
E[ε k ⋅ x k ] = 0
此时误差向量和输入向量是不相关的（正交的）！ 此时误差向量和输入向量是不相关的（正交的）！
H H yk = w k ⋅ x k = x k ⋅ w k
多 输 入 形 式
input weight output
x k = [ x0 k , x1k ,L xLk ]
H k H k
T T
w k = [ w0 k , w1k ,L wLk ]
yk = w ⋅ x k = x ⋅ w k
两种结构输入输出形式的比较
H H yk = w k ⋅ x k = x k ⋅ w k
横向滤波器结构：时域处理中应用
1. 构成（2）
多输入
ω0k
ω1 k
x0 k x1k
M M
x Lk
∑
ω Lk
空域处理中应用
yk
1. 构成（2）
多输入
input weight output
x k = [ x0 k , x1k ,L xLk ]
3. 性能分析
ε d x 假设：某时刻k，w 值不变为， k 、、k 、 k 统计平稳，
2 E[ε k ] = E[(d k − yk ) 2 ]
=
2 E[d k
+w
H
H xk xk w
− 2d k x k w ]
隐含统计平稳及 不相关假设条件
2 H = E[d k ] + w H E[x k x k ]w − 2 E[d k x k ]w
[ AB ] H = B H A H
输入相关矩阵的对称性： 输入相关矩阵的对称性：
RH = R
[ R −1 ]T = R −1
ξ
误差性能函数表面
ξ
性能表面等高线图
ξ
5. 举例
双 权 单 输 入 系 统
xk = sin(2πkN )
Z w0
−1
w1
+ + ∑
d k = 2 cos(2kπ / N )
ξ
5. 举例
最佳解： 最佳解：
w * = R −1 ⋅ P ξ min = E[d k2 ] − P H ⋅ w *
2π * w = [2 cot N ξ min = 0 2π T −2 csc ] N
对于该例： 对于该例：
当N=4时， 时
w * = [0 −2]T
2.自适应准则 最小均方误差准则
3. 性能分析
某时刻输入： 输出： 期望值： 误差： 均方误差：
xk
yk
dk
dk
∑
εk
xk
H ( z)
yk
ε k = d k − yk
2 2 H H E[ε k ] = E[d k ] + w H .E[x k .x k ].w − 2 E[d k .x k ].w
yk
+ - ∑
εk
yk = w0 ⋅ sin(2π k / N ) + w1 ⋅ sin(sin 2π (k − 1) / N )
寻找使输出误差为0的加权向量
1 E [ xk ⋅ xk −n ] = N
∑
N
sin
k =1 N
2kπ 2 ( k − n )π ⋅ sin N N
1 = 2N = = E [ d k ⋅ x n −1 ] = =
H ξ min = E d k2 + w opt ⋅ R ⋅ w opt − 2P H ⋅ w opt
d k2 − P H ⋅ w opt =E
用到性质
R =R
H
ξ
4.最佳性能
常用的矩阵性质
方阵的恒等规则： 方阵的恒等规则： 方阵的乘积的转置： 方阵的乘积的转置：
A.A −1 = I
2π n 4π k − 2π n ∑1 co s N − co s N k= N 2π n 1 N 4π k − 2π n co s − co s ∑1 2N N 2N k= N 2π n 0 .5 co s , N 2 N 2π k 2π ( k − n ) ∑2 co s N ⋅ sin N k= N 2π n n = 0,1 − sin N
ξ
6.梯度的表示
（暂时放弃复数，仅考虑实数情况） 暂时放弃复数，仅考虑实数情况）
∇ = 2R ⋅ w − 2P
将ξ表示成另外一种形式
ξ = ξ min + (w − w * )T ⋅ R ⋅ (w − w * )
E[d k2 ] + wT ⋅ R ⋅ w − 2PT ⋅ w 展开可知：上式=
与均方误差的定义一致！
第2章
自适应线性组合器
Chap.2 Adaptive Linear Combiner
1. 构成（1）
单输入
横向滤波器结构：时域处理中应用
1. 构成（1）
单输入
input weight output
x k = [ xk , xk −1 ,L xk − L ]
T T
w k = [ w0 k , w1k ,L wLk ]
2π N 0.5
相关向量 期望信号功率
P = E [ d k ⋅ xk E d k2 = 2
2π = 0 − sin N
T
输出均方 误差
ξ = E d k2 + wT ⋅ R ⋅ w − 2PT ⋅ w
2π 2π w0 N w0 = 2 + [ w0 − 2 0 sin N w1 w1 0.5 2π 2π 2 = 0.5( w0 + w12 ) + w0 w 1 cos + 2w1 sin +2 N N 0.5 w1 ] 0.5cos 2π N 0.5cos
均方误差是权向量的二次函数， 均方误差是权向量的二次函数，因为二次 项系数为正，所以为凹型， 项系数为正，所以为凹型，有极小值点
4.最佳性能
由最小均方误差准则可知 ξ 最小即可
ξ min
在何处？ 等于多少？
ξ
4.最佳性能——在何处
ξ
分量的二次函数在极值点处， 是 w 分量的二次函数在极值点处，有梯度 ∇(ξ ) = 0
ξ
6.梯度的表示
定义偏差权向量： 定义偏差权向量：
（暂时放弃复数，仅考虑实数情况） 暂时放弃复数，仅考虑实数情况）
v = w − w*
（对准确解的偏差） 对准确解的偏差）
∆
此时的均方误差： 此时的均方误差：r v =0*
ξ = ξ min + vT ⋅ R ⋅ v
∂ξ ∂ξ * = 2Rv = 2R (w − w ) = 2R ⋅ w − 2P = =∇ ∂v ∂w
∂ξ ∂ξ ∂ξ ... ∇= ∂wL ∂w0 ∂w1 ∆ ∂ξ ∇= = (2R ⋅ w )* − 2P* , ∂w
令∇ = 0 .
−1
2R ⋅ w − 2P = 0
Wiener-Hopf方程的矩阵形式 方程的矩阵形式
w opt = R ⋅ p
ξ
4.最佳性能——最小值
可获得的最小均方误差
H k H k
T T
w k = [ w0 k , w1k ,L wLk ]
yk = w ⋅ x k = x ⋅ w k
空域处理中应用
1. 构成
单 输 入 形 式
input weight output
x k = [ xk , xk −1 ,L xk − L ]
T T
w k = [ w0 k , w1k ,L wLk ]
H R = E[x k x k ] 输入相关矩阵：
期待响应与输入分量之间的互相关向量： P = E[d k x k ]
ξ = E ε k 2 = E d k 2 + w H ⋅ R ⋅ w − 2 P H w 均方误差：
3. 性能分析
ξ = E ε k 2 = E d k 2 + w H ⋅ R ⋅ w − 2P H w
对于平稳过程： 对于平稳过程
E x k2 − 1 = E x k2
ξ
协方差矩阵
2 xk R = E xk −1 ⋅ xk
0.5 xk ⋅ xk −1 = 2 2π xk −1 0.5cos N d k ⋅ xk −1 ]
T
0.5cos
ξ
7.误差与输入的去相关
自适应学习过程利用的是误差与输入分量之间的相关 性。当滤波器的冲击响应最佳时，还有无相关性？
H ε k = d k −x k ⋅ w H E[ε k ⋅ x k ] = E[d k ⋅ x k ] − E[x k ⋅ x k ⋅ w ]
= P − R⋅w
取 得到
w = w*