RLS算法的收敛性分析

RLS与LMS算法的收敛性比较分析学号：S120101057姓名：贾雪婷摘要：介绍了自适应滤波器的基本原理，对最小均方(LMS, Least Mean Squares)和递归最小二乘(RLS, RecursiveL east Squares)自适应算法进行仿真分析及对比研究。

仿真结果及实例均表明，两种算法都能有效抑制和抵消各种干扰，但相比之下，RLS算法具有更好的收敛性能及稳定性，除收敛速度快于LMS算法和NLMS 算法以及稳定性强外，而且具有更高的起始收敛速率、更小的权噪声和更大的抑噪能力。

关键词：自适应滤波；最小均方；递归最小二乘；收敛性；对比研究Abstract: Introducing the basic principle of adaptive filter,as for the minimum mean square(LMS, Least Mean Squares)and Recursive Least Squares(RLS, RecursiveL east Squares) adaptive algorithm is applied to the simulation analysis and comparative study. The simulation results and examples indicate that the, two kinds of algorithm can effectively restrain and offset all kinds of interference, but in contrast, RLS algorithm has better convergence performance and stability, In addition to convergence speed faster than LMS algorithm and NLMS algorithm and the stability, but also have higher initial rate of convergence、smaller right noise and more noise suppression ability.Key words: adaptive filtering;LMS;RLS; astringency; Comparative study一、 自适应滤波的原理自适应滤波的原理如图一所示：输入信号x(n)通过参数可调数字滤波后产生输出信号y(n)，将其与参考信号d(n)进行比较，形成误差信号e(n)，e(n)通过某种自适应算法对滤波器参数进行调整，最终使e(n)的均方值最小。

如何提高收敛速度、增强稳定性以满足信号处理的高效性、实时性，一直是人们研究的重点和热点。

二、 自适应算法（1） LMS 算法自适应滤波器在时刻n 的向量定义：抽头权向量：011()[(),(),...,()]TM W n b n b n b n -= 参考输入向量：()[(),(1),...,(1)]TX n x n x n x n M =--+()d n 是主输入信号，()y n 是期望输出值，()e n 是误差信号，也是系统输出值，M 是滤波器长度。

由维纳-霍夫方程可知，最小均方误差为：22*min ([])[]j j E e E d W P τ=-实际上，该方程与维纳滤波器结果完全一样。

自适应滤波器与维纳滤波器相比，其差别在于它增加了一个识别控制环节，将输出与期望值进行比较，利用误差()e n 去控制()W n ，使2[]j E e =最小值，从而得到()W n 的估计*()W n 。

根据最优的数学算法最陡下降法，下一个权矢量1()j W n +等于现在的权矢量()j W n 加一个正比于梯度j ∇的负值变化量，即有：1j j j W W μ+=-∇ 通过梯度下降法：21[]|j j j j W W dE e W W dW μ+==-推导可知：12j j j j W W e X μ+=+其中j j j j e d W X τ=-算法步骤： 步骤一：初始化： 步骤二：更新：1,2,3,...n =滤波：()()()Ty n W n X n =； 误差估计：()()()e n d n y n =-；权向量更新：*(1)()2()()W n W n e n X n μ+=+；其中μ是用来控制稳定性和收敛速度的步长参数。

为确保自适应过程的稳定性，μ必须满足02/in MP μ<<，其中2[()]in P E X n =为输入功率。

（2） RLS 算法SISO 系统动态过程的数学模型：11()()()()()A z z k B z u k n k --=+ （1） 其中()u k ，()z k 为输入输出量，()n k 为噪声。

式中11212()1...aa n n A z a z a z a z ----=++++11212()...b bn n B z b z b z b z ----=+++展开后得到：1212()(1)(2)...(1)(2)...()a b n n b z k a z k a z k a bu k b u k b u k n =------+-+-++-模型（1）可化为最小二乘格式：()()()z k h k n k τθ=+ （2）记1212[,,...,,,...,]a b n n a a a b b b τθ=为待估计的参数。

()[(1),...,(),(1),...,()]a b h k z k z k n u k u k n τ=------，对于1,2,...k L =（L 为数据长度）。

方程（2）构成一个线性方程组，写成()()()LL L z k H k n k θ=+； (1)(2)()L z z Z z L ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦，(1)(2)()L h h H h L τττ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦，(1)(2)()L n n n n L ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦ 根据最小二乘法一次完成算法，其参数估计为：1ˆ()L L L L LS H H H Z ττθ-=。

参数递推估计，每取得一次新的观测数据后，就在前次估计结果的基础上，利用新引入的观测数据对前次估计的结果，根据递推算法进行修正，减少估计误差，从而递推地得出新的参数估计值。

这样，随着新观测数据的逐次引入，一次接一次地进行参数估计，直到参数估计值达到满意的精确程度为止。

算法步骤：步骤一：初始化(0)0W =；1(0)P I σ-=，其中I 为单位矩阵； 步骤二：更新1,2,...n =计算更新增益矢量：()(1)()/[()(1)()]Tg n P n X n X n P n X n λ=-+-；滤波：()(1)()Ty n W n X n =-； 误差估计：()()()e n d n y n =-；更新权向量：()(1)()()W n W n g n e n =-+；更新逆矩阵：1()[(1)()()(1)]TP n P n g n X n P n λ-=---；其中，()P n 为自相关矩阵()xx P n 的逆矩阵，常数λ是遗忘因子，且01λ<<。

总上所述：算法实现的主要步骤为：（1）数据采集与生成，取()d n ，()X n ；（2）对参数的初始化；（3）自适应的滤波处理；（4）滤波器系数更新三、 仿真（1） 仿真过程简介仿真过程按照如下过程进行（1）信号产生：首先产生高斯白噪声序列w(n)，然后将此通过一个简单的二阶自回归 滤波器生成信号()x n ，该滤波器的参数为.7.0,4.121-==a a（2）将步骤一生成的信号通过LMS 和RLS 自适应滤波器进行处理（3）通过改变u 值对1a 收敛速度的影响来分析LMS 算法的性能以及通过改变λ值对1a 收敛速度的影响来分析RLS 算法的性能。

（4）绘制各种图形曲线 （5）源代码如下：%(1)信号序列与高斯白噪声的产生 %参数初始化a1=1.4; %生成信号所用AR （2）滤波器的参数 a2=-0.7;n=2000; %信号点数%信号及白噪声信号序列的初始化 x=zeros(1,n)'; %信号的初始化w=randn(1,n)'; %高斯白噪声的初始化，均值为0，方差为1 x(1)=w(1); %信号前两点的初始赋值 x(2)=a1*x(1)+w(2); %信号序列的产生 for i=3:nx(i)=a1*x(i-1)+a2*x(i-2)+w(i);%信号由AR （2）产生 end%绘制信号和高斯白噪声波形 figure(1)plot(1:n,x,'b:',1:n,w,'r-');legend('信号序列','高斯白噪声') % 图例title('基于AR （2）模型产生的信号x 和高斯白噪声w'); xlabel('信号点数n'); ylabel('x(n)/w(n)');%(2)LMS 和RLS 算法下的参数a1、a2的收敛曲线 %LMS 滤波L=2; %滤波器长度u=0.001; %LMS 算法下自适应增益常数初始化 wL=zeros(L,n);%LMS 滤波器的权值初始化 for i=(L+1):nX=x(i-1:-1:(i-L));y(i)=X'*wL(:,i); %i 时刻输出信号 e(i)=x(i)-y(i); %i 时刻误差信号wL(:,(i+1))=wL(:,i)+2*u*e(i)*X; %i 时刻滤波器的权值 end;a1L=wL(1,1:n); % a1在LMS算法下值的变化a2L=wL(2,1:n); % a2在LMS算法下值的变化%RLS滤波L=2; %滤波器长度lam=0.98; %RLS算法下lambda取值wR=zeros(L,n);%权系数，初值为0T=eye(L,L)*10;% %RLS算法下T参数的初始化,T初始值为10for i=(L+1):nX=x(i-1:-1:(i-L));K=(T*X)/(lam+X'*T*X);%i时刻增益值e1=x(i)-wR(:,i-1)'*X;wR(:,i)=wR(:,i-1)+K*e1; %i时刻权值y(i)=wR(:,i)'*X;%输出信号e(i)=x(i)-y(i);%预测误差T=(T-K*X'*T)/lam; %i时刻的维纳解end;a1R=wR(1,1:n); % a1在RLS算法下值的变化a2R=wR(2,1:n); % a2在RLS算法下值的变化%绘制LMS与RLS算法下a1、a2收敛曲线figure(2)plot(1:n,a1L,'r-',1:n,a1R,'b:',1:n,a2L,'g--',1:n,a2R,'m-.',1:n,a2,'k-',1:n,a1,' k-');legend('LMS-a1变化','RLS-a1变化','LMS-a2变化','RLS-a2变化','a1收敛值','a2收敛值',0); % 图例title('LMS与RLS算法对比');xlabel('信号点数n');ylabel('对应a1、a2的值');%(3)LMS算法下不同u值的参数收敛曲线wL=zeros(L,n,3);eL=zeros(n,3); % LMS算法下误差初始化yL=zeros(n,3); % LMS算法下滤波器输出初始化u=[0.001,0.003,0.006]; %不同的u值for j=1:3for i=(L+1):nyL(i,j)=x(i-1:-1:i-2)'*wL(1:L,i-1,j);eL(i,j)=x(i)-yL(i,j);wL(1:L,i,j)=wL(1:L,i-1,j)+2*u(j)*eL(i,j)*x(i-1:-1:i-L);endenda1L1=wL(1,1:n,1);a1L2=wL(1,1:n,2);a1L3=wL(1,1:n,3);figure(3)plot(1:n,a1L1,'b-',1:n,a1L2,'r:',1:n,a1L3,'c-.',,1:n,a1,'k') % 画图显示不同u值下LMS算法性能差别legend('u=0.001','u=0.003','u=0.006','a1收敛值',0) % 图例title('LMS算法下不同的u值对a1收敛速度影响')xlabel('信号点数 n')ylabel('对应a1的值')%(4)RLS算法下不同lambda值的参数收敛曲线wR=zeros(2,n,3); % RLS算法下自适应滤波器参数初始化eR=zeros(n,3); % RLS算法下误差项初始化yR=zeros(n,3); % RLS算法下滤波器输出初始化lam=[1,0.98,0.94];for j=1:3for i=(L+1):nxR=x(i-1:-1:i-2);k=(T*xR)/(lam(j)+xR'*T*xR);T=(T-k*xR'*T)/lam(j);eR=x(i)-xR'*wR(1:2,i-1,j);yR(i,j)=xR'*wR(1:2,i-1,j);wR(1:2,i,j)=wR(1:2,i-1,j)+k*eR;endenda1R1=wR(1,1:n,1);a1R2=wR(1,1:n,2);a1R3=wR(1,1:n,3);figure(4)plot(1:n,a1R1,'b-',1:n,a1R2,'r:',1:n,a1R3,'c-.',1:n,1:n,a1,'k') % 画图显示不同lamda值下RLS算法性能差别legend('lam=1','lam=0.98','lam=0.94','a1收敛值',0) % 图例title('RLS算法下不同的lam值对a1收敛速度影响')xlabel('信号点数 n')ylabel('对应a1的值')（2）仿真结果信号和高斯白噪声波形如图（1）所示：图1 信号和高斯白噪声波形图2 LMS算法和RLS算法收敛曲线对比图3 u对LMS收敛速度的影响图4 λ对RLS收敛速度的影响（3）结果分析（1）由（图2）可以看到在u和 值相当的情况下，RLS比LMS具有更快的收敛速度，但是RLS权系数收敛后出现了较大的噪声，是因为RLS中有效记忆长度只有49.（2）由（图3）可知u越小，LMS算法的收敛速度越慢，但权系数收敛后噪声越小。