自适应信号处理

【定义一个幺向量：1=[1 1 … 1]T，于是，R的特征值之和为
1T∧1=1TQHRQ1= = 上式等号右边的求和即为矩阵R的迹（矩阵主对角线所有元素之和），亦即系统输入信号的功率。】
④信号相关矩阵R可以被分解为一个实对称矩阵和一个实反对称矩阵，即：R=Ra+jRb，其中，实矩阵Ra、Rb分别满足条件：RaT=Ra和RbT=-Rb
⑤若W为L+1维的权向量，则对相关矩阵R，存在关于W的一个瑞利商，且对于所有W的瑞利商均为实数。瑞利商Ray(W)=
⑥R可分解为R=Q QTwhere Q [q0,q1,… ql],
信号子空间：Rs非零特征值对应的特征向量成的子空间。Span{q0,q1,… qs}
噪声子空间：信号子空间的正交补空间 零特征值→特征向量。Span{ qs+1,qs+2,… ql+1}
②LMS最小均方差：基于最陡下降法。最陡下降法+瞬时梯度估计
→
优点：计算量小
缺点：瞬时梯度估计
收敛条件：0<μ<1/λmax( 0<μ<1/tr(R))，k→∞,E[Vk+1’] →0 , Vk+1’→0
时间常数：a.权向量收敛：γn=1-2μλn,τn= =
b. 学习曲线（ ）: τmse= =
1.自适应信号处理基本概念，解决的问题，适用条件下（平稳、短时平稳），结构分类。
自适应信号处理:是研究一类结构可变或可以调整的系统，它通过自身与外界环境的接触来改善自身对信号处理的性能。通常这类系统是时变的非线性系统，可以自动适应信号传送变化的环境和要求。自适应系统和一般系统类似，可以分为开环系统（闭环：计算量小，收敛慢；开环：计算量大，收敛快）和闭环系统两种类型。开环系统仅由输入确定，而闭环不仅取决于输入，还依赖于系统输出的结果。自适应信号处理所研究的信号既可以是随机平稳信号，也可以是局部平稳随机信号，也可以是窄带或者是宽带信号。
收敛速度快，excMSE变大，稳定性能变差。
性能分析：N越大，越大，越小，超量均方误差就越小；
N越大，越大，越小，失调量就越小
时间常数：①权向量收敛：γn=1-2μλn,τn= =
②学习曲线（ ）: τmse= =
③自适应算法：（τmse）n=（τmse）n
收敛时间常数： , (迭代次数)， ----（物理时间）
牛顿法： R-1P*、▽ =2R -2 P*
▽ =2R -2 P*→ +2μ
→ = (1-2μ) = (1-2μ)k+1 .
所以，收敛条件：0<μ<1 .
5、自适应实现算法：（最陡下降法，牛顿法，仅给出迭代公式）
①微商法：梯度估计： =
β（因权微扰而不停留在 所引起的均方误差平均增量β为“性能损失”，即β=1/2[ε( -σ)+ ε( +σ)]- ε( ). 对于单个实权的二次型性能函数，β=λσ2）；
于是： - 2μλ（ ）
即： =(1-2μλ)
则可将第k次权偏差值迭代递推表示为： =(1-2μλ)k
而将第k次权值表示成： + (1-2μλ)k（ ）
相继两次权偏差值迭代的比值均为公比：(1-2μλ)=γ，则上述迭代过程“稳定”的充要条件是|γ|=|1-2μλ|<1，即：0<μ<1/λ。
则算法收敛于最佳解： = 。
(ε(Wopt)=E[ ]- WoptTP ---(P ))
εmin=E[ ]+PTR-1RWopt- 2WToptP=E[ ]–PTWopt
②最大信噪比：SNR= , SINR=
SNR= Wopt=arg Rs’最大特征值对应特征向量。 Rs’Wopt’= λmaxWopt’
③最大似然准则(ML)： =arg ，高斯噪声，干扰背景
2、信号相关矩阵及其性质，梯度运算:
输入信号的相关矩阵：R E[X*XT]= ，相关矩阵R是厄米特矩阵，即满足R*= RT。作为厄米特矩阵，它具有以下性质：
①对应于R的不同特征值的特征向量都是正交的。
②R是正定（或半正定）矩阵，它所有的特征值都为实数，且大于或等于零。
③所有特征值之和等于矩阵R的迹，即为输入信号的功率。
梯度运算： =[ ]T
式中 分别是向量W的第l个元素 的实部和虚部，即 ；ε即为 。
实标量函数的梯度是一个向量，其方向代表该函数最陡下降时W变化方向的负向。
（ ）=2RW
3、性能测量方法。（代价函数）
①最小均方误差（MSE）：准则--误差信号功率最小：
ε(W)=E[ ]= E[ ]+ - 2Re(WTP)，（代价函数）→Wopt=Rx-1P*.
总失调：Mtot=M+P .Popt≈A/Popt≈Mtot- Popt≈ Mtot/2。也就是说，当扰动等于总失调的一半时，总失调量达到最小值。------性能损失
参数选择对性能影响：σ，N(样本数),μ
P+M 最小选择 σ （扰动）
性能评估：N越大，估计方法越小，β↓，excMSE↑，稳定性能好，但收敛慢，μ越大，（满足收敛条件）。
P（扰动，即P = = ,此式给出了用最小均பைடு நூலகம்误差归一化的均方误差平均增量。），
excMSE（超量均方误差：excMSE=E[ ,自适应过程中权值噪声将引起稳态权向量解围绕最佳点随机地变化，即系统输出均方误差在“碗底”附近“徘徊”，结果就产生了“超量”均方误差，于是会使稳态均方误差输出值大于 ）,
M（失调，M= ,它是超量均方误差和最小均方误差的相对比值，且是一个无量纲的量。它是自适应能力所付代价的归一化量度。失调M并不包括人为将权偏离（而不是由噪声）所引起的扰动P。）
④最小噪声方差(MV)：
Wopt=λ 1 ,λ =
评价自适应系统性能的指标：收敛速度，跟踪能力，稳健性，计算量，算法结构，数值稳定性，稳态性能。
4、权向量求解方法：
①最陡下降法： - μ▽
②牛顿法： - μ ▽
适用围：代价函数是凸函数，不存在局部极值点。
最陡下降法
牛顿法
收敛方向
梯度下降最快
直接指向最优权
计算量
小
大
收敛速度
慢
快
收敛条件
0<μ<
0<μ<1
μ:特征值散布程度
【最速下降法：0<μ< ；优点：计算量小；缺点：收敛慢；受特征值的散度影响
牛顿法：0<μ<1；优点：收敛快；不受特征值的影响；缺点：计算量大
在初始值位于椭圆族主轴上时，它两个收敛特性相同。 】
收敛条件会证明！
最陡下降法： - μ▽
梯度：▽ = |ω= =2λ（ ）