基于最小均方误差的Tikhonov正则化参数优化研究

基于最小均方误差的Tikhonov正则化参数优化研究

摘要：本文首先介绍了求解病态方程的L-曲线法、GCV法等常用的方法，然后提出了基于最小均方误差的最优Tikhonov正则化求解参数的方法。通过仿真实验表明，本文提出的基于最小均方误差的Tikhonov正则化参数优化选择方法是一种可行有效的方法。

关键字：Tikhonov正则化、均方误差、病态问题

Based on the minimum mean square error of Tikhonov regularization

parameter optimization research

Abstract:This paper first introduces the morbid equation of L - curve method, GCV method such as the commonly used method, and then based on the minimum mean square error of the optimal Tikhonov regularization method to solve the parameter. Through the simulation experiments show that the proposed based on the minimum mean square error of Tikhonov regularization parameter optimization selection method is a feasible and effective method.

Key words: Tikhonov regularization, mean square error (mse), pathological problems

1 引言

求解线性不适定问题的正则化方法中，应用最广泛也最经典的是Tikhonov正则化方法[1]。随着各个领域中数据的处理中应用多种不适定问题的正则化方法，Tikhonov正则化方法是比较常见也是应用比较广泛的方法。该方法可以解决不同领域中不适定问题的纠正，地震中发射波长中的应用、电容层析成像图像重建、无线传感器网络实现监测和跟踪等病态问题中均可以应用Tikhonov正则化方法。本文通过对Tikhonov正则化方法中常见的L-曲线法和GCV 法进行分析Tikhonov正则化方法的特点，通过L-曲线法和GCV法进行Tikhonov正则化方法参数的确定，从而确定基于最小均方误差的Tikhonov正则化优化参数，并通过仿真实验进行验证，从而确定基于最小均方误差的Tikhonov正则化优化参数可行。从而为更深入的研究提供可靠依据。

2迭代Tikhonov正则化方法参数确定方法：

目前正则化参数的选择有先验和后验两种方法。用先验法选择正则化参数时，都需要预先对于原始数据的误差水平做出估计，但在大多数情况下这是难以做到的。后验取法可以直接应用带有噪音的原始数据对正则化参数作出估计。

2.1L-曲线法

L-曲线法是一种较成熟的方法，L-曲线法是利用对数尺度来描述残差范数和解的限制范数的曲线对比，该方法的特征是对数尺度图形中出现明显的L形状曲线，曲线拐点所对应的正则化参数作为优化参数[2-3]。其以对数作μ=lgII BXα-LII P为横坐标，纵坐标为ν=lgIIXαII k，同时采用α为参变量，从而形成类似“L”的形状，因此称为L-曲线法。参考文献[2]推算出L-曲线法数学公式为：

其中。。μ、。μ、。。ν、。ν是二阶和一阶导数，L为观测向量，B为设计矩阵。通过这个计算公式就可以计算出α为参变量。

2.2GCV法[4]

GCV法是广义交叉验证算法的简称，可以用于求取正则化参数，也是采用α为参变量，α为参变量的计算公式：

其中H(α)=B(BPB+αI)-1BP，tr(·)为矩阵的迹，L为观测向量，B为设计矩阵。

3 基于最小均方误差的Tikhonov正则化参数优化

正则化参数α的估计公式的优化过程，通过大量公式的换算，从而最终确定正则化参数α的估计公式[5]。

Gauss-Markon模型[6]为

（1）

从这个公式可以得到E（L）=BX，结合L-曲线法的公式

（2）

可以得到下面的公式：

（3）

当将R=（B、PB）-1B、PL，就可以得到估值与真值的偏差量的期望值β=E(X^-X)=EX^-X=E(RL)-X=RE(L)-X=-[I m-RB]X，参数估值方差阵（4）的公式，从这个公式

就可以得到均方误差（5）为

（4）

（5）

其中rank（X）=rank（XX'）=1，通过换算得到

（6）

于是就可以得到均方误差的公式：

（7）在进一步优化，从而得到最后的正则化参数a的估计公式的优化公式：

（8）

通过这个正则化参数α就可以计算出公式中任何一个参数指标。

4 仿真实验与结果

4.1 基于本文方法的仿真试验与结果

以某支架结构模型为例子进行分析，由三种类型钢材组成，槽钢、方钢和角钢，得到方程

模拟真值L~=[-10.6，10.55，1.5，12.1，15.1，-0.11，21.2，1.7，9.2，11.9]，模拟观测值为L=[-10.3，10.4，1.6，12.2，14.1，-0.15，21.2，1.6，9.1，12.3]，从而得到Cond(N)=1.5×106>>1000，可见该方法的病态问题很严重，需要进行纠正，进行正则化参数α进行纠正处理。

4.2 与其他方法的比较

对上述处理的病态数据进行正则参数优化方法、L-曲线法、GCV法、岭估计法进行纠正分析的比较，具体结果见表1，由表1可知采用正则参数优化方法计算得到的正则参数α是最小，而且ΔX数值也是最小，因此产生的误差也最小；而采用岭估计法得到正则参数α最大，而且得到ΔX数值也是最大，由此可见采用本文优化的Tikhonov正则化参数得到的正则参数α，而且ΔX数值也是最小，更适合实际的应用中的计算，而采用L-曲线法、GCV法得到正则参数α和ΔX的数值基本差不多，比正则参数优化方法差一些，比岭估计法要好一些。

表1 正则参数及ΔX的对比

方法正则参数αΔX 正则参数优化方法0.0068 0.0985 L-曲线法0.202 0.724

GCV法0.159 0.698

岭估计法0.299 0.758

5 讨论

将Tikhonov正则化法应用于实际的应用的方法的研究比较多，张路寅[7]等人不适定问题的迭代Tikhonov正则化方法中说到对不适定问题也就是病态问题进行计算中推导出正则滤波函数的性质，通过公式的推算得出误差估计的收敛阶达到最优状态时得到的数据，比将参数α看作正则化参数更容易计算。并通过实例证实了该方法可以更好的解决实际中误差的计算，解决了Tikhonov正则化参数α计算的繁琐。余瑞艳[8]对基于混沌粒子群算法的Tikhonov正则化参数选取的分析中发现将混沌粒子群优化算法与Tikhonov正则化方法相结合，利用混沌粒子群优化算法的优势对Tikhonov正则化方法进行优化改进，并对实际的病态问题进行解决，证明了该方法是一种比较有效的数据处理方法。不同的理论得到的Tikhonov正则化法的参数计算公式不同，但是都是通过Tikhonov正则化法的优化从而得到更适合该领域的一些数据的处理，从而得到更简便的计算方法，更有效的利用于繁琐的计算中，对大量数据的处理提供简便的方法。

数学物理反问题已成为计算数学与应用数学中发展和成长最快的研究课题，在解决这些病态问题的计算中，数学方法公式的应用也是被广泛应用的方法，而Tikllollov正则化方法的应用也是解决当前各个数据处理领域提供了一个很好的平台。Tikllollov正则化方法求解的精度