基于最小均方误差的Tikhonov正则化参数优化研究
基于最小均方误差的Tikhonov正则化参数优化研究
摘要：本文首先介绍了求解病态方程的L-曲线法、GCV法等常用的方法，然后提出了基于最小均方误差的最优Tikhonov正则化求解参数的方法。通过仿真实验表明，本文提出的基于最小均方误差的Tikhonov正则化参数优化选择方法是一种可行有效的方法。
关键字：Tikhonov正则化、均方误差、病态问题
Based on the minimum mean square error of Tikhonov regularization
parameter optimization research
Abstract:This paper first introduces the morbid equation of L - curve method, GCV method such as the commonly used method, and then based on the minimum mean square error of the optimal Tikhonov regularization method to solve the parameter. Through the simulation experiments show that the proposed based on the minimum mean square error of Tikhonov regularization parameter optimization selection method is a feasible and effective method.
Key words: Tikhonov regularization, mean square error (mse), pathological problems
1 引言
求解线性不适定问题的正则化方法中，应用最广泛也最经典的是Tikhonov正则化方法[1]。随着各个领域中数据的处理中应用多种不适定问题的正则化方法，Tikhonov正则化方法是比较常见也是应用比较广泛的方法。该方法可以解决不同领域中不适定问题的纠正，地震中发射波长中的应用、电容层析成像图像重建、无线传感器网络实现监测和跟踪等病态问题中均可以应用Tikhonov正则化方法。本文通过对Tikhonov正则化方法中常见的L-曲线法和GCV 法进行分析Tikhonov正则化方法的特点，通过L-曲线法和GCV法进行Tikhonov正则化方法参数的确定，从而确定基于最小均方误差的Tikhonov正则化优化参数，并通过仿真实验进行验证，从而确定基于最小均方误差的Tikhonov正则化优化参数可行。从而为更深入的研究提供可靠依据。
2迭代Tikhonov正则化方法参数确定方法：
目前正则化参数的选择有先验和后验两种方法。用先验法选择正则化参数时，都需要预先对于原始数据的误差水平做出估计，但在大多数情况下这是难以做到的。后验取法可以直接应用带有噪音的原始数据对正则化参数作出估计。
2.1L-曲线法
L-曲线法是一种较成熟的方法，L-曲线法是利用对数尺度来描述残差范数和解的限制范数的曲线对比，该方法的特征是对数尺度图形中出现明显的L形状曲线，曲线拐点所对应的正则化参数作为优化参数[2-3]。其以对数作μ=lgII BXα-LII P为横坐标，纵坐标为ν=lgIIXαII k，同时采用α为参变量，从而形成类似“L”的形状，因此称为L-曲线法。参考文献[2]推算出L-曲线法数学公式为：
其中。。μ、。μ、。。ν、。ν是二阶和一阶导数，L为观测向量，B为设计矩阵。通过这个计算公式就可以计算出α为参变量。
2.2GCV法[4]
GCV法是广义交叉验证算法的简称，可以用于求取正则化参数，也是采用α为参变量，α为参变量的计算公式：
其中H(α)=B(BPB+αI)-1BP，tr(·)为矩阵的迹，L为观测向量，B为设计矩阵。
3 基于最小均方误差的Tikhonov正则化参数优化
正则化参数α的估计公式的优化过程，通过大量公式的换算，从而最终确定正则化参数α的估计公式[5]。
Gauss-Markon模型[6]为
（1）
从这个公式可以得到E（L）=BX，结合L-曲线法的公式
（2）
可以得到下面的公式：
（3）
当将R=（B、PB）-1B、PL，就可以得到估值与真值的偏差量的期望值β=E(X^-X)=EX^-X=E(RL)-X=RE(L)-X=-[I m-RB]X，参数估值方差阵（4）的公式，从这个公式
就可以得到均方误差（5）为
（4）
（5）
其中rank（X）=rank（XX'）=1，通过换算得到
（6）
于是就可以得到均方误差的公式：
（7）在进一步优化，从而得到最后的正则化参数a的估计公式的优化公式：
（8）
通过这个正则化参数α就可以计算出公式中任何一个参数指标。
4 仿真实验与结果
4.1 基于本文方法的仿真试验与结果
以某支架结构模型为例子进行分析，由三种类型钢材组成，槽钢、方钢和角钢，得到方程
模拟真值L~=[-10.6，10.55，1.5，12.1，15.1，-0.11，21.2，1.7，9.2，11.9]，模拟观测值为L=[-10.3，10.4，1.6，12.2，14.1，-0.15，21.2，1.6，9.1，12.3]，从而得到Cond(N)=1.5×106>>1000，可见该方法的病态问题很严重，需要进行纠正，进行正则化参数α进行纠正处理。
4.2 与其他方法的比较
对上述处理的病态数据进行正则参数优化方法、L-曲线法、GCV法、岭估计法进行纠正分析的比较，具体结果见表1，由表1可知采用正则参数优化方法计算得到的正则参数α是最小，而且ΔX数值也是最小，因此产生的误差也最小；而采用岭估计法得到正则参数α最大，而且得到ΔX数值也是最大，由此可见采用本文优化的Tikhonov正则化参数得到的正则参数α，而且ΔX数值也是最小，更适合实际的应用中的计算，而采用L-曲线法、GCV法得到正则参数α和ΔX的数值基本差不多，比正则参数优化方法差一些，比岭估计法要好一些。
表1 正则参数及ΔX的对比
方法正则参数αΔX 正则参数优化方法0.0068 0.0985 L-曲线法0.202 0.724
GCV法0.159 0.698
岭估计法0.299 0.758
5 讨论
将Tikhonov正则化法应用于实际的应用的方法的研究比较多，张路寅[7]等人不适定问题的迭代Tikhonov正则化方法中说到对不适定问题也就是病态问题进行计算中推导出正则滤波函数的性质，通过公式的推算得出误差估计的收敛阶达到最优状态时得到的数据，比将参数α看作正则化参数更容易计算。并通过实例证实了该方法可以更好的解决实际中误差的计算，解决了Tikhonov正则化参数α计算的繁琐。余瑞艳[8]对基于混沌粒子群算法的Tikhonov正则化参数选取的分析中发现将混沌粒子群优化算法与Tikhonov正则化方法相结合，利用混沌粒子群优化算法的优势对Tikhonov正则化方法进行优化改进，并对实际的病态问题进行解决，证明了该方法是一种比较有效的数据处理方法。不同的理论得到的Tikhonov正则化法的参数计算公式不同，但是都是通过Tikhonov正则化法的优化从而得到更适合该领域的一些数据的处理，从而得到更简便的计算方法，更有效的利用于繁琐的计算中，对大量数据的处理提供简便的方法。
数学物理反问题已成为计算数学与应用数学中发展和成长最快的研究课题，在解决这些病态问题的计算中，数学方法公式的应用也是被广泛应用的方法，而Tikllollov正则化方法的应用也是解决当前各个数据处理领域提供了一个很好的平台。Tikllollov正则化方法求解的精度
很大程度上取决于正则化参数的选取，基于不同的理论得到的正则化参数不同，前面的研究中提到基于混沌粒子群优化算法可以得到简便的Tikllollov正则化方法正则化参数的计算公式，本文中得到的正则化参数是基于最小均方误差，得到的参数公式对计算一些实际的案例比较实用。但是不同Tikllollov正则化方法中优化的参数计算，要比常见的L-曲线法、GCV 法、岭估计法等方法具有一定的优势，本文通过对比也证明了采用Tikllollov正则化方法中优化的参数公式计算参数α，可以更好的减少误差的发生。对于解非线性不适定问题如何使用进行Tikllollov正则化方法，也有笔者通过分析解决了这个问题，此学者采用对修正的三阶牛顿法进行Tikhonov正则化，从而得到新的迭代格式[9]，这样就可以很好的解决非线性不适定问题，但是此学者没有进行实际的仿真数据的验证试验，因此不能很好的证明此方法是否真的能解决解非线性不适定问题。因此对此问题需要深入的分析。杨润生[10]等人对一类非线性不适定问题的Tikhonov正则化的分析中发现利用双参数进行Tikhonov正则化的分析，引入了带闭线性算子，利用最小的问题进行逼近处理，从而得到双参数，但是此方法也没有进行试验的证明。也有学者[11]对线性问题进行Tikllollov正则化方法参数公式的选取，分析中基于阻尼Morozov差异原则进行Tikllollov正则化方法参数的选取，通过选取和试验证实采用方法得到的Tikllollov正则化方法参数对计算一些领域的误差具有一定的作用。
朱南海[12]等人进行另一种方法的Tikllollov正则化方法参数的计算，基于遗传算法进行Tikllollov正则化方法参数的计算，此方法也是采用广义交叉准则(GCV)、L-曲线准则和Engl 误差极小化准则为目标函数，基于遗传算法，从全域内获得正则参数的最优值。并进行了试验验证，验证了此方法得到的Tikllollov正则化方法参数的优化参数公式可以用于实际的误差计算，解决病态问题。其他人[13-14]也进行不同Tikllollov正则化方法参数的优化参数公式的选取，旨在为更好更简便的解决实际中的病态问题得到最佳的优化参数，目的也是减少实际中误差的存在。而且通过试验也对Tikllollov正则化方法参数的优化参数公式得到的数值进行证明，验证该方法的可行性和有效性。
6 总结
本文通过大量的借阅其他学者的研究，从而得到基于最小均方误差的Tikhonov正则化参数优化的公式，从而为解决一些领域的病态问题具有很好的利用价值。在确定Tikhonov正则化参数时应用了观测值和真值，依据这些信息可以推导出均方误差最小的情况下计算正则参数值的数学公式，此数值不仅可以保证误差最小，而且避免了岭估计方法中的岭参数选取的主观性。更好的解决实际中的病态问题，通过试验也验证了此方法计算的参数值比较小，而且误差也比较小，明显比L-曲线法、GCV法、岭估计方法得到的数值有效。本文比较此方法这4种方法，得到的结果也证实了此Tikhonov正则化参数优化的公式更有效。由此可见，本
文得到的Tikhonov正则化参数优化的公式可以用于病态问题的计算中，避免主观性产生的误差，此方法不仅简便，而且可以应用于不同领域的数据处理，从而解决出现的线性不适定问题和非线性不适定问题。
参考文献
[1]徐会林. 一种选取线性不适定问题正则化参数的迭代算法[J]. 江西科学,2010,28(4):425-429.
[2]Hein Torsten. Convergence rates for regularization of ill-PosedProblemsinBanach sPaces by aPProximate source conditions[J].Inverse Problem,2008,24:l-10.
[3]Wang Ji An，Li Jing，Liu Zhen. Hai Regularization methods for nonlinear ill-Posed problems with accretive operators[J]. Acta Mathematica scientia,2008,28B(l):141-150.
[4]N.S.Hoang, A.G Ramm. An iterative scheme for solving nonlinear equationswith monotone operators[J]. Numer Math,2008(48):725-741.
[5]N.S.Hoang,A.GRamm. A discrePancy PrinciPle for equations with monotone continuous operators[J]. Nonlinear Analysis, 2009(70):4307-4315.
[6]傅初黎, 李洪芳, 熊向团. 不适定问题的迭代Tikhonov正则化方法[J]. 计算数学,2006,28(3):237-246.
[7]张路寅，张玉海，钱坤明. 关于不适定问题的迭代Tikhonov正则化方法[J]. 山东大学学报(理学版),2011,46(4):29-33.
[8]余瑞艳. 基于混沌粒子群算法的Tikhonov正则化参数选取[J]. 数学研究,2011,44(1):101-106.
[9]王美吉，潘状元. 解非线性不适定问题的一种正则化方法[J]. 西安工程大学学报,27(2):248-252.
[10]杨润生, 李景. 一类非线性不适定问题的Tikhonov正则化[J]. 数学理论与应用,2006,26(3):119-122.
[11]WANG Ze-wen, Xu Ding-hua. On the Linear Model Function Method for Choosing Tikhonov Regularization Parameters in Linear Ill一Posed Problems[J]. CHINESE JOURNAL OF ENGINEERING入IATHE入IATICS,2013,30(3):451-466.
[12]朱南海, 赵晓华. 基于遗传算法的Tikhonov正则参数优化计算[J]. 工程力学,2009,26(5):25-30.
[13]吴瑞林. 基于Tikhonov正则化的结构方程模型参数估计方法[J]. 统计与决
策,2012(20):23-25.
[14]陈德运，李乐天，胡海涛. 基于迭代Tikhonov正则化的电容层析成像图像重建[J]. 哈尔滨理工大学学报,2009,14(2):1-3.
等式约束对病态问题的影响及约束正则化方法_谢建
第４０卷第１０期２０１５年１０月武汉大学学报·信息科学版 Ｇｅｏｍａｔｉｃｓ ａｎｄ Ｉｎｆｏｒｍａｔｉｏｎ Ｓｃｉｅｎｃｅ ｏｆ Ｗｕｈａｎ Ｕｎｉｖｅｒｓｉｔｙ Ｖｏｌ．４０Ｎｏ．１０ Ｏｃｔ．２０１５ 收稿日期：２０１３－１２－ １０项目来源：国家自然科学基金资助项目（４１２７４０１０ ）。第一作者：谢建，博士生，主要从事测量平差与测量数据处理研究。Ｅ－ｍａｉｌ：ｘｉｅｊ ｉａｎ＠ｃｓｕ．ｅｄｕ．ｃｎＤＯＩ：１０．１３２０３／ｊ．ｗｈｕｇｉｓ２０１３０７６４文章编号：１６７１－８８６０（２０１５）１０－１３４４－ ０５等式约束对病态问题的影响及约束正则化方法 谢 建１ 朱建军１ １ 中南大学地球科学与信息物理学院，湖南长沙，４１００８３ 摘 要：有效利用参数间已知的等式约束信息能够提高最小二乘解的精度，消除秩亏，但是等式约束能否消除或减弱平差模型的病态性尚不明了， 由此提出了一种通过消除部分参数将等式约束病态问题转化为无约束问题的方法。然后分析了等式约束对病态问题的影响，用简单实例证明了加入约束后，系统可能呈现良态或病态，它的性态由原设计阵和等式约束共同决定，并提出了求解等式约束病态问题的诊断－正则化两步方法。最后用一个数值实例验证了该方法的可行性。关键词：等式约束；秩亏；病态；影响分析；正则化中图法分类号：Ｐ２０７．２ 文献标志码：Ａ 大地测量数据处理中， 常出现秩亏和病态等现象。解决秩亏问题的常用方法是增加参数间坐标基准的加权等式约束或参数的加权二次范数最小准则， 求出特定基准下的最小范数最小二乘解［ １］ 。解病态问题也是附加参数间的加权二次范数约束， 使观测残差和参数范数间达到平衡而获得稳定的正则化解［２］ 。可见，上述不适定问题都 是通过增加约束信息来得到适定的解。这种信息有参数的一次式， 即参数间的线性等式约束，也有参数的二次式，即参数的二次范数。 对于秩亏数为ｄ的无约束平差问题，是附加 ｄ个线性无关的等式约束消除秩亏［１］ 。若秩亏问 题本身有ｓ个线性无关的约束， 那么只要添加ｄ－ｓ 个等式约束［３］ 。病态问题的正则化准则是对所有的参数施加二次约束，通过压缩解的长度来 减弱最小二乘解的不稳定性。但已有文献对等式约束是否减弱病态性少有研究，侧重于研究含有线性等式约束的病态问题的算法。Ｓａｒｋａｒ在约束最小二乘解前面乘以一个压缩因子，以减小病 态约束问题的方差［４］ ；Ｊüｒｇ ｅｎ在约束最小二乘解的基础上，将最小二乘解用Ｓａｒｋａｒ解代替，解的形式和约束最小二乘解相同，但是计算非常复 杂［５］ ；钟震利用椭圆约束的方法得到了约束病态问题的有偏估计［６］ ；谢建等用正则化的思想得到 了附等式约束病态问题的正则化解，其形式与附 加椭圆约束的有偏估计相同［ ７］ 。但是，上述方法是对所有的参数施加二次范数约束，都没有讨论等式约束本身能否消除或者减弱系统的病态性， 以及附加等式约束后模型的病态程度与哪些因素有关。本文首先将等式约束的病态问题通过消除部分参数转化为无约束问题， 分析无约束问题设计阵的病态性，然后给出了等式约束病态问题求解的方法。 １ 等式约束对秩亏问题的影响 经典的测量平差函数模型和随机模型为 ［８］ ： Ｌ＝ＡＸ＋Δ（１ ）Ｅ（Ｌ）＝ＡＸ，Ｄ（Ｌ）＝σ２０ Ｐ－ １（２）式中，Ｌ、Δ分别表示ｎ维观测向量和误差向量； Ｘ为ｕ维参数向量；Ａ为ｎ×ｕ设计矩阵；σ２ ０为单位权方差；Ｐ为观测权矩阵。根据设计矩阵Ａ的性质，可以分为设计阵良态、秩亏和病态三种情况。下面对前两种情况的求解进行分析。１．１ 设计阵Ａ是良态矩阵的最小二乘解 观测方程（１ ）相应的误差方程式为［８］ ：Ｖ＝Ａ＾Ｘ－Ｌ （３ ） 当设计阵Ａ是良态矩阵时， 若观测误差服从正态分布，在最小二乘准则φｍｉｎ（Ｖ）＝ＶＴＰＶ下，不需增加额外的信息，可以直接得到唯一且稳定的 最小二乘解［ ８］ ：＾ＸＬＳ＝Ｎ－１ ｗ（４ ）式中，Ｎ＝ＡＴＰＡ，ｗ＝ＡＴＰＬ， 分别表示法方程矩阵
ADAMS VIEW 参数化和优化设计实例详细讲解
ADAMS/VIEW 参数化和优化设计实例详解 本例通过小球滑落斜板模型，着重详细说明参数化和优化设计的过程。 第一步，启动adams/view（2014版），设置工作路径，设置名称为incline。 名称 存储路径第二部，为满足模型空间，设置工作网格如图参数。 修改尺寸 第三部创建斜板。点击Bodies选项卡，选择BOX，然后建模区点击鼠标右键，分别设置两个点，坐标为（0,0,0）和（-500,-50,0），创建完模型，然后右键Rename，修改名称为xieban。
右键输入坐标，创建点BOX rename 输入xieban
第四部创建小球。点击Bodies选项卡，选择Sphere，然后建模区点击鼠标右键，分别设置两个点，球心坐标为（-500,50,0）和半径坐标（-450,50,0），创建完模型，然后右键Rename，修改名称为xiaoqiu。 输入两点 Rename，及创建效果 第五部创建圆环。点击Bodies选项卡，选择Torus，然后建模区点击鼠标右键，分别设置两个点，圆环中心坐标为（450,-1000,0）和大径坐标（500,-1000,0），创建完模型，然后右键Rename，修改名称为yuanhuan。完成后效果如下图： 第六部修改小球尺寸及位置。首先修改小球半径为25mm，在小球上右键，选择球体，点击Modify，然后设置如下图；然后修改小球位置，将Y坐标移到25mm处，选择Marker_2点，
右键点击Modify，然后设置坐标位置如下图。 右键编辑球半径 修改半径为25 改后效果 修改球的位置
设置球坐标 完成修改后效果 第七部修改圆环尺寸及位置。将圆环绕X轴旋转90度，选择Marker_3点，右键点击Modify，然后设置坐标位置如下图。修改圆环尺寸，大径为40mm，截面圆环半径为12mm，右键，选择圆环体，点击Modify，然后设置如下图。至此，模型建立完毕。 修改圆环位置
【Adams应用教程】第10章ADAMS参数化建模及优化设计
第10章 ADAMS参数化建模及优化设计
本章将通过一个具体的工程实例，介绍ADAMS/View的参数化建模以及ADAMS/View 提供的3种类型的参数化分析方法：设计研究(Design study)、试验设计(Design of Experiments, DOE)和优化分析(Optimization)。其中DOE是通过ADAMS/Insight来完成，设计研究和优化分析在ADAMS/View中完成。通过本章学习，可以初步了解ADAMS参数化建模和优化的功能。 10.1 ADAMS参数化建模简介 ADAMS提供了强大的参数化建模功能。在建立模型时，根据分析需要，确定相关的关键变量，并将这些关键变量设置为可以改变的设计变量。在分析时，只需要改变这些设计变量值的大小，虚拟样机模型自动得到更新。如果，需要仿真根据事先确定好的参数进行，可以由程序预先设置好一系列可变的参数，ADAMS自动进行系列仿真，以便于观察不同参数值下样机性能的变化。 进行参数化建模时，确定好影响样机性能的关键输入值后，ADAMS/View提供了4种参数化的方法： （1）参数化点坐标在建模过程中，点坐标用于几何形体、约束点位置和驱动的位置。点坐标参数化时，修改点坐标值，与参数化点相关联的对象都得以自动修改。 （2）使用设计变量通过使用设计变量，可以方便的修改模型中的已被设置为设计变量的对象。例如，我们可以将连杆的长度或弹簧的刚度设置为设计变量。当设计变量的参数值发生改变时，与设计变量相关联的对象的属性也得到更新。 （3）参数化运动方式通过参数化运动方式，可以方便的指定模型的运动方式和轨迹。 （4）使用参数表达式使用参数表达式是模型参数化的最基本的一种参数化途径。当以上三种方法不能表达对象间的复杂关系时，可以通过参数表达式来进行参数化。 参数化的模型可以使用户方便的修改模型而不用考虑模型内部之间的关联变动，而且可以达到对模型优化的目的。参数化机制是ADAMS中重要的机制。 10.2 ADAMS参数化分析简介 参数化分析有利于了解各设计变量对样机性能的影响。在参数化分析过程中，根据参数化建模时建立的设计变量，采用不同的参数值，进行一系列的仿真。然后根据返回的分析结果进行参数化分析，得出一个或多个参数变化对样机性能的影响。再进一步对各种参数进行优化分析，得出最优化的样机。ADAMS/View提供的3种类型的参数化分析方法包括：设计研究(Design study)、试验设计(Design of Experiments, DOE)和优化分析(Optimization)。 10.2.1 设计研究(Design study) 在建立好参数化模型后，当取不同的设计变量，或者当设计变量值的大小发生改变时，仿真过程中，样机的性能将会发生变化。而样机的性能怎样变化，这是设计研究主要考虑的内容。在设计研究过程中，设计变量按照一定的规则在一定的范围内进行取值。根据设计变
05 Maxwell_RMxprt参数化与优化设置
5 参数化分析和优化分析 优化设计由参数化分析（Parametric Analysis）和优化分析（Optimization）两部分构成。使用优化器optimetrics，用户可以从众多可行方案中找出一个最优解。一般原始设计方案，是一个初步的设计方案，需要将原始设计方案中的一些设计参数用变量定义，然后对这些变量进行优化。 Parametric Analysis(参数化分析)：定义一个或多个扫描变量，并给每个扫描变量定义取值范围。优化器会在所有变量取值点进行计算，得到一系列的计算结果，这样用户就可以对结果进行比较从而确定每个设计变量对最终设计性能的影响。参数化分析常常可以用作优化分析的前期处理，因为它可以为优化分析提供变量的合理取值范围。 Target Optimization(目标优化)：先确定优化目标和成本函数，优化器通过优化设计参数值来满足优化目标要求。 以上两个模块既可以单独使用，也可以结合使用。此外，优化器还具有良好的通用性，可用于与所选电机类型无关的其他优化设计。 5.1 RMxprt中的变量和参数 通过输入或输出参数，RMxprt界面可以与RMxprt求解器交换数据。RMxprt求解器从RMxprt 界面接收输入参数和设计参数，并返回输出参数（或简称为参数）给RMxprt界面。在RMxprt界面中，我们可以定义输入变量（或简称为变量）和输出变量。变量用来给设计参数赋值，而输出变量用来接收输出参数的值。 变量可以是一个数值，也可以是其他变量的函数。数值变量是一个独立变量，而函数变量则是一个相关变量。给设计参数赋值的变量可以是独立变量，也可以是相关变量，还可以是数学表达式。在下列几种情形中，变量是非常有用的： 1.当需要改变设计参数的值时。 2.当需要对不同的设计参数使用相同的值时。 3.在参数化分析中，需指定了一系列具有一定取值范围的扫描变量时。 4.在优化分析中，优化设计参数时。 在RMxprt中有两种类型的变量：project variables和design variables。 project variables（项目变量）：项目变量在整个Maxwell项目都有效，项目变量可以赋值给该项目中的任何设计变量。在RMxprt中，通过在项目变量名称上加上前缀符号$，来区分项目变量和设计变量。用户可以在创建它时就手动的将符号$添加到项目变量中，或者RMxprt 自动添加。 design variables（设计变量）：设计变量是与RMxprt设计有关的。设计变量可以赋值给RMxprt设计中的任何设计参数。 5.1.1 项目变量 5.1.1.1 添加项目变量 添加项目变量的步骤如下：
层析反演中的正则化方法研究
李辉，王华忠，张兵．层析反演中的正则化方法研究［Ｊ］．石油物探，２０１５，５４（５）：５６９ － ５８１Ｌｉ Ｈｕｉ，Ｗａｎｇ Ｈｕａｚｈｏｎｇ，Ｚｈａｎｇ Ｂｉｎｇ．Ｔｈｅ ｓｔｕｄｙ ｏｆ ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｉｎ ｔｏｍｏｇｒａｐｈｙ［Ｊ］．Ｇｅｏｐｈｙｓｉｃａｌ Ｐｒｏｓｐｅｃｔｉｎｇ ｆｏｒ Ｐｅｔｒｏｌｅｕｍ，２０１５，５４（５）：５６９ － ５８１收稿日期：２０１４－１１－２４；改回日期：２０１５－０２－ ２６。作者简介：李辉（１９８５—） ，男，博士，现从事射线类偏移与反演的研究工作。基金项目：国家自然科学基金（４１３７４１１７）、国家重点基础研究发展计划（９７３计划）项目（２０１１ＣＢ２０１００２） 、国家科技重大专项项目（２０１１ＺＸ０５００３－００３，２０１１ＺＸ０５００５－００５－００８ＨＺ，２０１１ＺＸ０５００６－００２）和中国石化地球物理重点实验室开放基金项目（３３５５０００６－１４－ ＦＷ２０９９－ ００２６）共同资助。层析反演中的正则化方法研究 李 辉１，２，王华忠１，张 兵１， ３ （１．同济大学海洋与地球科学学院波现象与反演成像研究组，上海２０００９２；２．青凤致远应用地球物理研究所，上海２０００９３；３．中国石油化工股份有限公司石油物探技术研究院，江苏南京２１１１０３ ）摘要：正则化可显著降低层析反演解的非唯一性，提高层析反演结果的质量。主要研究了模型参数正则化和数据正则化。地下介质参数之间的关联性如何加入模型正则化是讨论的问题之一；观测数据之间的关联性加入数据正则化的方法则是另一个主要议题。此外，讨论了Ｔｉｋｈｏｎｏｖ正则化和预条件两种模型正则化实现策略，指出前者理论比较直观，后者计算效率更高，并证明了两者在理论上的等价性。模型正则化通过构造各向异性光滑算子加入地质构造特征，数据正则化则通过在层析矩阵中加入预先构造的数据预条件矩阵来实现。通过层析偏移速度分析给出了模型正则化和数据正则化的具体实现策略。理论分析和层析偏移速度分析的数值实验说明本文的模型正则化和数据正则化可显著提高层析反演的质量。 关键词：层析偏移速度分析；模型正则化；数据正则化；预条件；地质构造约束中图分类号：Ｐ６３１ 文献标识码：Ａ 文章编号：１０００－１４４１（２０１５）０５－０５６９－１３ ＤＯＩ：１０．３９６９／ｊ ．ｉｓｓｎ．１０００－１４４１．２０１５．０５．０１０Ｔｈｅ ｓｔｕｄｙ ｏｆ ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｉｎ ｔｏｍｏｇｒａｐｈｙＬｉ Ｈｕｉ １，Ｗａｎｇ Ｈｕａｚｈｏｎｇ１，Ｚｈａｎｇ Ｂｉｎｇ１，２ （１．Ｗａｖｅ Ｐｈｅｎｏｍｅｎａ ａｎｄ Ｉｎｖｅｒｓｉｏｎ Ｉｍａｇｉｎｇ Ｇｒｏｕｐ（ＷＰＩ），Ｔｏｎｇｊｉ Ｕｎｉｖｅｒｓｉｔｙ，Ｓｈａｎｇｈａｉ ２０００９２，Ｃｈｉｎａ；２．Ｑｉｎｇｆｅｎｇ－ ｚｈｉｙｕａｎ Ａｐｐｌｉｅｄ Ｇｅｏｐｈｙｓｉｃｓ Ｉｎｓｔｉｔｕｔｅ，Ｓｈａｎｇｈａｉ ２０００９３，Ｃｈｉｎａ；３．Ｓｉｎｏｐｅｃ Ｇｅｏｐｈｙｓｉｃａｌ Ｒｅｓｅａｒｃｈ Ｉｎｓｔｉｔｕｔｅ，Ｎａｎｊｉｎｇ２１１１０３，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｉｎ ｔｏｍｏｇｒａｐｈｙ ｉｓ ａｂｌｅ ｔｏ ｗｅａｋｅｎ ｔｈｅ ｎｏｎ－ｕｎｉｑｕｅｎｅｓｓ ｏｆ ｔｏｍｏｇｒａｐｈｙ ｔｏ ｉｍｐｒｏｖｅ ｔｈｅ ｉｎｖｅｒｓｉｏｎ ｒｅｓｕｌｔ－Ｔｈｅ ｄｉｓｃｕｓｓｉｏｎ ｏｆ ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｉｎ ｔｈｉｓ ｐａｐｅｒ ｉｎｃｌｕｄｅｓ ｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ ａｎｄ ｄａｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎＭｏｄｅｌ ｐａｒａｍｅｔｅｒｓ ａｒｅ ｎｏｔ ｉ－ｓｏｌａｔｅｄ，ｈｏｗ ｔｏ ａｄｄ ｔｈｅ ｒｅｌａｔｉｏｎｓｈｉｐ ｏｆ ｔｈｅｓｅ ｐａｒａｍｅｔｅｒｓ ｉｎｔｏ ｔｏｍｏｇｒａｐｈｙ ｉｓ ｏｎｅ ｏｆ ｔｈｅ ｍｉｓｓｉｏｎｓ ｈｅｒｅＳｉｍｉｌａｒｌｙ，ｃｏｎｓｉｄｅｒｉｎｇ ｄａ－ｔｕｍ ｒｅｌａｔｉｏｎｓｈｉｐ ｉｎ ｔｏｍｏｇｒａｐｈｙ ｉｓ ａｎｏｔｈｅｒ ｐｒｏｂｌｅｍＴｈｅ ｓｏ－ｃａｌｌｅｄ“ｓｔｒａｉｇｈｔｆｏｒｗａｒｄ ｒｅｇｕｌａｒｉｚａｔｉｏｎ”ａｎｄ ｔｈｅ“ｐｒｅｃｏｎｄｉｔｉｏｎ ｒｅｇｕ－ｌａｒｉｚａｔｉｏｎ”ａｒｅ ｆｏｃｕｓｅｄ，ａｎｄ ｗｅ ａｃｈｉｅｖｅ ｔｈａｔ ｔｈｅ ｆｏｒｍｅｒ ｉｓ ｉｎｔｕｉｔｉｏｎｉｓｔｉｃ ａｎｄ ｔｈｅ ｌａｔｔｅｒ ｉｓ ｍｏｒｅ ｅｆｆｉｃｉｅｎｃｙＡｌｓｏ，ｗｅ ｐｏｉｎｔ ｏｕｔ ｔｈａｔｔｈｅ ａｂｏｖｅ ｔｗｏ ａｌｇｏｒｉｔｈｍｓ ａｒｅ ｅｑｕｉｖａｌｅｎｔ ｔｏ ｅａｃｈ ｏｔｈｅｒ，ａｎｄ ｔｈｉｓ ｗｉｌｌ ｂｅ ｓｈｏｗｎ ｉｎ ｔｈｉｓ ｐａｐｅｒＴｈｅ ｇｅｏｌｏｇｉｃａｌ ｓｔｒｕｃｔｕｒｅ ｃｈａｒａｃｔｅｒ－ｉｓｔｉｃｓ ｏｆ ｔｈｅ ｍｅｄｉｕｍ ｃａｎ ｂｅ ｉｎｔｅｇｒａｔｅｄ ｉｎｔｏ ｔｈｅ ｔｏｍｏｇｒａｐｈｙ ｕｓｉｎｇ ｔｈｅ ｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｗｉｔｈ ａｎｉｓｏｔｒｏｐｉｃ ｓｍｏｏｔｈ ｍａｔｒｉｘ．Ｔｈｅ ｄａｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｉｓ ｒｅａｌｉｚｅｄ ｗｉｔｈ ａｎｏｔｈｅｒ ｓｍｏｏｔｈ ｏｐｅｒａｔｏｒ ｗｈｉｃｈ ｗｉｌｌ ｂｅ ｉｎｔｅｇｒａｔｅｄ ｉｎｔｏ ｔｈｅ ｔｏｍｏｇｒａｐｈｉｃ ｍａｔｒｉｘ．Ｔｈｅｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ ａｎｄ ｄａｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ ａｒｅ ｔｅｓｔｅｄ ｗｉｔｈ ｔｏｍｏｇｒａｐｈｉｃ ｍｉｇｒａｔｉｏｎ ｖｅｌｏｃｉｔｙ ａｎａｌｙｓｉｓ（ＭＶＡ）ａｌｇｏｒｉｔｈｍ．Ｔｈｅｒｅｓｕｌｔｓ ｏｆ ｔｈｅｏｒｙ ａｎｄ ｎｕｍｅｒｉｃａｌ ｅｘｐｅｒｉｍｅｎｔｓ ｗｉｔｈ ｔｏｍｏｇｒａｐｈｉｃ ＭＶＡ ｓｈｏｗ ｔｈａｔ ｔｈｅ ｐｒｏｐｏｓｅｄ ｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ ａｎｄ ｔｈｅ ｄａ－ｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ ａｒｅ ｂｏｔｈ ａｂｌｅ ｔｏ ｉｍｐｒｏｖｅ ｔｈｅ ｑｕａｌｉｔｙ ｏｆ ｔｏｍｏｇｒａｐｈｙ ｏｂｖｉｏｕｓｌｙ．Ｋｅｙ ｗｏｒｄｓ：ｔｏｍｏｇｒａｐｈｉｃ ＭＶＡ，ｍｏｄｅｌ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ，ｄａｔａ－ｒｅｇｕｌａｒｉｚａｔｉｏｎ，ｐｒｅｃｏｎｄｉｔｉｏｎ，ｇｅｏｌｏｇｉｃａｌ ｓｔｒｕｃｔｕｒｅ ｃｏｎｓｔｒａｉｎｔ 随着勘探地震技术的发展以及石油工业需求 的提高，叠前深度偏移逐渐成为工业应用中偏移技 ９ ６５第５４卷第５期２０１５年９月石 油 物 探 ＧＥＯＰＨＹＳＩＣＡＬ ＰＲＯＳＰＥＣＴＩＮＧ ＦＯＲ ＰＥＴＲＯＬＥＵＭＶｏｌ．５４， Ｎｏ．５Ｓｅｐ．，２０１５
正则化图像超分辨率重建算法
正则化图像超分辨率重建算法 1. MAP 正则化算法理论介绍 图像超分辨率重建问题是一个病态的问题，而在求解中加入先验信息可以提供一个很好的正则化机制来获得具有物理意义的解。贝叶斯（Bayesian ）方法可以用先验概率分布的形式来加入先验限制，从而可以获得超分辨率问题的正则解，而且该方法在近年的研究中被证明十分有效，因此成为图像超分辨率重建的主要方法之一。 贝叶斯的基本思想是：假设原始图像X 和降质图像Y 都是随机场，当概率 ()|P X Y 取最大值时，X 代表了在已知降至图像Y 时，原始图像X 的最大可能， 被称为X 的最大后验概率估计。 ()()()()arg max || arg max MAP X X X P X Y P Y X P X P Y =???? ?? =?? ?? (1) 由于以e 为底数的log 函数是单调递增函数，因此可以将上述概率函数取log 对数，不会影响最大值的结果。 ()()()arg max log log log MAP X X Y X P X P Y ??=+-?? (2) 由上式可知，()log P Y 与MAP X 取得最大值无关，因此可以忽略不计。由此可得： ()()arg max log log MAP X X Y X P X ??=+?? (3) 假定图像的噪声是均值为0，方差为2σ的高斯分布，则在给定的HR 图像的 当前估计X 的条件下，LR 图像的概率密度为： ( )22,,,,,|()2)k i j k i j k n i j P Y X Y Y σ=-- (4) 由此可得
( )22,,,,,22,,,,,,2,,,,,,?arg max log |arg max log ()2)arg min ()2arg min ()X X i j k i j k n i j X i j k i j k n i j k X i j k i j k i j k X P Y X Y Y Y Y Y Y σσ??=?? ??=--?? ??????=-?? ?? ??=-???? ∑∑ (5) 上式中，由于方差齐次性，所以可以消去n σ的影响。 2. 图像超分辨率重建的正则化处理 由于图像成像系统降质过程模型表达式为： y Hx n =+ (6) 图像超分辨率重建问题转化为求解使下式达到最小值的X 2?arg min X X Y HX =- (7) 其Euler-Lagrange 方程为： T T H HX H Y = (8) 由此可看出，H 及Y 的很小变化就会造成解的很大变化，从而导致解不连续依赖于观测数据，所以这种情况是病态的。由于上述问题，我们通常加入正则化项2 CX α，对X 进行约束，构造正则化泛函如下： { }2 2 ?arg min X X Y HX CX α=-+ (9) 2Y HX -表示数据拟合项，通过已知数据和未知数据的差来衡量数据拟合程 度；2 CX α是正则项，用来平衡数据的奇异性，并补偿降质图像所丢失的一些信息，使问题不在病态；α为正则化参数，起平衡正则项和数据项的作用，其值 的变化，可以影响数据的平滑性和数据拟合误差，直接影响重建数据的效果；C 通常代表高通滤波。 上式作为代价函数是凸函数，可以找到唯一解 1()T T T x H H C C H y α-=+ (10) 但由于逆矩阵的求解十分复杂，本文采用迭代下降算法求解重建图像，可以得到迭代表达式为： 1(())T T T k k k k x x H y H H x C C x α+=+-+ (11) 222 2 ()15k k x y Hx y α=- (12)
正则化方法
3.2正则化方法的概念 从数学角度来分析，CT 中的有限角度重建问题相当于求解一个欠定的代数方程组，属于不适定问题研究范畴，解决这类问题通常需要引入正则化方法]27,26[。 3.2.1不适定的概念 设算子A 映X x ∈为P p ∈，X 与P 分别为某类赋范空间，记 P Ax = (3.9) 在经典意义下求解(3.9)，就存在下述问题： (1)(3.9)式的解是否存在； (2)(3.9)式的解如果存在，是否唯一； (3)(3.9)式的解是否稳定或者说算子A 是否连续：对于右端的P 在某种意义下作微小的变动时，相应的解童是不是也只作微小的变动。 只要这些问题中有一个是否定的，就称(3.9)的解是不适定的。 3.2.2正则化方法概念的引入 设算子A 映X x ∈为P p ∈，X 与P 分别为某类赋范空间，二者满足(3.9)式。设A 的逆算子1-A 不连续，并假定当右端精确值为r p 时，得到经典意义下的解为r x ，即满足 r r P Ax = (3.10) 现在的问题是，如果右端受到扰动后变为δp ，且二者满足关系 δδ≤-r p p (3.11) 其中，?为某范数。则由于1-A 的不连续性，我们显然不能定义r p 对应的解为： δδp A x 1-= (3.12)
因此，必须修改该逆算子的定义。 定义：设算子),(αp R 映p 成x ，且依赖一个参数α，并具有如下性质： (1)存在正数01>δ，使得对于任意0>α，以及r p 的)(1δδδ≤邻域中的p ，即满足 10,δδδ≤<≤-p p r (3.13) 的p ，算子R 有定义。 (2)若对任意的0>ε，都存在),0(1δδ∈及依赖于δ的参数)(δαα=，使得算子),(αp R 映r p 的δ邻域到r x 的ε领域内，即 εδαδδ≤-=r x x x p R ,))(,( (3.14) 则称),(αp R 为方程(3.14)中A 的正则逆算子；δx 称为方程(3.14)的正则解，当0→δ时，正则解可以逼近我们所要求的精确解；α称为正则化参数。这样的求解方法就称为正则化方法。
正则化和反问题
正则化和反问题 正则化(regularization)在线性代数理论中，不适定问题通常是由一组线性代数方程定义的，而且这组方程组通常来源于有着很大的条件数的不适定反问题。大条件数意味着舍入误差或其它误差会严重地影响问题的结果。反问题有两种形式。最普遍的形式是已知系统和输出求输入，另一种系统未知的情况通常也被视为反问题。许多反问题很难被解决，但是其他反问题却很容易得到答案。显然，易于解决的问题不会比很难解决的问题更能引起人们的兴趣，我们直接解决它们就可以了。那些很难被解决的问题则被称为不适定的。一个不适定问题通常是病态的，并且不论是简单地还是复杂地改变问题本身的形式都不会显著地改善病态问题。另一方面，病态问题不一定是不适定的，因为通过改变问题的形式往往可以改善病态问题。在严格的数学意义上，我们通常不可能对不适定问题进行求解并得到准确解答。然而，通过使用我们的先验知识，我们通常有希望能够得到一个接近准确解答的答案。 求解不适定问题的普遍方法是：用一族与原不适定问题相"邻近"的适定问题的解去逼近原问题的解,这种方法称为正则化方法。如何建立有效的正则化方法是反问题领域中不适定问题研究的重要内容。通常的正则化方法有基于变分原理的Tikhonov正则化、各种迭代方法以及其它的一些改进方法,这些方法都是求解不适定问题的有效方法,在各类反问题的研究中被广泛采用,并得到深入研究。 正则化：Normalization，代数几何中的一个概念。 通俗来说，就是给平面不可约代数曲线以某种形式的全纯参数表示。 即对于PC^2中的不可约代数曲线C，寻找一个紧Riemann面C*和一个全纯映射σ：C*→PC^2,使得σ(C*)=C 严格的定义如下： 设C是不可约平面代数曲线，S是C的奇点的集合。如果存在紧Riemann 面C*及全纯映射σ：C*→PC^2,使得
ADAMS参数化建模及优化设计
第10章 ADAMS参数化建模及优化设计 本章将通过一个具体的工程实例，介绍ADAMS/View的参数化建模以及 提供的3种类型的参数化分析方法：设计研究(Design study)、试验设计((Design of Experiments, DOE)和优化分析(Optimization)。其中DOE是通过ADAMS/Insight 计研究和优化分析在ADAMS/View中完成。通过本章学习，可以初步了解ADAMS 建模和优化的功能。 10.1 ADAMS参数化建模简介 ADAMS 键变量，并将这些关键变量设置为可以改变的设计变量。在分析时， 以由程序预先设置好一系列可变的参数，ADAMS自动进行系列仿真， 值下样机性能的变化。 进行差数参数化建模时，在确定好影响样机性能的关键输入值后，ADAMS/View 了4种参数化的方法： （1）参数化点坐标 点坐标参数化时，修改点坐标值时，与参数化点相关联的对象都得以自动修改。 （2）使用设计变量通过使用设计变量，可以方便的修改模型中的以已被设置为设计变量的对象。例如，我们可以将连杆的长度或弹簧的刚度设置为设计变量。 值发生改变时，与设计变量相关联的对象的属性也得到更新。 （3）参数化运动方式 （4）使用参数表达式使用参数表达式是模型参数化的最基本的一种参数化途径。 上三种方法不能表达对象间的复杂关系时，可以通过参数表达式来进行参数化。 参数化的模型可以使用户方便的修改模型而不用考虑模型内部之间的关联变动， 以达到对模型优化的目的。参数化机制是ADAMS中重要的机制。 10.2 ADAMS参数化分析简介 参数化分析有利于了解各设计变量对样机性能的影响。在参数化分析过程中， 化建模时建立的设计变量，采用不同的参数值，进行一系列的仿真。 果进行参数化分析，得出一个或多个参数变化对样机性能的影响。然后再进一步对各种参数进行优化分析，得出最优化的样机。ADAMS/View提供的3 设计研究(Design study)、试验设计(Design of Experiments, DOE)和优化分析(Optimization)。
正则化简介
正则化(regularization) 正则化(regularization)在线性代数理论中，不适定问题通常是由一组线性代数方程定义的，而且这组方程组通常来源于有着很大的条件数的不适定反问题。大条件数意味着舍入误差或其它误差会严重地影响问题的结果。反问题有两种形式。最普遍的形式是已知系统和输出求输入，另一种系统未知的情况通常也被视为反问题。许多反问题很难被解决，但是其他反问题却很容易得到答案。显然，易于解决的问题不会比很难解决的问题更能引起人们的兴趣，我们直接解决它们就可以了。那些很难被解决的问题则被称为不适定的。一个不适定问题通常是病态的，并且不论是简单地还是复杂地改变问题本身的形式都不会显著地改善病 态问题。另一方面，病态问题不一定是不适定的，因为通过改变问题的形式往往可以改善病态问题。在严格的数学意义上，我们通常不可能对不适定问题进行求解并得到准确解答。然而，通过使用我们的先验知识，我们通常有希望能够得到一个接近准确解答的答案。 求解不适定问题的普遍方法是:用一族与原不适定问题相“邻近”的适定问题的解去逼近原问题的解,这种方法称为正则化方法。如何建立有效的正则化方法是反问题领域中不适定问题研究的重要内容。通常的正则化方法有基于变分原理的Tikhonov 正则化、各种迭代方法以及其它的一些改进方法,这些方法都是求解不适定问题的有效方法,在各 类反问题的研究中被广泛采用,并得到深入研究。 正则化:Normalization，代数几何中的一个概念。 通俗来说，就是给平面不可约代数曲线以某种形式的全纯参数表
示。 即对于PC^2中的不可约代数曲线C，寻找一个紧Riemann面C*和一个全纯映射σ:C*→PC^2,使得σ(C*)=C 严格的定义如下: 设C是不可约平面代数曲线，S是C的奇点的集合。如果存在紧Riemann面C*及全纯映射σ:C*→PC^2,使得 (1) σ(C*)=C (2) σ^(-1)(S)是有限点集 (3) σ:C*\σ^(-1)(S)→C\S是一对一的映射 则称(C*,σ)为C的正则化。不至于混淆的时候，也可以称C*为C 的正则化。 正则化的做法，实际上是在不可约平面代数曲线的奇点处，把具有不同切线的曲线分支分开，从而消除这种奇异性。[1] 正则化方法 Regularization Method 正则化算子 regularizing operator 物理学中，尤其是量子场论，正则化(regularization)是一项处理无限大、发散以及一些不合理表示式的方法，其方法透过引入一项辅助性的概念——正则化因子(regulator)。举例来说，若短距离物理效应出现发散，则设定一项空间中最小距离来解决这情形。正确的物理结果是让正则化因子消失(此例是) 的极限情形，不过正则化因子的用意就在于当它是有限值，理论结果也是有限值的。正则化是将数学中的发散级数的可和性方法(summability methods)用在物理学问题上。
正则化参数的确定方法
1. 拟最优准则 Tikhonov 指出当数据误差水平δ和η未知时，可根据下面的拟最优准则： 0min opt dx d ααααα>????=?????? （1-1） 来确定正则参数。其基本思想是：让正则参数α以及正则解对该参数的变化率同时稳定在尽可能小的水平上。 2. 广义交叉验证 令 22(())/()[(())]/I A y m V tr I A m δααα-=- （2-1） 其中，* 1*()A (A A I)A h h h h A αα-=+，1(I A())(1())m kk k tr ααα=-=-∑，()kk αα为()A α的 对角元素。这样可以取* α满足 *()min ()V V αα= （2-2） 此法源于统计估计理论中选择最佳模型的PRESS 准则，但比它更稳健。 3. L_曲线法 L 曲线准则是指以log-log 尺度来描述与的曲线对比，进而根据该对比结果来确定正则 参数的方法。其名称由来是基于上述尺度作图时将出现一个明显的L 曲线。 运用L 曲线准则的关键是给出L 曲线偶角的数学定义,进而应用该准则选取参数α。Hanke 等[64]建议定义L 曲线的偶角为L 曲线在log-log 尺度下的最大曲率。令log b Ax αρ=- ，log x αθ=，则该曲率作为参数α的函数定义为 '''''' 3 '2'22()(()())c ρθρθαρθ-=+ （3-1） 其中“'”表示关于α的微分。 H.W.Engl 在文献[40]中指出:在相当多的情况下,L 曲线准则可通过极小化泛函 ()x b Ax ααφα=-来实现。即,选取*α使得 {} *0arg inf ()ααφα>= （3-2） 这一准则更便于在数值计算上加以实施。 但到目前为止,还没有相关文献获得过关于L 曲线准则的收敛性结果。另一方面,有文献己举反例指出了L 曲线准则的不收敛性。虽然如此,数值计算的结果表明,L 曲线准则与GCV 一样,具有很强的适应性。 4. 偏差原理: 定理4-1:(Morozov 偏差原理)[135]如果()φα是单值函数,则当0(,)U z A u ρδ>时存在这 样的()ααδ=,使得:
正则化方法在变形监测中的应用
正则化方法在变形监测中的应用 摘 要 病态问题广泛存在于实际测量中，并且其危害十分严重。在变形监测中，往往因为测量数据不足或平差时过多选择附加参数，使未知参数最小二乘估值偏差太大且不稳定。 本文依据MATLAB 软件，结合实际测量数据，比较了各种不同正则化方法和直接解算方法削弱病态性的能力。根据比较结果，在设计矩阵病态性严重的情况下，常规最小二乘解根本不可靠，其变化规律为随着常数项误差扰动的大小而变化，误差越大，参数解扰动越大；常数项扰动误差不同，正则参数值不同。误差越小，所求的正则化参数越小，反之越大。求解效果好坏与法矩阵条件数大小不是完全对应的，常数项误差大时正则化参数值大，而法矩阵条件数小，但求解效果不如误差小的情况。即降低法矩阵条件数的同时应该兼顾考虑降低常数项扰动大小。最后以东山煤矿71505工作面变形监测数据为例，论述了正则化方法在测量实际中的应用。 关键词：正则化方法，病态性，变形监测，方法比较 1 绪论 通常称“解不连续依赖数据”的问题为不适定问题。它不满足：（1）解存在；（2）解唯一；（3）解稳定中的任何一个。而不满足条件(3)的问题，称为病态问题。 病态问题的研究主要有以下几个方面： 1.病态问题机理分析 对于Gauss Markov -模型[1]： 21 ()0,()L AX E D P σ-=+? ???=?=? （1-1） 通常采用最小二乘估计可以得到最优解[2]。但是，在一些情况下，如设计矩阵存在病态时，LS 估计解并不一定好，有时可能很不好。
病态性设计矩阵引起的病态效应主要表现在两个方面：一是计算方面，二是统计方面[3]。当条件数较大时，设计矩阵微小扰动造成LS 解大的变化；同时法矩阵中最小特征值相对于最大特征值较小，使得LS 估计值方差膨胀，影响LS 估计估值精度。 2.病态诊断方法研究 最小二乘估计在病态问题求解中变劣的原因主要为：矩阵T A A 存在很小的特征值和矩阵T A A 的最大特征值远远大于其最小特征值，即()cond N 远远大于1[4-9]，设计矩阵的列向量间存在严重的复共线性，LS 估计显著变劣，因此，在病态性的诊断中，主要在于确定设计矩阵复共线性存在位置。 3.病态减弱方法研究 病态问题减弱方法主要包括两大类：利用法方程解算[10-13]和设计矩阵直接解算[14-16]。利用法方程解算平差模型方法主要位岭估计。从设计矩阵直接解算平差模型，主要包括正交化方法和奇异值分解技术。 2 病态问题减弱方法研究 2.1 解的正则化表达 对于线性化模型： L CZ = （2-1） 式中Z 为待估参数；C 是系数阵。为使上式有唯一的稳定的解，构造光滑泛函： 2(,)()n P M Z L CZ L Z αα=-+Ω （2-2） 求解： 22=()min n n T Z P P CZ L Z CZ L Z P Z ααΦ-+Ω=-+= （2-3） 令0Z ?Φ =?，得到： 1?()T T n z n Z C PC P C P L α-=+ （2-4） 对于病态问题： L AX V =+ （2-5）
ADAMS VIEW 参数化和优化设计实例详解资料讲解
A D A M S V I E W参数化和优化设计实例详解
ADAMS/VIEW 参数化和优化设计实例详解本例通过小球滑落斜板模型，着重详细说明参数化和优化设计的过程。 第一步，启动adams/view（2014版），设置工作路径，设置名称为incline。 名称 存储路第二部，为满足模型空间，设置工作网格如图参数。 修改尺 第三部创建斜板。点击Bodies选项卡，选择BOX，然后建模区点击鼠标右键，分别设置两个点，坐标为（0,0,0）和（-500,-50,0），创建完模型，然后右键Rename，修改名称为xieban。
右键输入坐标，创建BOX rename 输入xieban
第四部创建小球。点击Bodies选项卡，选择Sphere，然后建模区点击鼠标右键，分别设置两个点，球心坐标为（-500,50,0）和半径坐标（-450,50,0），创建完模型，然后右键Rename，修改名称为xiaoqiu。 输入两点 Rename，及创建效 第五部创建圆环。点击Bodies选项卡，选择Torus，然后建模区点击鼠标右键，分别设置两个点，圆环中心坐标为（450,-1000,0）和大径坐标（500,-1000,0），创建完模型，然后右键Rename，修改名称为yuanhuan。完成后效果如下图：
第六部修改小球尺寸及位置。首先修改小球半径为25mm，在小球上右键，选择球体，点击Modify，然后设置如下图；然后修改小球位置，将Y坐标移到25mm处，选择Marker_2点，右键点击Modify，然后设置坐标位置如下图。 右键编辑球半径 修改半径为25
稀疏判别分析
稀疏判别分析 摘要:针对流形嵌入降维方法中在高维空间构建近邻图无益于后续工作，以及不容易给近邻大小和热核参数赋合适值的问题，提出一种稀疏判别分析算法（seda）。首先使用稀疏表示构建稀疏图保持数据的全局信息和几何结构，以克服流形嵌入方法的不足；其次，将稀疏保持作为正则化项使用fisher判别准则，能够得到最优的投影。在一组高维数据集上的实验结果表明，seda是非常有效的半监督降维方法。 关键词:判别分析；稀疏表示；近邻图；稀疏图 sparse discriminant analysis chen xiao.dong1*, lin huan.xiang 2 1．school of information and engineering, zhejiang radio and television university, hangzhou zhejiang 310030, china ; 2．school of information and electronic engineering,zhejiang university of science and technology, hangzhou zhejiang 310023, china abstract: methods for manifold embedding exists in the following
issues: on one hand, neighborhood graph is constructed in such the high-dimensionality of original space that it tends to work poorly; on the other hand, appropriate values for the neighborhood size and heat kernel parameter involved in graph construction is generally difficult to be assigned. to address these problems, a novel semi-supervised dimensionality reduction algorithm called sparse discriminant analysis (seda) is proposed. firstly, seda sets up a sparse graph to preserve the global information and geometric structure of the data based on sparse representation. secondly, it applies both sparse graph and fisher criterion to seek the optimal projection. experiments on a broad range of data sets show that seda is superior to many popular dimensionality reduction methods. methods for manifold embedding have the following issues: on one hand, neighborhood graph is constructed in such high.dimensionality of original space that it tends to work poorly; on the other hand, appropriate values for the neighborhood size and heat kernel parameter involved in graph construction are generally difficult to be assigned. to address these problems, a new semi.supervised dimensionality
Maxwell参数化建模和优化分析
Maxwell参数化建模和优化设计 1前言 随着产业升级，各领域工业产品的性能指标需求逐步提高，设计工程师们发现仅依靠理论 和经验难以完成设计任务，在这种情况下借助高性能计算机和专业的仿真设计软件，让“电脑”代替“人脑”从海量的解集中搜寻最优设计方案成为必然趋势，设计工程师正逐渐转变为优化 算法策略的设计者。 以电机设计为例，电机的设计参数众多，同时涉及到多物理场的强耦合，电机工程师面对 的是大规模、高难度的优化设计问题。解决如此复杂的工程问题有两个重要的基础工作：即建 立复杂的参数化几何模型和制定合理的多目标优化策略并高效实施。ANSYS Maxwell作为业界最佳低频电磁场仿真设计软件，提供了多种几何参数化建模的方法，适用于不同复杂程度的工 程问题；同时，借助于ANSYS Workbench平台电磁、结构、流体以及优化模块，可进行电机 多物理场耦合的多变量多目标优化设计，另外借助于ANSYS平台强大的并行、分布式计算能力，工程师可在最短的时间内对复杂优化策略进行分析和验证，快速实现产品迭代创新。本文 将从参数化建模、优化设计两个方面介绍Maxwell的相关功能。 2参数化建模 通常可以将模型的几何参数、材料属性、温度、激励等设计参数设置成变量，当改变变量 的时候，模型会自动更新，以达到参数化模型的目的。参数化模型的优点：对设计参数进行更 改后模型会自动更新，可以快速方便的调整模型；轻松定义和自动创建同一系列的模型；便于 参数分析和优化分析；便于灵敏度分析、统计分析、公差分析等。参数化模型的目的：对于在 校学生可以快速搞清设计参数与性能指标的关系，加深对理论的理解；对于仿真工程师而言缩 短了建模时间、提高工作效率；对于研发工程师是产品优化设计、创新设计的重要基础工作。 Maxwell可以实现的参数化设置如下： ①几何模型参数化； ②激励源/外电路参数化； ③材料属性参数化； ④温度参数化； ⑤网格参数化； ⑥求解设置参数化。 对于ANSYS Maxwell平台的仿真分析，我们可用的几何参数化建模方法大致分为以下八种，