基于最小均方误差的Tikhonov正则化参数优化研究
线性不适定问题中选取Tikhonov正则化参数的线性模型函数方法
线性不适定问题中选取Tikhonov正则化参数的线性模型函
数方法
王泽文;徐定华
【期刊名称】《工程数学学报》
【年(卷),期】2013(000)003
【摘要】如何选取正则化参数是不适定问题Tikhonov正则化的一个重要问题。
基于吸收的Morozov偏差原理，研究了正则化参数选取的线性模型函数方法。
在从Hermite插值角度导出线性模型函数后，讨论了选取正则化参数的两种线性模型函数算法(基本算法与改进算法)及其收敛性。
为克服基本算法的局部收敛性，提出了一种新的线性模型函数松弛算法。
并且，提出了两种具有全局收敛性的组合算法，即线性与线性模型函数算法、双曲型与线性模型函数算法。
数值实验说明了所提算法的有效性。
【总页数】16页(P451-466)
【作者】王泽文;徐定华
【作者单位】东华理工大学理学院，南昌 330013;浙江理工大学理学院，杭州310018
【正文语种】中文
【中图分类】O241
【相关文献】
1.求解大规模线性离散不适定问题的Arnoldi-Fractional Tikhonov正则化算法[J], 张慧
2.基于混沌粒子群算法的Tikhonov正则化参数选取 [J], 余瑞艳
3.非线性不适定问题的Tikhonov正则化的参数选取和收敛率(英文) [J], 金其年
4.一种选取线性不适定问题正则化参数的迭代算法 [J], 徐会林
5.非线性不适定问题的Tikhonov正则化的参数选取方法 [J], 金其年; 侯宗义因版权原因，仅展示原文概要，查看原文内容请购买。
基于Tikhonov_正则化改进的IHB法求解Mathieu-Duffing_系统多重解
第 62 卷第 5 期2023 年9 月Vol.62 No.5Sept.2023中山大学学报（自然科学版）（中英文）ACTA SCIENTIARUM NATURALIUM UNIVERSITATIS SUNYATSENI基于Tikhonov正则化改进的IHB法求解Mathieu-Duffing系统多重解*王德亮1，2，刘济科1，刘广1，21. 中山大学航空航天学院，广东深圳 5181072. 深圳市智能微小卫星星座技术与应用重点实验室，广东深圳 518107摘要：增量谐波平衡法（IHB法）是研究强非线性振动系统的一种半数值半解析方法，然而已有研究表明，在求解含多重解的系统时该方法的收敛性强烈地依赖于初值的选择。
Tikhonov正则化常被用于优化问题中来解决可能出现的病态问题。
文章通过在原始的IHB法中引入Tikhonov正则化，提出一种改进的IHB法（TIHB法）来求解具有多重解的Mathieu-Duffing系统。
结果表明，改进的TIHB法可以快速、高效地获得系统的多个稳定或不稳定解，且算法的收敛性能要远远优于原始的IHB法。
关键词：非线性振动；IHB法；Tikhonov正则化；多重解中图分类号：V21 文献标志码：A 文章编号：2097 - 0137（2023）05 - 0078 - 07Multiple solutions of the Mathieu-Duffing system obtainedby the improved IHB method based on Tikhonov regularizationWANG Deliang1，2， LIU Jike1， LIU Guang1，21. School of Aeronautics and Astronautics，Sun Yat-sen University， Shenzhen 518107， China2. Shenzhen Key Laboratory of Intelligent Microsatellite Constellation， Shenzhen 518107， ChinaAbstract：The incremental harmonic balance method （IHB method） is a semi-numerical and semi-ana‐lytical method for strongly nonlinear dynamic systems. However， previous studies have shown that the convergence performance of the original IHB method in solving systems with multiple solutions strong‐ly depends on the selection of initial values. The Tikhonov regularization is often used in optimization problems to solve potential ill-posed problems. In this paper， by incorporating the Tikhonov regulariza‐tion into the original IHB method， an improved IHB method （TIHB method） is proposed to obtain the multiple solutions of the Mathieu-Duffing system. The results show that the improved TIHB method can obtain the stable and unstable solutions of the Mathieu-Duffing system quickly and efficiently， and the convergence performance of the TIHB method is much better than the original IHB method.Key words：nonlinear vibration； IHB method； Tikhonov regularization； multiple solution现实中的各种振动系统都含有非线性因素（陈予恕，1992；陈树辉，2007；Amabili，2008）。
基于核的最小均方误差改进算法及其应用
［ Ａｂ ｓ ｔ ｒ ａ ｃ ｔ ］Ｔ ｈ ｅ ｏ ｉ ｒ ｇ ｉ ｎ ａ ｌ Ｋｅ ｒ ｎ ｅ ｌ — ｂ ａ ｓ ｅ ｄ ｍｉ ｎ ｉ ｍｕ ｍ Ｍｅ ａ ｎ Ｓ ｑ ｕ ａ ｒ ｅ Ｅ ｒ ｒ ｏ ｒ （ Ｋ ＭＳ Ｅ ） ａ ｌ ｇ ｏ ｉ ｒ ｔ ｈ ｍ， ｄ ｅ ｐ ｅ ｎ ｄ ｓ ｏ ｎ ａ ｎ ｕ ｍ ｂ ｅ ｒ ｏ ｆ ｅ ｑ ｕ ａ ｔ ｉ ｏ ｎ ｓ ｔ ｏ
２ ． 吉首大学物理科学与信息工程学院 ，湖南 吉首 ４ １ ６ ０ ０ ０ ）
摘 要： 传统基于核的最小均方误差（ Ｋ ＭＳ Ｅ ） 算法在进行人脸识别时， 需要求解多个方程，计算量较大。 为此，提出一种用
于 多类识别 的基于核 的多元最小均方误差（ Ｋ ＭＳ Ｅ ＭＣ ） 算法 ，该算法只需一个方程 即可 。在 Ａ Ｒ 人脸库上的实验及数据分析 表 明，该算法在 时间复杂 度和识别率等方面计算量较小 ，在识男 ０ 性能和计算 时间上都优于 同类传统算法 。 关健诃 ： 模 式识 别 ；人脸识 别 ；最小均方误差算法 ；基于 核的最小均方误差算法 ；时 间复杂度
ａ ｄ ｄ ｒ ｅ ｓ ｓ ｔ ｈ ｅ ｍｕ ｌ ｔ ｉ － ｃ ｌ ａ ｓ ｓ ｃ ｌ ａ ｓ ｓ ｉ ｉ ｆ ｃ ａ ｔ ｉ ｏ ｎ ｐ ｒ ｏ ｂ ｌ ｅ ｍ， ｗｈ ｉ ｃ ｈ ｃ ａ ｕ ｓ ｅ ｓ ａ ｌ ａ ｒ ｇ ｅ ｃ ｏ ｍｐ ｕ ｔ ａ ｔ ｉ ｏ ｎ ａ ｌ ａ ｆｏ ｒ ｄ ． Ａ ｎ ｅ ｗ ＫＭ Ｓ Ｅ ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ ｆ ｏ ｒ Ｍｕ ｌ ｔ ｉ — ｃ ｌ ａ ｓ ｓ
Tikhonov 方法在不适定模型修正中的应用
Tikhonov 方法在不适定模型修正中的应用邱飞力;张立民;张卫华【摘要】Along with the wide application of numerical analysis and modeling,getting a correct simulation model becomes an urgent requirement and consequently the parameter-sensitivity updating method has been developed rapidly. The direct least square method can't always get the steady physical solution in the cases of ill-posed target function equations and ill-conditioned sensitivity matrixes.The ill characteristics of the sensitivity matrixes and target function equations were investigated.A six-DOF discrete vehicle and a frame finite element model were updated with the Tikhonov regulation method by using the over determined and under determined simulation model respectively.The defect of the direct least square method was solved.The updated models reflect exactly the real mass and the size difference.of the structure.It's proved that the method is applicable in engineering practice.%数值建模和分析在结构动态设计中应用广泛，为获取准确的计算模型，基于参数灵敏度有限元修正技术得到迅速发展。
Tikhonov正则化参数的选取及两类反问题的研究的开题报告
Tikhonov正则化参数的选取及两类反问题的研究的开题报告题目：Tikhonov正则化参数的选取及两类反问题的研究一、研究背景和意义：随着科学技术的进步，反问题研究成为了最热门的研究领域之一。
反问题的研究涉及到的学科领域非常广泛，其中数学、物理和工程等领域是最为重要的。
反问题包括了许多子领域，如参数反问题、区域反问题、混合反问题等等。
其中参数反问题是最为基础和重要的子领域之一。
Tikhonov正则化方法在参数反问题中得到了广泛应用，因为它可以通过降低噪声波动和提高解的光滑性来改进问题的稳定性。
然而，在应用Tikhonov正则化方法时，如何选取正则化参数是一个非常重要的问题，因为不同的正则化参数会影响到结果的精度和稳定性。
此外，不同类型的反问题需要对正则化参数作出不同的选择，这也是一个需要进一步探究的问题。
因此，我们需要对Tikhonov正则化参数的选取以及在不同类型的反问题中的应用进行深入的研究。
二、研究内容和目标：本文将主要研究Tikhonov正则化参数的选取方法，探讨其在参数反问题和区域反问题中的应用。
具体研究内容包括以下几个方面：1. 对Tikhonov正则化方法的优化算法进行研究，包括最小二乘方法、正交匹配迭代算法等。
2. 针对参数反问题，研究不同类型的Tikhonov正则化方法与对应的正则化参数的选取方法，并比较其性能和精度。
3. 针对区域反问题，研究不同类型的Tikhonov正则化方法与对应的正则化参数的选取方法，并比较其性能和精度。
4. 开发相应的计算程序，实现研究结果的数值验证和实际应用。
通过以上研究，本文旨在实现以下目标：1. 系统性地总结不同类型的Tikhonov正则化方法与对应的正则化参数的选取方法，并探讨其适用范围和局限性。
2. 比较不同类型的Tikhonov正则化方法及其选取的正则化参数在参数反问题和区域反问题中的应用效果，提出相应改进措施，提高解的稳定性和精度。
3. 开发相应的计算程序，实现研究结果的数值验证和实际应用，为相关领域的研究提供参考。
基于核的最小均方误差改进算法及其应用
基于核的最小均方误差改进算法及其应用基于核的最小均方误差改进算法（KMSE）是核学习方法中的一种有效算法，有助于优化复杂和非凸问题。
近年来，KMSE算法已被用于许多领域，包括机器学习，模式识别，计算机视觉，信号处理和信息检索。
本文的目的是介绍KMSE算法的基本原理和其应用。
首先，我们讨论了KMSE算法在数学上表示的形式，并讨论了理论上的最优化步骤。
其次，文章探讨了KMSE算法在实际应用中的优势，例如抗噪性和收敛性。
最后，本文介绍了KMSE算法在几个重要领域的应用，这些领域包括机器学习，模式识别，计算机视觉，信号处理和信息检索。
第二部分：简介基于核的最小均方误差改进算法（KMSE）是一种有效的优化算法，用于求解复杂和非凸的优化问题。
它采用有效的平衡率来改善最小均方误差（MSE）算法。
该算法采用半正则化和全正则化方法来优化模型。
KMSE算法在实际应用中具有许多优势，这些优势包括抗噪性，收敛性，快速计算和自适应性。
第三部分：KMSE算法的基本原理KMSE算法是基于核函数的优化算法，它可以将非凸的优化问题转换为凸的优化问题。
它的基本原理是通过计算非线性核函数来实现。
KMSE算法的主要步骤是：（1）构造非线性核函数；（2）计算改进的最小均方误差；（3）设定正则化和反正则化系数；（4）选择最佳参数；（5）更新模型；（6）重复以上步骤，直到收敛为止。
第四部分：KMSE算法的实际应用KMSE算法在机器学习，模式识别，计算机视觉，信号处理和信息检索等领域都得到了广泛的应用。
例如，KMSE算法用于进行人脸识别，语音识别等任务。
另一方面，KMSE算法也可以用于信号处理，图像处理和机器学习等领域。
在信号处理领域，KMSE算法可以帮助优化信号参数，从而提高信号处理的性能。
此外，KMSE算法也可用于信息检索，以实现更快更准确的搜索速度。
第五部分：结论KMSE算法是一种高性能的优化算法，它可以解决复杂和非凸的优化问题，并且比传统的MSE算法更有效地为给定问题求解最优解。
改进的果蝇优化与Tikhonov正则化相结合的病态问题稳健解法_范千
第４５卷 第６期测 绘 学 报Ｖｏｌ．４５，Ｎｏ．６ ２０１６年６月Ａｃｔａ Ｇｅｏｄａｅｔｉｃａ ｅｔ Ｃａｒｔｏｇｒａｐｈｉｃａ Ｓｉｎｉｃａ Ｊｕｎｅ，２０１６引文格式：范千，张宁．改进的果蝇优化与Ｔｉｋｈｏｎｏｖ正则化相结合的病态问题稳健解法［Ｊ］．测绘学报，２０１６，４５（６）：６７０－６７６．ＤＯＩ：１０．１１９４７／ｊ．ＡＧＣＳ．２０１６．２０１５０６０６．ＦＡＮ Ｑｉａｎ，Ｚｈａｎｇ Ｎｉｎｇ．Ｉｌｌ－ｃｏｎｄｉｔｉｏｎｅｄ Ｐｒｏｂｌｅｍｓ Ｒｏｂｕｓｔ Ｓｏｌｕｔｉｏｎ ｏｆ Ｉｍｐｒｏｖｅｄ Ｆｒｕｉｔ Ｆｌｙ Ｏｐｔｉｍｉｚａｔｉｏｎ Ａｌｇｏｒｉｔｈｍ Ｃｏｍｂｉｎｉｎｇｗｉｔｈ Ｔｉｋｈｏｎｏｖ Ｒｅｇｕｌａｒｉｚａｔｉｏｎ Ｍｅｔｈｏｄ［Ｊ］．Ａｃｔａ Ｇｅｏｄａｅｔｉｃａ ｅｔ Ｃａｒｔｏｇｒａｐｈｉｃａ Ｓｉｎｉｃａ，２０１６，４５（６）：６７０－６７６．ＤＯＩ：１０．１１９４７／ｊ．ＡＧＣＳ．２０１６．２０１５０６０６．改进的果蝇优化与Ｔｉｋｈｏｎｏｖ正则化相结合的病态问题稳健解法范 千１，２，３，张 宁４１．福州大学土木工程学院，福建福州３５０１０８；２．桂林理工大学广西空间信息与测绘重点实验室，广西桂林５４１００４；３．精密工程与工业测量国家测绘地理信息局重点实验室，湖北武汉４３００７９；４．闽江学院物理学与电子信息工程系，福建福州３５０１０８Ｉｌｌ－ｃｏｎｄｉｔｉｏｎｅｄ Ｐｒｏｂｌｅｍｓ Ｒｏｂｕｓｔ Ｓｏｌｕｔｉｏｎ ｏｆ Ｉｍｐｒｏｖｅｄ Ｆｒｕｉｔ Ｆｌｙ ＯｐｔｉｍｉｚａｔｉｏｎＡｌｇｏｒｉｔｈｍ Ｃｏｍｂｉｎｉｎｇ ｗｉｔｈ Ｔｉｋｈｏｎｏｖ Ｒｅｇｕｌａｒｉｚａｔｉｏｎ ＭｅｔｈｏｄＦＡＮ Ｑｉａｎ１，２，３，ＺＨＡＮＧ Ｎｉｎｇ４１．Ｃｏｌｌｅｇｅ ｏｆ Ｃｉｖｉｌ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｆｕｚｈｏｕ Ｕｎｉｖｅｒｓｉｔｙ，Ｆｕｚｈｏｕ ３５０１０８，Ｃｈｉｎａ；２．Ｇｕａｎｇｘｉ Ｋｅｙ Ｌａｂｏｒａｔｏｒｙ ｏｆ ＳｐａｔｉａｌＩｎｆｏｒｍａｔｉｏｎ ａｎｄ Ｇｅｏｍａｔｉｃ，Ｇｕｉｌｉｎ Ｕｎｉｎｖｅｒｓｉｔｙ ｏｆ Ｔｅｃｈｎｏｌｏｇｙ，Ｇｕｉｌｉｎ ５４１００４，Ｃｈｉｎａ；３．Ｋｅｙ Ｌａｂｏｒａｔｏｒｙ ｏｆ ＰｒｅｃｉｓｅＥｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ｉｎｄｕｓｔｒｙ Ｓｕｒｖｅｙｉｎｇ ｏｆ Ｎａｔｉｏｎａｌ Ａｄｍｉｎｉｓｔｒａｔｉｏｎ ｏｆ Ｓｕｒｖｅｙｉｎｇ，Ｍａｐｐｉｎｇ ａｎｄ Ｇｅｏｉｎｆｏｒｍａｔｉｏｎ，Ｗｕｈａｎ４３００７９，Ｃｈｉｎａ；４．Ｄｅｐａｒｔｍｅｎｔ ｏｆ Ｐｈｙｓｉｃｓ ＆Ｅｌｅｃｔｒｏｎｉｃ Ｉｎｆｏｒｍａｔｉｏｎ，Ｍｉｎｊｉａｎｇ Ｕｎｉｖｅｒｓｉｔｙ，Ｆｕｚｈｏｕ ３５０１０８，ＣｈｉｎａＡｂｓｔｒａｃｔ：Ｂａｓｅｄ ｏｎ ｄｅｅｐｌｙ ａｎａｌｙｓｉｓ ｆｏｒ ｏｐｔｉｍｉｚａｔｉｏｎ ｐｒｏｃｅｓｓ ｏｆ ｂａｓｉｃ ｆｒｕｉｔ ｆｌｙ ｏｐｔｉｍｉｚａｔｉｏｎ ａｌｇｏｒｉｔｈｍ，ａｎｉｍｐｒｏｖｅｄ ｆｒｕｉｔ ｆｌｙ ｏｐｔｉｍｉｚａｔｉｏｎ（ＩＦＯＡ）ａｌｇｏｒｉｔｈｍ ｉｓ ｐｒｏｐｏｓｅｄ ｖｉａ ｃｈａｎｇｉｎｇ ｒａｎｄｏｍ ｓｅａｒｃｈ ｄｉｒｅｃｔｉｏｎ ａｎｄａｄｄｉｎｇ ｔｏ ａ ｔｕｎｉｎｇ ｃｏｅｆｆｉｃｉｅｎｔ ｏｆ ｓｅａｒｃｈ ｒａｄｉｕｓ．Ｍｏｒｅｏｖｅｒ，ｔｈｒｏｕｇｈ ｉｎｔｒｏｄｕｃｉｎｇ ｔｈｅ ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｔｅｒｍ ｏｆｏｂｊｅｃｔｉｖｅ ｆｕｎｃｔｉｏｎ ｉｎ ＩＦＯＡ ａｌｇｏｒｉｔｈｍ，ａ ｎｅｗ ｍｅｔｈｏｄ ｔｈａｔ ＩＦＯＡ ａｌｇｏｒｉｔｈｍ ｉｓ ｃｏｍｂｉｎｅｄ ｗｉｔｈ Ｔｉｋｈｏｎｏｖｒｅｇｕｌａｒｉｚａｔｉｏｎ ｍｅｔｈｏｄ ｉｓ ｐｕｔ ｆｏｒｗａｒｄ ｉｎ ｏｒｄｅｒ ｔｏ ｒｅｓｏｌｖｉｎｇ ｉｌｌ－ｃｏｎｄｉｔｉｏｎｅｄ ｐｒｏｂｌｅｍｓ．Ａｎａｌｙｓｉｓ ｒｅｓｕｌｔｓ ｏｆｐｒａｃｔｉｃａｌ ｅｘａｍｐｌｅ ｓｈｏｗ ｔｈａｔ ｓｏｌｕｔｉｏｎ ａｃｃｕｒａｃｙ ｏｆ ｎｅｗ ｍｅｔｈｏｄ ｉｓ ｓｕｐｅｒｉｏｒ ｔｏ ｇｅｎｅｔｉｃ ａｌｇｏｒｉｔｈｍ ａｎｄ ｓｉｎｇｌｅＴｉｋｈｏｎｏｖ ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｍｅｔｈｏｄ．Ｗｈｅｎ ｏｂｓｅｒｖａｔｉｏｎ ｃｏｎｔａｉｎｓ ｇｒｏｓｓ ｅｒｒｏｒｓ，ｔｈｅ ｄｅｖｉａｔｉｏｎ ｂｅｔｗｅｅｎ ｔｈｅ ｒｅｓｕｌｔｓａｎｄ ｔｈｅ ｔｒｕｅ ｖａｌｕｅ ｗｉｌｌ ｉｎｃｒｅａｓｅ ｒａｐｉｄｌｙ ｕｓｉｎｇ ｌｅａｓｔ ｓｑｕａｒｅ ｍｅｔｈｏｄ ｔｏ ｓｏｌｖｅ ｉｌｌ－ｃｏｎｄｉｔｉｏｎｅｄ ｐｒｏｂｌｅｍｓ．Ａｔ ｔｈｉｓｔｉｍｅ，ｔｈｅ ｎｅｗ ｍｅｔｈｏｄ ｈａｓ ｓｔｒｏｎｇ ｒｏｂｕｓｔｎｅｓｓ．Ｃｏｍｐａｒｅｄ ｗｉｔｈ ｉｎｔｅｌｌｉｇｅｎｔ ｓｅａｒｃｈ ｍｅｔｈｏｄ ｒｅｐｒｅｓｅｎｔｅｄ ｂｙｇｅｎｅｔｉｃ ａｌｇｏｒｉｔｈｍ，ｎｅｗ ｍｅｔｈｏｄ ｈａｓ ｔｈｅ ｃｈａｒａｃｔｅｒｉｓｔｉｃｓ ｏｆ ｌｅｓｓ ｐａｒａｍｅｔｅｒ，ｆａｓｔ ｃａｌｃｕｌａｔｉｏｎ ｓｐｅｅｄ，ｓｉｍｐｌｅｏｐｔｉｍｉｚａｔｉｏｎ ｐｒｏｃｅｓｓ．Ｉｔ ｉｓ ｍｏｒｅ ｐｒａｃｔｉｃａｌ ｉｎ ｉｌｌ－ｃｏｎｄｉｔｉｏｎｅｄ ｐｒｏｂｌｅｍｓ ｓｏｌｕｔｉｏｎ．Ｋｅｙ ｗｏｒｄｓ：ｆｒｕｉｔ ｆｌｙ ｏｐｔｉｍｉｚａｔｉｏｎ；ｒａｎｄｏｍ ｓｅａｒｃｈ ｄｉｒｅｃｔｉｏｎ；Ｔｉｋｈｏｎｏｖ ｒｅｇｕｌａｒｉｚａｔｉｏｎ ｍｅｔｈｏｄ；ｉｌｌ－ｃｏｎｄｉｔｉｏｎｅｄｐｒｏｂｌｅｍｓ ｓｏｌｕｔｉｏｎ；ｇｒｏｓｓ ｅｒｒｏｒＦｏｕｎｄａｔｉｏｎ ｓｕｐｐｏｒｔ：Ｎａｔｉｏｎａｌ Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅ Ｆｏｕｎｄａｔｉｏｎ ｏｆ Ｃｈｉｎａ（Ｎｏ．４１４０４００８）；Ｏｐｅｎ Ｆｏｕｎｄａｔｉｏｎ ｏｆＧｕａｎｇｘｉ Ｋｅｙ Ｌａｂｏｒａｔｏｒｙ ｏｆ Ｓｐａｔｉａｌ Ｉｎｆｏｒｍａｔｉｏｎ ａｎｄ Ｇｅｏｍａｔｉｃｓ（Ｎｏ．１１０３１０８－２１）；Ｏｐｅｎ Ｆｏｕｎｄａｔｉｏｎ ｏｆ ＫｅｙＬａｂｏｒａｔｏｒｙ ｏｆ Ｐｒｅｃｉｓｅ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ｉｎｄｕｓｔｒｙ Ｓｕｒｖｅｙｉｎｇ ｏｆ Ｎａｔｉｏｎａｌ Ａｄｍｉｎｉｓｔｒａｔｉｏｎ ｏｆ Ｓｕｒｖｅｙｉｎｇ，Ｍａｐｐｉｎｇａｎｄ Ｇｅｏｉｎｆｏｒｍａｔｉｏｎ（Ｎｏ．ＰＦ２０１５－１２）；Ｏｐｅｎ Ｆｏｕｎｄａｔｉｏｎ ｏｆ Ｊｉａｎｇｘｉ Ｐｒｏｖｉｎｃｅ Ｋｅｙ Ｌａｂ ｆｏｒ Ｄｉｇｉｔａｌ Ｌａｎｄ（ＤＬＬＪ２０１４０８）；Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ Ｄｅｖｅｌｏｐｍｅｎｔ Ｆｏｕｎｄａｔｉｏｎ ｏｆ Ｆｕｚｈｏｕ Ｕｎｉｖｅｒｓｉｔｙ（Ｎｏ．２０１４－ＸＱ－３３）摘 要：在对基本果蝇优化算法的优化流程进行深入分析的基础上，通过改变其随机搜索方向与增加搜索半径调整系数，给出了一种改进的果蝇优化算法（ＩＦＯＡ）。
不适定问题的tikhnonov正则化方法
不适定问题的tikhnonov正则化方法《不适定问题的tikhnonov正则化方法》一、Tikhonov正则化方法简介Tikhonov正则化方法是一种在不确定性情况下，以满足已获知条件来确定未知参数的数学方法，也称为受限最小二乘法（RLS）或Tikhonov惩罚。
它是拟合未知数据，裁剪异常数据或选择特征的常用技术。
它结合了线性代数的误差拟合和函数的模型，通过比较数据和模型来实现，并且可以消除装配数据较大的噪声。
它广泛应用于各种领域，如机器学习，图像处理，测量信号处理，医学成像，数据拟合等。
二、不适定问题不适定问题指的是拟合数据时，没有明确地标定未知数据范围或转换规则，需要解决大量不完全未知因素时，所面临的问题。
在大量实际问题中，存在着许多模型参数或者说未知量，通常我们是模糊不清的，不知道未知量到底应该取多少值，这些未知量和现实世界紧密相连，因此，很难准确的给出未知量的取值范围，这样的问题就称之为不适定问题。
三、Tikhonov正则化解决不适定问题的方法Tikhonov正则化是极其重要的方法，可以有效地解决不适定问题。
它主要基于几何形式的最小二乘拟合方法，考虑多个参数逐步克服受限性，增加惩罚力度，以抑制不具可解释性，存在明显异常点的资料变化，有效影响拟合数据偏离未知数带来的影响，使数据拟合的更加准确，能够比较准确的拟合复杂的函数。
四、Tikhonov解不适定问题优势所在Tikhonov正则化的主要优点有两个：一是克服参数之间的相关性，从而减少误差拟合；二是增加惩罚力度，从而抑制异常点。
此外，他还可以从数据中提取出更多有用的信息，增强无关事实的辨认能力，减少参数数量，从而确保拟合信息具有更强的准确性和可靠性。
因此，Tikhonov正则化有助于更好地解决不适定问题，能够提高模型的分类概率，以达到解决不适定问题的最佳效果。
五、总结Tikhonov正则化方法是一种有效地解决不适定问题的方法，它可以通过比较有约束的正则误差与受限的最小二乘拟合的误差之间的差异来拟合数据，克服参数之间的相关性，准确作出拟合结果，提高模型的分类概率，减少参数数量，以达到解决不适定问题的最佳效果。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
基于最小均方误差的Tikhonov正则化参数优化研究摘要：本文首先介绍了求解病态方程的L-曲线法、GCV法等常用的方法，然后提出了基于最小均方误差的最优Tikhonov正则化求解参数的方法。
通过仿真实验表明，本文提出的基于最小均方误差的Tikhonov正则化参数优化选择方法是一种可行有效的方法。
关键字：Tikhonov正则化、均方误差、病态问题Based on the minimum mean square error of Tikhonov regularizationparameter optimization researchAbstract:This paper first introduces the morbid equation of L - curve method, GCV method such as the commonly used method, and then based on the minimum mean square error of the optimal Tikhonov regularization method to solve the parameter. Through the simulation experiments show that the proposed based on the minimum mean square error of Tikhonov regularization parameter optimization selection method is a feasible and effective method.Key words: Tikhonov regularization, mean square error (mse), pathological problems1 引言求解线性不适定问题的正则化方法中，应用最广泛也最经典的是Tikhonov正则化方法[1]。
随着各个领域中数据的处理中应用多种不适定问题的正则化方法，Tikhonov正则化方法是比较常见也是应用比较广泛的方法。
该方法可以解决不同领域中不适定问题的纠正，地震中发射波长中的应用、电容层析成像图像重建、无线传感器网络实现监测和跟踪等病态问题中均可以应用Tikhonov正则化方法。
本文通过对Tikhonov正则化方法中常见的L-曲线法和GCV 法进行分析Tikhonov正则化方法的特点，通过L-曲线法和GCV法进行Tikhonov正则化方法参数的确定，从而确定基于最小均方误差的Tikhonov正则化优化参数，并通过仿真实验进行验证，从而确定基于最小均方误差的Tikhonov正则化优化参数可行。
从而为更深入的研究提供可靠依据。
2迭代Tikhonov正则化方法参数确定方法：目前正则化参数的选择有先验和后验两种方法。
用先验法选择正则化参数时，都需要预先对于原始数据的误差水平做出估计，但在大多数情况下这是难以做到的。
后验取法可以直接应用带有噪音的原始数据对正则化参数作出估计。
2.1L-曲线法L-曲线法是一种较成熟的方法，L-曲线法是利用对数尺度来描述残差范数和解的限制范数的曲线对比，该方法的特征是对数尺度图形中出现明显的L形状曲线，曲线拐点所对应的正则化参数作为优化参数[2-3]。
其以对数作μ=lgII BXα-LII P为横坐标，纵坐标为ν=lgIIXαII k，同时采用α为参变量，从而形成类似“L”的形状，因此称为L-曲线法。
参考文献[2]推算出L-曲线法数学公式为：其中。
μ、。
μ、。
ν、。
ν是二阶和一阶导数，L为观测向量，B为设计矩阵。
通过这个计算公式就可以计算出α为参变量。
2.2GCV法[4]GCV法是广义交叉验证算法的简称，可以用于求取正则化参数，也是采用α为参变量，α为参变量的计算公式：其中H(α)=B(BPB+αI)-1BP，tr(·)为矩阵的迹，L为观测向量，B为设计矩阵。
3 基于最小均方误差的Tikhonov正则化参数优化正则化参数α的估计公式的优化过程，通过大量公式的换算，从而最终确定正则化参数α的估计公式[5]。
Gauss-Markon模型[6]为（1）从这个公式可以得到E（L）=BX，结合L-曲线法的公式（2）可以得到下面的公式：（3）当将R=（B、PB）-1B、PL，就可以得到估值与真值的偏差量的期望值β=E(X^-X)=EX^-X=E(RL)-X=RE(L)-X=-[I m-RB]X，参数估值方差阵（4）的公式，从这个公式就可以得到均方误差（5）为（4）（5）其中rank（X）=rank（XX'）=1，通过换算得到（6）于是就可以得到均方误差的公式：（7）在进一步优化，从而得到最后的正则化参数a的估计公式的优化公式：（8）通过这个正则化参数α就可以计算出公式中任何一个参数指标。
4 仿真实验与结果4.1 基于本文方法的仿真试验与结果以某支架结构模型为例子进行分析，由三种类型钢材组成，槽钢、方钢和角钢，得到方程模拟真值L~=[-10.6，10.55，1.5，12.1，15.1，-0.11，21.2，1.7，9.2，11.9]，模拟观测值为L=[-10.3，10.4，1.6，12.2，14.1，-0.15，21.2，1.6，9.1，12.3]，从而得到Cond(N)=1.5×106>>1000，可见该方法的病态问题很严重，需要进行纠正，进行正则化参数α进行纠正处理。
4.2 与其他方法的比较对上述处理的病态数据进行正则参数优化方法、L-曲线法、GCV法、岭估计法进行纠正分析的比较，具体结果见表1，由表1可知采用正则参数优化方法计算得到的正则参数α是最小，而且ΔX数值也是最小，因此产生的误差也最小；而采用岭估计法得到正则参数α最大，而且得到ΔX数值也是最大，由此可见采用本文优化的Tikhonov正则化参数得到的正则参数α，而且ΔX数值也是最小，更适合实际的应用中的计算，而采用L-曲线法、GCV法得到正则参数α和ΔX的数值基本差不多，比正则参数优化方法差一些，比岭估计法要好一些。
表1 正则参数及ΔX的对比方法正则参数αΔX 正则参数优化方法0.0068 0.0985 L-曲线法0.202 0.724GCV法0.159 0.698岭估计法0.299 0.7585 讨论将Tikhonov正则化法应用于实际的应用的方法的研究比较多，张路寅[7]等人不适定问题的迭代Tikhonov正则化方法中说到对不适定问题也就是病态问题进行计算中推导出正则滤波函数的性质，通过公式的推算得出误差估计的收敛阶达到最优状态时得到的数据，比将参数α看作正则化参数更容易计算。
并通过实例证实了该方法可以更好的解决实际中误差的计算，解决了Tikhonov正则化参数α计算的繁琐。
余瑞艳[8]对基于混沌粒子群算法的Tikhonov正则化参数选取的分析中发现将混沌粒子群优化算法与Tikhonov正则化方法相结合，利用混沌粒子群优化算法的优势对Tikhonov正则化方法进行优化改进，并对实际的病态问题进行解决，证明了该方法是一种比较有效的数据处理方法。
不同的理论得到的Tikhonov正则化法的参数计算公式不同，但是都是通过Tikhonov正则化法的优化从而得到更适合该领域的一些数据的处理，从而得到更简便的计算方法，更有效的利用于繁琐的计算中，对大量数据的处理提供简便的方法。
数学物理反问题已成为计算数学与应用数学中发展和成长最快的研究课题，在解决这些病态问题的计算中，数学方法公式的应用也是被广泛应用的方法，而Tikllollov正则化方法的应用也是解决当前各个数据处理领域提供了一个很好的平台。
Tikllollov正则化方法求解的精度很大程度上取决于正则化参数的选取，基于不同的理论得到的正则化参数不同，前面的研究中提到基于混沌粒子群优化算法可以得到简便的Tikllollov正则化方法正则化参数的计算公式，本文中得到的正则化参数是基于最小均方误差，得到的参数公式对计算一些实际的案例比较实用。
但是不同Tikllollov正则化方法中优化的参数计算，要比常见的L-曲线法、GCV 法、岭估计法等方法具有一定的优势，本文通过对比也证明了采用Tikllollov正则化方法中优化的参数公式计算参数α，可以更好的减少误差的发生。
对于解非线性不适定问题如何使用进行Tikllollov正则化方法，也有笔者通过分析解决了这个问题，此学者采用对修正的三阶牛顿法进行Tikhonov正则化，从而得到新的迭代格式[9]，这样就可以很好的解决非线性不适定问题，但是此学者没有进行实际的仿真数据的验证试验，因此不能很好的证明此方法是否真的能解决解非线性不适定问题。
因此对此问题需要深入的分析。
杨润生[10]等人对一类非线性不适定问题的Tikhonov正则化的分析中发现利用双参数进行Tikhonov正则化的分析，引入了带闭线性算子，利用最小的问题进行逼近处理，从而得到双参数，但是此方法也没有进行试验的证明。
也有学者[11]对线性问题进行Tikllollov正则化方法参数公式的选取，分析中基于阻尼Morozov差异原则进行Tikllollov正则化方法参数的选取，通过选取和试验证实采用方法得到的Tikllollov正则化方法参数对计算一些领域的误差具有一定的作用。
朱南海[12]等人进行另一种方法的Tikllollov正则化方法参数的计算，基于遗传算法进行Tikllollov正则化方法参数的计算，此方法也是采用广义交叉准则(GCV)、L-曲线准则和Engl 误差极小化准则为目标函数，基于遗传算法，从全域内获得正则参数的最优值。
并进行了试验验证，验证了此方法得到的Tikllollov正则化方法参数的优化参数公式可以用于实际的误差计算，解决病态问题。
其他人[13-14]也进行不同Tikllollov正则化方法参数的优化参数公式的选取，旨在为更好更简便的解决实际中的病态问题得到最佳的优化参数，目的也是减少实际中误差的存在。
而且通过试验也对Tikllollov正则化方法参数的优化参数公式得到的数值进行证明，验证该方法的可行性和有效性。
6 总结本文通过大量的借阅其他学者的研究，从而得到基于最小均方误差的Tikhonov正则化参数优化的公式，从而为解决一些领域的病态问题具有很好的利用价值。
在确定Tikhonov正则化参数时应用了观测值和真值，依据这些信息可以推导出均方误差最小的情况下计算正则参数值的数学公式，此数值不仅可以保证误差最小，而且避免了岭估计方法中的岭参数选取的主观性。
更好的解决实际中的病态问题，通过试验也验证了此方法计算的参数值比较小，而且误差也比较小，明显比L-曲线法、GCV法、岭估计方法得到的数值有效。