ZTEM二维非线性共轭梯度反演研究
非线性共轭梯度法
非线性共轭梯度法
（Nonlinear Conjugate Gradient Method）
非线性共轭梯度法是一种基于梯度的迭代优化方法，用于求解无约束最优化问题，即求解目标函数f(x)的最小值。
它可以用来求解深度神经网络中参数的最优化。
非线性共轭梯度法的基本思想是利用梯度下降法的思路，但是在每次迭代时都会调整步长，使得每次迭代可以尽可能地朝着最优解方向前进。
该方法有两个重要特征：1）步长调整。
2）共轭梯度（CG）。
步长调整：在每次迭代中，搜索方向不仅可以与梯度方向一样，而且也可以与之前的搜索方向有一定的关系。
通过调整步长，可以把搜索方向调整到最优方向，从而更快地收敛到最优解。
共轭梯度：对于多维的优化问题，搜索空间是一个高维空间，如果每次都沿着梯度方向搜索，就容易陷入局部最优解。
为了避免这种情况，非线性共轭梯度法引入了共轭搜索方向，即在每次迭代中，新的搜索方向都与上一次的搜索方向有一定的关系。
这样做的好处是，在不断地迭代中，法线方向也可以被搜索到，从而可以跳出局部最优解，有效地收敛到全局最优解。
共轭梯度法求解非线性多宗量稳态传热反问题
收稿日期:2002-04-01;修改稿收到日期:2003-07-08~基金项目:教育部骨干教师资助计划(2000-65);973项目NKBRSF (G 1999032805);教育部重点基金(99149);国家自然科学基金重点基金(10032030)资助项目~作者简介:薛齐文(1976-),男,博士.杨海天 (1956-),男,教授,博士生导师~第22卷第1期2005年2月计算力学学报Chinese Journal of Computational Mechanics VOl .22,NO .1February ==================================================================2005文章编号:1007-4708(2005)01-0051-04共轭梯度法求解非线性多宗量稳态传热反问题薛齐文,杨海天(大连理工大学工程力学系工业装备结构分析国家重点实验室,辽宁大连116023)摘要:应用共轭梯度法求解非线性多宗量稳态热传导反问题G 采用八节点的等参单元在空间上进行离散,建立了便于敏度分析的非线性正演和反演的有限元模型,可直接求导进行敏度分析G 给出了相关的数值验证,对测量误差及测点数目的影响作了初步探讨,结果表明,采用的算法能够对非线性稳态热传导中导热系数和边界条件联合反问题进行有效的求解,并具有较高精度G 关键词:热传导;反问题;非线性;共轭梯度;多宗量中图分类号:0482.2文献标识码:A1引言热传导反问题是一个有广泛实际应用前景[1]的交叉研究领域,并取得了不少研究成果:如对热物性参数的识别[2],对边界条件的识别[3],以及对反演算法的研究[4]等等G 由于热传导反问题的研究历史相对比较短,加之反问题的不适定性和非线性,以及实际问题的复杂性,使得求解远比正问题复杂和困难得多G 许多工作在理论计算和应用上都需要进一步的探讨,如:目前工作多侧重于对特定宗量的反演,而考虑对材料,源项,边界条件等多宗量的综合反演模型还不多见G Tseng 等人[5]曾提出对未知变量为导热系数,边界温度和边界热流两两组合时的反演算法,但只有少量的数值试验G此外,抗不适定性研究一直是传热反问题中的研究重点之一[1],针对正则化方法中选择正则函数,正则化次序,正则化参数方面的困难,文献[6]将共轭斜量法应用于热传导反问题的求解中,并收到了较好的效果G 胡[7]采用共轭梯度法对稳态线性问题进行了多宗量反演,收到了较好的结果,但未对非线性的多宗量问题进行求解G鉴于以上考虑,本文借助恰当的空间离散技术,建立了考虑多宗量并且适于正,反问题敏度分析的一般非线性稳态热传导数值正演模型,采用共轭梯度法对导热系数和边界条件的多宗量混合反问题进行求解G 计算表明,所提算法在求解非线性问题时具有较高的精度和较好的抗不适定性,此外,对测点数目和信息误差的影响进行了初步的探讨G2稳态热传导问题的有限元列式稳态传热问题的控制方程可写为[8](k zj T ,j ),z +0=0:z G 0(1)式中k zj 为导热系数,T 为温度,0为源项有关项,0和:z 分别为所论问题的域和坐标向量G 下标z,j(z,j =1~3)为求和指标.,z,j 的大小表示问题维数G 边界条件可写为[8]T =T:z G 1(2)n z (k zj T ,j )+G +h(T -T 0)=0:z G 2(3)这里 = 1+ 2为0的边界,T,G,h 和T 0分别为给定函数G利用加权技术和散度定理[8],式(1)可写为[K]{T}=[K P ]{T}+[B]{G}+[B 1]{h 1}+[B 2]{0}(4)其中{T}为不包括给定值在内的节点温度向量,{T},{G},{h 1}和{0}分别为T,G,hT 0和0的节点向量,[K]和[K P ]是与导热系数有关的矩阵,[B],[B 1],[B 2]是与边界热流,热交换系数和内热源相关的矩阵G 进行有限元分析时,采用八节点等参单元G3非线性热传导问题的反演研究假定k ij 为非线性 其它非线性宗量的处理可按以下相同的方式进行O 简明起见 以下推导中略去了 K P ]和h 的有关项 这并没有原则上的影响O记k ij =k ij (T 9) 将其重新排列并进行离散积分 式(4)可写作eFijlm(9 T j )M ijlm {T}={f}(5)其中F ijlm 为一个已知函数 9为非线性导热系数向量 T j 为单元级的节点温度向量 M ijlm 为常数矩阵 {f}为当量右端向量O i j m l 为求和指标 i j =1 2 3 m n 取决于高斯积分点的个数O9可利用以下泛函的极小化求解H({9})=12({T P } L]{T})T ({T P } L]{T})(6)这里T P 为测点的温度信息 L]为一个转换矩阵O 泛函的极小化可以借助共轭梯度法实现 8]O 上式又可如下表示J({9})=12({T P } L]{T})T ({T P } L]{T})(7)两边同时对未知参量9微分得到目标函数对未知量的一阶导数:v J(9)=G T L T (T P L{T})(8)这里G =8{T}89可由式(5)求得8{T}89= e F ijlm M ijlm + eM ijlm {T}8F ijlm 8T j S ()j 1eMijlm{T}8F ijlm89(9)指标j 不求和O 需要指出 在G 的形成中 首先要求解一个关于{T}的非线性正问题 这可通过Newton-Raphson 算法 9]来实现{T}i+1={T}i +{AT}(10)8R8{T}{AT}= R (11)这里下标i 为迭代次数OR =eFijlm(9 T j )M ijlm {T} {f}(12)R 对{T}的敏度可由式(9)的直接微分得到8R8{T}= e F ijlm (9 T J)M ijlm + eM ijlm {T}8F ijlm8T j S j (13)其中T j =S j {T}(14)S j 是一个转换矩阵O4共轭梯度法的实施将所有的未知变量统一记为{9} 并表示为{9}T ={{91}T {92}T {93}T {94}T {95}T{96}T {97}T }(15)即{9}T ={{k 0}T {k 1}T {T ~}T {g ~}T{h ~}T {h ~1}T {@~}T}1.选取待反演变量的初值90(这里代表未知变量)和设置n =0O2.利用Newton-Raphson 算法求解T(9n ) 并利用式(7)求解J(9n )O3.利用式(8)求解v J n 和v J n 1;n =0 则E =0 否则E n=<v J(9n ) v J(9n ) v J(9n 1)> v J(9n 1) 2(16)n =0时 P 0=v J(90);否则 P n =v J(9n )+E n -P n+1 同时令82n =P n O4.求解温度项的敏度系数:dT(9n )d9nj7n=N j=1mi=1T(9n) T]P-89n-dT(9n )d9]()n jN j=1mi=189n-dT(9n )d9]n j()2(17)(N =1时 算子退化为文献 6]中的形式)5.令:9n+1=9n+7n P n(18)6.如果J(9n+1)>J(9n ) 那么退出循环;否则回到第二步继续循环O这里J(9)为目标函数 9为待反演的变量 n 为反演变量迭代的步数 m 为测量点的个数 N 为待反演变量的数目 T P 为测点的温度信息O5数值算例和结果分析为了计算方便 假定所有参数为无量纲O 由三种不同导热系数材料组成二维平板 导热系数是温度的函数k =k 0+k 1T 长宽各为0.5m 板的左侧和上侧均为第一类边界条件 结点温度线性分布 右侧为第三类边界条件 h 分为3个区 外界物体的温度呈线性分布 下侧为第二类边界条件 g 分为三个区 板内有热源 均匀放热 相关的数据为K(I )=2.0+0.01 T K(1)=4.0+0.03 T K(1)=6.0+0.05 T-25-计算力学学报第22卷图1二维方板网格划分Fig.1The tWo-dimension slab and Fe meshT(1)=100.0 T(86)=150.0T(96)=100.0(端点的温度)g1=-120.0 g2=-130.0 g3=-140.0 (1~5为1区5~7为I区7~11为I区g为每个区域上的边界热流)h1=20.0 h2=15.0 h3=10.0(I区(11~45)I区(45~79)I区(79~96) h分别为各个区域上的热交换系数)T0(11)=50.0 T0(96)=25.0(相邻外界物体的节点温度)@=20.0O现根据板中各测点已知温度信息识别各相关参数O测点的信息由U=(1+%6)U0给出U为采样点温度信息的真实值由正演算法给出6为随机误差的标准差为服从正态分布的一系列的随机数O 在考虑测点数对反演结果的影响时测点的测量数据不含有测量误差测点均匀分布在板内;在考虑数据噪音对反演结果的影响时假设计算所得的温度加上具有服从标准正态分布特性的误差来模拟观测的温度值利用n组测量数据进行计算求得反演变量的数学期望和置信区间其置信区间由bt(1- /2 n-1)S/n1/2来确定[10]b为平均值t为具有自由度(n-1)的t-分布在置信度为1-/2下的值S为样本均方差O表中给出n=40时的计算平均值及其在97.5%保证率下的置信区间O例1整个区域中K(I)未知第二类边界条件上g1g2未知其他各参量均已知反演结果见表1和表2O表1测量误差对解的影响Tab.1The effects of data noise on the solution 变量6置信区间0.001置信区间0.005精确值k0 3.9945 3.675e-2 4.0136 1.921e-1 4.00 k1 3.0072e-2 5.218e-4 2.9874e-2 2.718e-3 3.00e-2 g1-120.005 1.293e-1-119.926 6.241e-1-120.00 g2-130.010 4.603e-2-130.137 2.481e-1-130.00表2测点数目对解的影响Tab.2The effects of the number of samplepoints on the solutions精确值40测点30测点20测点15测点4.00 4.0000 4.0000 4.0001 4.0000 3.0e-2 3.000e-2 3.000e-2 3.000e-2 3.000e-2-120.0-120.000-120.000-120.000-120.000 -130.0-130.000-130.000-129.999-129.999迭代次数130307256236例2整个区域中K(I)未知第三类边界条件上h1h2未知其他条件均已知反演结果见表3和表4O表3测量误差对解的影响Tab.3The effects of data noise on the solution 变量6置信区间0.001置信区间0.005精确值k0 3.99519.818e-3 4.0211 1.479e-1 4.00 k0 3.0071e-2 1.353e-4 2.9703e-2 1.963e-3 3.00e-2 h120.0157 3.680e-219.9266 2.434e-120.00h215.00757.354e-314.9643 2.711e-115.00表4测点数目对解的影响Tab.4The effects of the number of samplepoints on the solutions精确值40测点30测点20测点15测点4.0 4.0001 4.0001 4.0001 4.0001 3.0e-2 3.000e-2 3.000e-2 3.000e-2 3.000e-220.019.999719.999519.999819.999815.015.000014.999914.999914.9998迭代次数255196195197计算结果表明(1)本文提出的方法可对非线性稳态热传导问题中导热系数和边界条件联合反问题进行有效的求解并且具有较高的精度O(2)本文所采用的算法具有较好的稳定性和抗不适定性O(3)测点在保证问题适定性的前提下测点的多少对反演结果基本上没有影响只会影响迭代次数O(4)由于各参量对温度场的影响不同温度场对各类未知参量的敏度也不同O当导热系数为非线性时收敛的速度较慢反演迭代的次数较多O(5)测量误差对反演结果有一定的影响并对不同的反演变量有所不同O对流系数和导热系数对误差影响较为敏感O35第1期薛齐文等共轭梯度法求解非线性多宗量稳态传热反问题6结论本文所提出的基于共轭梯度技术的稳态非线性传热反问题的求解方法 可对热物性参数及边界条件进行有效的单个和联合识别O 所建立的正演有限元模型 不仅可考虑复杂的边界条件 也便于敏度分析O 数值结果表明 所采用的算法在求解非线性问题时具有较高的精度和较好的抗不适定性 有望进一步用于求解非线性瞬态反问题O参考文献(Ref erelces ):[1]黄光远 刘小军.数学物理反问题[M ].济南:山东科学技术出版社 1993.(HUANG Guang -yuan LIU Xiao -jun .Inzersproblems in Mathematics anc Physics [M ].Jinan :Science and Technology Press ofShandong 1993.(in Chinese ))[2]Terrola P .A method to determine the thermal condu -ctivity from measured temperature [J ].International ournal of Heat anc Mass Transfer 1989 32:1452-1430.[3]Alifanov O M .Solution of an inverse problem ofheat conduction by iteration methods [J ]. ournal of Engineering Physics 1972 26:471-476.[4]Scarpa F Milano G .Kalman smoothing techni g ue applied to the inverse heat [J ].N umerical HeatTransfer Part B 1995 28:79-96.[5]Tseng A A Chen T C Z hao F Z .D irect sensitivity coefficient method for solving t W o -dimension inverse heat conduction problems by finite -element scheme [J ].N umerical Heat Transfer Part B 1995 27:291-307.[6]HUANG Cheng -hung CH E N Chun -W ei .A bounda -ry element based inverse problem of estimating boundary condition in an irregular domain W ith statistical analysis [J ].N umerical Heat Transfer Part B 1998 33:251-268.[7]Y ANG Hai -tian HU Guo -jun .Solving inverse heat conduction problems W ith multi -variables in steady -state via conjugate gradient method [J ]. ournal of B asic cience anc Engineering 2002 10(2):174-181.[8]Le W is R W Morgan K Thomas H R .The F inite Element Methoc in Heat Transfer A nalysis [M ].UK :John W iley Sons 1996 11-29.[9]Jarny Y Osi Z i k M N B ardon J P .A general opti -mi Z ation method using adjoint e g uation for solving multidimensional inverseheatconduction [J ].Internal ournal of Heat anc Mass Transfer 199134:2911-2919.[10]Tervola P .A method to determination the thermalconductivity from measured temperature profiles [J ].Int Heat Transfer 1989 32(8):1425-1430.SolVi l g l o l -li le a r i l V erse h e at c o l du c tio l p r obl e m s with multi -Va r iabl esi l s t e ady s tat e Via c o l j ugat e g r adi el t m e thodXU E O i -W en Y ANG Hai -tian%(D ept .of E ngineering Mechanics State Key Lab .of Structural Analysis for Industrial Eg uipmentD alian University of Technology D alian 116023 China )b s t r ac t :In this paper the conjugate gradient method is employed to solve non -linear inverse heat conduction problems W ith multi -variables in the steady state .The eight -point finite element is used for the discreti Z ation in the space system .The finite element model is given facilitating to sensitivity analysis for non -linear direct and inverse problems .Several numerical e X amples are introduced to successfully verify the results in the paper .The preliminary investigation of effect of noise data and the number of sample points on the results are given .R esults sho W that the proposed method can identify single and combined non -linear thermal parameters and boundary conditions for non -linear inverse conduction problems in the steady state W ith high precision .K e y wo r d s :heat conduction ;inverse problem ;non -linear ;conjugate gradient method ;multi -variables45 计算力学学报第22卷共轭梯度法求解非线性多宗量稳态传热反问题作者：薛齐文， 杨海天， XUE Qi-wen， YANG Hai-tian作者单位：大连理工大学 工程力学系 工业装备结构分析国家重点实验室,辽宁 大连 116023刊名：计算力学学报英文刊名：CHINESE JOURNAL OF COMPUTATIONAL MECHANICS年，卷(期)：2005,22(1)被引用次数：5次1.黄光远;刘小军数学物理反问题 19932.TerrolaP A method to determine the thermal condu-ctivity from measured temperature 19893.AlifanovOM Solution of an inverse problem ofheat conduction by iteration methods[外文期刊] 19724.ScarpaF;Milano G Kalman smoothing technique applied to the inverse heat[外文期刊] 1995(1)5.TsengAA;Chen T C;Zhao F Z Direct sensitivity coefficient method for solving two-dimension inverse heat conduction problems by finite-element scheme[外文期刊] 1995(3)6.HUANGCheng-hung;CHEN Chun-wei A bounda-ry element based inverse problem of estimating boundary condition in an irregular domain with statistical analysis 19987.YANGHai-tian;HU Guo-jun Solving inverse heatconduction problems with multi-variables in steady-state via conjugate gradient method[期刊论文]-Journal of Basic Science and Engineering 2002(02)8.LEWISRW;Morgan K;Thomas H R The Finite Element Method in Heat Transfer Analysis 19969.JarnyY;Osizik M N;Bardon J P A general opti-mization method using adjoint equation for solving multidimensional inverse heat conduction 199110.TervolaP A method to determination the thermal conductivity from measured temperatureprofiles 1989(08)1.杨海天.胡国俊.薛齐文共轭梯度法求解稳态传热组合边界条件反问题[期刊论文]-大连理工大学学报2003,43(2)2.薛齐文.杨海天.XUE Qi-wen.YANG Hai-tian共轭梯度法求解双曲传热多宗量反问题[期刊论文]-计算物理2005,22(5)3.薛齐文.杨海天.杜秀云同伦正则化算法求解多宗量瞬态传热反问题[会议论文]-20044.吴洪潭.LI Xi-jing.WU Hong-tan.LI Xi-jing边值传热反问题误差评估的正则化仿真模型[期刊论文]-系统仿真学报2008,20(6)5.薛齐文.杨海天共轭梯度法求解双曲传热多宗量反问题[会议论文]-20046.胡国俊传热中的多宗量反演研究[学位论文]20027.薛齐文.杨海天.Xue Qiwen.Yang Haitian二阶非定常多宗量热传导反问题的正则解[期刊论文]-力学学报2007,39(6)8.杨海天.胡国俊共轭梯度法求解多宗量稳态传热反问题[期刊论文]-应用基础与工程科学学报2002,10(2)9.薛齐文.杨海天.胡国俊共轭梯度法求解瞬态传热组合边界条件多宗量反问题[期刊论文]-应用基础与工程科学学报2004,12(2)10.薛齐文.杨海天.XUE Qi-wen.YANG Hai-tian多宗量一维瞬态非线性热传导反问题的正则解[期刊论文]-工。
基于二维数据的加权非线性共轭梯度三维反演
基于二维数据的加权非线性共轭梯度三维反演韩雪;强建科;鲁凯;李俊营;满开峰;毛先成【摘要】针对当前电阻率数据的解释仍以二维反演为主,而地下为三维结构的情况,研究起伏地形条件下三维源二维采集方式获取的多条测线测深数据的三维反演问题.正演算法采用三棱柱剖分的有限单元法,可以模拟起伏地形下的复杂模型;在求解大型线性方程组时采用了不完全乔利斯基分解回代技术,大大提高了三维多点电源的正演计算速度;在计算偏导数矩阵过程中,依据互换原理,只需有效组合正演时每个点电源所对应的节点电位便可得到偏导数矩阵,节约大量计算时间.其次三维反演算法采用加权正则化共轭梯度法,抑制了严重病态的非线性问题.模型计算结果表明:加权非线性共轭梯度反演算法既保证了反演稳定收敛,又能适合起伏地形反演,达到了满意的效果.【期刊名称】《工程地球物理学报》【年(卷),期】2016(013)005【总页数】9页(P561-569)【关键词】电阻率三维反演;起伏地形;共轭梯度反演;二维数据三维反演【作者】韩雪;强建科;鲁凯;李俊营;满开峰;毛先成【作者单位】广东省地质物探工程勘察院,广东广州510800;中南大学地球科学与信息物理学院,湖南长沙410083;中南大学有色金属成矿预测教育部重点实验室,湖南长沙410083;中南大学地球科学与信息物理学院,湖南长沙410083;中南大学地球科学与信息物理学院,湖南长沙410083;中南大学地球科学与信息物理学院,湖南长沙410083;中南大学地球科学与信息物理学院,湖南长沙410083;中南大学有色金属成矿预测教育部重点实验室,湖南长沙410083【正文语种】中文【中图分类】P631.3直流电阻率法在探测岩溶、采空区等方面应用广泛[1,2]，然而在实际勘查中经常会遇到地形起伏情况，实测数据会发生严重的畸变，这对后期数据的反演解释工作带来了非常大的困难。
对于三维反演，偏导数矩阵的计算时间和计算精度，直接影响反演计算的时间和精度，因此，偏导数矩阵求取是反演问题的关键之一。
地球物理资料非线性反演方法讲座6共轭梯度法
第5卷第4期2008年8月CHIN ESE J OU RNAL OF EN GIN EERIN G GEOP H YSICSVol 15,No 14Aug 1,2008文章编号:1672—7940(2008)04—0381—06地球物理资料非线性反演方法讲座(六)共轭梯度法朱培民,王家映(中国地质大学地球物理与空间信息学院,武汉430074)基金项目:国家自然科学基金(编号:40174033,60472062)资助。
作者简介:朱培民(1963-),男,教授,博士生导师,主要研究方向包括地球物理反演、地震勘探和空间信息三维可视化等。
E -mail :zhupm @王家映(1937-),男,教授,博士生导师,主要研究方向为电磁法和地球物理反演理论。
E -mail :j.y.wang @摘 要:概要地介绍了在非启发式非线性反演方法———共轭梯度法的原理、算法、优点,以及它的局限性,和改进型算法:一种全局收敛的随机共轭梯度法。
最后通过一个例子来说明共轭梯度法及其改进型算法的优缺点。
关键词:反演;共轭梯度法;随机共轭梯度法中图分类号:P631文献标识码:A收稿日期:2008-07-20Lect ure on Non -Linear Inverse Met hods in Geop hysical Data (6)Conjugate G radient MethodZhu Peimin ,Wang Jiaying(I nstitute of Geophysics and Geomatics ,China Universit y of Geosciences ,W uhan 430074,China )Abstract :This paper briefly introduces a non —heuristic and non —linear inverse met hod ———Conjugate Gradient Met hod ,including it s principle ,algorit hm ,advantages and limitation ,also int roduces a met hod ———Stochastic Conjugate Gradient Met hod which is an imp rove 2ment of t raditional C G ,a globally convergence and hybrid algorit hm wit h stochastic hill 2climbing technique.At last ,a numerical test is given to show some advantages and disad 2vantages of Conjugate Gradient Met hod co mpared wit h Stochastic Conjugate Gradient Met hod.K ey w ords :Inversion ;co njugate gradient ;sochastic conjugate gradient1 引 言从概率的观点来看,非线性反演方法可以分成即统计方法和确定性方法两类[1]。
轴对称二维非均匀介质结构的非线性反演方法
轴对称二维非均匀介质结构的非线性反演方法
杨峰;聂在平
【期刊名称】《红外与毫米波学报》
【年(卷),期】2000(019)006
【摘要】按每次变形Born迭代(DBIM)过程中,用入射场替代总场使非线性积分方程线性化,但线性化对非线性度很高的强散射体时将会带来很大的误差. 为了克服DBIM的不足,本文基于目标区内、外电场积分方程导出反演积分方程,在每次迭代过程中,利用迭代法和双共轭梯度法求解非线性反演问题,利用数值模式匹配方法(NMM)求解正演问题.考虑到NMM解的z向解析性,推导出z向积分的解析表达式,大大减少了计算量. 数值结果表明,本文方法与DBIM相比不仅具有更快的收敛速度,而且能反演更高的对比度.
【总页数】6页(P419-424)
【作者】杨峰;聂在平
【作者单位】电子科技大学微波工程系,四川,成都,610054;电子科技大学微波工程系,四川,成都,610054
【正文语种】中文
【中图分类】O4
【相关文献】
1.轴对称二维介质体的非线性优化反演方法 [J], 谭琼亮;朱峰
2.轴对称二维非均匀介质分布中短电位电阻率测井响应 [J], 赵延文;聂在平
3.轴对称二维非均匀介质的快速反演方法 [J], 赵延文;聂在平
4.用变分玻恩迭代方法重建二维非均匀介质结构 [J], 杨峰;聂在平
5.轴对称二维任意非均匀介质中偏轴点源激励的位场数值解 [J], 聂在平;陈晓光因版权原因，仅展示原文概要，查看原文内容请购买。
共轭梯度法求解高维二次
共轭梯度法求解高维二次共轭梯度法是一种迭代算法，用于求解具有二次目标函数形式的最小化问题。
本文将介绍共轭梯度法的原理、步骤和应用，并详细讨论高维二次目标函数的求解过程。
一、共轭梯度法原理共轭梯度法是一种迭代算法，用于求解形如f(x) = 1/2x^T A x - b^T x的最小化问题，其中A是对称正定矩阵（对于二次函数来说，二阶偏导数矩阵必然是对称正定的）。
共轭梯度法的基本原理是利用梯度信息快速收敛到最优解。
二、共轭梯度法步骤1.初始化：选择初始点x0和初始残差r0=b-Ax0，并令d0=r0。
2.迭代更新：对于第k次迭代，计算步长αk、新的搜索方向dk和新的迭代点xk。
a.步长计算：αk = (r_k^T r_k) / (d_k^T A d_k)。
b.新的搜索方向计算：d_k+1 = r_k+1 + (r_k+1^T r_k+1) /(r_k^T r_k) * d_k。
c.新的迭代点计算：x_k+1 = x_k + αk * d_k。
3.终止条件：判断收敛条件是否满足。
可以将残差的模长或者目标函数值与一个给定的阈值进行比较，如果差距较小则算法停止。
4.输出结果：返回最优解x*。
三、共轭梯度法的应用共轭梯度法主要适用于求解二次目标函数形式的最小化问题，在许多优化问题中都有广泛应用。
下面我们将讨论其中一个具体的高维二次目标函数的求解过程。
假设我们有一个高维二次目标函数f(x) = 1/2x^T A x - b^T x，其中x是一个n维向量，A是一个对称正定矩阵，b是一个n维向量。
我们的目标是求解使得目标函数最小化的向量x*。
1.初始化：选择初始点x0和初始残差r0=b-Ax0，并令d0=r0。
a.初始化向量x0为一个n维零向量。
b.初始残差r0为b-Ax0，即计算b-Ax0的值。
c.初始化搜索方向d0为r0。
2.迭代更新：对于第k次迭代，计算步长αk、新的搜索方向dk和新的迭代点xk。
a.计算步长αk = (r_k^T r_k) / (d_k^T A d_k)。
共轭梯度法的迭代方向
共轭梯度法的迭代方向一、引言共轭梯度法是一种优化算法，用于解决线性方程组和最小化二次函数。
它基于共轭方向的概念，可以在相对较少的迭代次数内找到精确解。
二、共轭方向的概念在求解线性方程组Ax=b时，我们可以使用梯度下降法来最小化误差。
但是，梯度下降法可能会出现收敛速度缓慢的问题。
这是因为当我们按照负梯度方向进行迭代时，可能会遇到一个局部极小值点，并且在该点附近来回震荡。
为了解决这个问题，我们可以使用共轭方向。
如果两个向量a和b满足aTAb=0，则称它们是关于A共轭的。
也就是说，如果a和b都是A矩阵的特征向量，则它们是关于A共轭的。
三、CG方法CG方法（Conjugate Gradient）就是利用共轭方向来优化线性系统Ax=b的算法。
具体步骤如下：1. 初始化x0和r0=b-Ax0；2. 设置p0=r0；3. 对于k=0,1,2,...,直到收敛为止：a. 计算αk=rTk/rkTArk；b. 更新xk+1=xk+αkp；c. 更新rk+1=rk-αkAp；d. 计算βk+1=rTk+1/rkT+1；e. 更新pk+1=rk+1+βkp；其中，rk表示第k次迭代的残差，pk表示第k次迭代的搜索方向，αk是步长，βk是更新搜索方向时的系数。
四、共轭梯度法的迭代方向共轭梯度法中的搜索方向pk是关于A矩阵共轭的。
也就是说，对于任意两个不同的搜索方向pi和pj，它们满足piTApj=0。
为了证明这个结论，我们可以使用归纳法。
假设前i-1个搜索方向都满足共轭条件，则：piTApj=(ri-αiAi)TA(rj-αjAj)=riTA(rj-αjAj)-αiAiTA(rj-αjAj)=riTArj-αiAiTAjTArj其中，第一个等式使用了ri和rj关于A共轭的事实；第二个等式使用了公式rk+1=rk-αkAp；第三个等式使用了Ai和Aj关于A共轭的事实。
由于riTArj=0（因为ri和rj是关于A共轭的），所以我们得到piTApj=-αiAiTAjTArj=0。
非线性共轭梯度反演法在铁路特长隧道勘查中的应用
铁道科学与工程学报 Journal of Railway Science and Engineering
DOI: 10.19713/ki.43−1423/u.T20190658
Volume 17 Number 5 May 2020
非线性共轭梯度反演法在铁路 特长隧道勘查中的应用
文献标志码：A
文章编号：1672 − 7029(2020)05 − 1121 − 08
Application of NLGC inversion method in exploration of extra long railway tunnels
ZHAO Hu1, ZHANG Dangui2
(1. Sichuan Highway Planning, Survey, Design and Research Institute Ltd, Chengdu 610041, China; 2. China Railway Eryuan Engineering Group Co., Ltd (CREEC), Chengdu 610031, China)
1122
铁道科学与工程学报
2020 年 5 月
大地电磁应用较广的反演技术包括 Bostick 变换， OCCAM (光滑约束最小二乘法反演)法等。Bostick 变换算法精炼、运算快速，可以大体显示出下伏地 质体的电性分布。其缺点也较为明显，多解性强， 抗干扰能力弱，局限性大，通常用来宏观判断地电 分布。OCCAM 反演核心思想是，确保电性分布连 续或光滑的情况下，得到与采集数据最接近的地电 模型，最终得到需要的拟合精度。OCCAM 法成像 结果受初始模型影响不大，反演结果稳定，与地质 情况对应程度高。缺点是必须对 Jacobi 矩阵进行运 算，导致反演效率低，在实际使用过程中具有明显 局限性，特别在特长隧道反演过程中，由于数据量 巨大，OCCAM 难以快速成像。共轭梯度法早在 1908 年就有学者提出，该方法计算效率高，自 20 世纪 50 年代开始，Hestenes 和 Stiefel 进行不断改进，并 结合统计类反演方法形成了统计加迭代的组合反 演方法,消除了依赖于初始猜测的缺点，成了一种广 受欢迎的反演方案[1−2]。Rodi 等[3−8]在 2001 年共同 提出非线性共轭梯度法，简称 NLCG，跳出线性迭 代反演局限，针对非二次极小化问题，进行直接求 解，其模型序列由一系列沿着计算的搜索方向的线 性搜索来确定。同时 NLCG 采用线性系统的迭加原 理和格林函数的互易关系，利用整体计算 Jacobi 矩 阵和一个向量的乘积，显著降低了计算量[9−12]。我 国学者也在本世纪初开始应用该方法进行反演计 算，2014 年，赵维俊等[13]在内蒙古对 NLCG 反演 进行了专项试验，取得了不错的效果，近年来在公 路、铁路大地电磁勘探中该反演方法多有应 用[14−18]。新建铁路玉磨线大金山隧道位于云南省 内，隧道长度超过 10 km，最大埋深约 456 m，隧 道穿过区域地势险峻、人迹罕见、交通不便，为玉 磨线代表隧道之一。隧道穿越多种地层，附近断层 众多，构造运动强烈，地质环境复杂。通过采用非 线性共轭梯度反演技术对大金山隧道的高频电磁测 深成像结果研究，表明此方法能对复杂铁路隧道进 行快速成像，能有效识别地层岩性信息及构造情况。