病态总体最小二乘问题的谱修正迭代法_于冬冬

预处理子空间迭代法的一些基本概念

CG算法的预处理技术：、为什么要对A进行预处理：其收敛速度依赖于对称正定阵A的特征值分布特征值如何影响收敛性：特征值分布在较小的范围内，从而加速CG的收敛性特征值和特征向量的定义是什么？（见笔记本以及收藏的网页）求解特征值和特征向量的方法：Davidson方法：Davidson 方法是用矩阵( D - θI)- 1( A - θI) 产生子空间，这里D 是A 的对角元所组成的对角矩阵。

θ是由Rayleigh-Ritz 过程所得到的A的近似特征值。

什么是子空间法：Krylov子空间叠代法是用来求解形如Ax=b 的方程，A是一个n*n 的矩阵，当n充分大时，直接计算变得非常困难，而Krylov方法则巧妙地将其变为Kxi+1=Kxi+b-Axi 的迭代形式来求解。

这里的K(来源于作者俄国人Nikolai Krylov姓氏的首字母)是一个构造出来的接近于A的矩阵，而迭代形式的算法的妙处在于，它将复杂问题化简为阶段性的易于计算的子步骤。

如何取正定矩阵Mk为：Span是什么？:设x_(1,)...,x_m∈V ,称它们的线性组合∑_(i=1)^m?〖k_i x_i \|k_i∈K,i=1,2...m〗为向量x_(1,)...,x_m的生成子空间，也称为由x_(1,)...,x_m张成的子空间。

记为L（x_(1,)...,x_m），也可以记为Span（x_(1,)...,x_m）什么是Jacobi迭代法：什么是G_S迭代法：请见PPT《迭代法求解线性方程组》什么是SOR迭代法：什么是收敛速度：什么是可约矩阵与不可约矩阵？：不可约矩阵（irreducible matrix）和可约矩阵（reducible matrix）两个相对的概念。

定义1：对于n 阶方阵A 而言，如果存在一个排列阵P 使得P'AP 为一个分块上三角阵，我们就称矩阵A 是可约的；否则称矩阵A 是不可约的。

定义2：对于n 阶方阵A=(aij) 而言，如果指标集{1，2，...，n} 能够被划分成两个不相交的非空指标集J 和K，使得对任意的j∈J 和任意的k∈K 都有ajk=0, 则称矩阵 A 是可约的；否则称矩阵A 是不可约的。

最小二乘叠前时间偏移在地震数据规则化中的应用

最小二乘叠前时间偏移在地震数据规则化中的应用吴丹;龚仁彬;王从镔;胥小马;吴海莉【摘要】地震数据不规则和地下照明不均匀是阻碍地震保幅成像的两个关键因素.为此,利用已知的地下模型信息,采用Kirchhoff叠前时间偏移将原始数据映射到成像空间,在成像空间提取有效特征,再反偏移到数据空间,重建缺失数据.由于偏移算子在一定程度上消除了地震波的传播效应,因此成像空间比数据空间更加简单,更易于提取有效的信息特征.在最小二乘意义下利用迭代算法拟合观测数据从而提高了方法的精度,并分析了该方法对速度模型的依赖性.理论模型和实际资料处理结果表明,该方法能够对复杂介质条件下的地震数据进行有效的规则化处理,并改善成像质量.【期刊名称】《石油地球物理勘探》【年(卷),期】2019(054)001【总页数】9页(P36-44)【关键词】数据规则化;最小二乘反演;叠前时间偏移;叠前时间反偏移【作者】吴丹;龚仁彬;王从镔;胥小马;吴海莉【作者单位】中国石油勘探开发研究院西北分院计算机所,北京100191;中国石油勘探开发研究院西北分院计算机所,北京100191;中国石油勘探开发研究院西北分院计算机所,北京100191;中国石油勘探开发研究院西北分院计算机所,北京100191;中国石油勘探开发研究院西北分院计算机所,北京100191【正文语种】中文【中图分类】P6310 引言在三维地震勘探中，受地表障碍物、观测设备、施工条件等因素的限制，采集到的数据往往出现不规则、缺道、坏道等现象。

地震数据的这种不规则性会严重影响后续的多次波压制[1]、偏移成像[2]、四维地震监测[3]等环节。

为了消除地震数据不规则的影响，一般采用地震数据规则化方法重建缺失数据。

但是，由于数据规则化本质上是一个欠定的反演问题，因此一直以来都是地震数据处理领域十分具有挑战性的研究课题。

目前，地震数据规则化方法主要分为三类：第一类是在信号变换域引入稀疏约束恢复地震数据，如Radon变换[4]、傅里叶变换[5-8]、小波变换[9]、曲波变换[10-11]等；第二类是基于褶积算子的预测滤波器方法，根据已知数据提取局部地震属性(如局部倾角)，再扩展该信息以恢复缺失数据[12-18]；第三类是模型驱动方法，利用已知的地下模型信息，采用积分延拓算子重建缺失数据，常见的延拓算子包括炮检距延拓[19]、炮点延拓[20]、方位角延拓[21]等。

地球物理反演

1
1968)证明了，在线性反演中由于数据量的不足以及误差，反演的不唯一性是必然的。非线性反演更是如此。
反演的非唯一性特征意味着，存在许多反演模型能够解释观测数据，由观测数据反演得到的模型不一定就是真实的模型。由图1表征的反演过程过于简单了。我们必须做一些其他的事情。实际的反演过程分两步进行。假如用m表示真实的模型，d表示数据。第一步由数
正问题
真模型 m
数据 d
评估问题
推断模型
m~
推断问题
图 2.反演过程是推断加评估
一般来说，观测数据是离散的。而模型可以是离散的，也可以是连续的。就模型而言，反演分离散方法和连续方法，处理上有所不同。模型参数与数据的关系有时是线性的，有时是非线性的。对于线性问题，目前的有比较成熟的解决方案。非线性问题比较复杂，还没有找到很好的方案解决模型评估问题。一种方案是对非线性问题做局部近似使其线性化，然后采取循环迭代，逐步接近非线性问题的解，其结果依赖于初始模型的选择。另一种方案是模型空间的全局搜索。目前，无论哪种方案都不能很好地解决非线性反演问题。非线性方法的研究是一个挑战。
(14)
其中
ΛT = (λ1 λ2 Lλn )
(15)
为拉格朗日乘数矢量。用下角标表示
求导数并令其为零得
S = mi2 + λi (di − Aij m j )
∂S ∂mk
= 2mk − λi Aik
2mk = λi Aik
即
2m = AT Λ
（16）
进而得
2Am = AAT Λ
7
2d = AAT Λ
正演
模型 m
数据 d
反演
图 1. 正反演的传统定义
反演问题是根据一组观测数据来重建物理模型。需要强调的是，任何形式的反演过程都必须借助正演手段。没有理论上的正演，就不可能把观测数据有效地与物理参数联系起来，反演就失去方向。

改进的鲁棒迭代最小二乘平面拟合算法

儿坐标系，进一步拟合局部曲面．文献［ —８更为详７］细地阐述了研究散乱点云的平面拟合算法在其他方关键词：平面拟合；最小平方中位数法；移动最小二乘法；迭面的应用，比如利用平面拟合的方法测试墙面的平
的精确性，同时提高了迭代收敛速度．
摘要：针对迭代特征值最小二乘法不具备鲁棒性，提出一种合．首先由移动最小二乘法拟合抽样点的近邻域平面，采用最小平方中位数法选择拟合模型，将该模型作为初始模型调
础上．献［文１—２利用局部平面拟合计算法向量；］文献［ —４拟合得到局部平面，点云投影到该平面，３］将然后采用二维Ｄｌｕａ分网格；献［ｅａｎｙ剖文５—６则采］
（ＧｕｎｈｕＵｒａａｎｎ＆ＤｅｉｎＳｒｅｓａｃｎｉｕｅ，１．ａｇｚｏｂｎＰｌｎｉｇｓｇｕｖｙＲｅｅｒｈＩｓｔｔＧｕｎｈｕ５０６ａｇｚｏ１００，Ｃｈｎ；２ＤｅａｔｎｔｆｕｖｙｎａｄｉａｐｒｍｅｏＳｒｅｉｇｎＧｅ－ｏ
和鲁棒性常相互抵触，而笔者通过对文献Ｅ］８的迭代特征值最小二乘法的改进，出了一种既不失原算提法的精确性又具有鲁棒性的平面拟合方法．
本文涉及的统计方面的概念和方法定义如下：
・一
ＩｆｒｔｓＴｏｇｉｎｖｒｉ，Ｓａｇａ２０９，ｈｎ）ｎｏｍａｉ，ｎｊＵｉｓｔｈｎｈｉ００２Ｃｉｃｅｙａ

OFDM系统中利用整体最小二乘法的信道估计

Ａｂｓｔｒａｃｔ：ＴｈｅｇｒｅａｔｅｓｔａｄｖａｎｔａｇｅｏｆＬＳｅｓｔｉｍａｔｉｏｎａｌｇｏｒｉｔｈｍｂａｓｅｄｏｎｐｉｌｏｔｉｓｓｉｍｐｌｅｓｔｒｕｃｔｕｒｅａｎｄｌｏｗｃｏｍｐｌｅｘｉｔｙ，ｂｕｔｔｈｅ
因此需要保持子载波间正交的稳健性。在移动通信环境中，无法避免的多普勒频展将使子载波之间的正交性受到破坏，此外。无法预测的信道环境的影响会造成子载
波问干扰（ＩＣＩ）。使误码性能恶化。为了提高Ｌｓ信道估计对噪声和残留ＩＣＩ的性能，本文提出一种同时考虑丁
关键词：正交频分复用：信道估计：整体最小二乘法
中图分类号：ＴＮ９１９．３文献标识码：Ａ文章编号：１６７４ — ７７２０（２０１３）０５ — ００４９ — ０２
ＣｈａｎｎｅｌｅｓｔｉｍａｔｉｏｎｆｏｒＯＦＤＭｓｙｓｔｅｍｓｂａｓｅｄｏｎｔｏｔａｌｌｅｓｔａｓｑｕａｒｅｓｍｅｔｈｏｄ
ＮｅｔｗｏｒｋａｎｄＣｏｍｍｕｎｉｃａｔｉｏｎ
ＯＦＤＭ系统中利用整体最小二乘法的信道估计

阻尼最小二乘算法研究综述

阻尼最小二乘算法研究综述
肖艳丽;李明星
【期刊名称】《软件导刊》
【年(卷),期】2018(017)008
【摘要】最小二乘法(LSM)是一种经典的数学优化方法,基本原理是通过最小化误差的平方和以确定数据与方程之间的最佳函数匹配关系.LSM简单易行,在许多领域应用广泛.众多学者对LSM进行广泛研究,提出了各种改进方法,其中比较著名的是阻尼最小二乘法(LMA).通过研读近几年有关阻尼最小二乘算法文献,将不同学者对阻尼最小二乘算法的改进策略研究进行梳理.
【总页数】4页(P9-12)
【作者】肖艳丽;李明星
【作者单位】西安航天天绘数据技术有限公司 ,陕西西安 710061;中煤科工集团西安研究院有限公司 ,陕西西安 710077
【正文语种】中文
【中图分类】TP312
【相关文献】
1.基于阻尼最小二乘算法的计算机辅助装调方法 [J], 吕占伟
2.阻尼最小二乘算法CARS光谱温度拟合 [J], 王晟;胡志云;张振荣;张立荣;刘晶儒
3.一种改进的机械臂逆运动学阻尼最小二乘算法 [J], 王云鹏;解永春
4.阻尼最小二乘算法研究综述 [J], 肖艳丽[1];李明星[2]
5.半航空瞬变电磁自适应正则化-阻尼最小二乘算法研究 [J], 杨聪;毛立峰;毛鑫鑫;王成;郭明
因版权原因，仅展示原文概要，查看原文内容请购买。

系统辨识_6_多新息辨识理论与方法_丁锋

的最小二乘辨识算法或随机梯度等辨识算法有下列形式： ^ （ t） = θ ^ （ t － 1 ） + L （ t ） e（ t ）， θ e（ t）： = 其中 L（ t） ∈R 为算法增益向量（ gain vector）， T ^ （ t － 1 ） ∈R 为标量新息（ scalar innovay （ t）－ φ （ t ） θ tion），即单新息（ single innovation）．这个算法可以这样描述： t 时刻的参数估计向量 ^ （ t）是用增益向量 L （ t）与标量新息 e （ t ）的乘积， θ 对 ^ （ t － 1 ）进行修正， ^ （ t） t － 1 时刻参数估计向量 θ 即θ ^ （ t － 1 ）的基础上加上增益向量 L （ t ）与新息是在 θ e（ t）的乘积．这种方法也称为新息修正辨识方法或新息辨识方法．上述算法中新息 e （ t ）是标量，我们把这个标量 in新息加以推广，就导出了多新息辨识方法（ multinovation identification method ）［24］．多新息辨识理论（ multiinnovation identification theory ）就是将单新息从新息修正角度提出多新息修修正技术加以推广，正技术辨识的概念，建立多新息修正辨识方法，简称多新息辨识方法．顾名思义，多新息算法就是将新息加以推广．对将算法中的标量新息 e （ t ） ∈ R 推广标量系统而言， t ） ∈ Rp ， innova为新息向量 E （ p，即多新息（ multin tion），为使矩阵乘法维数兼容，增益向量 L （ t ） ∈ R t ） ∈R n × p ，须推广为增益矩阵（ gain matrix） Γ（ p，那么 n

动载荷反演问题的正则化求解

稳定近似解。 ห้องสมุดไป่ตู้
关键词：栽荷识别；不适定问题；Ｊ最，二乘法；、奇异值分解；正则化技术
中图分类号：Ｐ３０３Ｔ１；２文献标识码：Ａ文章编号：６３３４（１）４０５－４１７ — １２２１ — ０１０００
ｄｉ１．９９ｉｎ１７ — ２２１．４１ｏ：０３６￣．ｓ．３３．０．ｓ６１０１０７４
动载荷反演问题的正则化求解
徐鹏 ’邰桂军２炱涛，，刘利明
（．１泰安航天特种车有限公司技术中心，山东泰安２１０２泰安泰山工程机械股份有限公司，山东泰安２１０；７００；．７００３山东省农业机械科学研究所，．山东济南２００）５１０摘要：将状态空间的结构振动方程时域离散化，建立动态载荷反演的力学模型。问题求解过程中，在由于结构矩阵的病态特性以及测量噪声的影响，常规最小二乘法往往失效，通过对载荷反演模型详细的剖析，出该病态指问题的本质．出了相应的正则化求解方法。数值模拟表明了本文方法的有效性，可以得到满足工程要求的提其
ＲｅｕａｉａｉｌｉｎｏｎｖｒｅＰｒｂｅｏｎａｉｒｅＩｅｉｃｔｏｇｌｒｚｔｏｎＳｏｕｔｏｔＩｅｓｏｌｍｆＤｙｍｃＦｏｃｄｎｔｆａｉｎｉ
（ｕＰｎＴｉｕｕＹｎＴｏ，ｉＬｍｎ￣Ｘｅｇ，ａＧ￣ｎ，ｕａＬｕｉｉｇ）
３ＳａｄｎｇｃｌｒｃｉｅｙＲｓａｃｓｔｔ，ｉａ５１０Ｃｉａ．ｈｎｏｇＡｒｕｔａＭａｈｎｒｅｅｒｈＩｔｕｅＪｎ２００，ｈｎ）ｉｕｌｎｉｎ

各种最小二乘法汇总(算例及MATLAB程序)

1.1. 一次计算最小二乘算法
⎛ ⎜
^
a1
⎞ ⎟
⎛ -1.4916 ⎞
^
θ
LS
=
⎜^ ⎜ a2 ⎜^ ⎜ b1
⎟ ⎟ ⎟ ⎟
=
(
H
T L
H
L
)−1
H
T L
Z
L
=
⎜ ⎜
0.7005
⎟ ⎟
⎜1.0364 ⎟
⎜
⎟
(1.1)
⎜⎜⎝
^
b2
⎟⎟⎠
⎝ 0.4268 ⎠
⎛ Z (3) ⎞
⎛ hT (3) ⎞ ⎛ −Z (2) −Z (1)
b2 a1 50 100 150 200 250 300 350 400 450
图 1 一般最小二乘参数过渡过程
4
盛晓婷最小二乘算法总结报告
估计方差变化过程
100
90
80
70
60
50
40
30
20
10
0
0
50 100 150 200 250 300 350 400 450
图 2 一般最小二乘方差变化过程
u(400)
⎟ ⎠
Matlab程序见附录 1。
1.2. 递推最小二乘算法
递推最小二乘算法公式：
^
^
^
θ (k) = θ (k −1) + K (k)[z(k) − h' (k)θ (k −1)]
K (k) = P(k −1)h(k)[h' (k)P(k −1)h(k) + 1 ]−1
(1.2)
Λ(k)
P(k) = [I − K (k)h'(k)]P(k −1)

线弹性平板问题的两步最小二乘法有限元

Ｕ＝０ ∑ （）＝与。
（）１
其中，Ｕ代表位移向量，代表载荷向量，厂且满足：（）１ｎＣＲ是包含弹性物体的一个有界区域；
多个变量的偏微分方程组时，由标准方法推导出的变分问题，经常会出现鞍点问题圈我们不得不解决鞍点优化问题带来的。
，
（）１是ｎ的光滑边界，分割成两个不相交的部分、２０１６系数，中ａｎ其比，＜口＜ｏ５Ｅ是Ｙｕｇ模量且Ａｏ・，ｏｎ。ｓ
Ｐｉｏｏｓｎ比的上限口一．。ｓ＋０５一
中图分类号：４．２０２１８文献标识码：Ａ文章编号：２５５２１０ — ０５ｏ１７ — ４Ｘ（０８０５ — ４６０）
线性弹性方程在土木、利、械、空等工程学科中占水机航
一
ｐ一（＋）（・＝ｉ，ＵＡＶＵ），ｎＱ
ｆ＝（，）是作用在物体上的载荷密度；
定性条件，求得最佳逼近解。
在文献【】，述了弹性力学的最小二乘有限元方法，２中讲但
是这种方法要求解一个６的线性系统（Ｎ Ⅳ是近似空间的维数）增加了求解的难度。，而本文提出的两步最小二乘有限元方法先将线弹性问题转化为一阶系统，然后再将最小二乘与有限元相结合分两步求解所得的一阶系统，第一步仅求解一个４Ｎ的线性系统，然后再解一个２的线性系统，样每次都有一Ｎ这个比较小的半带宽，求解结果将更加逼近精确解。本文以下将分别介绍两步最小二乘有限元原理、误差分析、值结果。数