第五章 线性参数的最小二乘T part1
合集下载
第5章线性参数的最小二乘法处理
最小 1
p1 : p 2 : : p n
有
2 2
x1
2
2
:
n
1
x2
2
::
xn 2
( 55)
p1v1 p 2 v 2 p n v n
pi vi2
i 1
最小
对于等精度测量，有 1 1 n 即
p1 p 2 p n
2 2 n 12 2 2 2 2 最小 1 2 n
当然，由前述给出的结果只是估计量，它们以 最大的可能性接近真值而并非真值，因此上述条件 应以残差的形式表示，即用残差代替绝对误差：
2 v1 2
1 2 n 引入权的符号p，由下面的关系
2 2
2 v2
1
2 vn
2 i
0
2 2 2
0
为测量数据li的权； 为单位权方差；
0 0 2 2 n
i2为测量数据li的方差。
线性参数的不等精度测量可以转化为等精度的 形式（单位权化），从而可以利用等精度测量时 测量数据的最小二乘法处理的全部结果。为此， 应将误差方程化为等权的形式。若不等精度测量 数据li 的权为pi ，将不等精度测量的误差方程式 （5-9）两端同乘以相应权的平方根得：
ˆ V L AX
（ -10 5 ）
等精度测量时：残差平方和最小这一条件的矩 阵形式为 v1 v v1v2 vn 2 最小 vn 即 T
V V 最小 （5 -11 ）
ˆ L AX 最小
T
或
ˆ L AX
（5 - 1 ２）
第五章 线性参数最小二乘法处理(1)
第五章 线性参数的最小二乘法处理
光电效应
1 E = hν = m υ0 2 + A 2
1 eU 0 = m υ0 2 2
h A U0 = ν e e
2
光电效应
频率νi(×1014Hz) 8.214 7.408 6.879 5.490 5.196 截止电压U0i(V) 1.790 1.436 1.242 0.688 0.560
3
光电效应
SLOPE函数
频率ν i(Hz) 8.214E+14 7.408E+14 6.879E+14 5.490E+14 5.196E+14 截止电压U0i(V) 1.790E+00 1.436E+00 1.242E+00 6.880E-01 5.600E-01
4.02964E-15
2.000E+00 1.800E+00 1.600E+00
1
i 2
e
i 2 ( 2 i 2 )
di
( i 1, 2,
, n)
由概率论可知，各测量数据同时出现在相应区域的概率
为ቤተ መጻሕፍቲ ባይዱ
P Pi
i 1
n
1
1 2 n
2
e n
i 1
n
i 2 (2 i 2 )
d 1d 2
d n
12
第一节 最小二乘原理
1.400E+00
y = 4E-15x - 1.5314
1.200E+00 1.000E+00 8.000E-01 6.000E-01
4.000E-01
2.000E-01 0.000E+00 0.000E+00 5.000E+14 1.000E+15
光电效应
1 E = hν = m υ0 2 + A 2
1 eU 0 = m υ0 2 2
h A U0 = ν e e
2
光电效应
频率νi(×1014Hz) 8.214 7.408 6.879 5.490 5.196 截止电压U0i(V) 1.790 1.436 1.242 0.688 0.560
3
光电效应
SLOPE函数
频率ν i(Hz) 8.214E+14 7.408E+14 6.879E+14 5.490E+14 5.196E+14 截止电压U0i(V) 1.790E+00 1.436E+00 1.242E+00 6.880E-01 5.600E-01
4.02964E-15
2.000E+00 1.800E+00 1.600E+00
1
i 2
e
i 2 ( 2 i 2 )
di
( i 1, 2,
, n)
由概率论可知，各测量数据同时出现在相应区域的概率
为ቤተ መጻሕፍቲ ባይዱ
P Pi
i 1
n
1
1 2 n
2
e n
i 1
n
i 2 (2 i 2 )
d 1d 2
d n
12
第一节 最小二乘原理
1.400E+00
y = 4E-15x - 1.5314
1.200E+00 1.000E+00 8.000E-01 6.000E-01
4.000E-01
2.000E-01 0.000E+00 0.000E+00 5.000E+14 1.000E+15
2011第5章线性参数的最小二乘法处理
V T PV 最小 （L AXˆ）T P（L AXˆ） 最小
一、最小二乘法原理
思路二：不等精度 pi 等精度
v1 p1 l1 p1 a11 p1 x1 a12 p1 x2 a1t p1 xt
v2
p2 l2
p2 a21
p2 x1 a22
p2 x2 a2t
二、正规方程
线性参数的最小二乘法处理程序可归结为： 首先根据具体问题列出误差方程式； 再按最小二乘法原理，利用求极值的方法将误差 方程转化为正规方程； 然后求解正规方程，得到待求的估计量； 最后给出精度估计。
对于非线性参数，可先将其线性化，然后按上 述线性参数的最小二乘法处理程序去处理。
二、正规方程
ln
n
ai 2ain a12a1t a22a2t
i 1
an2ant
n
ai 2li a12l1 a22l2
i 1
an2 ln
a11 a12 ... a1t
A
a21
a22
...
a2t
i 1
n
x2 ai 2ai 2 ... xt
i 1
n
ai 2ait
i 1
)
n
ai 2ai1 a12a11 a22a21
i 1
n
ai 2ai 2 a12a12 a22a22
i 1
an2an1 an2an2
l1
L
l...
2
an1ant an1ln
a11 a12 ... a1t
第五章线性参数的最小二乘法处理01
第五章线性函数的最小二乘处理最小二乘原理应用时的条件是：函数关系确定已知、等精度、误差独立、无偏估计得到满足，在众多的N个测量方程中利用最小二乘原理求得t个（t＜／N）参数的最佳估计值。
如前所叙，在随机因素作用下，测量次数较多时，计算的结果就会更精密，测量次数往往大于待求未知量的个数，因而出现N＞t的现象就成为自然而然的事情了。
众所周知，当N＝t时可由线性代数知识求得一组唯一正确解。
当N＞t时，代数解法则无能为力了。
也许读者会提出另外一个问题：既然N＞t，可由N中取出t个方程来求解，而把（N-t）个方程弃掉，问题不就解决了吗？答案是不行的。
这样求解后的结果不是最佳值，有时会与最佳值离歧很大。
最小二乘法是一种数学原理，高斯于1809年在他的名著《天体沿圆锥截面绕太阳运动的理论》一书中，发表了他发现的最小二乘原理并应用于测量之后，在许多科学领域及技术领域中得到越来越多地应用。
5.1 函数为直接测量值得线性组合5.1.1 测量方程式函数中可能存在着多个待定参数，根据该函数关系可列出多个测量后的方程式，该方程式称作测量方程式。
设含有t个待求参数Xj(j=1,2,…,t)的函数关系已知，表现为线性组合，即Xj是待定系数的真值，aj是在某具体测量条件下获得的直接测量值，经N次测量（N>t）后，理应得到N个函数真关系式。
为了表达更简洁，可将各方程中系数用aij(i=1,2, …,N;j=1,2, …,t)表示，上述方程可简写成量值Y经N次测量后的测量值用Mi表示，则上述方程变为测量方程式，又称测量条件方程，式中，aij及Mi是在某具体测量条件下的直接测量值，Mi含有误差，即Mi≠Yi。
5.1.2 剩余误差方程式若用同直接测量时一样，可将称作剩余误差。
由此便可得到N个剩余误差方程式可以看出，剩余误差是各最可信赖值的函数，即5.1.3 正规方程组现在以三个待求量x1,x2,x3为例，说明建立正规方程组的过程，该计算方法和过程及结论，可推广到t个待求量中去。
第五章线性参数的最小二乘处理
2x+y=5.1
x-y=1.1
4x-y=7.4
x+4y=5.9
5-6测得一直线上四段长度AB、BC、CD、DE分别为24.1，35.8，30.3和33.8厘米，但已知AD准确长90厘米和BE准确长100厘米。试求AB，BC，CD，DE的最大或然值。
5-7由方程组
3x+y=2.9
x-2y=0.9
2x-3y=1.9
典型题解
5-1由测量方程
试求 、 的最小二乘法处理及其相应精度。
解：方法一：列出误差方程组：
分别对 求偏导，并令它们的结果为0，
试求x，y的最大或然值及其标准误差。
5-8由下面的不等精度的测定方程组，求x1，x2的最可信赖值及其标准误差。
x1=0权：P1=8
x2=0P2=10
x1+2x2=0.25P3=1
x1-3x2=0.92P4=5
5-9由下面的不等精度的测定方程组，试用矩阵最小二乘法求x，y的最大或然值及其标准误差。
x-3y=-5.6权：P1=1
（ii）第一个量规（Y1）与标准量规比较二次，第二个量规（Y2）与第一个量规比较二次，第三个量规（Y3）与第二量规比较二次；
（iii）每一个量规各与标准量比较一次，然后它们相互按不同的组合比较一次；
上述三种测量方案得到的条件方程式如下表所示：
（1）
（2）
（3）
Y1—N=X1
Y1—N=X1
Y1—N=X1
X+Y=37.0权：P1=5
2X+Y=61.9 P2=4
3X+Y=86.7 P3=4
X+2Y=49.2 P4=4
X+3Y=60.6 P5=3
x-y=1.1
4x-y=7.4
x+4y=5.9
5-6测得一直线上四段长度AB、BC、CD、DE分别为24.1，35.8，30.3和33.8厘米，但已知AD准确长90厘米和BE准确长100厘米。试求AB，BC，CD，DE的最大或然值。
5-7由方程组
3x+y=2.9
x-2y=0.9
2x-3y=1.9
典型题解
5-1由测量方程
试求 、 的最小二乘法处理及其相应精度。
解：方法一：列出误差方程组：
分别对 求偏导，并令它们的结果为0，
试求x，y的最大或然值及其标准误差。
5-8由下面的不等精度的测定方程组，求x1，x2的最可信赖值及其标准误差。
x1=0权：P1=8
x2=0P2=10
x1+2x2=0.25P3=1
x1-3x2=0.92P4=5
5-9由下面的不等精度的测定方程组，试用矩阵最小二乘法求x，y的最大或然值及其标准误差。
x-3y=-5.6权：P1=1
（ii）第一个量规（Y1）与标准量规比较二次，第二个量规（Y2）与第一个量规比较二次，第三个量规（Y3）与第二量规比较二次；
（iii）每一个量规各与标准量比较一次，然后它们相互按不同的组合比较一次；
上述三种测量方案得到的条件方程式如下表所示：
（1）
（2）
（3）
Y1—N=X1
Y1—N=X1
Y1—N=X1
X+Y=37.0权：P1=5
2X+Y=61.9 P2=4
3X+Y=86.7 P3=4
X+2Y=49.2 P4=4
X+3Y=60.6 P5=3
第五章线性参数最小二乘法
v 1
v2
v
n
v2
最小
v
n
V T V 最小
或：
(L A X ˆ)T(L A X ˆ) 最小
第五章线性参数最小二乘法
§5-2 正 规 方 程
线性参数的最小二乘法处理程序：
1. 根据具体问题列出误差方程式； 2. 按最小二乘法原理，利用极值的方法
将误差方 程转换为正规方程； 3. 求解正规方程，得到待求的估计量； 4. 精度估计
可知，要使P最大，应满足：
12 1222 22n2 n2最小
第五章线性参数最小二乘法
引入权的符号 p，即：
p 1 v 1 2p 2 v22 p n vn2 最小
等精度测量中：ຫໍສະໝຸດ v12v22 vn2最小二、以矩阵方式表示：
l1
L
l
2
l
n
x1
Xˆ
x
2
V
v1
v
2
x
t
v
n
测量结果 估计值 第五章线性参数最小二乘法
1 45
估计值： Xˆ
a
b
X ˆ a b 第五 章线性参数(最小A 二乘法 TA)1ATL
X ˆ
a b
1 0.9 09 3.9 65 74
y0a19.9m 9 7 m
b0.036504.0000/℃18
a 199.997
第五章线性参数最小二乘法
例：为研究 20mm轴的几何形状误差，
则等精度测量的线性参数最小二乘法 处理的正规方程为：
a1a1x1a1a2x2a1atxt a1l
a2a1x1a2a2x2
a2at xt
a2l
ata1x1ata2x2atatxt atl
(完整版)5线性参数的最小二乘法处理(精)
一、等精度测量线性参数的LSM处理的正规方 程。
❖ 线性参数的误差方程式为：
l1 a11x1 a12 x2 ... a1t xt v1
l2 a21x1 a22 x2 ... a2t xt v2
……
ln an1x1 an2 x2 ... ant xt vn
v2
第三节 精度估计
❖ 一、测量数据的精度估计
❖ （一）等精度测量数据的精度估计
❖ 对包含t个未知数的线性参数方程，进行n次独立的 等精度测量。
❖ 可以证明
❖
[V V ] ~ 2 n t
2
E[V V
2
]
n
t
❖取
s 2 v v
nt
s
v
2 i
nt
❖ V1=3-(1.28×1+0.418×2)=0.884 ❖ V2=5-(1.28×1+0.418×10)=-0.46 ❖ V3=8-(1.28×1+0.418×20)=-1.64 ❖ V4=15-(1.28×1+0.418×30)=1.18 ❖ V5=18-(1.28×1+0.418×40)=0
L
8
15
18
AT A 1052 3100024 AT L 134698
( AT
A)1
1 4616
3004 102
1502
X
( AT A)1 AT L
1 4616
3004 102
1502134698 01..42188
❖ 正规方程为： ❖ 5x+102y=49 ❖ 102x+3004y=1386 ❖ 解该方程得到 ❖ x=1.28 ❖ y=0.418
i
误差理论误差线性参数的最小二乘法
第五章 线性参数的最小二乘法例 题例1 已知某一铜棒的电阻－温度的函数关系为R a bt =+，通过试验，得到在七种不同温度t 下的电阻值如下：序号 1 2 3 4 5 6 7 t/C 。
19.1 25.0 30.136.040.045.1 50.0R/Ω76.3077.8079.7580.8082.3583.9085.10试求公式中的a （单位Ω）和b （单位Ω/C 。
）。
解：测量数值方程为19.176.30a b += 40.082.35a b += 25.077.80a b += 45.183.90a b += 30.179.75a b += 50.085.10a b += 36.080.80a b += 建立正规方程[1×1]＝1×1+1×1+……+1×1＝7[1×i t ]＝1×1t +1×2t +……+1×7t ＝245.3 [i t ×i t ]＝1t ×1t +2t ×2t +……+7t ×7t ＝9325.83 [1×i R ]＝1×1R +1×2R +……+1×7R ＝566.0 [i t ×i R ]＝1t ×1R +2t ×2R +……+7t ×7R ＝20044.5则正规方程为7245.3566.0a b += 245.39325.820044.5a b +=解正规方程得a ＝70.76Ωb ＝0.288Ω/C 。
因此，铜棒的电阻－温度数值关系为70.760.288R t =+例2 试由下列测量方程组，求x 、y 、z 的最可信赖值及其权。
x＝0 权 1P ＝85 y＝0 2P ＝108 z＝0 3P ＝49x－y＝0.92 4P ＝165 z －y ＝1.35 5P ＝78 z －x ＝1.00 6P ＝60解：求正规方程组各系数，如下表所示。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
2
1
第一节 最小二乘原理
一、引入 待测量（难以直接测量）：X 1 , X 2 , , X t 直接测量量： Y1 , Y2 ,, Yn
l1 Y1 f1 ( X 1 , X 2 ,, X t ) l2 Y2 f 2 ( X 1 , X 2 ,, X t ) ln Yn f n ( X 1 , X 2 ,, X t )
第5章 线性参数的最小二乘处理
参数的最可信赖估计、组合测量的数据处理、用 实验方法来拟定经验公式以及回归分析
第一节 最小二乘原理 • 最小二乘原理 • 等精度测量线性参数的最小二乘原理 • 不等精度测量线性参数的最小二乘原理 第二节 正规方程 • 线性参数的最小二乘处理的正规方程 • 非线性参数的最小二乘处理的正规方程 • 最小二乘原理和算术平均值原理的关系 第三节 精度估计 • 测量数据的精度估计 • 最小二乘估计量的精度估计 第四节 组合测量的最小二乘法处理
Pi
2 1 e i i 2
( 2 i 2 )
d i
(i 1,2,, n)
由概率乘法定理可知，各测量数据同时出现在相应 区域的概率为
i 1 P Pi e i1 1 2 n 2 i 1 n
n 2
( 2 i 2 )
d 1 d 2 d n
误差方程为
v1 l1 (a11x1 a12 x2 a1t xt ) v2 l2 (a21 x1 a22 x2 a2t xt ) vn ln (an1 x1 an 2 x2 ant xt )
9
误差方程
n vi 2 n n n n i 1 2 a l x i1 i 1 ai1ai1 x2 ai1ai 2 xt ai1ait 0 x1 i 1 i 1 i 1 i 1 n vi 2 n n n n i 1 2 a l x it i 1 ait ai1 x2 ait ai 2 xt ait ait 0 xt i 1 i 1 i 1 i 1
18
9
最小值条件：二阶偏导数为正
n vi 2 n n n n i 1 2 a l x i1 i 1 ai1ai1 x2 ai1ai 2 xt ai1ait 0 x1 i 1 i 1 i 1 i 1
权矩阵
不等精度测量最小二乘原理的矩阵形式：
V T PV 最小 T ˆ） ˆ） （L AX P（L AX 最小
12
6
思路一：
V T PV 最小 T ˆ） ˆ） （L AX P（L AX 最小
pi
思路二：不等精度
等精度
p2 xt pn xt
v1 p1 l1 p1 a11 p1 x1 a12 p1 x2 a1t p1 xt v2 p2 l2 p2 a21 p2 x1 a22 p2 x2 a2t vn pn ln pn an1 pn x1 an 2 pn x2 ant
则有：
vi '
li '
ai1 '
ai 2 '
ait '
V 'T V ' 最小 T ˆ） ˆ） （L' A' X （ L' A' X 最小
ቤተ መጻሕፍቲ ባይዱ
13
第二节 正规方程
为使测量结果可靠，测量次数n大于未知参数个数t 即：误差方程个数大于未知参数个数 最小二乘法则 无法直接求解 有确定解的代数方程组 正规方程 正规方程：误差方程按最小二乘法原理转化得到的 有确定解的代数方程组
y1 f1 ( x1 , x2 , , xt ) y2 f 2 ( x1 , x2 , , xt ) yn f n ( x1 , x2 , , xt ) 由此得测量数据 l1 , l2 , , ln 的残余误差
v1 l1 f1 ( x1 , x2 ,, xt ) v2 l2 f 2 ( x1 , x2 , , xt ) vn ln f n ( x1 , x2 , , xt )
1
最小二乘法原理是一种在多学科领域中获得广泛应用 的数据处理方法。这种方法可以妥善解决参数的最可信赖 估计、组合测量的数据处理、用实验方法来拟定经验公式 以及回归分析等一系列数据处理问题。 在物理实验中，经常遇到已知变量间有密切的关系，但其 具体的函数形式及公式中所用参数的具体数值，则要通过实际 测量来确定的情况。 如已知某种电阻其阻值与温度有关，则需要测出一系列不同温 度下的阻值，然后对这一组数据用最小二乘法进行相应的处理， 得出函数关系中参数的最佳估计值。
14
7
线性参数最小二乘法处理程序：
1）列出误差方程； 2）将误差方程按最小二乘法原理转化为正规方程 3）求解正规方程 4）给出精度估计
非线性参数最小二乘法处理程序：
1）将非线性参数转化为线性参数； 2）按照线性参数最小二乘法处理程序处理
15
一、等精度测量线性参数最小二乘处理的正规方程
线性参数的误差方程为：
残差方程式
5
vi li fi ( x1 , x2 , , xt )
若 l1 , l2 , , ln 不存在系统误差，相互独立并服从正态 分布，标准差分别为 1 , 2 ,, n ，则 l1 , l2 , , ln 分别出 现在相应真值附近 d1 , d 2 , , d n区域内的概率为
问题：如何根据测量数据 l1 , l2 , , ln和测量方程解 得待测量X的估计值 x1 , x2 , , xt ？
3
讨论：
l1 Y1 f1 ( X 1 , X 2 ,, X t ) l2 Y2 f 2 ( X 1 , X 2 , , X t ) ln Yn f n ( X 1 , X 2 , , X t )
令
l1 l L 2 ln
则残差方程的矩阵表达式为
ˆ V L AX
10
5
残差方程的矩阵表达式为
ˆ V L AX
等精度测量最小二乘原理的矩阵形式：
v1 v2 vn vi 最小
2 2 2 2 i 1
n
V TV 最 小
Y1 a11 X 1 a12 X 2 a1t X t y1 a11x1 a12 x2 a1t xt Y2 a21 X 1 a22 X 2 a2t X t y2 a21x1 a22 x2 a2t xt yn an1 x1 an 2 x2 ant xt Yn an1 X 1 an 2 X 2 ant X t
17
合并简写： n
( vi 2 )
i 1
x1
2 a11 l1 ( a11 x1 a12 x2 a1t xt ) 2 a21 l2 ( a21 x1 a22 x2 a2 t xt ) -... 2 an1 ln ( an1 x1 an 2 x2 ant xt ) 0
或
ˆ） ˆ） 最小 （ L AX （ L AX
T
11
等精度测量最小二乘原理的矩阵形式： V T V 最小
四、不等精度测量的线性参数最小二乘原理
思路一：
Pnn
2 2 p1 0 0 1 0 0 0 p 0 2 2 0 0 2 2 2 2 0 0 p n 0 0 n
v1 l1 (a11 x1 a12 x2 a1t xt ) n v2 l2 (a21 x1 a22 x2 a2t xt ) 求极值 ( vi 2 ) 条件： i 1 0 x 1 vn ln (an1 x1 an 2 x2 ant xt ) 最小二乘法条件： n n ( vi 2 ) 2 2 2 2 vi v1 v 2 vn 最 小 i 1 0 i 1 x t
p1v1 p2 v2 pn vn pi vi 最小
2 2 2 2 i 1
n
最小二乘原理（其他分布也适用）：
测量结果的最可信赖值应使残余误差平方和 （或加权残余误差平方和）最小。
8
4
三、等精度测量的线性参数最小二乘原理
线性参数的测量方程和相应的估计量为： 测量方程为 估计量为
由于结果只是接近真值的估计值，因此上述条件应表 示为
v1
2
12
v2
2
22
vn
2
n2
最小
7
v1
2
12
2 2
v2
2
22
vn
2
n2
n
最小
等精度测量的最小二乘原理：
v1 v2 vn vi 最小
2 2 i 1
不等精度测量的最小二乘原理：
v1 l1 (a11x1 a12 x2 a1t xt ) v2 l2 (a21 x1 a22 x2 a2t xt ) vn ln (an1 x1 an 2 x2 ant xt )
x1 x ˆ X 2 xt v1 v V 2 vn a11 a12 a1t a a a 2t A 21 22 an1 an 2 ant
1
第一节 最小二乘原理
一、引入 待测量（难以直接测量）：X 1 , X 2 , , X t 直接测量量： Y1 , Y2 ,, Yn
l1 Y1 f1 ( X 1 , X 2 ,, X t ) l2 Y2 f 2 ( X 1 , X 2 ,, X t ) ln Yn f n ( X 1 , X 2 ,, X t )
第5章 线性参数的最小二乘处理
参数的最可信赖估计、组合测量的数据处理、用 实验方法来拟定经验公式以及回归分析
第一节 最小二乘原理 • 最小二乘原理 • 等精度测量线性参数的最小二乘原理 • 不等精度测量线性参数的最小二乘原理 第二节 正规方程 • 线性参数的最小二乘处理的正规方程 • 非线性参数的最小二乘处理的正规方程 • 最小二乘原理和算术平均值原理的关系 第三节 精度估计 • 测量数据的精度估计 • 最小二乘估计量的精度估计 第四节 组合测量的最小二乘法处理
Pi
2 1 e i i 2
( 2 i 2 )
d i
(i 1,2,, n)
由概率乘法定理可知，各测量数据同时出现在相应 区域的概率为
i 1 P Pi e i1 1 2 n 2 i 1 n
n 2
( 2 i 2 )
d 1 d 2 d n
误差方程为
v1 l1 (a11x1 a12 x2 a1t xt ) v2 l2 (a21 x1 a22 x2 a2t xt ) vn ln (an1 x1 an 2 x2 ant xt )
9
误差方程
n vi 2 n n n n i 1 2 a l x i1 i 1 ai1ai1 x2 ai1ai 2 xt ai1ait 0 x1 i 1 i 1 i 1 i 1 n vi 2 n n n n i 1 2 a l x it i 1 ait ai1 x2 ait ai 2 xt ait ait 0 xt i 1 i 1 i 1 i 1
18
9
最小值条件：二阶偏导数为正
n vi 2 n n n n i 1 2 a l x i1 i 1 ai1ai1 x2 ai1ai 2 xt ai1ait 0 x1 i 1 i 1 i 1 i 1
权矩阵
不等精度测量最小二乘原理的矩阵形式：
V T PV 最小 T ˆ） ˆ） （L AX P（L AX 最小
12
6
思路一：
V T PV 最小 T ˆ） ˆ） （L AX P（L AX 最小
pi
思路二：不等精度
等精度
p2 xt pn xt
v1 p1 l1 p1 a11 p1 x1 a12 p1 x2 a1t p1 xt v2 p2 l2 p2 a21 p2 x1 a22 p2 x2 a2t vn pn ln pn an1 pn x1 an 2 pn x2 ant
则有：
vi '
li '
ai1 '
ai 2 '
ait '
V 'T V ' 最小 T ˆ） ˆ） （L' A' X （ L' A' X 最小
ቤተ መጻሕፍቲ ባይዱ
13
第二节 正规方程
为使测量结果可靠，测量次数n大于未知参数个数t 即：误差方程个数大于未知参数个数 最小二乘法则 无法直接求解 有确定解的代数方程组 正规方程 正规方程：误差方程按最小二乘法原理转化得到的 有确定解的代数方程组
y1 f1 ( x1 , x2 , , xt ) y2 f 2 ( x1 , x2 , , xt ) yn f n ( x1 , x2 , , xt ) 由此得测量数据 l1 , l2 , , ln 的残余误差
v1 l1 f1 ( x1 , x2 ,, xt ) v2 l2 f 2 ( x1 , x2 , , xt ) vn ln f n ( x1 , x2 , , xt )
1
最小二乘法原理是一种在多学科领域中获得广泛应用 的数据处理方法。这种方法可以妥善解决参数的最可信赖 估计、组合测量的数据处理、用实验方法来拟定经验公式 以及回归分析等一系列数据处理问题。 在物理实验中，经常遇到已知变量间有密切的关系，但其 具体的函数形式及公式中所用参数的具体数值，则要通过实际 测量来确定的情况。 如已知某种电阻其阻值与温度有关，则需要测出一系列不同温 度下的阻值，然后对这一组数据用最小二乘法进行相应的处理， 得出函数关系中参数的最佳估计值。
14
7
线性参数最小二乘法处理程序：
1）列出误差方程； 2）将误差方程按最小二乘法原理转化为正规方程 3）求解正规方程 4）给出精度估计
非线性参数最小二乘法处理程序：
1）将非线性参数转化为线性参数； 2）按照线性参数最小二乘法处理程序处理
15
一、等精度测量线性参数最小二乘处理的正规方程
线性参数的误差方程为：
残差方程式
5
vi li fi ( x1 , x2 , , xt )
若 l1 , l2 , , ln 不存在系统误差，相互独立并服从正态 分布，标准差分别为 1 , 2 ,, n ，则 l1 , l2 , , ln 分别出 现在相应真值附近 d1 , d 2 , , d n区域内的概率为
问题：如何根据测量数据 l1 , l2 , , ln和测量方程解 得待测量X的估计值 x1 , x2 , , xt ？
3
讨论：
l1 Y1 f1 ( X 1 , X 2 ,, X t ) l2 Y2 f 2 ( X 1 , X 2 , , X t ) ln Yn f n ( X 1 , X 2 , , X t )
令
l1 l L 2 ln
则残差方程的矩阵表达式为
ˆ V L AX
10
5
残差方程的矩阵表达式为
ˆ V L AX
等精度测量最小二乘原理的矩阵形式：
v1 v2 vn vi 最小
2 2 2 2 i 1
n
V TV 最 小
Y1 a11 X 1 a12 X 2 a1t X t y1 a11x1 a12 x2 a1t xt Y2 a21 X 1 a22 X 2 a2t X t y2 a21x1 a22 x2 a2t xt yn an1 x1 an 2 x2 ant xt Yn an1 X 1 an 2 X 2 ant X t
17
合并简写： n
( vi 2 )
i 1
x1
2 a11 l1 ( a11 x1 a12 x2 a1t xt ) 2 a21 l2 ( a21 x1 a22 x2 a2 t xt ) -... 2 an1 ln ( an1 x1 an 2 x2 ant xt ) 0
或
ˆ） ˆ） 最小 （ L AX （ L AX
T
11
等精度测量最小二乘原理的矩阵形式： V T V 最小
四、不等精度测量的线性参数最小二乘原理
思路一：
Pnn
2 2 p1 0 0 1 0 0 0 p 0 2 2 0 0 2 2 2 2 0 0 p n 0 0 n
v1 l1 (a11 x1 a12 x2 a1t xt ) n v2 l2 (a21 x1 a22 x2 a2t xt ) 求极值 ( vi 2 ) 条件： i 1 0 x 1 vn ln (an1 x1 an 2 x2 ant xt ) 最小二乘法条件： n n ( vi 2 ) 2 2 2 2 vi v1 v 2 vn 最 小 i 1 0 i 1 x t
p1v1 p2 v2 pn vn pi vi 最小
2 2 2 2 i 1
n
最小二乘原理（其他分布也适用）：
测量结果的最可信赖值应使残余误差平方和 （或加权残余误差平方和）最小。
8
4
三、等精度测量的线性参数最小二乘原理
线性参数的测量方程和相应的估计量为： 测量方程为 估计量为
由于结果只是接近真值的估计值，因此上述条件应表 示为
v1
2
12
v2
2
22
vn
2
n2
最小
7
v1
2
12
2 2
v2
2
22
vn
2
n2
n
最小
等精度测量的最小二乘原理：
v1 v2 vn vi 最小
2 2 i 1
不等精度测量的最小二乘原理：
v1 l1 (a11x1 a12 x2 a1t xt ) v2 l2 (a21 x1 a22 x2 a2t xt ) vn ln (an1 x1 an 2 x2 ant xt )
x1 x ˆ X 2 xt v1 v V 2 vn a11 a12 a1t a a a 2t A 21 22 an1 an 2 ant