参数的最小二乘法估计
一元线性回归模型的基本假设二、参数的普通最小二乘估计（OLS）
§2.2一元线性回归模型的参数估计一、一元线性回归模型的基本假设二、参数的普通最小二乘估计（OLS）三、参数估计的最大或然法(ML)四、最小二乘估计量的性质五、参数估计量的概率分布及随机干扰项方差的估计单方程计量经济学模型分为两大类：线性模型和非线性模型•线性模型中，变量之间的关系呈线性关系•非线性模型中，变量之间的关系呈非线性关系一元线性回归模型：只有一个解释变量i i i X Y μββ++=10i=1,2,…,nY 为被解释变量，X 为解释变量，β0与β1为待估参数，μ为随机干扰项回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。
估计方法有多种，其中最广泛使用的是普通最小二乘法（ordinary least squares,OLS）。
为保证参数估计量具有良好的性质，通常对模型提出若干基本假设。
注：实际这些假设与所采用的估计方法紧密相关。
一、线性回归模型的基本假设假设1、解释变量X是确定性变量，不是随机变量；假设2、随机误差项μ具有零均值、同方差和不序列相关性：E(μi)=0i=1,2,…,nVar(μi)=σμ2i=1,2,…,nCov(μi,μj)=0i≠j i,j=1,2,…,n假设3、随机误差项μ与解释变量X之间不相关：Cov(X i,μi)=0i=1,2,…,n假设4、μ服从零均值、同方差、零协方差的正态分布μi~N(0,σμ2)i=1,2,…,n注意：1、如果假设1、2满足，则假设3也满足;2、如果假设4满足，则假设2也满足。
以上假设也称为线性回归模型的经典假设或高斯（Gauss）假设，满足该假设的线性回归模型，也称为经典线性回归模型（Classical Linear Regression Model,CLRM）。
二、参数的普通最小二乘估计（OLS）给定一组样本观测值（X i ,Y i ）（i=1,2,…n ）要求样本回归函数尽可能好地拟合这组值.普通最小二乘法（Ordinary least squares,OLS ）给出的判断标准是：二者之差的平方和∑∑+-=-=ni i i n i X Y Y Y Q 121021))ˆˆ(()ˆ(ββ最小。
一元线性回归模型及参数的最小二乘估计课件-高二数学人教A版(2019)选择性必修第三册
§8.2 一元线性回归模型及其应用 第1课时 一元线性回归模型及参数的最小二乘估计
1 一元线性回归模型 2 最小二乘法和
经验回归方程
3 利用经验回归方程
进行预测
01 一元线性回归模型
知识梳理
一元线性回归模型：我们称
Y＝bx＋a＋e， Ee＝0，De＝σ2
为Y关于x的_一__元__线__性__回__归_
8
∑i＝1xiyi－8 x b^ ＝ 8
∑i＝1x2i －8 x
y
2
＝132245－6－8×8×52×25982＝14，
所以a^ ＝ y －b^ x ＝98－14×52＝12，故经验回归方程为y^＝14x＋12.
(2)若该次考试数学平均分为120分，物理平均分为91.5分，试由(1)的结 论预测数学成绩为128分的同学的物理成绩.
n
(xi－ x )2
n
x2i －n x 2
i＝1
i＝1
由题意可得 x ＝15×(1＋1.5＋2＋2.5＋3)＝2， y ＝15×(0.9＋0.7＋0.5＋0.3＋0.2)＝0.52.
5
(xi－ x )(yi－ y )＝－1×0.38－0.5×0.18＋0.5×(－0.22)＋1×(－0.32)
i＝1
(1)(2)(3)(4)(5)回归模型，(6)(7)函数模型.
练1习1 若某地财政收入x与支出y满足一元线性回归模型y＝bx＋a＋e(单
位：亿元)，其中b＝0.7，a＝3，|e|≤0.5，如果今年该地区财政收入10亿
元，年支出预计不会超过
A.9亿元 C.10亿元
一元线性回归模型参数的最小二乘法估计
8.2.1一元线性回归模型1.生活经验告诉我们,儿子的身高与父亲的身高相关.一般来说,父亲的身高较高时，儿子的身高通常也较高.为了进一步研究两者之间的关系，有人调查了14名男大学生的身高及其父亲的身高，得到的数据如表1所示.编号1234567891011121314父亲身高/cm 174 170 173 169 182 172 180 172 168 166 182 173 164 180 儿子身高/cm 176 176 170 170 185 176 178 174 170 168 178 172 165 182从图上看，散点大致分布在一条直线附近根据我们学过的整理数据的方法:相关系数r =0.886．父亲身高/cm180 175 170 165 160160 165 170 175180 185 190 ·· ·· · · · 儿子身高/cm· · · · ·185 1).问题1:可以得到什么结论？由散点图的分布趋势表明儿子的身高与父亲的身高线性相关，通过相关系数可知儿子的身高与父亲的身高正线性相关，且相关程度较高．2).问题2:是否可以用函数模型来刻画？不能，因为不符合函数的定义.这其中还受其它因素的影响.3).问题3:那么影响儿子身高的其他因素是什么？影响儿子身高的因素除父亲的身外,还有母亲的身高、生活的环境、饮食习惯、营养水平、体育锻炼等随机的因素，儿子身高是父亲身高的函数的原因是存在这些随机的因素.4).问题4: 你能否考虑到这些随机因素的作用，用类似于函数的表达式,表示儿子身高与父亲身高的关系吗?用x表示父亲身高，Y表示儿子的身高,用e表示各种其它随机因素影响之和，称e为随机误差, 由于儿子身高与父亲身高线性相关，所以Y=bx+a.考虑随机误差后，儿子的身高可以表示为：Y=bx+a+e由于随机误差表示大量已知和未知的各种影响之和，它们会相互抵消，为使问题简洁，可假设随机误差e的均值为0，方差为与父亲身高无关的定值 . 2σ2即E e D eσ:()0,().==我们称①式为Y 关于x 的一元线性回归模型，其中，Y 称为因变量或响应变量，x 称为自变量或解释变量 . a 称为截距参数，b 称为斜率参数；e 是Y 与bx+a 之间的随机误差．2,()0,().Y bx a e E e D e σ=++⎧⎨==⎩① 2、一元线性回归模型如果用x 表示父亲身高，Y 表示儿子的身高,e 表示随机误差.假定随机误差e 的均值为0，方差为与父亲身高无关的定值 ，则它们之间的关系可以表示为2σ4.问题5:你能结合具体实例解释产生模型①中随机误差项的原因吗?产生随机误差e的原因有：(1)除父亲身高外，其他可能影响儿子身高的因素,比如母亲身高、生活环境、饮食习惯和锻炼时间等.(2)在测量儿子身高时，由于测量工具、测量精度所产生的测量误差.(3)实际问题中,我们不知道儿子身高和父亲身高的相关关系是什么，可以利用一元线性回归模型来近似这种关系,这种近似关系也是产生随机误差e的原因.8.2.2一元线性回归模型参数的最小二乘法估计二、自主探究问题1.为了研究两个变量之间的相关关系， 我们建立了一元线性回归模型表达式 刻画的是变量Y 与变量x 之间的线性相关关系，其中参数a 和b 未知，我们如何通过样本数据估计参数a 和b?2,()0,().Y bx a e E e D e σ=++⎧⎨==⎩问题2.我们怎样寻找一条“最好”的直线，使得表示成对样本数据的这些散点在整体上与这条直线最“接近”？从成对样本数据出发，用数学的方法刻画“从整体上看，各散点与蓝色直线最接近”利用点到直线y=bx+a 的“距离”来刻画散点与该直线的接近程度，然后用所有“距离”之和刻画所有样本观测数据与该直线的接近程度.父亲身高/cm180 175 170 165 160160 165 170 175180 185 190 ·· ·· · · · 儿子身高/cm· · · · ·185 父亲身高/cm180 175 170 165 160160 165 170 175 180 185 190·· ·· · · · 儿子身高/cm· · · · ·185设满足一元线性回归模型的两个变量的n 对样本数据为(x 1,y 1)，(x 2，y 2），…，(x n ，y n )父亲身高/cm180 175170165 160160165 170 175 180 185 190·· · · · · · 儿子身高/cm· ·· · · 185()()(1,2,3,,-).i i i i i i i i i i i y bx a e i n y bx a e e x y x bx a =++=⋅⋅⋅+=+由），得(显然越小，表示点，与点，的距离越小，()0,.i i i x y =即样本数据点离直线y=bx+a 的竖直距离越小，如上图特别地，当e 时，表示点在这条直线上1-)ni i i y bx a =+∑因此可用(来刻画各样本观测数据与直线y=bx+a 的整体接近程度.()iix y ，y=bx+a()i i x bx a +，·[]21(,)()ni i i Q a b y bx a ==-+∑残差平方和： 即求a ，b 的值，使Q ( a ，b )最小残差：实际值与估计值之间的差值，即 使Q 取得最小值，当且仅当b 的取值为121()()()nii i nii xx y y b xx ==--=-∑∑b.,ˆ,ˆ的最小二乘估计叫做求得a b a b(,).x y 经验回顾直线必经过的符号相同与相关系数r b ˆ最小二乘法我们将 称为Y 关于x 的经验回归方程，也称经验回归函数或经验回归公式，其图形称为经验回归直线，这种求经验回归方程的方法叫最小二乘法．ˆˆˆy bxa =+12111=i ni n22i ni n x x y y ˆb ,x x ˆˆa x y x y x xy b .i i i i i i ΣΣx )n ΣΣ(()()n ====⎧--⎪=⎪⎨-⎪⎪--=⎩-问题2:依据用最小二乘估计一元线性回归模型参数的公式,求出儿子身高Y 关于父亲身高x 的经验回归方程.儿子的身高不一定会是177cm ，这是因为还有其他影响儿子身高的因素，回归模型中的随机误差清楚地表达了这种影响,父亲的身高不能完全决定儿子的身高，不过，我们可以作出推测，当父亲的身高为176cm 时，儿子身高一般在177cm 左右.当x=176时， ,如果一位父亲身高为176cm,他儿子长大后身高一定能长到177cm 吗？为什么？177y ≈083928957ˆy .x .=+的意义？∧b残差的定义,e a bx Y ++=一元线性回归模型,,Y y 对于通过观测得响应到的数据称量为变观测值ˆ,y通过经验回归方程得到称为预报值的ˆ.ˆey y =-残观测值减去预报值称为即差判断模型拟合的效果:残差分析问题3:儿子身高与父亲身高的关系，运用残差分析所得的一元线性回归模型的有效性吗？残差图:作图时纵坐标为残差,横坐标可以选为样本编号,或身高数据或体重估计值等，这样作出的图形称为残差图．从上面的残差图可以看出，残差有正有负，残差点比较均匀地分布在横轴的两边，可以判断样本数据基本满足一元线性回归模型对于随机误差的假设.所以，通过观察残差图可以直观判断样本数据是否满足一元线性回归模型的假设，从而判断回归模型拟合的有效性.所以，只有图(4）满足一元线性回归模型对随机误差的假设图(1)显示残差与观测时间有线性关系,应将时间变量纳入模型； 图(2)显示残差与观测时间有非线性关系,应在模型中加入时间的非线性函数部分; 图(3)说明残差的方差不是一个常数，随观测时间变大而变大图(4)的残差比较均匀地集中在以横轴为对称轴的水平带状区域内.根据一元线性回归模型中对随机误差的假定，残差应是均值为0，方差为 的随机变量的观测值.2σ观察以下四幅残差图，你认为哪一个残差满足一元线性回归模型中对随机误差的假定？1.残差等于观测值减预测值2.残差的平方和越小越好；3.原始数据中的可疑数据往往是残差绝对值过大的数据；4. 对数据刻画效果比较好的残差图特征:残差点比较均匀的集中在水平带状区域内．归纳小结（残差图中带状越窄，精度越高）1.关于残差图的描述错误的是( )A.残差图的横坐标可以是样本编号B.残差图的横坐标也可以是解释变量或预报变量C.残差点分布的带状区域的宽度越窄相关指数越小D.残差点分布的带状区域的宽度越窄残差平方和越小C 三、巩固提升2.根据如下样本数据:得到的经验回归方程为 ,则( ) A. >0, >0B. >0, <0C. <0, >0D. <0, <0 x 2 3 4 5 6 Y42.5-0.5-2-3a $a $a $a$$b $b$b$b $$ybx a =+$ B3.某种产品的广告支出费用x(单位:万元)与销售额Y(单位:万元)的数据如表:已知Y 关于x 的经验回归方程为 =6.5x+17.5,则当广告支 出费用为5万元时,残差为________. x 2 4 5 6 8Y 30 40 60 50 70$y当x=5时, =6.5×5+17.5=50,表格中对应y=60,于是残差为60-50=10.$y10一元线性回归模型的应用例1.经验表明,对于同一树种,一般树的胸径(树的主干在地面以上1.3m处的直径)越大,树就越高.由于测量树高比测量胸径困难，因此研究人员希望由胸径预测树高.在研究树高与胸径之间的关系时,某林场收集了某种树的一些数据如下表所示,试根据这些数据建立树高关于胸径的经验回归方程.编号 1 2 3 4 5 6胸径/cm 18.1 20.1 22.2 24.4 26.0 28.3树高/m 18.8 19.2 21.0 21.0 22.1 22.1编号7 8 9 10 11 12胸径/cm 29.6 32.4 33.7 35.7 38.3 40.2树高/m 22.4 22.6 23.0 24.3 23.9 24.7dh· · ·· · · · · · · · · 解: 以胸径为横坐标,树高为纵坐标作散点图如下：散点大致分布在一条从左下角到右上角的直线附近，表明两个变量线性相关，并且是正相关，因此可以用一元线性回归模型刻画树高与胸径之间的关系.0.249314.84h d =+··· ·· · · · · · · · 用d 表示胸径,h 表示树高,根据据最小二乘法,计算可得经验回归方程为0.249314.84h d =+根据经验回归方程，由胸径的数据可以计算出树高的预测值(精确到0.1)以及相应的残差，如下表所示.编号胸径/cm 树高观测值/m 树高预测值/m 残差/m1 18.1 18.8 19.4 -0.62 20.1 19.2 19.9 -0.73 22.2 21.0 20.4 0.64 24.4 21.0 20.9 0.15 26.0 22.1 21.3 0.86 28.3 22.1 21.9 0.27 29.6 22.4 22.2 0.28 32.4 22.6 22.9 -0.39 33.7 23.0 23.2 -0.210 35.7 24.3 23.7 0.611 38.3 23.9 24.4 -0.512 40.2 24.7 24.9 -0.2以胸径为横坐标，残差为纵坐标，作残差图，得到下图.30252015-1.0-0.5 0.0 0.5 1.0· · · · · · · 残差/m· · · ·· 354045胸径/cm观察残差表和残差图，可以看到残差的绝对值最大是0.8，所有残差分布在以横轴为对称轴、宽度小于2的带状区域内 .可见经验回归方程较好地刻画了树高与胸径的关系，我们可以根据经验回归方程由胸径预测树高.编号1 2 3 4 5 6 7 8 年份 1896 1912 1921 1930 1936 1956 1960 1968 记录/s 11.8010.6010.4010.3010.2010.1010.009.95例2.人们常将男子短跑100m 的高水平运动员称为“百米飞人”.下表给出了1968年之前男子短跑100m 世界纪录产生的年份和世界纪录的数据.试依据这些成对数据，建立男子短跑100m 世界纪录关于纪录产生年份的经验回归方程以成对数据中的世界纪录产生年份为横坐标,世界纪录为纵坐标作散点图,得到下图在左图中，散点看上去大致分布在一条直线附近，似乎可用一元线性回归模型建立经验回归方程.将经验回归直线叠加到散点图，得到下图：76913031.4902033743.0ˆ1+-=t y用Y 表示男子短跑100m 的世界纪录,t 表示纪录产生的年份 ,利用一元线性回归模型来刻画世界纪录和世界纪录产生年份之间的关系 . 根据最小二乘法,由表中的数据得到经验回归方程为：从图中可以看到，经验回归方程较好地刻画了散点的变化趋势，请再仔细观察图形，你能看出其中存在的问题吗?你能对模型进行修改,以使其更好地反映散点的分布特征吗？仔细观察右图，可以发现散点更趋向于落在中间下凸且递减的某条曲线附近.回顾已有的函数知识，可以发现函数y=-lnx的图象具有类似的形状特征注意到100m短跑的第一个世界纪录产生于1896年, 因此可以认为散点是集中在曲线y=f(t)=c1+c2ln(t-1895)的周围，其中c1、c2为未知参数，且c2<0.y=f(t)=c1+c2ln(t-1895)这是一个非线性经验回归函数，如何利用成对数据估计参数c1、c2令x=ln(t-1895)，则Y=c2x+c1对数据进行变化可得下表：编号 1 2 3 4 5 6 7 8 年份/t 1896 1912 1921 1930 1936 1956 1960 1968 x 0.00 2.83 3.26 3.56 3.71 4.11 4.17 4.29 记录/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95将x=ln(t-1895)代入：得 8012653.114264398.0ˆ2+-=x y上图表明,经验回归方程对于成对数据具有非常好的拟合精度.将经验回归直线叠加到散点图，得到下图： 8012653.114264398.0ˆ2+-=x y8012653.11)1895ln(4264398.0ˆ2+--=t y经验回归方程为对于通过创纪录时间预报世界纪录的问题，我们建立了两个回归模型，得到了两个回归方程，你能判断哪个回归方程拟合的精度更好吗？8012653.114264398.0ˆ2+-=x y① 2ˆ0.4264398ln(1895)11.8012653y t =--+② 我们发现，散点图中各散点都非常靠近②的图象， 表明非线性经验回归方程②对于原始数据的拟合效果远远好于经验回归方程①.(1).直接观察法.在同一坐标系中画出成对数据散点图、非线性经验回归方程②的图象(蓝色)以及经验回归方程①的图象(红色).28212811ˆ,ˆQ Q (()0.004)0.669i i i i eu ===≈=≈∑∑8012653.114264398.0ˆ2+-=x y① 2ˆ0.4264398ln(1895)11.8012653yt =--+②（2).残差分析:残差平方和越小,模型拟合效果越好.Q 2明显小于Q 1，说明非线性回归方程的拟合效果 要优于线性回归方程.R 2越大，表示残差平方和越小，即模型的拟合效果越好 R 2越小，表示残差平方和越大，即模型的拟合效果越差. 21212ˆ()11()n i i nii i y y y y R ==-=-=--∑∑残差平方和。
最小二乘法估计
机器学习领域应用
线性回归模型
在机器学习中，最小二乘法是线性回归模型的核心算法之一。通过最小化预测值与实际值之间的平方误差，可以 训练出预测精度较高的线性回归模型。
特征选择
最小二乘法也可以用于特征选择，通过计算特征的系数大小，可以判断哪些特征对模型的预测结果影响较大，从 而进行特征筛选和优化。
06 最小二乘法的未来发展与 研究方向
用于研究社会现象和人类行为 ，如市场调查、人口统计等。
最小二乘法的历史与发展
历史
最小二乘法最早由法国数学家勒让德 于1805年提出，并广泛应用于天文、 物理和工程领域。
发展
随着计算机技术的进步，最小二乘法 在数据处理和统计分析方面得到了广 泛应用和改进，出现了多种扩展和变 种，如加权最小二乘法、广义最小二 乘法等。
加权最小二乘法（WLS）
总结词
详细描述
加权最小二乘法是一种改进的线性回 归分析方法，通过给不同观测值赋予 不同的权重来调整误差的平方和。
加权最小二乘法（Weighted Least Squares，WLS）是对普通最小二乘法 的改进，通过给不同观测值赋予不同 的权重来调整误差的平方和。这种方 法适用于存在异方差性的数据，即误 差项的方差不恒定的情况。通过合理 地设置权重，WLS能够更好地拟合数 据并提高估计的准确性。
广泛的应用领域
最小二乘法适用于多种统计模型 和回归分析，是线性回归分析中 最常用的方法之一。
缺点
假设限制
01
最小二乘法要求数据满足线性关系和误差项独立同分布等假设，
这些假设在实际应用中可能难以满足。
对异常值敏感
02
虽然最小二乘法相对稳健，但仍然容易受到异常值的影响，可
能导致估计结果偏离真实值。
最小二乘法参数估计量推导
最小二乘法参数估计量推导最小二乘法，这个名字听上去挺高深的，其实就是一种简单而强大的数学工具，广泛应用于数据分析中。
今天，我们就来聊聊这玩意儿到底是怎么一回事。
1. 什么是最小二乘法最小二乘法其实就是在做“找差距”的工作。
假设你有一堆数据点，比如说你测量了一系列的温度和对应的电力消耗，你的目标是找到一条最能贴合这些数据点的直线。
这条直线就像是你为数据“量体裁衣”的结果。
1.1. 基本思想最小二乘法的核心思想就是：找到一条直线，使得每一个数据点到这条直线的距离（叫做“残差”）的平方和最小。
这个“平方和”就像是把所有的偏差加起来，让它们不再那么“任性”。
1.2. 为什么用“平方”？那为什么要把这些偏差平方呢？因为平方能有效地放大大的误差，这样我们就不容易忽视它们。
就像打麻将，偏差大的牌更容易被看见，才能让我们在游戏中更精准地调整策略。
2. 数学推导好啦，接下来我们就来捋一捋这个过程。
咱们还是从简单的说起：假设你有一组数据点（x₁, y₁）、（x₂, y₂）、……、（xₙ, yₙ），而你要找的是一条直线y = β₀ + β₁x。
这条直线就是我们的“理想之线”。
2.1. 定义目标函数我们的目标就是最小化所有这些点到直线的距离平方和。
用数学的语言来描述，就是要最小化目标函数：[ S(beta_0, beta_1) = sum_{i=1}^n (y_i beta_0 beta_1 x_i)^2 ]。
这里面，(y_i beta_0 beta_1 x_i)就是每一个点到直线的距离，平方了之后就能让误差更加明显。
2.2. 求导数为了找到最小值，我们需要对目标函数进行求导数，然后让导数等于零。
这个过程就像是找到山顶的最低点一样。
我们分别对β₀和β₁求偏导数，然后设定这些偏导数为零，得到两个方程：[ frac{partial S}{partial beta_0} = 0 ]。
[ frac{partial S}{partial beta_1} = 0 ]。
参数最小二乘估计量的统计性质
ˆ
பைடு நூலகம்
(1 n
x
ki)
yi
(1 n
x
ki)(
xi
ui)
(
1 n
x
k i) ui
(2.3.7)
(2.3.7)表明 ˆ 是ui的线性函数。
二、无偏性
由(2.3.3)知 ˆ ki ui ，取期望值便有
E(ˆ ) ki E(ui)
(2.3.8)
其中E(ui) = 0，(2.3.8)表明 ˆ 是β的无偏估计量。
此时 ˆ* 与最小二乘估计量 ˆ 相等：
ˆ* ci yi ciki ki yi ˆ (2.3.15)
将此结果代入(2.3.14)便有
V (ˆ*)
2 u
k
2 i
2 u
xi2
此结果与(2.3.10)式相同。
(2.3.16)
对于ˆ 的最小方差性的证明与 ˆ 的证明完全类
似，请读者自己完成。
这样我们证明了，只要经典回归模型的假定2—5 满足，回归参数的最小二乘估计量就是线性、无 偏、最佳估计量，简称为最佳线性无偏估计量 (BLUE: best linear unbiased estimators)。这一 结论就是著名的高斯-马尔可夫 (Gauss Markov) 定理。 无偏性与最佳性结合起来构成了估计量好坏的重要 标志。由于最小二乘估计量的最佳线性无偏估计量 的特性，才使得最小二乘法得到了广泛的应用。
足条件
ci 0
ci xi 1
(2.3.13)
下面我们将在满足（2.3.13）的前提下，寻求 ˆ*
的最小方差：
V
(ˆ*)
V
(
ci
yi)
2 u
ci2
第四章线性系统参数估计的最小二乘法
测得铜导线在温度Ti (o C) 时的电阻 Ri (Ω ) 如表 6-1，求电阻 R 与温度 T 的近似函数关系。
i
1
2
3
4
5
6
7
Ti (o C) Ri (Ω )
19.1 76.30
25.0 77.80
30.1 79.25
36.0 80.80
40.0 82.35
45.1 83.90
50.0 85.10
使用(1，1.8)，(2，2.2)两个点得到的方
1.5 1 1.5 2 2.5 3 3.5 4 4.5 5 5.5 6
程为 y=1.4 + 0.4x；使用(1，1.8)，(6，3.3)两个点得到的方程为 y=1.5 + 0.3x，而使用（3,3）和（6,3.3）
两个点得到的方程是 y=2.7+0.1x。
(4.1)
其中，θ=(θ1, θ2, …, θn)是一个参数集。在系统辨识中它们是未知的。我们希望通过不同时刻
对Y及X的观测值来估计出它们的数值。
例如，在研究两个变量（x，y）之间的
4
关系时，通常的做法是取一个变量作为自
变量，另一个作为因变量。改变自变量可
3.5
得到相应的因变量。将所得到的一系列数
据对描绘在直角坐标系中，得到一系列的
X T XΘˆ = X TY
(4.7)
得
Θˆ＝( X T X )−1 X TY
(4.8)
这样求得的Θˆ 就称为Θ的最小二乘估计(LSE)，在统计学上，方程(4.7)称为正则方程，称ε
为残差。
在前面讨论的例子中，把 6 个数据对分别代入直线方程y=a0 + a1x中可得到 1 个由 6 个直线
最小二乘估计的推导
最小二乘估计的推导最小二乘估计是一种常用的参数估计方法，尤其在统计学和经济学领域得到广泛应用。
它的推导涉及到一些数学推理和统计原理，我将在本文中逐步解释和展示最小二乘估计的推导过程，并探讨其应用和优势。
1. 引言最小二乘估计是一种通过最小化观测值与预测值之间的差异来估计参数的方法。
它的基本思想是找到一组参数值，使得观测值与对应的预测值之间的平方差最小化。
这种方法在数据分析和回归分析中非常有用，因为它能够提供可靠的参数估计和预测模型。
2. 最小二乘估计的基本原理最小二乘估计的推导涉及到线性回归模型，即因变量Y与自变量X之间的线性关系。
假设我们有n个观测值，表示为（Xi，Yi），i=1，2，...，n。
我们的目标是找到一条直线Y=aX+b，使得所有观测值到这条直线的距离之和最小化。
距离的平方和可以表示为：S = Σ(Yi - (aXi + b))²我们的目标是最小化这个平方和。
为了找到最优的参数估计，我们需要找到使得S最小的a和b的值。
3. 最小化平方和我们可以通过对S求导，令导数等于零，来求解a和b的值。
具体地，我们分别对a和b求导，并令导数等于零：∂S/∂a = -2ΣXi(Yi - (aXi + b)) = 0∂S/∂b = -2Σ(Yi - (aXi + b)) = 0通过求解以上两个方程，我们可以得到最小二乘估计的闭合解：a = (ΣXiYi - n X̄Ȳ) / (ΣXi² - n X̄²)b = Ȳ - a X̄其中，X̄和Ȳ分别表示X和Y的均值，Σ表示求和符号。
4. 应用和优势最小二乘估计在实际应用中具有广泛的用途。
在经济学中，我们可以通过最小二乘估计来估计需求曲线和供给曲线的参数，从而预测市场的走势和变化。
在统计学中，最小二乘估计可以用于拟合数据并构建预测模型。
它是最经典的回归分析方法之一，可用于解释和预测变量之间的关系。
最小二乘估计具有一些优势。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第四章最小二乘法与组合测量§1概述最小二乘法是用于数据处理和误差估计中的一个很得力的数学工具。
对于从事精密科学实验的人们来说，应用最小乘法来解决一些实际问题，仍是目前必不可少的手段。
例如，取重复测量数据的算术平均值作为测量的结果，就是依据了使残差的平方和为最小的原则，又如，在本章将要用最小二乘法来解决一类组合测量的问题。
另外，常遇到用实验方法来拟合经验公式，这是后面一章回归分析方法的内容，它也是以最小二乘法原理为基础。
最小二乘法的发展已经经历了200多年的历史，它最先起源于天文和大地测量的需要，其后在许多科学领域里获得了广泛应用，特别是近代矩阵理论与电子计算机相结合，使最小二乘法不断地发展而久盛不衰。
本章只介绍经典的最小二乘法及其在组合测量中的一些简单的应用，一些深入的内容可参阅专门的书籍和文献。
§2最小二乘法原理最小二乘法的产生是为了解决从一组测量值中寻求最可信赖值的问题。
对某量x 测量一组数据n x x x ,,,21 ，假设数据中不存在系统误差和粗大误差，相互独立，服从正态分布，它们的标准偏差依次为：n σσσ ,,21记最可信赖值为x ，相应的残差x x v i i -=。
测值落入),(dx x x i i +的概率。
根据概率乘法定理，测量n x x x ,,,21 同时出现的概率为显然，最可信赖值应使出现的概率P 为最大，即使上式中页指数中的因子达最小，即权因子：22oi iw σσ=即权因子i w ∝21i σ，则再用微分法，得最可信赖值x11ni ii nii w xx w===∑∑即加权算术平均值这里为了与概率符号区别，以i ω表示权因子。
特别是等权测量条件下，有：以上最可信赖值是在残差平方和或加权残差平方和为最小的意义下求得的，称之为最小二乘法原理。
它是以最小二乘方而得名。
为从一组测量数据中求得最佳结果，还可使用其它原理。
例如（1）最小绝对残差和法：Min v i =∑ （2）最小最大残差法：Min v i =max （3）最小广义权差法：Min v v i i =-m in m ax以上方法随着电子计算机的应用才逐渐引起注意，但最小二乘法便于解析，至今仍用得最广泛。
§3.线性参数最小二乘法先举一个实际遇到的测量问题，为精密测定三个电容值:321,,x x x 采用的测量方案是，分别等权、独立测得323121,,,x x x x x x ++,列出待解的数学模型。
1x =0.32x =-0.4 1x +3x =0.52x +3x =-0.3这是一个超定方程组，即方程个数多于待求量个数，不存在唯一的确定解，事实上，考虑到测量有误差，记它们的测量误差分别为4321,,,v v v v ，按最小二乘法原理∑=Min vi2分别对321,,x x x 求偏导数，令它们等于零，得如下的确定性方程组。
(1x -0.3)+(1x +3x -0.5)=0 (2x +0.4)+(2x +3x +0.3)=0 (1x +3x -0.5)+(2x +3x +0.3)=0可求出唯一解1x =0.325,2x =-0.425,3x =0.150这组解称之为原超定方程组的最小二乘解。
以下，一般地讨论线性参数测量方程组的最小二乘解及其精度估计。
一、正规方程组设线性测量方程组的一般形式为： 即式中，有n 个直接测得值n y y y ,,,21 ，t 个待求量t x x x ,,,21 。
n>t,各i y 等权，无系统误差和粗大误差。
固i y 含有测量误差，每个测量方程都不严格成立，故有相应的测量残差方程组i y 实测值j x 待估计量，最佳估计值，最可信赖值∑=tj j ijx a1最可信赖的“y ”值。
按最小二乘法原理，待求的j x 应满足上式分别对j x 求偏导数，且令其等于零，经推导得⎪⎪⎭⎪⎪⎬⎫=+++=+++=+++][][][][][][][][][][][][22112222211211221111a x a a x a a x a a a x a a x a a x a a a x a a x a a x a a t t t t t t t t t t 正规方程组式中，j a ，y 分别为如下列向量][k l a a 和][y a j 分别为如下两列向量的内积： ][k l a a =nk nl k l k l a a a a a a +++ 2211 ][y a j =n nj j j y a y a y a +++ 2211正规方程组有如下特点：（1）主对角线系数是测量方程组各列系数的平方和，全为正数。
（2）其它系数关于主对角线对称（3）方程个数等于待求量个数，有唯一解。
由此可见，线性测量方程组的最小二乘解归结为对线性正规方程组的求解。
为了便于进一步讨论问题，下面借助矩阵工具给出正规方程组的矩阵形式。
记列向量 和n ×t 阶矩阵 则测量方程组可记为：AX =Y ——一般意义下的方程组测量残差方程组记为当估计出的j x 已经是最可信赖的值，则AX 是i y 的最佳结果。
最小二乘原理记为 利用矩阵的导数及其性质有令()0x∂=∂T V V ，得正规方程组的矩阵形式。
展开系数矩阵T A A 和列向量T A L ，可得代数形式的正规方程组。
上述①②和矩阵的导数有关，因此，我们来分析“矩阵最小二乘法”。
二、矩阵最小二乘法 1.矩阵的导数设n t ⨯阶矩阵。
1112121222122()()t i t ij t ni n nt a a a A a a a a A A A a a a ⎛⎫⎪=== ⎪ ⎪⎝⎭)n 阶列向量（n+1阶矩阵）V 和t 阶列向量XV 与X 的转置（行向量）记为T V 与T X . 关于向量X 的标量函数。
定义如下几个导数。
（1）矩阵对标量x 的导数矩阵内A 元素ij a 是x 的函数，对矩阵AX 的导数，定义为各元素对x 的导数，构成新的导数矩阵。
若ij a 是变量x 的函数，则定义()ij da d dx dx=A(E-1) （2）标量函数对向量的导数标量函数ϕ，对列向量X 的导数，等于标量函数ϕ对向量X 的组成元素(1)i x i t =～的导数组成的列向量（行向量的转置）12()Tty y y y x x x x ∂∂∂∂=∂∂∂∂(E-2)标量函数ϕ，对行向量T X 的导数，等于标量函数ϕ对向量X 的组成元素(1)i x i t =～的导数组成的行向量。
21()()T T t y y y y yx x x x x∂∂∂∂∂==∂∂∂∂∂(E-3) （3）行（列）向量对列（行）向量的导数行向量T V 对列向量X 的导数等于行向量各组成元素，对列向量各组成元素分别求得11112221n n i n n t t v v x x v v v v v x x x x x xv v x x ∂∂⎛⎫ ⎪∂∂ ⎪ ⎪∂∂∂∂∂∂ ⎪∂∂== ⎪∂∂∂∂ ⎪ ⎪∂∂ ⎪ ⎪∂∂⎝⎭TV(E-4) 11122121()t TT n t T T Tn n it v v x x v v v v v x x x x x v v x x ∂∂⎛⎫ ⎪∂∂ ⎪ ⎪∂∂⎛⎫∂∂∂∂∂ ⎪∂∂== ⎪ ⎪∂∂∂∂∂⎝⎭ ⎪ ⎪∂∂ ⎪ ⎪∂∂⎝⎭＝T T V V X X (E-5)关于矩阵的导数有如下性质： （1）矩阵A 和B 乘积对标量x 的导数()d d d dx dx dx=+AB B AA B (E-6) （2）常数阵的导数为零矩阵。
0d dx=A(E-7) （3）向量关于自身转置向量的导数为单位方阵。
I ∂=∂T TX dX=X dX (E-8)（4）向量与向量转置乘积的导数()∂∂∂∂T TV V V =2V x x (E-9) ()2∂∂=∂∂T T T T V V V V X X(E-10) （5）关于常数矩阵与向量乘积的导数()∂=∂T X A A X (E-11) ()∂∂T T TA X =A X(E-12) ()∂∂∂∂T TV V AV =2AV X X(E-13) ()∂∂∂∂T TT TV AV =2V A X X(E-14) 利用（E-1）、（E-4）、和（E-5）三个定义式，容易证明式（E-6）、（E-7）、（E-8）、和（E-11）、（E-11）成立。
①以下证明式（E-9）注意到式（E-2）和式（E-4）即， 标量对列向量求导12()Ttx x x x ϕϕϕϕ∂∂∂∂=∂∂∂∂(E-2) 行向量对列向量求导111112221()n n Tn n t t v v x x v v v v v x x v v x x ∂∂⎛⎫⎪∂∂ ⎪ ⎪∂∂∂∂∂∂ ⎪∂∂== ⎪∂∂∂∂ ⎪ ⎪∂∂ ⎪ ⎪∂∂⎝⎭V X X XX(E-4) 式（E-9）左11112122()22n n i i n nt t v v v v x x v x v v v v xx ∂∂⎛⎫++ ⎪∂∂ ⎪∂⎪==∂⎪∂∂ ⎪++ ⎪∂∂⎝⎭∑类似地，可以证得式（E-10）成立。
②再证明式（E-13）注意到T V AV 是关于x 的标量函数，由式（E-2）知，只需证明由于1211121121212()()n n i i i Tn iin n n nn i i i v v v a a a x x x V v v v x v v v a a a x x x ∂∂∂⎛⎫ ⎪∂∂∂ ⎪∂⎪=∂ ⎪∂∂∂ ⎪⎪∂∂∂⎝⎭AV 11111111n ni i n n nnn n i i v v a v a v x x v v a v a v x ax α∂∂⎛⎫++ ⎪∂∂⎪ ⎪=⎪∂ ⎪++ ⎪∂⎝⎭＝11111111n n iin n n nn n i nv v a v a v x x v v a v a v x x ∂∂⎛⎫++⎪∂∂ ⎪ ⎪ ⎪∂∂ ⎪++ ⎪∂∂⎝⎭所以式（E-13）左()+2i i i AV x x x ∂∂∂===∂∂∂右T T T V V AV V AV 2.正规方程设线性测量方程组与基残差方程组分别为AX =Y (E-15) L AX =V -(E-16)式中A 为n t ⨯阶常数矩阵，X 为t 阶待求向量，L 是已知的n 阶的测量向量，（注意12,,n l l l 均是已测量所得），V 是n 阶残差向量。
由最小二乘原理 求()2∂∂=∂∂T TV V V V X X（矩阵性质(E-9)式） 注意到式（E-7）即常数阵的导数为零矩阵。
注意到式（E-11）即()∂=∂T X A A X，故所以 令()0∂=∂T V V X得正规方程组的矩阵形式 T T A A X =A L (E-18)当T A A 满秩的情形，可求出1()-=T T X A A A L (E-19)一般地，可从式（E-15）出发，用稳定的数值解法，计算A 的广义逆阵1A -得1A -=X L (E-20)要进一步去研究此问题，可参阅有关近代矩阵分析及其数值方法的专着 3．待求量X 的协方差矩阵。