最小二乘法
最小二乘法及其应用研究
最小二乘法及其应用研究最小二乘法是一种常用的数据分析方法，它的应用非常广泛，被用于解决很多实际问题。
本文将从什么是最小二乘法到最小二乘法的应用进行详细的阐述。
一、什么是最小二乘法最小二乘法是一种用于拟合数据的方法，它可以帮助我们找到一条曲线或者直线，在这条曲线或者直线上所有数据的误差最小。
假设我们有一些数据点，我们想要用一条直线来描述这些数据点的分布规律，那么最小二乘法就可以帮助我们找到一条直线，使得这些数据点到这条直线的距离最小。
二、最小二乘法的应用最小二乘法的应用非常广泛，下面我们将分别从几个方面来介绍：1. 拟合数据最小二乘法可以用于拟合各种类型的数据，比如直线、曲线、多项式等等。
例如，我们可以用最小二乘法来拟合一条直线，从而得到这些数据点的趋势。
2. 预测结果最小二乘法不仅可以用于拟合数据，同时还可以用于预测结果。
例如，我们可以用最小二乘法来预测一些未来的数据趋势。
3. 优化算法最小二乘法还可以用于优化算法。
例如，在机器学习中，最小二乘法可以用于优化线性回归算法，从而得到更加准确的预测结果。
4. 数据处理最小二乘法还可以用于数据处理。
例如，我们可以用最小二乘法来处理某些特殊类型的数据，从而得到更加准确的结果。
三、最小二乘法的优缺点最小二乘法虽然有很多应用，但是它也有一些缺点，下面我们将介绍一下最小二乘法的优缺点：优点：1. 算法简单，易于实现2. 可以处理大部分数据类型3. 在处理异常数据时有一定的容错能力缺点：1. 当数据量较大时，计算量也会变得很大2. 在处理异常数据时容易产生误差3. 对数据类型有一定的限制四、总结最小二乘法是一种非常有用的数据分析方法。
它的应用非常广泛，被用于解决众多实际问题。
然而，我们也不能够完全依赖最小二乘法。
我们需要根据具体情况，选择合适的数据分析方法，从而得到更加准确的结果。
最小二乘法定义
最小二乘法定义最小二乘法（Least Squares Method，简称LS）是指在数学中一种最常见的数据拟合方法，它是一种统计学意义上的估计方法，用来找出未知变量和已知变量之间的关系，其中模型参数是通过最小化数据集误差的平方和来估计的。
一、定义：最小二乘法（Least Squares Method）是指在数学中最常见的数据拟合方法，它是一种统计学意义上的估计方法，用来确定未知变量与已知变量之间的关系，其中模型参数是通过最小化数据集误差的平方和来估计的。
二、基本原理：最小二乘法的基本原理是利用数据点与一个被称为“模型函数”的预设函数之间的差异，来从中估计出模型函数的参数。
具体来说，这一差异可以以误差的平方和来衡量，最小二乘法就是最小这一平方和的方法。
三、步骤：1. 构造未知变量的模型函数，其中当需要拟合的参数数目大于等于给定数据点的个数时，就会导致一定的形式多项式模型函数有正解；2. 求解模型函数的最小平方误差的最优解，即求解参数的数值；3. 根据最优解找出最小平方误差的值；4. 对模型函数进行评价，判断是否尽可能地满足数据点；5. 若满足，则用找出的模型函数来预报未来的参数变化情况。
四、应用：1. 拟合统计图形：通过最小二乘法，可以得到曲线拟合的参数，绘制出统计图形的曲线，用来剖析统计数据；2. 回归分析：可以用最小二乘法预测变量和另一变量之间的关系，如：股票收益与股价价格之间的关系，从而得到有用的分析结果；3. 模型拟合：最小二乘法可以估计精确数据模型参数，这些模型参数可与实验数据相同；4. 图像分析：最小二乘法可用于分析图像特征，如：平面图像的特征提取与比较，目标图像分类，等；5. 信号处理：最小二乘法的应用也可扩展到信号处理领域，用该方法对信号和噪声之间的关系进行拟合，来消除信号中的噪声。
最小二乘法
最小二乘法设（x 1, y 1 ), (x 2, y 2), …, (x n, y n)是直角平面坐标系下给出的一组数据，若x 1<x 2<…<x n,我们也可以把这组数据看作是一个离散的函数。
根据观察，如果这组数据图象“很象”一条直线（不是直线），我们的问题是确定一条直线y = bx +a ,使得它能"最好"的反映出这组数据的变化。
最小二乘法是处理各种观测数据进行测量平差的一种基本方法。
如果以不同精度多次观测一个或多个未知量，为了求定各未知量的最可靠值，各观测量必须加改正数，使其各改正数的平方乘以观测值的权数的总和为最小。
因此称最小二乘法。
所谓“权”就是表示观测结果质量相对可靠程度的一种权衡值。
法国数学家勒让德于1806年首次发表最小二乘理论。
事实上，德国的高斯于1794年已经应用这一理论推算了谷神星的轨道，但迟至1809年才正式发表。
此后他又提出平差三角网的理论，拟定了解法方程式的方法等。
为利用最小二乘法测量平差奠定了基础。
最小二乘法也是数理统计中一种常用的方法，在工业技术和其他科学研究中有广泛应用。
在我们研究两个变量(x, y)之间的相互关系时，通常可以得到一系列成对的数据(x1, y1、x2, y2... xm , ym)；将这些数据描绘在x -y直角坐标系中(如图1), 若发现这些点在一条直线附近，可以令这条直线方程如(式1-1)。
Y计= a0 + a1 X (式1-1)其中：a0、a1 是任意实数为建立这直线方程就要确定a0和a1，应用《最小二乘法原理》，将实测值Yi与利用(式1-1)计算值(Y计= a0+a1X)的离差(Yi-Y计)的平方和｀〔∑(Yi - Y计)2〕最小为“优化判据”。
令: φ = ∑(Yi - Y计)2 (式1-2)把(式1-1)代入(式1-2)中得:φ = ∑(Yi - a0 - a1 Xi)2 (式1-3)当∑(Yi-Y计)平方最小时，可用函数φ 对a0、a1求偏导数，令这两个偏导数等于零。
最小二乘法的概念
最小二乘法1. 概念定义最小二乘法（Least Squares Method）是一种数学优化方法，用于找到一组参数，使得观测数据与模型预测值之间的平方误差最小。
它通过对误差的平方和进行最小化来估计未知参数的值。
在最小二乘法中，我们假设存在一个线性模型来描述观测数据与未知参数之间的关系。
给定n个观测数据点(xi, yi)，其中xi是自变量，yi是因变量，我们可以将线性模型表示为：yi = β0 + β1 * xi + εi其中β0和β1是待估计的未知参数，εi是服从正态分布的随机误差。
我们的目标是找到最佳拟合线，使得所有数据点到该线的距离之和最小。
2. 重要性最小二乘法在统计学和数据分析中具有广泛应用，并且具有以下重要性：2.1 参数估计通过最小二乘法可以估计出线性回归模型中的未知参数。
这些参数对于理解和解释观测数据与自变量之间关系非常重要。
例如，在经济学中，可以使用最小二乘法来估计供需曲线、收入弹性等经济模型中的参数。
2.2 模型拟合最小二乘法可以用于拟合数据，并找到最佳拟合线或曲线。
通过最小化误差平方和，我们可以找到与观测数据最接近的模型。
这对于预测和预测未来数据点非常有用。
2.3 假设检验在统计推断中，最小二乘法还可以用于假设检验。
我们可以利用最小二乘估计的参数进行假设检验，以确定自变量与因变量之间是否存在显著关系。
2.4 模型诊断除了参数估计和模型拟合外，最小二乘法还可以用于诊断模型的适应性和有效性。
通过分析残差（观测值与预测值之间的差异），我们可以检查模型是否满足所假设的条件，并进行必要的修正。
3. 应用最小二乘法广泛应用于各个领域，包括但不限于以下几个方面：3.1 线性回归分析线性回归是最常见的应用之一。
通过将观测数据与线性模型进行拟合，我们可以估计出自变量与因变量之间的关系。
线性回归可以用于预测、关联分析和因果推断等。
3.2 时间序列分析时间序列分析是对随时间变化的数据进行建模和预测的方法。
最小二乘法的推导
最小二乘法的推导最小二乘法是统计学中一种常用的数据拟合方法，它是将待拟合函数的拟合优度衡量为误差平方和最小化的问题，属于最优化策略。
它可以用来拟合非线性模型，使得得到的模型拟合更加精确。
一、最小二乘法概念最小二乘法是一种数据拟合方法，它是将待拟合函数的拟合优度衡量为误差平方和最小化的问题，属于最优化策略。
最小二乘法的主要思想是，对给定的一组观测值，在满足某种条件下，这组观测值可以用一个或几个理论模型来描述，从而使拟合模型尽可能逼近实际观测值，达到拟合精度最高的目的。
二、最小二乘法推导考虑一个最小二乘问题，我们希望拟合一组数据，它们的点坐标可以用一个关于d个未知参数（p1，p2，p3，…，pd）的多项式表示，即：F(x，p1，p2，p3，…，pd)将多项式中的参数（p1，p2，p3，…，pd）的值求出，就可以对已知数据进行拟合。
最小二乘法表示形式：要使拟合模型参数值与所拟合数据做到最拟合，就要将拟合模型和实际数据的差值最小化，也就是求出多项式中的参数的值，使得误差平方和最小根据最小二乘法的优化性质，我们可以写出最小二乘优化问题的形式将误差平方和最小化的条件写出来就为：S=（f(x1，p1，…，pd)-y1）^2＋（f(x2，p1，…，pd)-y2）^2＋…＋（f(xn，p1，…，pd)-yn）^2最小二乘问题表示为：min{S(p1，p2，…，pd)}其中p1，p2，…，pd是未知参数，我们要求这些参数值使得S 最小。
为了求得最小二乘拟合参数和进行形式转换，我们对S求偏导：S/pi=2*(f(xi，p1，…，pd)-yi)*f(xi，p1，…，pd)/pi 当S/pi=0时，即有(f(xi，p1，…，pd)-yi)*f(xi，p1，…，pd)/pi=0 于是，我们将最小二乘拟合参数pi的表达式改写为：pi=(A-1)*B其中A=∑(f(xi，p1，…，pd)/pi)^2，B=∑(f(xi，p1，…，pd)-yi)*f(xi，p1，…，pd)/pi根据最小二乘法，我们就可以求得最小二乘拟合参数pi的值了。
最小二乘法知识
最小二乘法知识最小二乘法是一种最优化方法，经常用于拟合数据和解决回归问题。
它的目标是通过调整模型参数，使得模型的预测值与观测值之间的差异最小。
最小二乘法的核心思想是最小化误差的平方和。
对于给定的数据集，假设有一个线性模型y = β₀ + β₁x₁ + β₂x₂ + ... +βₙxₙ，其中β₀, β₁, β₂, ... , βₙ 是需要求解的未知参数，x₁, x₂, ... , xₙ 是自变量，y 是因变量。
那么对于每个样本点 (xᵢ, yᵢ)，可以计算其预测值ŷᵢ = β₀ + β₁x₁ + β₂x₂ + ... + βₙxₙ，然后计算预测值与实际值之间的差异 eᵢ = yᵢ - ŷᵢ。
最小二乘法的目标是使得误差的平方和最小化，即最小化目标函数 E = ∑(yᵢ - ŷᵢ)²。
对于简单的线性回归问题，即只有一个自变量的情况下，最小二乘法可以通过解析方法求解参数的闭合解。
我们可以通过求偏导数，令目标函数对参数的偏导数等于零，求解出参数的最优解。
然而，对于复杂的非线性回归问题，解析方法通常不可行。
在实际应用中，最小二乘法通常使用迭代方法进行求解。
一种常用的迭代方法是梯度下降法。
梯度下降法通过反复进行参数更新的方式逐步降低目标函数的值，直到收敛到最优解。
具体而言，梯度下降法首先随机初始化参数的值，然后计算目标函数对于每个参数的偏导数，根据偏导数的方向更新参数的值。
迭代更新的过程可以通过下式表示：βₙ = βₙ - α(∂E/∂βₙ)其中，α 是学习率参数，控制每次更新参数的步长。
学习率需要适当选择，过小会导致收敛过慢，过大会导致震荡甚至不收敛。
最小二乘法除了可以用于线性回归问题，还可以用于其他类型的回归问题，比如多项式回归。
在多项式回归中，我们可以通过增加高次项来拟合非线性关系。
同样地，最小二乘法可以通过调整多项式的系数来使得拟合曲线与实际数据更加接近。
除了回归问题，最小二乘法还可以应用于其他领域，比如数据压缩、信号处理和统计建模等。
最小二乘法估计
机器学习领域应用
线性回归模型
在机器学习中，最小二乘法是线性回归模型的核心算法之一。通过最小化预测值与实际值之间的平方误差，可以 训练出预测精度较高的线性回归模型。
特征选择
最小二乘法也可以用于特征选择，通过计算特征的系数大小，可以判断哪些特征对模型的预测结果影响较大，从 而进行特征筛选和优化。
06 最小二乘法的未来发展与 研究方向
用于研究社会现象和人类行为 ，如市场调查、人口统计等。
最小二乘法的历史与发展
历史
最小二乘法最早由法国数学家勒让德 于1805年提出，并广泛应用于天文、 物理和工程领域。
发展
随着计算机技术的进步，最小二乘法 在数据处理和统计分析方面得到了广 泛应用和改进，出现了多种扩展和变 种，如加权最小二乘法、广义最小二 乘法等。
加权最小二乘法（WLS）
总结词
详细描述
加权最小二乘法是一种改进的线性回 归分析方法，通过给不同观测值赋予 不同的权重来调整误差的平方和。
加权最小二乘法（Weighted Least Squares，WLS）是对普通最小二乘法 的改进，通过给不同观测值赋予不同 的权重来调整误差的平方和。这种方 法适用于存在异方差性的数据，即误 差项的方差不恒定的情况。通过合理 地设置权重，WLS能够更好地拟合数 据并提高估计的准确性。
广泛的应用领域
最小二乘法适用于多种统计模型 和回归分析，是线性回归分析中 最常用的方法之一。
缺点
假设限制
01
最小二乘法要求数据满足线性关系和误差项独立同分布等假设，
这些假设在实际应用中可能难以满足。
对异常值敏感
02
虽然最小二乘法相对稳健，但仍然容易受到异常值的影响，可
能导致估计结果偏离真实值。
最小二乘法名词解释
最小二乘法名词解释
最小二乘法是一种数学优化方法，用于通过对观测数据进行拟合来求解线性回归问题。
它的基本原理是通过最小化观测数据与模型预测值之间的平方误差和，来确定最优的模型参数。
在最小二乘法中，有一些关键的术语和概念需要解释。
1. 观测数据：观测数据是在实际测量或观察中收集到的一系列数值。
在最小二乘法中，这些观测数据通常由两个向量表示，一个是自变量向量X，另一个是因变量向量Y。
2. 模型参数：模型参数是用于预测因变量的线性回归模型中的常数项和各个自变量的系数。
在最小二乘法中，我们通过最小化残差的平方和来确定最优的模型参数。
3. 残差：残差是观测数据的真实值与模型预测值之间的差异。
在最小二乘法中，我们希望通过调整模型参数使得残差的平方和最小化。
4. 残差平方和：残差平方和是残差的平方值的总和，用于衡量模型预测结果与观测数据之间的总体误差。
最小二乘法的目标就是通过最小化残差平方和来求解最优的模型参数。
5. 矩阵表示：最小二乘法可以利用矩阵运算来进行求解，这样可以简化计算并提高效率。
通常，自变量矩阵X、因变量矩阵Y、模型参数向量β和残差向量ε都是以矩阵形式表示。
6. 最优解：在最小二乘法中，我们寻找的是使得残差平方和最小的模型参数向量。
这个最优解可以通过数学推导或迭代算法来求解。
最小二乘法是一种常用且有效的回归分析方法，它在统计学、经济学、工程学等多个领域都有广泛的应用。
通过最小二乘法，我们可以利用已知的观测数据来估计未知的模型参数，从而进行预测、分析和决策。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
浅谈加权最小二乘法及其残差图——兼答孙小素副教授何晓群 刘文卿ABSTRACTThe paper introduces some problems in relation to weighted least square regression ,and answers a question about weighted residual plots.关键词：异方差；加权最小二乘法；残差图；SPSS一、引言好几年没有翻《统计研究》了。
最近，有一同行朋友打电话告诉我《统计研究》2005年第11期上刊登了一篇有关我与刘文卿合作编著的《应用回归分析》（2001.6.中国人民大学出版社）教材的文章。
赶紧找到这期的《统计研究》，看到其中孙小素副教授的文章《加权最小二乘法残差图问题探讨——与何晓群教授商榷》一文，以下简称《孙文》。
认真拜读后感触良多。
首先衷心感谢孙小素副教授阅读了我们《应用回归分析》拙作的部分章节，同时感谢《统计研究》给我们提供这样一个好的机会，使我们能够借助贵刊对加权最小二乘法的有关问题谈谈更多的认识。
《孙文》谈到《应用回归分析》教材中有关加权最小二乘法残差图的问题。
摆出了与加权最小二乘法相关的三类残差图，指出第三类残差图的局限性。
直接的问题是三类残差图的作用，而更深层的原因应该是对加权最小二乘法统计思想的理解和认识上的差异。
二、对加权最小二乘法的认识1. 加权最小二乘估计方法拙作《应用回归分析》中对加权最小二乘法有详尽的讲述，这里仅做简要介绍。
多元线性回归方程普通最小二乘法的离差平方和为：∑=----=ni ip p i i p x x y Q 1211010)(),,,(ββββββ（1）普通最小二乘估计就是寻找参数p βββ,,,10 的估计值pβββˆ,,ˆ,ˆ10 使式（1）的离差平方和Q 达极小。
式（1）中每个平方项的权数相同，是普通最小二乘回归参数估计方法。
在误差项i ε等方差不相关的条件下，普通最小二乘估计是回归参数的最小方差线性无偏估计。
然而在异方差的条件下，平方和中的每一项的地位是不相同的，误差项i ε的方差2i σ大的项，在式（1）平方和中的取值就偏大，在平方和中的作用就大，因而普通最小二乘估计的回归线就被拉向方差大的项，方差大的项的拟合程度就好，而方差小的项的拟合程度就差。
由式（1）求出的pβββˆ,,ˆ,ˆ10 仍然是p βββ,,,10 的无偏估计，但不再是最小方差线性无偏估计。
加权最小二乘估计的方法是在平方和中加入一个适当的权数i w ，以调整各项在平方和中的作用，加权最小二乘的离差平方和为：∑=----=ni ip p i i i p w x x y w Q 1211010)( ),,,(ββββββ （2）加权最小二乘估计就是寻找参数p βββ,,,10 的估计值pww w βββˆ,,ˆ,ˆ10 使式（2）的离差平方和w Q 达极小。
所得加权最小二乘经验回归方程记做ppw w w w x x y βββˆˆˆˆ110+++= （3）理论上最优的权数i w 为误差项方差2i σ的倒数,即21ii w σ=（4）误差项方差大的项接受小的权数，以降低其在式（2）平方和中的作用; 误差项方差小的项接受大的权数，以提高其在平方和中的作用。
由（2）式求出的加权最小二乘估计pww w βββˆ,,ˆ,ˆ10 就是参数p βββ,,,10 的最小方差线性无偏估计。
一个需要解决的问题是误差项的方差2i σ是未知的,因此无法真正按照式（4）选取权数。
在实际问题中误差项方差2i σ通常与自变量的水平有关,可以利用这种关系确定权数。
例如2i σ与第j 个自变量取值的平方成比例时,即2i σ=k 2ijx 时,这时取权数为 21iji x w =（5） 更一般的情况是误差项方差2i σ与某个自变量j x 取值的幂函数m ij x 成比例，即2i σ=k mij x ,其中m 是待定的未知参数。
此时权数为m iji x w 1=（6） 这时确定权数i w 的问题转化为确定幂参数m 的问题，可以借助SPSS 软件解决。
《应用回归》书中和《孙文》中都讲了这个方法，本文不再重述。
需要注意的是，在实际问题中比例关系2i σ=k mij x 只是近似的，式（6）确定的权数i w 只是式（4）最优权数的近似值，因此所得的参数最小二乘估计也只是近似的最小方差线性无偏估计。
2. 变量变换的加权最小二乘法《孙文》中谈到：加权最小二乘法的实质是要对原始数据实施变换，获得新的解释变量和被解释变量，变换的方法是：2m jx y y -⋅='（y '表示变换后的被解释变量） （7）2mj h hx x x -⋅='，h =0,1,2,……,p （hx '是对应于原始变量h x 的新解释变量） （8）对变换后的变量（p x x x y '''',,,,10）重新进行普通最小二成估计（注意，此处的回归模型不包含常数项，增加了数据变换后派生出的一个新解释变量2mj x x -='），即可得到加权最小二乘法的经验回归方程：p pw w w w x x x y '++'+'='βββˆˆˆˆ1100 （9）以上是《孙文》中对加权最小二乘法的解释，其中公式（7）、（8）、（9）分别对应《孙文》中的公式（3）、（4）、（5）。
3. 两种方法的异同相同之处。
显然，式（3）与式（9）两个回归方程是等价的，把式（3）同时乘以2mjx w -=后就转化为式（9）。
不同之处。
首先，式（3）的回归方程ppw w w w x x y βββˆˆˆˆ110+++= 使用起来比较方便，因为利用该回归方程进行预测和控制时，无须按式（8）变换自变量的新值，直接将自变量的新值代入式（3）即可。
对这一点孙小素副教授也是认同的。
其实，所有方法的优劣评价根本就在于他是否方便于建模最终的应用。
其次，虽然两种加权回归方法所得的回归方程是等价的，但是对回归效果的拟合优度和检验是不同的，式（3）的加权最小二乘的总离差平方和、回归离差平方和、残差平方和的计算公式和关系为：∑∑∑===+-=-n i ni iw i w iw i ni w ii e w y yw y yw 112212)ˆ()( （10） 其中w y 是i y 用i w 加权的算术平均数。
由于式（9）的变换加权最小二乘回归方程不含常数项，所以不满足离差平方和分解式，而是对直接的平方和满足分解式，总平方和、回归平方和、残差平方和的计算公式和关系为：∑∑∑==='+'='n i ni iw iwn i ie yy 112212ˆ （11）等价于∑∑∑===+=ni ni iwi iwin i ii e w yw y w 112212ˆ （12） 对不含常数项的普通最小二乘回归，SPSS 软件就是用上述公式计算平方和并进而计算判定系数2R 和做F 检验的。
然而，这种做法的合理性是有欠缺的，因为总平方和∑='ni i y 12不能如实反映因变量的变差，仅是为了满足平方和分解式而这样做，有削足适履的嫌疑。
另外一种做法是以∑='-'ni y y 12)(作为总离差平方和，把∑∑=='-'-'n i ni iwie y y 1122)(作为回归离差平方和，而不使用∑='-'ni iwy y12)ˆ(作为回归离差平方和，Excel 软件不含常数项（即指定常数项为零）的普通最小二乘回归就是采用的这个方法。
对《孙文》所引用的《应用回归分析》例题，有关的计算结果见表1（a ）—（d ）。
从表中可以清楚看出用变换加权最小二乘法计算离差平方和存在明显的问题，判定系数2R 和检验统计量F 严重失真。
对同样的数据做变换加权最小二乘估计，市面上流行的不同软件的拟合优度检验却差别很大，SPSS 软件计算出的F =442.2，2R =0.968；Excel 软件计算出的F =74.26，2R =0.837。
对其他数值就不逐一对比了。
针对上述问题，变换加权最小二乘法实际上常用于式（5）成立的情况，即m =2，此时变换后的自变量j x '≡1，回归参数j β就相当于回归常数项了，对变换后的数据就可以用含有常数项的普通最小二乘估计方法，各种统计软件对变换加权最小二乘法回归的拟合优度检验的输出结果就都一致了。
遗憾的是，即使是在这种特殊情况下也仍然与直接用加权最小二乘估计方法不一致，这只需仔细比较两种情况的总离差平方和公式∑='-'ni iy y 12)(和∑=-ni w ii y yw 12)(的差异即可。
这种通过变换变量求解加权最小二乘估计方法的作用是什么呢？引用文献[1]第180页的一段文字给予解释：“许多回归软件包允许用户有选择地使用具体的权数进行加权最小二乘分析。
如果不能选择，通过对观察值的具体变换，使用不加权的最小二乘法，仍能得到加权最小二乘估计量。
”可见通过变换变量求解加权最小二乘估计的方法仅是作为参数估计的一种计算手段而存在的，如果你使用的软件仅具有普通最小二乘功能，就只能用变换变量的方法求解加权最小二乘的参数估计。
《应用回归分析》教材是结合SPSS 软件编写的，而SPSS 软件允许用户直接使用权数进行加权最小二乘分析，不必通过变换变量的方法求解加权最小二乘估计，因此我们在教材中没有给出这种通过变换变量求解加权最小二乘估计的方法。
纵上所述，在拥有像SPSS 这种能够直接计算加权最小二乘估计的软件时，就不必使用变换变量求解加权最小二乘估计的方法了。
即使使用的是变换变量求解加权最小二乘估计的方法，也应该把式（9）变换回式（3）的形式，用来直接表示出原始变量之间的关系。
因此《孙文》把式（9）称为加权最小二乘法的经验回归方程就显然不合适了。
我们也没有见到其他的文献用这个称法。
三、三类残差图的作用以残差为纵坐标轴以自变量（或回归值y ˆ）为横坐标轴画的散点图就是残差图。
《孙文》中的三类残差图如下：1. 普通残差图。
指用原始数据对线性回归模型做普通最小二乘估计所得的普通残差ie 所做的残差图，也就是《孙文》中所称的第一类残差图。
2. 加权普通残差图。
其残差是用原始数据做加权最小二乘估计所得的普通残差w e （在《孙文》中记做w e '），也就是《孙文》中所称的加权派生残差图，或第三类残差图。
3. 加权变换残差图。
其残差是用变换数据做加权最小二乘估计所得的普通残差w e '（在《孙文》中记做w e ），也就是《孙文》中所称的加权残差图，或第二类残差图。