最小二乘法及其应用
最小二乘法及其应用研究
最小二乘法及其应用研究最小二乘法是一种常用的数据分析方法，它的应用非常广泛，被用于解决很多实际问题。
本文将从什么是最小二乘法到最小二乘法的应用进行详细的阐述。
一、什么是最小二乘法最小二乘法是一种用于拟合数据的方法，它可以帮助我们找到一条曲线或者直线，在这条曲线或者直线上所有数据的误差最小。
假设我们有一些数据点，我们想要用一条直线来描述这些数据点的分布规律，那么最小二乘法就可以帮助我们找到一条直线，使得这些数据点到这条直线的距离最小。
二、最小二乘法的应用最小二乘法的应用非常广泛，下面我们将分别从几个方面来介绍：1. 拟合数据最小二乘法可以用于拟合各种类型的数据，比如直线、曲线、多项式等等。
例如，我们可以用最小二乘法来拟合一条直线，从而得到这些数据点的趋势。
2. 预测结果最小二乘法不仅可以用于拟合数据，同时还可以用于预测结果。
例如，我们可以用最小二乘法来预测一些未来的数据趋势。
3. 优化算法最小二乘法还可以用于优化算法。
例如，在机器学习中，最小二乘法可以用于优化线性回归算法，从而得到更加准确的预测结果。
4. 数据处理最小二乘法还可以用于数据处理。
例如，我们可以用最小二乘法来处理某些特殊类型的数据，从而得到更加准确的结果。
三、最小二乘法的优缺点最小二乘法虽然有很多应用，但是它也有一些缺点，下面我们将介绍一下最小二乘法的优缺点：优点：1. 算法简单，易于实现2. 可以处理大部分数据类型3. 在处理异常数据时有一定的容错能力缺点：1. 当数据量较大时，计算量也会变得很大2. 在处理异常数据时容易产生误差3. 对数据类型有一定的限制四、总结最小二乘法是一种非常有用的数据分析方法。
它的应用非常广泛，被用于解决众多实际问题。
然而，我们也不能够完全依赖最小二乘法。
我们需要根据具体情况，选择合适的数据分析方法，从而得到更加准确的结果。
最小二乘法的用法举例
最小二乘法是一种数学优化技术，它通过最小化误差的平方和来寻找数据的最佳函数匹配。
在许多领域，如线性回归分析、曲线拟合、机器学习、信号处理、控制系统、金融预测和经济建模等，最小二乘法都得到了广泛的应用。
以下是一些最小二乘法的用法举例：1. 线性回归分析线性回归分析是一种统计学方法，用于研究因变量和自变量之间的关系。
最小二乘法可以用于估计线性回归模型的参数，使得预测值和实际观测值之间的残差平方和最小化。
2. 曲线拟合曲线拟合是一种数学方法，用于将一组数据拟合到一个特定的函数模型中。
最小二乘法可以用于估计模型的参数，使得模型预测值和实际观测值之间的残差平方和最小化。
3. 机器学习机器学习是一种人工智能技术，用于让计算机从数据中学习并自动改进其性能。
最小二乘法可以用于训练机器学习模型，例如线性回归模型、逻辑回归模型和支持向量机等。
4. 信号处理信号处理是一种技术，用于对信号进行变换、分析和合成。
最小二乘法可以用于估计信号的参数，例如频率、幅度和相位等，使得信号的预测值和实际观测值之间的残差平方和最小化。
5. 控制系统控制系统是一种技术，用于控制系统的行为并使其达到预期的性能指标。
最小二乘法可以用于估计控制系统的参数，例如传递函数和状态空间模型等，使得控制系统的预测值和实际观测值之间的残差平方和最小化。
6. 金融预测金融预测是一种技术，用于预测金融市场的走势和未来趋势。
最小二乘法可以用于估计金融模型的参数，例如ARIMA模型和神经网络模型等，使得模型的预测值和实际观测值之间的残差平方和最小化。
7. 经济建模经济建模是一种技术，用于建立经济系统的数学模型并对其进行仿真和分析。
最小二乘法可以用于估计经济模型的参数，例如生产函数和需求函数等，使得模型的预测值和实际观测值之间的残差平方和最小化。
多项式最小二乘法及其应用
多项式最小二乘法及其应用在数学中，最小二乘法是一种经典的优化方法，可以用于寻找一组数据中最符合拟合曲线的参数，常常被应用于科学、工程、经济等领域的数据处理中。
当涉及到需要对数据进行高精度处理时，最小二乘法就显得尤为重要，而多项式最小二乘法是其中应用最为广泛的方法之一。
多项式最小二乘法是指寻找一组多项式系数，使得该多项式能最优地拟合给定数据。
通常情况下，拟合函数可以用以下形式表示：$f(x)=a_0+a_1x+a_2x^2+\cdots+a_nx^n$其中，$a_0,a_1,\cdots,a_n$为多项式系数，$x$为自变量。
我们可以将上述式子改写为向量和矩阵的形式，即：$F(x)=\begin{bmatrix}1 & x_1 & \cdots & x_1^n \\ 1 & x_2 &\cdots & x_2^n \\ \vdots & \vdots & \ddots & \vdots \\ 1 & x_m &\cdots & x_m^n \end{bmatrix} \begin{bmatrix}a_0 \\ a_1 \\ \vdots \\ a_n \end{bmatrix}=\begin{bmatrix}y_1 \\ y_2 \\ \vdots \\ y_m\end{bmatrix}=y$其中，$m$为数据点的数量，$x_1,x_2,\cdots,x_m$为自变量的取值，$y_1,y_2,\cdots,y_m$为对应的因变量的取值。
在此基础上，我们可以通过最小二乘法来求解最优的多项式系数。
首先，我们需要定义拟合误差，可以采用均方误差（MSE）来衡量：$E=\frac{1}{m}\sum_{i=1}^m(y_i-f(x_i))^2$其次，我们需要最小化拟合误差，也就是寻找最优的多项式系数，以满足：$\text{minimize}\ E=\frac{1}{m}\sum_{i=1}^m(y_i-F(x_i))^2$为了解决该问题，我们需要求解矩阵$F$的伪逆（pseudoinverse）$F^+$，然后将其乘以因变量向量$y$，即：$a=(F^+y)^T$其中，$a$即为多项式系数向量。
对最小二乘法的改进及其应用
对最小二乘法的改进及其应用最小二乘法是一种常用的回归分析方法，常用于拟合连续数据，并能从中推断出数据间的关系。
然而，该方法在一些特殊情况下存在一定的缺陷，并需要一定的改进。
本文将围绕最小二乘法的改进及其应用这一主题进行论述。
一、最小二乘法的应用最小二乘法是一种常用的统计学方法，一般用于对数据进行拟合。
在该方法中，我们通过寻找一个线性模型，使得该模型与原数据之间的残差平方和最小，以达到最佳拟合的目的。
最小二乘法的应用十分广泛，如工程学、物理学、社会学和生物学等各个领域。
二、最小二乘法的缺陷尽管最小二乘法已成为了数据拟合的一种标准方法，但它并不是完美的。
在某些特殊情况下，最小二乘法容易出现一些问题，如过拟合、欠拟合以及异常点的影响等。
此外，在存在非线性关系的数据中，采用线性模型拟合效果也很难得到保障。
为了克服这些问题，一些学者对最小二乘法进行了一定的改进，如采用稳健性估计、核回归、广义最小二乘法等方法。
下面我们将对这些改进方法进行简要介绍。
三、稳健性估计稳健性估计是一种针对异常点的改进方法，它通过调整残差权值，来减少异常点对回归结果的影响。
通过该方法，我们可以忽略一些异常点的影响，使拟合结果更加准确。
四、核回归核回归是一种非参数回归方法，它通过设定一个核函数来拟合数据，从而不受线性模型的限制。
与最小二乘法不同，核回归可以处理非线性关系，并且对异常点不敏感，具有更好的鲁棒性。
五、广义最小二乘法广义最小二乘法是一种在最小二乘法的基础上进行改进而产生的方法，它利用了广义线性模型的思想，可以拟合非线性关系。
同时，广义最小二乘法还可以处理一些不符合正态分布的数据，如二项分布、泊松分布等。
六、最小二乘法的应用实例最后，我们来介绍一些最小二乘法的应用实例。
在医学领域，研究者通过最小二乘法的拟合，发现了胎儿及新生儿大脑的自发性活动。
另外，在社会学领域，研究者通过最小二乘法，探究了教育水平与工资之间的关系。
总结最小二乘法是一种常用的数据拟合方法，十分广泛地应用于各个领域。
关于最小二乘法及其在回归问题中的应用
关于最小二乘法及其在回归问题中的应用最小二乘法是一种用于求解回归问题的统计方法。
它的基本思想是通过找到一条能够最好地拟合数据的线性函数，然后使用这个函数来预测未来的数据。
在本文中，我们将介绍最小二乘法的原理、方法和应用。
一、最小二乘法的原理最小二乘法的原理是利用残差平方和来确定模型中的参数。
残差是指观测值与预测值之间的差异。
用数学公式表示为：\epsilon_i = y_i - f(x_i)其中，y_i是第i个观测值，f(x_i)是模型对第i个观测值的预测值。
残差平方和被定义为所有残差的平方和。
用数学公式表示为：S = \sum_{i=1}^n \epsilon_i^2最小二乘法的目标是通过最小化残差平方和S来确定模型中的参数。
当S达到最小值时，模型的预测能力最好。
二、最小二乘法的方法最小二乘法的方法是通过拟合一条直线来解决回归问题。
这条直线被称为回归线，它是通过最小化残差平方和S而求出的。
回归线的方程可以用下面的公式表示：y = a + bx其中，a和b是回归线的截距和斜率，x是自变量，y是因变量。
最小二乘法的过程可以分为以下几个步骤：1、确定自变量和因变量。
2、收集数据。
3、绘制散点图。
4、选择最适合的回归线。
5、计算回归线的方程。
6、使用回归线进行预测。
三、最小二乘法的应用最小二乘法在回归问题中有广泛的应用。
它可以用于预测未来的趋势，确定两个变量之间的关系，评估自变量和因变量之间的影响等。
以下是最小二乘法的一些常见应用：1、股票预测：最小二乘法可以用来预测股票价格的趋势，通过分析历史价格数据来预测未来的股价走势。
2、房价预测：最小二乘法可以用来预测房价的趋势，通过分析历史价格和房屋尺寸数据来预测未来的房价走势。
3、销售分析：最小二乘法可以用来分析销售数据，通过分析销售数据和广告费用数据来确定广告费用和销售之间的关系。
4、货币政策分析：最小二乘法可以用来分析货币政策，通过分析货币政策和经济指标数据来确定货币政策对经济的影响。
数值计算中的最小二乘问题
数值计算中的最小二乘问题在数值计算领域中，最小二乘问题是一个广泛研究的问题。
它的应用范围非常之广，不仅出现在自然科学中，也出现在工程、社会科学等领域中。
在本文中，我们将深入探讨最小二乘问题及其应用。
一、最小二乘问题的定义最小二乘问题是指，在给定一组数据点的情况下，要求找到一条曲线，使得这条曲线经过数据点，且各个数据点到曲线的距离的平方和最小。
我们可以用以下公式来表示这个距离的平方和：$S=\sum_{i=1}^{n}(y_i - f(x_i))^2$其中，$y_i$ 和 $x_i$ 分别代表第 $i$ 个数据点的纵坐标和横坐标，$f(x)$ 代表所要求的曲线方程。
我们的目标就是要找到一个$f(x)$，使得 $S$ 值最小。
这个问题也可以称为线性最小二乘问题，因为 $f(x)$ 通常可以表示成一个线性函数的形式。
二、最小二乘问题的解法在解决最小二乘问题时，最常用的方法是通过求导来得到最小值。
我们将 $S$ 对 $f(x)$ 求导，令导数等于零，就可以解出最佳的 $f(x)$。
但是，要求解这个导数并不容易，因为 $f(x)$ 通常可以表示为未知系数的线性组合，如下所示：$f(x)=a_0+a_1x+a_2x^2+...+a_mx^m$当数据点的数量较大时，这个方程中就会有很多未知系数，导致求解起来非常麻烦。
所以，为了方便求导，我们需要将$f(x)$ 再次转换为一个更为简单的形式。
为了达到这个目的，我们可以使用特定的基函数来表示$f(x)$，将 $f(x)$ 表示成这些基函数的线性组合的形式。
常见的基函数包括多项式函数、正弦函数、余弦函数、指数函数等等。
这些基函数通常都具有简单、易于求导的性质，因此可以极大地便利我们的求解过程。
例如，我们可以使用一个三次多项式函数作为基函数：$\phi(x)=[1, x, x^2, x^3]$然后，我们可以将 $f(x)$ 表示为一个 $\phi(x)$ 系数向量的线性组合形式：$f(x)=\phi(x)^T\boldsymbol{a}$其中，$\boldsymbol{a}$ 是一个系数向量，包含了所需函数的所有系数。
最小二乘法的原理及其应用
最小二乘法的原理及其应用一、研究背景在科学研究中，为了揭示某些相关量之间的关系，找出其规律，往往需要做数据拟合，其常用方法一般有传统的插值法、最佳一致逼近多项式、最佳平方逼近、最小二乘拟合、三角函数逼近、帕德（Pade）逼近等，以及现代的神经网络逼近、模糊逼近、支持向量机函数逼近、小波理论等。
其中，最小二乘法是一种最基本、最重要的计算技巧与方法。
它在建模中有着广泛的应用，用这一理论解决讨论问题简明、清晰，特别在大量数据分析的研究中具有十分重要的作用和地位。
随着最小二乘理论不断的完善，其基本理论与应用已经成为一个不容忽视的研究课题。
本文着重讨论最小二乘法在化学生产以及系统识别中的应用。
二、最小二乘法的原理人们对由某一变量t或多个变量t1…..tn 构成的相关变量y感兴趣。
如弹簧的形变与所用的力相关，一个企业的盈利与其营业额，投资收益和原始资本有关。
为了得到这些变量同y之间的关系，便用不相关变量去构建y，使用如下函数模型,q个相关变量或p个附加的相关变量去拟和。
通常人们将一个可能的、对不相关变量t的构成都无困难的函数类型充作函数模型（如抛物线函数或指数函数）。
参数x是为了使所选择的函数模型同观测值y相匹配。
（如在测量弹簧形变时，必须将所用的力与弹簧的膨胀系数联系起来）。
其目标是合适地选择参数，使函数模型最好的拟合观测值。
一般情况下，观测值远多于所选择的参数。
其次的问题是怎样判断不同拟合的质量。
高斯和勒让德的方法是，假设测量误差的平均值为0。
令每一个测量误差对应一个变量并与其它测量误差不相关（随机无关）。
人们假设，在测量误差中绝对不含系统误差，它们应该是纯偶然误差，围绕真值波动。
除此之外，测量误差符合正态分布，这保证了偏差值在最后的结果y上忽略不计。
确定拟合的标准应该被重视，并小心选择，较大误差的测量值应被赋予较小的权。
并建立如下规则：被选择的参数，应该使算出的函数曲线与观测值之差的平方和最小。
用函数表示为：用欧几里得度量表达为：最小化问题的精度，依赖于所选择的函数模型。
浅谈最小二乘法的原理及其应用【开题报告】
开题报告信息与计算科学浅谈最小二乘法的原理及其应用一、综述本课题国内外研究动态, 说明选题的依据和意义最小二乘法（Least Square Method ）是提供“观测组合”主要工具之一, 它依据对某事件的大量观测而获得“最佳”结果或“最可能”表现形式. 如已知两变量为线性关系y a bx =+, 对其进行(2)n n >次观测而获得n 对数据. 若将这n 对数据代入方程求解,a b 的值则无确定解, 而最小二乘法提供了一个求解方法, 其基本思想是寻找“最接近”这n 个观测点的直线.最小二乘法创立与十九世纪初, 是当时最重要的统计方法, 在长期的发展中, 人们一直处于不断的研究中, 在传统最小二乘法的基础上, 出现了许多更为科学先进的方法, 如移动最小二乘法、加权最小二乘法、偏最小二乘法、模糊最小二乘法和全最小二乘法等, 使得最小二乘法在参数估计、系统辨识以及预测、预报等纵多领域都有着广泛的应用. 相关回归分析、方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论基础, 所以最小二乘法被称之为数理统计学的灵魂. 正如美国统计学家斯蒂格勒（S. M. Stigler ）所说, “最小二乘法之于数理统计学犹如微积分之于数学”. 因此对最小二乘法的研究就显得意义重大.国内外的学者们一直在对传统最小二乘法做进一步的研究. 勒让德（A. M. Legender ）于1805年发表了论著《计算彗星轨道的新方法》, 在书中勒让德描述了最小二乘法的思想、具体做法及其优点, 他认为: 赋予误差的平方和为极小, 则意味着在这些误差间建立了一种均衡性, 它阻止了极端情形所施加的过分影响. 1809年高斯（C. F. Gauss ）在著作《天体沿圆锥截面围绕太阳运动的理论》中发表有关最小二乘法的理论, 随后在1826年的著作中阐述了最小二乘法的全部内容. 统计学者对最小二乘法做了进一步的研究探讨, 1970年, 由霍尔（A. E. Horel ）和肯纳德（R. W. Kennard ）提出的岭估计（Ridge Estimate ）, 用()()11ˆni i i k S kI x y β-==+∑取代ˆβ, 有效的降低了原方法的病态性.在国内, 学者们也对传统最小二乘法做了非常多的改进: 孙彦清在《最小二乘法线性拟合应注意的两个问题》一文中对最小二乘法线性拟合应注意的两个问题中从理论上分析了最小二乘法原理及其在实际曲线拟合问题中的应用, 指出了最小乘法处理线性拟合应注意的两个问题: 拟合应用条件和误差比较. 在文《最小二乘法处理自变量误差实验数据的方法》中, 学者代锦辉对最小二乘法在实验数据处理和在数学研究上面的应用做了相应的介绍和研究, 使人们认识到: 在科学实验中处理数据时, 在自变量有误差的情况下, 用最小二乘法的几种方法处理实验数据, 这样可以降低在实际测量中由于测量数据无法避免的误差, 从而提高科学实验的准确性, 更加突出实验的科学性. 这也使得最小二乘法在数学研究及科学实验中有着更为广泛的运用. 程玉民等人在《移动最小二乘法研究进展与评述》一文中对移动最小二乘法做了进一步的研究探讨, 对移动最小二乘法做了改进, 同时还评述了各种移动最小二乘法的优缺点, 并概述各种移动最小二乘法形成的无网格方法的研究进展. 运用各种移动最小二乘法求解静态和动态断裂力学, 求解弹塑性等问题. 在《改进的最小二乘法在水文分析计算中的应用》一文中, 王淑英、高永胜为了达到所有实测点与拟合曲线间的相对误差尽量不超过某一百分比的原则要求, 提出了非线性的加权最小二乘法及线性相关方程的最小距离平方和法, 探讨改进了传统的最小二乘法达到优化的效果.虽然最小二乘法简单易行, 应用广泛, 但仍然存在一些问题: 计算量较大, 当观测数据较多时, 计算会显得复杂, 尤其是要进行矩阵求逆, 矩阵阶数高时更为复杂; 容易受系统误差的影响, 系统误差的存在导致了最小二乘估计不再是无偏估计, 使得估计无效; 受测量误差相关性的影响, 从理论上讲, 当观测误差相关时, 取权矩阵为协方差矩阵的逆, 便可得到线性无偏最小方差估计. 但在实际情况中, 协方差矩阵是未知的; 当观测数据含较大异常值时, 将严重影响最小二乘估计结果.本文拟在理解传统最小二乘法的原理及思想基础上，对几种改进算法进行研究分析，并深入探讨该方法在实际问题中的应用，希望进一步拓宽其应用领域.二、研究的基本内容, 拟解决的主要问题研究的基本内容: 对最小二乘法原理及其应用的研究拟解决的主要问题:1.对几种改进的最小二乘法进行分析研究；2.研究最小二乘法在实际问题中的应用.三、研究步骤、方法及措施研究步骤:1.理解并掌握最小二乘法的基本原理及其思想方法；2.分析研究对最小二乘法改进的算法；3.研究最小二乘法在实际问题中的应用.方法、措施:通过到图书馆、上网等查阅收集资料,上万方数据库查找文章, 参考相关内容. 在老师指导下, 与同组同学研究讨论, 用数据调查结合文献论证的方法来解决问题.四、参考文献[1]GU Xiangqian, KANG Hongwen, CAO Hongxing. The least-square method in complexnumber domain[J]. Progress in Natural Science.2006,1:59-63.[2]LI Guo-qing, MENG Zhao-ping, MA Feng-shan, ZHAO Hai-jun, DING De-min, LIU Qin,WANG Cheng. Calculation of stratum surface principal curvature based on moving least square method[J]. Journal of China University of Mining&Technology.2008,3:307-312.[3]陈希孺.最小二乘法的历史回顾与现状[J].中国科学院研究生院学报.1998,1:4-11.[4]程玉民.移动最小二乘法研究进展与评述[J].计算机辅助工程.2009,2:5-11.[5]王淑英,高永胜.改进的最小二乘法在水文分析计算中的应用[J].水文.2003. 5: 5-9.[6]宋殿瑞,宋文臣,刘朋振.最小二乘法应用探讨[J].青岛化工学院学报.1998,3:296-301.[7]孙彦清.最小二乘法线性拟合应注意的两个问题[J].汉中师范学院学报.2002,1: 59-61.[8]张庆海,潘华锦,齐建英.用最小二乘法测弹簧的有效质量[J].大学物理.2002,11:33-34.[9]代锦辉.最小二乘法处理自变量误差实验数据的方法[J].实验科学与技术学报,2006,4(4):21-46.[10]张红贵,宋志尧,章卫胜.潮位相关分析中的最小二乘法研究[J].水道港口.2007,3:153-155.。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
最小二乘法及其应用
最小二乘法是一个比较古老的方法，早在十八世纪，就由高斯首先创立并成功地应用于天文观测和大地的测量工作中。
此后，近三百年来，它已被广泛应用于科学实验与工程技术中。
随着现代电子计算机的普及与发展，这个古老的方法更加显示出其强大的生命力。
最小二乘法（又称最小平方法）是一种数学优化技术。
它通过最小化误差的平方和寻找数据的最佳函数匹配。
利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。
最小二乘法还可以用于曲线拟合，其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。
最小二乘法拟合曲线的基本原理是：成对等精度地测得一组数据x，只(i=l，2，…，n)，试找出一条最佳的拟合曲线，使得这条拟合曲线上的各点的值与测量值的差的平方和在所有拟合曲线中最小。
所谓“拟合”，即不要求所作的曲线完全通过所有的数据点，只要求所得的曲线能反映数据的基本趋势。
曲线拟合的几何解释是：求一条曲线，使数据点均在离此曲线的上方或下方不远处。
用最小二乘法拟合的曲线较为精确，接近于实际曲线。
因而，最小二乘法拟合曲线在实际生活和科学研究中有着重要的意义，并渗透到各个领域，在物理、气象、化学、医学等方面有着广泛的应用。
例如，在物理方面，我们通常通过实验测得数据，然后根据这些实验数据拟合曲线，从而总结出某种现象的规律或者变化趋势，进而采取相应的措施避免或加强其变化程度。
这对于指导我们了解物理现象，并深刻理解物理知识是非常有帮助的。
又如，在气象方面，在温室效应的研究中，科学家们通过对1860年到1980年的11个地球平均温度增加值的分析,利用最小二乘法进行曲线拟合,通过精确计算,建立了地球平均温度增加值与时间之间的函数关系。
从而得出在2080年左右,地球的平均温度会比1980年上升约6℃,从而会引起诸如冰川后退、海平面上升等一系列严重的环境问题。
到时极地冰盖就会融化,从而引起大量的洪水泛滥和大片的陆地被淹没,这一认识对进行环境质量评价和提出保护地球的措施具有重要的理论意义。
有些优化问题也可通过最小化能量用最小二乘法来表达。
在模式识别中，很多优化问题都可以用最小二乘法来解决。
以下是最小二乘法在模式识别分类问题中进行调整判别的应用。
假设对于一个C 类分类问题，我们需要找到一个线性判别方法。
现在有n 个标好类别的的样本，我们希望利用一个线性决策函数来进行分类。
通常情况下，我们都要使用偏差量w 0。
为了简化，我们用x 标记一个增广特征向量，它多了一个表示偏差量的分量，如下图所示。
如果对于偏差量没有特别地声明，我们依然用符号w 标注整个权向量。
现在的到的这个判别单元，它的输入变量是特征，输出变量是一个线性函数d(x)，称之为一个线性网络。
x 1
输出
d(x)
x d 1
图1 一个线性决策函数的连接图，其中，∑是处理单元
设用于分类的的线性网络的输出为d(x)=w ’x+w 0=w 1x 1+w 2x 2+…+w d x d +w 0 。
上图中我们用一个空心圆表示一个处理神经元，用一个黑色的圆表示一个终端神经元。
在只有一个输出的线性网络里，对应图1所示的情况，仅有一个处理单元，在这里将所有的输入进行累加求和。
通常情况下，我们会有c 个这样的函数单元d k (x )以及相应的权重向量w k ，它们之间一一对应。
对于每一个样本x i 有如下表达式：d k (x i )= w k ’ x i=∑=d j j i j k x 0,,w 。
假设现在对于每一类的目标输出为t k (x)，我们希望调整这些线性函数的权重向量从而使得它们和目标输出最接近。
可以通过使用最小二乘法实现这个目的。
首先，对于每个特征向量x i 我们计算判别输出结果和期望目标输出结果的偏差：δk(x i )=d k (x i )- t k (x i )。
然后，将这些偏差或者说近似误差平方后累加求和得到一个总的误差值，也
称为误差能量E ，E=211i k i k ))(x t -)(x (d 21∑∑==c k n i =2
11d 0j i k j i,j k ),t -x ,w (21∑∑∑===c k n i 。
为了得到对目标输出值最好的近似结果，等价于最小化E ，我们可以求它对权重系数
的微分并令微分结果为零：即，令W E ∂∂=0，即∑∑==-n i d j j i i k j i j k x t x w 10
,,,),(=0，k=1,2…c 。
我们称之为标准方程，它的解对应着最小化均值平方(LMS)，即最小化所有样本误差的平方和，也就是最小二乘法的思想。
注意到，最小二乘法调整判别将会得到目标输出值的近似结果而不管目标输出的具体形式，它可以是类别标记或者不是。
因此，我们也可以将这种方法应用到回归问题中。
例如，我们可以利用它对心电图信号中的噪声进行回归，从而消除噪声。
总之，最小二乘法作为一种数值分析方法，已经广泛应用到了科学研究的各个领域。
我们有理由相信，随着计算机的发展和数值分析方法的发展和完善，最小二乘法将会得到更加广泛的应用。