数据拟合与函数逼近
常用函数的逼近和曲线拟合
常用函数的逼近和曲线拟合在数学中，函数逼近和曲线拟合都是常见的问题。
函数逼近是指找到一个已知函数，尽可能地接近另一个函数。
而曲线拟合则是给定一组数据点，找到一条曲线来描述这些数据点的分布。
本文将讨论常用的函数逼近和曲线拟合方法。
一、函数逼近1. 插值法插值法是最简单的函数逼近方法之一。
它的基本思想是：给定一组已知点，通过构造一个多项式，使得该多项式在这些点处的函数值与已知函数值相等。
插值法的优点是精度高，缺点是易产生龙格现象。
常用的插值多项式有拉格朗日插值多项式和牛顿插值多项式。
拉格朗日插值多项式的形式为：$f(x)=\sum_{i=0}^{n}y_{i}\prod_{j=i,j\neq i}^{n}\frac{x-x_{j}}{x_{i}-x_{j}}$其中，$x_{i}$是已知点的横坐标，$y_{i}$是已知点的纵坐标，$n$是已知点的数量。
牛顿插值多项式的形式为：$f(x)=\sum_{i=0}^{n}f[x_{0},x_{1},...,x_{i}]\prod_{j=0}^{i-1}(x-x_{j})$其中，$f[x_{0},x_{1},...,x_{i}]$是已知点$(x_{0},y_{0}),(x_{1},y_{1}),...,(x_{i},y_{i})$的差商。
2. 最小二乘法最小二乘法是一种常用的函数逼近方法。
它的基本思想是：给定一组数据点，找到一个函数，在这些数据点上的误差平方和最小。
通常采用线性模型，例如多项式模型、指数模型等。
最小二乘法的优点是适用性广泛，缺点是对于非线性模型要求比较高。
最小二乘法的一般形式为：$F(x)=\sum_{i=0}^{n}a_{i}\varphi_{i}(x)$其中，$a_{i}$是待求的系数，$\varphi_{i}(x)$是一组已知的基函数，$n$是基函数的数量。
最小二乘法的目标是使得$\sum_{i=1}^{m}[f(x_{i})-F(x_{i})]^{2}$最小，其中$m$是数据点的数量。
什么是函数逼近及其应用
函数逼近是数学中一个重要的概念，它在各个领域的应用非常广泛。
在数学中，函数逼近是指用一个已知函数来近似描述另一个未知函数的过程。
这个过程的目的是找到一个函数来尽可能地接近给定的函数，以便进行各种计算和分析。
函数逼近的应用非常广泛，下面我将以几个典型的应用来阐述函数逼近的重要性。
首先，函数逼近在数学分析和数值计算中起着重要的作用。
在复杂的数学问题中，我们往往无法直接求得解析解，这时就需要使用函数逼近的方法来得到近似解。
例如在微积分中，我们常常需要使用泰勒级数对一个函数进行逼近，以便在不同点上进行计算。
这种逼近方法在数值计算中广泛应用，可以大大简化计算的复杂性。
其次，函数逼近在机器学习和数据分析中也起着关键作用。
在数据分析中，我们经常需要对一组离散的数据进行拟合，以便得到一个可以用来预测未知数据的模型。
函数逼近提供了一种有效的方法来构建这样的模型。
通常情况下，我们会选择一个适当的函数形式，并通过优化算法来确定函数的参数，使得函数与数据的拟合误差最小。
这种方法可以帮助我们从数据中提取有用的信息，进行各种预测和分析。
另外，函数逼近广泛应用于图像处理和信号处理中。
在这些领域中，我们通常需要对图像或信号进行压缩和去噪处理。
函数逼近提供了一种有效的方法来近似和表示这些复杂的图像和信号。
例如，在图像压缩中，我们可以使用小波变换来将图像分解成具有不同频率和分辨率的小波系数，然后根据一定的阈值选择保留哪些系数，从而实现图像的压缩。
在语音信号处理中，我们可以使用线性预测编码来对信号进行压缩和重构，从而提高通信的效率。
最后，函数逼近在工程领域中也有重要的应用。
例如，在控制系统设计中，我们需要建立一个数学模型来描述控制对象的动态特性。
函数逼近提供了一种有效的方法来近似这个系统的传递函数，以便进行系统的分析和控制设计。
同时，在电路设计中，我们也经常需要使用函数逼近来近似和建模电路的特性，以便对电路进行分析和仿真。
总结起来，函数逼近是数学中一个重要的概念，它在各个领域的应用非常广泛。
函数逼近的几种算法及其应用汇总
函数逼近的几种算法及其应用汇总函数逼近是数值计算中非常重要的技术之一，它主要用于用已知函数逼近未知函数，从而得到未知函数的一些近似值。
在实际应用中，函数逼近广泛用于数据拟合、插值、信号处理、图像处理等领域。
下面将介绍几种常用的函数逼近算法及其应用。
1. 最小二乘法（Least Square Method）最小二乘法将函数逼近问题转化为最小化离散数据与拟合函数之间的残差平方和的问题。
它在数据拟合和插值中应用广泛。
例如，最小二乘法可以用于拟合数据点，找出最佳拟合曲线；也可以用于信号处理中的滤波器设计。
2. 插值法（Interpolation）插值法旨在通过已知数据点之间的连线或曲线，来逼近未知函数在这些数据点上的取值。
常见的插值方法有拉格朗日插值、牛顿插值和分段线性插值等。
插值法在图像处理中广泛应用，例如可以通过已知的像素点来重构图像，提高图像的质量和分辨率。
3. 最小二乘曲线拟合（Least Square Curve Fitting）最小二乘曲线拟合是一种将渐近函数与离散数据拟合的方法，常见的函数包括多项式、指数函数、对数函数等。
最小二乘曲线拟合可以在一定程度上逼近原始数据，从而得到曲线的一些参数。
这种方法在数据分析和统计学中经常使用，在实际应用中可以拟合出模型参数，从而做出预测。
4. 正交多项式逼近（Orthogonal Polynomial Approximation）正交多项式逼近是一种通过正交多项式来逼近未知函数的方法。
正交多项式具有良好的性质，例如正交性和递推关系，因此可以用于高效地逼近函数。
常见的正交多项式包括勒让德多项式、拉盖尔多项式和切比雪夫多项式等。
正交多项式逼近广泛应用于数值计算和信号处理中，例如用于图像压缩和数据压缩。
5. 插值样条曲线（Interpolating Spline）插值样条曲线是将多个局部的多项式插值片段拼接在一起，从而逼近未知函数的方法。
插值样条曲线在实现光滑拟合的同时，还能逼近离散数据点。
最小二乘法的原理及在建模中的应用分析
最小二乘法的原理及在建模中的应用分析最小二乘法（least squares method）是一种数学优化方法，用于解决线性回归和非线性回归问题，通过求取使得误差平方和最小化的参数估计值。
它的原理是寻找一条最佳拟合曲线或平面，使得观测值与拟合值之间的误差最小。
在线性回归问题中，最小二乘法可以用来估计回归模型的参数。
假设我们有n个样本点{(x1, y1), (x2, y2), ..., (xn, yn)}，其中yi是对应的观测值，我们想要找到一个线性模型y = ax + b，使得拟合值与观测值之间的误差最小。
这个问题可以通过最小化误差平方和来求解。
误差平方和定义为E(a, b) = Σ(yi - (axi + b))^2，我们需要找到使得E(a, b)最小的a和b。
∂E/∂a = -2Σ(xi(yi - (axi + b))) = 0∂E/∂b = -2Σ(yi - (axi + b)) = 0将上述方程进行化简，可以得到如下的正规方程组：Σ(xi^2)a + Σ(xi)b = Σ(xi yi)Σ(xi)a + nb = Σ(yi)解这个方程组，可以得到最小二乘估计的参数值。
1.线性回归分析：最小二乘法可以用于估计线性回归模型的参数。
通过最小二乘估计，可以得到最佳拟合直线，并用这条直线来预测因变量。
2.时间序列分析：最小二乘法可以用于拟合时间序列模型。
通过寻找最佳拟合函数，可以识别出序列中的趋势和周期性变化。
3.统计数据处理：最小二乘法可以用于数据平滑和滤波处理。
通过拟合一个平滑曲线，可以去除数据中的噪声和不规则波动，从而提取出数据中的趋势信息。
4.多项式拟合：最小二乘法可以用于多项式拟合。
通过最小二乘估计，可以拟合出多项式函数，将其用于数据拟合和函数逼近。
5.曲线拟合：最小二乘法可以用于非线性曲线拟合。
通过选择合适的函数形式，并通过最小二乘估计求解参数，可以拟合出复杂的非线性曲线。
总之，最小二乘法是一种常用的参数估计方法，可以用于线性回归、非线性拟合、时间序列分析等多种建模问题。
函数逼近理论
函数逼近理论函数逼近是数学中研究近似计算方法的重要分支，它通过寻找一个接近所需函数的近似函数来简化复杂的计算问题。
函数逼近理论涵盖了多项式逼近、三角函数逼近、最小二乘逼近等各种方法。
本文将从数学背景、函数逼近的原理和应用领域三个方面进行讨论。
一、数学背景在了解函数逼近理论之前，我们需要回顾一些数学背景知识。
首先，我们要了解函数及其性质的概念。
函数是一种将一个集合中的元素映射到另一个集合中元素的规则，常用来描述数学、物理和工程问题。
其次，我们要熟悉多项式的性质。
多项式是由常数和变量的乘积相加而成的表达式，其具有高度的可控性和计算性能。
最后，我们需要了解一些数学分析工具，如泰勒级数展开和傅里叶级数展开等。
二、函数逼近的原理函数逼近的核心思想是通过构造一个近似函数，在一定范围内保持与所需函数的接近程度。
常用的函数逼近方法包括最小二乘逼近、插值逼近和曲线拟合等。
最小二乘逼近是一种基于最小化残差平方和的方法。
其基本思想是通过寻找一个多项式函数，使得所需函数与多项式函数的差异最小化。
这种逼近方法在实际问题中应用广泛，如信号处理、数据拟合等领域。
插值逼近是一种通过在给定数据点上构造插值多项式来逼近函数的方法。
插值多项式与原函数在数据点处相等，通过连接这些数据点构造出一个逼近函数。
插值逼近在图像处理、数值计算和计算机图形学等领域具有重要应用。
曲线拟合是一种寻找一条曲线与给定数据集最匹配的方法。
常用的曲线拟合方法包括多项式拟合、指数拟合和对数拟合等。
曲线拟合方法在统计学、经济学和物理学等领域具有广泛应用。
三、函数逼近的应用领域函数逼近理论在数学和工程领域中有着广泛的应用。
在数学领域，函数逼近可用于求解复杂的数学问题，如微积分、方程求解等。
在工程领域，函数逼近可用于优化算法、信号处理、图像处理等领域。
在优化算法中，函数逼近可用于近似解决无法求得精确解的优化问题。
通过构造一个逼近函数，可以减少计算量和提高计算效率，从而更好地解决实际问题。
牛顿迭代法的函数逼近和拟合
牛顿迭代法的函数逼近和拟合在数学和计算机科学中，函数逼近（function approximation）和拟合（function fitting）是重要的问题之一，它们涉及到如何用已知数据或函数来找出与之近似的函数形式。
而牛顿迭代法是一种常用的数值计算方法，可以被广泛地应用在函数逼近和拟合中。
一、牛顿迭代法简介牛顿迭代法是一种求解方程的方法，其本质是一种迭代算法，可以通过给出一个函数在某点的值以及该点的导数，迭代地求出函数的零点或者极值点。
其基本公式为：$$x_{n+1}=x_n-\frac{f(x_n)}{f'(x_n)}$$其中，$f(x_n)$表示函数在点$x_n$处的函数值，$f'(x_n)$表示函数在点$x_n$处的导数，$x_{n+1}$是通过迭代算法得到的新的近似解。
在使用牛顿迭代法时，需要注意函数的光滑性和局部收敛性，如果函数不光滑或者在某些点处导数为零，那么迭代可能会导致发散或者收敛速度极慢。
二、牛顿迭代法在函数逼近中的应用在函数逼近中，如果我们已知一些数据点$(x_i, y_i)$，并且想要找到一个函数$f(x)$，可以用这些数据点来拟合函数，那么可以使用牛顿迭代法来实现。
具体的方法如下：1.首先定义一个函数$g(x)$，它满足$g(x_i)=y_i$；2.然后利用牛顿迭代公式，给出$f(x)$的递归式：$$f(x_{n+1})=f(x_n)+\frac{g(x_n)-f(x_n)}{g'(x_n)}$$其中，$g(x)$是一个在点$(x_i, y_i)$处值为$y_i$，在其他点处为零的光滑函数。
3.重复进行上述迭代，直到得到一个满足精度要求的近似解。
通过牛顿迭代法的函数逼近方法，我们可以得到在数据点上的逼近函数，这个函数可以用来进行插值和外推等操作，同时也可以作为一个简单的近似模型来使用。
三、牛顿迭代法在函数拟合中的应用除了函数逼近，牛顿迭代法还可以用于函数拟合，这里的函数拟合指的是通过一些给定的函数基，将一个在某些点处已知函数值的函数表示为基函数线性组合的形式。
数据拟合与函数逼近
第十三章 数据拟合与函数逼近数据拟合与函数逼近涉及到许多内容与方法，从不同角度出发，也有多种叫法。
这一章，我们主要通地线性拟合而引出最小乘法这一根本方法。
13.1 数据拟合概念与直线拟合插值法是一种用简单函数近似代替较复杂函数的方法，它的近似标准是在插值点处的误差为零。
但有时，我们不要求具体某些点的误差为零，而是要求考虑整体的误差限制。
对了达到这一目的，就需要引入拟合的方法，所以数据拟合与插值相比：数据拟合--不要求近似 函数过所有的数据点，而要求它反映原函数整体的变化趋势。
插值法--在节点处取函数值。
实际给出的数据，总有观测误差的，而所求的插值函数要通过所有的节点，这样就会保留全部观测误差的影响，如果不是要求近似函数过所有的数据点，而是要求它反映原函数整的变化趋势，那么就可以用数据拟合的方法得到更简单活用的近似函数。
13.1.1 直线拟合由给定的一组测定的离散数据(,)i i x y （1,2,,i N = ），求自变量x 和因变量y 的近似表达式()y x ϕ=的方法。
影响因变量y 只有一个自变量x 的数据拟合方法就是直线拟合。
直线拟合最常用的近似标准是最小二乘原理，它也是流行的数据处理方法之一。
直线拟合步骤如下：(1) 做出给定数据的散点图（近似一条直线）。
(2) 设拟合函数为：i bx a y +=*(13.1.1)然后，这里得到的*i y 和i y 可能不相同，记它们的差为：i i i i i bx a y y y --=-=*δ (13.1.2)称之为误差。
在原始数据给定以后，误差只依赖于b a ,的选取，因此，可以把误差的大小作为衡量b a ,的选取是否优良的主要标志。
最小二乘法便是确定“最佳” 参数的方法，也就是要误差的平方和达到最小。
(3) 写出误差和表达式：),()(1212b a bx a yQ Ni i iNi iϕδ=--==∑∑== (13.1.3)要选择b a ,而使得函数),(b a ϕ最小，可以用数学分析中求极值的方法，即先分别对b a ,求偏导，再使偏导等于零。
数值分析06函数逼近
函数逼近的历史与发展
早期发展
早在古希腊时期，数学家就开始研究用简单的几何图形来近 似表示复杂的曲线。随着数学的发展，函数逼近的理论和方 法不断完善和丰富。
现代进展
随着计算机科学和数值分析的兴起，函数逼近在数值计算、 信号处理、图像处理等领域的应用越来越广泛。现代的逼近 方法不仅追求形式简单，还注重逼近的精度和计算效率。
数据拟合
在数据分析和机器学习中，利用数值逼近方法对数据进行拟合， 以提高预测精度。
图像处理
在图像处理中，利用数值逼近方法对图像进行平滑、去噪等处理， 以提高图像质量。
工程计算
在工程计算中，利用数值逼近方法对复杂函数进行近似计算，以简 化计算过程和提高计算效率。
05
结论与展望
总结与评价
总结
数值分析06函数逼近课程是一门重要的数学课程，它涉及到许多实际问题的求解，如插值、拟合、最小二乘法等。 通过学习这门课程，学生可以掌握如何使用数学工具来近似描述和分析函数，从而更好地理解和解决实际问题。
数。
稳定性分析
稳定性定义
稳定性是指在逼近过程中，对于小的扰动或误差，逼近结果的变 化程度。
不稳定性影响
不稳定的逼近可能导致结果出现较大的偏差，影响数值计算的精 度和可靠性。
稳定性判据
根据稳定性判据，判断逼近函数的稳定性以及如何提高稳定性。
04
数值实例与应用
一元函数逼近实例
01
线性逼近
通过多项式逼近方法，将一元函 数在某点附近展开成线性形式， 如泰勒级数展开。
评价
这门课程的内容非常实用，对于数学专业的学生来说是一门必修课程。它不仅有助于提高学生的数学素养，还可 以为学生提供解决实际问题的能力。然而，该课程难度较大，需要学生具备较高的数学基础和思维能力。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第十三章 数据拟合与函数逼近数据拟合与函数逼近涉及到许多内容与方法，从不同角度出发，也有多种叫法。
这一章，我们主要通地线性拟合而引出最小乘法这一根本方法。
13.1 数据拟合概念与直线拟合插值法是一种用简单函数近似代替较复杂函数的方法，它的近似标准是在插值点处的误差为零。
但有时，我们不要求具体某些点的误差为零，而是要求考虑整体的误差限制。
对了达到这一目的，就需要引入拟合的方法，所以数据拟合与插值相比：数据拟合--不要求近似 函数过所有的数据点，而要求它反映原函数整体的变化趋势。
插值法--在节点处取函数值。
实际给出的数据，总有观测误差的，而所求的插值函数要通过所有的节点，这样就会保留全部观测误差的影响，如果不是要求近似函数过所有的数据点，而是要求它反映原函数整的变化趋势，那么就可以用数据拟合的方法得到更简单活用的近似函数。
13.1.1 直线拟合由给定的一组测定的离散数据(,)i i x y （1,2,,i N = ），求自变量x 和因变量y 的近似表达式()y x ϕ=的方法。
影响因变量y 只有一个自变量x 的数据拟合方法就是直线拟合。
直线拟合最常用的近似标准是最小二乘原理，它也是流行的数据处理方法之一。
直线拟合步骤如下：(1) 做出给定数据的散点图（近似一条直线）。
(2) 设拟合函数为：i bx a y +=*(13.1.1)然后，这里得到的*i y 和i y 可能不相同，记它们的差为：i i i i i bx a y y y --=-=*δ (13.1.2)称之为误差。
在原始数据给定以后，误差只依赖于b a ,的选取，因此，可以把误差的大小作为衡量b a ,的选取是否优良的主要标志。
最小二乘法便是确定“最佳” 参数的方法，也就是要误差的平方和达到最小。
(3) 写出误差和表达式：),()(1212b a bx a yQ Ni i iNi iϕδ=--==∑∑== (13.1.3)要选择b a ,而使得函数),(b a ϕ最小，可以用数学分析中求极值的方法，即先分别对b a ,求偏导，再使偏导等于零。
就可得到所谓的正规方程组。
(4) 正规方程组：∑==---=∂∂Ni i i bx a y a 10)(2ϕ(13.1.4)∑==---=∂∂Ni i i i x bx a y b1)(2ϕ (13.1.5)(5) 求解正规方程组，得b a ,。
(6) 确定i bx a y +=*的具体表达式。
13.2 最小二乘原理应用上面我们简单地提到最小二乘法的原理就是使误差的平方各达到最小。
下面由线性无关的定义来给出最小二乘法的一般叙述。
若在区间[,]a b 上，对于n 个函数011(),(),,()n x x x ϕϕϕ-001111()()()0n n c x c x c x ϕϕϕ--+++≡(13.2.1)成立的充要条件是0110n c c c -==== ，则称这n 个函数011(),(),,()n x x x ϕϕϕ- 在[,]a b 上线性无关。
否则，若存在不全为零的021,,,n c c c - 使该式成立，则称011(),(),,()n x x x ϕϕϕ- 在[,]a b 线性相关。
设011(),(),,()n x x x ϕϕϕ- 是定义在[,]a b 上的n 个线性无关的连续函数，函数()f x 是在[,]a b 上的n 个节点12n a x x x b =<<<= 上给定的离散函数。
最小二乘法实质是用011(),(),,()n x x x ϕϕϕ- 的线性组合：001111()()()()n n Q x c x c x c x ϕϕϕ--=+++ (13.2.2)逼近()f x ，使()f x 和()Q x 在各节点上的差的加权平方和2110()()ωϕ-==⎛⎫- ⎪⎝⎭∑∑mn i i k k i i k f x c x (13.2.3) 在由011(),(),,()n x x x ϕϕϕ- 的一切线性组合所组成的函数类中最小。
其中权数0i ω>的不同，是由于所测得的数据不一定等精度造成的。
下面的讨论设1i ω=（1i m ≤≤）。
13.2.1 多变量拟合影响变量y 的因素是多个，设为12,,,k x x x ，由给定的离散数据确定近似函数：*011k ky c c x c x =+++ (13.2.4)在1011()n n Q x c c x c x --=+++ 中，记i i x x =（1,2,,1i n =- ），则该式化为多变量拟合*01111n n y c c x c x --=+++(13.2.5)可见，多变量拟合是可以互相转化的。
最小二乘原理原理就要确定近似函数(13.2.4)中的系数，使得其误差平方和达到最小。
误差平方和为：201011221(,,,)()Kk i i i k ki i c c c y c c x c x c x ϕ==-----∑ (13.2.6)与直线拟合类似，上式两边分别对各系数求偏导，然后令其为零，便得到正规方程组：011221011221110112212()02()02()0K i i i k ki i Ki i i k ki i i Ki i i k ki ki i ky c c x c x c x c y c c x c x c x x c y c c x c x c x x cϕϕϕ===∂⎧=------=⎪∂⎪∂⎪=------=⎪∂⎨⎪⎪∂⎪=------=⎪∂⎩∑∑∑ (13.2.7)因K k >，且12,,,k x x x 线性无关，故方程组总有惟一解。
通过求解方程组(13.2.7)可以得到系数，然后将得的系数01,,,k c c c 代入(13.2.4), 即，*011k ky c c x c x =+++ ，便得到了多变量线性拟后函数。
13.2.2 非线性曲线拟合除了线性曲线外，我们也常常会遇非线性曲线，对于某些非线性问题，可以转化为线性问题，然后便可利用前面的方法来求解。
下面讨论常出现的两类非线性方程。
(1) 对于如下形式的指数方程：1c xo y c e= (13.2.8)上式两边取对数，得：01ln ln y c c x =+(13.2.9)令：ln z y =，0ln s c =，则上式实际上有线性形式：1z s c x =+ (13.2.10)其误差平方和为：2111(,)[()]Ki i i s c z s c x ϕ==-+∑ (13.2.11)求得正规方程组为：1111()0()0Ki i i Ki i ii z s c x z s c x x ==⎧--=⎪⎪⎨⎪--=⎪⎩∑∑ (13.2.12)由上述方程给，便可解出s ，1c ，再由0s c e =求出拟合函数：1*c x o y c e =。
(2) 对于如下形式的双曲线：0111c c yx =+ (13.2.13)令：1z y =，1t x=，得：01z c c t=+ (13.2.14)上式的误差平方和：201011(,)[()]K i i i c c z c c t ϕ==-+∑ (13.2.15) 求得正规方程组为：011011(()0(()0Ki i i Ki i ii z c c t z c c t t ==⎧-+=⎪⎪⎨⎪-+=⎪⎩∑∑ (13.2.16)解上述方程给，可解出0c ，1c ，得拟合函数*0111y c c x=+。
13.2.3 超定方程组的最小二乘解对于给定方程组：A X Y = (13.2.17)其中：111212122212n nm m m n a a a a a a A a a a ⎛⎫⎪ ⎪=⎪⎪ ⎪⎝⎭，12n x xX x ⎛⎫⎪ ⎪= ⎪ ⎪ ⎪⎝⎭，12ny yY y ⎛⎫ ⎪ ⎪= ⎪ ⎪ ⎪⎝⎭若m n >，其中m 为方程的个数，n 为未知数的个数，则方程组不一定有解，这时称方程组为超定方程组。
要寻求方程组(13.2.17)的解，即要寻求nXR∈，使得：21211(,,,)[()]mnn i ij j i j x x x y a x ϕ===-∑∑ (13.2.18)最小。
如果方程组(13.2.17)有解，则此解也是方程组的最小二乘解。
转化形式：TTA AX A Y = (13.2.19)求解方程组(13.2.17)。
13.2.4 用正交函数作最小二乘拟合在前面的讨论中，多项式拟合总是化为多变量拟合来计算。
现在介绍一种特殊的运用正交多项式的拟合数据的方法。
如果多项式族{}0()k k P x ∞=满足下面条件：121()()0,(())0,,0,1,,K i j i k i i K i j i i P x P x j k P x j k m ωω==⎧=≠∑⎪⎨⎪>=∑⎩ (13.2.20)则称其为对某组i x 值和与之对应的权数i ω值的正交多项式族。
设拟合函数为：*()mi i i y c P x ==∑ (13.2.21)如果{}0()k k P x ∞=为正交多项式族，则正规方程组：12(())()0Kmi i i i j i i y c P x P x ω==-=∑∑,（0,1,,j m = ） (13.2.22)有解：121()(())Ki j j i i j Ki j i i y P x c P x ωω==∑=∑，（0,1,,j m = ）(13.2.23) 由此，就可写出拟合函数*y 的表达式。
如果一个多项式族{}0()k k P x ∞=满足：()()()0b i j ax P x P x dx ω=⎰，（, ,0,1,i i j ≠=） (13.2.24)则称{}0()k k P x ∞=为在区间[,]a b 上关于权函数()x ω的正交多项式系。
若{}0()k k P x ∞=还满足：2()()0b i ax P x dx ω=⎰，（0,1,i = ） (13.2.25)则称{}0()k k P x ∞=为在区间[,]a b 上关于权函数()x ω的规格化正交多项式系。
区间[,]a b 上关于非负权函数()x ω的正交多项式系总存在。
若给定区间是[0,1]，对权函数()1x ω=的一种正交多项式为：0()(1)mkkkkm m k m i P x C C x+==-∑，（0,1,m = ）(13.2.26) 若给定点区间是[0,]n ，且给定数据中的节点i x （0,1,,i n = ）等距，其中00x =，n x n =，步长为1，令权函数()1i x ω=，则有正交多项式：,0(1)(1)(1)(1)()(1)mkkkm n m k mk x x x k n n n k P x C C +=--+--+=-∑ ， (0,1,m = ) (13.2.27)其中m 表示,m n P 的次数，n 表示给定的节点个数。