第3章 函数逼近与快速傅里叶变换
数值分析实验报告2
实验报告实验项目名称函数逼近与快速傅里叶变换实验室数学实验室所属课程名称数值逼近实验类型算法设计实验日期班级学号姓名成绩512*x^10 - 1280*x^8 + 1120*x^6 - 400*x^4 + 50*x^2 - 1并得到Figure，图像如下：实验二：编写程序实现[-1,1]上n阶勒让德多项式，并作画（n=0,1，…，10 在一个figure中）。
要求：输入Legendre(-1,1,n)，输出如a n x n+a n-1x n-1+…多项式。
在MATLAB的Editor中建立一个M-文件，输入程序代码，实现勒让德多项式的程序代码如下：function Pn=Legendre(n,x)syms x;if n==0Pn=1;else if n==1Pn=x;else Pn=expand((2*n-1)*x*Legendre(n-1)-(n-1)*Legendre(n-2))/(n);endx=[-1:0.1:1];A=sym2poly(Pn);yn=polyval(A,x);plot (x,yn,'-o');hold onend在command Windows中输入命令：Legendre（10），得出的结果为：Legendre(10)ans =(46189*x^10)/256 - (109395*x^8)/256 + (45045*x^6)/128 - (15015*x^4)/128 + (3465*x^2)/256 - 63/256并得到Figure，图像如下：实验三：利用切比雪夫零点做拉格朗日插值，并与以前拉格朗日插值结果比较。
在MATLAB的Editor中建立一个M-文件，输入程序代码，实现拉格朗日插值多项式的程序代码如下：function [C,D]=lagr1(X,Y)n=length(X);D=zeros(n,n);D(:,1)=Y';for j=2:nfor k=j:nD(k,j)=(D(k,j-1)- D(k-1,j-1))/(X(k)-X(k-j+1));endendC=D(n,n);for k=(n-1):-1:1C=conv(C,poly(X(k)));m=length(C);C(m)= C(m)+D(k,k);end在command Windows 中输入如下命令：clear,clf,hold on;k=0:10;X=cos(((21-2*k)*pi)./22); %这是切比雪夫的零点Y=1./(1+25*X.^2);[C,D]=lagr1(X,Y);x=-1:0.01:1;y=polyval(C,x);plot(x,y,X,Y,'.');grid on;xp=-1:0.01:1;z=1./(1+25*xp.^2);plot(xp,z,'r')得到Figure ，图像如下所示：比较后发现，使用切比雪夫零点做拉格朗日插值不会发生龙格现象。
计算方法 第八周
证明自学
示例：lgd
15
勒让德多项式的性质
16
切比雪夫多项式
chbs chbs1
17
切比雪夫多项式性质
18
切比雪夫多项式性质
19
切比雪夫多项式性质
奇偶性 零点
20
切比雪夫点
零点
xk
cos 2k 1
2n
极值点
k
xk cos n
, k 1,2, , n , k 0,1, , n
如果选择基为
1，x，x2，x3,……, xn
基函数，干吗用？
所有的n次多项式共同组成的空间
空间中的某一个向量
anxn+an-1xn-1+……+a1x+a0
坐标为
(an , an-1 , …… , a1 , a0)
4
为什么还需要正交多项式
n维向量空间
向量有n个分量 任选n个线性无关的
chbs2
21
切比雪夫多项式零点插值
如果插值节点为切比雪夫多项式零点， 则可导出插值误差最小化的结论☺
chbs3
22
第二类切比雪夫多项式
23
拉盖尔多项式
24
埃尔米特多项式
25
习题
P84 7、8
26
向量就可以作为基
但是我们更喜欢正 交基向量
如果是单位长度的 标准正交基向量组 就更好了
n次多项式空间
多项式有n+1个项
最简单地选取1， x，……，xn作为基
希望能获得n+1个正 交的多项式来做基
？怎么定义函数的 “正交”和“标 准”？
5
复习：函数的带权内积和2范数
6
函数逼近与快速傅里叶变换
n1
ikπ
1 其中 ck N
N 1 j 0
ye
j
ikj
2 N
( k = 0, 1, … , n-1 ) 当 n=N 时，Sn(x) 即为 f(x) 在 x0, x1, , xn-1 上的插值函数
y j ck e
k 0
N 1
ikj
2 N
离散 Fourier 逆变换 ( j = 0, 1, … , N-1 )
10
DFT
设 f (x) 以 2 为周期的复函数，给定函数值 ( xj, yj )，其中 2 jπ xj , j 0,1, ..., N 1 离散 Fourier 变换 N 则 f(x) 的最小二乘 Fourier 逼近为 (n m)
Sn ( x ) ck e
k 0
4
则称 Rnm(x) 为 f(x) 在 x=0 处的 (n, m) 阶 Pade 逼近
三角多项式逼近
在 [0, 2] 上带权 (x)=1 的正交三角函数族： 1，cos x，sin x，sin 2x，cos 2x，…
三角多项式逼近
设 f (x) 是以 2 为周期的平方可积函数，则可利 用上面的三角函数族对其进行数值逼近。
1 2π ak f ( x ) cos( kx ) dx ( k = 0, 1, … , n-1 ) π 0 2π b 1 f ( x ) sin( kx ) dx ( k = 1, 2, … , n-1 ) k 0 π
6
当 n 趋于无穷大时，Sn(x) 即为 f(x) 的 Fourier 展开
ikx
ix
2 ix
3 ix
,e
( N 1) ix
数值分析实验(3)
实验三函数逼近与快速傅里叶变换P95专业班级：信计131 班姓名：段雨博学号：2013014907一、实验目的1、熟悉 matlab 编程。
2、学习最小二乘法及程序设计算法。
二、实验题目1、对于给函数f x1在区间1,1 上取 x i 1 0.2i i0,1,10 ，试求3次125x2曲线拟合，试画出拟合曲线并打印出方程，与第二章计算实习题 2 的结果进行对比。
2、由实验给出数据表x0.00.10.20.30.50.8 1.0y 1.00.410.500.610.91 2.02 2.46试求 3 次、 4 次多项式的曲线拟合，再根据数据曲线形状，求一个另外函数的拟合曲线，用图示数据曲线及相应的三种拟合曲线。
3.给定数据点 x i , y i如表所示00.50.60.70.80.91x x i1 1.75 1.96 2.19 2.44 2.71 3.00y i用最小二乘法求拟合数据的二次多项式，并求平方误差。
三、实验原理与理论基础1．最小二乘原理与线性拟合：在函数的最佳平方逼近中 f ( x)C[ a,b] ，如果 f ( x) 只在一组离散点集 { x i , i 0,1..., m} 上给出，这就是科学实验中经常见到的实验数据｛{( x i, y i ), i 0,1...m} ｝的曲线拟合，这里y i f (x i)(i0,1...m) ，要求一个函数y S * ( x) 与所给数据 {( x i , y i ), i 0,1...m} 拟合，若记误差(01 ,... m ) T，设0 ( x),1 (x),... n (x) 是C[a,b]上线性无关函数族，在span{0 ( x),1 ( x),...n (x)} 中找一函数 S * (x) 使误差平方和m m m222[ S * ( x)y i ]2min[ S( x i )y i ] ，这2ii 0i0i 0里S(x)a0 0 ( x)a0 1 ( x)... a n n ( x) （ n m ）。
033第三章 傅里叶变换
T 0
f
2(t)d t
a02
1 2 n1
an2
bn2
a02
1 2
cn2
n1
Fn
n
2
这是帕塞瓦尔定理在傅里叶级数情况下的具体体现; 表明：
周期信号平均功率=直流、基波及各次谐波分量 有效值的平方和；
也就是说，时域和频域的能量是守恒的。 Fn 2 ~ 绘成的线状图形，表示 各次谐波的平均功率 随频率分布的情况，称为功率谱系数。
第三章 傅里叶变换
3.1 引言
X
频域分析
第 2
页
频域分析将时间变量变换成频率变量，揭示了信 号内在的频率特性以及信号时间特性与其频率特性之 间的密切关系，从而导出了信号的频谱、带宽以及滤 波、调制和频分复用等重要概念。
从本章开始由时域转入变换域分析，首先讨论傅里 叶变换。傅里叶变换是在傅里叶级数正交函数展开的基 础上发展而产生的，这方面的问题也称为傅里叶分析 （频域分析）。将信号进行正交分解，即分解为三角函 数或复指数函数的组合。
第第 2222
页页
偶函数 奇函数 奇谐函数 偶谐函数
注：指交流分量
X
第第
1．偶函数
2233
页页
信号波形相对于纵轴是对称的
f (t) f (t)
f (t) E
bn 0
4
an T
T
2 0
f (t)cosn1t d t
0
F
n
F (n1 )
1 2
an
jbn
1 2
an
T
O
n 0
T
t
傅里叶级数中不含正弦项，只含直流项和余弦项。
n
Fn1
数值分析-第五版-考试总结
第一章：数值分析与科学计算引论截断误差：近似解与精确解之间的误差。
近似值的误差e∗（x为准确值）：e∗=x∗−x近似值的误差限ε∗：|x∗−x |≤ε∗近似值相对误差e r∗（e r∗较小时约等）：e r∗=e∗x≈e∗x∗近似值相对误差限εr∗：εr∗=ε∗|x∗|函数值的误差限ε∗(f(x∗))：ε∗(f(x∗))≈|f′(x∗)| ε∗(x∗)近似值x∗=±(a1.a2a3⋯a n)×10m有n位有效数字：ε∗=12×10m−n+1εr∗=ε∗|x∗|≤12a1×10−n+1第二章：插值法1.多项式插值P(x)=a0+a1x+⋯+a n x n 其中：P(x i)=y i ,i=0,1,⋯,n{a0+a1x0+⋯+a n x0n=y0 a0+a1x1+⋯+a n x1n=y1⋮a0+a1x n+⋯+a n x n n=y n 2.拉格朗日插值L n(x)=∑y k l k(x)nk=0=∑y kωk+1(x)(x−x k)ωn+1′(x k) nk=0n次插值基函数：l k(x)=(x−x0)⋯(x−x k−1)(x−x k+1)⋯(x−x n)(x k−x0)⋯(x k−x k−1)(x k−x k+1)⋯(x k−x n),k=0,1,⋯,n引入记号：ωn+1(x)=(x−x0)(x−x1)⋯(x−x n)余项：R n(x)=f(x)−L n(x)=f(n+1)(ξ)(n+1)!ωn+1(x) ,ξ∈(a,b)3.牛顿插值多项式：P n(x)=f(x0)+f[x0,x1](x−x0)+⋯+f[x0,x1,⋯,x n](x−x0)⋯(x−x n−1) n阶均差（把中间去掉，分别填在左边和右边）：f[x0,x1,⋯,x n−1,x n]=f[x1,⋯,x n−1,x n]−f[x0,x1,⋯,x n−1]x n−x0余项：R n(x)=f[x,x0,x1,⋯,x n]ωn+1(x) 4.牛顿前插公式（令x=x0+tℎ，计算点值，不是多项式）：P n(x0+tℎ)=f0+t∆f0+t(t−1)2!∆2f0+⋯+t(t−1)⋯(t−n−1)n!∆n f0n阶差分：∆n f0=∆n−1f1−∆n−1f0余项：R n(x)=t(t−1)⋯(t−n)ℎn+1(n+1)!f(n+1)(ξ) ,ξ∈(x0,x n)5.泰勒插值多项式：P n(x)=f(x0)+f′(x0)(x−x0)+⋯+f(n)(x0)n!(x−x0)nn阶重节点的均差：f[x0,x0,⋯,x0]=1n!f(n)(x0)6.埃尔米特三次插值：P(x)=f(x0)+f[x0,x1](x−x0)+f[x0,x1,x2](x−x0)(x−x1)+A(x−x0)(x−x1)(x−x2)其中，A的标定为：P′(x1)=f′(x1)7.分段线性插值：Iℎ(x)=x−x k+1x k−x k+1f k+x−x kx k+1−x kf k+1第三章：函数逼近与快速傅里叶变换1. S(x)属于 n维空间φ：S(x)=∑a jφjnj=02.范数：‖x‖∞=max1≤i≤n |x i| and maxa≤i≤b|f(x)|‖x‖1=∑|x i|ni=1 and∫|f(x)|badx‖x‖2=(∑x i2ni=1)12 and (∫f2(x)badx)123.带权内积和带权正交：(f,φk)=∑ω(x i)f(x i)φk(x i)mi=0 and ∫ρ(x)f(x)φk(x)badx(f(x),g(x))=∫ρ(x) f(x)g(x)dxba=0 4.最佳逼近的分类（范数的不同、是否离散）：最优一致（∞-范数）逼近多项式P∗(x)：‖f(x)−P∗(x)‖∞=minP∈H n‖f(x)−P(x)‖∞最佳平方（2-范数）逼近多项式P∗(x)：‖f(x)−P∗(x)‖22=minP∈H n‖f(x)−P(x)‖22最小二乘拟合（离散点）P∗(x)：‖f−P∗‖22=minP∈Φ‖f−P∗‖225.正交多项式递推关系：φn+1(x)=(x−αn)φn(x)−βnφn−1(x)φ0(x)=1,φ−1(x)=0αn=(xφn(x),φn(x))(φn(x),φn(x)),βn=(φn(x),φn(x))(φn−1(x),φn−1(x))6.勒让德多项式：正交性：∫P n(x)P m(x)dx 1−1={0 ,m≠n22n+1, m=n奇偶性：P n(−x)=(−1)n P n(x)递推关系：(n +1)P n+1(x )=(2n +1)xP n (x )−nP n−1(x)7．切比雪夫多项式：递推关系：T n+1(x )=2xT n (x )−T n−1(x )正交性：∫n m √1−x 21−1=∫cos nθcos mθπdx ={0 , m ≠n π2 , m =n ≠0π , m =n =0T n (x )在[−1，1]上有n 个零点：x k =cos2k −12nπ,k =1,⋯,n T n+1(x )在[a,b ]上有n +1个零点：（最优一致逼近）x k =b −a 2cos 2k +12(n +1)π+b +a2,k =0,1,⋯,n 首项x n 的系数：2n−18.最佳平方逼近：‖f (x )−S ∗(x)‖22=min S(x)∈φ‖f (x )−S(x)‖22=min S(x)∈φ∫ρ(x)[f (x )−S (x )]2dx ba法方程：∑(φk ,φj )a j nj=0=(f,φk )正交函数族的最佳平方逼近：a k ∗=(f,φk )(φk ,φk )9.最小二乘法：‖δ‖22=min S(x)∈φ∑ω(x i )[S (x i )−y i ]2mi=0法方程：∑(φk ,φj )a j nj=0=(f,φk )正交多项式的最小二乘拟合:a k∗=(f,P k )(P k ,P k )第四章 数值积分与数值微分1.求积公式具有m 次代数精度求积公式（多项式与函数值乘积的和），对于次数不超过m 的多项式成立，m +1不成立∫f(x)dx b a=∑A k f(x k )nk=02.插值型求积公式I n =∫L n (x)dx b a=∑∫l k (x)dx baf(x k )nk=0=∑A k f(x k )nk=0R [f ]=∫[f (x )− L n (x)]dx ba =∫R n (x)dx ba =∫f (n+1)(ξ)(n +1)!ωn+1(x)dx ba3.求积公式代数精度为m 时的余项R [f ]=∫f (x )dx ba −∑A k f (x k )nk=0=1(m +1)![∫x m+1dx ba−∑A k x k m+1nk=0]4.牛顿-柯特斯公式：将[a,b ]划分为n 等份构造出插值型求积公式I n =(b −a)∑C k (n)f(x k )nk=05.梯形公式：当n=1时，C 0(1)=C 1(1)=12T =b −a 2[f (a )+f(b)],R n (f )=−b −a12(b −a )2f ′′(η) 6.辛普森公式：当n=2时，C 0(2)=16,C 1(2)=46,C 2(2)=16S =b −a 6[f (a )+4f (a +b 2)+f(b)],R n (f )=−b −a 180(b −a 2)4f (4)(η) 7.复合求积公式：ℎ=b−a n,x k =a +kℎ,x k+1/2=x k +ℎ2复合梯形公式：T n =ℎ2[f (a )+2∑f(x k )n−1k=1+f(b)],R n (f )=−b −a 12ℎ2f ′′(η)复合辛普森公式：S n =ℎ6[f (a )+4∑f(x k+1/2)n−1k=0+2∑f(x k )n−1k=1+f(b)],R n (f )=−b −a 180(ℎ2)4f (4)(η)8.高斯求积公式（求待定参数x k 和A k ）：（1）求高斯点（x k ）：令 ωn+1(x )=(x −x 0)(x −x 1)⋯(x −x n )与任何次数不超过n 的多项式p(x)带权ρ(x)正交，即则∫p(x)ωn+1(x )ρ(x)dx ba =0，由n +1个方程求出高斯点x 0,x 1⋯x n 。
数值分析知识点总结
数值分析知识点总结说明：本文只提供部分较好的例题，更多例题参考老师布置的作业题和课件相关例题。
一、第1章 数值分析与科学计算引论1. 什么是绝对误差与相对误差？什么是近似数的有效数字？它与绝对误差和相对误差有何关系？相对误差限：**r re ε=的一个上界。
有效数字：如果近似值*x 的误差限是某一位的半个单位，该位到*x 的第一位非零数字共有n 位，就说x *共有n 位有效数字。
即x *=±10m ×(a 1+a 2×10-1+…+a n ×10-(n-1))，其中a 1≠0，并且*11102m n x x -+-≤⨯。
其中m 位该数字在科学计数法时的次方数。
例如9.80的m 值为0，n 值为3，绝对误差限*211102ε-=⨯。
2. 一个比较好用的公式：f(x)的误差限：()***()'()()f x f x x εε≈ 例题：二、第2章插值法例题：5. 给出插值多项式的余项表达式，如何用其估计截断误差？6. 三次样条插值与三次分段埃尔米特插值有何区别？哪一个更优越？7. 确定n+1个节点的三次样条插值函数需要多少个参数？为确定这些参数，需加上什么条件？8. 三弯矩法：为了得到三次样条表达式，我们需要求一些参数：对于第一种边界条件，可导出两个方程：，那么写成矩阵形式：公式 1对于第二种边界条件，直接得端点方程：，则在这个条件下也可以写成如上公式1的形式。
对于第三种边界条件，可得：也可以写成如下矩阵形式：公式 2求解以上的矩阵可以使用追赶法求解。
（追赶法详见第五章）例题：数值分析第5版清华大学出版社第44页例7三、第3章函数逼近与快速傅里叶变换的正交多项式？什么是[-1,1]上的勒让德多项式？它有3.什么是[a,b]上带权()x什么重要性质？4.什么是切比雪夫多项式？它有什么重要性质？5.用切比雪夫多项式零点做插值点得到的插值多项式与拉格朗日插值有何不同?6.什么是最小二乘拟合的法方程？用多项式做拟合曲线时，当次数n较大时，为什么不直接求解法方程？例题请参考第3章书上的作业题和课件上的例题。
第三章 傅里叶变换
P=a
2 0
1 2
n 1
an2 bn2
c02
1 2
cn2
n 1
n
Fn
2
；
3、一个特别的性质： e jn e jn
3.1.3 函数的对称性与傅里叶系数的关系
1、波形对称分类：（1）、整周期对称，例如偶函数和奇函数，其可决定级数中只可能含有余弦项或正弦项；（2）半 周期对称，例如奇谐函数，其可决定级数中只可能含有偶次项或奇次项。 2、对称条件： （1）、偶函数：若信号波形相对于纵轴是对称的，即满足 f(t)=f(-t),此时 f(t)是偶函数，偶函数的 Fn 为实数。在偶函 数的傅里叶级数中不会含有正弦项，只可能含有直流项和余弦项。 （2）奇函数：若波形相对于纵坐标是反对称的，即满足 f(t)=-f(-t),此时 f(t)是奇函数，奇函数的 Fn 为虚数。在奇函数 的傅里叶级数中不会含有余弦项，只可能含有正弦项。虽然在奇函数上加以直流成分，它不再是奇函数，但在它的 级数中仍然不会含有余弦项。 （3）寄谐函数：若波形沿时间轴平移半个周期并相对于该轴上下翻转，此时波形并不发生变化，即满足：
n2 1 2
) cos n1t
基波和偶次谐波频率分量。谐波幅度以 1 规律收敛。 n2
其中1
=
2 T1
；其频谱只包含直流、
3.2.5 周期全波余弦信号
1、周期全波余弦信号的傅里叶级数为：
f
(t)
2E
4E 3
cos(1t)
4E 15
cos(21t)
4E 35
cos(31t)
2E
4E
1n 1
第三章 傅里叶变换
傅里叶变换是在傅里叶级数正交函数展开的基础上发展而产生的；
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
px a0 a1 x an xn
4
2020年4月14日
《数值分析》 黄龙主讲
数学模型：对于给定的数据 xi , f xi ， i 0,1, ,m 要在给定的函数空间 Span 0 ,1 , n 中寻找一个函数
n
* x a*00 x a1*1x a*nn x a*i i x i0
i0
i0
m
4
1 ,1
12 xi
x
2 i
1.2
i0
i0
13
2020年4月14日
《数值分析》 黄龙主讲
m
4
0 , f 0 xi f xi yi 13.1
i0
i0
m
4
1 , f 1xi f xi xi yi 6.84
i0
i0
法方程组为 5 2 a 13.1 2 1.2b 6.84
按某种度量标准为最小，这就是曲线拟合问题（函数逼近）。
涉及两方面的内容： ① 误差或残差的度量标准——范数； ② 函数类的选择——函数空间。
2
2020年4月14日
《数值分析》 黄龙主讲
1. 定义范数
残差 i 构成残差向量 0 ,1 , , m ，有三种范数
m
m
1 i xi f xi ，称为 1 范数；
为确定 A 、b ，将 xi , yi 转化为 xi , yi ，数据表如图 根据最小二乘法，取 0 x 1 ，1x x ， x 1
17
2020年4月14日
《数值分析》 黄龙主讲
4
4
0 ,0 i 5 ， 0 ,1 1 ,0 i xi 7.5
i0
i0
4
1 ,1 i xi2 11.875 i0
i0
m
k , f ik xi f xi i0
同样，可得法方程
k 0,1, ,n
a0 k ,0 a1k ,1 an k ,n k , f
0 ,0 0 ,1
1
,
0
1 ,1
n ,0 n ,1
0 ,n a0 0 , f
1 ,n
a1
1
,
f
n ,n
设 i 为反映数据 xi , f xi 比重的权值，
（ i 0 ，可表示数据观测的次数）
要求在函数空间 x 中寻找一个函数 x ，使
m
m
i
2 i
i xi
f
xi 2
i0
i0
为最小，这就是加权最小二乘法。
9
2020年4月14日
《数值分析》 黄龙主讲
若记
m
k , j ik xi j xi
18
2020年4月14日
《数值分析》 黄龙主讲
第3章 函数逼近与快速傅里叶变换
3.4 曲线拟合的最小二乘法
3.4.1 最小二乘法及其计算 曲线拟合： 科学实验中，通过一组实验数据，寻找数据变化规律， 确定函数的近似表达式，求取一条近似曲线。 需要注意：数据较多，存在误差，拟合曲线只能反映总趋势。 与插值法不同： ① 曲线不是严格地通过每个数据点，无需高次多项式插值； ② 曲线反映总的变化规律，去掉了数据所含的测量误差。
法方程组为
8 22
22 a0 74 a1
47 145.5
解得 a0 2.5648 ，a1 1.2037
拟合直线为 S1* x 2.5648 1.2037x
16
2020年4月14日
《数值分析》 黄龙主讲
P75例10 设数据 xi , yi i 0,1由,2,3表,43 -2给出，表中第4行为
③ 用最小二乘解来拟合数据 xi , yi ，i 0,1, ,m 平方误差为
2 * y,* y y, y * ,* 2
11
2020年4月14日
《数值分析》 黄龙主讲
5. 直线拟合的实例
设已知数据点 xi , yi ，i 0,1, ,m ，分布大致为一条直线，
利用最小二乘原理，作拟合直线 y a bx ，
《数值分析》 黄龙主讲
P00例1 已知实验数据 xi 0.0 0.2 0.4 0.6 0.8
yi 0.9 1.9 2.8 3.3 4.2
用最小二乘法求拟合曲线
y。 a bx
解：这里 m 4 ，n 1 ， 0 1 ， 1 x
m
4
0
,
0
2 0
xi
1
5
i0
i0
m
4
0 ,1 1 ,0 0 xi 1xi xi 2
方程组称为正则（或正规）方程组或法方程组，矩阵形式为：
0 ,0 0 ,1
1
,
0
1 ,1
n ,0 n ,1
0 ,n a0 0 , f
1 ,n
a1
1
,
f
n ,n
an
n , f
7
2020年4月14日
《数值分析》 黄龙主讲
注意：法方程组为线性方程组，其系数矩阵为对称矩阵。
1
2020年4月14日
《数值分析》 黄龙主讲
数学描述：对某一未知函数 y f x ,有一组实验数据
xi , f xi ， i 0,1, ,m 在某特定函数类 x 中，寻找一个函数 x 作为 y f x 的近似，
并使两者在 xi 上的误差或残差
i xi f xi ， i 0,1, ,m
使 * x 满足
m
m
2 2
* xi
i0
f
xi
2 min
x i 0
xi
f
xi
2
这种求拟合函数 * x 的方法，称为曲线拟合的最小二乘法。
当确定出拟合参数 a*0 ,a1* , ,a*n ，就可得到拟合函数 * x 。
5
2020年4月14日
《数值分析》 黄龙主讲
当 0 x,1x, ,n x 线性无关时，有唯一解
ai a*i ， i ቤተ መጻሕፍቲ ባይዱ0,1, ,n
相应的拟合函数为
n
* x a*00 x a1*1x a*nn x a*i i x i0 ——这就是满足残差平方和为最小的最小二乘解。
8
2020年4月14日
《数值分析》 黄龙主讲
4. 加权最小二乘法 实际问题中的实验数据并不是等精度、等重要性的。 为了衡量数据的精度和重要性，需对数据加权处理。
，ln可yi以 看yi
出数学模型为
，用y 最a小ebx二乘法确定 及 。 a b
i
0
1
2
3
4
xi 1.00 1.25 1.50 1.75 2.00 yi 5.10 5.79 6.53 7.45 8.46 yi 1.629 1.756 1.876 2.008 2.135
解：将拟合曲线 y aebx 两边取对数得 lny lna bx 若令 y lny ， A lna ，得线性方程 y A bx
i0
i0
max i
i
max i
xi
f xi
，称为 范数；
2
m i0
2 i
1
2
m i0
xi
f
xi
2
1
2
，称为
2
范数。
其中，误差平方和最小的拟合，称为曲线拟合的最小二乘法：
m
m
2
2 2
2 i
xi
f xi
i0
i0
3
2020年4月14日
《数值分析》 黄龙主讲
2. 函数空间
4
4
0 , y i yi 9.404 ， 1 , y i xi yi 14.422
i0
i0
法方程组为 5 7.5 A 9.404
7.5
11.875
b
14.422
解得 A 1.122 ， b 0.505 ，有 a e A 3.071 拟合曲线为 y 3.071e0.505x
这里 m 4 ，n 1，0 1 ，1 x
4
0 ,0 i 8 i0 4
0 ,1 1 ,0 i xi 22 i0
15
2020年4月14日
《数值分析》 黄龙主讲
4
1 ,1 i xi2 74 i0 4
0 , f i yi 47 i0
4
1 , f i xi fi 145.5 i0
该直线不是通过所有数据点 xi , yi ，而是使残差平方和为最小：
m
yi a bxi 2
i0
确定直线参数 a 、 b ，取 0 1 、1 x ，法方程组为
m
1
m
xi
a
m yi
i0 m
i0
xi
i0 m i0
xi2
b
i0 m
xi
i0
yi
12
2020年4月14日
解得 a 1.02 ， b 4 拟合直线为 y 1.02 4x
14
2020年4月14日
《数值分析》 黄龙主讲
P75例9 已知一组实验数据如表3-1，求它的拟合曲线。
xi
1
2
3
4
5
fi
4
4.5
6
8
8.5
i
2
1
3
1
1
解：将所给数据在坐标纸上标出，可看到各点在一条直线附近，
故可选择线性函数作拟合曲线，令 S1 x a0 a1 x
具有确定关系的函数集合，称为函数空间。
假设 i x ，i 0,1, ,n 是一组线性无关的给定函数， x 表示由 0 ,1 , ,n 组成的函数空间， x 表示为
x a00 x a11x ann x
则 0 ,1 , ,n 称为空间 的一组基，记为