最佳平方逼近
3_最佳平方逼近问题
( 0 , * f ) 0 * ( 1 , f ) 0 ( , * f ) 0 n
yfnie@
5
几何意义
平方逼近误差
f
*
* *
2 2
( f , f )
* *
*
( , ) 2 ( , f ) ( f , f )
yfnie@
8
基于正交基的最佳平方逼近（续）
( 0 , f ) ( 1 , f ) ( n , f ) * C , , , ( , ) ( , ) ( n , n ) 0 0 1 1
*
T
( 0 , f ) ( 0 , 0 )
)
3
0
平方误差计算
直接计算：
b a
* 2x a b sin x 2 ( ) dx ba
2 1
2
间接计算：
ab ba ba * 1 sin( 2 t 2 ) 2 ( t ) dt 2
yfnie@ 16
求 (x ) c 0 0 c 1 1 c n n , 使 得
* * * *
n n n n * * f c i i , f c i i min f c i i , f c i i . i0 i0 ci R i0 i0
c0 ( f , 0 ) c1 ( f ,1 ) cn ( f , n )
即 { i } i 0 是线性空间
的一组正交基。
T
最佳平方逼近的误差
最佳平方逼近的误差
最佳平方逼近是一种数学方法，用于逼近一个函数或数据集。
这种方法通过选择一个简单的函数（如多项式）来逼近目标函数或数据集，使得逼近误差的平方和最小。
最佳平方逼近的误差是指逼近函数与目标函数之间的误差。
这个误差可以通过最小化逼近误差的平方和来获得。
具体来说，对于一个给定的数据集，我们可以选择一个多项式函数来逼近它。
然后，我们可以通过最小化逼近函数与数据集之间的平方误差来找到最佳的逼近多项式。
最佳平方逼近的误差可以通过以下步骤计算：
确定逼近函数的形式，例如多项式函数。
确定逼近函数的系数，使得逼近函数能够最佳地逼近目标函数或数据集。
计算逼近函数与目标函数或数据集之间的平方误差。
最小化平方误差，以获得最佳的逼近效果。
最佳平方逼近的误差通常是一个衡量逼近效果好坏的指标。
如果误差较小，则说明逼近效果较好；如果误差较大，则说明逼近效果较差。
在实际应用中，我们通常会选择一个合适的逼近函数和系数，以使得逼近误差最小化。
最佳平方逼近
n
因为 f p*, p * p cj c j f p*, j 0 及
j0
( p * p, p * p) 0, 故 ( f p, f p) ( f p*, f p*).
2 则 f (x) 1 1 t g(t), 1 x 1
2 先求g(t)在区间 [-1,1] 旳一次最佳平方逼近多项式.
由
c0 *
1 2
(g,
L0 )
1 2
1 1
1 2
1 tdt 2 , 3
c1
3 2
(g,
L1 )
3 2
1 1
t 2
1 tdt 2 . 5
可知
2
2
22
q1(t) 3 L0 (x) 5 L1(x) 3 5 t,
例6 定义内积 ( f , g)
1
f (x)g(x)dx
0
试在H1=Span{1,x}中谋求对于f(x)= x 旳最佳平方逼近
元素p(x).
解 法方程为
1 12
1 2
13
c0
c1
2 2
3 5
解得
c0
4, 15
c1
4 5
所求的最佳平方逼近元素为 p(x) 4 4 x. 0 x 1 15 5
(n
,n
)
cn*
( f ,n )
因为 0x,1x, , nx 线性无关, 能够推得上系数阵是
非奇异旳. 故 (5. 82) 有唯一解 { c*j }.
四、最佳平方逼近旳误差
记 ( f p*, f p*), 称其为最佳平方逼近误差, 利用
第二章最佳平方逼近
第二章 最佳平方逼近为了便于计算和分析，常常需要用一个简单的函数()x ϕ来近似代替给定的函数()f x ，这类问题称为函数逼近问题。
插值问题以及Taylor 展开问题都属于这类问题。
本章介绍另一种函数逼近问题，即最佳平方逼近。
最佳平方逼近问题的提法是：设()f x 是[],a b 上的连续函数，n H 是所有次数不超过n 的多项式的集合，在n H 中求()n P x *逼近()f x ，使()()()()()1/2222infnb n naP x H f Px f x P x dx f Pρ**∈⎡⎤-=-=-⎣⎦⎰此时称()n P x *为()f x 在[],a b 上的最佳平方逼近多项式。
我们将要研究()n P x *是否存在？是否唯一？如何求得()n P x *？首先介绍正交多项式及其性质。
§1、正交多项式正交多项式是函数逼近的重要工具，在数值积分中也有广泛的应用。
1.1正交函数系的概念定义1 设()x ρ定义在[],a b 上（有限或无限），如果满足条件：（1）()[]0,,x x a b ρ≥∈； （2）()()0,1,bnax x dx n ρ=⎰存在；（3）对非负连续函数()f x ，若()()0ba f x x dx ρ=⎰，则在[],a b 上一定有()0f x ≡那么称()x ρ是区间[],a b 上的权函数。
简称为权函数。
权函数()x ρ的一种解释是物理上的密度函数，相应的()bax dx ρ⎰表示总质量。
当()x ρ=常数时，表示质量分布是均匀的。
下面引进内积定义。
定义2 给定()[]()(),,,,f x g x C a b x ρ∈是[],a b 上的权函数，称 ()()(),()ba f g x f x g x dx ρ=⎰ ()1.1为函数()f x 与()g x 在[],a b 上的内积。
内积具有下列简单性质： ()f g g f （1）、（，）=，；()()()1212,)(,00.f g f g R f f g f g f g f f f ααα∈++≠>（2）、（，）=，；（3）、 （，）=（4）、 当时，， 此外，还有如下Cauchy-Schwarz 不等式()()()2,,,.f g f f g g ≤⋅ ()1.2我们知道，一个向量的长度的几何概念，对于函数空间及逼近有许多自然的应用。
最佳平方逼近原理
最佳平方逼近原理
最佳平方逼近原理（Least Squares Principle）是一种常用的数学方法，用于从一组数据中找到最佳的拟合曲线或函数。
该方法的基本思想是，通过最小化数据点到拟合曲线的垂直距离平方和来确定最佳的拟合曲线。
这种距离的平方和被称为残差平方和（residual sum of squares）。
在统计学和数学建模中，最佳平方逼近原理被广泛应用。
它可以用于拟合线性回归模型、多项式拟合、曲线拟合等问题。
通过使用最小二乘法（least squares method），可以计算出最佳拟合曲线或函数的参数，并对其进行优化。
最佳平方逼近原理的优点在于它能够提供一个简单而有效的方法来处理数据拟合问题。
它能够使我们得到一个与数据拟合最好的函数或曲线，并且具有较高的精度和可靠性。
然而，它也有一些限制，例如对于非线性问题，它可能无法提供最优解，需要使用其他方法来解决。
第三章-2-最佳平方逼近
性质 5 设 k k 0是 [a, b] 上带权 (x) 的正交多项式
族，则n(x) (n>0) 有n个单重实根，且都位于 区间[a, b] 内。
几类重要的正交多项式 Legendre 多项式 Chebyshev 多项式
第二类 Chebyshev 多项式
Laguerre 多项式 Hermite 多项式
Chebyshev 多项式
切比雪夫多项式的性质：
(1) 递推公式： Tn1 ( x ) 2 xTn ( x ) Tn1 ( x )
cos(n+1) + cos(n-1) = 2cos cosn x = cos
mn 0, 1 T ( x )T ( x ) n m (Tn , Tm ) dx π / 2, m n 0 (2) 正交性： 2 1 1 x π, mn0 n T ( x ) ( 1) Tn ( x) (3) 奇偶性： n
性质1 性质2
n ( x)
为首一 n 次多项式。 [a, b] 上带权 (x) 的正交多
是 k k 0
项式族，且
H n span 0 ,1,...,n
性质 3 正交。
n ( x) 与所有次数不高于n-1次的多项式
正交多项式性质
性质 4
此 k k 0 满足如下三项递推公式：
数值分析及计算软件
第三章
函数逼近与计算
3.3 最 佳 平 方 逼 近 及正交多项式
最佳平方逼近问题：
若存在 Pn* ( x )H n , 使得
|| f ( x) Pn ( x) ||2 inf || f ( x) Pn ( x) ||2 ,
3.3 最佳平方逼近
Байду номын сангаас
b
a
g ( x) ( x)dx 0
称满足上述条件的 (x)为[a, b]上的权函数。
5、Euclid范数及其性质
定义
设
f x C a, b ,
则称量
f
2
f x
b a
x f
2
x dx
f, f
称为
的Euclid范数。
性质
对于任何 下列结论成立： f, g C a, b ,
§3.3 最佳平方逼近
一、内积空间
1、定义
X对
（1） （2） （3） （4）
X设
为(实)线性空间,
在 X
上定义了内积是指
中每一对元素 ,
x, y
都有一实数，记为x, 与之对应， y
且这个对应满足:
x, x 0, x 0 x, x 0; x, y y, x , x, y X ; x, y x, y , x, y X ; R; x y, z x, z y, z , x, y, z X ;
a
b
f ( x), g ( x) C[a, b]
4、权函数的定义
设 (x)定义在有限或无限区间[a, b]上，如果具有下列性质：
(1) 对任意x [a, b]， (x) ≥0；
(2) 积分
b
a
x (存在， x)dx (n = 0, 1, 2, …)；
n
(3) 对非负的连续函数g (x) 若 则在(a, b)上g (x) 0。
x, y x
最佳平方逼近
(1,1) (2,1) L
A
(1,2
)
(2,2 )
L
L
LL
(1,m ) (2,m ) L
(m,1)
(m
,2
)
L
(m
,
m
)
称为函数1(x)，.....，m (x)的Gram矩阵，
A显然是对称矩阵。
若1(x)，.....，m (x)线性无关，则它们
0
3
(ex ,1) 2 ex 1dx e2 1 0
(ex , x) 2 ex xdx e2 1 0
法方程组为
2a0
2a0
2a1 8 3 a1
e2 1 e2 1
a0=0.1945 , a1=3.0000
最佳平方逼近一次多项式为 0.1945+3.0000x
8 7 6 5 4 3 2 1 0
b w(x) f (x) g(x)2 dx a
函数f (x)和g(x)正交
b
( f , g) a w(x) f (x)g(x)dx 0
设次数不超过n的多项式空间为n ,显然 是C[a, b]的一个子空间，
n的基为1, x,..., xn ,则，p(x) a0 a1x ... anxn n 是f (x)在n的最佳逼近元的充分必要条件为
a0 (1,1) a1(x,1) ... an (xn ,1) ( f ,1)
a0 (1, x) a1(x, x) ... an (xn , x) ( f , x)
a0 (1, xn ) a1(x, xn ) ... an (xn , xn ) ( f , xn )
求解法方程组，得到a0，a1，...，an
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
正规方程组一般为病态方程组，当维数 较高时，病态严重，求解困难。 可以采取选择不同的基的方式，来改变 正规方程组的性态。 我们考虑最佳平方逼近多项式，采用正 交多项式做基函数。
2
b
a
函数f ( x)和g ( x)正交 ( f , g ) w( x) f ( x) g ( x)dx 0
a b
设次数不超过n的多项式空间为 n , 显然 是C[a, b]的一个子空间，
n的基为1, x,..., x n , 则，p( x) a0 a1 x ... an x n n 是f ( x)在 n的最佳逼近元的充分必要条件为
否则，就线性无关。 区间[a,b]上c11 ( x) .... cm m ( x) 0成立 就一定有c1 ... cm 0
假定1 ( x),....m ( x)是子空间S的基， 若函数g是最佳逼近元，则
( f g , 1 ( x)) 0,( f g , 2 ( x)) 0 ...., f g , m ( x)) 0 (
w( x) C[a, b]，w( x) 0，x [a, b] 称w( x)为权函数。
连续函数空间C[a, b]，给定权函数w( x) 对于f , g C[a, b]
最佳平方逼近多项式
给定函数f ( x) C[a, b], 求次数不超过n的 多项式p( x)，使得
b
a
w( x)( f ( x) p( x)) dx min
简记为Ax=b
求解这个方程，就能得到a， ，am， .....
从而得到f ( x)在子空间S中的最佳平方 逼近元g ( x) a11 ( x) ..... amm ( x)
(1 , 1 ) ( 2 , 1 ) ( , ) ( , ) 2 2 A 1 2 (1 , m ) ( 2 , m )
2
0
( x,sin x) x sin xdx 1,
2
0
2 a 8 b 1 法方程组为 2 3 8 a 24 b 1
2
a= 0.1148,b=0.6644, 这时，所求积分取最小值。
1.4
1.2
1
0.8
0.6
0.4
0.2
0
0
0.5
1
b a
..................... ( f p, x ) w( x) f ( x) (a0 a1 x ... an x n ) x n dx 0
n b a
这些方程称为法方程
a0 w( x)11dx a1 w( x) x 1dx ... an w( x) x n 1dx
这些方程称为法方程
(1 , 1 ) ( 2 , 1 ) ( , ) ( , ) 2 2 1 2 (1 , m ) ( 2 , m )
( m , 1 ) a1 ( f , 1 ) a ( f , ) ( m , 2 ) 2 2 ( m , m ) am ( f , m )
a0=1.8846 , a1=7.4880x, a2=7.4880
所以，最佳平方逼近二次多项式为 p(x)=1.8846 -7.4880x+7.4880x2
2 1.8 1.6 1.4 1.2 1 0.8 0.6 0.4 0.2 0
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
例题：求a, b, 使得 (a+bx-sinx)2dx达到最小。
n n n n n
求解法方程组，得到a0，a1，，an ...
从而，f ( x)的最佳平方逼近n次多项式为 p( x) a0 a1 x ... 0,2]的最佳
x
平方逼近一次多项式。
解：取一次多项式空间的基为 x, 权函数w( x) 1 1,
( f p,1) 0,( f p, x) 0,...,( f p, x ) 0
n
( f p,1) w( x) f ( x) (a0 a1 x ... an x n ) 1dx 0
b a
( f p, x) w( x) f ( x) (a0 a1x ... an x n ) xdx 0
1 (1,1) 11dx 1, (1, x) 1 xdx 0 0 2
1 1
1 1 1 (1, x ) 1 x dx , ( x, x) x xdx 0 0 3 3 1 1 1 2 2 1 2 2 2 2 ( x, x ) x x dx , ( x , x ) x x dx 0 0 4 5 1 2 (1,sin( x)) 1 sin( x)dx 0 1 1 ( x,sin( x)) x sin( x) dx , 0 2 1 2
(1,1) 11dx 2,
0
2
(1, x) 1 xdx 2,
0
2
2
( x, x )
x
0
8 x xdx , 3
x 2
(e ,1) e 1dx e 1
0
2
(e , x) e xdx e 1
x x 2 0
2
2a0 2a1 e 1 法方程组为 8 2 2a0 a1 e 1 3
2
p(x)称为函数f(x)的最佳平方逼近 n次多项式
其中w(x)为权函数，默认值为 w(x)=1 考虑空间C[a,b], 是一个线性空间， 其维数是无限维的。 次数不超过n 的多项式构成 C[a,b] 的n+1维子空间。 可以利用有限维子空间上的逼近定 理来研究最佳平方逼近问题。
连续函数的内积
定义内积： ( f , g ) w( x) f ( x) g ( x)dx
2 2 ( x 2 ,sin( x)) x 2 sin( x)dx , 3 0
1
a0 1 a1 1 a2 2 2 3 1 1 法方程组为 2 a0 1 a1 1 a2 3 4 1 2 2 1 1 3 a0 4 a1 5 a2 3
2
a0=0.1945 ,
a1=3.0000
最佳平方逼近一次多项式为 0.1945+3.0000x
8 7 6 5 4 3 2 1 0
0
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
例题：求f ( x) sin( x)在[0,1]的最佳 平方逼近二次多项式。
解：取二次多项式空间的基为 x, x2 ,权函数w( x) 1 1,
可设g ( x) a11 ( x) ..... amm ( x), 则
( f (a11 ( x) ..... amm ( x)), 1 ( x)) 0
( f (a11 ( x) ..... amm ( x)), 2 ( x)) 0
.......... ( f (a11 ( x) ..... amm ( x)), m ( x)) 0
a b
容易验证满足内积定义的4条性质
由此导出的函数f ( x)的范数： || f || ( f , f )
b
a
w( x) f 2 ( x)dx
两个函数f ( x)与g ( x)的距离
dist ( f , g ) || f g || ( f g , f g ) w( x) f ( x) g ( x) dx
( m , 1 ) ( m , 2 ) ( m , m )
称为函数1 ( x)， ，m ( x)的Gram矩阵， ..... A显然是对称矩阵。
若1 ( x)， ，m ( x)线性无关，则它们 ..... 的Gram矩阵正定。
2
0
解：实际上求sinx在区间[0, ]的最佳平方逼近 2 一次多项式。
取二次多项式空间的基为 x, 权函数w( x) 1 1,
(1,1) 11dx 2 ,(1, x) 1 xdx
2
2
2
8
0
( x, x) x xdx
2
0
3
24
0
(1,sin x) 1 sin xdx 1
1.5
最佳平方逼近问题的一般提法
给定函数f ( x) C[a, b], S C[a, b]是C[a, b] 中的有限维子空间，求g ( x) S , 使得
b
a
w( x)( f ( x) p( x))2 dx min
首先要找子空间S的基1 ( x),....m ( x)
1 ( x),....m ( x)要满足两条：
（）1 ( x),....m ( x)在给定区间[a,b]线性无关： 1
（2）1 ( x),....m ( x)的个数等于S的维数
函数在给定区间线性无关的定义
若存在不全为零的c1， ，cm，使得在区间[a,b] .... c11 ( x) .... cm m ( x) 0 称1 ( x),.... m ( x)线性相关，
a a a
b
b
b
w( x) f ( x) 1dx
a
b
a0 (1,1) a1 ( x,1) ... an ( x ,1) ( f ,1)