63 最佳平方逼近PPT课件
合集下载
3_最佳平方逼近问题
( 0 , * f ) 0 * ( 1 , f ) 0 ( , * f ) 0 n
yfnie@
5
几何意义
平方逼近误差
f
*
* *
2 2
( f , f )
* *
*
( , ) 2 ( , f ) ( f , f )
yfnie@
8
基于正交基的最佳平方逼近（续）
( 0 , f ) ( 1 , f ) ( n , f ) * C , , , ( , ) ( , ) ( n , n ) 0 0 1 1
*
T
( 0 , f ) ( 0 , 0 )
)
3
0
平方误差计算
直接计算：
b a
* 2x a b sin x 2 ( ) dx ba
2 1
2
间接计算：
ab ba ba * 1 sin( 2 t 2 ) 2 ( t ) dt 2
yfnie@ 16
求 (x ) c 0 0 c 1 1 c n n , 使 得
* * * *
n n n n * * f c i i , f c i i min f c i i , f c i i . i0 i0 ci R i0 i0
c0 ( f , 0 ) c1 ( f ,1 ) cn ( f , n )
即 { i } i 0 是线性空间
的一组正交基。
T
最佳平方逼近
( f p*, f p*) 2( f p*, p * p) ( p * p, p * p)
n
因为 f p*, p * p cj c j f p*, j 0 及
j0
( p * p, p * p) 0, 故 ( f p, f p) ( f p*, f p*).
2 则 f (x) 1 1 t g(t), 1 x 1
2 先求g(t)在区间 [-1,1] 旳一次最佳平方逼近多项式.
由
c0 *
1 2
(g,
L0 )
1 2
1 1
1 2
1 tdt 2 , 3
c1
3 2
(g,
L1 )
3 2
1 1
t 2
1 tdt 2 . 5
可知
2
2
22
q1(t) 3 L0 (x) 5 L1(x) 3 5 t,
例6 定义内积 ( f , g)
1
f (x)g(x)dx
0
试在H1=Span{1,x}中谋求对于f(x)= x 旳最佳平方逼近
元素p(x).
解 法方程为
1 12
1 2
13
c0
c1
2 2
3 5
解得
c0
4, 15
c1
4 5
所求的最佳平方逼近元素为 p(x) 4 4 x. 0 x 1 15 5
(n
,n
)
cn*
( f ,n )
因为 0x,1x, , nx 线性无关, 能够推得上系数阵是
非奇异旳. 故 (5. 82) 有唯一解 { c*j }.
四、最佳平方逼近旳误差
记 ( f p*, f p*), 称其为最佳平方逼近误差, 利用
n
因为 f p*, p * p cj c j f p*, j 0 及
j0
( p * p, p * p) 0, 故 ( f p, f p) ( f p*, f p*).
2 则 f (x) 1 1 t g(t), 1 x 1
2 先求g(t)在区间 [-1,1] 旳一次最佳平方逼近多项式.
由
c0 *
1 2
(g,
L0 )
1 2
1 1
1 2
1 tdt 2 , 3
c1
3 2
(g,
L1 )
3 2
1 1
t 2
1 tdt 2 . 5
可知
2
2
22
q1(t) 3 L0 (x) 5 L1(x) 3 5 t,
例6 定义内积 ( f , g)
1
f (x)g(x)dx
0
试在H1=Span{1,x}中谋求对于f(x)= x 旳最佳平方逼近
元素p(x).
解 法方程为
1 12
1 2
13
c0
c1
2 2
3 5
解得
c0
4, 15
c1
4 5
所求的最佳平方逼近元素为 p(x) 4 4 x. 0 x 1 15 5
(n
,n
)
cn*
( f ,n )
因为 0x,1x, , nx 线性无关, 能够推得上系数阵是
非奇异旳. 故 (5. 82) 有唯一解 { c*j }.
四、最佳平方逼近旳误差
记 ( f p*, f p*), 称其为最佳平方逼近误差, 利用
最佳平方逼近
正规方程组一般为病态方程组，当维数 较高时，病态严重，求解困难。 可以采取选择不同的基的方式，来改变 正规方程组的性态。 我们考虑最佳平方逼近多项式，采用正 交多项式做基函数。
2
b
a
函数f ( x)和g ( x)正交 ( f , g ) w( x) f ( x) g ( x)dx 0
a b
设次数不超过n的多项式空间为 n , 显然 是C[a, b]的一个子空间，
n的基为1, x,..., x n , 则，p( x) a0 a1 x ... an x n n 是f ( x)在 n的最佳逼近元的充分必要条件为
否则，就线性无关。 区间[a,b]上c11 ( x) .... cm m ( x) 0成立 就一定有c1 ... cm 0
假定1 ( x),....m ( x)是子空间S的基， 若函数g是最佳逼近元，则
( f g , 1 ( x)) 0,( f g , 2 ( x)) 0 ...., f g , m ( x)) 0 (
w( x) C[a, b]，w( x) 0，x [a, b] 称w( x)为权函数。
连续函数空间C[a, b]，给定权函数w( x) 对于f , g C[a, b]
最佳平方逼近多项式
给定函数f ( x) C[a, b], 求次数不超过n的 多项式p( x)，使得
b
a
w( x)( f ( x) p( x)) dx min
简记为Ax=b
求解这个方程，就能得到a， ，am， .....
从而得到f ( x)在子空间S中的最佳平方 逼近元g ( x) a11 ( x) ..... amm ( x)
最佳平方逼近
逼近元g(x) a11(x) ..... amm(x)
(1,1) (2,1) L
A
(1,2
)
(2,2 )
L
L
LL
(1,m ) (2,m ) L
(m,1)
(m
,2
)
L
(m
,
m
)
称为函数1(x)，.....，m (x)的Gram矩阵，
A显然是对称矩阵。
若1(x)，.....，m (x)线性无关，则它们
0
3
(ex ,1) 2 ex 1dx e2 1 0
(ex , x) 2 ex xdx e2 1 0
法方程组为
2a0
2a0
2a1 8 3 a1
e2 1 e2 1
a0=0.1945 , a1=3.0000
最佳平方逼近一次多项式为 0.1945+3.0000x
8 7 6 5 4 3 2 1 0
b w(x) f (x) g(x)2 dx a
函数f (x)和g(x)正交
b
( f , g) a w(x) f (x)g(x)dx 0
设次数不超过n的多项式空间为n ,显然 是C[a, b]的一个子空间，
n的基为1, x,..., xn ,则，p(x) a0 a1x ... anxn n 是f (x)在n的最佳逼近元的充分必要条件为
a0 (1,1) a1(x,1) ... an (xn ,1) ( f ,1)
a0 (1, x) a1(x, x) ... an (xn , x) ( f , x)
a0 (1, xn ) a1(x, xn ) ... an (xn , xn ) ( f , xn )
求解法方程组，得到a0，a1，...，an
(1,1) (2,1) L
A
(1,2
)
(2,2 )
L
L
LL
(1,m ) (2,m ) L
(m,1)
(m
,2
)
L
(m
,
m
)
称为函数1(x)，.....，m (x)的Gram矩阵，
A显然是对称矩阵。
若1(x)，.....，m (x)线性无关，则它们
0
3
(ex ,1) 2 ex 1dx e2 1 0
(ex , x) 2 ex xdx e2 1 0
法方程组为
2a0
2a0
2a1 8 3 a1
e2 1 e2 1
a0=0.1945 , a1=3.0000
最佳平方逼近一次多项式为 0.1945+3.0000x
8 7 6 5 4 3 2 1 0
b w(x) f (x) g(x)2 dx a
函数f (x)和g(x)正交
b
( f , g) a w(x) f (x)g(x)dx 0
设次数不超过n的多项式空间为n ,显然 是C[a, b]的一个子空间，
n的基为1, x,..., xn ,则，p(x) a0 a1x ... anxn n 是f (x)在n的最佳逼近元的充分必要条件为
a0 (1,1) a1(x,1) ... an (xn ,1) ( f ,1)
a0 (1, x) a1(x, x) ... an (xn , x) ( f , x)
a0 (1, xn ) a1(x, xn ) ... an (xn , xn ) ( f , xn )
求解法方程组，得到a0，a1，...，an
第二章最佳平方逼近.ppt
,
g
* n
),
n
(
gn*
,
g
* n
)
/(
g* n1
,
g* n1
).
证明 由于 xgn*(x) 是 n 1 次多项式，因此可由 g0*(x), g1*(x),
,
g* n1
(x)
线性表出，即存在C0,C1, , 使 Cn1
xgn (x)=C0g0(x)+C1g1(x)+ +Cn+1gn+1(x) (1.11)
是 n 2 次多项式，由正交多项式的定义有
b a
(x)gn*
(x)
gn* (x) (x x1)2
dx
0
另一方面却有
b a
(
x)
g
* n
(
x)
(
g
* n
(
x)
x x1)2
dx
b
(
x)(
g
* n
(
x)
)
2
dx
0
a
x x1
二、最佳平方逼近问题
最佳平方逼近问题的提法是：设 f x是 a,b 上的连续函数，
H5(x)=32 x5-160 x3+120x
是在区间 (,)上带权ex2的n次正交多项式,且有正交关系式:
e
x2
H
m
(
x)
H
k
(x)dx
0, k 2n n!
m
,k
m
（二）、 正交多项式的性质
设
gk
(x)
是在
[a,b]上带权正交的多项式序列，其中
g n
(x)
最佳平方逼近
所求的
应该使下式达极小：
由
整理得到
计算积分后，得法方程组
解之得 从而得到最佳平方逼近一次多项式
三、正交基函数的选择 如果我们选择子空间
正交，即 则法方程
简化为
即 容易求得 并得到最佳平方逼近
例3.2. 已知
在区间 [-1，1]上两两正交，试求
在这个
区间上的最佳平方逼近二次多项式，并给出误差估计。
应该使
整体达最小。 通过这种度量标准求得拟合曲线y=f(x)的方法，
就称作曲线拟合的最小二乘法。 按照以上思想来求出f(x)的拟合曲线，首先需
要确定出f(x)所属的函数类，然后进一步求出具体 函数，具体按照以下步骤进行。
二、最小二乘法拟合曲线的步骤
第一步：根据如下已知点的坐标，在坐标系里描点
第二步：根据图示，确定曲线所属的函数类型，例 如多项式函数类、三角函数类、指数函数 类、对数函数类等。假设所确定的函数类 的基函数为
而n+1元函数
在区间
上具有一阶连续导函数，因此根据
极值原理，在最小值点
处：
而 于是 即
利用内积 可以得到 这是一个含有n+1个变量的方程组，具体形式为：
再写成 矩阵形式为
这是关于n+1个变量
的线性方程组，并称
其为法方程组，或者正规方程组。
解此方程组，就可以得到 了f(x) 的最佳平方逼近：
，也就得到
同时，还需要给出连续函数
空间上的一个度量标准，下面通过内积给出平方范数。
二、连续函数的平方范数
已知所有连续函数构成的集合C[a,b]是一个线性
空间，对于C[a,b]中的任意函数
、 ，定义
实数
计算方法 第五章第二节最佳平方逼近
b n
n
2
i 0
a
i 0
上述方程组称为正规方程组。也可以写为
( p, j ) ( f , j )，j 0,1,..., n.
由于0 ( x), 1 ( x),..., n ( x) 线性无关，由性质5.2.3，该方程组 的系数矩阵非奇异，因而方程组存在惟一解。
可以证明，最佳平方问题的解存在惟一且就是正规方程组的解。
b
j i,
j i,
则称多项式族 {g n ( x)} 在[a, b] 上带权 ( x) 正交，并称 g n ( x)是[a, b] 上带权 ( x)的 n 次正交多项式。
一般情况下，当权函数 ( x)及区间[a, b] 给定后，人们 可通过Gram－Schmidt正交化过程，由{1, x,..., x n }构造 出相应的正交多项式。
2
的最小值。
由多元函数取极值的必要条件 S 0,
a j
j 0,1,..., n,
得
n aii ( x) f ( x) j ( x)dx 0， j 0,1,..., n. a ( x) i 0
b
于是有
)，j 0,1,..., n. ( , ) a ( f , S (a0 , ai1 ,...,jan ) :i ( x) j aii ( x) f ( x) dx
2
2
2
2
f g f g 2 f g
2
2
2
2
,
f , g Y.
二、 函数的最佳平方逼近
已知函数 f ( x) C[a,b] 及C[a,b]中的一个子集 span{0 , 1 ,..., n }，如果 p( x) span{0 , 1,..., n}，使得
n
2
i 0
a
i 0
上述方程组称为正规方程组。也可以写为
( p, j ) ( f , j )，j 0,1,..., n.
由于0 ( x), 1 ( x),..., n ( x) 线性无关，由性质5.2.3，该方程组 的系数矩阵非奇异，因而方程组存在惟一解。
可以证明，最佳平方问题的解存在惟一且就是正规方程组的解。
b
j i,
j i,
则称多项式族 {g n ( x)} 在[a, b] 上带权 ( x) 正交，并称 g n ( x)是[a, b] 上带权 ( x)的 n 次正交多项式。
一般情况下，当权函数 ( x)及区间[a, b] 给定后，人们 可通过Gram－Schmidt正交化过程，由{1, x,..., x n }构造 出相应的正交多项式。
2
的最小值。
由多元函数取极值的必要条件 S 0,
a j
j 0,1,..., n,
得
n aii ( x) f ( x) j ( x)dx 0， j 0,1,..., n. a ( x) i 0
b
于是有
)，j 0,1,..., n. ( , ) a ( f , S (a0 , ai1 ,...,jan ) :i ( x) j aii ( x) f ( x) dx
2
2
2
2
f g f g 2 f g
2
2
2
2
,
f , g Y.
二、 函数的最佳平方逼近
已知函数 f ( x) C[a,b] 及C[a,b]中的一个子集 span{0 , 1 ,..., n }，如果 p( x) span{0 , 1,..., n}，使得
最佳平方逼近
(f q ,q p ) (f p ,q p ) 0 , 故 ( p q ,p q ) ( p f f q ,p q )
( p f,p q ) ( f q ,p q ) 0
这说明, p(x) q(x) 于 [a, b].
9
三、最佳平方逼近函数的求解
利用 ( f p*, j )=0, 可求出最佳平方逼近函数 p*. 设
(x) 最佳平方逼近的函数 ( f p*, j )=0, j=0,1,…,n. 其中, {0x,1x, , nx}为子空间 Hn 的一组基.
证: () 反证法, 设有函数 kx, 使得 ( f p*, k) k 0 , 令 q(x) p*(x) kx k /(k, k), 显然, q(x)Hn . 利用内
积的性质, 可得
(f q ,f q ) (f p * ,f p * ) (2 k ,k k )(f p * ,k ) ( k 2 ( k ,k ,k ) k 2 )
(fp * ,fp * )( k,k 2k)(fp * ,fp * )
k
这说明, p*(x) 不是对 f (x) 最佳平方逼近的函数, 矛盾.
7
() 若 ( f p*, j )=0, j=0,1,…,n 成立, 对任意的 p(x)Hn ,有
( f p , f p ) ( f p * p * p , f p * p * p )
( f p * , f p * ) 2 ( f p * , p * p ) ( p * p , p * p )
(0,1) (1,1)
((10,,nn))cc10**((ff,,10))
(n,0) (n,1) (n,n)cn* (f,n)
由于 0x,1x, , nx 线性无关, 可以推得上系数阵是
( p f,p q ) ( f q ,p q ) 0
这说明, p(x) q(x) 于 [a, b].
9
三、最佳平方逼近函数的求解
利用 ( f p*, j )=0, 可求出最佳平方逼近函数 p*. 设
(x) 最佳平方逼近的函数 ( f p*, j )=0, j=0,1,…,n. 其中, {0x,1x, , nx}为子空间 Hn 的一组基.
证: () 反证法, 设有函数 kx, 使得 ( f p*, k) k 0 , 令 q(x) p*(x) kx k /(k, k), 显然, q(x)Hn . 利用内
积的性质, 可得
(f q ,f q ) (f p * ,f p * ) (2 k ,k k )(f p * ,k ) ( k 2 ( k ,k ,k ) k 2 )
(fp * ,fp * )( k,k 2k)(fp * ,fp * )
k
这说明, p*(x) 不是对 f (x) 最佳平方逼近的函数, 矛盾.
7
() 若 ( f p*, j )=0, j=0,1,…,n 成立, 对任意的 p(x)Hn ,有
( f p , f p ) ( f p * p * p , f p * p * p )
( f p * , f p * ) 2 ( f p * , p * p ) ( p * p , p * p )
(0,1) (1,1)
((10,,nn))cc10**((ff,,10))
(n,0) (n,1) (n,n)cn* (f,n)
由于 0x,1x, , nx 线性无关, 可以推得上系数阵是
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
（维尔斯特拉斯定理）
定义 设0(x),1(x), n(x)在[a,b]上连续, 6.如 3.2果 最佳平方逼近
当且 设a仅 0 0(0当 x)(x ,a1 )(0x ) a,a1, 1n 1((xx)) 是[aan,时 ba]成 上n线立 n(性x,)则 无称 关0 的连续函数
a0,0a(1x,)…,,1a(xn )是, 任意n(实x)数在，[a则,b]上是线性无关的. S ( x ) a 00 ( x ) a 1 1 ( x ) a nn ( x )
Gn Gn (0 , 1, , n )
(0 , 0 ) (0 , 1) (0 , n )
(1,
0 ) (1, 1)
(1, n )
(n , 0 ) (n , 1) (n , n )
定理6.11 对于任意的函数 f C[a,b],
在 中有唯一的最佳平方逼近的充要条件是：
0(x ) ,1(x ) ,n (x )G,ram 行列式不等于零
使对一切a ≤x ≤b 有
fx P x su pfx P x x a ,b
成立
最佳一致逼近
f(x)C[a,b] 若存在一个 pn*(x) ，使得
in f fx p n * x p n x H nfx p n x E n (f)
其中，表H 示n 由所有次数不超过n的代数多项式
构成的线性空间。
则称 pn*(x) 是函数 f(x)C[a,b]的最佳一致逼近
多项式
➢最常用的度量标准有两种：
1、一致逼近（均匀逼近） 以
d (f,p )fx P x s u p fx P x x a ,b
作为度量误差f(x)- P(x) 的“大小” 标准。
2、平方逼近（均方逼近） 以
分析
基函 数
有限 维
对于连续函数空间 C[a,b] 中的元素 f(x) 及其子空间
sp {0 ( a x ), 1 n ( x ) ,,n ( x )}
所谓 f(x) 在Φ 中的最佳平方逼近，就是存在
p n (x ) c 0 0 c 1 1 c n n
使得对于一切
广义多
项式
的全体是C[a, b]的一个子集，记为
n Sp { 0,a 1 ,n ,n }
并称 0(x) ,1(x) ,,n(x)是生成集合的一个基底。
定义6.13 (最佳平方逼近函数)
设 0(x ) ,1(x ) ,n (x )是,C[a , b]中的线性无关函数,
记 span{0,1,, ,n,}
n
{p(x): p(x) akk(x),ak R} k0
➢函数类 A通常是区间 [a,b] 上的连续函数，记作C[a,b] ；
函数类 B 通常是代数多项式，有理多项式，三角多 项式，分段多项式等容易计算的函数。Βιβλιοθήκη 定理 6.1（维尔斯特拉斯定理）
若f (x)是区间[a, b]上的连续函数，则对于任意 >0，
总存在多项式 P (x ) a 0 a 1 x a 2 ，x 2 ... a n x n
6.3 最佳平方逼近
x sin x
x 1 x3 3!
➢定义 近似代替又称为逼近，函数 f(x) 称为被逼近函数；
P(x) 称为逼近函数，两者之差称为逼近的误差。
➢函数逼近问题可叙述为：对函数类 A 中给定的函数 f(x) ，需要在另一类较简单的便于计算的函数类 B （B∈A）中，找一个函数P(x) ，使P(x) 与 f(x) 之差 在某种度量意义下达到最小。
其中 p n (x ) c 00 c 11 c nn
由于pn*(x)是由其系数c0* , c1*, … ,cn* 唯一确定的，因此，只
要我们求出了满足(6.2)的 c0* , c1*, … ,cn* ，就可以求出f(x)最
佳平方逼近：
投影
p n (x ) c 0 0 c 1 1 c n n
（1） ‖f‖2 ≥0 , ‖f‖2 =0 , 当且仅当 f =0 ； （2） ‖c f‖2=|c| ‖ f‖2 ; （3） ‖ f + g‖2≤‖ f‖2+‖ g‖2 ;
定理6.10 对于 f C [a,b], 0存在多项式 p ( x )
使得：
b
||f p||2 (a
21
(x )f(x )p (x )d x )2
意味着 I(c 0 ,c 1 , ,c n ) c i m (, )I (ic 0 ,n c 1 , ,c n )(6.5)
f(x ) p n * (x )2 2 m p n f( ix n ) p n (x )2 2
根据 p n (x ) c 00 c 11 c nn 构造多元函数
I(c0,c1, ,cn) f(x)pn(x)22
b
n
[f(x)
a
cii(x)]2dx
(6.3)
i0
则 I(c0 ,c1 , ,cn )a b[f(x)nci i(x)]2dx i 0
这时等式 f(x ) p n * (x )2 2 m p n f( ix n ) p n (x )2 2(6.4)
对于f (x)∈C[a,b],若存在 p*(x) ，使得
fp*2in f b (x)[f(x)p(x)]2d x 2 a
则称 p * ( x ) 是 f (x)在 C[a,b] 中的最佳平方逼近函数。
定理6.12 连续函数在[a, b]上线性无关的充分必要条件是
它们的克莱姆(Gram)行列式Gn 0，其中
p n ( x ) c 00 c 11 c nn
都有：
f(x ) p n * (x )2f(x ) p n (x )2
不等式
f(x ) p n * (x )2f(x ) p n (x )2
说明所求的 p n (x ) c 0 0 c 1 1 c n n
满足等式：
f(x ) p n * (x )2 m p n f( ix n ) p n (x )2 (6.2)
||fg||2(a b(x)f(x)g(x)2d x)1 2
作为度量误差f(x)- P(x)的“大小” 标准。
使用不同的度量产生不同的逼近理论。
6.3.1 平方度量与平方逼近 对于 f,gC[a,b] 定义度量
||fg||2(a b(x)f(x)g(x)2d x)1 2
为函数 f(x) 的平方（欧氏）范数，且满足以下性质：