第3章数值分析---最佳平方逼近

合集下载

最佳平方逼近

最佳平方逼近
( f p*, f p*) 2( f p*, p * p) ( p * p, p * p)
n
因为 f p*, p * p cj c j f p*, j 0 及
j0
( p * p, p * p) 0, 故 ( f p, f p) ( f p*, f p*).
2 则 f (x) 1 1 t g(t), 1 x 1
2 先求g(t)在区间 [-1,1] 旳一次最佳平方逼近多项式.

c0 *
1 2
(g,
L0 )
1 2
1 1
1 2
1 tdt 2 , 3
c1
3 2
(g,
L1 )
3 2
1 1
t 2
1 tdt 2 . 5
可知
2
2
22
q1(t) 3 L0 (x) 5 L1(x) 3 5 t,
例6 定义内积 ( f , g)
1
f (x)g(x)dx
0
试在H1=Span{1,x}中谋求对于f(x)= x 旳最佳平方逼近
元素p(x).
解 法方程为
1 12
1 2
13
c0
c1
2 2
3 5
解得
c0
4, 15
c1
4 5
所求的最佳平方逼近元素为 p(x) 4 4 x. 0 x 1 15 5
(n
,n
)
cn*
( f ,n )
因为 0x,1x, , nx 线性无关, 能够推得上系数阵是
非奇异旳. 故 (5. 82) 有唯一解 { c*j }.
四、最佳平方逼近旳误差
记 ( f p*, f p*), 称其为最佳平方逼近误差, 利用

数值分析学习课件

数值分析学习课件

对任意 u ≠ 0 ∈ R n +1 ,必有 Φ u ≠ 0 。 则 u T B u = u T Φ T Φ u =|| Φ u || 2 > 0 2 若不然, 若不然,则 存在唯一解 ⇒ B为正定阵,则非奇异,所以法方程组存在唯一解。 为正定阵,则非奇异,所以法方程组存在唯一 n +1 存在一个 u ≠ 0 ∈ R 使得 Φ u = 0 … 即
则 (ϕ i , ϕ j ) =

1 0
x i x j dx =
1 i + j+1
Hilbert阵! 阵
若能取函数族Φ={ ϕ0(x), ϕ1(x), … , ϕn(x), … }, , 两两( 使得任意一对ϕi(x)和ϕj(x)两两(带权)正交, 和 两两 带权)正交, 改进: 改进: 对角阵! 就化为对角阵 则 B 就化为对角阵! (ϕ k , y ) 这时直接可算出a 这时直接可算出 k = (ϕ k , ϕ k ) 正交多项式的构造: 正交多项式的构造: 多项式的构造 取为k 多项式,为简单起见, 将正交函数族中的ϕk 取为 阶多项式,为简单起见,可取 ϕk 的首项系数为 1 。

总体上尽可能小 尽可能小。 这时没必要取 P(xi) = yi , 而要使 P(xi) − yi 总体上尽可能小。 常见做法: 常见做法:
m
不可导, 不可导,求解困难
太复杂
使 max | P ( x i ) − y i | 最小 /* minimax problem */ 1≤ i ≤ m 使 ∑ | P ( x i ) − y i | 最小 使 ∑ | P ( x ) − y | 最小 /* Least-Squares method */ 定义 最佳平方逼近:即连续型 逼近,在 || f ||2 = 最佳平方逼近:即连续型L-S逼近 平方逼近 逼近,

最佳平方逼近

最佳平方逼近

S(x) = a0ϕ0 (x) + a1ϕ1 (x) +L+ anϕn (x)
的全体是C[a, b]的一个子集,记为 的一个子集, 的全体是 的一个子集
Φ = Span{ϕ0 , ϕ1, L, ϕn}
并称 是生成集合的一个基底。 ϕ0 (x), ϕ1 (x), L, ϕn (x)是生成集合的一个基底。
f −P
2 2 *
2 2
= ( f − P, f − P)
j =0
≥ f −P
*
2 2
= ( f − P + P* − P, f − P* + P* − P)
+2 −P P −P = ( f − P* , f − P* ) + ( P* − P, P* − P) + 2(( ff − P**,,P** − P)) aj 因为 P * − P = ∑ (a * −a j )ϕ j ( x ) , * − a j ∈ R, j
0, j ≠ k ((ϕ j (x), ϕk (x)) = A > 0, j = k k
( j, k = 0, 1, L ) ( Ak是 数) 常
则称函数系{ 的正交函数系, 则称函数系 ϕk (x)}是[a, b]上带权ρ (x)的正交函数系, 是 上带权 的正交函数系
特别地, 标准正交函数系。 特别地,当Ak ≡ 1时,则称该函数系为标准正交函数系。 时 则称该函数系为标准正交函数系
( f , g) = ∫ ρ(x) f (x)g(x)dx
a
b
为权函数的内积。 为 f (x) 与 g (x)在 [a, b]上以 ρ (x)为权函数的内积。 在 上以 为权函数的内积 内积的性质: 内积的性质: (1) (f, f )≥0,且 (f, f )=0 ⇔ f = 0; , ; (2) (f, g) = (g, f ); ; (3) (f1 + f2, g ) = (f1, g) + (f2, g); ; (4) 对任意实数 ,(kf, g) = k (f, g )。 对任意实数k, 。

第三章-2-最佳平方逼近

第三章-2-最佳平方逼近

性质 5 设 k k 0是 [a, b] 上带权 (x) 的正交多项式

族,则n(x) (n>0) 有n个单重实根,且都位于 区间[a, b] 内。
几类重要的正交多项式 Legendre 多项式 Chebyshev 多项式
第二类 Chebyshev 多项式
Laguerre 多项式 Hermite 多项式
Chebyshev 多项式
切比雪夫多项式的性质:
(1) 递推公式: Tn1 ( x ) 2 xTn ( x ) Tn1 ( x )
cos(n+1) + cos(n-1) = 2cos cosn x = cos
mn 0, 1 T ( x )T ( x ) n m (Tn , Tm ) dx π / 2, m n 0 (2) 正交性: 2 1 1 x π, mn0 n T ( x ) ( 1) Tn ( x) (3) 奇偶性: n
性质1 性质2
n ( x)
为首一 n 次多项式。 [a, b] 上带权 (x) 的正交多

是 k k 0
项式族,且
H n span 0 ,1,...,n
性质 3 正交。
n ( x) 与所有次数不高于n-1次的多项式
正交多项式性质
性质 4
此 k k 0 满足如下三项递推公式:
数值分析及计算软件
第三章
函数逼近与计算
3.3 最 佳 平 方 逼 近 及正交多项式
最佳平方逼近问题:
若存在 Pn* ( x )H n , 使得
|| f ( x) Pn ( x) ||2 inf || f ( x) Pn ( x) ||2 ,

数值分析第3章

数值分析第3章
* 3
* f ( x) p3 ( x) 1 1 4 2 4-1 T4 ( X ) x x 2 2 2 8
f ( x) p ( x)
* 3
与零的偏差最小。
所以
* p3 ( x) 2x3 x2 8x 3
38
对区间为[a,b]的情形,
作变换
x=(b-a)t/2+(b+a)/2
41
推论1
设pn*(x)∈Pn[a,b]为对f(x)∈C[a,b]的最佳一 致逼近元. 若f(n+1)(x)在区间(a,b)上不变号,但 在x=a (或b)处不存在(但为无穷)而符号与(a,b) 内f(n+1)(x)的符号相同,则x=a(或b)属于f(x)pn*(x)的交错点组.
42
例2设f(x)= x. 求在P1[0,1]中对f(x)的最 佳一致逼近元.
n1
Tn ( x )
1 2
n1
max f ( x ) ( n 1,2,)
1 x 1
35
36
考虑两种特殊情形
(1) 当f(x)为[-1,1]上的n+1次多项式时,求 f(x)在Pn[-1,1]中的最佳一致逼近多项式. 不妨记f(x)=b0+b1x+…+ bn+1xn+1,|x|≤1,且设bn+1≠0 , pn(x)为最佳一致逼近元. 由于首项系数为1的n+1次Chebyshev多项式Tn+1(x)无 穷模最小,
b
如果函数f(x), g(x) 在[a,b]上连续,满
a ( x ) f ( x ) g( x )dx 0
则称f(x)与g(x)在[a,b]上关于权 ( x ) 正交,如果[a,b] 上的连续函数系 k ( x ) 满足

数值分析最佳平方逼近

数值分析最佳平方逼近

9 9
第三章 函数逼近与计算
定义3.8 设 0(x), 1(x), … , n-1(x)在[a,b]上连续如果 a00(x)+a11(x)+… +ann(x)=0 对任意 x[a, b]成立
当且仅当 a0= a1=… =an=0,则称 0(x), 1(x), … , n-1(x) 在[a,b]上是线性无关的。
I 0 a k
(k 0,1,, n),
(k 0,1,, n),
(k 0,1,, n).
( ( x), ( x))a
j 0 k j
© 2009, Henan Polytechnic University §3 最佳平方逼近
n
j
( f ( x ), k ( x ))
b
则称{ k ( x)} 是 [a, b] 上带权 ( x )的正交函数族. 若 Ak 1,则称之为标准正交函数族. 三角函数族 1, cos x , sin x , cos 2 x , sin 2 x , 区间 [ , ]上的正交函数族.
© 2009, Henan Polytechnic University §3 最佳平方逼近
© 2009, Henan Polytechnic University §3 最佳平方逼近
1111
第三章 函数逼近与计算
3.3.2 函数的最佳平方逼近 对f ( x ) C[a, b]及C[a, b]中的一个子集 span{ 0 ( x ),1 ( x ),, n ( x )}
b b
b
b
I 2a0 0 ( x ), k ( x ) 2a1 1 ( x ), k ( x ) 即 ak 2an n ( x),k ( x) 2 f ( x),k ( x)

最佳平方逼近原理

最佳平方逼近原理

最佳平方逼近原理最佳平方逼近原理是数值分析中的一个经典原理,用于寻找函数在给定定义域上的最佳平方逼近曲线。

在实际应用中,我们经常需要通过已知的离散数据点来近似拟合一个函数,最佳平方逼近原理就是为了解决这个问题而提出的。

最佳平方逼近原理的核心思想是,通过最小化残差平方和来选择最佳的曲线拟合函数。

残差平方和是指每个数据点与拟合曲线之间的差值的平方和,通过最小化残差平方和,我们可以找到能够最好地拟合数据点的曲线。

为了更好地理解最佳平方逼近原理,我们可以通过一个简单的例子来说明。

假设我们有一组包含有N个点的数据集{(x1,y1),(x2,y2),...,(xn,yn)},我们需要找到一条曲线y=f(x)来拟合这些数据点。

首先,我们可以假设拟合曲线为一条直线y=ax+b,其中a为斜率,b为截距。

我们的目标是找到最佳的斜率a和截距b,使得拟合曲线能够最好地拟合数据点。

为了评估拟合曲线的好坏,我们可以定义残差ei为数据点yi与拟合曲线f(xi)之间的差值,即ei=yi-f(xi)。

然后,可以定义残差平方和E为所有残差的平方和,即E=∑(yi-f(xi))^2。

根据最佳平方逼近原理,我们需要选择最优的斜率a和截距b,使得E达到最小值。

这可以通过对E分别对a和b求偏导数,并令偏导数等于零来实现。

∂E/∂a=0和∂E/∂b=0的解可以分别表示为a=(N∑(xiyi)-∑xi∑yi)/(N∑(xi^2)-(∑xi)^2)和b=(∑yi-∑(xi/n)a))/N 通过求解这两个方程,我们可以得到最佳的斜率a和截距b,从而得到最佳的拟合曲线。

上述例子只是最佳平方逼近原理的一个简单应用,实际上,最佳平方逼近原理可以应用于更复杂的拟合曲线,如多项式拟合、指数拟合等。

在实际应用中,最佳平方逼近原理广泛应用于数据分析、信号处理、图像处理等领域。

通过最佳平方逼近原理,我们可以从大量的离散数据中提取有效的信息,利用拟合曲线来进行预测、分类、回归等操作。

最佳平方逼近

最佳平方逼近

所求的
应该使下式达极小:

整理得到
计算积分后,得法方程组
解之得 从而得到最佳平方逼近一次多项式
三、正交基函数的选择 如果我们选择子空间
正交,即 则法方程
简化为
即 容易求得 并得到最佳平方逼近
例3.2. 已知
在区间 [-1,1]上两两正交,试求
在这个
区间上的最佳平方逼近二次多项式,并给出误差估计。
应该使
整体达最小。 通过这种度量标准求得拟合曲线y=f(x)的方法,
就称作曲线拟合的最小二乘法。 按照以上思想来求出f(x)的拟合曲线,首先需
要确定出f(x)所属的函数类,然后进一步求出具体 函数,具体按照以下步骤进行。
二、最小二乘法拟合曲线的步骤
第一步:根据如下已知点的坐标,在坐标系里描点
第二步:根据图示,确定曲线所属的函数类型,例 如多项式函数类、三角函数类、指数函数 类、对数函数类等。假设所确定的函数类 的基函数为
而n+1元函数
在区间
上具有一阶连续导函数,因此根据
极值原理,在最小值点
处:
而 于是 即
利用内积 可以得到 这是一个含有n+1个变量的方程组,具体形式为:
再写成 矩阵形式为
这是关于n+1个变量
的线性方程组,并称
其为法方程组,或者正规方程组。
解此方程组,就可以得到 了f(x) 的最佳平方逼近:
,也就得到
同时,还需要给出连续函数
空间上的一个度量标准,下面通过内积给出平方范数。
二、连续函数的平方范数
已知所有连续函数构成的集合C[a,b]是一个线性
空间,对于C[a,b]中的任意函数
、 ,定义
实数
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
就是在区间 [ , ] 上的正交函数族.
5
勒让德多项式 P59-61
P0 (x) 1, P1(x) x, 利用上述递推公式就可推出
P2 (x) (3x2 1) / 2, P3 ( x) (5x3 3x) / 2, P4 (x) (35x4 30x2 3) / 8, P5 ( x) (63x5 70x3 15x) / 8, P6 ( x) (231x6 315x4 105x2 5) /16,
3
定义5 若 f ( x), g ( x) C[a, b], ( x)为 [a, b] 上的权函数且满足
( f (x), g(x)) b (x) f (x)g(x)dx 0. (2.1) a
则称 f ( x)与g ( x)在 [a, b]上带权 ( x)正交.
4
若函数族 0 (x),1(x),,n (x), 满足关系
2 S ( x)
2
(3.1)
通常(x)


1.
min
S ( x)
b
a

( x)[
f
(x)

S
( x)]2
dx.
则称 S *(x)是 f (x)在子集 C[a, b]中的最佳平方逼近
函数.
8
由(3.1)可知该问题等价于求多元函数
I (a0 , a1,, an )
b
( x)[
0 min S ( x)
2
b
(k
( x)[
0,1,, f (x)
Sn)(,x)]2
dx.
a

I
ak
2 b (x)[ a
n
a j j (x)
j 0
f (x)]k (x)dx
(k 0,1,, n),
9
于是有
n
(k (x), j (x))a j ( f (x),k (x)) (k 0,1,, n).(3.3)
中求 n次最佳平方逼近多项式
此时
( j ( x),k ( x))
( j ,k )
b a
( x)
j
( x)k
( x)dx
0,

Ak

j 0,
k. j
k.
(2.2)
则称{k (x)}是 [a, b] 上带权 (x)的正交函数族.
若 Ak 1,则称之为标准正交函数族.
三角函数族
1, cos x, sin x, cos 2x, sin 2x,
则称相应的 P*(x)为最佳逼近函数.
通常将范数 取为 或 .

2
1
若取 ,即
f (x) P * (x) min f (x) P(x)

PH n

(1.18)
min max f (x) P(x) , PH n a xb
则称 P*(x) 是 f (x)在 [a, b]上的最优一致逼近多项式.
a
n
a j j (x) f (x)]2 dx
(3.2)
j 0
的最小值.
I (a0 , a1,, an )是关于 a0 , a1,, an 的多元函数,
利用多f (元x)函数S求* (x极) 值2 的m必in要条f 件(x) S (x) 2
(3.1)
I
ak
2 S ( x)
6
切比雪夫多项式 P61-64
当权函数 (x) 1 ,区间为 [1, 1]时,由序
1 x2
列 {1, x,, xn ,} 正交化得到的正交多项式就是切比雪夫
(Chebyshev)多项式. 它可表示为
Tn (x) cos(n arccos x),
x 1.
若令 x cos , 则Tn (x) cos n , 0 .
j 0
k
0时, (
b
a 0 ( x) 0 ( x)dx)a0
(
b
a
1
(x)
0
( x)dx)a1
...
b
b
( a n (x) 0 (x)dx)an a f (x) 0 (x)dx
(3.3)式是关于 a0 , a1,, an 的线性方程组,称为法方程.
(2.10)
7
3.3.1 最佳平方逼近及其计算
对 f (x) C[a, b] 及 C[a, b] 中的一个子集
span{0 (x),1(x),,n (x)}
若存在 S*(x) a00 (x) ... ann (x) ,使
f (x) S * (x) 2 min f (x) S (x) 2
由于 0 (x),1(x),,n (x) 线性无关,故 det G(0 ,1,,n ) 0 (P56)
于是方程组(3.3)有唯一解 ak ak* (k 0,1,, n),
S * (x) a0*0 (x) an*n (x).
10
若取 k (x) xk , (x) 1, f (x) C[0, 1], 则要在 H n

P*
(
x)就是求
[a,
b]上使最大误差
max
a xb
f (x) P(x)
最小的多项式.
2
若取 ,即 2
f (x) P * (x) 2 min f (x) P(x) 2
2
PH n
2
(1.19)
min
b
[
f
(x)

P( x)]2
dx,
PH n a
则称 P*(x) 是 f (x)在 [a, b]上的最佳平方逼近多项式.
若 f (x)是 [a, b]上的一个列表函数, f (xi )(i 0,1,, m) ,要求 P* 使
m
f P * min
2
P
f
P
2
min P
[ f (xi ) P(xi )]2
i0
(1.20)
则称 P*(x) 为 f (x)的最小二乘拟合.
3.1.0 最佳逼近
函数逼近主要讨论给定 f C[a, b],求它的最佳逼近 多项式的问题.

P*
(
x)

H
(次数不超过n次多项式),使误差
n
f (x) P*(x) min f (x) P(x) PH n
则称 P*(x) 是 f (x)在 [a, b]上的最佳逼近多项式.
若 P(x) span{0 ,1,,n}(由0 ,1,,n生成的函数空间
相关文档
最新文档