函数的插值与最佳平方逼近
插值与逼近
l2 ( x) ( x x0 )(x x1 ) ( x2 x0 )(x2 x1 )
l1 ( x) ( x x0 )(x x2 ) ( x1 x0 )(x1 x2 )
插值的概念
插值是由离散数据来构造一个函数的近似函数 的重要方法, 插值要求近似函数与被近似函数 在一些点处取相同的函数值,甚至导数值. 已知函数y=f(x)在[a, b]中n+1个互异点x0, x1, …, xn上的函数值分别为f(x0), f(x1), …, f(xn) ，构造 一个简单的函数P(x)，满足条件 P(xi)=f(xi) (i=0,1,…n) (*) 称这类问题为插值问题，称P(x)为函数f(x)的插 值函数， f(x)为被插值函数，点x0, x1, …, xn为 插值节点，称(*)为插值条件.
由差均的定义 f(x)=f(x0)+f[x0,x](x-x0) f[x0,x]=f[x0,x1]+f[x0,x1,x](x-x1) f[x0,x1,x]=f[x0,x1,x2]+ f[x0,x1,x2, x](x-x2) …… f[x0,x1,…,xn-1, x]= f[x0,x1,…,xn]+ f[x0,x1,…,xn, x](x-xn) 反复将后一式代入前一式得 f(x)=f(x0)+f[x0,x1](x-x0)+f[x0,x1,x2](x-x0)(x-x1) +…+ f[x0,x1,…,xn](x-x0)(x-x1)…(x-xn-1) + f[x0,x1,…,xn, x](x-x0)(x-x1)…(x-xn)
f ''( ) E ( x) f ( x) L1 ( x) ( x x0 )( x x1 ) 2! ( x1 x0 )2 E( x) f ( x) L1 ( x) max f ''( x) 8 a x b
3_最佳平方逼近问题
( 0 , * f ) 0 * ( 1 , f ) 0 ( , * f ) 0 n
yfnie@
5
几何意义
平方逼近误差
f
*
* *
2 2
( f , f )
* *
*
( , ) 2 ( , f ) ( f , f )
yfnie@
8
基于正交基的最佳平方逼近（续）
( 0 , f ) ( 1 , f ) ( n , f ) * C , , , ( , ) ( , ) ( n , n ) 0 0 1 1
*
T
( 0 , f ) ( 0 , 0 )
)
3
0
平方误差计算
直接计算：
b a
* 2x a b sin x 2 ( ) dx ba
2 1
2
间接计算：
ab ba ba * 1 sin( 2 t 2 ) 2 ( t ) dt 2
yfnie@ 16
求 (x ) c 0 0 c 1 1 c n n , 使 得
* * * *
n n n n * * f c i i , f c i i min f c i i , f c i i . i0 i0 ci R i0 i0
c0 ( f , 0 ) c1 ( f ,1 ) cn ( f , n )
即 { i } i 0 是线性空间
的一组正交基。
T
数值分析学习课件
对任意 u ≠ 0 ∈ R n +1 ，必有 Φ u ≠ 0 。 则 u T B u = u T Φ T Φ u =|| Φ u || 2 > 0 2 若不然， 若不然，则 存在唯一解 ⇒ B为正定阵，则非奇异，所以法方程组存在唯一解。 为正定阵，则非奇异，所以法方程组存在唯一 n +1 存在一个 u ≠ 0 ∈ R 使得 Φ u = 0 … 即
则 (ϕ i , ϕ j ) =
∫
1 0
x i x j dx =
1 i + j+1
Hilbert阵！ 阵
若能取函数族Φ={ ϕ0(x), ϕ1(x), … , ϕn(x), … }， ， 两两（ 使得任意一对ϕi(x)和ϕj(x)两两（带权）正交， 和 两两 带权）正交， 改进： 改进： 对角阵！ 就化为对角阵 则 B 就化为对角阵！ (ϕ k , y ) 这时直接可算出a 这时直接可算出 k = (ϕ k , ϕ k ) 正交多项式的构造： 正交多项式的构造： 多项式的构造 取为k 多项式，为简单起见， 将正交函数族中的ϕk 取为 阶多项式，为简单起见，可取 ϕk 的首项系数为 1 。
①
总体上尽可能小 尽可能小。 这时没必要取 P(xi) = yi , 而要使 P(xi) − yi 总体上尽可能小。 常见做法： 常见做法：
m
不可导， 不可导，求解困难
太复杂
使 max | P ( x i ) − y i | 最小 /* minimax problem */ 1≤ i ≤ m 使 ∑ | P ( x i ) − y i | 最小 使 ∑ | P ( x ) − y | 最小 /* Least-Squares method */ 定义 最佳平方逼近：即连续型 逼近，在 || f ||2 = 最佳平方逼近：即连续型L-S逼近 平方逼近 逼近，
最佳平方逼近
正规方程组一般为病态方程组，当维数 较高时，病态严重，求解困难。 可以采取选择不同的基的方式，来改变 正规方程组的性态。 我们考虑最佳平方逼近多项式，采用正 交多项式做基函数。
2
b
a
函数f ( x)和g ( x)正交 ( f , g ) w( x) f ( x) g ( x)dx 0
a b
设次数不超过n的多项式空间为 n , 显然 是C[a, b]的一个子空间，
n的基为1, x,..., x n , 则，p( x) a0 a1 x ... an x n n 是f ( x)在 n的最佳逼近元的充分必要条件为
否则，就线性无关。 区间[a,b]上c11 ( x) .... cm m ( x) 0成立 就一定有c1 ... cm 0
假定1 ( x),....m ( x)是子空间S的基， 若函数g是最佳逼近元，则
( f g , 1 ( x)) 0,( f g , 2 ( x)) 0 ...., f g , m ( x)) 0 (
w( x) C[a, b]，w( x) 0，x [a, b] 称w( x)为权函数。
连续函数空间C[a, b]，给定权函数w( x) 对于f , g C[a, b]
最佳平方逼近多项式
给定函数f ( x) C[a, b], 求次数不超过n的 多项式p( x)，使得
b
a
w( x)( f ( x) p( x)) dx min
简记为Ax=b
求解这个方程，就能得到a， ，am， .....
从而得到f ( x)在子空间S中的最佳平方 逼近元g ( x) a11 ( x) ..... amm ( x)
函数逼近理论
函数逼近理论函数逼近是数学中研究近似计算方法的重要分支，它通过寻找一个接近所需函数的近似函数来简化复杂的计算问题。
函数逼近理论涵盖了多项式逼近、三角函数逼近、最小二乘逼近等各种方法。
本文将从数学背景、函数逼近的原理和应用领域三个方面进行讨论。
一、数学背景在了解函数逼近理论之前，我们需要回顾一些数学背景知识。
首先，我们要了解函数及其性质的概念。
函数是一种将一个集合中的元素映射到另一个集合中元素的规则，常用来描述数学、物理和工程问题。
其次，我们要熟悉多项式的性质。
多项式是由常数和变量的乘积相加而成的表达式，其具有高度的可控性和计算性能。
最后，我们需要了解一些数学分析工具，如泰勒级数展开和傅里叶级数展开等。
二、函数逼近的原理函数逼近的核心思想是通过构造一个近似函数，在一定范围内保持与所需函数的接近程度。
常用的函数逼近方法包括最小二乘逼近、插值逼近和曲线拟合等。
最小二乘逼近是一种基于最小化残差平方和的方法。
其基本思想是通过寻找一个多项式函数，使得所需函数与多项式函数的差异最小化。
这种逼近方法在实际问题中应用广泛，如信号处理、数据拟合等领域。
插值逼近是一种通过在给定数据点上构造插值多项式来逼近函数的方法。
插值多项式与原函数在数据点处相等，通过连接这些数据点构造出一个逼近函数。
插值逼近在图像处理、数值计算和计算机图形学等领域具有重要应用。
曲线拟合是一种寻找一条曲线与给定数据集最匹配的方法。
常用的曲线拟合方法包括多项式拟合、指数拟合和对数拟合等。
曲线拟合方法在统计学、经济学和物理学等领域具有广泛应用。
三、函数逼近的应用领域函数逼近理论在数学和工程领域中有着广泛的应用。
在数学领域，函数逼近可用于求解复杂的数学问题，如微积分、方程求解等。
在工程领域，函数逼近可用于优化算法、信号处理、图像处理等领域。
在优化算法中，函数逼近可用于近似解决无法求得精确解的优化问题。
通过构造一个逼近函数，可以减少计算量和提高计算效率，从而更好地解决实际问题。
最佳平方逼近
(1,1) (2,1) L
A
(1,2
)
(2,2 )
L
L
LL
(1,m ) (2,m ) L
(m,1)
(m
,2
)
L
(m
,
m
)
称为函数1(x)，.....，m (x)的Gram矩阵，
A显然是对称矩阵。
若1(x)，.....，m (x)线性无关，则它们
0
3
(ex ,1) 2 ex 1dx e2 1 0
(ex , x) 2 ex xdx e2 1 0
法方程组为
2a0
2a0
2a1 8 3 a1
e2 1 e2 1
a0=0.1945 , a1=3.0000
最佳平方逼近一次多项式为 0.1945+3.0000x
8 7 6 5 4 3 2 1 0
b w(x) f (x) g(x)2 dx a
函数f (x)和g(x)正交
b
( f , g) a w(x) f (x)g(x)dx 0
设次数不超过n的多项式空间为n ,显然 是C[a, b]的一个子空间，
n的基为1, x,..., xn ,则，p(x) a0 a1x ... anxn n 是f (x)在n的最佳逼近元的充分必要条件为
a0 (1,1) a1(x,1) ... an (xn ,1) ( f ,1)
a0 (1, x) a1(x, x) ... an (xn , x) ( f , x)
a0 (1, xn ) a1(x, xn ) ... an (xn , xn ) ( f , xn )
求解法方程组，得到a0，a1，...，an
2.4 正交多项式和最佳平方逼近
dn Ln ( x ) e x n ( x n e x ) dx
第二章 插值与拟合
L2 ( x ) x 2 4 x 2, L3 ( x ) x 3 9 x 2 18 x 6, L4 ( x ) x 4 16 x 3 72x 2 96 x 24 L4 ( x ) x 5 25x 4 200x 3 600x 2 600x 120
（） (sinix, cos jx) 0, i , j 1,2,, n 3
（） （， dx 2 ； 4 11 ）
(1, sinix ) 0, (1, cosix ) 0, i 1,, n。
第二章 插值与拟合
正交多项式的三项递推公式:
n 设 {k ( x)}k 0 为 a，b]具有权函数 ( x) 的正交多项式组，i ( x) [
0，当i j , 且i , j 1 （）(cosix, cos jx ) cosix cos jxdx 1 ； ，当i j 0 0, 当i j , 且i , j 1 （） (sinix, sin jx ) 2 ； , 当i j 0
(2)
1 连续区间上正交多项式
0, i j (第二章 i , j ) 插值与拟合 ai 0, i j
连续区间上的正交多项式的概念与离散 点集上的正交多项式概念相似，只要将内积 的定义作相应的改变 。 定义2.10 函数f (x)和 g (x)在连续意义下的内积定义为
( f , g ) ( x) f ( x) g ( x)dx, f , g C[a, b]
特别地，
第二章 插值与拟合
计算方法讲义：六 函数逼近
第六章 函数逼近用简单的函数近似代替复杂函数，是计算数学中最基本的方法之一。
近似又称为逼近，被逼近的函数与逼近函数之差)()()(x p x f x R -=称为逼近的误差或余项。
简单函数：仅用加、减、乘、除。
多项式是简单函数。
插值也可以理解为一种逼近形式。
用Taylor展开：10)1(00)(000)()!1()()(!)())(()()(++-++-+-'+=n n nn x x n f x x n x fx x x f x f x f ξ 的部分和逼近f (x )也是一种逼近方法，其特点是：x 越接近于x 0，误差就越小。
如何在给定精度下求出计算量最小的近似式，这就是函数逼近要解决的问题。
逼近的度量标准有：一致逼近和平方逼近。
6.1 函数内积本节介绍几个基本定义：权函数、内积、正交、正交函数系。
定义1 设ρ (x )定义在有限或无限区间[a , b ]上，若具有下列性质：(1) ρ(3) 对非负的连续函数g (x )，若⎰=ba dx x x g 0)()(ρ，则在(a ,b )上g (x ) ≡ 0，称ρ (x )为[a , b ]上的权函数。
常用权函数有：211)(],1,1[xx -=-ρ；x e x -=∞)(],,0[ρ；2)(],,[x e x -=∞+-∞ρ；1)(],1,1[=-x ρ等。
定义2 设f (x )，g (x ) ∈ C [a , b ]，ρ (x )是[a , b ]上的权函数，则称⎰=ba dx x g x f x g f )()()(),(ρ为f (x )与g (x )在[a ,b ]上以ρ (x )为权函数的内积。
内积有如下性质：(1) (f , f )≥0，且(f , f )=0 ⇔ f = 0；(2) (f , g ) = (g , f )；(3) (f 1 + f 2, g ) = (f 1, g ) + (f 2,g )；(4)对任意实数k ，(kf , g ) = k (f , g )。
计算方法 第五章第二节最佳平方逼近
n
2
i 0
a
i 0
上述方程组称为正规方程组。也可以写为
( p, j ) ( f , j )，j 0,1,..., n.
由于0 ( x), 1 ( x),..., n ( x) 线性无关，由性质5.2.3，该方程组 的系数矩阵非奇异，因而方程组存在惟一解。
可以证明，最佳平方问题的解存在惟一且就是正规方程组的解。
b
j i,
j i,
则称多项式族 {g n ( x)} 在[a, b] 上带权 ( x) 正交，并称 g n ( x)是[a, b] 上带权 ( x)的 n 次正交多项式。
一般情况下，当权函数 ( x)及区间[a, b] 给定后，人们 可通过Gram－Schmidt正交化过程，由{1, x,..., x n }构造 出相应的正交多项式。
2
的最小值。
由多元函数取极值的必要条件 S 0,
a j
j 0,1,..., n,
得
n aii ( x) f ( x) j ( x)dx 0， j 0,1,..., n. a ( x) i 0
b
于是有
)，j 0,1,..., n. ( , ) a ( f , S (a0 , ai1 ,...,jan ) :i ( x) j aii ( x) f ( x) dx
2
2
2
2
f g f g 2 f g
2
2
2
2
,
f , g Y.
二、 函数的最佳平方逼近
已知函数 f ( x) C[a,b] 及C[a,b]中的一个子集 span{0 , 1 ,..., n }，如果 p( x) span{0 , 1,..., n}，使得
2.4 正交多项式和最佳平方逼近
（2.4.6）
为给定的权函数。 其中的ω (x)≥0为给定的权函数。按连续意义下的内 ≥ 为给定的权函数 满足条件(2.4.3),则称 则称 积，若多项式组{ϕk(x)}k=0,…n 满足条件 若多项式组 ϕ 它为在区间 在区间[a,b] 上的带权ω (x)的正交多项式序列。 它为在区间 的正交多项式序列。
第二章 插值与拟合
2.4 正交多项式和最佳平方逼近
2.4.1 离散点集上的正交多项式 2.4.2 连续区间上正交多项式 2.4.3连续函数的最佳平方逼近 连续函数的最佳平方逼近 总结
第二章 插值与拟合
2.4 正交多项式和最佳平方逼近 正交多项式是数值计算中的重 要工具，这里只介绍正交多项式的 要工具， 基本概念、某些性质和构造方法。 基本概念、某些性质和构造方法。 离散情形的正交多项式用于下节的 数据拟合，连续情形的正交多项式 数据拟合， 用于生成最佳平方逼近多项式和下 章的高斯型求积公式的构造。 章的高斯型求积公式的构造。它们 在数值分析的其他领域中也有不少 应用。 应用。
第二章 插值与拟合
若多项式组{ϕ 若多项式组 ϕk(x)}k=0,…n 在离散意义下的内积满足
0, i ≠ j (ϕi , ϕ j ) = ai > 0, i = j
(2.4.3)
则称多项式组{ϕ 则称多项式组 ϕk(x)}k=0,…n为在离散点集
i=0,1,…,m上的带权
{xi}
{ ωi}i=0,…m的正交多项式序列. 的正交多项式序列
L ( x ) = 1, L ( x ) = 1 − x , 1 0 ( 2.4.9) 2L Ln + 1 ( x ) = (1 + 2n − x ) Ln ( x ) − n n − 1 ( x ), n = 1,2,L ,