数值分析讲义第三章 函数逼近
(整理)数值分析课件 第3章 函数逼近与曲线拟合
第三章 函数逼近与曲线拟合1 函数的逼近与基本概念1.1问题的提出多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令，因此为了计算大多数有解析表达式的函数的值，必须产生可用四则运算进行计算的近似式，一般为多项式和有理分式函数.实际上，我们已经接触到两种逼近多项式，一种是泰乐多项式，一种是插值多项式.泰乐多项式是一种局部方法，误差分布不均匀，满足一定精度要求的泰乐多项式次数太高，不宜在计算机上直接使用.例如，设()f x 是[1,1]-上的光滑函数，它的Taylor 级数0()k k k f x a x ∞==∑，()(0)!k k f a k =在[1,1]-上收敛。
当此级数收敛比较快时，11()()()n n n n e x f x s x a x ++=-≈。
这个误差分布是不均匀的。
当0x =时，(0)0n e =，而x 离开零点增加时，()n e x 单调增加，在1x =±误差最大。
为了使[1,1]-的所有x 满足()()n f x s x ε-<，必须选取足够大的n ，这显然是不经济的。
插值函数出现的龙格现象表明，非节点处函数和它的插值多项式相差太大。
更重要的是，实际中通过观测得到的节点数据往往有各种误差，此时如果要求逼近函数过全部节点，相当于保留全部数据误差，这是不适宜的。
如图1所示，给出五个点上的实验测量数据，理论上的结果应该满足线性关系，即图1中的实线。
由于实验数据的误差太大，不能用过任意两点的直线逼近函数。
如果用过5个点的4次多项式逼近线性函数，显然误差会很大。
实验数据真函数插值多项式逼近精确的线性逼近图11.2范数与逼近一、线性空间及赋范线性空间要深入研究客观事物，不得不研究事物间的内在联系，给集合的元素之间赋予某种“确定关系”也正是这样的道理.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将这样的集合称为空间.最常用的给集合赋予一种“加法”和“数乘”运算，使其构成线性空间.例如将所有实n 维数对组成的集合，按照“加法”和“数乘”运算构成实数域上的线性空间，记作n R ，称为n 维向量空间.类似地，对次数不超过n 的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域R 上一个线性空间，用n H 表示，称为多项式空间.所有定义在[,]a b 上的连续函数集合，按函数加法和数与函数乘法构成数域R 上的线性空间，记作[,]C a b .类似地，记[,]p C a b 为具有p 阶连续导数的函数空间.在实数的计算问题中，对实数的大小、距离及误差界等是通过绝对值来度量的.实践中，我们常常会遇到对一般线性空间中的向量大小和向量之间的距离进行度量的问题，因此有必要在一般线性空间上，赋予“长度”结构，使线性空间成为赋范线性空间.定义1 设X 是数域K 上一个线性空间，在其上定义一个实值函数，即对于任意,x y X ∈及K α∈，有对应的实数x 和y ，满足下列条件(1) 正定性：0x ≥，而且0x =当且仅当0x =；(2) 齐次性：x x αα=；(3) 三角不等式：x y x y +≤+；称为X 上的范数，定义了范数的线性空间就称为赋范线性空间.以上三个条件刻划了“长度”、“大小”及“距离”的本质，因此称为范数公理.对n X 上的任一种范数，n X ∀∈x,y ，显然有±≥-x y x y .n R 上常用的几种范数有：(1) 向量的∞-范数：1max i i nx ∞≤≤=x(2) 向量的1-范数：11n i i x ==∑x(3) 向量的2-范数：12221()n i i x ==∑x (4) 向量的p -范数：11()n p pi p i x ==∑x其中[1,)p ∈∞，可以证明向量函数()p N x x ≡是nR 上向量的范数. 前三种范数是p -范数的特殊情况（lim p p ∞→∞=x x ）.我们只需表明(1).事实上1111111max max max n n p pp p i i i i i n i n i n i i x x x x ≤≤≤≤≤≤==⎛⎫⎛⎫≤≤≤ ⎪ ⎪⎝⎭⎝⎭∑∑及max 1p →∞=，故由数学分析的夹逼定理有1l i m ma x i p p i nx ∞→∞≤≤==x x 。
数值分析第三章
称为1 − 范数 , 称为 2 − 范数 .
(
b 2 ∫a f ( x )dx
)，
1 2
三、内积与内积空间
R n中向量x及y定义内积 : ( x, y ) = x1 y1 + L + x n y n .
定义3 上的线性空间， 定义3 设X是数域 K ( R或C)上的线性空间，对 ∀u, v ∈ X， 中一个数与之对应， 并满足条件： 有K中一个数与之对应，记 为( u, v )，并满足条件： (1) ( u,v ) = (v , u), ∀u,v ∈ X ; (2) (αu,v ) = α ( u,v ), α ∈ R; (3) ( u + v , w ) = ( u,w ) + (v,w ), ∀u,v,w ∈ X ; (4) ( u, u) ≥ 0, 当且仅当 u = 0时， , u) = 0. (u 则称( u, v )为X上的u与v的内积. 定义了内积的线性空间 称 的共轭， 为内积空间. (v , u)为( u,v )的共轭，当 K = R时 (v , u) = ( u,v ).
2)
j =1
∑ α ju j = 0 ⇔ ( ∑ α ju j , ∑ α ju j ) = 0
j =1 n j =1
n
n
n
⇔ ( ∑ α j u j , uk ) = 0, k = 1,L, n.
j =1
∴ G非奇异 ⇒ u1 , u2 ,L, un线性无关 (反证法 )；反之亦然 .
在内积空间X上可以由内积导出一种范数, 即对u ∈ X , 记 || u ||= (u , u )， Cauchy − Schwarz不等式得出. (1.10) 易证它满足范数定义的正定性和齐次性, 而三角不等式由
第三章数值分析
n ( R , ) 赋范线性空间
连续函数空间 (无穷范数)
定义于区间[a,b]上连续函数的集合C[a,b]是一线性空 间。定义
f
max f ( x) , f C[a, b]
a xb
是一赋范线性空间, 记为 (C[a, b], ) 证明：对 f , g C[a, b], r R
于该范数是一赋范线性空间, 记为 (C[a, b], 2 ) 证明：对 f , g C[a, b], r R
f
rf
2
2
0, f C[a, b]
b 2 1 2 a
f
b a
2
0 f 0
1 2 2
[ r 2 f ( x)dx] r [ f 2 ( x)dx] r f
( x) c00 ( x) c11 ( x)
若为线性空间V的一组基，则 是一个n+1维线性空间
cnn ( x)
V span{0 , 1 ,
, n }
背景：在某一函数集合中找最好的近似。
赋范空间、内积空间、正交多项式 最佳平方逼近 曲线最小二乘拟合 最佳一致逼近（工科研究生不要求）
逼近问题之一：最佳平方逼近
Φ为赋范线性空间 (C[a, b], ) 的有限维子空间 (1)假设其维数为n+1 n { } (2)函数组 i i 0是该子空间上的一组线性无关基 (3) span{0 ,1, ,n } 范数取为 2 * * * * ( x ) c c c 求 0 0 1 1 nn 使得
f c
i 0
n
* i i 2
min f cii
数值分析第3章
∫
b
a
x n ρ ( x)dx(n = 0,1,L) 存在且有限值 ;
(3)[a,b]非负连续函数g( x)若 )[a,b]非负连续函数 )[a,b]
∫
b
a
g ( x）ρ ( x)dx = 0，
则g( x) ≡ 0
则称其为区间[a,b]上的权函数. 上的权函数. 则称其为区间 上的权函数
11
3.2 正交多项式
定理对任意的f(x)∈C［a,b］，在 a,b］ 定理对任意的f(x)∈C［a,b］，在Pn［a,b］中 f(x)∈C ］， 都存在对f(x)的最佳一致逼近元，记为p (x)， f(x)的最佳一致逼近元 都存在对f(x)的最佳一致逼近元，记为p*n(x)，即
* f ( x ) − pn ( x ) ∞
•在Pn［a,b］中，是否存在一个元素pn(x)， 在 a,b］ 是否存在一个元素p (x)， 使不等式 ≤‖f(x)‖f(x)‖f(x)-p*n(x)‖∞≤‖f(x)-pn(x)‖∞ (1) 对任意的p a,b］成立? 对任意的pn(x)∈Pn［a,b］成立?
29
最佳逼近多项式 多项式的存在性 一、 最佳逼近多项式的存在性
定义1： 定义 ：设
f ( x ), g ( x ) ∈ c[a , b], 称 ∫ ρ ( x ) f ( x ) g ( x )dx为
b a
f(x),g(x)关于权 ρ ( x ) 的内积，记为 g). 关于权 内积，记为(f, 定义2 定义2 足
b
如果函数f(x), 上连续, 如果函数f(x), g(x) 在[a,b]上连续,满
= min max { f ( x ) − pn ( x )
pn ∈H n a ≤ x ≤b
《数值分析》第3讲：函数逼近与计算
函数的逼近与计算
pn * ( x) ? 1、Chebyshev给出如下概念
设 f ( x) C[a,b], 如p果( x) Hn ,
f (x)
|
p( x0 )
f
(
x0
)
|
max
a xb
|
p( x)
f ( x) |
p4 0*(x)
则称 x是0 偏差点。
如果 p( x0 ) f ( x0 ) 则称 x是0 正偏差点。
b
2a
a0 (
x ) 0 (
x)k
(
x)dx
b
b
2a an( x)n( x)k ( x)dx 2a ( x) f ( x)k ( x)dx
即
I ak
2a0 0( x),k ( x) 2a11( x),k ( x)
2an n( x),k ( x) 2 f ( x),k ( x)
函数的逼近与计算
则
1
1 1
2
n1
1 H 2
1 3
1 n2
1 n 1
1 n2
1 2n 1
例3.2 (P56)
已知 f ( x) 1 x2 C[0, 1], span{1, x}
则
1
(0 , 0 )
1dx 1,
0
(0 , 1)
1
1
xdx
0
2
(1, 0 )
1
1
xdx ,
▲ 1856年解决了椭圆积分的雅可比逆转问题，建立了椭圆函数 新结构的定理，一致收敛的解析函数项级数的和函数的解析性的 定理，圆环上解析函数的级数展开定理等。
函数的逼近与计算
数值分析第3章函数逼近和快速傅立叶变换
数值分析第3章函数逼近和快速傅立叶变换第3章的内容主要涉及函数逼近和快速傅立叶变换。
函数逼近是指通过一系列已知数据点来估计一个函数的近似值。
快速傅立叶变换是一种高效计算连续傅立叶变换的方法。
函数逼近是数值分析中一项重要任务，它涉及到通过一组已知数据点来估计一个未知函数的值。
常用的函数逼近方法包括多项式逼近、三角函数逼近和样条函数逼近。
多项式逼近是利用一组已知数据点来构造一个多项式，使得该多项式在这些数据点上的值与已知数据点的值尽可能接近。
多项式逼近的基本思想是利用多项式的线性组合来近似未知函数，通过最小化误差函数来确定逼近多项式的系数。
多项式逼近的优点是简单易实现，但是当数据点较多或者函数较复杂时，多项式逼近的结果可能不够精确。
三角函数逼近是利用三角函数的线性组合来近似未知函数。
三角函数逼近的基本思想是利用三角函数的周期性来估计未知函数的值。
通过最小化误差函数来确定逼近三角函数的系数。
三角函数逼近适用于具有周期性的函数，在信号处理和图像处理中得到广泛应用。
样条函数逼近是利用多个局部的插值多项式来逼近未知函数。
样条函数逼近的基本思想是将整个待逼近区间分成多个子区间，每个子区间内使用一个插值多项式来逼近未知函数。
通过最小化误差函数来确定样条函数的系数。
样条函数逼近适用于具有较强光滑性的函数，在计算机图形学和计算机辅助设计领域得到广泛应用。
快速傅立叶变换（FFT）是一种高效计算连续傅立叶变换的方法。
傅立叶变换可以将一个连续函数分解成若干个正弦和余弦函数的和，它在信号处理、图像处理和通信等领域有着重要应用。
传统的傅立叶变换算法的时间复杂度为O(n^2)，而快速傅立叶变换算法的时间复杂度为O(nlogn)，能够极大地提高计算效率。
快速傅立叶变换的基本思想是将一个长度为n的序列分解成两个长度为n/2的序列，通过递归地进行这种分解，最终得到长度为1的序列。
然后再通过合并各个子问题的解来得到原始序列的傅立叶变换。
数值分析第3章108页
3.1.1 函数逼近与函数空间
问题 1、数值计算中经常要计算函数值，如计算机中计算 基本初等函数及其他特殊函数；
2、当函数只在有限点集上给定函数值，要在包含该 点集的区间上用公式给出函数的简单表达式.
这些都涉及到在区间 [上a, b用] 简单函数逼近已知复杂 函数的问题， 这就是函数逼近问题.
称为连续函数空间.
2
函数类B通常为 n次多项式，有理函数或分段低次多项 式等.
数学上常把在各种集合中引入某些不同的确定关系称为 赋予集合以某种空间结构，并将这样的集合称为空间.
例如将所有实 n维向量组成的集合，按向量加法及向量 与数的乘法构成实数域上的线性空间， 记作 R n ，称为 n维 向量空间.
9
定义2 设 S为线性空间，xS，若存在唯一实数‖·‖， 满足条件：
（1） x 0, 当且仅当 x 0 时，x 0; （正定性）
（2） xx, R;
(齐次性)
（3） xyxy, x,y S . (三角不等式)
则称‖·‖为线性空间 S上的范数，S与‖·‖一起称为赋范
线性空间，记为 X .
10
例如，在 R n上的向量 x (x1,,xn)T R n,三种常 用范数为
，
n
其元素
p(x)Hn 表示为
p (x ) a 0 a 1 x a n x n ,
（1.2）
它由n 1个系数(a0,a1,,an) 唯一确定.
1, x, , xn 是线性无关的，它是 H n 的一组基，故
H nspan{ 1 ,x,L,xn},
且 (a0,a1,,an)是 p( x) 的坐标向量，H n 是 n 1维的.
满足‖·‖∞ =1 ，即 max1 x ,x{ 2}1 的向量为单位正 方形，
数值分析A 第三章函数逼近论 06
§2函数逼近Ⅰ一些概念定义 设P 是一个数域，V 是一个非空集合，在V 上定义了两种运算：1. 加法：对任意的元素,u v V ∈，在V 中有唯一的元素（记为u v +）与之对应，满足()(),,,,,.u v v u u v V u v u v u v Vωωω+=+∀∈++=++∀∈且V 中存在唯一的元素（称零元素，记为0），使得0,u u u V +=∀∈对每个,u V ∈存在唯一的元素（称为u 的负元素记为-u ）与之对应，满足()0u u +-=2. 数乘 ：对任意的P α∈和u V ∈，在V 中有唯一的元素（记为u α）与之对应，满足()()()()1,,,,,,,,,,,u u u V u u P u V u v u v P u v Vu u u P u Vαβαβαβαααααβαβαβ=∀∈=∀∈∈+=+∀∈∈+=+∀∈∈称V 为一个数域P 上的线性空间。
定义 设V 是P 上的线性空间，内积是VxV 到数域P 的一个映射，即对于V 中的任意元素对u 和v ，有P 中的唯一的一个数（记为（,u v ））与之对应，满足：()()()()()()()()()()()()()1,,,,,,;2,,,,,3,,,,4,0;u,u 00u v u v u v V u v u v u v V Pu v v u u v Vu u u V u ωωωωααα+=+∀∈=∀∈∈=∀∈≥∀∈=⇔=则(),u v 称为u 与v 的内积，定义了内积的线性空间V 成为内积空间。
3. 设V 是一个数域P 上的线性空间。
定义V 到R 的一个映射 ，即对任意的u V ∈，都有一个实数u 与之对应，满足以下性质。
（1）正定性：0,;00u u V u u ≥∀∈=⇔=（2）齐次性：,,u u u V P ααα=∀∈∈（3）三角不等式：,,u v u v u v V +≤+∀∈称 为V 上的范数。
定义了范数的线性空间称为赋范线性空间。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
P ( xk ) f ( xk ) 1 f , Pn* ， 1
k
n2
b, s.t.
(充分性)：设[a, b]上至少有n 2个点a x1 x2 x P ( xk ) f ( xk ) 1 f , Pn* ， 1
一致逼近或 均匀逼近 均方逼近或 平方逼近
max a x b f ( x) P( x)
f ( x) P( x) 2
b
a
f ( x) P( x) dx
2
存在性问题： f(x)C[a,b], 是否存在
Pn(x) f(x)(uniformly)?
Th1. (Weierstrass定理)设f(x)C[a,b]， >0, 多项式P(x)， s.t. f ( x) P( x) 在[a,b]上一致成立。 Weierstrass,德，
3个重要推论
推论1
证
最佳逼近多项式唯一
设f ( x)有两个最佳逼近多项式P( x), Q( x), 则x [a, b] - En P( x) f ( x) En , - En - En Q( x) f ( x) En , P( x) Q( x) f ( x) En 2 P( x) Q( x) R( x) 也是f ( x)的最佳逼近多项式， 2 且R ( x) f ( x)的n 2个交错点组x1 x2 x n 2 满足 R ( xk ) f ( xk ) 1 En
k
En R( xk ) f ( xk )
P( xk ) f ( xk ) Q( xk ) f ( xk ) 2 2
(*)
P( xk ) f ( xk ) En Q( xk ) f ( xk ) En 而 ， 2 2 2 2 P( xk ) f ( xk ) Q( xk ) f ( xk ) En 当且仅当 时(*)成立 2 2 2 P( xk ) Q( xk ) P( x) Q( x)有n 2个根，而P( x) Q( x)是不超过n次的多项式。 矛盾
Approximation_introduction
第三章 函数逼近/*Approximation */
§1 引言 问题提出：f(x)C[a,b]
插值法是函数逼近的一种重要方法，在插值节点上准确 逼近。高次插值光滑性好，但不一定收敛，分段低次插值 一致收敛，但光滑性差。 当xx0时，可用Taylor展开逼近， ( n ) f x0 n f ( x) f ( x0 ) f ( x0 ) x x0 x x0 n! 当|x-x0|较大时，逼近误差很大。光滑性好，但需知道导 数值，且收敛范围有限，收敛速度很慢。 寻找一种新的逼近函数，简单、光滑性好，例如多项式， 且能“均匀的”逼近f(x).
如何求最佳逼近多项式?
二、最佳逼近多项式的特性和切比雪夫定理
偏差点
Def 3
Pn ( x ) H n , there must exist x0 [a, b], s.t. f ( x0 ) Pn ( x0 ) max a x b f ( x ) Pn ( x )
正、负偏差 点
* n
Def2
if P ( x) H n , s.t. ( f , P ) En
* n
称为f(x)在[a, b]上的最佳一致逼近多项式或最小偏 差逼近多项式，简称最佳逼近多项式。
最佳逼近多项式的存在性?
Th2
f ( x) C[a, b], there must exist a polynomial Pn* ( x) H n , s.t. ( f , Pn* ) En
max a x b f ( x) Pn ( x)
称为f(x)与 Pn ( x) 在[a,b]上的偏差。
En inf Pn H n ( f , Pn ) inf Pn H n max a x b f ( x) Pn ( x)
称为f(x)在[a, b]上的最小偏差 所有偏差的下确界 En 0 最小偏差有下界0
approximation_introduction
对函数类A中给定的函数f(x)，要求在另一类简单的便于计算 的函数类B中，求函数p(x)BA，使p(x)与f(x)之差（误差） 在某种度量意义下最小。
A:C[a,b]
B:代数多项式，分式有理函数，三角多项式 度量标准： f ( x) P( x)
注: 1.设f(x)C[0,1], P(x)= 则 1885年提出， 时年70岁； 1912年Bernstein (俄)证明
2.
类似地，
§2 最佳一致逼近多项式 一、问题描述：切比雪夫(俄)从另一观点研究一致逼 近问题，不是让多项式次数n,而是固定n. Hn={次数不超过(≤)n的代数多项式}C[a, b], {1, x, …, xn}构成它的一组基，Hn =span{1, x, …, xn}.
* n
切比雪夫 交错点组
n2
b, s.t.
(反证)设Pn*不是最佳逼近多项式，则有Pn* ( x) Q ( x) H n , s.t. max a x b Q ( x) f ( x) max a x b Pn* ( x) f ( x) Pn* ( x) Q ( x) Pn* ( x) f ( x) Q ( x) f ( x) 在点x1 x2 x n 2 上的符号与Pn* ( x) f ( x)一致 Pn* ( x) Q ( x)也在点x1 x2 x n 2 上轮流取, Pn* ( x) Q ( x)有n 1个零点
Pn ( x0 ) f ( x0 )
最佳逼近多项式偏差点的性质
Th3
Pn* ( x) H n , Pn* ( x)是最佳逼近多项式 Pn* ( x)同时存在正负偏差点.
证明：Pn* ( x)是f ( x)的最佳逼近多项式 Pn* ( x)在[a,b]上总存在偏差点，使得 En
Pn ( x) H n , Pn ( x) a0 a1 x an x n , ai R
f ( x) C[a, b], 求Pn* ( x ) H n , s.t . f ( x) P ( x) min Pn H n f ( x ) Pn ( x ) ,
同理可证只有负偏差没有正偏差也是不成立的
几何 解释
曲线y=p(x)在[a,b]上总是位于y=f(x)+En与y=f(x)-En形成 的带形之间，且与这两条曲线至少各接触一次。
Pn* ( x) H n , Pn* ( x)是最佳逼近多项式
Chebyshov,1859
Th4
证
Pn* ( x)在[a, b]上至少有n 2个轮流为 , 的偏差点, 即有n 2个点a x1 x2 x
Pn* ( x) Q ( x) 0是不超过n次的多项式，其零点个数不超过n. 矛盾 必要性证明见北大、吉大、南大合编的“计算方法”P.67
说明： 1. 1的取法： Pn* ( x1 ) f ( x1 ) 0, 1; 否则 1； 若
2. Pn* ( x)在[ a, b]上是f ( x)的最佳逼近多项式， Pn* ( x)在[a, b]的一个子区间上不一定是f ( x)的最佳逼近多项式
P1 (a) f (a) P1 (b) f (b) P1 ( x2 ) f ( x2 ) f (b) f (a) a1 f ( x2 ) a0 a1a f (a) a0 a1b f (b) ba a0 a1a f (a) a0 a1 x2 f ( x2 ) a f (a) f ( x2 ) f (b) f (a) a x2 0 2 ba 2 f (a) f ( x2 ) f (b) f (a) a x2 P1 ( x) x 2 ba 2 x1 a，x3 b满足
(反证法)设只有正偏差点无负偏差点，则
x [a, b], 有 Pn* ( x) f ( x) En , Pn* ( x) f ( x) C[ a, b] min a x b Pn* ( x) f ( x) En , 设 min a x b Pn* ( x) f ( x) En 2h, h>0, 则x [ a, b], 有 En 2h Pn* ( x ) f ( x) En En h Pn* ( x) h f ( x) En h Pn* ( x) h f ( x) En h Pn* ( x) h 与f ( x )的偏差小于En，与En是最小偏差矛盾
推论3
f ( x)在[a, b]上有n 1阶导数，且f ( n 1) ( x)在[a, b]上保号(恒正恒负)， 则区间端点a, b必属于切比雪夫交错点组
证：设a或b不属于交错点组，则R(x)=f(x)-P(x)在开区间(a,b) 内至少有n+1个点
a 1 2 n 1 b, s.t. R(i ) 0, i 1, 2,, n 1. 由Roll定理知， 在(a, b)内至少存在一个，.t. R ( n 1) ( ) 0, s 而 R ( n 1) ( x) f ( n 1) ( x) - P ( n 1) ( x) f ( n 1) ( x), 从而 f ( n 1) ( ) 0, 与f ( n 1) ( x)在[a, b]上保号矛盾。
一次最佳逼近多项式
Th4给出了最佳逼近多项式的特性，但要求出 Pn* ( x) 却相当困难。现讨论n=1的情形。
设f ( x) C 2 [a, b], 且f ( x)在[a, b]上保号，在H1 (线性函数类)中寻求 最佳一次逼近多项式 P ( x) a0 a1 x, 即要确定a0 , a1 1