函数的逼近
第6章 函数逼近与函数插值
第六章 函数逼近与函数插值 本章介绍函数逼近与插值的有关理论和算法. 函数逼近问题与插值问题两者既有联系又有区别，它们都是用较简单的函数来近似未知的、或表达式较复杂的函数. 一般来说，函数逼近是要在整个区间、或一系列离散点上整体逼近被近似函数，而在进行插值时，则须保证在若干自变量点上的函数值与被近似函数相等. 6.1 函数逼近的基本概念 进行函数逼近一般是在较简单的函数类Φ中找一个函数p(x)来近似给定的函数f(x)，以使得在某种度量意义下误差函数p (x )?f(x)最小. 被逼近函数f(x)可能是较复杂的连续函数，也可能是只在一些离散点上定义的表格函数，而函数类Φ可以是多项式、分段多项式、三角函数、有理函数，等等. 函数逼近问题中度量误差的手段主要是函数空间的范数，下面先介绍函数空间的范数、内积等有关概念，然后讨论函数逼近问题的不同类型. 6.1.1 函数空间 线性空间的概念大家都很熟悉，其定义中包括一个元素集合和一个数域，以及满足一定运算规则的“加法”和“数乘”运算. 简单说，若这个元素集合对于“加法”和“数乘”运算封闭，则为一线性空间. 线性空间的元素之间存在线性相关和线性无关两种关系，进而又有空间的基和维数的概念. 在这里我们先考虑连续函数形成的线性空间. 例如C [a,b ]按函数加法、以及函数与实数乘法，构成一个线性空间. 对于[a,b]区间上所有k 阶导数连续的函数全体C k [a,b ]，也类似地构成一个线性空间. 我们一般讨论实数函数，因此对应的是实数域?，若讨论复数函数，则相应的是复数域?. 另外，与线性代数中讨论的向量空间?n 不同，连续函数空间是无限维的. 对线性空间可以定义范数的概念（见3.1.2节）. 针对实连续函数空间C [a,b ]，与向量空间类似，可定义如下三种函数的范数(function norm)： 1) ∞-范数 设f (x )∈C [a,b ]，则‖f (x )‖∞=max x∈[a,b ]|f (x )| . 其几何意义如图6-1所示，即函数值绝 对值的最大值. 2) 1-范数 ‖f (x )‖1=∫|f (x )|dx b a . 其几何意义如图6-2所示，即函数曲线 与横轴之间的面积总和. 3) 2-范数 ‖f (x )‖2=[∫f 2(x )dx b a ]1/2. 2-范数也常称为平方范数，其几何意义 与1-范数类似. 线性空间还有一个重要概念是内积，它 定义了空间中两个元素的一种运算. 下面给出一般的复数域上线性空间内积的定义.
神经网络作业(函数逼近)
智能控制理论及应用作业 1资料查询 BP 神经网络的主要应用： 人脸识别、风电功率预测、短时交通流混沌预测、高炉熔渣粘度预测、汇率预测、价格预测、函数逼近等 Rbf神经网络的主要应用： 函数逼近、短时交通流预测、模式识别、降水预测、民航客运量预测、遥感影像分析、声纹识别、语言识别、人脸识别、车牌识别、汇率预测 Hopfield网络应用： 车牌识别、图像识别、遥感影像分类、字母识别、交通标志识别、优化计算中的应用、联想记忆存储器的实现、 2 BP编程算法： 2.1 利用样本训练一个BP网络 注：此程序自李国勇书中学习而来 程序部分： function [ output_args ] = bp( input_args ) %UNTITLED Summary of this function goes here % Detailed explanation goes here %此设计为两层BP神经网络，3输入，3隐含层节点，两个输出 %初始化部分： lr=0.05; %%需要给定学习速率 error_goal=0.001; %期望的误差 max_epoch=100000; %训练的最大步长 a=0.9; %惯性系数 Oi=0; Ok=0; %给两组输入，以及目标输出： X=[1 1 1;-1 -1 1;1 -1 1;]; %随便给一组输入输入，训练BP网络
T=[1 1 1 ;1 1 1]; %X=-1:0.1:1; %输入范围 %T=sin(pi*X); %X=[] q=3; %隐含层的节点数自己定义，在此给3个 %初始化 [M,N]=size(X); %输入节点个数为M,N为样本数 [L,N]=size(T); %输出节点个数为L wij=rand(q,M); %先给定加权系数一组随机值 wki=rand(L,q); wij0=zeros(size(wij)); %加权系数矩阵的初始值 wki0=zeros(size(wki)); for epoch=1:max_epoch %计算开始 NETi=wij*X; %各个隐含层的净输入 for j=1:N for i=1:q Oi(i,j)=2/(1+exp(-NETi(i,j)))-1; %再输入作用下，隐含层的输出 end end NETk=wki*Oi; %各个输出层的净输入 for i=1:N for k=1:L Ok(k,i)=2/(1+exp(-NETk(k,i)))-1; %在输入作用下，输出层的输出end end E=((T-Ok)'*(T-Ok))/2; %性能指标函数，就是误差 if(E 第六章函数逼近https://www.360docs.net/doc/e81073700.html,/shuzhifenxi/index.htm 第一节曲线拟合的最小二乘法 问题的背景 通过观测、测量或试验得到某一函数在x1 ,x2,…,x n的函数值. 我们可以用插值的方法对这一函数进行近似,而插值方法要求所得到的插值多项式经过已知的这n个插值结点;在n比较大的情况下, 插值多项式往往是高次多项式, 这也就容易出现振荡现象:虽然在插值结点上没有误差,但在插值结点之外插值误差变得很,从“整体”上看,插值逼近效果将变得“很差”. 于是, 我们采用数据拟合的方法. 定义1 数据拟合就是求一个简单的函数φ(x), 例如是一个低次多项式,不要求通过已知的这n个点，而是要求在整体上“尽量好”的逼近原函数,这时在每个已知点上就会有误差y k -φ(x k),(k=1,2,…,n),数据拟合就是从整体上使误差 y k -φ(x k),(k=1,2,…,n), 尽量的小一些. 如果要求: 达到最小,因误差y k -φ(x k)可正可负 本来很大的误差可能会正负抵消,这样的提法不合理,为防止正负抵消,可以要求:达到最小,但是由于绝对值函数不可以求导,分析起来不方便,求解也很难. 为了既能防止正负抵消，又能便于我们分析、求解，提出如下问题： 求一个低次多项式φ(x) ,使得: 达到最小,此问题便是一个数据拟合的最小二乘问题. 一、直线拟合(一次函数) 通过观测、测量或试验得到某一函数在x1 ,x2,…,x n的函数值：y1 ,y2,…,y n ,即得到n组数据(x1 ,y1 ),(x2 ,y2),…,(x n ,y n ),如果这些数据在直角坐标系中近似地分布在一条直线上,我们可以用直线拟合的方法. 已知数据(x1 ,y1 ),(x2 ,y2),…,(x n ,y n ),求一次多项式φ(x)=a+bx(实际上，就是求a,b), 使得: （1） 达到最小. 注意到Q(a,b)中,x k ,y k均是已知的,而a,b是未知量,Q(a,b)是未知 量a,b的二元函数,利用高等数学求二元函数极 小值(最小值)的方法，上述问题转化为求解下 列方程组: 的解. 神经网络作业(函数逼近) 智能控制理论及应用作业 1资料查询 BP 神经网络的主要应用： 人脸识别、风电功率预测、短时交通流混沌预测、高炉熔渣粘度预测、汇率预测、价格预测、函数逼近等 Rbf神经网络的主要应用： 函数逼近、短时交通流预测、模式识别、降水预测、民航客运量预测、遥感影像分析、声纹识别、语言识别、人脸识别、车牌识别、汇率预测 Hopfield网络应用： 车牌识别、图像识别、遥感影像分类、字母识别、交通标志识别、优化计算中的应用、联想记忆存储器的实现、 2 BP编程算法： T=[1 1 1 ;1 1 1]; %X=-1:0.1:1; %输入范围 %T=sin(pi*X); %X=[] q=3; %隐含层的节点数自己定义，在此给3个 %初始化 [M,N]=size(X); %输入节点个数为M,N为样本数 [L,N]=size(T); %输出节点个数为L wij=rand(q,M); %先给定加权系数一组随机值 wki=rand(L,q); wij0=zeros(size(wij)); %加权系数矩阵的初始值 wki0=zeros(size(wki)); for epoch=1:max_epoch %计算开始 NETi=wij*X; %各个隐含层的净输入 for j=1:N for i=1:q Oi(i,j)=2/(1+exp(-NETi(i,j)))-1; %再输入作用下，隐含层的输出 end end NETk=wki*Oi; %各个输出层的净输入 for i=1:N for k=1:L Ok(k,i)=2/(1+exp(-NETk(k,i)))-1; %在输入作用下，输出层的输出 end end E=((T-Ok)'*(T-Ok))/2; %性能指标函数，就是误差 if(E 第七章 函数逼近 用简单的函数p (x )近似地代替函数f (x )，是计算数学中最基本的概念和方法之一。近似代替又称为逼近，函数f (x )称为被逼近的函数，p (x )称为逼近函数，两者之差 )()()(x p x f x R -= 称为逼近的误差或余项 在计算数学里，所谓简单的函数主要是指可以用加、减、乘、除四则运算进行计算的函数，如有理分式函数、多项式等。由于多项式最简单，计算其值只需用到加、减与乘三种运算，且求其微分和积分都很方便，所以常用它来作为逼近函数，而被逼近的函数f (x )一般是一个比较复杂的不易计算的函数或以表格形式给出的函数。 第六章介绍的插值法实际上也是函数逼近的一种方法。不过，它要求函数p (x )与f (x )在节点处具有相同的函数值 (甚至要求有相同的导数值)，但在非节点处，p (x ) 虽然有可能很好地逼f (x )，但也可能使逼近f (x ) 的误差很大，如果实际问题要求p (x )在区间[a , b ] 上每一点都“很好”地逼近的话，用插值多项式p (x ) 去逼近f (x )有时就要失败，所谓龙格现象，就是典型一例。 大家知道，用f (x )的泰勒(Taylor)展开式 )()()! 1()()(! )()(!2)() )(()()(010)1(00)(200000之间与在x x x x n f x x n x f x x x f x x x f x f x f n n n n ξξ++-++-++-''+-'+=Λ 的部分和去逼近函数f (x )，也是常用的方法。这种方法的特点是：x 越接近于x 0，误差就越小，x 越偏离x 0，误差就越大。若要使这种逼近在整个所讨论的区间上都达到精度要求，则需取很多项，这样，计算工作量就大大增加。因此，如何在给定精度下，求出计算量最小的近似式，这就是函数逼近要解决的问题，这个问题的一般提法是： 对于函数类A 中给定的函数f (x )，要求在另一类较简单的且便于计算的函数类B (? A )中寻找一个函数p (x )，使p (x )与f (x )之差在某种度量意义下最小。 一般，最常见的函数A 是区间[a , b ]上的连续函数，记作C [a , b ]。 最常用的函数类B 有代数多项式、三角多项式以及有理分式函数等。 最常用的度量标准有两种： BP网络实现分类问题 一，问题的提出 根据感知器的的相关理论易知感知器善于解决线性可分问题，而不能解决XOR问题，所以引进了BP网络，并通过相关知识来解决分类问题。 反向传播网络（Back-Propagation Network,简称BP网络）是将W-H学习规则一般化，对非线性可微分函数进行权值训练的多层网络。BP网络主要用于函数逼近，模式识别，分类，数据压缩。在人工神经网络的实际应用中，80%~90%的人工神经网络模型是采用BP网络或它的变化形式，也是前行网络的核心部分，体现了人工神经网络最精华的部分。 一个具有r个输入和一个隐含层的神经网络模型结构如图所示 下图所示是S型激活函数的图型，可以看到f ()是一个连续可微的函数，一阶导数存在。对于多层网络，这种激活函数所划分的区域不再是线性划分，而是有一个非线性的超平面组成的区域。它还可以严格利用梯度算法进行推算，他的权值修正的解析式十分明确，其算法被称为误差反向传播法，简称SP算法。 BP算法是有两部分组成：信息的正向传递与误差的反向传播。在正向传播过程中，输入信息从输入经隐含层逐层计算传向输出层，每一层神经元的状态值影响下一层神经元的状态。如果在输出层没有得到期望的输出，则计算输出层的误差变化值，然后转向反向传播，通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到期望的目标。 BP网络分类问题 原程序： function main() InDim=2; % 样本输入维数OutDim=3; % 样本输出维数 % figure % colordef(gcf,'white') % echo off % clc % axis([-2,2,-2,2]) % axis on % grid % xlabel('Input x'); 函数逼近与曲线拟合 3.１函数逼近的基本概念 3.1.1 函数逼近与函数空间 在数值计算中常要计算函数值，如计算机中计算基本初等函数及其他特殊函数；当函数只在有限点集上给定函数值，要在包含该点集的区间上用公式给出函数的 简单表达式，这些都涉及到在区间上用简单函数逼近已知复杂函数的问题，这就是函数逼近问题．上章讨论的插值法就是函数逼近问题的一种．本章讨论的函数逼近，是指“对函数类Ａ中给定的函数，记作，要求在另一类简单的便于计算的函数类Ｂ中求函数，使与的误差在某种度量意义下最小”．函数类Ａ通常是区间上的连续函数，记作，称为连续函数空间，而函数类Ｂ通常为n次多项式，有理函数或分段低次多项式等．函 数逼近是数值分析的基础，为了在数学上描述更精确，先要介绍代数和分析中一些基本概念及预备知识． 数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将为样的集合称为空间．例如将所有实n维向量组成集合，按向量加法及向量与数的乘法构成实数域上的线性空间，记作，称为n维向量空间．类似地，对次数不超过n（n为正整数）的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域上的一个线性空间，用表示，称为多项式空间．所有定义在上的连续函数集合，按函数加法和数与函数乘法构 成数域上的线性空间，记作．类似地，记为具有p阶的连续导数的函数空间． 定义１设集合Ｓ是数域Ｐ上的线性空间，元素，如果存在不全为零的数，使得 ， (3.1.1)则称线性相关．否则，若等式(3.1.1)只对成立，则称线性无关． 若线性空间Ｓ是由n个线性无关元素生成的，即对都有 则称为空间Ｓ的一组基，记为，并称空间Ｓ为n维空间，系数称为x在基下的坐标，记作，如果Ｓ中有无限个线性无关元素，…，则称Ｓ为无限维线性空间． 下面考察次数不超过n次的多项式集合，其元素表示为 ， (3.1.2）它由个系数唯一确定．线性无关，它是的一组基，故，且是的坐标向量，是维的．对连续函数，它不能用有限个线性无关的函数表示，故是无限维的，但它的任一元素均可用有限维的逼近，使误差 （为任给的小正数），这就是著名的Weierstrass定理．定理１（Weierstrass）设，则对任何，总存在一个代数多项式，使 课程作业 题目：函数逼近理论与方法 学院：数学与统计学院 专业：计算数学 研究方向：数字图像处理 学生姓名：安静 学号：2013201134 教师：张贵仓 函数逼近的理论与方法综述 函数逼近论是函数论的一个重要组成部分，涉及的基本问题是函数的近似表示问题。在数学的理论研究和实际应用中经常遇到下类问题：在选定的一类函数中寻找某个函数g,使它是已知函数在一定意义下的近似表示，并求出用g 近似表示而产生的误差。这就是函数逼近问题。在函数逼近问题中，用来逼近已知函数的函数类可以有不同的选择，即使函数类选定了，在该函数中用作的近似表示的函数g 的确定方式仍然是各式各样；g 对函数近似表达时产生的误差也有各种不同的含义。所以，函数逼近问题的提法具有多种多样的形式，其内容十分丰富。 一、 几种常用的插值函数 1.拉格朗日（Lagrange ）插值 设y =()f x 是实变量x 的点值函数, 且已知()f x 在给定的1n +各互异点01,,,n x x x 处 得值01,, ,n y y y 即(),0, ,i i y f x i n ==差值的基本问题是, 寻求多项式()p x , 使得 (),0, ,i i p x y i n == (1-1) 设()p x 是一个m 次多项式()p x =2 012m m a a x a x a x ++++, 0m a ≠ 则差值问题是, 如何确定()p x 中的系数01,,,m a a a , 使得(1-1)式满足, 所以该问题等 价于求解下述的线性方程组 2 0102000 21112111 2012m m m m m m m m m n a a x a x a x y a a x a x a x y a a x a x a x y ?++++=?++++=??? ?++++= ? (1-2) 上述的线性方程组的系数矩阵为 2 00 02 11121 11 m m m n n m x x x x x x A x x x ????? ? =???????? 他是一个()()11n m +?+的矩阵. 当m A >时, A 的列数大于行数, 不难证明矩阵A 的秩数为1n +. 因为A 的前1n +列所组成的行列式为 函数逼近的几种算法及其应用 摘要 在自然科学与技术科学领域中存在着大量的需要解决的非线性问题.近年来人们在数值与函数逼近问题以及计算机辅助几何设计的研究中取得了一系列深刻的结果．随着高性能、大容量计算机的出现，使得过去难以实现的问题变为可能，所以关于函数逼近的理论研究和应用有着巨大的发展潜力．本课设中共有两章，第一章介绍了函数逼近的产生及研究意义，基础知识，最佳平方逼近法，曲线拟合的最小二乘法，有理逼近，三角多项式逼近的算法的几种函数比较方式.第二章从函数逼近的应用角度，详细介绍了有理函数逼近在数值优化中的应用和泰勒级数判定迭代法的收敛速度，以及几种函数逼近的计算实例. 关键词最佳平方逼近法；曲线拟合的最小二乘法；有理逼近；三角多项式逼近； 帕徳逼近 目录 引言 (1) 第一章函数逼近 (2) §1.1 函数逼近的产生背景及研究意义 (2) §1.2 基础知识 (3) §1.2.1 函数逼近与函数空间 (3) §1.2.2 数与赋空间 (4) §1.3 最佳平方逼近 (5) §1.3.1 最佳平方逼近及其计算 (5) §1.3.2 用正交函数组作最佳平方逼近 (6) §1.4 有理逼近 (8) §1.4.1 有理逼近的定义及构造 (8) §1.4.2 有理插值函数的存在性 (9) §1.4.3 有理插值函数的唯一性 (10) §1.4.4 几种常见的有理逼近 (11) §1.5 三角多项式逼近与多项式逼近 (12) §1.5.1 三角多项式逼近 (12) §1.5.2 傅里叶级数的一致收敛性 (12) §1.5.3 以2π为周期的连续函数的三角多项式逼近 (13) §1.5.4 [0,π]上连续函数的三角多项式逼近 (14) §1.5.5 闭区间上连续函数的三角多项式逼近 (14) §1.5.6 闭区间上连续函数的多项式逼近 (15) §1.6 其他函数逼近 (15) §1.6.1 曲线拟合的最小二乘法 (15) §1.6.2 泰勒级数 (16) 第二章函数逼近应用 (18) §2.1 有理逼近在数值优化中的应用 (18) §2.1.1 直线搜索方法 (18) §2.1.2 计算方法 (19) §2.1.3 计算实例 (19) §2.2 各种泰勒级数判定迭代法的收敛速度 (20) §2.3 各种函数逼近的计算实例 (21) §2.3.1 最佳平方逼近多项式计算实例 (21) §2.3.2 曲线拟合的最小二乘法计算实例 (22) §2.3.3 帕德逼近的计算实例 (23) 参考文献 (24) 教案 用多项式逼近连续函数 教学内容 介绍前苏联数学家Korovkin关于用多项式逼近连续函数的定理（Weierstrass第一逼近定理）的一种证明。 指导思想 用多项式逼近连续函数，是经典分析学中重要的结果，以往教材中介绍的证明都比较艰深，学生难以理解。我们发现了前苏联数学家Korovkin的一种证明，思想新颖，方法简单，且通过对多项式逼近连续函数的学习，可以使学生进一步理解一致收敛的概念。 教学安排 先给出多项式一致逼近连续函数的定义： 定义10.5.1设函数f (x)在闭区间[a, b] 上有定义，如果存在多项式序列｛P n (x)｝在[a, b] 上一致收敛于f (x)，则称f (x)在这闭区间上可以用多项式一致逼近。 应用分析语言，“f (x)在[a, b] 上可以用多项式一致逼近”可等价表述为：对任意给定的ε＞0，存在多项式P(x)，使得 ｜P(x) - f (x)｜＜ε 对一切x∈[a, b] 成立。 这一定理的证法很多，我们则介绍前苏联数学家Korovkin在1953年给出的证明。 定理10.5.1(Weierstrass第一逼近定理) 设f (x)是闭区间[a, b] 上的连续函数，则对任意给定的ε＞0，存在多项式P(x)，使 ｜P(x) - f (x)｜＜ε 对一切x∈[a, b] 成立。 证不失一般性，我们设[a, b] 为[0, 1] 。 设X是[0, 1] 上连续函数全体构成的集合，Y是多项式全体构成的集合，现定义映射 B n : X →Y f (t) B n (f , x) = ∑ = -- n k k n k k n x x n k f ) 1( C ) (， 这里B n (f , x) 表示f ∈X在映射B n 作用下的像，它是以x为变量的n次多项式，称为Bernstein多项式。 关于映射B n，直接从定义出发，可证明它具有下述基本性质与基本关系式： (1) B n是线性映射，即对于任意f , g ∈X及α,β∈R，成立 B n (αf +βg, x) = αB n (f , x) +βB n (g, x)； (2) B n 具有单调性，即对于任意f , g ∈X，若f (t)≥g(t) （t∈[a, b]）成立， Ch3、函数逼近与计算 §1、引言 1、引例 某气象仪器厂要在某仪器中设计一种专用计算芯片，以便于计算观测中经常遇到的三角函数以及其它初等函数.设计要求x 在区间[]b a ,中变化时，近似函数在每一点的误差都要小于某一指定的正数ε. ①由于插值法的特点是在区间[]b a ,中的1+n 个节点处，插值函数)(x P n 与被插值函数)(x f 无误差，而在其它点处)()(x f x P n ≈.对于i x x ≠，)(x P n 逼近)(x f 的效果可能很好，也可能很差.在本问题中要求)(x P n 在区间[]b a ,中的每一点都要“很好”地逼近)(x f ，应用插值方法显然是不可行的，龙格现象就是典型的例证. ②可以采用泰勒展式解决本问题. 将)(x f 在特殊点0x 处做泰勒展开 10)(00)(000)()!1()()(!)())(()()(+-++-++-'+=n n n n x x n f x x n x f x x x f x f x f ξ 取其前1+n 作为)(x f 的近似，即 )()(! ) ())(()()(00)(000x f x x n x f x x x f x f x P n n n ≈-++-'+= 但泰勒展式仅对0x 附近的点效果较好，为了使得远离0x 的点的误差也小于ε，只好将项数n 取得相当大，这大大增加了计算量，降低了计算速度.因此，从数值计算的角度来说，用泰勒展式做函数在区间上的近似计算是不合适的. ③引例提出了一个新的问题，即能否找到一个近似函数)(x P n ，比如说，它仍然是一个n 次多项式，)(x P n 不一定要在某些点处与)(x f 相等，但)(x P n 却在区间[]b a ,中的每一点处都能“很好”地、“均匀”地逼近)(x f . 2、逼近问题 对],[)(b a C x f ∈，求一个多项式)(x p ，使)()(x p x f -在某种衡量标准下最小. ①一致逼近（均匀逼近） 无穷范数：)()(max )()(x p x f x p x f b x a -=-≤≤∞ 最小 ②平方逼近（均方逼近） 欧氏范数：[]?-= -b a dx x p x f x p x f 22)()()()(最小. 3、维尔斯特拉斯定理 第三章 函数逼近与曲线拟合 1 函数的逼近与基本概念 1.1问题的提出 多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令，因此为了计算大多数有解析表达式的函数的值，必须产生可用四则运算进行计算的近似式，一般为多项式和有理分式函数.实际上，我们已经接触到两种逼近多项式，一种是泰乐多项式，一种是插值多项式.泰乐多项式是一种局部方法，误差分布不均匀，满足一定精度要求的泰乐多项式次数太高，不宜在计算机上直接使用.例如，设 ()f x 是[1,1]-上的光滑函数，它的Taylor 级数0 ()k k k f x a x ∞ ==∑， ()(0) ! k k f a k = 在[1,1]-上收敛。当此级数收敛比较快时，1 1()()()n n n n e x f x s x a x ++=-≈。这个误差分布是不均匀的。当0x =时，(0)0n e =，而x 离开零点增加时，()n e x 单调增加，在1x =±误差最大。为了使[1,1]-的所有x 满足()()n f x s x ε-<，必须选取足够大的n ，这显然是不经 济的。插值函数出现的龙格现象表明，非节点处函数和它的插值多项式相差太大。更重要的是，实际中通过观测得到的节点数据往往有各种误差，此时如果要求逼近函数过全部节点，相当于保留全部数据误差，这是不适宜的。如图1所示，给出五个点上的实验测量数据，理论上的结果应该满足线性关系，即图1中的实线。由于实验数据的误差太大，不能用过任意两点的直线逼近函数。如果用过5个点的4次多项式逼近线性函数，显然误差会很大。 1.2范数与逼近 一、线性空间及赋范线性空间 要深入研究客观事物，不得不研究事物间的内在联系，给集合的元素之间赋予某种“确定关系”也正是这样的道理.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将这样的集合称为空间。最常用的给集合赋予一种“加法”和“数乘”运算，使其构 成线性空间.例如将所有实 n 维数对组成的集合，按照“加法”和“数乘”运算构成实数域上的线 性空间，记作n R ，称为n 维向量空间.类似地，对次数不超过n 的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域R 上一个线性空间，用n H 表示，称为多项式空间。所有定义在[,]a b 上的连续函数集合，按函数加法和数与函数乘法构成数域R 上的线 性空间，记作[,]C a b .类似地，记[,]p C a b 为具有p 阶连续导数的函数空间. 在实数的计算问题中，对实数的大小、距离及误差界等是通过绝对值来度量的.实践中，我们常常会遇到对一般线性空间中的向量大小和向量之间的距离进行度量的问题，因此有必要在一般线性空间上，赋予“长度”结构，使线性空间成为赋范线性空间. 定义1 设 X 是数域K 上一个线性空间，在其上定义一个实值函数g ，即对于任意 ,x y X ∈及K α∈，有对应的实数x 和y ，满足下列条件 (1) 正定性：0x ≥，而且0x =当且仅当0x =； (2) 齐次性：x x αα=； 实验数据 真函数 插值多项式逼近 精确的线性逼近 图1 第六章 函数逼近 用简单的函数近似代替复杂函数，是计算数学中最基本的方法之一。近似又 称为逼近，被逼近的函数与逼近函数之差)()()(x p x f x R -=称为逼近的误差或余项。 简单函数：仅用加、减、乘、除。多项式是简单函数。插值也可 以理解为一种逼近形式。用 Taylor 展开： 10)1(00) (000)()! 1()()(!)())(()()(++-++-+ -'+=n n n n x x n f x x n x f x x x f x f x f ξ 的部分和逼近f (x )也是一种逼近方法，其特点是：x 越接近于x 0，误差就越小。如何在给定精度下求出计算量最小的近似式，这就是函数逼近要解决的问题。逼近的度量标准有：一致逼近和平方逼近。 6.1 函数内积 本节介绍几个基本定义：权函数、内积、正交、正交函数系。 定义1 设ρ (x )定义在有限或无限区间[a , b ]上，若具有下列性质：(1) ρ (3) 对非负的连续函数g (x )，若?=b a dx x x g 0)()(ρ，则在(a , b )上g (x ) ≡ 0，称ρ (x )为[a , b ]上的权函数。 常用权函数有：2 11)(],1,1[x x -= -ρ； x e x -=∞)(],,0[ρ；2 )(],,[x e x -=∞+-∞ρ；1)(],1,1[=-x ρ等。 定义2 设f (x )，g (x ) ∈ C [a , b ]，ρ (x )是[a , b ]上的权函数，则称 ?=b a dx x g x f x g f )()()(),(ρ为f (x )与g (x )在[a , b ]上以ρ (x )为权函数的内积。 内积有如下性质：(1) (f , f )≥0，且(f , f )=0 ? f = 0；(2) (f , g ) = (g , f )； 第三章 插值法与最小二乘法 3.7 最小二乘法 一、教学目标及基本要求 通过对本节课的学习，使学生掌握数值逼近的拟合方法。 二、教学内容及学时分配 本章主要介绍数值分析的最小二乘法。具体内容如下：曲线拟合原理，最小二乘法。 三、教学重点难点 1．教学重点：曲线拟合。 2. 教学难点：最小二乘法。 四、教学中应注意的问题 多媒体课堂教学为主。适当提问，加深学生对概念的理解。 一．曲线拟合 1.问题提出： 已知多组数据(),,1,2,,i i x y i N =L ，由此预测函数()y f x =的表达式。 数据特点：（1）点数较多。（2）所给数据存在误差。 解决方法：构造一条曲线反映所给数据点的变化总趋势，即所谓的“曲线拟合”。 2.直线拟合的概念 设直线方程为y=a+bx 。 则残差为：?i i i e y y =-,1,2,,i N =L ，其中?i i y a bx =+。 残差i e 是衡量拟合好坏的重要标志。 可以用MATLAB 软件绘制残差的概念。 x=1:6; y=[3,4.5,8,10,16,20]; p=polyfit(x,y,1); xi=0:0.01:7; yi=polyval(p,xi); plot(xi,yi,x,y, 'o'); y1=polyval(p,x); hold on for i=1:6 plot([i,i],[y(i),y1(i)], 'r'); end 可以绘制出如下图形： 三个准则： （1）max i e 最小 （2）1n i i e =∑最小 （3）21 N i i e =∑最小 3.最小二乘法的直线拟合 第一章 预 备 知 识 §1 函数逼近论简介 一、 函数逼近论（approximation of funcyions ） 函数论的一个重要组成部分，涉及的基本问题是函数的近似表示问题。在数学的理论研究和实际应用中经常遇到下面问题： 在选定的一类函数中寻找某个函数g ，使它是已知函数f 在一定意义下的近似表示，并求出用g 近似表示 f 而产生的误差。这就是函数逼近问题。在函数逼近问题中，用来逼近已知函数f 的函数类可以有不同的选择；即使函数类选定了，在该类函数中用作f 的近似表示的函数g 的确定方式仍然是各式各样的；g 对f 的近似程度（误差）也可以有各种不同的含义。所以函数逼近问题的提法具有多样的形式，其内容十分丰富。 二、逼近函数类 给定函数()f x ，用来逼近()f x 的函数一般要在某个较简单的函数类中找，这种函数类叫做逼近函数类。逼近函数类可以有多种选择。n 次代数多项式，亦即一切形如公式0n k k k a x =∑（其 中0, ,n a a 是实数，0,1,,k n =）的函数的集合；n 阶三角多项式，亦即一切形如公式 01(cos sin )n k k k a a kx b kx =++∑(其中0, ,n a a ,0,,n b b 是实数，0,1,,k n =）的函数的集合，这些 是最常用的逼近函数类。其他如由代数多项式的比构成的有理分式集，由正交函数系的线性组合构成的（维数固定的）线性集，按照一定条件定义的样条函数集等也都是很有用的逼近函数类。在一个逼近问题中选择什么样的函数类作逼近函数类，这要取决于被逼近函数本身的特点，也和逼近问题的条件、要求等因素有关。 三、逼近方法 给定f 并且选定了逼近函数类之后,如何在逼近函数类中确定作为f 的近似表示函数g 的方法是多种多样的。例如插值就是用以确定逼近函数的一种常见方法。所谓插值就是要在逼近函数类中找一个()g x ，使它在一些预先指定的点上和()f x 有相同的值，或者更一般地要求()g x 和()f x 在这些指定点上某阶导数都有相同的值。利用插值方法来构造逼近多项式的做法在数学中已有相当久的历史。微积分中著名的Taylor 多项式便是一种插值多项式。此外，在各种逼近问题中，线性算子也是广泛应用的一大类逼近工具。所谓线性算子是指某种逼近 {}m in m ax ()()f x p x -型问题 ——切比雪夫最佳函数逼近理论应用 一、知识点 设函数()f x 在[],a b 上有二阶导数，且()f x ''在[],a b 上不变号(即恒为正或负)，则存在()f x 在[],a b 上的线性最佳一致逼近多项式()1p x 。 （其中1()p x 指1次最佳逼近，简称为一次函数、一次多项式） ①理论证明与计算：略②几何意义计算：直线()1y p x =与弦MN 平行,且过线段MQ 的中点D ，其方程为 221( )()()() ()22f a f x a x f b f a p x x b a ++-?? =+?- ?-?? 说明：根据理论，Q 为()()1f x p x -的极值点，且仅有1个。 ∴212()()0f x p x ''-=，而12()MN p x k '=，所以2()MN f x k '=∴Q 点的几何特征是：过点Q 的直线l MN 且l 与()y f x =相切 此时： {}1min max ()()max ()() a x b a x b f x p x f x p x <<<<-=- 其中的一个核心要素：会求Q 的横坐标 方法1：结合几何特征，利用()2MN f x k '=方法2：结合特殊图像，可以得出的一些结论 ①若()f x 的图像是平口单峰函数，显然易知此时图像特征为（示意图为张口朝上） ：（ⅰ）0MN k =，Q 就为()f x 极值点； （ⅱ）()()f a f b =； （ⅲ）直线l 处于正中间；（ⅳ）{}()()2min max ()()a x b f a f x f x p x <<--=②若()f x 的图像不是平口单峰函数，构造为平口单峰函数 第七章 函数逼近 用简单的函数p (x )近似地代替函数f (x )，是计算数学中最基本的概念和方法之一。近 似代替又称为逼近，函数f (x )称为被逼近的函数，p (x )称为逼近函数，两者之差 )()()(x p x f x R -= 称为逼近的误差或余项 在计算数学里，所谓简单的函数主要是指可以用加、减、乘、除四则运算进行计算的函 数，如有理分式函数、多项式等。由于多项式最简单，计算其值只需用到加、减与乘三种运算，且求其微分和积分都很方便，所以常用它来作为逼近函数，而被逼近的函数f (x )一般是一个比较复杂的不易计算的函数或以表格形式给出的函数。 第六章介绍的插值法实际上也是函数逼近的一种方法。不过，它要求函数p (x )与f (x ) 在节点处具有相同的函数值 (甚至要求有相同的导数值)，但在非节点处，p (x ) 虽然有可能很好地逼f (x )，但也可能使逼近f (x ) 的误差很大，如果实际问题要求p (x )在区间[a , b ] 上每一点都“很好”地逼近的话，用插值多项式p (x ) 去逼近f (x )有时就要失败，所谓龙格现象，就是典型一例。 大家知道，用f (x )的泰勒(Taylor)展开式 )()()! 1()()(!)()(!2)() )(()()(010)1(00)(200000之间与在x x x x n f x x n x f x x x f x x x f x f x f n n n n ξξ++-++-++-''+-'+= 的部分和去逼近函数f (x )，也是常用的方法。这种方法的特点是：x 越接近于x 0，误差就越小，x 越偏离x 0，误差就越大。若要使这种逼近在整个所讨论的区间上都达到精度要求，则需取很多项，这样，计算工作量就大大增加。因此，如何在给定精度下，求出计算量最小的第六章 函数逼近
神经网络作业(函数逼近)
函数逼近
BP函数逼近
函数逼近与曲线拟合
函数逼近的理论与方法综述
函数逼近的几种算法和应用
用多项式逼近连续函数
ch函数逼近与计算
数值分析 函数逼近与曲线拟合
计算方法讲义：六 函数逼近
3.7-数值计算方法教案-曲线拟合与函数逼近
逼近论第一第二章
切比雪夫最佳函数逼近理论应用(1)
第三章函数逼近