【精品】第三章函数逼近及最小二乘法

第三章函数逼近及最小二乘法第三章 函数逼近及最小二乘法 §1 内积空间及函数的范数定义1 设)(x ρ是定义在(a,b)上的非负函数，且满足：1）dx x x nba )(ρ⎰存在 （n=0,1,2,…） 2）对非负的连续函数g(x)，若0)()(=⎰dx x x g b a ρ则在(a,b)上有g(x)=0，则称)(x ρ为(a,b)上的权函数。

定义2 设f(x),g(x)为[a,b]上的连续函数，)(x ρ为(a,b)上的权函数，称),(g f = dx x x g x f ba )()()(ρ⎰为函数f(x)与g(x)在[a,b]的内积。

特别当)(x ρ=1时，上式变为),(g f = dx x g x f b a ⎰)()(设],[b a C 表示在区间[a,b]上连续函数的全体，那么定义了内积之后，],[b a C 就变成了一个内积空间。

显然有),(f f = dx x x f ba )()(2ρ⎰为一个非负值，因此我们有定义3 对],[)(b a C x f ∈，称),()(2f f x f =为)(x f 的欧氏范数（又称2-范数）。

其实，我们还经常用到函数的其他范数。

比如，)(max)(xfxfbxa≤≤∞=dxxxfxf ba)()()(1ρ⎰=n维向量空间中两个向量正交的定义也可以推广到连续内积空间],[baC中.定义4 若],[)(),(baCxgxf∈,满足),(gf = dxxxgxf ba)()()(ρ⎰=0则称函数f(x)与g(x)在[a,b]上带权)(xρ正交.若函数族),(,),(),(1xxxnϕϕϕ满足⎰⎩⎨⎧=>≠==bakkjkj kjAkjdxxxx)()()(),(ϕϕρϕϕ则称函数族{})(x kϕ是[a,b]上带权)(xρ的正交函数族.特别地,若1=kA ,就称之为标准正交函数族.由高等数学的知识，我们知道, Foureir级数展开中函数族 1,cosx,sinx,cos2x,sin2x,……即为],[ππ-上带权)(xρ=1的正交函数族.如同线性代数中的向量组线性无关概念一样,在此也有函数组的线性无关概念.定义5设函数组)(,),(),(11xxxn-ϕϕϕ 在[a,b]上连续,若)()()(1111=+++--xaxaxannϕϕϕ当且仅当011====-naaa 时成立,则称函数族)(,),(),(11xxxn-ϕϕϕ 在[a,b]上是线性无关的.否则称为线性相关函数组。

若函数族 ),(,),(),(10x x x n ϕϕϕ满足任何有限个)(x k ϕ组成的函数组都是线性无关的。

则称此函数族为线性无关函数族。

例如：1， ,,,,2n x x x 即为任意区间[a,b]上的线性无关函数族。

若)(,),(),(110x x x n -ϕϕϕ 在[a,b]上是线性无关的函数组，且110,,,-n a a a 是任意实数，则)()()()(111100x a x a x a x s n n --+++=ϕϕϕ的全体是C[a,b]中的一个子集，记作)}(,),(),({110x x x span n -=ϕϕϕϕ称为由)(,),(),(110x x x n -ϕϕϕ 生成的连续函数空间。

判断)(,),(),(110x x x n -ϕϕϕ 线性无关的条件由下定理给出，定理 )(,),(),(110x x x n -ϕϕϕ 在[a,b]上线性无关的充要条件为0),(),(),(),(),(),(),(),(),(111101111101101000≠------n n n n n n ϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕ。

§2 正交多项式一般地，给定区间[a,b]及权函数)(x ρ后，由1，n x x x ,,,2 可以用Schmidt 正交化方法构造出n 次正交多项式，其公式为：1)(0=x ϕ，)())(),(())(,()(1x x x x x x x j k j j j j k k k ϕϕϕϕϕ∑-=-= （2-1）n k ,,2,1 =这样构造的正交多项式有以下性质：① )(x k ϕ是最高项系数为1的k 次多项式； ② 任何k 次多项式均可表示为前k+1个多项式)(,),(),(10x x x k ϕϕϕ 的线性组合；③ 对于l k ≠，有0),(=l k ϕϕ，并且k ϕ与任一次数小于k 的多项式正交。

例： 给定区间[0,1]及权函数x xx ln 1ln)(-==ρ，由1，n x x x ,,,2 用Schmidt 正交化方法构造出前3个正交多项式)(),(),(210x x x ϕϕϕ。

解 由公式（2-1）知，1)(0=x ϕ，)(),(),()(00001x x x x ϕϕϕϕϕ-=，--=)(),(),()(0000222x x x x ϕϕϕϕϕ)(),(),(11112x x ϕϕϕϕ，其中，11ln ),(1000==⎰dx x ϕϕ，411ln ),(100==⎰dx x x x ϕ，911ln ),(10202==⎰dx x x x ϕ，由此得41)(1-=x x ϕ14451ln )41(),(10212=-=⎰dx x x x x ϕ，14471ln )41(),(10211=-=⎰dx x x ϕϕ 得)41(7591)(22---=x x x ϕ=25217752+-x x 。

2-1 Legendre 正交多项式Legendre 正交多项式为区间[-1,1]及权函数1)(=x ρ时，由1，n x x x ,,,2 用Schmidt 正交化方法构造出的n 次正交多项式。

它是由Legendre 于1785年首先引入的，1814年Rordrigul 给出了更简单的表示式，即,1)(0=x p {}nnn nn x dx d n x p )1(!21)(2-= ,2,1=n （2-2） 易见，)(x p n 的最高次项的系数与nnn nx dxd n 2!21的系数是相同的，所以)(x p n 的最高次项，n x 的系数为2)!(2)!2(n n n ，从而得到最高次项系数为1的Legendre 正交多项式为{}nnnn x dxd n n x p )1()!2(!)(~2-= （2-3）以下是Legendre 正交多项式的几个重要性质： 性质1 正交性⎰-⎪⎩⎪⎨⎧=+≠=111220)()(n m n n m dx x p x p m n （2-4）证明 令n x x )1()(2-=ϕ，显然0)1()(=±k ϕ)10(-≤≤n k 设)(x Q 是[-1,1]上 n 阶连续可导函数，由分部积分⎰-=11)()(dx x Q x p n ⎰-11)()()(!21dx x x Q n n n ϕ ⎰--='-=11)1()()(!21 dx x x Q n n n ϕ⎰--=11)()()(!2)1(dx x x Q n n nn ϕ 若)(x Q 是次数小于n 的单项式时，0)()(=x Q n ，故得 ⎰-=11,0)()(dx x p x p m n 当n m ≠时。

若)()(x p x Q n =)(!21)(x n n n ϕ= +=nn x n n 2)!(2)!2( 则 )()()()(x p x Q n nn =!2)!2(n n n =⎰-=112)(dx x p n 22)!(2)!2()1(n n nn -⎰--112)1(dx x n22)!(2)!2(n n n =⎰--112)1(dx x n 22)!(2)!2(2n n n =⎰-102)1(dx x n又 ⎰-102)1(dx x n)12(31)2(42+⋅⋅=n n 代入上式得⎰-=112)(dx x p n 122+n ，得证。

性质2 奇偶性 )()1()(x p x p n n n -=-证明 由于n x )1(2-为偶函数，n 为偶数时，相当于偶函数求偶次导数，结果仍为偶函数。

n 为奇数时，相当于偶函数求奇次导数，结果为奇函数。

性质3 递推关系 ,1)(0=x p ,)(1x x p =)()()12()()1(11x np x xp n x p n n n n -+-+=+ 1>n （2-5）证明 由于)(x xp n 为一个n+1次多项式，所以它可以表示成)()()()(111100x p a x p a x p a x xp n n n +++++= （2-5）两边乘以)(x p k ，并在[-1，1]上积分，再由正交性知⎰⎰--=11211)()()(dx x p a dx x p x xp k k k n （2-6）当2-≤n k 时，)(x xp k 为一个次数小于等于n-1的多项式，)(x xp k 为)(,),(),(110x p x p x p n - 的线性组合，)(x p n 与它们正交，所以（2-6）式左端等于0，得0=k a ，2,,2,1,0-=n k当n k =时，（2-6）式中)()()(2x xp x p x xp n k n =为奇函数，（2-6）式左端等于0，∴0=n a 。

由以上讨论知（2-5）式变为)()()(1111x p a x p a x xp n n n n n ++--+= （2-7）比较（2-7）两端1+n x的系数，得1211++=+n n a n ，在（2-7）式中取x=1，并注意到Legendre 正交多项式)(x p n 满足1)1(=n p （),2,1,0 =n 得到111+-+=n n a a ，∴121+=-n na n 。

得证。

性质4 )(x p n 在[-1，1]内有n 个不同的零点。

性质5 在[-1,1]区间上，所有最高项系数为1的n 次多项式中，Legendre 正交多项式{}nnnn x dxd n n x p )1()!2(!)(~2-=的欧氏范数（2-范数）最小。

即 2)(2)(min )(~x q x p Jx q n ∈= 。

其中J={最高项系数为1的n 次多项式}。

2-2 Chebyshev 正交多项式Chebyshev 正交多项式为区间[-1,1]及权函数211)(x x -=ρ时，由1，n x x x ,,,2 用Schmidt 正交化方法构造出的n 次正交多项式。

其表达式为)arccos cos()(x n x T n = 1≤x （2-8）若令θcos =x ，则有θn x T n cos )(= ],0[πθ∈ Chebyshev 正交多项式有如下性质： 性质1 )(x T n 有以下递推关系,1)(0=x T ,)(1x x T =)()(2)(11x T x xT x T n n n -+-= （2-9）证明 ∵=+θ)1cos(n θθcos cos n θθsin sin n -=-θ)1cos(n θθcos cos n θθsin sin n +两式相加，得 =+θ)1cos(n θθcos cos 2n θ)1cos(--n ，并由θcos =x 及θn x T n cos )(=得证。