数值分析-第二章-学习小结

第2章线性方程组的解法--------学习小结一、本章学习体会本章主要学习的是线性方程组的解法。

而我们则主要学习了高斯消去法、直接三角分解法以及迭代法三种方法。

这三种方法的优缺点以及适用范围各有不同。

高斯消去法中，我们又学习了顺序高斯消去法以及列主元素高斯消去法。

顺序高斯消去法可以得到方程组的精确解，但要求系数矩阵的主对角线元素不为零，而且该方法的数值稳定性没有保证。

但列主元素高斯消去法因为方程顺序的调整，其有较好的数值稳定性。

直接三角分解法中，我们主要学习了Doolitte分解法与Crout分解法。

其思想主要是：令系数矩阵A=UL，其中L为下三角矩阵，U是上三角矩阵，为求AX=b 的解，则引进Ly=b,Ux=y 两个方程，以求X得解向量。

这种方法计算量较小，但是条件苛刻，且不具有数值稳定性。

迭代法（逐次逼近法）是从一个初始向量出发，按照一定的计算格式，构造一个向量的无穷序列，其极限才是所求问题的精确解，只经过有限次运算得不到精确解。

该方法要求迭代收敛，而且只经过有限次迭代，减少了运算次数，但是该方法无法得到方程组的精确解。

二、本章知识梳理针对解线性方程组，求解线性方程组的方法可分为两大类：直接法和迭代法，直接法（精确法）：指在没有舍入误差的情况下经过有限次运算就能得到精确解。

迭代法（逐次逼近法）：从一个初始向量出发，按照一定的计算格式，构造一个向量的无穷序列，其极限才是所求问题的精确解，只经过有限次运算得不到精确解。

我们以前用的是克莱姆法则，对于计算机来说，这种方法运算量比较大，因此我们学习了几种减少运算次数的方法，有高斯消去法、直接三角分解法，同时针对病态方程组，也提出了几种不同的解法。

Gauss消去法Gauss消去法由消元和回代两个过程组成，消元过程是指针对方程组的增广矩阵，做有限次初等行变化，使它系数矩阵变为上三角矩阵。

顺序Gauss消去法消元过程：对于K=1,2,3…,n-1执行(1)如果a aa(a)=0,则算法失效，停止计算；否则转（2）(2)对于a=a+1,a+2,…,a计算a aa=a aa(a)a aa(a)⁄a aa(a+1)=a aa(a)−a aa a aa(a) (a=a+1,a+2,…,a)a a(a+1)=a a(a)−a aa a a(a)回代过程：a a=a a(a)a aa(a)⁄a a=(a a(a)−∑a aa(a)a aaa=a+1)a aa(a)⁄ (a=a−1,a−2, (1)综上：顺序Gauss消去法的数值稳定性是没有保证的。

列主元Gauss消去法1.消元过程对于K=1,2,3…,n-1执行（1）选行号a a，使得|a aa (a)|=aaaa≪a≪a|a aa(a)|（2）交换a kj(k)与a ik (k)(j=k,k+1,…,n)以及bk(k)与bi k(k)所含的数值。

（3）对于a=a+1,a+2,…,a计算a aa=a aa(a)a aa(a)⁄a aa(a+1)=a aa(a)−a aa a aa(a) (a=a+1,a+2,…,a)a a(a+1)=a a(a)−a aa a a(a)回代过程：a a=a a(a)a aa(a)⁄a a=(a a(a)−∑a aa(a)a aaa=a+1)a aa(a)⁄ (a=a−1,a−2, (1)经验证，列主元Gauss消元法有很好的数值稳定性。

直接三角分解法三角分解法的思想：系数矩阵A=UL，其中L为下三角矩阵，U是上三角矩阵，为求AX=b 的解，则引进Ly=b,Ux=y两个方程，以求X得解向量。

杜利特尔)分解L为单位下三角矩阵，U为上三角矩阵定理：矩阵A=[a ij]n×n(n≫2)有唯一的能进行Doolittle(杜利特尔)分解的充分必要条件是：A的前n-1个顺序主子式不等于0（1）A的Doolitte分解的计算公式对于k=1,2,…,n计算a aa=a aa−∑a aa a aaa−1a=1(a=a,a+1,…,a)a aa=(a aa−∑a aa a aaa−1a=1)a aa(a=a+1,a+2,…,a;a<a)⁄解的计算公式：y1=b1a a=a a−∑a aa a aa−1a=1(a=2,3,…,a)a a=a a a aa⁄a a=(a a−∑a aa a aaa=a+1)a aa (a=a−1,a−2, (1)⁄（2）选主元的Doolitte分解法：定理：若矩阵A∈R n×n非奇异，则存在置换矩阵Q，使得QA可做Doolitte分解，QA=LU，其中L是单位下三角矩阵，U是上三角矩阵。

只有矩阵A非奇异，则通过对A 做适当的行变换就可以进行Doolitte分解，而不必要求A的前n-1个顺序主子式不为0.进行选主元的Doolitte分解法具体算法如下：1）做分解QA=LU对于K=1,2，…，n 执行2）计算中间量a a=a aa−∑a aa a aa(a=a,a+1,…,a)a−1a=1选行号i k,使得|a aa |=aaaa≤a≤a|a a|,令M k=i l若i k=k,则转下一步，否则交换a aa与a aa a(t=1,2,…k-1)、a aa与a aa a(t=k,k+1,…n)以及a a与a aa所含的数值，转下一步计算a kk=s k a aa=a aa−∑a aa a aaa−1a=1(a=a+1,…,a;a<a)a aa=(a aa−∑a aa a aaa−1a=1)a aa(a=a+1,a+2,…,a;a<a)⁄3）求Qb对于K=1,2，…，n-1 执行t=M k交换b k与b t所含的数值4）求解Ly=Qb和Ux=yy1=b1a a=a a−∑a aa a aa−1a=1(a=2,3,…,a)a a=a a a aa⁄a a=(a a−∑a aa a aaa=a+1)a aa (a=a−1,a−2, (1)⁄克劳特)分解L为下三角矩阵，U为单位上三角矩阵推论：矩阵A=[a ij]n×n(n≫2)有唯一的能进行Crout(克劳特)分解分解的充分必要条件是：A的前n-1个顺序主子式不等于0A的Crout(克劳特)分解的计算公式对于k=1,2,…n计算a aa=a aa−∑a aa a aaa−1a=1(a=a,a+1,…,a)a aa=(a aa−∑a aa a aaa−1a=1)a aa(a=a+1,a+2,…,a;a<a)⁄解的计算公式：a1=a1a11⁄a a=(a a−∑a aa a aa−1a=1)a aa⁄(a=2,3,…,a)a a=a aa a=a a−∑a aa a aaa=a+1(a=a−1,a−2, (1)三角分解法解带状线性方程组定理：（1）A=[a ij]n×n是上半带宽为s，下半带宽为r的带状矩阵（2）A的前n-1个顺序主子式均不为零则A有唯一的Doolitte分解A=LU，其中L是下半带宽为r的单位下三角矩阵，U是上半带宽为s的上三角矩阵。

（1）作分解A=LU对于k=1,2,…,n计算a aa =a aa −∑a aa a aa a −1a =max (1,a −a ,a −a )(a=a .a +1,…,min (a +a ,a ))a aa=(a aa −∑a aa a aa a −1a =max (1,a −a ,a −a ))a aa (a =a +1,a +2,…,min (a +a ,a );a <a )⁄（2）求解Ly=b,Ux=yy 1=b 1a a =a a −∑a aa a a a −1a =max (1,a −a )(a =2,3,…,a )a a =a a a aa ⁄a a =(a a −∑a aa a a min (a +a ,a )a =a +1)a aa (a =a −1,a −2,…,1)⁄迭代法迭代法（逐次逼近法）：从一个初始向量出发，按照一定的计算格式，构造一个向量的无穷序列，其极限才是所求问题的精确解，只经过有限次运算得不到精确解。

迭代法的一般形式及其收敛性 （1）一般形式：Λ,2,1,0,)()1(=+=+k d X G Xk kG 为迭代矩阵（2）向量顺序的收敛：（1）按坐标收敛；（2）按范数收敛。

（3）矩阵序列的收敛 （4）迭代公式的收敛性1.向量序列的收敛（极限）（1）定义：设向量ΛΛ,2,1,0,),,,()()(2)(1)(==k x x x XT k n k k k 若ni x x i k ik ,,2,1,lim *)(Λ==∞→（按坐标收敛），则称序列{})(k X收敛于X *，记为*)(lim X Xk k =∞→.⇔=∞→*)(lim X X k k *)(lim i k ik x x =∞→⇔0lim *)(=-∞→X X k k（2）向量序列收敛的充要条件*)(lim X X k k =∞→0lim *)(=-⇔∞→X X k k（3）矩阵序列的极限,n m k C A ⨯∈],[)(k ij k a A =若,,,2,1,,,2,1,lim )(n j m i a a ij k ijk ΛΛ===∞→则称][ij a A =为矩阵序列}{k A 的极限，记作：A A k k =∞→lim迭代收敛的条件 （1）谱半径（2）迭代收敛的充要条件 （3）迭代收敛的充分条件 （4）迭代终止的条件 迭代（1）分量形式i n in i ii i i b x a x a x a x a =++++Λ2211)(1∑≠-=i j j ij i ii i x a b a x n i x a b a x i j k j ij i ii k i,,2,1),(1)()1(Λ=-=∑≠+ n i x a b a x ij k j ij i ii k i,,2,1),(1)()1(Λ=-=∑≠+ （2）矩阵形式b D X A D I X k k 1)(1)1()(--++-=（3）Jacobi 迭代矩阵)(11U L D A D I G J +-=-=--A=D-（-L-U ） 迭代（异步迭代法） （1）分量形式n i x a x a b a x i j ni j k j ij k j ij i ii k i,,2,1),(1111)()1()1(Λ=--=∑∑-=+=++ n i x a x a b a x i j n i j k j ij k j ij i ii k i,,2,1),(1111)()1()1(Λ=--=∑∑-=+=++ （2）矩阵形式Λ,2,1,0,)()1(=+=+k d GX X k k b L D Ux D L x k k 1)(1)1()()(--++++-=（3）GS 迭代矩阵U D L G G 1)(-+-=A=(D+L)-(-U)U D L G G 1)(-+-=逐次超松弛迭代法（SOR 迭代） （1）分量形式⎪⎩⎪⎨⎧+-=--=++-=+=++∑∑)1()()1(111)()1()1(~)1()(1~k i k i k ii j ni j k j ij k j ij i ii k ix x x x a x a b a x ωω （2）计算公式])11([111)()()1()1(iii i j ni j k i k jiiijk jiiijk ia bx x aa x a a x ∑∑-=+=+++----=ωω（3）矩阵形式b D UX D LX D X k k k 1)(1)1(1)1(~--+-++--=)1()()1(~)1(+++-=k k k XXXωωb L D X U D L D X k k 1)(1)1()1(])11[()1(--++++-+-=ωωωb L D X U D L D Xk k 1)(1)1()1(])11[()1(--++++-+-=ωωω（4）SOR 迭代矩阵])11[()1(1U D L D G S +-+-=-ωωω>1, 逐次超松弛迭代法 ω<1, 逐次低松弛迭代法 ω=1, GS 迭代法U D L D A +-++=)11(1ωω])11([1U D L D ----+=ωω三、本章思考题Jacobi 迭代、Gauss-Seidel 迭代、逐次超松弛迭代法三种迭代方法，各有其优缺点以及适用范围，能否将三种方法有机结合，从而得到一个新的算法，使其适用范围和计算精度有所提升思路：使用类似加权平均的方法将三种方法的计算公式结合，已达到预期目标。