计算方法课 第六章解线性代数方程组的直接法
K jk
主元消去法，消去过程得到三角形方程组仍记为：
A Y b
用矩阵和向量的记号来表示： Ax b 其中 A (aij )nn ,
b bi , x xi
若
A 非奇异，方程组有唯一解
6.1 高斯消去法
一、过程（消元过程）
二、回代过程（求解过程） 计算过程：
(1 (1 a11) x1 a12) x2 a1(1) xn b1(1) n (1) (1) (1) (1) a 21 x1 a 22 x2 a 2 n xn b2 A(1) x b (1) a (1) x a (1) x a (1) x b (1) n2 2 nn n n n1 1
6.2 主元素消去法 先看一个例子： 0.0003x1 3.0000x 2 2.0001
1.0000x1 1.0000x2 1.0000
2 x2 3
准确解为：
1 x1 , 3
现在用高斯消去法求解， 取五位有效数字， 把第2个方程中的 x1消去，得到
0.0003x1 3.0000x2 2.0001 9999 0 x2 6666 0 . .
bi( k 1) bi( k )
( aijk 1) 0
a
(k ) ik
(k a kk )
b
(ik , j n )
(k ) k
( k 1i n , k 1 j n )
(i j k , j 1 i n)
( (n x n bnn ) a nn ) 回代过程： n (i ) (i ) xi aij x j aii j i 1
(1) (1) a11 x1 a12 x2 a1(1) xn b1(1) n (2) (2) (2) a22 x2 a2 n xn b2 (3) (3) a33 x3 a3n xn b3(3) (n ( ann ) xn bnn )
即可以求得方程组的解
三、高斯消去法的运算量
只计算乘除法的运算量，在消去第一列的 n 1
需作乘 法运算 个系数，
n (n 1) 次 (n列 , n 1行) ,消去第二列需作
(n 1) (n 2) 次 乘法运算，总起来，
把 A (1) 化成 A(n ) 所需要的乘法运算的量为：
所以 n 1 步以后有：
因此 A(1) M11 M 2 1 M N11 A(n)
令 U A (n )
1 1 L M11 , M 2 1 M n2 M n1
我们有 A(1) LU
1 其中 L 有形式： m21 1 L m31 m32 1 mn1 mn 2 1
第六章 解线性代数方程组的直接法
本章研究的对象是
n 阶线性代数方程组：
a11 x1 a12 x2 a1n xn b1 a x a x a x b 21 1 22 2 2n n 2 ...... an1 x1 an 2 x2 ann xn bn
事实上只要A非奇异， 就存在初等变换矩阵P和Q， 使PAQ＝LU, 当方程组AX＝b的系数矩阵A
一旦实现了这种分解， 那么方程组可以写成LUX＝b
令UX=Y，则有
令UX=Y，则有Ly=b L是对角线元素为1的下三角矩阵，因此
y1 b1 i-1 y b y2i=bii lij yi j=1 i 2，，n 3，
用矩阵 A(3) X b(3)
( 2) ( 2) 令 mi 2 ai 2 a22 ,则系数矩阵
( ( ( aij3) aij2) mi 2 a 22j) ( bi(3) bi( 2) mi 2 b22) ,
ij 3 ,4 ,, n
重复 n 1 次后，即可得到等价的三角形方程组
取四位有效数字，它的准确解为：x1=1，x2=2 ，x3=3。 选主元，应该为-18, 为此,将第一方程 在三个方程的系数中， 和第二个方程交换， 并消去其余两个方程中的x1,得到
18x1 3x2 x3 15 x2 2.333x3 5.00 1.167x 0.994x 5.167 2 3
其中yi是向量y的分量y＝（y1,y2,…，yn）T, 再从UX=y解出X，公式为
xn yn / unn xi ( yi uij x j ) / uii
j n i 1
X＝（x1,x2,…，两个三解形矩阵的乘积。以四阶方程组为例。 设A已分解为LU的乘积，则有
n 2 (k k ) 3 (n 1) k 1
2
n
n k 2 (n 1) 要做的除法运算量是： k 1
n
回代需要乘除法总运算量是： (n 1) 高斯消去法解
n 2
n
阶线性方程
组总共需要的乘除法运算是：
1 3 1 2 n n n 3 3
（五）高斯消去法的矩阵解释与 L U 分解， 高斯消去法的消元过程 ,从矩阵运算的角度看， 其中
2 ai(2 ) (2 , mi 2 a 22 ) 1
(i 3 ,4 , , n)
即 A(3) M 2 A( 2) ,
b (3) M 2b ( 2)
A( n ) M n1 M n2 M 2 M 1 A(1) b ( n ) M n1 M n2 M 2 M 1 b (1)
从第二个方程解出x2=0.6667,
再代入第一个方程得
0.0003x1 3.0000 0.6667 2.0001
这时求得x1=0 为了控制舍入误差，
我们采用另一种消去过程，先将方程组中
的两个方程交换一下，变为：
1.0000x1 1.0000x2 1.0000 0.0003x1 3.0000x2 2.0001
(1 (1 a11) , a 22) ,…，a (n ) 我们在系数矩阵中选取绝对值最大的数作为
nn 。
(1 (1 a11) , a 22) ,…，a nn
(n )
。
12x1 3 x 2 3 x3 15 例2 解方程组 18x1 3 x 2 x3 15 x x x 6 2 3 1
消去第二个方程中的x1，得
1.0000 x1 1.0000 x 2 1.0000 2.9997 x 2 1.9998
从而求得x2=0.6667, x1=0.3333 结果与准确解十分相近， 这个例子告诉我们控制舍入误差是十 分必要的。 主元素消去法的思想： 作为除数的有 在消去过程中，
于是将未知数x2和x3 第二次选主元应为2.333， 进行交换后消去x3,得：
18x1 x3 3 x 2 15 2.333x3 x 2 5.000 1.572x 3.144 2
解得：x2=2.000，x3=3.000，x1=1.000 选好主元素以后， 把方程组进行适当的行列交换， 若要交换i,k 和k两个方程的位置， 相当于在系数矩阵及 右端项上左乘如下排列 矩阵。
a x a x a x (2) (2) a22 x2 a2 n xn (2) (2) a32 x2 a3n xn (2) (2) an 2 x2 ann xn
(1) 11 1 (1) 12 2
(1) 1n n
b
(1) 1
bi( 2 ) bi(1) mi1b1(1)
(2 类似地，若 a22) 0 ，
(2 (2 a32 ) a22) 乘以第2个方程，再用第3个方程 取
减去第2个方程得：
(3) (3) (3) (3) a33 x3 a34 x4 a3n xn b3
如此下去有：
(1) (1) a11 x1 a12 x2 a1(1) xn b1(1) n (2) (2) (2) a22 x2 a2 n xn b2 (3) (3) a33 x3 a3n xn b3(3) (3) (3) (3) an3 x3 ann xn bn
(n)
( n)
这时
A( n ) Mn1 P 1 M n2 P 2 M1PA(1)Q1 , Q2 Qn n n 1
b ( n) M n1 Pn1 M n2 Pn2 M1 P b (1) 1
而
x Q1Q2 Qn1 y
6.3 LU分解. 当A的所有顺序主子式都不为零时， 矩阵A可唯于分解为两个 三角矩阵的乘积 A＝LU
其中L是单位下三角矩阵，
1 l 1 21 L l31 l32 1 ... ... ... ln1 ln 2 ... 1
u11 u12 ... u1n u22 ... u2 n U ... ... unn
(2) b2
b3(2)
(2) bn
用矩阵符号表示为： A(2) X b(2)
1 (1 令 mi1 ai(1 ) a11)
则系数矩阵 A( 2) 和右端项
中的元素计算公式
可以写成：
( ( aij2 ) aij1) mi1 a1(1j)
i, j 2 ,3 , , n
1 0 m21 1 1 ai(1 ) M 1 m31 0 1 (1 , mi1 a11) mn1 0 0 1
(i 2 ,3 , , n)
1 0 0 1 M 2 0 m32 1 0 mn1 0
解线性代数方程
解线性代数方程————————————————————————————————作者：————————————————————————————————日期：求解线性方程组的直接解法5.3特殊矩阵的三角分解①实对称矩阵的LDL T分解设A是实对称阵,且A的所有顺序主子式均不为零，则LDR分解中R=L T, 故可用以作LDL T分解.这就是说,当A的对角元素非零时，我们可以作LU分解,也就得到LDL T分解,L相同,是单位上三角阵,U的对角元素构成D.不过没有利用对称性,存储量运算量都未能节省—预计是一半。
试用n=3的计算表格说明如何实现节省。
d1=u11 =a11u12=a12l21=u12/d1u13=a13l31=u13/d1d2=u22=a22-l21u12u23=a23-l21u13l32=u23/d2u33=a33-l31u13-l32u23这样,可用上半部元素逐列计算D,L T。
也可用下半部元素逐行计算L,D。
引进輔助量t1, t2代替u1j,u2j,并利用对称性得到：d1=a11t1=a21l21= t1/d1d2= a22-t1l21t1=a31 l31=t1/d1t2=a32-t1l21l32=t2/d2d3=a33-t1l31-t2l32据此不难写出LDL T分解A=LDL T的计算公式和程序(逐行计算L,D).d1=a11for i=2:nfor j=1:i-1t j=a ij-l j1t1-l j2t2-…-l j,j-1t j-1l ij=t j/d jendd i=a ii-l i1t1-l i2t2-…- l i,i-1t i-1end存储约n(n+1)/2单元,乘加运算各约n3/6.利用LDL T分解解Ax=b分四步:1．分解A=LDL T2．解Lg=b 求g3．解Dy=g 求y4．解L T x=y 求x②实对称正定矩阵的LL T分解A实对称正定时顺序主子式皆正,可作LDL T,D的对角元素皆正,有正的平方根。
计算方法电子教案 第六章解线性代数方程组的直接法
− 18 x1 − x3 + 3x 2 = −15 2.333x3 − x 2 = 5.000 1.572 x = 3.144 2
解得：x2=2.000，x3=3.000，x1=1.000 选好主元素以后， 把方程组进行适当的行列交换，
(1) (1) a11 x1 + a12 x2 + L + a1(1) xn = b1(1) n (2) (2) (2) a22 x2 + L + a2 n xn = b2 (3) (3) a33 x3 + L + a3n xn = b3(3) L L L (n ( ann ) xn = bn n )
如交换K和jk列的位置， 而交换未知数的次序时， 则相当于右乘矩阵。
1 O 1 M M L 0 L 1 L 1 Qk = M O M 1 1 L 0 L L M M 1 O 1
6.2 主元素消去法 先看一个例子： 0.0003x1 + 3.0000 x 2 = 2.0001
准确解为：
1.0000 x1 + 1.0000 x 2 = 1.0000 1 2 x1 = , x 2 = 3 3
现在用高斯消去法求解， 取五位有效数字， 把第2个方程中的 x1消去，得到
0.0003x1 + 3.0000 x2 = 2.0001 9999.0 x2 = 6666.0
消去第二个方程中的x1，得
1.0000 x1 + 1.0000 x 2 = 1.0000 2.9997 x 2 = 1.9998
(整理)线性方程组的直接法
第二章线性方程组的直接法在近代数学数值计算和工程应用中，求解线性方程组是重要的课题。
例如，样条插值中形成的关系式，曲线拟合形成的法方程等，都落实到解一个元线性方程组，尤其是大型方程组的求解，即求线性方程组（2.1）的未知量的数值。
（2.1）其中ai j，bi为常数。
上式可写成矩阵形式Ax = b，即（2.2）其中，为系数矩阵，为解向量，为常数向量。
当detA=D0时，由线性代数中的克莱姆法则，方程组的解存在且惟一，且有为系数矩阵的第列元素以代替的矩阵的行列式的值。
克莱姆法则在建立线性方程组解的理论基础中功不可没，但是在实际计算中，我们难以承受它的计算量。
例如，解一个100阶的线性方程组，乘除法次数约为（101·100！·99），即使以每秒的运算速度，也需要近年的时间。
在石油勘探、天气预报等问题中常常出现成百上千阶的方程组，也就产生了各种形式方程组数值解法的需求。
研究大型方程组的解是目前计算数学中的一个重要方向和课题。
解方程组的方法可归纳为直接解法和迭代解法。
从理论上来说，直接法经过有限次四则运算，假定每一步运算过程中没有舍入误差，那么，最后得到方程组的解就是精确解。
但是，这只是理想化的假定，在计算过程中，完全杜绝舍入误差是不可能的，只能控制和约束由有限位算术运算带来的舍入误差的增长和危害，这样直接法得到的解也不一定是绝对精确的。
迭代法是将方程组的解看作某种极限过程的向量极限的值，像第2章中非线性方程求解一样，计算极限过程是用迭代过程完成的，只不过将迭代式中单变量换成向量而已。
在用迭代算法时，我们不可能将极限过程算到底，只能将迭代进行有限多次，得到满足一定精度要求的方程组的近似解。
在数值计算历史上，直接解法和迭代解法交替生辉。
一种解法的兴旺与计算机的硬件环境和问题规模是密切相关的。
一般说来，对同等规模的线性方程组，直接法对计算机的要求高于迭代法。
对于中等规模的线性方程组，由于直接法的准确性和可靠性高，一般都用直接法求解。
计算方法引论-第六章
• 例3(续) 2 2 3 1
2 2 3
4
7
7
2
1
3 1
2 4 5 1 2 1
6
• LU分解:顺序主子式非零,det(Ak)≠0,k=1,2,…,n-1则可
唯一分解A=LU,单位下三角阵与上三角阵之积
1
l21 1
(3) L ln
u22
计算方法引论( 第三版)
6.17
徐萃薇、孙绳武 高教2007
直接LU分解 (续)
• 计算表格
u11=a11
u12=a12
u13=a13
l21=a21/u11
u22=a22-l21u12
u23=a23-l21u13
l31=a31/u11 l32=(a32-l31u12)/ u22 u33=a33-l31u13- l32u23 – 也可逐行算,或逐列算,或其它可行次序算
l31=a31/u11 l32=(a32-l31u12)/ u22 u33=a33-l31u13- l32u23
• LDR
分解
for j = 1:n for i=2:j
aij aij ai1a1j ai2a2 j
end
ai,i1ai1, j
(计算 uij)
for i= j+1:n aij (aij ai1a1 j ai 2a2 j ai, j1a j1, j ) / ajj (计算 lij)
计算方法引论：数值代数
解线性方程组的直接法 解线性方程组最小二乘问题 解线性方程组的迭代法 矩阵特征值和特征向量的计算 非线性方程及非线性方程组解法
第六章 解线性方程组的直接法
• Gauss消去法 • 主元素法 • LU分解 • LLT分解和LDLT分解 • 误差分析
线性方程组的直接解法1
（续3）
设为
A
(k )
(k ) x b
Step k： 若 a ( k ) kk
o
,令
l ik
a ik
(k )
a kk
(k )
, （i=k+1,k+2,…n)
用- l ik 来乘以第k个方程，加到第i个方程，并保留第k 个方程， 得： （i=k+1,k+2,…n）
August 6, 2012 yfnie@ 9
Step1： 若a
(1 ) 11
0 ,令 l i 1
a i1
(1 )
a 11
(1 )
( i 2 ,3 ,... n )
,用
l i1 乘
第一个方程加到第 i 个方程 式，得
( i 2 , 3 ,... n ) ，并保留第一
August 6, 2012
yfnie@
k 1 1
k 1
n
n ( n 1) 2
11
yfnie@
• 计算量
• Gauss顺序消去法消去过程所需的乘除运算次数为
2 ( n k ) ( n k )
2 k 1
n 1
n
3
n
2
n 3
5n 6
O (n )
3
3
n
2
a kk 0
(k )
(1 k n )
k 0
(1 k n )
August 6, 2012
yfnie@
14
命题证明
A A
(1 )ቤተ መጻሕፍቲ ባይዱ
A
(k )
计算方法课件-第六章 线性方程组的直接法
1Ch01概论2Ch02插值方法3Ch03数值积分4Ch04方程求根的迭代法5Ch05线性方程组的迭代法6Ch06线性方程组的直接法7Ch07常微分方程的差分法高斯消元法矩阵分解法追赶法在工程技术、自然科学和社会科学中，经常遇到的许多问题最终都可归结为解线性方程组，如电学中网络问题、用最小二乘法求实验数据的曲线拟合问题，工程中的三次样条函数的插值问题，经济运行中的投入产出问题以及大地测量、机械与建筑结构的设计计算问题等等，都归结为求解线性方程组或非线性方程组的数学问题。
因此线性方程组的求解对于实际问题是极其重要的。
实际问题中的线性方程组分类：•按系数矩阵中零元素的个数(稠密线性方程组和稀疏线性方程组)；•按未知量的个数(高阶线性方程组和低阶线性方程组)；•按系数矩阵的形状(对称正定方程组、三角形方程组和三对角方程组)；一般形式的n阶线性方程组为：a11x1+a12x2+···+a1n x n=b1 a21x1+a22x2+···+a2n x n=b2···a n1x1+a n2x2+···+a nn x n=b n写成矩阵形式为：Ax=b其中A=a11a12 (1)a21a22 (2)............a n1a n2···a nn,x=x1x2...x n,b=b1b2...b n当系数矩阵A非奇异(即det(A)=0)时，方程组有惟一解。
线性方程组的直接解法一般包括：•Gauss消元法1Gauss消元法；2Gauss列主元消元法；•矩阵分解法1杜利特尔(Doolittle)分解；2克劳特(Crout)分解；3乔累斯基(Cholesky)分解；•追赶法高斯消元法将原方程组的增广矩阵通过初等变换，即：¯A=(A,b)=⇒(A(1),b(1))=⇒···=⇒(A(n),b(n))其中A n为上三角矩阵。
计算方法第六章解线性方程组的直接法
未知数
在方程组中需要求解的变量 。
系数
方程中未知数的系数，构成 系数矩阵。
直接法的基本思想
直接法
通过对方程组进行变换，消去未知数，从而求得方程 组的解。
高斯消元法
一种常用的直接法，通过对方程组进行初等行变换， 将系数矩阵变为上三角矩阵，然后回代求解。
列主元消元法
在高斯消元法的基础上，每次消元前选取列主元，避 免计算过程中出现零除问题，提高数值稳定性。
回代过程
从最后一行开始，将已知量代入方程求解， 得到当前未知数的解。然后逐层回代，得到 所有未知数的解。
高斯消元法的应用举例
01
求解二元一次方程 组
通过高斯消元法，可以方便地求 解二元一次方程组，得到未知数 的解。
02
求解三元一次方程 组
对于三元一次方程组，同样可以 通过高斯消元法进行求解，得到 未知数的解。
感谢您的观看
07
总结与展望
直接法的优缺点总结
精确性
直接法通过有限步精确运算可求得方程组的精确解，避免了迭代法可能产生的误差累积。
稳定性
对于适定问题，直接法的数值稳定性较好，不易受到舍入误差的影响。
直接法的优缺点总结
直接法的优缺点总结
计算量
对于大规模问题，直接法的计算 量往往很大，需要消耗大量的计 算资源和时间。
回代
从最后一个方程开始，逐个将已知量代入方程求解未知量，直到求出 所有未知量。
列主元消元法的应用举例
求解线性方程组
列主元消元法可以用于求解各种类型 的线性方程组，包括齐次线性方程组 和非齐次线性方程组。
求解最小二乘问题
列主元消元法可以用于求解最小二乘 问题，通过构造法方程组并应用列主 元消元法，可以得到最小二乘解。
线性代数方程组的直接法
目录摘要 (1)1 前言 (3)2 直接法简介 (4)2.1 Gauss消去法 (4)2.1.1 实例 (4)2.1.2 Gauss消去法的运算量 (5)2.1.3 Gauss消去法能够进行下去的条件 (6)2.2 列主元Gauss消去法 (7)2.2.1 实例 (7)2.2.2 列主元Gauss消去法的运算量 (8)2.3 全主元Gauss消去法 (8)2.3.1 实例 (9)2.3.2 全主元Gauss消去法的运算量 (9)2.4 平方根法 (9)2.4.1 实例 (10)2.4.2 平方根法的运算量 (11)2.5 改进的平方根法 (11)2.5.1 实例 (12)2.5.2 改进的平方根法的运算量 (12)2.6 追赶法 (12)2.6.1 实例 (13)2.6.2 追赶法的运算量 (14)3 直接法的误差分析 (15)3.1 线性方程组的敏感性和条件数 (15)3.2 误差分析 (17)4 数值算例 (19)4.1 算例1 (19)4.2 算例2 (19)4.3 算例3 (20)4.4 算例4 (21)5 总结 (22)参考文献 (23)致谢 (24)摘要本文采纳Matlab软件计算，介绍了解线性方程组常用的几种直接法：Gauss消去法、列主元Ga uss消去法、全主元Gauss消去法、平方根法、改进的平方根法、追逐法，及其的基本思想、解题实例和运算量；并对直接法进行了误差分析；最终通过数值算例比较前五种直接法的误差，商议其适用矩阵及其差异。
关键词：线性方程组，Gauss，平方根法，误差分析。
AbstractIn this paper, Matlab software is used to calculate and introduce several common direct methods for solving linear equations: Gauss elimination method, Column principal element Gauss elimination, Full Principal Component Gauss Elimination, Square root method, Improved square root method, Chasing method and their basic ideas, problem solving examples, and computational load.And error analysis of the direct method.Finally, the errors of the first five direct methods are compared by numerical examples, and the applicable matrix and its differences are discussed.Keywords: Linear equations, Gauss, Square root method, Error analysis.1 前言在自然科学和工程计算的领域中，很多问题往往可以归结为解线性代数方程组。
第6章 线性方程组直接法
(1) 1
(2) (2) (2) (2) a22 x2 a23 x3 ...... a2n xn b2
a x ...... a x b
(3) 33 3 (3) 3n n
(3) 3
……
a x b
( n) nn n
§2 主元素消去法
前述顺序消去法是按序通过用a11,a(2)22,…,a(n-1)n-1 (a(k)kk≠0)作为除数来达到消元目的的。在实际计算时,
由方程组的最后一个方程直接可得
xn bn / ann
将其代入倒数第二个方程可求得
xn1 (bn1 an1n xn ) / an1n1
4
第6章
解线性方程组的直接法
如此再解出xn-2,…,x2,x1,一般有
xi (bi
《 计 算 方 法 》
k i 1
n
aik xk ) / aii , i n, n 1, ,1
第6章
解线性方程组的直接法
第6章 解线性代数方程组的直接法
§1 高斯消去法
《 计 算 方 法 》
§2 主元素消去法 §3 LU分解 §4 对称正定矩阵的平方根法和LDLT分解 §5 误差分析
1
第6章
解线性方程组的直接法
《 计 算 方 法 》
n阶线性代数方程组 a11x1 + a12x2 + .….. + a1nxn = b1 a21x1 + a22x2 + .….. + a2nxn = b2 …… an1x1 + an2x2 + .….. + annxn = bn
线性代数方程组求解直接方法
LU分解法
将系数矩阵分解为一个下三角矩阵L和 一个上三角矩阵U的乘积，然后通过求 解LY=b和UX=Y两个三角形方程组得到 原方程组的解。LU分解法具有较高的数 值稳定性，适用于中小型方程组。
根据系数矩阵的第一行和最后一行元素， 计算出初始参数。
2. 追赶过程
3. 回代过程
从第二行开始，逐行进行消元，将系数矩 阵转化为上双对角矩阵。
从最后一行开始，逐行回代求解，得到方程 组的解。
平方根法的基本原理与计算步骤
基本原理
1. Cholesky分解
2. 前代过程
3. 回代过程
平方根法是一种适用于对称正 定矩阵线性方程组的求解方法 ，通过Cholesky分解将系数矩 阵分解为下三角矩阵和其转置 的乘积，进而简化计算。
收敛速度
在适当的条件下，雅可比迭代法的收敛速度可能比一般的 迭代法更快。
计算复杂度
雅可比迭代法需要计算雅可比矩阵及其逆矩阵，因此计算 量相对较大；而一般的迭代法只需要进行矩阵与向量的乘 法运算，计算量相对较小。
稳定性
雅可比迭代法的稳定性较好，对初始近似解的要求较低； 而一般的迭代法可能对初始近似解的要求较高，否则可能 导致迭代序列发散。
对系数矩阵进行Cholesky分解 ，得到下三角矩阵L。
通过下三角矩阵L，求解出中间 向量y。
利用中间向量y和下三角矩阵L 的转置，求解出方程组的解。
追赶法与平方根法的比较
适用范围
追赶法适用于三对角矩阵线性方程组， 而平方根法适用于对称正定矩阵线性方