3、线性代数方程组的直接解法
解线性代数方程组的直接方法
n1n n
( n 1) n 1
a x b (n)
(n)
nn n
n
x b a = ( n )
n
n
(n) nn
n
x b a x a ( (i)
i
i
(i) )
(i)
ij j
ii
j i 1
i n 1 , n 2 , L , 1
例1：用消去法解方程组
x1 x2 x3 6; 4x2 x3 5;
. (k 2,3,L , n)
a11 L D1=a11 0, Di M O
ai1 L 证：详细归纳法证(略）。
a1i M0 aii
(i 2,3,L , k).
证：详细归纳法证(略）。
a1(11)
a (1) 12
a(2) 22
L L
L L
A(1) A(k )
O
LL LL
a(k) kk
L
LL
a(k) kk
L
D2
a (1) 11
(1)
a12
(1) ( 2)
a a (2)
11 22
a22
D3
a a a (1) (2) (3) 11 22 33
a (1) 11
L
Dk
O
a (1) 1k
M
a a (1) (2) 11 22
L
a(k kk
)
;
11 1
12 2
13 3
1n n
1
a x a x a x b (2) (2) L (2) (2)
解线性方程组的直接方法
解线性方程组的直接方法一、高斯消元法高斯消元法是解线性方程组最常用的方法之一、它通过一系列的消元操作，将线性方程组转化为阶梯型方程组，从而求解未知数的值。
1.确定线性方程组的阶数和未知数的个数。
设线性方程组中有n个未知数。
2.将线性方程组写成增广矩阵的形式。
增广矩阵是一个n行n+1列的矩阵，其中前n列是线性方程组的系数矩阵，第n+1列是等号右边的常数。
3.通过初等行变换（交换行、数乘行、行加行）将增广矩阵化为阶梯型矩阵。
具体步骤如下：a.首先，找到第一个非零元素所在的列，将它所在的行视为第一行。
b.将第一行的第一个非零元素（主元）变成1，称为主元素。
c.将主元所在列的其他元素（次元素）变为0，使得主元所在列的其他元素只有主元素是非零的。
d.再找到第一个非零元素所在的列，将它所在的行视为第二行，并重复上述步骤，直到将增广矩阵化为阶梯型矩阵。
4.根据阶梯型矩阵求解未知数的值。
具体步骤如下：a.从最后一行开始，依次求解每个未知数。
首先，将最后一行中非零元素所在的列作为含有该未知数的方程，将该未知数的系数设为1b.将含有该未知数的方程中其他未知数的系数设为0，并对其他方程进行相应的变换，使得该未知数所在列的其他元素都为0。
c.重复上述步骤，直到求解出所有未知数的值。
高斯消元法的优点是简单易懂、容易实现，但当线性方程组的系数矩阵接近奇异矩阵时，计算精度可能会降低。
二、矩阵求逆法矩阵求逆法是解线性方程组的另一种直接方法。
它通过对系数矩阵求逆，然后与常数矩阵相乘，得到未知数的值。
1.确定线性方程组的阶数和未知数的个数。
设线性方程组中有n个未知数。
2.将线性方程组写成矩阵方程的形式，即Ax=b，其中A是一个n阶方阵，x和b分别是n维列向量。
3.求系数矩阵A的逆矩阵A^-1a. 首先，计算系数矩阵A的行列式det(A)。
b. 判断det(A)是否为0，如果det(A)=0，则该线性方程组无解或有无穷多解；如果det(A)≠0，则系数矩阵A可逆。
线性代数方程组的解法
2 3 2 n O( n ) 3
mult a(i , j ) a( j, j ); for k j 1 : n a(i , k ) a(i , k ) mult * a( j , k ); end b(i ) b(i ) mult * b( j ); end
end
LU分解
求A的LU分解（L是下三角矩阵，U是上三角矩阵）
1 1 1 1 3 4 3 4
LU分解
性质1 设向量
, xn ) 且 xk 0 T 则存在唯一的下三角阵 Lk I lk ek ,满足 x ( x1 , x2 ,
T
Lk x ( x1 ,
第三章 线性方程组的直接解法
/*Direct Method for Solving Linear Systems*/
求解 A x b, A R
Cramer法则:
nn
det( A) 0
Di xi D
i 1, 2,
,n
所需乘除法的运算量大约为(n+1)!+n
n=20时，每秒1亿次运算速度的计算机要算30多万年！
Gauss消去法的消元过程算法
for for
j 1: n 1
i j 1: n
2 3 2 n O( n ) 3
mult a(i , j ) a( j, j ); for k j 1 : n a(i , k ) a(i , k ) mult * a( j , k ); end b(i ) b(i ) mult * b( j ); end
方程组可化为下面两个易求解的三角方程组
Ly b Ux y
二、 高斯消去法
线性代数方程组的直接解法赖志柱
第二章线性代数方程组的直接解法教学U标：1•了解线性代数方程组的结构、基本理论以及相关解法的发展历程；2•掌握高斯消去法的原理和计算步骤，理解顺序消去法能够实现的条件，并在此基础上理解矩阵的三角分解（即LU分解），能应用高斯消去法熟练计算简单的线性代数方程组；3•在理解高斯消去法的缺点的基础上，掌握有换行步骤的高斯消去法，从而理解和掌握选主元素的高斯消去法，尤其是列主元素消去法的理论和计算步骤，并能灵活的应用于实际中。
教学重点：1.高斯消去法的原理和讣算步骤；2•顺序消去法能够实现的条件；3・矩阵的三角分解（即LU分解）；4.列主元素消去法的理论和计算步骤。
教学难点：1.高斯譎去法的原理和汁算步骤；2.矩阵的三角分解（即LU分解）；3・列主元素消去法的理论和计算步骤。
教学方法：教具：在自然科学和匸程技术中，许多问题的解决常常归结为线性方程组的求解，有的问题的数学模型中虽不直接表现为线性方程组，但它的数值解法中将问题“离散化”或“线性化”为线性方程组。
例如，电学中的网络问题、船体数学放样中建立三次样条函数问题、最小二乘法用于求解实验数据的曲线拟合问题. 求解非线性方程组问题、用差分法或有限元法求解常微分方程边值问题及偏微分方程的定解问题，都要导致求解一个或若干个线性方程组的问题。
U前，计算机上解线性方程组的数值方法尽管很多，但归纳起来，大致可以分为两大类：一类是直接法（也称精确解法）；另一类是迭代法。
例如线性代数中的Cramer法则就是一种直接法，但其对高阶方程组计算量太大，不是一种实用的算法。
实用的直接法中具有代表性的算法是高斯（Gauss）消元法，其它算法都是它的变形和应用。
在数值计算历史上，直接法和迭代法交替生辉。
一种解法的兴旺与计算机的硬件环境和问题规模是密切相关的。
一般说来，对同等规模的线性方程组，直接法对讣算机的要求高于迭代法。
对于中、低阶5<200）以及高阶带形的线性方程组，山于直接法的准确性和可靠性高，一般都用直接法求解。
线性代数方程组的直接解法
n
谱半径
列范数：
A
1
max
1 jn
i 1
aij
n
( A)
max
1 i n
i
❖行范数：
A
max
1 i n
j 1
aij
1
谱范数： A 2
1 ( AT A) 2
其中
是
1
A的T A最大特征值
20
证明：
谱范数： A 2
1 其中是1 A的T A最大特征值
1
A max Ax max[( Ax)T Ax]2
x
x c2
x
x Rn
则称 • 和 是• 上等R价n 的向量范数。
例如 x x n x
2
1
2
7
性质4 向量范数的等价性具有传递性。
性质5 Rn 的所有向量范数是彼此等价的。
性质6 （向量序列的范数极限）
设 x(k) Rn ,则 lim x(k) 的x充要条0 件是 k
lim
k
x(k) i
18
相容性：
AB max ABx max A(Bx)
x 1
x 1
max( A Bx ) A B x 1
矩阵范数的一般定义形式：
A max Ax , A Rnn
p
x p 1
p
19
Th3.5.4上述一般定义形式中分别取 p 1, 2,
从而得到常用的3种分别从属于它们的矩阵范数：
记 A (aij )nn
Ax0 A x0
则称 A是 从属于向量范数 的x矩 阵范数。 A 从属于向量范数 x的必要条件：
I 1
16
Th3.5.3 设 是 中Rn的一种向量范数,若定义 A max Ax , A Rnn
线性方程组的直接解法
线性方程组的直接解法
线性方程组（linear equation system）是一类几何问题，也是解决线性系统和代数问题的重要方法，线性方程组由多个联立方程组成，这些方程中也可能含有未知量。
直接解法是把数学模型转换为数值模型，并给出实现其解题步骤的算法，它不同于间接求解的方法，既不做任何假设，也不处理不确定性问题，只是简单地直接求解线性方程组。
解线性方程组的直接解法主要分为三种，分别是高斯消元法、列主元消去法和列坐标变换法。
高斯消元法是一种比较常用的方法，主要是把线性方程组的未知量从左到右一步步求出来，其中用到的主要技术是把矩阵中部分元素消去为零，以便求解不定线性方程组的未知量。
而列主元消去法则是以一列为主元，去消除其他联立方程中出现的此列中的变量，从而最终求出其他未知变量的值。
最后，列坐标变换法是将线性方程组转换为一个更有利于求解的矩阵，其中未知量可以直接求得解答。
除了这三种常见方法外，还有一些更特殊的直接解法，比如要解常微分方程的未知函数，可以用拉格朗日方法和分部积分方法，再比如求解雅各比方程的根，可以通过主副方程互解求解，这种方法也叫作特征根法。
综上，解线性方程组的直接解法有高斯消元法、列主元消去法、列坐标变换法等；特殊问题可以采用拉格朗日方法、分部积
分法和特征根法等。
每种方法都有自己的优势，因此在使用时，可以根据问题的特点，选择适合的方法来解决。
第三章 解线性方程组的直接法
第三章 解线性方程组的直接法3.1 引言许多科学技术问题要归结为解含有多个未知量x 1, x 2, …, x n 的线性方程组。
例如，用最小二乘法求实验数据的曲线拟合问题，三次样条函数问题，解非线性方程组的问题，用差分法或有限元法解常微分方程、偏微分方程的边值等，最后都归结为求解线性代数方程组。
关于线性方程组的数值解法一般有两类：直接法和迭代法。
1. 直接法直接法就是经过有限步算术运算，可求得线性方程组精确解的方法（假设计算过程中没有舍 入误差）。
但实际计算中由于舍入误差的存在和影响，这种方法也只能求得线性方程组的近似解。
本章将阐述这类算法中最基本的高斯消去法及其某些变形。
2. 迭代法迭代法就是用某种极限过程去逐步逼近线性方程组精确解的方法，迭代法需要的计算机存储 单元少、程序设计简单、原始系数矩阵在计算过程中不变，这些都是迭代法的优点；但是存在收敛性和收敛速度的问题。
迭代法适用于解大型的稀疏矩阵方程组。
为了讨论线性方程组的数值解法，需要复习一些基本的矩阵代数知识。
3.1.1 向量和矩阵 用nm ⨯R表示全部n m ⨯实矩阵的向量空间，nm C⨯表示全部n m ⨯复矩阵的向量空间。
()⎪⎪⎪⎪⎪⎭⎫⎝⎛==⇔∈⨯nn n n n n ij nm a a aa a aa a a a212222111211A R A 此实数排成的矩形表，称为m 行n 列矩阵。
⎪⎪⎪⎪⎪⎭⎫⎝⎛=⇔∈n n x x x 21x R x x 称为n 维列向量矩阵A 也可以写成)(n 21a ,,a ,a A = 其中 a i 为A 的第i 列。
同理⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=T T T n 21b b b A其中T i b 为A 的第i 行。
矩阵的基本运算：（1） 矩阵加法 )( ,n m n m R C ,R B ,R A B A C ⨯⨯⨯∈∈∈+=+=n m ij ij ij b a c . （2） 矩阵与标量的乘法 ij j a ci αα== ,A C （3） 矩阵与矩阵乘法 p nk kjik b acij ⨯⨯⨯=∈∈∈==∑m p n n m R C ,R B ,R A AB C ( ,1（4） 转置矩阵 ji ij T nm a c ==∈⨯ , ,A C RA（5） 单位矩阵 ()n n ⨯∈=R e ,,e ,e I n 21 ，其中 ()Tk e 0,0,1,0,0 = k=1,2,…,n（6） 非奇异矩阵 设nn ⨯∈RA ，nn ⨯∈RB 。
计算方法第三章线性方程组的直接解法
5 3
3 1
r3
r1 6
6 1 18 2
1 0
4 5 1 3
3 1
r3 r225
1 0
4 1
5 3
3 1
0 25 48 16
0 0 27 9
林龙
计算方法
6
化原方程组为三角方程组的过程为消元过程. 解三角方程组的过程为回代过程.
也可将上边的增广矩阵进一步化简.
1 4 5 3
1 0 7 1
xi
Di D
(i
1, 2,3,
)，由于方程含有n 1个
行列式.如对每个行列式按展开定理来计算.
用克莱姆法则求解,所需要的乘除运算量为
n!(n2 1) n次,若n 20用每秒一千万次的
计算机要三百万年,所以并不是凡直接法都
可以用来做实际运算.
林龙
计算方法
4
设有
§3.1直接法
a11x1 a12 x2 a21x1 a22 x2
解 : 10
7
0
7
r1 r2
5 1 5 6
林龙
计算方法
16
10 3 5
7 2 1
0 6 5
7 4 6
r2
3 10
r1
r3
5 10
r1
10
0
0
7 0.1 2.5
0 7 6 6.1 5 2.5
r2 r3
r3
1 25
r2
10 7 0 7 x3 1
0
2.5
5
2.5
x2
2.5 5x
nn
a11 a12 .... a1n 1 0 0
a21
a22
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
x2 1,
x1 0
小主元 可能导致计算 失败。
一、 列主元消去法
省去换列的步骤，每次仅选一列中最大的元。
| aik ,k | max | aik | 0
k i n
二、 全主元消去法
每一步选绝对值最大的元素为主元素，保证 Step k: ① 选取
| mik。 |1
| aik jk | max | aij | 0 ;
用Gaussian Elimination计算：
m21 a21 / a11 105
a22 1 m21 1 0.00001 10 10 10
5 5 5
b2 2 m21 1 10
5
10 5 1 1 10 5 1 1 5 5 1 1 2 0 10 10
且计算
( k 1) (k ) (k ) aij aij mik akj ( k 1) (k ) (k ) b b m b i ik k i (i, j k 1 (1) a11 a12 ... a1n x1 b1 ( 2) ( 2) ( 2) a22 ... a2 n x2 b2 . . . ... . . . . . . (n) (n) x b a nn n n
k i , j n
② If ik k then 交换第 k 行与第 ik 行; If jk k then 交换第 k 列与第 jk 列; ③ 消元 注：列交换改变了 xi 的顺序，须记录交换次序，解完后 再换回来。
9 10 例： 列 1
主 元 法
1 1 1 2
b
( 1) 1
其中
(2) (1) (1) a ij a ij m i 1 a1 j ( 2) (1) (1) b b m b i i1 1 i ( i , j 2, ..., n )
(k ) 0 ，计算因子 Step k：设akk
(k ) (k ) mik aik / akk (i k 1, ..., n)
a 0, 但如果其绝对值很小，也将会严重影响
(k ) kk
计算结果的精度。
例：单精度解方程组
105 x1 x2 1 x2 2 x1
（设机器字长 4 位）精确解为
1 x1 1.0000100 ... 5 1 10
x 2 2 x1 0.9999899 ...
(1) (1) ( 1) Step 1：设 a11 0，计算因子 mi1 ai1 / a11 (i 2, ..., n)
将增广矩阵/* augmented matrix */ 第 i 行 mi1 第1行，得
a
( 1) 11
a
( 1) 12
... a
( 1) 1n
A
( 2)
(2) b
A
则
( 2)
A2
也是严格对角占优
定理 设方程组
Ax b
，如果
A
(k ) kk
为严格对角占优矩阵。 全不为零。
则用Gauss 消去法求解时，a
选主元消去法
选主元的必要性
1
在求解线性方程组时，其系数矩阵绝大多数是非奇异的， 但可能出现主元素
(k ) akk 0, 这时，消元过程无法进行
2
即使
例 用高斯消元法解方程组
2 x1 x2 3 x3 1 4 x 2x 5x 4 1 2 3 x 2x 7 2 1
消元
记 A A (a )
(1)
(1) ij nn
(1) , b
(1) b1 . b . . (1) bn
元 法
9 9注意：这两个方程组 9 9 1 10 10 10 1 10 109 1 109 例： 在数学上严格等价。 1 1 2 1 1 2 0 1 1 全
不为0，则高斯消元法能求得方程组的唯一解。
a11 ... a1i 注：事实上，只要 A 非奇异，即 A1 存在，则可通过逐 de t(Ai ) ... ... ... 次消元及行交换，将方程组化为三角形方程组，求出 a i 1 ... a ii 唯一解。
定义 设矩阵
A (aij )n 每一行对角元素的绝对值都大于同
回代
( n) ( n) xn bn / ann
b
(i ) i
xi
a
j i 1 (i ) ii
(i ) a ij x j
n
(i n 1, ..., 1)
问题1、方程组有解的条件； 问题2、什么情况下消去法能求解； 问题3、求解的误差估计。
定理
若方程组系数矩阵A的所有顺序主子式 均
1 109
1 2 1 1
x1 1
1 1 2 0 1 1
x2 1 ,
注：列主元法没有全主元法稳定。
9 1 10 例： 列 1 1 主
109 2
1 109 9 0 10
109 x2 1 , x1 0 9 10
A 为严格对角占优阵。
行其它元素绝对值之和，则称 例 设矩阵 去得到
A (aij )n 为严格对角占优，经过一步Gauss消
a11
( 2) ( 2) a a 22 2n T a1 , , 其中 A2 A2 ( 2) ( 2) an 2 ann
第三章 解线性方程组的直接法
Ax b 本章目标求解线性方程组：
1、高斯消去法
高斯消去法 选主元消去法 约当消去法 2、矩阵三角分解法 直接分解法
平方根法
追赶法
§1 高斯消元法 /* Gaussian Elimination */ 高斯消元法： 首先将A化为上三角阵 ， 再回代求解
=