数值分析解线性方程组的直接方法 ppt课件
5.1.3 矩阵特征值与谱半径
定义1设 AaijRnn, 若存在一个数λ(实数或复数)和非零向量
x (x 1 ,x 2 , ,x n )T R n , 使
Axx,
(1.1)
则称λ为A的特征值,x为A对应λ的特征向量,A的全体特征值称为
A的谱，记作 ( A )即 ,( A ) { 1 ,2 , ,n } 记 .
定理2.设ARnn为对称正定阵，则：
(1) A为非奇异矩阵，且A1也是对称正定阵. (2)记Ak为A的顺序主子阵,则Ak (k 1,2, , n)也是对称 正定阵, 其中
a11 a1k
Ak
ak1 akk
(k 1,2, , n)
(3)A的特征值i 0(i 1,2, , n)
所谓直接解法是指，若不考虑计算过程中的舍入误差， 经过有限次算术运算就能求出线性方程组的精确解的方法。
但由于实际计算中舍入误差的存在，用直接解法一般 也只能求出方程组的近似解。
Cramer法则是一种不实用的直接法，本章将介绍几种 实用的直接法。
5.1.2 预备知识
a11 a12 a1n
ARmn
A(aij)aa m 211
a22 am2
a24 a m n
M行n列矩阵.
x 1
， x R n
x
x2
xn
n维列向量.
A (a 1 ,a 2 , ,a n )其 a i为 A 中 的 i列 第 。同
b1T
A
, bmT
biT为A的第i行
矩阵的基本运算: (1)矩阵的加法
1 2 2
例1 求 A 2 2 4 的特征值及谱半径.
2 4 2
解: A的特征方程为
1 2 2
det(IA) 2 2 4
2 4 2
332 2428(2)2(7)0,
故A的特征值为 122,37
A的谱半径为 (A)7.
5.1.4 特殊矩阵 A (aij ) R nn . (1)对角矩阵 如果当 i j 时， aij 0. (2)三对角矩阵 如果当 | i j | 1时， aij 0. (3)上三角矩阵 如果当 i j时，aij 0. (4)上海森伯格阵 如果当 i j 1时，aij 0. (5)对称矩阵 如果 AT A. (6)埃尔米特矩阵 设Ａ Ｃnn , 如果 AH A( AH A T ) (7)对称正定矩阵 如果（ a）AT A，（ b）对任意非零向量 x R n , ( Ax, x) xT Ax 0. (8)正交矩阵 如果Ａ－１＝ＡＴ
的直接解法。方程组(5.1)的矩阵形式为
其中
a11
A
a 21 ...
a n1
a12 a 22 ... an2
... ... ... ...
Ax=b
a1n a2n ... a nn
,x
x1 x2 ... xn
b 1
,b
b2 ...
b n
若矩阵A非奇异,即det(A)≠0,则方程组(2.1)有唯一解。
数理学院
SCHOOL OF MATHEMATICS AND PHYSICS
Ch5 解线性方程组的直接方法
5 .1 引言与预备知识 5 .2 高斯消去法 5 .3 高斯主元素消去法 5 .4 矩阵三角分解法 5 .5 向量和矩阵的范数 5 .6 误差分析
§5.1引言与预备知识
5.1.1 引言
在自然科学和工程技术中有很多问题的解决常常归结为解 线性代数方程组．如三次样条函数问题，用最小二乘法求实验 数据的曲线拟合问题，解非线性方程组问题，用差分法或者有 限元方法解常微分方程、偏微分方程的边值问题等都导致求解 线性代数方程组，而这些方程组的系数矩阵大致分为两种，一 种是低阶稠密矩阵，另一种是大型稀疏矩阵。
关于线性方程组的数值解法一般有两类： 1.直接法 2.迭代法
本章讨论n元线性方程组
a11x1 a12x2 ... a1nxn b1 .a..2.1.x..1.....a..2..2.x.2................a..2.n..x.n.......b.2... （5.1）
an1x1 an2x2 ... annxn bn
(A)m 1ina|xi |,
(1.2)
称为A的谱半径.
由式(1.1)知, λ 可使齐次方程组
(IA)x0
有非零解,故系数行列式
deIt (A )0,
记
a11 a12 a1n
p()det(I A) a21 a22 a2n
(1.3)
an1 an2
n c1n1cn1cn 0
ann
p() 称为矩阵Ａ的特征多项式，方程(1.3)称为Ａ的特征方程．
在复数域中有n个根 1,2,,n, 故 p () ( 1 ) (2 ) ( n ).
由行列式(1.3)展开可知：
n
c112n aii trA , i1
cn (1)n12n (1)ndeAt
故 AaijRnn 的n个特征值 1, 2,, n 是它的特征
方程(1.3)的几个根,并有 A的迹.
det Ai1
i1
(1.4) (1.5)
A的特征值λ和特征向量x还有以下性质: (1) AT与A有相同的特征值 λ及相同的特征向量x . (2) 若A非奇异，则A-1的特征值为λ-1,特征向量为x. (3) 相似矩阵 B=S-1AS有相同的特征多项式.
(2)矩阵与标量的乘法 (3)矩阵与矩阵的乘法
(4)转置矩阵 (5)单位矩阵
(6)非奇异矩阵
(7)矩阵的行列式 行列式性质: (a) det(AB)=det(A)det(B)
(b)detA(T)detA(),ARnn (c)detc(A)cndetA(),cR,ARnn. (d)de tA()0A是 非 奇 异 矩 阵
(9)酉矩阵设ACnn,如果A1 AH。
由单位矩阵Ｉ交 i行换 与第 第 j行（或交换 (10)初等置换阵第i列与第 j列），得到的矩Ｉ 阵 ij，记为 ＩijAA~ AIij B
(11)置换阵由初等置换阵的到 乘的 积矩 得阵。
定理1.
设ARnn，则下述命题等价：
(1)对任何bRn，方程组Ax b有唯一解. (2)齐次方程组Ax 0只有唯一解x 0. (3)det(A) 0. (4)A1存在. (5)A的秩rank(A) n.
合集下载
数值分析第三章 解线性方程组的直接方法 ppt课件
对算每一一次行。计以算后每s注i一意数步m 1：学考j这上a虑n两|严x子a个格i列j |方等。 a程价为...kk 组。省中在时as间iki 最，s大i 只的在ai初k 为始主时元计。
a nk
注：稳定性介于列主元法和全主元法之间。
§2 三角分解法 /* Matrix Factorization */
A(2) b(2)
其中
a(2) ij
b(2) i
a(1) ij
b(1) i
mi
a(1)
1 1j
mi1b1(1)
(i, j 2, ...,n)
Step
k：设
a(k) kk
， 0计算因子
m ik a i(k k )/a k (k )k(i k 1 ,..n ) .,
且计算
a(k1) ij
➢ 高斯消元法的矩阵形式 /* Matrix Form of G.E. */：
Step 1: m i1a i1/a 11(a 1 10 )
1
记 L1 =
m 21 ...
1
m n1
a1(1)1...a1(1n) b1(1)
A b ，则 L 1 [A (1 ) b (1 )]
(2) (2)
1
Step n 1:
Ln1Ln2 ...L1
Ab
a1(11)
a(1) 12
a(2) 22
...
a(1) 1n
...
a(2) 2n
... ...
bb12((12))
...
其中 Lk =
1
a(n) nn
bn(n)
1
m k 1,k ...
m n ,k
1
1
第3章线性方程组的直接解法1PPT课件
(3.5)
u x n1,n1 n1 un1,nxn bn1
unnxn bn
n
u iixi b i (u i,i 1 xi 1 u inxn) b i u ijxj
j i 1
xnbn/unn,
xi bijn i1uijxj/uii8,in1,n2,
返回LU
,2,1. 返回(3.20)
3.2.2 消去法的基本思想
(3.4)
返回式3.19
i1
liixi bi (li1x1li2x2 li,i1xi1)bi lijxj j1
i1
xi bi lijxj /lii, i 1,2, ,n.
j1
7
三、上三角方程组（返回Gauss）
u11x1 u12x2 u13x3 u1nxn b1
uiixi ui,i1xi1 uinxn bi
x3
78 26
3
x2 -28 10x3 -28 10(3)
x 1
16
(x2
2
4x 3 )
2
10
16
2 2
4(3)
1
3.2.3 高斯消元过程（即初等行变换） 记方程组（3.1）为
返回矩阵的三角分解
aa12((1111))xx11
a1(12)x2 a2(12)x2
an(11)x1an(12)x2
2
3.1 引 言
自然科学和工程计算中的很多问题的解决常常 归结为求解线性方程组。如三次样条插值函数问 题、用最小二乘原理确定拟合曲线、求解微分方 程的数值解等，最终都要转化为求解线性方程组。
求解线性方程组可采用：
1、直接法——经有限步算术运算可求得方 程组的精确解的方法（若计算过程无舍入误差）。
数值分析第五章线性方程组-数值分析课件
(1) 1n ( 2) 2n (1) 1 ( 2) 2
即
(1) (1) (1) (1) a11 x1 a12 x 2 a1n x n b1 ( 2) ( 2) ( 2) a 22 x 2 a 2 n x n b2 (n) (n) a x b nn n n
3.2 解线性方程组的直接法（高斯消去法） 3.2.1 高斯消去法的基本思想 先用一个简单实例来说明Gauss法的基本思想 例3.1 解线性方程组
2 x1 x 2 3 x3 1 4 x1 2 x 2 5 x 3 4 x 2x 7 2 1
① ② ③
解: 该方程组的求解过程实际上是将一个方程乘或 除以某个常数,然后将两个方程相加减,逐步减少方 程中的未知数,最终使每个方程只含有一个未知数, 从而得出所求的解。整个过程分为消元和回代两个 部分。
( 3.3 )
解线性方程组（3.1）的高斯（Gauss）消去法的消元 过程就是对( 3.3 )的增广矩阵进行初等行变换。将例 3.1中解三阶线性方程组的消去法推广到一般的 n n 阶线性方程组并记 (1) aij aij , bi(1) bi (i, j 1,2,, n)
则高斯消去法的算法构造归纳为：
需要(n-1)2次乘法运算及(n-1)2次加减法运
算,
第k 步
1 2 3 … n-1 合计
加减法次 数 (n-1)2 (n-2)2 (n-3)2 … 1 n(n-1) (2n-1)/6
乘法次数
(n-1)2 (n-2)2 (n-3)2 … 1 n(n-1) (2n-1)/6
除法次数
(n-1) (n-2) (n-3) … 1 n(n-1)/2
(k ) 只要 akk 0 ,消元过程就可以进行下去,直到 经过n-1次消元之后，消元过程结束，得到与 原方程组等价的上三角形方程组,记为 A(n) x b 1) 11
即
(1) (1) (1) (1) a11 x1 a12 x 2 a1n x n b1 ( 2) ( 2) ( 2) a 22 x 2 a 2 n x n b2 (n) (n) a x b nn n n
3.2 解线性方程组的直接法（高斯消去法） 3.2.1 高斯消去法的基本思想 先用一个简单实例来说明Gauss法的基本思想 例3.1 解线性方程组
2 x1 x 2 3 x3 1 4 x1 2 x 2 5 x 3 4 x 2x 7 2 1
① ② ③
解: 该方程组的求解过程实际上是将一个方程乘或 除以某个常数,然后将两个方程相加减,逐步减少方 程中的未知数,最终使每个方程只含有一个未知数, 从而得出所求的解。整个过程分为消元和回代两个 部分。
( 3.3 )
解线性方程组（3.1）的高斯（Gauss）消去法的消元 过程就是对( 3.3 )的增广矩阵进行初等行变换。将例 3.1中解三阶线性方程组的消去法推广到一般的 n n 阶线性方程组并记 (1) aij aij , bi(1) bi (i, j 1,2,, n)
则高斯消去法的算法构造归纳为：
需要(n-1)2次乘法运算及(n-1)2次加减法运
算,
第k 步
1 2 3 … n-1 合计
加减法次 数 (n-1)2 (n-2)2 (n-3)2 … 1 n(n-1) (2n-1)/6
乘法次数
(n-1)2 (n-2)2 (n-3)2 … 1 n(n-1) (2n-1)/6
除法次数
(n-1) (n-2) (n-3) … 1 n(n-1)/2
(k ) 只要 akk 0 ,消元过程就可以进行下去,直到 经过n-1次消元之后，消元过程结束，得到与 原方程组等价的上三角形方程组,记为 A(n) x b 1) 11
数值分析解线性代数方程组的直接解法省公开课一等奖全国示范课微课金奖PPT课件
i 2, , n, j 2, , n
b (2) i
b (1) i
mi1b1(1) ,
i 2, , n
对方程组A(1) x b(1)从左边乘以L1 L1 A(1) x L1b(1)
数值分第析18页
数值分析
第二步：设a2( 22 )
0，取mi 2
a(2) i2
a(2) 22
，i
3, ..., n
数值分第析4页
数值分析
数值求解方法有以下三条路径（三种框架）
直接法：利用Gauss消元或矩阵分解，经过有限次运 算可求出准确解。
迭代法：结构迭代格式，产生迭代序列，经过无限 次迭代过程求解。有限次截断得近似解。
极小化方法：结构二次模函数，用迭代过程求二次
模函数极小化问题，即变分法（经
n次运算，理论上得准确解）要求A
数值分析
将方程组Ax=b系数矩阵与右端项合并为
a11 a12
A, b
a21
a22
an1
an2
a1n b1
a2n
b2
A
ann
bn
记A
(1)
A
a1(11)
...
a(1) 1n
b(1) 1
1(1)
,
(1) 2
,
...,
(1) n
,
b(1)
an(11)
...
a(1) nn
b(1) n
第一步：设a1(11) 0, 取mi1 aa（ （1i1111） ）,
6 3 3
x1
2x2 x2
3x3 2x3 3x3
6 3 3
回代求得 x3 3 / 3 1
x2 (3 2 x3 ) (3 2 1) 1
数值分析课件 第5章 解线性方程组的直接法
第五章 线性代数方程组的数值解法线性方程求解问题是科学研究和工程计算中最常见的问题。
如电学中的网络问题、工程力学中求解连续力学体（微分方程）问题的差分方法、有限元法、边界元法及函数的样条插值、最小二乘拟合等，都包含了解线性方程组问题。
因此，线性方程组的解法在数值计算中占有极其重要的地位。
对于n 阶线性方程组=Ax b ，若det()0≠A ，则方程组有惟一解。
由克莱姆（Cramer ）法则，其解为det() (1,2,,)det()i i A x i n A ==,其中i A 为用向量b 代替A 中第i 列向量所得矩阵。
每个n 阶行列式共有!n 项，每项都有n 个因子，所以计算一个n 阶行列式需做(1)!n n -⨯次乘法，我们共需要计算1n +个行列式，要计算出i x ，还要做n 次除法，因此用Cramer 法则求解要做2(1)!n n n -⨯+次乘除法（不计加减法），计算量十分惊人。
如30n =时，就需作约352.3810⨯次乘法。
可见Cramer 法则在理论上是绝对正确的，但当n 较大时，在实际计算中却是不可行的。
因此寻求有效的数值计算方法就成为非常必要的课题。
线性方程组的类型很多，若按其系数矩阵阶数的高低和含零元素多少，大致可分为两类：一类是低阶稠密线性方程组，即系数矩阵阶数不高，含零元素很少。
另一类是高阶稀疏线性方程组，即系数矩阵阶数高，零元素占绝对优势（比如占70%以上）。
线性方程组的数值解法也可分为两大类：直接法和迭代法。
直接法是在没有舍入误差的情况下，通过有限步运算可以得到方程组精确解的方法。
但是，在实际计算时，由于初始数据变为机器数而产生的误差以及计算过程中所产生的舍入误差等都要对解的精确度产生影响，因此直接法实际上也只能算出方程真解的近似值。
常用的有效算法是Gauss 消去法和矩阵的三角分解法。
迭代法是用某种极限过程去逼近准确解的方法。
如对任意给定的初始近似解向量(0)x ，按照某种方法逐步生成近似解序列(0)(1)(),,,,,k x x x使极限()*lim k k →∞=x x 为方程组的解。
数值分析课件 11.线性方程组的直接解法-迭代
例：求解方程组
84xx11
3x2 23x2 12x3 36
Ax b
x* 3, 2,1T
x1 x2
1 8
3x2
2 x3
20
1 11
4x1
x3
33
x3
1 12
6 x1
3x2
36
x Bx f
0
B
4 11
3 8
0
2 8
1
11
0
an,n1 ann
a1,n a11
a2,n a22
an1,n an1,n1
0
f
b1 a11
,
b2 a22
,,
bn ann
T
Jacobi 迭代法－算法
x x0 x
TOL
最常用的是 范数
Gauss-Seidel 迭代
x1(
k
1)
b1 a12 x2(k ) a13 x3(k ) a1n xn(k )
;
f
20
8 33
11
6 12
3 12
0
36 12
迭代法的基本思想
x1 2.5, 3, 3T
xk x1k , x2k , x3k T
x1 x2
1 8
3x2
2
x3
20
1 11
4
x1
x3
33
x3
1 12
6 x1
3x2
36
10 0.000187
xk1 Bxk f
0
存在某算子范数
B 1
，使得
定理：若存在算子范数 || · ||，使得 ||B|| = q <1，则
数值计算方法-第3章--线性方程组的解法PPT课件
个顺序主子式
a a (1)
(1)
11
12
Dk
a(1) 21
a(1) 22
a(1) 1k
a(1) 2k
0
(k 1, 2,..., n 1).
a a (1)
(1)
k1
k2
a(1) kk
.
13
顺序Gauss消去法计算过程中的 akk(k) 称为主元素，在 第k步消元时要用它作除数,则可能会出现以下几种情况
.
是原方程组 Ax=b 的解向量。
27
对于
Ly =b
1
由
l21
1
l31
l32 1
y1 b1
y2
b2
y3
b3
ln1 ln2 lnn1 1 yn bn
.
解得
y1 yk
b1 bk
k 1 i 1
lki
yi
,
k 2,3,, n
28
对于 Ux =y
u11 u12 u1n x1 y1
2x3 6
⑤
x1 6 (x2 x3 ) 1
x2 x3 5 / 4 2
x3 (6) / (2) 3
用x3, x2的值求x1 把x3的值代入②求x2
.
8
从下向上逐步求解
对应的增广矩阵的变化
1 1 1 6 1 1 1 6
( A | b) 0
4
1 5 0
4
1
5
2 2 1 1 0 4 1 11
0.8334
5.910
12.10
0.0120 0.0100 0.1670 0.6781
3200
1200
4.200 981.0