第2章 - 线性方程组求解的数值方法ppt课件
合集下载
第2章线性方程组求解方法第一1讲
(1) 非负性， 即‖A‖≥0，‖A‖=0当且仅当A=0；
(2) 齐次性，即对任意实数α∈R，有
‖αA‖=|α|‖A‖；
(3) 三角不等式性， 即对任意A，B∈Rn×n，有 ‖A+B‖≤‖A‖+‖B‖； (4) 对任意A，B∈Rn×n，有‖AB‖≤‖A‖‖B‖。
计算方法
线性代数方程组求解方法
进一步，若对给定的矩阵范数‖·‖M，它与某个向量范
a
0,
,a
(n) nn ( n 1) n 1
0 以及上述消去过程中假设 a11 0,
(1)
,, an…, 1 0
( n 1)
0 ，则可得xn, xn-1, …，x2，x1
(n) bn xn ( n ) (k=n－1，n－2，…，2，1) ann n ( k ) (k ) (k ) x (b a x ) / a k k kj j kk j k 1 (2.6)
2.1.3
(2) 若当|i-j|>1时，有aij=0，则A为三对角矩阵。
计算方法
线性代数方程组求解方法
特殊矩阵
2.1.3
设A=(aij)∈Rn×n， i，j=1，2，…，n，有下列特殊矩阵：
(3) 若当j>i(i>j)时，有aij=0，则A为上(下)三角矩阵。
计算方法
线性代数方程组求解方法
特殊矩阵
1. 直接法
直接法就是不考虑计算过程中的舍入误差，经过有限次
的运算得到方程组精确解的方法。本章将阐述这类算法中最 基本的高斯顺序消去法及其某些变形，这类方法是解低阶稠 密线性代数方程组及某些大型稀疏线性代数方程组(例如大 型带状线性代数方程组)的有效方法。
线性方程组的求解完美版PPT
rA n
推论：齐次线性方程组 A n n x n 1 0 n 1 只有零解
rA n
即 A 0 , 即系数矩阵A可逆。
2. 解的性质
性质：若 1,2 是齐次线性方程组Ax=0的解，
则 x k 1 1 k 2 2 仍然是齐次线性方程组Ax=b的解。
（可推广至有限多个解）
解向量：每一组解都构成一个向量
解空间: A X 0的所有解向量的集合，对加法和数乘
都封闭，所以构成一个向量空间，称为这个齐次 线性方程组的解空间。
3. 基础解系
设 1 ,2 , ,n r是 A X 0的解，满足
（ 1 ） 1 ,2 ,,n r 线性无关；
（ 2 ） A X 0 的任一解都可以由 1 ,2 , ,n r线性表示。
则称 1 ,2 , ,n r是 A X 0 的一个基础解系。
定理： 设 A是 m n矩阵，如果 r ( A ) r n ,
则齐次线性方程组 A X 0的基础解系存在， 且每个基础解系中含有 nr个解向量。
证明分三步: 1. 以某种方法找 nr个解。 2. 证明这 nr个解线性无关。 3. 证明任一解都可由这 nr个解线性表示。
线性方程组的求解
中国青年政治学院 郑艳霞
• 使用建议：建议教师具备简单的 MATHMATICA使用知识。
• 课件使用学时：4学时 • 面向对象：文科经济类本科生 • 目的：掌握线性方程组的知识点学习。
假设在美国某一固定选区国会选举的投票结果用三维向量表示为
x民 共
主 和
党 党D R得 得
票 票
若P是一个矩阵，满足各列向量均非负，且各列向量纸盒等于 1，则相对于P的稳定向量必满足：Pq=q。可以证明每一个满 足上述条件的矩阵，必存在一个稳定向量；并且，若存在整 整数k，使得Pk>0,则P存在唯一的向量q满足条件。
推论：齐次线性方程组 A n n x n 1 0 n 1 只有零解
rA n
即 A 0 , 即系数矩阵A可逆。
2. 解的性质
性质：若 1,2 是齐次线性方程组Ax=0的解，
则 x k 1 1 k 2 2 仍然是齐次线性方程组Ax=b的解。
（可推广至有限多个解）
解向量：每一组解都构成一个向量
解空间: A X 0的所有解向量的集合，对加法和数乘
都封闭，所以构成一个向量空间，称为这个齐次 线性方程组的解空间。
3. 基础解系
设 1 ,2 , ,n r是 A X 0的解，满足
（ 1 ） 1 ,2 ,,n r 线性无关；
（ 2 ） A X 0 的任一解都可以由 1 ,2 , ,n r线性表示。
则称 1 ,2 , ,n r是 A X 0 的一个基础解系。
定理： 设 A是 m n矩阵，如果 r ( A ) r n ,
则齐次线性方程组 A X 0的基础解系存在， 且每个基础解系中含有 nr个解向量。
证明分三步: 1. 以某种方法找 nr个解。 2. 证明这 nr个解线性无关。 3. 证明任一解都可由这 nr个解线性表示。
线性方程组的求解
中国青年政治学院 郑艳霞
• 使用建议：建议教师具备简单的 MATHMATICA使用知识。
• 课件使用学时：4学时 • 面向对象：文科经济类本科生 • 目的：掌握线性方程组的知识点学习。
假设在美国某一固定选区国会选举的投票结果用三维向量表示为
x民 共
主 和
党 党D R得 得
票 票
若P是一个矩阵，满足各列向量均非负，且各列向量纸盒等于 1，则相对于P的稳定向量必满足：Pq=q。可以证明每一个满 足上述条件的矩阵，必存在一个稳定向量；并且，若存在整 整数k，使得Pk>0,则P存在唯一的向量q满足条件。
数值分析-线性方程组的直接解法
算法 Gauss(A,a,b,n,x)
1. 消元 For k=1,2, … , n-1 1.1 if akk=0 , stop; 1.2 For i=k+1,k+2, …, n 1.2.1 l ik=aik /akk => aik 1.2.2 For j=k+1，k+2, … ,n ai j -aik ak j =>aij 1.2.3 bi -aik bk=> bi 2. 回代 2.1 bn / an=>xn; 2.2 For i=n-1,n-2, …, 2,1 2.2.1 bk => S 2.2.2 For j=k+1，k+2, … ,n S –akj xj =>S 2.2.3 S/ akk => xk a1 1 a1 2 a13 a2 1 a2 2 a23
线性方程组的直接解法
刘 斌
线性方程组的直接解法
§1 Gauss消去法 1.1 顺序Gauss消去法
1.2
§2 2.1 2.2 2.3
列主元Gauss消去法
Gauss消去法的矩阵运算 Doolittle分解法 平方根法
直接三角分解方法
2.4
追赶法
引入
在科学计算中，经常需要求解含有n个未知量 的n个方程构成的线性方程组 a11 x1 a12 x2 a1n xn b1 a21 x1 a22 x2 a2 n xn b2 (1) an1 x1 an 2 x2 ann xn bn
(1) a12 ( 2) a22 0
(1) (1) a13 a1 n ( 2) ( 2) a23 a2 n ( 3) ( 3) a33 a3 n
0
线性方程组的数值解法详解演示文稿
n
非行零交判换断的次元数素最个多数为为：：kn1(1nnk1()n12kn)(n
k 1
1)
1 2
n(n
1)
二、矩阵三角分解法
设有线性方程组：AX=b
a11 a12 a1n
x1
b1
A
a21
a22
a2
n
,
X
x2
,
b
b2
.
an1 an2 ann
xn
bn
矩阵三角分解法包括不选主元和选主元两种方法。
1、不选主元三角分解算法 当A非奇异时，可以将A作LU分解：
1 0
0 u11 u12 u1n
A
LU
l21
1
0
0
u22
,
ln1 ln,n1 1 0 0 unn
其中：(矩阵LU分解)
(1) u1 j a1 j (i 1,2,,n), li1 ai1 / u11(i 2,,n),
1
0 0
1
2，y
2 ,
x
0
.
1 1 1 0 0 1
1 1
§3 解线性方程组的迭代法
考虑线性方程组
a11x1 a12x2 a1nxn b1
a21x1
a22x2
a2n xn
b2
an1x1 an2x2 annxn bn
也就是
Ax=b.
进行矩阵分裂
A=M-N,
(2.1) (2.2)
其中
a1(11)
0
0
a1(12) a2(22)
an(22)
a1(1n) a2(2n)
an(2n)
精品课件-计算方法(蔺小林)-第2章
第二章 线性代数方程组求解方法
定理2.3 设A∈Rn×n为对称矩阵，若det(Ak)>0(k=1, 2, …，n)，或A的特征值λi>0(i=1, 2, …，n)，则A为对称 正定矩阵。
定理2.4(Jordan(若当)标准型) 设A为n 阶矩阵，若存 在一个非奇异矩阵P
第二章 线性代数方程组求解方法
第二章 线性代数方程组求解方法
所以当|xi-yi|→0(i=1，2，…，n)时，有‖x‖→‖y‖。
第二章 线性代数方程组求解方法
定理2.6(等价性定理) 设‖·‖p以及‖·‖q是Rn上两 种向量范数，则存在正常数c1，c2
c1‖x‖p≤‖x‖q≤c2‖x‖p 对任何x∈Rn成立。
证明 当x=0时结论显然成立。下证x≠0时结论也成立。
其中, λ1，λ2, …，λr为A的互不相同的特征值，
第二章 线性代数方程组求解方法
r
为若当块， ni≥1(i=1, 2, …，r)，且 ni n i 1
就是矩阵A的若当标准型。
，这
(1) 当A的若当标准型中所有若当块Ji均为一阶块时，此 标准型变为对角型矩阵；
(2) 若A的特征值各不相同，则若当标准型必为对角阵
第二章 线性代数方程组求解方法
进一步，若对给定的矩阵范数‖·‖M，它与某个向量范 数‖·‖V满足条件(5)，则称矩阵范数‖·‖M与向量范 数‖·‖V相容。
(5) 对任意A∈Rn×n， x∈Rn，有 ‖Ax‖V≤‖A‖M‖x‖V成立。
第二章 线性代数方程组求解方法
设A=(aij)n×n∈Rn×n
在矩阵范数中还有一种由向量范数导出的矩阵范数。
diag(λ1，λ2，…，λn)。
第二章 线性代数方程组求解方法
第2章线性方程组求解方法第2讲
y1 1 1 1 y2 3 3 y 34 3 5
1 2 3 x1 1 再解 5 9 x2 3 ,得 34 17 x 5 3 5
计算方法 2.3.1
线性代数方程组求解方法
直接三角分解法
将高斯消去法改写为紧凑形式，可以直接从矩阵A的元
素得到计算L、 U元素的递推公式，而不需要任何中间步骤 ，这就是所谓的直接三角分解法。一旦实现了矩阵A的LU分
解，那么求解线性代数方程组Ax=b的问题就等价于求解两
个三角方程组 Ly=b，求y Ux=y，求x 的问题，而这两个线性代数方程组只要回代，就可以求出其
1 u11 u12 u13 u 22 u 23 l21 1 l l 1 u 33 31 32 l l l 1 n1 n 2 n 3
计算方法
线性代数方程组求解方法
克罗脱(Grout)分解
a11 a12 a21 a22 a 31 a32 an 1 an 2 ... a1n ... a2n a3n ... ann ... u1n ... u 2n ... u 3n 1
a11 a12 ... a1n b1 a21 a22 ... a2n b2 a a ... a b nn n n1 n 2
u11 u12 ... u1n y 1 l21 u 22 ... u 2n y 2 l l ... u y nn n n1 n 2
设A
A=LU=L1U1 其中, L、L1 为单位下三角矩阵， U、 U1为上三角矩阵。由 于U１－1
数值分析之病态线性方程组的解法
(
+
)
|| x || 1− || A || || A−1 || || A || || b || || A ||
|| A ||
数值分析
当方程组的系数矩阵A或右端项b受到 扰动ΔA, Δb时，引起的解的相对误差完全 由
来决定，它刻画了方程组的解对原始数据 的敏感程度。
数值分析
矩阵的条件数
定义：对非奇异矩阵A，称乘积||A|| ||A-1||为矩 阵A的条件数，记作
数值分析
三类扰动
线性方程组Ax=b的扰动可分为如下三类： 1. 系数矩阵A精确，常数项b有误差Δb； 2. b精确，A有误差ΔA； 3. A和b均有误差 ΔA和 Δb.
问题：求解Ax＝b时，A和b的误差对x有何影响？
数值分析
扰动误差分析
1. 系数矩阵A精确，常数项b有误差Δb；
A(x + x) = b + b x = A−1b
=
2
1 3
1 n
1
n+1
1 n
1 n+1
1 2 n −1
cond (H2) = 27
cond (H3) 748
cond (H6) = 2.9 106
注：现在用Matlab数学软件可以很方便求矩阵的条件数!
数值分析
病态、良态线性方程组
定义：对线性方程组Ax＝b，若cond(A)相对很大， 则称Ax＝b是病态的线性方程组，也称A为病态矩阵； 若cond(A)相对很小，则称Ax＝b是良态的线性方程 组，也称A为良态矩阵。
1.
;
2. A非奇异，k≠0，则cond(kA)＝cond(A)；
3. A非奇异对称矩阵，则cond(A)2＝|λ1/λn|； 4. A是正交矩阵，则cond(A)2＝1； 5. A可逆，R正交，则
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
) a 1(1 n (2) a 2n (2) a mn
x1 x2 xm
b 1( 1 ) (2) b2 b (2) m
，
( 2 ) 记为 Ax b
( 2 )
1 , 2 , , s ， s min( m 1 , n ) （2）第k步（ k ）
设已完成上述消元过程第1步，第2步，„，第k-1步，且
( 1 ) ( k 1 ) a 0 , , a 0 11 k 1 , k 1
(E )2 (E) E
2 1 2 1 4 7 1 ( 1 4 7 1 1 4 7 1 (E )3 E ) 2 ( E ) E ( E ) E 3 2 3 1 3 3 ~ A 2 5 8 1 0 3 6 1， 0 3 6 1 0 0 6 10 2 3 6 11 1 0 2 0
(1 ) b 1 1( 1 ) x 2 b 2 x m b m( 1 )
x
(1) a11 (1) a 21 a (1) m1
(1) a12 (1) a 22 (1) am 2
第2章 - 线性 方程组求解的 数值方法
题的解决都需要 用到线性方程组的求解。因此，求解线性方程组的问题 是一个在科学技术中常见的普遍问题。 一般地，这些线性方程组的系数矩阵大致可分为两类： 1）低阶稠密矩阵 2）大型稀疏矩阵 解线性方程组的数值解法：有直接法和迭代法两类。 直接法：计算过程没有舍入误差，经过有限次四则运算 可求得方程组的精确解。（实际计算有舍入误差） 高斯消元法，矩阵分解法 迭代法：核心是迭代求解的收敛条件和收敛速度。 雅可比（Jacobi）迭代，高斯-赛德尔（Gauss-Seidel） 迭代
( 2 ) ( 1 ) ( 1 ) b b m b i 2 , 3 , , m ) i i i 1 1 (
a
( 1 ) 11
， ( i 2 m )
(m-1)次除法运算
（m-1)次乘法运算
(1) (1) a 11 a 12 (2) a 22 ( 1 ) ( 1 ) A x b (2) a m2
1 1 （2）回代求解，得：x 1 ， x 2 3 ， x3 0。 3
结论： 整个计算过程可分为两部分：（1）消元：把原 方程组转化为系数矩阵为上三角矩阵的方程组； （2）回代：由系数矩阵为上三角矩阵的方程组求解
对于一般情形： m个方程，n个未知数的线性方程组 的高斯消元法
a1nxn b a11x1 a12x2 1 a2nxn b2 a21x1 a22x2 amnxn bm am1x1 am2x2
(1) （1）第1步(k=1)， 设a 11 0 ，计算乘数
~ m r r ( i 2 , 3 , m ) ， 对增广矩阵 A 进行行初等变换： r i i 1 1 i
具体计算公式为： （m-1)(n-1) ( 2 ) ( 1 ) ( 1 ) 次乘法运算 a a m a i 2 , 3 , , m ， j 2 , 3 , , n i i i 1 1 j j j
（2.2）
a 11 a 21 其系数矩 A 阶 a 1 m
a x1 12 a 1 n a x2 22 a 2 n x , ， x a a m 2 mn m
b
§2 高斯消元法
一、高斯消元法 高斯消元法是求解方程组的古典方法。
基本思想方法：由行初等变换将系数矩阵约化为三角矩阵；
用回代的方法求解方程组。 例1 用消去法解方程组 4x 7x 1 (E x 1 2 3 1) （2.1） 2x 5 x 8 x 1 (E 1 2 3 2) 3x 6 x 11 x 1 (E 1 2 3 3) 解： （1）消元：
b1 b2 。 b m
( 1 ) ( 1 ) ( 1 ) 则 ( 2 . 2 ) 可 写 为 A x b ， 即 A ( a ) , b b ， 若记 A
( 1 ) ( 1 ) ij
(1) a11 (1) a 21 a (1) m1 (1) a12 (1) a 22 (1) am 2 (1) a1 n (1) a 2n (1) a mn
(1) a1 n (1) a 2n (1) a mn
b 1( 1 ) (1 ) x 2 b 2 x m b m( 1 ) x
1
高斯消元法：
a i 1 m i 1
( 1 )
(1) (1) (1) (1) a11 a12 a1 b n 1 (1) (1) (1) (1) a21 a22 a2 b n 2 A (1) (1) (1) (1) am1 am2 amn bm ~ 增广矩阵 A