第3章福大科学工程与计算-线性代数方程组的数值解法_new详解
数值分析第三章 解线性方程组的直接方法 ppt课件
对算每一一次行。计以算后每s注i一意数步m 1：学考j这上a虑n两|严x子a个格i列j |方等。 a程价为...kk 组。省中在时as间iki 最，s大i 只的在ai初k 为始主时元计。
a nk
注：稳定性介于列主元法和全主元法之间。
§2 三角分解法 /* Matrix Factorization */
A(2) b(2)
其中
a(2) ij
b(2) i
a(1) ij
b(1) i
mi
a(1)
1 1j
mi1b1(1)
(i, j 2, ...,n)
Step
k：设
a(k) kk
， 0计算因子
m ik a i(k k )/a k (k )k(i k 1 ,..n ) .,
且计算
a(k1) ij
➢ 高斯消元法的矩阵形式 /* Matrix Form of G.E. */：
Step 1: m i1a i1/a 11(a 1 10 )
1
记 L1 =
m 21 ...
1
m n1
a1(1)1...a1(1n) b1(1)
A b ，则 L 1 [A (1 ) b (1 )]
(2) (2)
1
Step n 1:
Ln1Ln2 ...L1
Ab
a1(11)
a(1) 12
a(2) 22
...
a(1) 1n
...
a(2) 2n
... ...
bb12((12))
...
其中 Lk =
1
a(n) nn
bn(n)
1
m k 1,k ...
m n ,k
1
1
【全版】数值分析课件第三章线性代数方程组的直接解法3推荐PPT
例如 x x nx
2
1
2
性质4 向量范数的等价性具有传递性。
性质5 R n 的所有向量范数是彼此等价的。
性质6 （向量序列的范数极限）
设 x(k) Rn,则 lim x(k) 的x充要条0件是 k lki m xi(k)xi 0i1 ,2, ,n
即向量序列的范数收敛等价于向量分量收敛
二、 矩阵范数（/*Matrix Norm*/）
§3.5 向量范数与矩阵范数
一、 向量范数（/*Vector Norm*/）
D e f 1 设 • 是 Rn 的一R个映射，若对
xRn
存在唯一实数 x与之对应，且满足 可以推广到C n
正定性： x 0,xRn且 x 0x0
❖齐次性：xx, x R n , R
三角不等性： xyxy, x ,y R n
D e f 2 设 •是 Rnn的一R个映射，若对
ARnn
存在唯一实数 A与之对应，且满足
可以推广到C n n
正定性：A 0,ARnn且 A 0A0
❖齐次性： A A , A R n n , R
三角不等性： A B A B , A ,B R n n
相容性: A B AB A ,B R n n
x 则称 x 为 中R n向量 的范数。
R n 称为赋范线性空间
非负实值 函数
➢常用的几种向量范数：
n
设
x(x1,x2,
,xn)T
1-范数：
x 1
xi
i 1
❖ 2-范数：
n
x ( 2
xi2)12
(x,x)
i1
-范数：
x
max 1in
xi
上述3种向量范数统称为P-范数(或者Ho• •lder范数)
chapter03线性代数方程组迭代解法PPT课件
不完全分解
当矩阵无法进行完全分解时，迭代法可以作为 替代方案进行求解。
数值稳定性
对于某些数值不稳定的问题，迭代法可以提供更稳定的近似解。
迭代解法的优缺点分析
优点
适用于大规模问题，计算量相对较小； 适用于不完全分解和数值不稳定问题； 能够提供近似解，满足工程精度要求。
缺点
需要设定初始解向量或近似解向量； 迭代过程可能不收敛或收敛速度慢； 对于某些问题可能无法得到准确解。
SOR方法案例分析
01
SOR（Successive Over-Relaxation）方法是一种改进
的迭代方法，通过引入松弛因子来加速收敛。
02
SOR方法适用于系数矩阵为稀疏、对称正定的情况，
广泛应用于实际工程问题。
03
SOR方法的收敛速度与松弛因子的选择有关，选择合
适的松弛因子可以加快收敛速度。
Jacobi方法案例分析
松弛方法
松弛方法是另一种改进的迭代 算法，用于求解线性代数方程
组。
该方法通过引入松弛因子来调 整迭代过程中的系数矩阵，以
提高收敛速度和稳定性。
松弛方法适用于系数矩阵为非 对角占优的情况，尤其在处理 稀疏矩阵时具有优势。
总结词：松弛方法是一种适用 于非对角占优矩阵的迭代算法 ，通过调整松弛因子提高收敛 速度和稳定性。
收敛速度与系数矩阵
收敛速度与系数矩阵的特征值和范数有关，不同的迭 代法适用于不同的系数矩阵情况。
加速迭代法
为了提高迭代法的收敛速度，可以采用一些加速技巧， 如预处理技术、共轭梯度法等。
03 几种常见的迭代解法
Gauss-Seidel迭代法
Gauss-Seidel方法是一种迭 代算法，用于求解线性代数
线性代数方程组的数值解法讨论
线性代数方程组的数值解法讨论解线性方程组的方法，主要分为直接方法和迭代方法两种。
直接法是在没有舍入误差的假设下能在预定的运算次数内求得精确解。
而实际上，原始数据的误差和运算的舍入误差是不可以避免的，实际上获得的也是近似解。
迭代法是构造一定的递推格式，产生逼近精确解的序列。
对于高阶方程组，如一些偏微分方程数值求解中出现的方程组，采用直接法计算代价比较高，迭代法则简单又实用，因此比较受工程人员青睐。
小组成员本着工程应用，讨论将学习的理论知识转变为matlab 代码。
讨论的成果也以各种代码的形式在下面展现。
1 Jacobi 迭代法使用Jacobi 迭代法，首先必须给定初始值，其计算过程可以用以下步骤描述： 步骤1 输入系数矩阵A ，常熟向量b ，初值(0)x ，误差限ε，正整数N ，令1k =.步骤2 (0)11ni i ij jj ii j i x b a x a =≠⎡⎤⎢⎥=-⎢⎥⎢⎥⎣⎦∑，(0)j x 代表(0)x 的第j 个分量。
步骤3 计算11ni i ij j j ii j i y b a x a =≠⎡⎤⎢⎥=-⎢⎥⎢⎥⎣⎦∑，判断1max i i i n x y ε≤≤-<，如果是，则结束迭代，转入步骤5；否则，转入步骤4。
步骤4 判断k N =？如果是，则输出失败标志；否则，置1k k =+，i i x y ⇐，1,2,,i n =，转入步骤2。
步骤5 输出12,,n y y y 。
雅可比迭代代码function [x,k]=Fjacobi(A,b,x0,tol)% jacobi 迭代法 计算线性方程组% tol 为输入误差容限，x0为迭代初值max1= 300; %默认最多迭代300，超过要300次给出警告 D=diag(diag(A)); L=-tril(A,-1);U=-triu(A,1); B=D\(L+U); f=D\b; x=B*x0+f;k=1; %迭代次数while norm(x-x0)>=tol x0=x;x=B*x0+f; k=k+1;if(k>=max1)disp('迭代超过300次，方程组可能不收敛'); return; end%[k x'] %显示每一步迭代的结果 End2 高斯赛德尔迭代由Jacobi 迭代法中，每一次的迭代只用到前一次的迭代值，若每一次迭代充分利用当前最新的迭代值，即在计算第i 个分量(1)k i x +时，用最新分量11()k x +，12()k x +…(1)1k i x +-代替旧分量)1(k x ', )2(k x …)3(k x 就得到高斯赛德尔迭代格式，其数学表达式为：1(1)(1)()111(1,2,,)i n k k k ii ij j ij j j j i ii xb a x a x i n a -++==+⎛⎫=--= ⎪⎝⎭∑∑具体形式如下：()()()(1)()()()11221331111(1)(1)()()22112332222(1)(1)(1)(1)(1)112233,11111k k k k n n k k k k n n k k k k k n n n n n n n n nnx a x a x a x b a x a x a x a x b a x a x a x a x a x b a ++++++++--=----+=----+⋯⋯⋯⋯⋯⋯=-----+矩阵形式表示为：()(1)1(1)()(0,1,2,,),k k k k n +-+=++=x D Lx Ux b将(1)(1)()(0,1,2,,)k k k k n ++=++=Dx Lx Ux b 移项整理得： (1)1()1()()(0,1,2,,))k k x D L Ux D L b k n +--=-+-=记11(),()--=-=-M D L U g D L b ，则(1)()k k x x +=+M g高斯塞德尔迭代function [x,k]=Fgseid(A,b,x0,tol)%高斯-塞德尔迭代法 计算线性方程组 % tol 为误差容限max1= 300; %默认最高迭代300次D=diag(diag(A)); L=-tril(A,-1); U=-triu(A,1); G=(D-L)\U; f=(D-L)\b; x=G*x0+f;k=1; while norm(x-x0)>=tol x0=x;x=G*x0+f; k=k+1;if(k>=max1)disp('迭代次数太多，可能不收敛'); return; end% [k,x'] %显示每一步迭代结果 End3 超松弛迭代法在工程中最常遇到的问题便是线性代数方程组的求解,而线性代数方程组的求解一般可以分为两类,一类是直接法(精确法),包括克莱姆法则方法、LD 分解法等，另一类是迭代法（近似法），包括雅克比迭代法、高斯迭代法、超松弛迭代法等。
第三章解线性代数方程组得直接法(2)ppt课件
计算中，上述两个公式交替使用，即从U的第一行 和L的第一列开始，计算共分步，每步先计算U的 一行，再计算L的相应一列，最后可求出L和U的全
部元素，从而实现A的LU分解.
最后，求解两个三角形方程组。 求解Ly=b： y 1 , 2 , , n k b k l ky j j, k
j 1 k 1
称（1）式为对称正定矩阵A的Cholesky分解.
设
a 11 a 21 a n1 a 12 a 22 an2 a1n a 2n = a nn
l 11 l 21 l n1
l 22 ln2
x Rn , 若存在唯一实数 || x|| 与之对应，
n x 非负性： 0 , x R且 x
0 x 0
n
y x y , x , yR 三角不等性： x
则称
x 为 R n 中向量 x 的范数。
非负实值 函数
常用的几种向量范数： 设
1-范数： x 1 x i
R
n
上的任意两种向量范数，若存在两个与向量
m x x M x
则称 和
为 Rn 上的等价范数。
向量序列的收敛性 定义 称Rn 中的向量序列{x(k)}在范数 || . ||意义下收 敛于Rn 中的向量 x*, 如果有
x x 0 lim
( k ) * k
“追”的过程
解方程组 Ux y
yn xn un
y c i ix i 1 x i n 1 , , 1 i u i
“赶”的过程
追赶法实现的一个充分条件
定理3.2 设A 为前述三对角矩阵，且满足下列条件：
第3章 线性代数方程组的数值解法
第k步消元：
丛rk+1,rk+2, ,rn中消去xk项，条件akk(k)≠0，使得
A(k+1)x = b(k+1)A(k)x = b(k)
其中
第3章 线性代数方程组的数值解法Gauss消去法
(1 a11) (1 a12)
(k a kk )
( a11) n ( a 22 ) n
( a nn,1n)1 1
( a nn 1) 1n (n a nn)
b1(1) (1) b1 ( bnn11) (n) bn
(3.2.5)
由(3.2.4)式按倒序可方便的求出解向量x：
xn
( n) bn
( n) ann
( ( ( xn1 bnn11) ann,1n) xn ann,1n)1 1 1
ri(k)likrk(k) ri(k+1)，i= k+1,k+2, ,n
(3.2.2)
以矩阵[A(k)，b(k)]中的第k行乘以-lik加到i行，即 其中第i行 aij(k+1) = aij(k) likakj(k)，i, j= k+1,k+2,,n bi(k+1) = bi (k) likbk (k)，i= k+1,k+2,,n 当完成第k=n1步时， A(1)变为上三角阵A(n) ，Gauss消元过程
b1(1) ( 2) b2 ( bn2 )
第3章 线性代数方程组的数值解法Gauss消去法
具体方法：
-(r1(1)/a11(1))a21(1)加到第2行， -(r1(1)/a11(1))a31(1)加到第3行，，
大学数值计算方法(第3章解线性方程组的数值解法)3
征值, 则称 ρ ( A) = max{| λi |}
1≤i ≤ n
为矩阵A的谱半径。 矩阵A的谱半径ρ ( A)不是A的一种范数, 但可能与A的任何一种范数有某种关系。
例题
2 求矩阵 A = − 2 − 1 的谱半径。 4
则必存在两正数m, M , 使得 m || x ||β ≤|| x ||α ≤ M || x ||β
向量范数性质 等价性质：
1) 2) 3) 1 || x ||1 ≤|| x ||∞ ≤|| x ||1 n || x ||∞ ≤|| x ||1 ≤ n || x ||∞ || x ||∞ ≤|| x ||2 ≤ n || x ||∞
lim || x
（k）
− x ||∞ = 0 ⇔ lim max x
* k →∞ 1≤i ≤ n k →∞ (k ) i
(k ) i
− xi = 0
⇔ lim x
=x
* i
(i = 1,2,...n)
3.4.2 矩阵范数
定义3.4.3 设任意A ∈ R n×n , 若按某一确定的法则对 应于一非负实数 || A ||, 且满足 : 1)非负性 :|| A ||≥ 0，当且仅当A = 0时， A ||= 0; || 2)奇次性： kA ||=| k ||| A || ，k ∈ R; || 3)三角不等式： A + B ||≤|| A || + || B ||, ∀A, B ∈ R n×n ; || 4)相容性： ≤ A B ，∀A, B ∈ R n×n， AB 则称 || A || 为R n×n的一种范数。
算子范数
所以对x ≠ 0有 || ( A + B) x || ≤|| A || + || B || || x || || ( A + B) x || || A + B ||= max ≤|| A || + || B || x ≠0 || x || || AB ||≤|| A |||| B || 。 || I ||= max || Ix ||= 1 x =1
数值计算方法第2版 第3章 线性代数方程组的数值解法.ppt
6x1 x2 5x3 13
x1
1 6
x2
5 6
x3
13 6
解：选主 2x1 x2 2x3 6 ，归一，消元 4x1 3x2 x3 11
0x1
2 3
x2
1 3
x3
5 3
0x1
7 3
x2
7 3
x3
7 3
x1
矩阵的第 k
列的元
素
a(k kk
)
,
a(k) k 1,k
,
a(k) nk
中选取绝对值最大的
一个，记为ar(kk) ，然后交换( A(k) | b(k) ) 中的第k 行与第 r 行
后，再进行第k 次消元。
例 用列主元高斯消去法求解方程组(用三位有效数字计算)
解
3 5 [A,b] 5 7
高斯消去法能按顺序进行到底的充要条件是
在原方程组的系数矩阵中如何反映出这个条件呢? A的k阶顺序主子矩阵Ak的行列式
使用条件之二
n阶矩阵A为严格对角占优矩阵是指其每个主对 角元的绝对值大于同一行其他元素绝对值之和，即
一阶严格对角占优矩阵指一个非零数。
定理 方程组系数矩阵A为严格对角占优矩阵则可实现用 顺序高斯消去法求解。
顺序高斯消去法的计算量
消元中各步需乘除法次数
第i 步
乘法次数
1
(n 1)2
2
(n 2)2
n 1
合计
1
n (n 1)(2 n 1) 6
除法次数
n 1 n2
1
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
3.2 高斯消去法
本节介绍高斯消去法(逐次消去法)及消去法和 矩阵三角分解之间的关系. 虽然高斯消去法是一种 古老的求解线性方程组的方法(早在公元前250年 我国就掌握了解方程组的消去法)，但由它改进、 变形得到的选主元素消去法、三角分解法仍然是目 前计算机上常用的有效方法.我们在中学学过消去 法,高斯消去法就是它的标准化的、适合在计算机 上自动计算的一种方法.
上页 下页
(7) 矩阵的行列式 设A∈Rn×n，则A的行列式可按任一行(列)展开,
n
det( A) aij Aij (i 1,2,, n), j1
其中Aij为aij的代数余子式，Aij=(-1)i+jMij，Mij为元 素aij的余子式.
行列式性质：
(a) det( AB) det( A)det( B), A, B Rnn . (b) det( AT ) det( A), A Rnn .
(c) det( cA) cn det( A), c R, A Rnn . (d ) det( A) 0 A是非奇异矩阵.
上页 下页
定理1 设A∈Rn×n，则下述命题等价： (1) 对任何b∈Rn，方程组Ax=b有唯一解. (2) 齐次方程组Ax=0只有唯一解零解x=0. (3) det(A)≠0. (4) A-1存在.
的数值解法.
上页 下页
3.1.1 引言
在自然科学和工程技术中,很多问题归结为解线 性方程组.例如电学中的网络问题，船体数学放样 中建立三次样条函数问题，用最小二乘法求实验数 据的曲线拟合问题，解非线性方程组问题，用差分 法或者有限元方法解常微分方程、偏微分方程边值 问题等都导致求解线性方程组，而这些方程组的系 数矩阵大致分为两种，一种是低阶稠密矩阵(例如， 阶数不超过150). 另一种是大型稀疏矩阵(即矩阵阶 数高且零元素较多).
或写成矩阵形式
(2.1)
a11 a12 a1n x1 b1
a21
a22
a2n
x2
b2
.
am1 am2 amn xn bm
简记为Ax=b.
上页 下页
当m=n时，对三角形方程组的解非常容易，如
如: 上三角矩 阵所对应 的线性方 程组
u 11 x 1 u12 x 2 u 1n x n b 1
x2
xm
A a1 a2
(m维列向量).
an ,
其中aj为A的第j列的m维列向量. 同理
b1T
A
b2T
,
bmT
其中biT为A的第i行的n维行向量.
上页 下页
矩阵的基本运算： (1) 矩阵加法
C A B cij aij bij ( A, B,C Rmn ).
(2) 矩阵与标量的乘法
上页 下页
3.1.2 向量和矩阵
基本概念：
用Rm×n表示全部m×n实矩阵的向量空间；
用Cm×n表示全部m×n复矩阵的向量空间.
a11
A
Rmn
A
(aij )
a21
a12
a22
a1n a2n
am1 am2 amn
(由数排成的矩阵表，称为m行n列矩阵).
上页 下页
x1
x
Rm
x
上页 下页
3.2.1 高斯消去法
设有线性方程组
a11 a21
x1 x1
a12 a22
x2 x2
a1n xn a2n xn
b1 , b2 ,
..............................................
am1 x1 am2 x2 amn xn bm .
I e1 e2 en Rnn ,
其中 ek (0,,0,1,0,,0)T , k 1,2,, n.
(6) 非奇异矩阵
若A, B Rnn , 且 AB BA I .
则称B是A的逆矩阵，记为A-1，且(A-1)T=(AT)-1. 如 果A-1存在，则A称为非奇异矩阵. 如果A、B均为非 奇异矩阵，则有(AB)-1=B-1A-1.
但实际计算中由于舍入误差的存在和影响，这种 方法也只能求得线性方程组的近似解. 本章将阐述这 类算法中最基本的和具有代表性的算法就是高斯消 元法,以及它的某些变形和应用.这类方法是解低阶稠 密矩阵方程组及某些大型稀疏矩阵方程组(例如，大 型带状方程组)的有效方法.
上页 下页
2. 迭代法 就是用某种极限过程去逐步逼近方程组精确解的 方法. 迭代法具有计算机的存储单元较少、程序设计 简单、原始系数矩阵在计算过程中始终不变等优点， 但存在收敛条件和收敛速度问题.迭代法是解大型稀 疏矩阵方程组(尤其是由微分方程离散后得到的大型 方程组)的重要方法. 为了讨论线性方程组数值解法，需复习一些基本 的矩阵代数知识.
u 22 x 2 u 2n x n b 2
第3章 线性方程组的数值解法
• 3.1 引言与预备知识 • 3.2 高斯消去法 • 3.3矩阵三角分解法 • 3.4向量和矩阵的范数误差分析 • 3.5迭代方法
上页 下页
3.1 引言与预备知识
这一章讨论线性方程组
a11 x1 a12 x2 a1n xn b1 , a21 x1 a22 x2 a2n xn b2 , .................................................. am1 x1 am2 x2 amn xn bm .
C A cij aij (A,C Rmn,是一个数).
(3) 矩阵与矩阵的乘法
n
C AB cij aik bkj ( A Rmn , B Rn p , C Rm p ). k 1 (4) 转置矩阵 A Rmn ,C AT Rnm cij a j问题的数学模型中虽不直接表现为含线性方 程组,但它的数值解法中将问题“离散化”或“线性 化”为线性方程组.因此线性方程组的求解是数值分 析课程中最基本的内容之一.
关于线性方程组的解法一般有两大类：
上页 下页
1. 直接法 经过有限次的算术运算,可以求得方程组的精确解( 假定计算过程没有舍入误差).如线性代数课程中提到 的克莱姆算法就是一种直接法.但该法对高阶方程组 计算量太大,不是一种实用的算法.