数值计算方法第03章解线性方程组的迭代法

m
lim xi (k) xi
6
向量序列与矩阵序列的收敛性 矩阵序列的收敛条件
(1)定义 : 设 A k 为n阶方阵序列，A为n阶方阵。如果 lim || A( k ) A || 0 其中 为矩阵范数，则称矩阵序列 A(k) 收敛于矩阵A , 记作
m k
(1)什么叫向量序列收敛？矩阵序列收敛？

为迭代法的收敛性奠定理论基础
(2)怎样建立迭代公式?

(方程组的同解变形)
为迭代公式寻找途径
(3)向量序列收敛的条件是什么?

为判断“是否收敛”寻找到可行的方法
(4)怎样估计误差?

确定数值求解时什么时候终止
5
向量序列与矩阵序列的收敛性 向量序列的收敛条件
11
n=4的Jacobi迭代法
a11 x1 a12 x2 a13 x3 a14 x4 b1 a x a x a x a x b 21 1 22 2 23 3 24 4 2 a31 x1 a32 x2 a33 x3 a34 x4 b3 a41 x1 a42 x2 a43 x3 a44 x4 b4
说，仅适于系数矩阵阶数不太高的问题，其工作 量较小，但程序较复杂。 低阶稠密的线性方程组用直接法 ( 如高斯消去法 和三角分解法)。 迭代法主要用于某些系数矩阵稀疏且阶数较高的 问题，一般来说，程序较为简单，但工作量有时 较大。 大型稀疏非带状的线性方程组 (n很大, 且零元素很多，如偏微方程数值解产生的线性方 程组,n≥104)，零元素多，适合用迭代法。
(1)定义3.1 : 设 x (k ) 为R n中的向量序列，x R n ,如果 lim || x ( k ) x || 0， 其中 向量范数，则称向量序列 x (k ) 收敛于向量x，记为
m k
lim x (k ) x。
(2)定理3. 1: R n中的向量序列 x (k) 收敛于R n中的向量x 当且仅当
接着往下计算到第N次迭代
实际计算时，迭代法中止条件
max | xi | max | x
1 i n 1 i n
( k 1 ) i
x
(k ) i
|
其中 为给定的要求精度.
20
3.3 高斯-赛德尔（Gauss-Seidel）迭 代法
算法3.2
21
Gauss-Seidel迭代法的计算过程如下：
k 0,1,2,
已知 x ( 0 )
(0) (k ) x1 x1 (0) (k ) x2 x2 (k ) ( 0 ) 用上述迭代公式可算得 x ( k ) x3 x3 x(0) x(k ) 4 4 k 1,2,13
解
将方程组改写成如下等价形式
0 . 1 x 2 0 .2 x 3 7 .2 x1 0 .2 x 3 8 . 3 x2 0.1 x1 x 0 .2 x 0 .2 x 8 .4 3 1 2
18
Jacobi迭代法计算公式为
( k 1 ) (k ) (k ) x1 0.1 x2 0.2 x3 7.2 ( k 1 ) (k ) (k ) 0.1 x1 0.2 x3 8.3 x2 ( k 1 ) (k ) (k ) x 0 . 2 x 0 . 2 x 8.4 1 2 3
即向量 x 是 方程 Ax=b 的解. 单步定常线性迭代法产生的向量序列若收敛则 必收敛到原线性方程组的解.
10
Jacobi迭代法的计算过程如下： 不改变，故可以事先调整好 A 使得
aii 0，否则 A不可逆。
(0) (0) 1.输入A (aij ), b (b1 , , bn ), 维数n, x (0) ( x1(0) , x2 , , xn ),
j 1 j i
4.若 x x (0) , 输出x, 停机；否则转5。 5.若k N , 置k 1 k , xi xi(0) (i 1, 2, , n), 转3； 否则，输出失败信息，停机。 评价：公式简单，每迭代一次只需计算一次矩阵和向量 的乘法，不改变M 的稀疏性，需两组工作单元，存x ( k ) , x ( k 1） 。
即得到解方程组的雅可比迭代公式:
x
( k 1 ) i
1 bi aii
aij x j 1 , j i
n
(k ) j

i 1,2,, n
16
Jacobi迭代法的矩阵表示 设D为由A的对角线元素构成的对角矩阵
Ax b Dx ( D A) x b x ( I D A) x D b
n=4的Jacobi迭代法矩阵表示
x
( k 1)
Bx
0
(k )
g
a14 a11 a24 a22 a34 a33 0
0 a a 21 22 B a31 a33 a41 a44
a12 a11 a32 a33 a42 a44
实际计算时，应根据问题的特点和要求来决定方 法的取舍。 3
求解 A x b, A R
迭代法
研究 内容：
nn
det( A) 0
从一个初始向量出发,按照一定的递推 格式,产生逼近方程组的近似解序列。
如何建立迭代格式？ 向量序列的收敛条件？
收敛速度？ 误差估计？
4

需解决的关键问题:
把方程组改写成如下等价形式
Ax b
x1 (b1 a12 x2 a13 x3 a14 x4 ) / a11 x (b a x a x a x ) / a 2 2 21 1 23 3 24 4 22 x3 (b3 a31 x1 a32 x2 a34 x4 ) / a33 x4 (b4 a41 x1 a42 x2 a43 x3 ) / a44
(0) (0) (0) 1.输入A ( aij ), b (b1 , , bn ), 维数n, x (0) ( x1 , x2 , , xn ),
, 最大容许迭代次数N .
2.置k 1. 3.计算 x1 (b1 a1j x (0) j ) / a11
j 2 i 1 n
xi
(k+1)
ai ( i 1) (k) ai ( i 1) (k) ai1 (k) ain (k) bi x1 x i 1 x i 1 xn , aii aii aii aii aii
( i 1,2,, n)
x
(k )
x , x ,, x
xi (bi aij x j
j 1 n 1 j 1
j i 1
a
n
ij
x (0) j ) / aii
(i 2, , n 1)
xn (bn anj x j ) / ann 4.若 x x (0) , 输出x, 停机；否则转5。 5.若k N , 置k 1 k , xi xi(0) (i 1, 2, , n), 转3； 否则，输出失败信息，停机。 评价：与Jacobi相比，Gauss - Seidel 只需一组工作单元存放近似解。
(k ) 1 (k ) 2
(k ) T n
15

Jacobi迭代法
aij x j bi , j 1
n
i 1,2,, n
从上式中分离出变量 xi , 将它改写成
1 xi bi aii aij x j j 1 , j i
n
i 1,2,, n
收敛性条件
9
以此来产生近似向量序列 x(1), x(2), ...
(k ) x x*. 当k充分大时，
若由迭代公式
x
lim x
k
( k 1)
Bx
k
(k )
g
产生的向量序列 { x(k)} 收敛于向量 x，则
( k 1)
lim Bx
(k )
g x Bx g
3.2 雅克比（Jacobi ）迭代法 迭代过程中，A 的元素
精度 , (最大容许迭代次数 N. k)完全计算 必须等 X 2.置k 1. X(k+1)，因此 好了才能计算 n 需要两组向量存储。 3.对i 1, 2, , n xi (bi aij x (0) j ) / aii
假设初始向量取 x(0)=(0, 0, 0)T. 第一次迭代 x(1) (7.2, 8.3, 8.4)T
( 2) x1 0.1 8.3 0.2 8.4 7.2 9.71
第二次迭代
x
( 2) 2
0.1 7.2 0.2 8.4 8.3 10.7
19
( 2) x3 0.2 7.2 0.2 8.3 8.4 11.50
x Bx g
12
n=4的Jacobi迭代法计算公式
x1( k 1) (b1 a12 x2( k ) a13 x3( k ) a14 x4( k ) ) / a11 ( k 1 ) (k ) (k ) (k ) (b2 a21 x1 a23 x3 a24 x4 ) / a22 x2 ( k 1 ) (k ) (k ) (k ) x ( b a x a x a x ) / a33 3 3 31 1 32 2 34 4 ( k 1 ) (k ) (k ) (k ) (b4 a41 x1 a42 x2 a43 x3 ) / a44 x4
a13 a11 a23 a22 0 a43 a44