第6章 解线性方程组的迭代法
第6章 求解线性代数方程组和计算矩阵特征值的迭代法
数值计算与MATLAB1《数值计算与MATLAB 》第6章求解线性代数方程组和计算矩阵特征值的迭代法§1 求解线性代数方程组的迭代法§2 方阵特征值和特征向量的计算§3 矩阵一些特征参数的MATLAB计算《数值计算与MATLAB 》6.1 求解线性代数方程组的迭代法1、迭代法的基本原理如果线性方程组Ax=b的系数矩阵A非奇异，则方程组有唯一解。
把这种方程中的方阵A分解成两个矩阵之差：A=C-D若方阵C是非奇异的，把A它代入方程Ax=b中，得出 (C-D)x=b，两边左乘C-1，并令 M=C-1D，g= C-1b，移项可将方程Ax=b变换成：x=Mx+g据此便可构造出迭代公式： xk+1=Mx k+g，M=C-1D称为迭代矩阵。
《数值计算与MATLAB 》2. 雅可比（Jacobi）迭代法如果方程组Ax=b的系数矩阵A非奇异，aii≠0，若可以把A 分解成： A=D-L-U=D+(-L)+(-U)，D=diag(a11,a22,…,a nn)；-L是严格下三角阵；-U是严格上三角矩阵；x= D-1((L+U)x +b)=D-1(L+U)x+ D-1bx k+1=D-1((L+U)x k+b)= D-1(L+U)x k + D-1bMM=D-1(L+U)称为雅可比迭代矩阵《数值计算与MATLAB 》⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=67-4121-26-3-115-12A⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=61-3-2D⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=74-1-2-1-L⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=2-61-51-UM=D-1(L+U)=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡7/62/3-1/6-222-1/31/2-5/21/2-《数值计算与MATLAB 》雅可比迭代公式的向量形式x k=[( x k) 1,( x k) 2, …,(x k) n]T, k=0,1,2,……，D-1=diag( , ,… ,)，11a122a1nna1))((1)(11∑≠=++-=nijjijijiiikbxaaxk《数值计算与MATLAB》3. 赛德尔（Seidel）迭代法))((1)(11∑≠=++-=nijjijijiiikbxaaxkM= (D-L)-1U称为赛德尔迭代矩阵《数值计算与MATLAB 》4. 迭代法的敛散性方阵的谱半径《数值计算与MATLAB 》向量范数非负性：||x||≥0齐次性：||ax||=|a|||x||；三角不等式：||x||+||y||≥||x+y||。
(完整版)6.4超松弛迭代法
0.75 x2( ( k 1)
6 0.25x3(k
)
7.5
x (k 1) 3
0.25x2(k1)
6
②取ω=1.25 ，即SOR迭代法：
xx21((kk11))
0.25x1(k) 0.9375x2(k) 7.5 0.9375x1(k1) 0.25x2(k) 0.3125x3(k)
-5.0183105
3.1333027
4.0402646
-5.0966863
4
3.0549316
3.9542236
-5.0114410
2.9570512
4.0074838
-4.9734897
5
3.0343323
3.9713898
-5.0071526
3.0037211
4.0029250
-5.0057135
6
3.0214577
3.9821186
-5.0044703
2.9963276
4.0009262
-4.9982822
7 3.0134110
3.9888241
-5.0027940
3.0000498
4.0002586
-5.0003486
迭代法若要精确到七位小数， Gauss-Seidel迭代法需要34次迭代； 而用SOR迭代法(ω=1.25)，只需要14次迭代。
因子ω。
返回引用
opt
(1
2
1 [(BJ )]2 )
（4）
这时，有ρ(Bopt
)=
ω
opt
-
1。
SOR法分类与现状
通常，
(1)当ω>1 时，称为超松弛算法； (2)当ω<1 时，称为亚松弛算法。
第六章6.3迭代法的收敛性
4 2 1
1 5 1
1
2
3
问题：该矩阵具有怎样的特点？ 结论：该矩阵是严格对角占优阵
定义：如果矩阵A的元素满足
jn
| aii | | aij | i 1,2,3,, n j 1 ji
则称A为严格对角占优矩阵。
9
特殊方程组迭代法的收敛性
定理：若线性方程组AX=b的系数矩阵A为 严格对角占优矩阵，则解该方程组的Jacobi 迭代法和G-S迭代法均收敛。
则: (k1) B (k ) B2 (k 1) Bk1 (0)
注意 (0) x(0) x * 为非零常数向量
因此迭代法收敛的充要条件
lim (k1) lim( x(k1) x*) 0
k
k
可转变为
lim Bk1 0
k
2
一阶定常迭代法的收敛性
定理：迭代格式 x(k1) Bx(k ) f 收敛 的充要条件为：lim Bk 0
k
lim Bk 0
k
即: (B) 1
B的所有特征值的绝对值小于1
B的谱半径
根据矩阵与其Jordan标准形及特征值的关系
3
一阶定常迭代法的收敛性
定理：设B为n阶实矩阵，则 lim Bk 0 k
的充要条件是 (B) 1
定理：迭代格式 x(k1) Bx(k ) f 收敛 的充要条件为：(B) 1
4
一阶定常迭代法的收敛性
例：判别下列方程组用Jacobi迭代法和G-S 法求解是否收敛。
1 2 2 x1 1 1 1 1 x2 1 2 2 1 x3 1
5
一阶定常迭代法的收敛性
解: (1) 求Jacobi法的迭代矩阵
1 0 0 0 2 2
线性方程组的迭代式求解方法
线性方程组的迭代式求解方法迭代法解方程的基本原理1.概述把 Ax=b 改写成 x=Bx+f ，如果这一迭代格式收敛，对这个式子不断迭代计算就可以得到方程组的解。
道理很简单：对 x^{(k+1)}=bx^{(k)}+f 两边取极限，显然如果收敛，则最终得到的解满足 \lim_{k\rightarrow\infty } x^{(k)}=x^*=Bx^*+f ，从而必然满足原方程 Ax^*=b 。
迭代方法的本质在于这一次的输出可以当作下一次的输入，从而能够实现循环往复的求解，方法收敛时，计算次数越多越接近真实值。
2.收敛条件充要条件：迭代格式 x=Bx+f 收敛的充要条件是 \rho (B)<1充分条件： \Vert B\Vert <1即 \Vert B\Vert <1 \Rightarrow \rho(B)<1\Leftrightarrow 迭代收敛一、Jacobi迭代法怎样改写Ax=b ，从而进行迭代求解呢？一种最简单的迭代方法就是把第i行的 x_i 分离出来(假定 a_{ii} \ne 0 )：\sum_{j=1}^{n}a_{ij}x_j=b_i\Rightarrow x_i=\frac{b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j}{a_{ii}}\quad \\这就是Jacobi(雅可比)迭代法。
迭代格式给定x^{(0)}=\left[x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)}\rig ht]^T ，则Jacobi法的迭代格式（也称分量形式）为x_i^{(k+1)}=\frac{1}{a_{ii}}\left ( {b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j^{(k)}}\right),\quadi=1,2,\cdots,n\\矩阵形式设 A=D-L-U。
Jacobi法的矩阵形式（也称向量形式）为x^{(k+1)}=B_Jx^{(k)}+D^{-1}b\\其中迭代矩阵 B_J=D^{-1}(L+U)收敛条件\begin{eqnarray} \left. \begin{array}{lll} \VertB_J\Vert <1 \\ A 严格对角占优\\ A, 2D-A对称正定\end{array} \right \} \end{eqnarray} \Rightarrow \rho (B_J)<1\Leftrightarrow 迭代收敛特别地，若 A 对称正定且为三对角，则 \rho^2(B_J)=\rho (B_G)<1 。
_第六章_线性方程组的数值解法迭代法
b 1
a 11
b2
f
a 22 bn
a nn
x(k1) B0x(k)f
--------(5)
第四节 解线性方程组的迭代法
令：
0 0 0
L
a 21
0
0 A的下三角部分矩阵
a n1 a n 2 0
0
U
0
a12 0
a1n a2n
A的上三角部分矩阵
第三节 向量范数和矩阵范数
（2）范数的另一个简单例子是二维欧氏空间的长度
0M x2 y2
欧氏范数也满足三个条件：
（勾股定理）
设x = (x1, x2) ① x 0 x >0 ② ax = a x a为常数 ③ x+ y ≤ x + y 前两个条件显然，第三个条件在几何上解释为三角形一边的长度不大于其它 两边长度之和。因此，称之三角不等式。
满足：
① A0,且A0,当且A 仅 0当
，若 A
正定
② A A,为任意实数
奇次
③ ABAB,A和 B为任意 n阶两 方个 三阵 角不等
则称 A 为矩阵A的范数。
第三节 向量范数和矩阵范数
2、矩阵范数与向量范数的相容性 对于任意的n维向量x，都有：
Ax A x
这一性质称为矩阵范数与向量范数的相容性。
n
A
max
1in
j1
aij
A的每行绝对值之和的最大值, 又称A的行范数
第三节 向量范数和矩阵范数
（3）矩阵的2范数
2范数 ||A|2 | ： (AT A )
(AAT) ?
矩阵的谱半径：
矩阵B的诸特征值为： i(i1,2, ,n)
解线性方程组的迭代法
0.9906
0.0355
5 1.01159 0.9953
1.01159 0.01159
6 1.000251 1.005795 1.000251 0.005795
7 0.9982364 1.0001255 0.9982364 0.0017636
可见,迭代序列逐次收敛于方程组的解, 而且迭代7次得到精确到小数点后两位的近似解.
a11x1 a12x2 a13x3 b1 a21x1 a22x2 a23x3 b2 a31x1 a32x2 a33x3 b3
从而得迭代公式
x1
a12 a11
x2
a13 a11
x3
b1 a11
x2
a21 a22
x1
a23 a22
x3
b2 a22
x3
a31 a33
M 00.8 00..75
但(M)=0.8<1,所以迭代法 x(k+1)=Mx(k)+g 是收敛的.
由(3.5)式可见,‖M‖越小收敛越快,且当‖x (k) -x(k-1) ‖很小时,‖x(k) –x*‖就很小,实际中用‖x (k) x(k-1) ‖<作为
迭代终止的条件。 例如，对例1中的Jacobi迭代计算结果
+‖x(k+1) –x*‖‖M‖‖x(k) –x(k-1)‖+‖M‖‖x(k) –x*‖ 从而得‖x(k) –x*‖‖M‖‖x (k) -x(k-1) ‖/（1- ‖M‖）
(3.5) (3.6)
估计式(3.5)得证。利用(3.5)式和
‖x(k+1) 得到
-x(k)
‖‖M‖‖x
(k)
-x(k-1)
‖
解线性方程组 的迭代法
第六章 解线性方程组的迭代法.ppt
称 J 为解 Ax b的雅可比迭代法的迭代阵.
（2.5）
15
研究雅可比迭代法(2.5)的分量计算公式.
记 x(k ) ( x1(k ) ,, xi(k ) ,, xn(k ) )T ,
由雅可比迭代公式(2.5), 有
Dx(k1) (L U )x(k ) b,
或
i1
n
aii
9
定义1 (1) 对于给定的方程组 x Bx f，用公式(1.6) 逐步代入求近似解的方法称为迭代法(或称为一阶定常迭代 法，这里 B与 k无关).
(2) 如果 lim x(k) 存在(记为 x * )，称此迭代法收敛， k
显然 x *就是方程组的解，否则称此迭代法发散. 研究 {x(k )}的收敛性. 引进误差向量
22
例2 用高斯-塞德尔迭代法解线性方程组(1.2).
8x1 3x2 2x3 4x1 11x2 x3
20, 33,
6x1 3x2 12x3 36.
（1.2）
取 x(0) (0, 0, 0)T， 按高斯-塞德尔迭代公式
x ( k 1) 1
记为 Ax b , 其中
（1.2）
8 A4
6
3 2 11 1, 3 12
x1 x x2 ,
x3
20 b 33 .
36
方程组的精确解是 x* (3, 2, 1)T . 现将(1.2)改写为
4
12
于是，求解 Ax b转化为求解 Mx Nx b，即求解
Ax b 求解x M 1Nx M 1b.
可构造一阶定常迭代法
高斯-赛得尔迭代法
b12x2(k) b13x3(k)
x2(k
1)
b x (k1) 21 1
b23x3(k)
b x (k) 1n1 n1
b1n xn(k)
g1
b x( 2n1 n1
k
)
b2nxn(k)
g2
x (k1) n
b x (k1) n1 1
bn2
x (k1) 2
bn3x3(k1)
b x (k1) nn1 n1
9
解线性方程组的迭代法
例 用Gauss-Seidel迭代法求线性方程组
10x1 x2 2x3 72,
x1 10x2 2x3 83,
x1 x2 5x3 42,
x1 0.1x2 0.2x3 7.2 x2 0.1x1 0.2x3 8.3 x3 0.2x1 0.2x2 8.4
x )
x (k 1) 2
0.4x2(k )
0.7( x1(k 1)
x (k) 3
)
x (k 1) 3
0.4x3(k ) 0.7(1.8 x2(k1) )
20
解线性方程组的迭代法
x (k 1) 1
0.4x1(k )
0.7(1 x2(k) )
参数 , 误差限 , 最大容许迭代次数N.
2. 置 k 1.
3.计算
18
解线性方程组的迭代法
n
x1 (1 ) x1(0) (b1
a1
j
x(0) j
)
/
a11
j2
i 1
n
xi (1 )xi(0) (bi aij x j
aij
x
(0) j
)
/
aii
j 1
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
误差向量
ε(k)=x(k)-x*=Bkε(0), ε(0)=x(0)-x*.
由设ρ(B)<1，应用定理3，有
lim Bk
k
0,于是对于任意x(0) 有lkim k
0,
即lim xk x*.
k
必要性. 设对任意x(0) 有 lim xk x*, k
其中x(k+1)=Bx(k)+f.显然，极限x*是线性方程组（1.7）的解，且对
2x3(k )
20) /
x(k 1) 2
(4 x1( k )
x3(k )
33)
8 /11
的收敛性。
x(k 1) 3
(6 x1( k )
3x2(k )
36)
/12
解 先求迭代矩阵B0的特征值。由特征方程
3 1
84
det(I
- B0)
4 11
1 0 11
11
24
可得
可得 det(I - B0 ) 3 0.034090909 0.039772727 0，
误差向量 (k) x (k) x* B k (x(0) x*) B k (0)
得 || (k) |||| B k |||| (0) ||, || (0) || 0于是
|| (k) || || B k || || (0) ||
所以 || B k || 是迭代k次后误差向量 (k)的范数与初始误差
4
11
1
x2
33
.
6 3 12 x3 36
精确解x*=(3,2,1)T. 改写(1.2)为
x1
x2
1 8
(3x2
2 x3
20),
1 11
( 4
x1
x3
33),
x3
1 12
(6 x1
3x2
36).
或写为x=B0x+f,即
x1
x2
x3
0
4 11
6 12
3 8
0
3 12
2 8
迭代法的基本定理是在理论上是重要的，由于ρ(B)<‖B‖，下面 利用矩阵B的范数建立判别迭代法收敛的充分条件 定理6（迭代法收敛的充分条件） 设有线性方程组
x=Bx+f, B∈Rn×n, 及一阶定常迭代法
x(k+1)=Bx(k)+f. 如果有B的某种算子范数‖B‖=q<1,则
（1）迭代法收敛，即对任意x(0)，
1
11
0
x1 x2 x3
20
8 33 11
36
12
.
(1.3)
任取初值,如x(0)=(0,0,0)T,代入(1.3)得到x(1)= (2.5,3,3)T. 反复迭代
x1(k 1) (3x2(k ) 2x3(k ) x2(k 1) (4x1(k ) x3(k
20) / ) 33)
越小, ln (B)越大，迭代法收敛越快。
（1.12）可用
k ln s ln 10
R(B) R(B)
作为迭代法（1.11）式所需的迭代次数的估计。
• 例如在例1中迭代矩阵B的谱半(B) 0.3592。
若要求
|| (k) || (0)
下面给出迭代法收敛的一个充分必要条件。
定理5 设有方程组
x Bx f 及一阶定常迭代法
(1.7)
x(k1) Bx(k ) f
(1.8)
则对任意初始向量x(0)迭代法(1.8)收敛 (B) 1.
证明 充分性.设ρ(B)<1，易知Ax=f（其中A=I-B）有唯一解，记
为x*,则
x*=Bx*+f,
定
理
1
lim
k
A
k
A lim k
Ak
A
0，其中 || || 为矩阵
的任一算子范数 .
定理2
lim
k
Ak
0
x
Байду номын сангаас
Rn
,
lim
k
Ak
x
0.
证明：对任一种矩阵从属范数有
|| Ak x |||| Ak |||| x || .
若 lim k
Ak
0,则 lim || k
Ak
||
0，故对一切x Rn ,
近似解的方法称为迭代法(一阶定常迭代法).
(2)若 lim x(k)存在(记为x*)，则称此迭代法收敛,显然x *
k
是解,否则迭代法发散.
由以上讨论，需研究 {x(k)}的收敛性 .
引进误差向量ε(k) x(k) x*,则由(1.6) (1.5)得 ε(k1) Bε(k) Bk ε(0).
另一方面对任意ε>0,记
Bε= [ρ(B)+ε]-1B,
显然由ρ(Bε)<1.由定理3有
lim
k
Bk
0,
所以存在正整数N=N(ε),使
K>N时，
Bk
|| Bk || (B) k 1,
即k>N时有
1
(B) || Bk || k (B)
由ε任意性即得定理结论
迭代法及其收敛性 设有方程组Ax b,其中A为非奇异矩阵，下面建立它
两边取对数得
ln
||
Bk
1
|| k
1
ln
k
即
k
ln 1
s ln 10
1
ln || B k || k ln || B k || k
(1.12)
1
它表明迭代次数k与 ln || B k || k 成反比。
1
定 义 4 迭代法平均收敛速度定义为Rk (B) ln || Bk ||k .
有
lim
k
||
Ak
x
||
0.所以就有定理的右边成立。
反
之，若定理的右
边成立
，取x为第j个坐标向量e
，
j
则 lim k
Ak e j
0, 表示Ak的第j列元素极限均为零，当
j
1,2,
, n时就证明了lim k
Ak
0，证毕。
下面讨论一种与迭代法x(k1) Bx(k) f有关的矩阵序列 的收敛性，这种序列由矩阵的幂构成，即{Bk }，其中B Rnn. 定 理 3 设矩阵B (bi(jk) ) Rnn , 则下列三个条件等价: (1) lim Bk 0;
向量 (0)的范数之比的最大值。这样迭代k次后，平均每
1
次迭代误差向量范数的压缩率可看成是|| B k ||k ,若有迭
代k次后有
|| (k) || || B k || , || (0) ||
其中 1, 10-s.
1
1
1
因为 (B) 1，故 || B k || k 1，由 || B k || k k
k
x(k) i
xi
(i 1,2, , n)
则称向量序列{x(k)}收敛于x，记为lim x(k) x. k
显然，lim x(k) x lim || x(k) - x || 0,其中|| || 为任意一种向量范数。
k
k
定 义 3 设矩阵序列 Ak (ai(jk ) ) Rnn , A (aij ) Rnn，若
收敛： lim ε(k) 0 lim Bk 0.
k
k
要研究B满足什么条件下Bk 0(k ).
定 义 2 设向量序列{x(k )} Rn，x(k ) (x1(k ) , x2(k ) , , xn(k ) )T Rn ,
若存在x (x1, x2 , , xn )T Rn , 使
lim
序列x ( k )逐步逼近此方程的精确解。
(1.4)
一般地，由Ax b变形得到等价的 x Bx f .
设有唯一解x*,则
x* Bx *f
(1.5)
又设任取初值x (0) , 则可构造迭代序列
x(k 1) Bx(k ) f
(1.6)
定义1 (1)对于方程组x Bx f，用公式(1.6)逐步代入求
的迭代法。 将A分裂为A M N,其中M为可选择的非奇异矩阵，
且使Mx d容易求解，一般选择为A的某种近似，称M为 分裂矩阵。于是Ax b x M 1Nx M 1b,也就是 x Bx f .从而可构造一阶定常迭代法 :
x(k 1) Bx(k ) f 其中B M 1N M 1(M A) I M 1A, f M 1b. 称B I M 1A为迭代法的迭代矩阵，选取M阵，就得到解 Ax b的各种迭代法。
零元素多，适合用迭代法。
我们将介绍迭代法的一般理论及雅可比迭代法、高 斯—塞德尔迭代法、超松弛迭代法，研究它们的收 敛性。
例1 求解线性方程组
8 x1 4 x1
3x2 2 11x2
x3 x3
20, 33,
6x1 3x2 12x3 36.
(1.2)
记为Ax=b,即
8 3 2 x1 20
例5
迭代法x ( k 1)
Bx(k )
f
, 其中B
0.9 0.3
00.8，f
12,显然 B 1.1，
B 1.2，B 1.043，B 1.54，，表明B的各种范数均大于1，但
1
2
F
由于（B） 0.9 1,故由此迭代法产生的迭代序列 x(k) 是收敛的。
下面考察迭代法的收敛速度，假定(B) 1，由于
第6章 解线性代数方程组的迭代法
§1 引言
考虑线性方程组
也就是
a11x1 a12x2 a1nxn b1
a21x1 a22x2
a2nxn
b2
an1x1 an2x2 annxn bn