第6章 线性方程组迭代解法
第6章 线性方程组迭代解法
第6章 线性方程组迭代解法一、选择题（四个选项中仅有一项符合题目要求，每小题3分，共计15分)1、设Ax b =的系数矩阵122111221A −⎡⎤⎢⎥=−−⎢⎥⎢⎥−−⎣⎦，若用雅可比法和高斯-赛德尔法求解，则下列说法正确的是（ ）（1）两者都收敛；（2）两者都发散；（3）前者收敛，后者发散；（4）前者发散，后者收敛。
2、用一般迭代法(1)()k k x Bx g +=+求解方程组Ax b =的解，则当（ ）时，迭代收敛。
（1）方程组系数矩阵A 对称正定；（2）方程组系数矩阵A 严格对角占优；（3）迭代矩阵B 严格对角占优；（4）迭代矩阵B 的谱半径()1B ρ<。
3、设求解方程组Ax b =的迭代格式为(1)()811717071088k k x x +⎡⎤⎡⎤⎢⎥⎢⎥=+⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦，其系数矩阵为711160107A −−−⎡⎤⎢⎥=−−⎢⎥⎢⎥−−⎣⎦，迭代矩阵为811170108B ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦，则下列说法正确的是（ ）。
（1）方程组系数矩阵A 严格对角占优，故此迭代收敛于方程组的解；（2）迭代矩阵B 严格对角占优，故此迭代收敛于方程组的解；（3）1101B B ∞==>，故此迭代发散；（4）迭代矩阵B 的谱半径()1B ρ>，故此迭代发散。
4、若线性代数方程组Ax b =的系数矩阵A 为严格对角占优阵，若用雅可比法和高斯-赛德尔法求解，则下列说法正确的是（ ）（1）两者都收敛；（2）两者都发散；（3）前者收敛，后者发散；（4）前者发散，后者收敛。
5、若线性代数方程组Ax b =的系数矩阵A 为对称正定矩阵，则下列说法正确的是（ ） （1）雅可比法收敛；（2）高斯-赛德尔法收敛；（3）雅可比法和高斯-赛德尔法均收敛；（4）SOR 迭代法收敛。
二、填空题（每小题3分，共计15 分）1、设10102a A ⎡⎤⎢⎥=⎢⎥⎣⎦，要使lim 0k k A →∞=，a 应满足的条件是________ __。
第6章求解线性代数方程组与计算矩阵特征值的迭代法
数值计算与MATLAB1《数值计算与MATLAB 》第6章求解线性代数方程组和计算矩阵特征值的迭代法§1 求解线性代数方程组的迭代法§2 方阵特征值和特征向量的计算§3 矩阵一些特征参数的MATLAB计算《数值计算与MATLAB 》6.1 求解线性代数方程组的迭代法1、迭代法的基本原理如果线性方程组Ax=b 的系数矩阵A 非奇异，则方程组有唯一解。
把这种方程中的方阵A 分解成两个矩阵之差：A=C-D若方阵C 是非奇异的，把A 它代入方程Ax=b 中，得出(C-D)x=b ，两边左乘C -1，并令M=C -1D ，g= C -1b ，移项可将方程Ax=b 变换成：x=Mx+g据此便可构造出迭代公式：xk+1=Mx k +g ，M=C -1D 称为迭代矩阵。
《数值计算与MATLAB 》2. 雅可比（Jacobi ）迭代法如果方程组Ax=b 的系数矩阵A非奇异，aii≠0，若可以把A 分解成：A=D-L-U=D+(-L)+(-U)，D=diag(a11,a22,…,a nn)；-L是严格下三角阵；-U是严格上三角矩阵；x= D-1((L+U)x +b)=D-1(L+U)x+ D-1bx k+1=D-1((L+U)x k+b)= D-1(L+U)x k+ D-1bMM=D-1(L+U)称为雅可比迭代矩阵《数值计算与MATLAB 》⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=67-4121-26-3-115-12A⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=61-3-2D⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=74-1-2-1-L⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=2-61-51-UM=D-1(L+U)=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡7/62/3-1/6-222-1/31/2-5/21/2-《数值计算与MATLAB 》雅可比迭代公式的向量形式x k =[( x k ) 1,( x k ) 2, …,(x k ) n ]T , k=0,1,2,……，D-1=diag( , ,… ,)，11a122a1nna1))((1)(11∑≠=++-=nijjijijiiikbxaaxk《数值计算与MATLAB》3. 赛德尔（Seidel）迭代法))((1)(11∑≠=++-=nijjijijiiikbxaaxkM= (D-L)-1U称为赛德尔迭代矩阵4. 迭代法的敛散性方阵的谱半径《数值计算与MATLAB》《数值计算与MATLAB 》向量范数非负性：||x||≥0齐次性：||ax||=|a|||x||；三角不等式：||x||+||y||≥||x+y||。
计算方法3_线性方程组迭代解法
计算方法3_线性方程组迭代解法线性方程组的迭代解法是解决线性方程组的一种常见方法，常用于大规模的线性方程组求解。
该方法通过不断迭代更新解的近似值，直到满足一定的收敛准则为止。
线性方程组的迭代解法有很多种，其中最经典的是雅可比迭代法、高斯-赛德尔迭代法和超松弛迭代法。
本文将分别介绍这三种迭代解法及其计算方法。
雅可比迭代法是一种比较简单的线性方程组迭代解法，它的基本思想是先将线性方程组转化为对角占优的形式，然后通过迭代求解逐渐接近精确解。
雅可比迭代法的迭代公式为：其中，x^(k+1)是第k+1次迭代的近似解，n是未知数的个数，a_ij 是系数矩阵A的元素，f_i是方程组的右端向量的元素。
雅可比迭代法的计算步骤如下：1.将线性方程组转化为对角占优的形式，即保证矩阵A的对角元素绝对值大于其它元素的绝对值。
2.初始化向量x^(0)，设定迭代终止准则。
3.根据雅可比迭代公式，计算x^(k+1)。
4.判断迭代终止准则是否满足，如果满足，则停止迭代，返回近似解x^(k+1)；否则，继续进行下一次迭代。
高斯-赛德尔迭代法是雅可比迭代法的改进方法，它的基本思想是在每次迭代计算x^(k+1)时，利用已经计算出的近似解作为x的一部分。
高斯-赛德尔迭代法的迭代公式为：其中，x^(k+1)_i是第k+1次迭代的近似解中第i个未知数的值，x^(k)_i是第k次迭代的近似解中第i个未知数的值。
高斯-赛德尔迭代法的计算步骤如下：1.将线性方程组转化为对角占优的形式。
2.初始化向量x^(0)，设定迭代终止准则。
3.根据高斯-赛德尔迭代公式，计算x^(k+1)。
4.判断迭代终止准则是否满足，如果满足，则停止迭代，返回近似解x^(k+1)；否则，继续进行下一次迭代。
超松弛迭代法是对高斯-赛德尔迭代法的一种改进方法，它引入了松弛因子ω，通过调整参数ω的值，可以加快迭代的收敛速度。
超松弛迭代法的迭代公式为：其中，0<ω<2，x^(k+1)_i是第k+1次迭代的近似解中第i个未知数的值，x^(k)_i是第k次迭代的近似解中第i个未知数的值。
迭代法求解线性方程组
/* iteration methods for the solution of linear systems */
Linear systems： ：
a11 x1 + a12 x 2 + L + a1n x n = b1 a x + a x + L + a x = b 21 1 22 2 2n n 2 L a n1 x1 + a n 2 x2 + L + a nn xn = bn
x(
= x ( ) + D −1 b − Ax(
k
(
k)
)
Gauss-Seidel iteration
取M为D+L
Ax = b ⇔ ( D + L) x = −Ux + b ⇔ x = ( D + L) −1 (−Ux + b) ⇔ x = −( D + L) −1Ux + ( D + L) −1 b 迭代格式为： x ( 0)，初始向量 （k +1) x = −( D + L) −1Ux ( k ) + ( D + L) −1 b
(
)
(
)
(
)
or
xi
( k +1 )
1 =− a ii
j =1, j ≠ i
∑
n
a ij x j
(k )
bi , + a ii
i = 1, 2,..., n
上面例对应的分量形式为 x ( 0) = (0,0,0)T (k ) ( ( x1 = (1 − 2 x2k ) + 2 x3k ) ) / 1 (k ) ( x2 = (3 − x1( k ) − x3k ) ) / 1 ( ( x3k ) = (5 − 2 x1( k ) − 2 x2k ) ) / 1
线性方程组的迭代式求解方法
线性方程组的迭代式求解方法迭代法解方程的基本原理1.概述把 Ax=b 改写成 x=Bx+f ，如果这一迭代格式收敛，对这个式子不断迭代计算就可以得到方程组的解。
道理很简单：对 x^{(k+1)}=bx^{(k)}+f 两边取极限，显然如果收敛，则最终得到的解满足 \lim_{k\rightarrow\infty } x^{(k)}=x^*=Bx^*+f ，从而必然满足原方程 Ax^*=b 。
迭代方法的本质在于这一次的输出可以当作下一次的输入，从而能够实现循环往复的求解，方法收敛时，计算次数越多越接近真实值。
2.收敛条件充要条件：迭代格式 x=Bx+f 收敛的充要条件是 \rho (B)<1充分条件： \Vert B\Vert <1即 \Vert B\Vert <1 \Rightarrow \rho(B)<1\Leftrightarrow 迭代收敛一、Jacobi迭代法怎样改写Ax=b ，从而进行迭代求解呢？一种最简单的迭代方法就是把第i行的 x_i 分离出来(假定 a_{ii} \ne 0 )：\sum_{j=1}^{n}a_{ij}x_j=b_i\Rightarrow x_i=\frac{b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j}{a_{ii}}\quad \\这就是Jacobi(雅可比)迭代法。
迭代格式给定x^{(0)}=\left[x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)}\rig ht]^T ，则Jacobi法的迭代格式（也称分量形式）为x_i^{(k+1)}=\frac{1}{a_{ii}}\left ( {b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j^{(k)}}\right),\quadi=1,2,\cdots,n\\矩阵形式设 A=D-L-U。
Jacobi法的矩阵形式（也称向量形式）为x^{(k+1)}=B_Jx^{(k)}+D^{-1}b\\其中迭代矩阵 B_J=D^{-1}(L+U)收敛条件\begin{eqnarray} \left. \begin{array}{lll} \VertB_J\Vert <1 \\ A 严格对角占优\\ A, 2D-A对称正定\end{array} \right \} \end{eqnarray} \Rightarrow \rho (B_J)<1\Leftrightarrow 迭代收敛特别地，若 A 对称正定且为三对角，则 \rho^2(B_J)=\rho (B_G)<1 。
第六章解线性方程组的迭代法
再由定理3，即得 。
判断迭代收敛时，需要计算 ，一般情况下，这不太方便。由于 ，在实际应用中，常常利用矩阵B的范数来判别迭代法的收敛性。
【定理5】（迭代法收敛的充分条件）设有方程组
以及迭代法
（ ）
如果有B的某种范数 ，则
（1）迭代法收敛，即对任取 有
且 。
（2） 。
（3） 。
（4） 。
步3对于i=1,2,…,n
步4 k=k+1
步5若 ，输出近似解 ，停止计算。否则，执行步6。
步6若k=N，输出达到迭代次数信息，程序中止。否则，执行步7。
步7对于i=1,2,…,n， ，返回步2。
注：
1形成高斯-塞德尔迭代式的条件是 存在，而 ，故只要A的主对角线元素均非零，该逆阵存在。
2高斯-塞德尔迭代收敛的条件是 。
形成迭代式
对于任意初值 ， （ ）
这就是雅可比迭代法。
注：
1形成雅可比迭代式的条件是A的主对角线元素均非零。
2雅可比迭代收敛的条件是 。
【例题2】对于线性方程组
利用雅可比迭代法求其近似解（允许的最大迭代次数N，近似解的精度eps，由用户设定）。
（二）高斯-塞德尔迭代法。
从雅可比迭代的分量形式可以发现，在进行第k次迭代时，利用 ， ，…， ，生成向量 ，其分量产生的次序是 ， ，…， 。我们对雅可比方法进行以下改变设计：
【例题3】对于线性方程组
1高斯－塞德尔迭代法求其近似解（允许的最大迭代次数N，近似解的精度eps，由用户设定）。
因为 ，得到
这里，注意事实
4 约当块幂阵的收敛性结论
当 时， 收敛于零矩阵；当 ， 发散。
矩阵序列极限的概念可以用矩阵范数来描述。
第六章 线性与非线性方程组的迭代解法1
1
1
证明：记 D 2 d ia g ( a 1 1 , a 2 2 , , a n n ), D D 2 D 2 . J法迭代矩阵:
D
1
(L U ) I D
1
1
A D
1 2
(I D
1 2
1 2
1 2
1
AD
)D
2
1 2
矩阵 D
(L U ) 和 I D
2 2 D A D (2 I D
AD
)D 2 ,
由 2I D
1 2
1 2
AD
对称正定得 2 D A 对称正定。
1
D
(L U ) I D
1
A D
1 2
(I D
1 2
1 2
1
AD
)D
2
充分性 设 是 D 而I D
1 1
1 2
1 2
不妨假设
a kk x k
xk m ax xi
1 i n
，
则由第k个方程得：
j k
a kj x j
j k
a kj x j
j k
a kj x k
a kk
j k
a kj
与 A 严格对角占优矛盾！
A不可约对角占优（反证法）：
假设存在非零向量 x ( x 1 , , x n ) 定义集合：
T
使得 A x 0
m ax xi
1 i n
k : x
计算方法 线性方程组的迭代解法 基本的矩阵分裂迭代法ch06b r
13
对角占优矩阵
定义：设 ARnn，若 | aii |
j 1, j i
n
| aij |
( i = 1, 2, ... , n )
且至少有一个不等式严格成立，则称 A 为 弱对角占优； 若所有不等式都严格成立，则称 A 为 严格对角占优。
14
可约与不可约
定义：设 ARnn，若存在排列矩阵 P 使得
j i 1
a
n
ij
x
(k ) j
aii
4
i = 1, 2, … , n， k = 0, 1, 2, …
Gauss-Seidel 迭代
( k 1) (k) (k) (k) x1 b1 a12 x2 a13 x3 a1 n xn a11 ( k 1) (k) (k) (k) x b a x a x a x 2 2 21 1 23 3 2 n n a22 ( k 1) (k) (k) (k) x b a x a x a x n n1 1 n2 2 n , n 1 n 1 ann n
x
(k) i
i 1 n ( k 1) (k) bi aij x j aij x j aii j 1 j i
为了得到更好的收敛效果，可在修正项前乘以一个 松弛因子
，于是可得迭代格式
xi( k 1)
i 1 n (k) ( k 1) (k) xi bi aij x j aij x j aii j 1 j i
18
举例
1 a a 解法二： Jacobi 的迭代矩阵为 J a 1 a a a 1
第六章线性和非线性方程组的迭代解法
x(0) x x(0) (I M )1 g (I M)1 (I M )x(0) g
(I M )1 x(0) Mx(0) g
(I M )1 x(0) Mx(0) g (I M )1 x(0) x(1) 代入前述不等式即得。
利用矩阵的范数判定迭代收敛只是一个充分条
li ui 1 li ui
li 1 li
1
li
ui
0
ui 1 li
li
ui
❖其次证明Gauss-Seidel迭代收敛，即 (M ) 1
设 为 M D L 1 U 的任意特征值，相应的
特征向量为 x 1, 2 ,L , n T ，且
i
x 1
则有 D L 1 Ux x
再对 x(k) x *
x(i ) x(i1) 两边取范数得
ik
x(k) x
x(i ) x(i1)
ik
i x(1) x(0)
k
x(1) x(0)
ik
1
Th6.2.5 设 B 为Jacobi法的迭代矩阵，若 B 1 1
则Gauss-Seidel迭代收敛，而且有估计式
上述方法称为Jacobi迭代法，简称J法或简单迭代法
分量形式：
i 1
n
bi
aij
x(k) j
aij
x
(k j
)
x ( k 1) i
j 1
ji 1
a ii
;i 1, 2,L , n
二、 Gauss-Seidel迭代法
在J迭代公式中，计算 xi(k1时) ，利用已经算出来的新的
x ( k 1) 1
x(k) x M ( x(k1) x ) L M k ( x(0) x )
(离散数学) 线性代数方程组的解法(迭代)
22
1 (k ) (k ) (k ) [b1 0 x1 a12 x2 .......... a1n xn ] a11
x
( k 1 ) n
1 (k ) (k ) (k ) [bn an1 x1 an 2 x2 .......... 0 xn ] ann
第三章
解线性方程组的迭代法
一.简单迭代法 1.迭代法建立. 考虑 Ax b
Ax b x Bx g
(矩阵B不唯一)
对应写出
x ( k 1) Bx ( k ) g 取定初始向量 x (0)
( k 0,1,2,)
( 3.4)
( 1) ( 2) (k ) ( k 1) x , x , , x , x , 产生向量序列
( k 1 ) x2
（3.10）
( k 1 ) xn
称为与Jacobi迭代法（3.7）对应的Seidel方法, 其收敛情况如下： (1)使用一般的Seidel方法（3.9）的收敛性判别法 (2)若系数矩阵A对称正定，则求解方程组（3.5）的 与Jacobi迭代法对应的Seidel方法（3.10）对任意 (0) x 收敛。 （证略）
x
(k ) n
(3.9)
(k ) n
( k 1) n
b
n1
x
( k 1) 1
n2xΒιβλιοθήκη ( k 1 ) 2 b nn
x
为与(3.8)对应的 Seidel 迭代法，其迭代矩阵 B s 可用 “代入法”求得。
Seidel 迭代法(3.9)的收敛性
（1）Seidel 迭代法(3.9)对任意
(3) 设方程组（ 3.5 ）的系数矩阵 A 按行严格对角占优 n 即：
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第6章 线性方程组迭代解法
一、选择题（四个选项中仅有一项符合题目要求，每小题3分，共计15分)
1、设
Axb=
的系数矩阵122111221A−⎡⎤⎢⎥=−−⎢⎥⎢⎥−−⎣⎦，若用雅可比法和高斯-赛德尔法求解，则下列
说法正确的是（ ）
（1）两者都收敛；（2）两者都发散；（3）前者收敛，后者发散；（4）前者发散，后者收敛。
2、用一般迭代法
(1)()kkxBxg+
=+
求解方程组Axb=的解，则当（ ）时，迭代收敛。
（1）方程组系数矩阵A对称正定；（2）方程组系数矩阵A严格对角占优；
（3）迭代矩阵
B严格对角占优；（4）迭代矩阵B
的谱半径()1Bρ<。
3、设求解方程组Axb=的迭代格式为(1)()811717071088kkxx+⎡⎤⎡⎤⎢⎥⎢⎥=+⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦，其系数矩阵为
711160107A−−−⎡⎤⎢⎥=−−⎢⎥⎢⎥−−⎣⎦，迭代矩阵为811
170108B
⎡⎤
⎢⎥
=
⎢⎥
⎢⎥
⎣⎦
，则下列说法正确的是（ ）。
（1）方程组系数矩阵A严格对角占优，故此迭代收敛于方程组的解；
（2）迭代矩阵B严格对角占优，故此迭代收敛于方程组的解；
（3）
1101BB∞
==>
，故此迭代发散；
（4）迭代矩阵
B的谱半径()1Bρ>
，故此迭代发散。
4、若线性代数方程组Axb=的系数矩阵A为严格对角占优阵，若用雅可比法和高斯-赛德尔
法求解，则下列说法正确的是（ ）
（1）两者都收敛；（2）两者都发散；（3）前者收敛，后者发散；（4）前者发散，后者收敛。
5、若线性代数方程组Axb=的系数矩阵A为对称正定矩阵，则下列说法正确的是（ ）
（1）雅可比法收敛；（2）高斯-赛德尔法收敛；（3）雅可比法和高斯-赛德尔法均收敛；
（4）SOR迭代法收敛。
二、填空题（每小题3分，共计15 分）
1、设
10
1
0
2
a
A⎡⎤⎢⎥=
⎢⎥
⎣⎦
，要使lim0kkA→∞=，a应满足的条件是________ __。
Edited by Foxit Reader
Copyright(C) by Foxit Software Company,2005-2008
For Evaluation Only.
1
2、若用高斯-赛德尔法解方程组1212423xaxaxx+=⎧⎨+=−⎩，其中a为实数，则该方法收敛的充要条件
是a应满足____ __。
3、给定方程组
121
122
xaxbaxxb−=
⎧
⎨
−+=
⎩
，a为实数，当a满足_________且02ω<<时，SOR迭
代法收敛。
4、设求解线性代数方程组Axb=的雅可比法的迭代矩阵为B，且12()Bρ=，若改用SOR
迭代法计算，则最佳松弛因子ω= 。
5、设实对称正定方程组Axb=，其中()nnijAaR×=∈，二次函数12()(,)(,)xAxxbxϕ=−，
则()xϕ∇= 。
三、（9分）对于下面的迭代矩阵
B，判断迭代法1kxBxf−=+
的是否收敛。
（1）09030005....B⎡⎤=⎢⎥⎣⎦；（2）11030412....B−⎡⎤=⎢⎥−⎣⎦； （3）09030008....B⎡⎤=⎢⎥⎣⎦。
四、（14分）已知方程组Axb=，其中122111221A−⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦，123b⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦，
（1）写出该方程组的Jacobi迭代法和Gauss-Seidel迭代法的分量形式；
（2）判断（1）中两种方法的收敛性，如果均收敛，说明哪一种方法收敛更快；
（3）写出相应的SOR迭代法的分量形式（取
15.
ω
=
）。
五、（10分）设n阶矩阵B的谱半径
()
1Bρ≥，但B有一个特征值λ，其模1
λ
<
。证明：
存在初始向量(0)x，使得迭代法(1)(),0,1,2,kkxBxgk+=+=L得到的向量序列收敛到方程
xBxg
=+
的唯一解*x。
六、（12分）用共轭梯度法求解方程组123210113110143xAxxbx−⎛⎞⎛⎞⎛⎞⎜⎟⎜⎟⎜⎟=−−==⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟⎜⎟−⎝⎠⎝⎠⎝⎠，初始近似向
量取为()Tx0,0,0)0(=。
七、（10分）设H为n阶实对称矩阵，A为n阶正定矩阵，AHAH−正定，证明：迭代格
Edited by Foxit Reader
Copyright(C) by Foxit Software Company,2005-2008
For Evaluation Only.
2
式()1(),0,1,2,kkxHxbk+=+=L对任意初始向量(0)x都收敛。
八、（15分）设方程组Axb=的系数矩阵nnAR×∈非奇异，ADLU=−−，其中
D,L,U
−−
分别是A的对角阵、严格下三角阵和严格上三角阵，D非奇异。
(1) 写出Jacobi迭代法的迭代矩阵
B
，并证明其特征方程为()0detDLUλ−−=；
(2) 写出Gauss-Seidel迭代法的迭代矩阵
G
，并证明其特征方程为 ()0det()DLUλ−−=；
(3) 写出SOR迭代法的迭代矩阵
G
ω
，并证明其特征方程为
10
det[()()]DLDU
λωωω
−−−−=
。
Edited by Foxit Reader
Copyright(C) by Foxit Software Company,2005-2008
For Evaluation Only.