第四章线性代数方程组迭代解法
合集下载
数值方法课后习题答案第4章
第四章
解线性方程组迭代法
第四章 解线性方程组迭代法
习题4-1
第四章
解线性方程组迭代法
Байду номын сангаас
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
习题4
习题4
习题4
习题4
8.
设A为严格对角优势阵，证明：
习题4
9. A是n阶非奇异阵，B是n阶奇异阵，试求证：
习题4
习题4
P91
P91.
x0
p0 r0
Ap0
x1
r1
p1
Ap1
x2
r2
0
3
7
30/29=
17/29=
1360/841=
1530/841=
14/9=
0.3
P91
1.034482758 0 1 8 10/29= 0.344827586
0.570796875 0.493315839 0.500166165 0.499999398 1.001438281 0.998173633 1.000074653 1.000013383 -0.49943416 -
0.500558834 0.499923587 0.500003961
w=1.03
10 29 a0 =10/29=0.344827586
2890/841=3.436385254 260100/24389=10.66464388 a1 =8381/26010=0.322222222 -289/29= -9.965517218 b0 =289/841=0.343638524
解线性方程组迭代法
第四章 解线性方程组迭代法
习题4-1
第四章
解线性方程组迭代法
Байду номын сангаас
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
解线性方程组迭代法
第四章
习题4
习题4
习题4
习题4
8.
设A为严格对角优势阵，证明：
习题4
9. A是n阶非奇异阵，B是n阶奇异阵，试求证：
习题4
习题4
P91
P91.
x0
p0 r0
Ap0
x1
r1
p1
Ap1
x2
r2
0
3
7
30/29=
17/29=
1360/841=
1530/841=
14/9=
0.3
P91
1.034482758 0 1 8 10/29= 0.344827586
0.570796875 0.493315839 0.500166165 0.499999398 1.001438281 0.998173633 1.000074653 1.000013383 -0.49943416 -
0.500558834 0.499923587 0.500003961
w=1.03
10 29 a0 =10/29=0.344827586
2890/841=3.436385254 260100/24389=10.66464388 a1 =8381/26010=0.322222222 -289/29= -9.965517218 b0 =289/841=0.343638524
第三章 迭代法s4 解线性方程组的迭代法
得 x(1) = ( 0.5000, 2.8333, -1.0833 )T
x(9) = ( 2.0000, 3.0000, -1.0000 )T
举例（续）
SOR 迭代格式
( x1( k 1) (1 ) x1( k ) 1 x2k ) 2 ( k 1) (k ) ( k 1) (k ) x2 (1 ) x2 8 x1 x3 3 ( k 1) ( ( x3 (1 ) x3k ) 5 x2k 1) 2
( k ( k 在计算 xi( k 1) 时，如果用 x1 k1) ,, xi(11) 代替 x1 k ) ,, xi(1) ，则 可能会得到更好的收敛效果。此时的迭代公式为
x1( k 1) ( x2k 1) ( k 1) xn
( ( ( b1 a12 x2k ) a13 x3k ) a1n xnk ) a11 ( ( b2 a21 x1( k 1) a23 x3k ) a2 n xnk ) a22
解得
x
x ( k 1) (1 ) x ( k ) D 1 b Lx ( k 1) Ux ( k )
( k 1)
D L
1
1
(1 ) D U x
(k )
D L b
1
GS D L
Jacobi 迭代 x( k 1) D1 ( L U ) x( k ) D1b
M = D, N = M – A = -(L + U)
GS 迭代
x
( k 1)
L D Ux
1
(k )
线性方程组的迭代式求解方法
线性方程组的迭代式求解方法迭代法解方程的基本原理1.概述把 Ax=b 改写成 x=Bx+f ，如果这一迭代格式收敛，对这个式子不断迭代计算就可以得到方程组的解。
道理很简单：对 x^{(k+1)}=bx^{(k)}+f 两边取极限，显然如果收敛，则最终得到的解满足 \lim_{k\rightarrow\infty } x^{(k)}=x^*=Bx^*+f ，从而必然满足原方程 Ax^*=b 。
迭代方法的本质在于这一次的输出可以当作下一次的输入，从而能够实现循环往复的求解，方法收敛时，计算次数越多越接近真实值。
2.收敛条件充要条件：迭代格式 x=Bx+f 收敛的充要条件是 \rho (B)<1充分条件： \Vert B\Vert <1即 \Vert B\Vert <1 \Rightarrow \rho(B)<1\Leftrightarrow 迭代收敛一、Jacobi迭代法怎样改写Ax=b ，从而进行迭代求解呢？一种最简单的迭代方法就是把第i行的 x_i 分离出来(假定 a_{ii} \ne 0 )：\sum_{j=1}^{n}a_{ij}x_j=b_i\Rightarrow x_i=\frac{b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j}{a_{ii}}\quad \\这就是Jacobi(雅可比)迭代法。
迭代格式给定x^{(0)}=\left[x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)}\rig ht]^T ，则Jacobi法的迭代格式（也称分量形式）为x_i^{(k+1)}=\frac{1}{a_{ii}}\left ( {b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j^{(k)}}\right),\quadi=1,2,\cdots,n\\矩阵形式设 A=D-L-U。
Jacobi法的矩阵形式（也称向量形式）为x^{(k+1)}=B_Jx^{(k)}+D^{-1}b\\其中迭代矩阵 B_J=D^{-1}(L+U)收敛条件\begin{eqnarray} \left. \begin{array}{lll} \VertB_J\Vert <1 \\ A 严格对角占优\\ A, 2D-A对称正定\end{array} \right \} \end{eqnarray} \Rightarrow \rho (B_J)<1\Leftrightarrow 迭代收敛特别地，若 A 对称正定且为三对角，则 \rho^2(B_J)=\rho (B_G)<1 。
第四章 线性方程组的迭代解法
电子科技大学生命学院ijiiijii考虑解线性方程组的考虑解线性方程组的gaussgaussseidelseidel迭代法迭代法ijiiijiiijiiijii44sor迭代法的加速电子科技大学生命学院的改变量次迭代时因此因此前加一个因子在改变量上式称为逐次超松弛法sor迭代法称为松弛因子由由ggss迭代法的矩阵形式迭代法的矩阵形式电子科技大学生命学院uxlxdx的改变量次迭代时uxlxdxdx法的迭代矩阵为sorsorsor法化为法化为gs迭代法gs法为sor法的特例sor法为gs法的加速用ggss法和法和sorsor法求下列方程组的解法求下列方程组的解45要求精度要求精度1e1e66电子科技大学生命学院1gss迭代法迭代法075000000375000015000000075000000375000015000000056250000531250015416667056250000531250015416667065104170596354216145833065104170596354216145833070182290658203116727431070182290658203116727431099999330999992319999926099999330999992319999926099999430999993519999937099999430999993519999937099999520999994419999946099999520999994419999946099999509999950999994099999419999951999995满足精度的解满足精度的解迭代次数为迭代次数为7171次次电子科技大学生命学院2sor2sor迭代法迭代法0637500000121875131990630637500000121875131990630200427003717572131228050200427003717572131228050655033505340119169228480655033505340119169228480705846807733401177719320705846807733401177719320999999009999976199999910999999009999976199999910999998409999993199999890999998409999
第四章 线性方程组迭代解法
得 A A 的特征值
故 A 15
:
1 15
Ax
2
221 ,
2
2 15
2
221
x
2
221 ,
( 7 ) ( 11 ) 170 A
2
2
返回
前进
向量序列与矩阵序列的极限
与求解方程类似，需要讨论的问题是：如何建 立迭代公式，向量序列的收敛条件是什么，若向量 序列{x(k)}收敛，如何进行误差估计？
}为 n 阶方阵序列， A 为 n 阶方阵，如果对于
k
任何矩阵范数都有： 则称序列
lim
A
(k )
A 0 A
(k )
A 收敛于矩阵
(k )
A , 记为 lim
k
A
与向量序列类似，也有：
定理2
设A
(k )
x 如果对任何向量范数都 收敛于 x 0 则称序列 x
(k ) (k ) (k ) k
有： x,
记为 lim x
x
返回
前进
向量序列与矩阵序列的极限（续）
n维点列收敛的一种等价描述是其对应坐标序列均 收敛，向量序列也有类似的结论。 定理1
R 中的向量序列
当且仅当 n
x 收敛于
j 1
n
a ij max
n1 i ຫໍສະໝຸດ nbj 1n
ij
A
B
（ 4）：
AB
max
1 i n
a
j 1 k 1 n
ik
b kj max max 1 i n
1 i n
(离散数学) 线性代数方程组的解法(迭代)
( k 1 ) 2
22
1 (k ) (k ) (k ) [b1 0 x1 a12 x2 .......... a1n xn ] a11
x
( k 1 ) n
1 (k ) (k ) (k ) [bn an1 x1 an 2 x2 .......... 0 xn ] ann
第三章
解线性方程组的迭代法
一.简单迭代法 1.迭代法建立. 考虑 Ax b
Ax b x Bx g
(矩阵B不唯一)
对应写出
x ( k 1) Bx ( k ) g 取定初始向量 x (0)
( k 0,1,2,)
( 3.4)
( 1) ( 2) (k ) ( k 1) x , x , , x , x , 产生向量序列
( k 1 ) x2
（3.10）
( k 1 ) xn
称为与Jacobi迭代法（3.7）对应的Seidel方法, 其收敛情况如下： (1)使用一般的Seidel方法（3.9）的收敛性判别法 (2)若系数矩阵A对称正定，则求解方程组（3.5）的 与Jacobi迭代法对应的Seidel方法（3.10）对任意 (0) x 收敛。 （证略）
x
(k ) n
(3.9)
(k ) n
( k 1) n
b
n1
x
( k 1) 1
n2xΒιβλιοθήκη ( k 1 ) 2 b nn
x
为与(3.8)对应的 Seidel 迭代法，其迭代矩阵 B s 可用 “代入法”求得。
Seidel 迭代法(3.9)的收敛性
（1）Seidel 迭代法(3.9)对任意
(3) 设方程组（ 3.5 ）的系数矩阵 A 按行严格对角占优 n 即：
22
1 (k ) (k ) (k ) [b1 0 x1 a12 x2 .......... a1n xn ] a11
x
( k 1 ) n
1 (k ) (k ) (k ) [bn an1 x1 an 2 x2 .......... 0 xn ] ann
第三章
解线性方程组的迭代法
一.简单迭代法 1.迭代法建立. 考虑 Ax b
Ax b x Bx g
(矩阵B不唯一)
对应写出
x ( k 1) Bx ( k ) g 取定初始向量 x (0)
( k 0,1,2,)
( 3.4)
( 1) ( 2) (k ) ( k 1) x , x , , x , x , 产生向量序列
( k 1 ) x2
（3.10）
( k 1 ) xn
称为与Jacobi迭代法（3.7）对应的Seidel方法, 其收敛情况如下： (1)使用一般的Seidel方法（3.9）的收敛性判别法 (2)若系数矩阵A对称正定，则求解方程组（3.5）的 与Jacobi迭代法对应的Seidel方法（3.10）对任意 (0) x 收敛。 （证略）
x
(k ) n
(3.9)
(k ) n
( k 1) n
b
n1
x
( k 1) 1
n2xΒιβλιοθήκη ( k 1 ) 2 b nn
x
为与(3.8)对应的 Seidel 迭代法，其迭代矩阵 B s 可用 “代入法”求得。
Seidel 迭代法(3.9)的收敛性
（1）Seidel 迭代法(3.9)对任意
(3) 设方程组（ 3.5 ）的系数矩阵 A 按行严格对角占优 n 即：
解线性代数方程组的迭代法
对任意 x (0)，均有
. lim x(k) x*
k
②同一个简单迭代法可以关于某一个 x (0)收敛，而关
于另外 x (0)不收敛。
③ Ax
b
变形为
x
Bx
g
的方式不唯一。
④
当收敛时，只要 k
充分大，则可用
x（k 1）作为
x
*
的
近似值。
2019/12/10
就是方程组的解。此时称简单迭代法
x (k1) Bx (k) g ，k 0,1,关于初始向量x (0) 收敛。
2019/12/10
14
简单迭代法的构造（续）
①如果对初始向量 x (0)， lim x(k) x*，则称此简单迭 k
代法关于初始向量 x (0)收敛。一般谈及收敛，是指
即 lim x(k) x* k
2019/12/10
5
序列收敛的等价条件（续）
必要性
lim x(k) x*
k
lim x(k) x* 0
k
由等价性知：
c1
x
(k
)
x*
x(k) x*
c2
x(k) x*
有
lim x(k) x* 0
k 1in
j 1
a(k) ij
aij
)
0
也即 lim max k 1i, jn
a(k) ij
aij
0
故
lim
k
a(k ij
)
aij
证毕
Remark
①.向量序列、矩阵序列的收敛性等价于按分量、按元
线性代数方程组迭代法PPT课件
超松弛法
收敛速度快
总结词
总结词
计算量较大
ABCD
详细描述
超松弛法具有较快的收敛速度，尤其对于大型线 性方程组，能够显著减少迭代次数。
详细描述
由于超松弛法的计算量较大，因此在实际应用中 可能需要考虑计算效率的问题。
CHAPTER 04
迭代法的实现步骤
初始化
设置初值
为方程组的解向量设定一个初始值。
迭代法的应用场景
当方程组的系数矩阵难以直接求解时 ，迭代法可以作为一种有效的替代方 案。
在科学计算、工程技术和经济领域中 ，许多问题可以转化为线性代数方程 组求解，而迭代法在这些领域有广泛 的应用。
迭代法的优缺点
优点
迭代法通常比直接法更加灵活和通用，对于大规模和高维度的线性代数方程组， 迭代法更加高效。
缺点
迭代法需要选择合适的迭代公式和参数，并且需要满足收敛条件，否则可能无 法得到正确的解。此外，迭代法的计算过程比较复杂，需要较高的计算成本。
CHAPTER 02
迭代法的基本原理
迭代法的数学模型
迭代法是一种求解线性代数方程组的数值方法，通过不断迭代逼近方程的 解。
迭代法的数学模型通常表示为：$x_{n+1} = T(x_n)$，其中$x_n$表示第 $n$次迭代时的近似解，$T(x)$表示迭代函数。
03
非线性方程组的迭代法在求解优化问题、控制问题 等领域有广泛应用。
在优化问题中的应用
01
迭代法在优化问题中也有广泛应用，如求解无约束优化问题、 约束优化问题和多目标优化问题等。
02
常见的优化问题迭代法包括梯度下降法、牛顿法和共轭梯度法
等。
这些方法通过不断迭代来逼近最优解，广泛应用于机器学习、
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
a11x1 a12 x2 a1n xn b1
a21 x1
a22 x2
a2n xn
b2
an1x1 an2 x2 ann xn bn
n
写据成此建立迭ai代j x公j 式 bi
i 1,2,, n
若上xia(式xkiii1称)0为ja(1解a1i1iiii方((1bb,程2ii , 组jj的,njnn1i )1Jaaa,ijc分xijo(xjbk离)ij)迭)出代变i公i量式1,。21x,,2i , n , n ji
第四章 解线性方程组的迭代法
在第二章中我们知道，凡是迭代法都有 一个收敛问题，有时某种方法对一类方程组 迭代收敛，而对另一类方程组进行迭代时就 会发散。一个收敛的迭代法不仅具有程序设 计简单，适于自动计算，而且较直接法更少 的计算量就可获得满意的解。因此，迭代法 亦是求解线性方程组，尤其是求解具有大型 稀疏矩阵的线性方程组的重要方法之一。
就改用新值
x (k 1) i
替代老值
x (k ) i
进行这一步剩下的计算。
高斯-塞德尔迭代算法的程序实现 ( 见附录A A-7 用高斯—塞德尔迭代法求解线
性方程组 ）
4.5 超松弛迭代法（SOR方法） 使用迭代法的困难在于难以估计其计算
量。有时迭代过程虽然收敛，但由于收敛速 度缓慢，使计算量变得很大而失去使用价值 。因此，迭代过程的加速具有重要意义。逐 次超松弛迭代（Successive Over relaxatic Method，简称SOR方法）法，可 以看作是带参数的高斯—塞德尔迭代法，实 质上是高斯-塞德尔迭代的一种加速方法。
式中系数ω 称为松弛因子，当ω =1时，便为高斯塞德尔迭代法。为了保证迭代过程收敛，要求 0<ω < 2。 当0<ω < 1时，低松弛法；当1<ω < 2时 称为超松弛法。但通常统称为超松弛法(SOR)。
33 33,
迭代解离精确解 x1 1, x2 1 越来越远迭代不收敛
4.3 雅可比（Jacobi）迭代法
4.3.1雅可比迭代法算法构造
例4.2 用雅可比迭代法求解方程组
8x1 3x2 2x3 20 4x1 11x2 x3 33 6x1 3x2 12x3 36
解建：立从迭方代程公组式的三个方程中分离出 x1, x2 和 x3
x1x( k 11) xxxx32(( kk 3211))
3 8
x2(k )
8314xx23(k)
51 24
1411x41(1k) x1
1 11
x3(k) 31 11
0
ann
a12 0
a13 a23 0
a1n
a2n
an1n
0
记作 A = L + D + U
则 Ax b 等价于 (L D U )x b
即 Dx (L U )x b
因为 aii 0(i 1,2,, n) ，则
4.5.1超松弛迭代法的基本思想
超松弛迭代法目的是为了提高迭代法的收敛速
度，在高斯—塞德尔迭代公式的基础上作一些修改
。这种方法是将前一步的结果
x
( i
k
)
与高斯-塞德尔
迭代方法的迭代值 ~xi(k1) 适当加权平均，期望获得更
好的近似值 xi(k1)。是解大型稀疏矩阵方程组的有效
方法之一，有着广泛的应用。
1
2
x11(k 2
)
x114x2(k
1) 4
3
x2
x3 x3
3
5 2
3
取初始向量
x (0)
( x1(0)
,
x
(0 2
)
,
x3(0)
)T
(0,0,0)T
进行迭代, 可以逐步得出一个近似解的序列：
(x1(k ) , x2(k ) , x3(k ) ) （k=1, 2, …） 直到求得的近似解能达到预先要求的精度，
1 4
x2(k1)32
03
雅可比迭代矩阵表示法，主要是用来讨论其收敛 性，实际计算中，要用雅可比迭代法公式的分量 形式。即
x1(
k
1)
1 a11
(a12 x2(k )
a13 x3(k )
a1n xn(k )
b1 )
x2(k
1)
1 a22
(a21 x1(k )
x1(k 2x1(k)
) x2(k ) 4x2(k )
3 3
取
x (0) 1
x (0) 2
0
计算得
xx2(1(11))
3 3,
xx2(1(22))
3 3,
xx2(1(33))
9 9,
xx2(1(44))
15 15,
xx2(1(55))
a23 x3(k )
a2n
x
(k n
)
b2 )
xn(k
1)
1 ann
(an1 x1(k )
an2 x2(k )
an
n1 xn(k)1
bn )
(k=0,1,2,…)
4.3.3
雅 可 比 迭 代 法 的 算 法 实 现
输入 aij,bi,和 方程阶数 n,ε (x2(k ) x3(k ) (2x1(k1)
1) / 8 x3(k) 4) /10
x3(k 1)
( x1(k 1)
x (k 1) 2
3) / 5
取初始迭代向量 x(0) (0 ,0 ,0)T ,迭代结果为：
4.4.2 Gauss—Seidel 迭代法的矩阵表示
将A分裂成A =L+D+U，则 Ax b 等价于 ( L+D+U )x = b
于是,则高斯—塞德尔迭代过程
Dx(k1) Lx(k1) Ux(k) b
因为 D 0 ,所以 D L D 0
故
(D L)x(k1) Ux (k) b
x(k1) (D L)1Ux (k) (D L)1b
令 G1 (D L)1U , d1 (D L)1b
则高斯-塞德尔迭代形式为：
x (k 1) G1 x (k ) d1
4.4.3 高斯—塞德尔迭代算法实现
高斯-塞德尔迭代算法的计算步骤与流程图
与雅可比迭代法大致相同，只是一旦求出变元 xi
的某个新值
后, x (k1) i
0
在例4.2中,由迭代公式写出雅可比迭代矩阵为
B
I
x1(
k
1)
D x (k 11) 2
A
141x10(1k4)183
x 2( k
)
3
1
84
0 1
11
xx33((kk1))1182352
x3( k
1)
12x1(k1)62
如果 x(k ) x1(k ) , x2(k ) ,, xn(k ) T
存在极限 x* x1* , x2* ,, xn* T
则称迭代法是收敛的，否则就是发散的。
收敛时，在迭代公式
x(k1) Gx (k) d (k 0,1,) 中当 k 时，x(k) x* , 则 x* Gx* d
x D1 (L U )x D 1b 这样便得到一个迭代公式
x(k1) D 1 (L U )x (k) D 1b
D 1 ( A D)x (k ) D 1b (I D 1 A)x (k ) D 1b
令 则有
B (I D 1 A) f D 1b
出一个等价同解方程组 x Gx d 将上式改写成迭代式
x (k 1) Gx (k ) d (k 0,1,)
选定初始向量 x(0) x1(0) , x2(0) ,, xn(0) T ,反复不断
地使用迭代式逐步逼近方程组的精确解,直 到满足精度要求为止。这种方法称为迭代法
则迭代过程终止，以最后得到的近似解作为线
性方程组的解。
当迭代到第10次有
x (10)
(
x (10) 1
,
x (10) 2
,
x (10) 3
)T
(3.000032 ,
1.999838 ,
0.9998813 )T
计算结果表明，此迭代过程收敛于方程组的精
确解x*= (3, 2, 1)T。
考察一般的方程组，将n元线性方程组
4.2 迭代法的基本思想
迭代法的基本思想是将线性方程组转化
为便于迭代的等价方程组，对任选一组初始
值
x (0) i
(i
1,2,,
n)
，按某种计算规则，不断地
对所得到的值进行修正，最终获得满足精度
要求的方程组的近似解。
设 A Rnn 非奇异，b Rn ，则线性方程组
Ax b 有惟一解 x A1b，经过变换构造
4.3.2 雅可比迭代法的矩阵表示
设方程组 Ax b 的系数矩阵A非奇异，且主对
角元素 aii 0(i 1,2,, n) ，则可将A分裂成