第六章-线代迭代法_数值分析
应用数值分析课件-6.3迭代法的收敛定理
返回节
OK! Let’s have a break!
定理
2
一、基本收敛定理
由 可推知
可见
X(k+1)=BX(k)+f 及 X *=B X *+f
εk+1 = X (k+1) - X *= B（X (k) - X *）
= ·············
= B k+1（X(0) -X *）
=
B
k+1
ε 0
X(k) X* B k 0
(k∞ )
利用矩阵的Jordan标准形，可以证明(前一章中的结论)
无法直接判断Jacobi 迭代法和G-S迭代法的收敛性，但如果将
方程组的次序修改为
11.02.20x11x1
9.05x2 4.33x2
0.12x3 2.67x3
1.43 3.22
1.25x1 3.69x2 12.37x3 0.58
由于系数矩阵A是严格对角占优阵，因此用Jacobi 迭代
反复利用 || X (k+1) - X*||=||BX (k)- BX*||=||B(X (k)- X*)|| ≤‖B‖.‖X (k)- X*‖,
可以得到
||X (k)- X*||≤‖B‖k ·‖X(0)- X*‖，
可见X (0)越接近X*，序列{ X (k)}收敛越快，收敛速度 与初值X (0)的选取有关。
对于给定的线性方程组，借助于定理6.3和定理6.4可以 直接判断Jacobi 迭代法和G-S迭代法的收敛性。
但同时应当注意，迭代法收敛与否与方程组中方程排列 顺序有关，如线性方程组
数值分析--第6章 解线性方程组的迭代法
数值分析--第6章解线性方程组的迭代法第6章 解线性方程组的迭代法直接方法比较适用于中小型方程组。
对高阶方程组，即使系数矩阵是稀疏的，但在运算中很难保持稀疏性，因而有存储量大，程序复杂等不足。
迭代法则能保持矩阵的稀疏性，具有计算简单，编制程序容易的优点，并在许多情况下收敛较快。
故能有效地解一些高阶方程组。
1 迭代法概述迭代法的基本思想是构造一串收敛到解的序列，即建立一种从已有近似解计算新的近似解的规则。
由不同的计算规则得到不同的迭代法。
迭代法的一般格式(1)()(1)()(,,,),0,1,k k k k m kF k +--==x x x x式中(1)k +x 与()(1)(),,,k k k m --x x x 有关，称为多步迭代法。
若(1)k +x 只与()k x 有关，即(1)()(),0,1,k k kF k +==x x称为单步迭代法。
再设kF 是线性的，即(1)(),0,1,k kk kk +=+=x B x f式中n nk ⨯∈B R ，称为单步线性迭代法。
kB 称为迭代矩阵。
若k B 和kf 与k 无关，即(1)(),0,1,k k k +=+=x Bx f称为单步定常线性迭代法。
本章主要讨论具有这种形式的各种迭代方法。
1.1 向量序列和矩阵序列的极限由于nR 中的向量可与nR 的点建立——对应关系，由点列的收敛概念及向量范数的等价性，可得到向量序列的收敛概念。
定义6.1 设(){}k x 为n R 中的向量序列，nx R ∈，如果()lim 0k k x x →∞-=其中为向量范数，则称序列(){}k x 收敛于x ，记为()lim k k x x →∞=。
定理6.1 nR 中的向量序列(){}k x 收敛于nR 中的向量x 当且仅当()lim (1,2,,)k i i k x x i n →∞==其中()()()()1212(,,,),(,,,)k k k k T Tnnx x x x x x x x ==。
第六章 迭代法-数值分析
由极限存在准则得 即
k
lim xi( k ) xi =0
k
(i 1, 2, , n)
, n)
lim xi( k ) xi
(i 1, 2,
定义：设{ A( k ) }为n阶方阵序列，A为n阶方阵，如果 lim A( k ) A 0
k
其中 为矩阵范数，则称序列{ A( k ) }收敛于矩阵A，记为 lim A( k ) A
g
n
其中bij
aij aii
, (i j , i, j 1, 2,
, n), g i
bi (i 1, 2, aii
, n).
迭代公式x ( k 1) Bx ( k ) g (k 0,1, 2, )用方程组表示为
(k ) (k ) (k ) ( k 1) b13 x 3 b1n x n g x b 1 12 x 2 1 (k ) (k ) (k ) ( k 1) b 23 x 3 b 2 n x n g x2 b 21 x 1 2 ( k 1) (k ) (k ) (k ) b n1 x1 b n 2 x 2 b n,n 1 x n 1 g x n n 因此，在Jacobi迭代法的计算过程中，需同时保留两个
k k
即x是方程组Ax b的解。
引入误差向量
k
(k ) (k ) lim x x lim 0 所以 等价于 k
( k 1)
x
( k 1)
x
由
x ( k 1) Mx ( k ) g
x Mx g
则可得
( k 1)
数值分析第六章线性方程组迭代解法
1)
b2 a21x1(k) a23x3(k)
xn( k
1)
bn an1x1(k) an2 x2(k)
a1n
x(k) n
a11
a2n xn(k) a22
an,n1
x(k) n1
ann
x(k1) D1(L U ) x(k) D1b
D1(D A) x(k) D1b
(I D1A) x(k) D1b x(k) D1(b Ax(k) )
x(7) = ( 2.0000, 3.0000, -1.0000 )T 如何确定 SOR 迭代中的最优松弛因子是一件很困难的事
26
收敛性
收敛性定理 Jacobi 迭代收敛的充要条件 (J)<1 G-S 迭代收敛的充要条件 (G)<1 SOR 迭代收敛的充要条件 (L)<1
Jacobi 迭代收敛的充分条件 ||J|| <1 G-S 迭代收敛的充分条件 ||G|| < 1 SOR 迭代收敛的充分条件 ||L|| < 1
x1( k x2( k
1) 1)
1
x(k) 2
2
8
x ( k 1) 1
x(k) 3
3
x3(k1)
5
x ( k 1) 2
2
迭代可得： x(1) = ( 0.5000, 2.8333, -1.0833 )T
x(9) = ( 2.0000, 3.0000, -1.0000 )T
25
举例
SOR 迭代：
x(k1) i
bi
i 1
a x(k1) ij j
n
aij
x(jk
)
aii
j 1
j i 1
数值分析课件_Chapter_6线性方程组的迭代解法共74页
16、业余生活要有意义，不要越轨。——华盛顿 17、一个人即使已登上顶峰，也仍要自强不息。——罗素·贝克 18、最大的挑战和突破在于用人，而用人最大的突破在于信任人。——马云 19、自己活着，就是为了使别人过得更美好。——雷锋 20、要掌握书，莫被书掌握；要为生而读，莫为读而生。——布尔沃
数值分析课件_Chapter_6线性方程组 的迭代解法
6、法律的基础有两个，而且只有两个……公平和实用。——伯克 7、有两种和平的暴力，那就是法律和礼节。——歌德
8、法律就是秩序，有好的法律才有好的秩序。——亚里士多德 9、上帝把法律和公平凑合在一起，可是人类却把它拆开。——查·科尔顿 10、一切法律都是无用的，因为好人用不着它们，而坏人又不会因为它们而变得规矩起来。——
第6章 解线性代数方程组的迭代法 数值分析 第五版 教学课件
收l敛 iε ( m k ) 0 ： liB m k 0 .
k
k
要研 B 满 究 足什B 么 k 0条 k( 件 ) . 下
2020/10/29
2020/10/29
取初x 始 (0)， 向量 x(k1)B(kx )f,k0,1, ,
(2.3)
其B 中 M 1NM 1(M A )IM 1A ,fM 1b.
2020/10/29
2020/10/29
一般地 A xb ， 变由 形得x 到 B等 xf.价的
设x * 有 则 , 解
Hale Waihona Puke x * B * x f(1
又设任x(0 取 ),则初 可值 构造迭代序
x(k1)B(k x)f
(1.
定1(义 1 对 ) 于x方 B 程 xf， 组 用 (1.6)公 逐式 步
0
1 1
4
(ai ,bi , ci都不为零 )，
1 0 2 1 2 3
1 2 3
C 2 1 2 0 1 2，D 3 2 1.
1 0 3 0 1 3
0 1 2
2020/10/29
2020/10/29
2020/10/29
证明 若矩阵A按行严格对角占优，或按行(或列)弱对角占优不可约，
则GS迭代收敛。假若不然，ρ(BG)≥1，即迭代矩阵BG的某一特征
2020/10/29
2020/10/29
2020/10/29
2020/10/29
an1 an2 an,n1 ann
i 1 n i 1 n
|2020/|10/2|9a i|i ( )| | j 1 |a i|j j i 1 |a i| j j 1 |a i|j j i 1 |a i|.j
计算方法第六章迭代法
计算方法第六章迭代法迭代法是一种重要的数值计算方法，在数学和计算机科学中有广泛的应用。
本章将介绍迭代法的基本概念、原理和应用，以及相关的数学原理和计算技巧。
首先，我们来了解迭代法的基本概念。
迭代法是通过逐步逼近的方式得到一个问题的解。
迭代法的基本思路是从一个初始值开始，通过重复计算和更新，得到更加接近最终解的近似值。
迭代法的优点是简单和灵活，但需要注意选择合适的迭代公式和初始值，以及控制迭代的停止条件。
迭代法的原理可以用以下的一般形式表示：```x_(n+1)=f(x_n)```其中，x_n表示第n次迭代得到的近似值，x_(n+1)表示第(n+1)次迭代的近似值，f是一个函数，表示迭代公式。
迭代法的思想是通过不断迭代更新x的值，直到满足一些停止条件为止。
迭代法的应用非常广泛，特别是在求解非线性方程和优化问题方面有重要的应用。
在求解非线性方程时，我们可以将方程转化为形式为f(x)=0的等式，然后通过迭代法逼近方程的根。
在优化问题中，我们可以通过最小化或最大化一个函数来寻找最优解，也可以使用迭代法逐步逼近最优解。
在迭代法的实际应用中，我们需要注意一些数学原理和计算技巧。
首先，迭代法的收敛性是关键的，即通过迭代公式逐步逼近的值是否趋于问题的解。
在评估迭代法的收敛性时，常用的方法有判断迭代序列的极限是否存在和是否满足一些收敛条件。
其次，选择合适的迭代公式和初始值对于迭代法的成功应用非常重要。
迭代公式应该是简单和有效的，能够在迭代过程中逐步逼近问题的解。
初始值的选择也会直接影响迭代的结果，通常需要根据问题的特点和经验进行选择。
另外，迭代法的计算精度和计算效率也是需要考虑的问题。
在迭代过程中，我们需要根据问题的要求不断调整迭代的次数和迭代的停止条件，以达到较高的计算精度。
同时，我们也需要通过优化迭代公式和使用更加高效的计算技巧来提高计算的效率。
最后，迭代法的应用还可以进一步扩展到其他领域。
例如，在图像处理中，我们可以使用迭代法逐步改进图像的质量；在机器学习中，我们可以使用迭代法来调整模型的参数，以求得更好的拟合效果。
_第六章_线性方程组的数值解法迭代法
b 1
a 11
b2
f
a 22 bn
a nn
x(k1) B0x(k)f
--------(5)
第四节 解线性方程组的迭代法
令：
0 0 0
L
a 21
0
0 A的下三角部分矩阵
a n1 a n 2 0
0
U
0
a12 0
a1n a2n
A的上三角部分矩阵
第三节 向量范数和矩阵范数
（2）范数的另一个简单例子是二维欧氏空间的长度
0M x2 y2
欧氏范数也满足三个条件：
（勾股定理）
设x = (x1, x2) ① x 0 x >0 ② ax = a x a为常数 ③ x+ y ≤ x + y 前两个条件显然，第三个条件在几何上解释为三角形一边的长度不大于其它 两边长度之和。因此，称之三角不等式。
满足：
① A0,且A0,当且A 仅 0当
，若 A
正定
② A A,为任意实数
奇次
③ ABAB,A和 B为任意 n阶两 方个 三阵 角不等
则称 A 为矩阵A的范数。
第三节 向量范数和矩阵范数
2、矩阵范数与向量范数的相容性 对于任意的n维向量x，都有：
Ax A x
这一性质称为矩阵范数与向量范数的相容性。
n
A
max
1in
j1
aij
A的每行绝对值之和的最大值, 又称A的行范数
第三节 向量范数和矩阵范数
（3）矩阵的2范数
2范数 ||A|2 | ： (AT A )
(AAT) ?
矩阵的谱半径：
矩阵B的诸特征值为： i(i1,2, ,n)
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
38
有时候，对系数矩阵A进行适当地改变，就 可以变“不收敛”为“收敛”。
例如，对于方程组 2 x1 5 x2 1 10 x1 4 x2 3 其Jacobi迭代法的迭代矩阵是 0 2.5 GJ 2.5 0
39
它的两个特征值为1,2 = 2.5. 由于 (G J ) 1， 所以Jacobi迭代法 不收敛.GS 法的迭代矩阵是 2 0 0 5 0 2.5 GG 10 4 0 0 0 6.25 可见， (G J )=6.25 1， 故GS 法也不收敛. 如果把原方程组中的两个 方程交换次序,则得 10 x1 4 x2 3 2 x1 5 x2 1 由于系数矩阵是主对角按行严格占优阵，所以Jacobi和GS迭代法 都是收敛.
1
40
3 超松弛迭代法
41
42
43
44
45
46
47
48
49
50
51
52
53
4 共轭梯度法
.
54
.
55
4.1 最速下降法
.
56
.
57
.
58
4.2 共轭梯度法
.
59
.
60
.
61
62
.
63
.
64
作业Biblioteka 65.66
.
67
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
用某种迭代法求解线性方程组是否收敛只取决 于方程组的系数矩阵A，对于一个给定的系数 矩阵A • Jacobi迭代法和GS法可能都收敛，也可能都 不收敛； •可能Jacobi迭代法收敛，而GS法不收敛； •可能GS法收敛，而Jacobi迭代法不收敛。 •都收敛时，可能 Jacobi 迭代法收敛的快，也 可能GS法收敛的快。
2016年11月19日 研究生部
第六章：解线性方程组的迭代法
内容提要 1 .迭代法的基本概念 2 .Jacobi与Gauss-seidel迭代法 3. 超松弛迭代法 4.共轭梯度法
2
1 迭代法的基本概念
1 .1 引言
3
4
.
5
6
7
8
9
10
11
12
13
14
15
2 Jacobi与Gauss-seidel迭代法