第六章613迭代法的收敛性
合集下载
第六章6.3迭代法的收敛性
4 2 1
1 5 1
1
2
3
问题：该矩阵具有怎样的特点？ 结论：该矩阵是严格对角占优阵
定义：如果矩阵A的元素满足
jn
| aii | | aij | i 1,2,3,, n j 1 ji
则称A为严格对角占优矩阵。
9
特殊方程组迭代法的收敛性
定理：若线性方程组AX=b的系数矩阵A为 严格对角占优矩阵，则解该方程组的Jacobi 迭代法和G-S迭代法均收敛。
则: (k1) B (k ) B2 (k 1) Bk1 (0)
注意 (0) x(0) x * 为非零常数向量
因此迭代法收敛的充要条件
lim (k1) lim( x(k1) x*) 0
k
k
可转变为
lim Bk1 0
k
2
一阶定常迭代法的收敛性
定理：迭代格式 x(k1) Bx(k ) f 收敛 的充要条件为：lim Bk 0
k
lim Bk 0
k
即: (B) 1
B的所有特征值的绝对值小于1
B的谱半径
根据矩阵与其Jordan标准形及特征值的关系
3
一阶定常迭代法的收敛性
定理：设B为n阶实矩阵，则 lim Bk 0 k
的充要条件是 (B) 1
定理：迭代格式 x(k1) Bx(k ) f 收敛 的充要条件为：(B) 1
4
一阶定常迭代法的收敛性
例：判别下列方程组用Jacobi迭代法和G-S 法求解是否收敛。
1 2 2 x1 1 1 1 1 x2 1 2 2 1 x3 1
5
一阶定常迭代法的收敛性
解: (1) 求Jacobi法的迭代矩阵
1 0 0 0 2 2
西安交大计算方法A考点总结【1-9章】
k
x* xk 0
计算方法 A 知识点总结 仅供参考[2014 级化机]
矩阵收敛的充要条件是 lim
k
A* Ak 0
lim Bk 0 谱半径 B 1
k
2、迭代法的一般格式 3、雅克比迭代
xk 1 Bxk g （注：B 是个对角元素均为 0 的方阵）
i 1 n bi aij xjk 1 aij xjk ） j 1 j i
SOR 迭代格式（加松弛因子 w） ： xi 变形为 xSOR
k 1 k 1 1 xk xG S
k 1
xik rik 1 / aii
改进平方根法：A=LU=LDLT 比平方根法多了 5、追赶法（三对角方程组） 本质是三对角矩阵的 LU 分解。 6、向量范数
x
非负性；齐性；三角不等式。
x1 x
2
元素绝对值之和； 元素平方和的平方根； 元素绝对值的最大值；
x
7、矩阵范数
A
非负性；齐性；三角不等式；相容性。
A1 A2
列范数（第 1 到第 n 列元素绝对值之和的最大值） 谱范数（ AT A 的特征值的最大值的平方根） 行范数（第 1 行到第 n 行元素绝对值之和之和的最大值）
Dxk 1 1 Dxk Exk 1 Fxk b
1）迭代法收敛的充分条件：迭代矩阵 B 的范数 2）迭代法收敛的充要条件： lim B
k k
B 1
0 谱半径 B 1
3）超松弛迭代法收敛的必要条件是： 0 2
计算方法 A 知识点总结 仅供参考[2014 级化机]
第一章 1、误差的来源与分类：模型误差、观测误差、截断误差、舍入误差。 2、准确到 n 位小数：
x* xk 0
计算方法 A 知识点总结 仅供参考[2014 级化机]
矩阵收敛的充要条件是 lim
k
A* Ak 0
lim Bk 0 谱半径 B 1
k
2、迭代法的一般格式 3、雅克比迭代
xk 1 Bxk g （注：B 是个对角元素均为 0 的方阵）
i 1 n bi aij xjk 1 aij xjk ） j 1 j i
SOR 迭代格式（加松弛因子 w） ： xi 变形为 xSOR
k 1 k 1 1 xk xG S
k 1
xik rik 1 / aii
改进平方根法：A=LU=LDLT 比平方根法多了 5、追赶法（三对角方程组） 本质是三对角矩阵的 LU 分解。 6、向量范数
x
非负性；齐性；三角不等式。
x1 x
2
元素绝对值之和； 元素平方和的平方根； 元素绝对值的最大值；
x
7、矩阵范数
A
非负性；齐性；三角不等式；相容性。
A1 A2
列范数（第 1 到第 n 列元素绝对值之和的最大值） 谱范数（ AT A 的特征值的最大值的平方根） 行范数（第 1 行到第 n 行元素绝对值之和之和的最大值）
Dxk 1 1 Dxk Exk 1 Fxk b
1）迭代法收敛的充分条件：迭代矩阵 B 的范数 2）迭代法收敛的充要条件： lim B
k k
B 1
0 谱半径 B 1
3）超松弛迭代法收敛的必要条件是： 0 2
计算方法 A 知识点总结 仅供参考[2014 级化机]
第一章 1、误差的来源与分类：模型误差、观测误差、截断误差、舍入误差。 2、准确到 n 位小数：
2.2 迭代法的一般形式与收敛性定理
设aii0 (i=1,2,,n)，并将A写成三部分
0 a11 a 21 0 a 22 A a n 1 ,1 a n 1 , 2 0 a nn a n 2 a n , n 1 a n1 0 a12 a1,n1 a1n 0 a 2 , n 1 a 2 n 0 a n 1, n 0 D LU. 0
则
k
B ( H )
k
两边取对数得: k ln ( H ) ln k
ln ln ( H )
定义:
ln ( H )
为迭代法(2.2.3)的渐近收敛速 度。
解线性方程组的迭代法
线性方程组
a11 x1 a12 x2 a x a x 21 1 22 2 an1 x1 an 2 x2 a1n xn b1 a2 n xn b2 ann xn bn
复习：矩阵的谱半径 设λ是矩阵A相应于特征向量x的特征值，即 Ax＝λx 向量-矩阵范数的相容性，得到 |λ| || x ||=||λx|| =|| Ax|| ≤ || A || ||x|| 从而，对A的任何特征值λ均成立 |λ|≤|| A || （ 3）
设n阶矩阵A的n个特征值为λ1,λ2，…λn，称 ( A) max i
x ( k 1) x* H ( x ( k ) x* )
由此递推：x ( k 1) x* H k 1 ( x ( 0) x* ), k 0,1,2,
x 是线性方程组Ax=b的解
x* Hx* g
x
k 1
*
迭代法的收敛性
k
x* Mx* g 由迭代公式有 M (x
k k
x ( k ) x* Mx ( k 1) g Mx* g
( k 1)
x ) M (x
* 2 * k
( k 2) (k )
x ) M (x
* k
(0)
x )
*
于是有 lim M ( x
1 1 例：Ax b, A 2 1 2
1 2 1 1 讨论用三种迭代法求解的收敛性。 2 1 1 2 解：因A为对称且其各阶主子式皆大于零，故A为对称正定矩 1 2 阵。由判别条件3，Gauss-Seidel迭代法与松弛法(0 2) 均收敛。A不是弱对角占优阵，故不能用条件1判断。 0 1 -1 Jacobi迭代法的迭代矩阵为B I - D A 2 1 2 1 2 0 1 2 1 2 1 2 0
1,
1,由推论1无法判别收敛性。
对一些特殊的系数矩阵可给出几个常用的判 别收敛条件
设有线性方程组Ax b, 下列结论成立（收敛充分条件） 1.若A为严格对角占优阵或不可约弱对角占优阵，则 Jacobi迭代法和Gauss-Seidel迭代法均收敛。 2.若A为严格对角占优阵， 0 1, 则松弛法收敛。 3.若A为对称正定阵，则松弛法收敛的充要条件为 0 2。 10 1 2 2 1 0 B 1 2 1 上两例中： A 1 10 2 1 1 5 0 1 2 A为严格对角占优阵，故Jacobi与Gauss-Seidel迭 代均收敛。B为非严格对角占优阵，但为对称正定 阵， =1.4故松弛法收敛。
推论1 对任意初始向量x 和右端项g，若 M 1,由迭代
x* Mx* g 由迭代公式有 M (x
k k
x ( k ) x* Mx ( k 1) g Mx* g
( k 1)
x ) M (x
* 2 * k
( k 2) (k )
x ) M (x
* k
(0)
x )
*
于是有 lim M ( x
1 1 例：Ax b, A 2 1 2
1 2 1 1 讨论用三种迭代法求解的收敛性。 2 1 1 2 解：因A为对称且其各阶主子式皆大于零，故A为对称正定矩 1 2 阵。由判别条件3，Gauss-Seidel迭代法与松弛法(0 2) 均收敛。A不是弱对角占优阵，故不能用条件1判断。 0 1 -1 Jacobi迭代法的迭代矩阵为B I - D A 2 1 2 1 2 0 1 2 1 2 1 2 0
1,
1,由推论1无法判别收敛性。
对一些特殊的系数矩阵可给出几个常用的判 别收敛条件
设有线性方程组Ax b, 下列结论成立（收敛充分条件） 1.若A为严格对角占优阵或不可约弱对角占优阵，则 Jacobi迭代法和Gauss-Seidel迭代法均收敛。 2.若A为严格对角占优阵， 0 1, 则松弛法收敛。 3.若A为对称正定阵，则松弛法收敛的充要条件为 0 2。 10 1 2 2 1 0 B 1 2 1 上两例中： A 1 10 2 1 1 5 0 1 2 A为严格对角占优阵，故Jacobi与Gauss-Seidel迭 代均收敛。B为非严格对角占优阵，但为对称正定 阵， =1.4故松弛法收敛。
推论1 对任意初始向量x 和右端项g，若 M 1,由迭代
数值分析9(迭代法收敛性证明)
中止准则
|x
(k )
L x | | x ( k ) x ( k 1) | 1 L
*
15:55
5/34
引理1 矩阵B R nn , 则 lim B k 0的充分必要条件
k
是 ( B ) 1, 其中 ( B )=max | k | 为矩阵B的
1 k n
谱半径, 1 , 2 ,
《数值分析》 9
迭代法收敛性条件
迭代误差估计定理
15:55
1/34
总结:
矩阵范数
算子范数
算子范数 矩阵1范数, 矩阵无穷范数, 矩阵2范数
2/34
例4 设||.||为Rn×n 上任意一种矩阵范数, 则对 任意的A ∈ Rn×n , 有 ( A) A 。 证明: 设 ( A) max | i |, x 0是模最大特
2
B ) I B
k
j 0
,
( B) 1 lim B k 0
( I B )-1 = B j。
lim X
k
(k )
( I B ) f 说明迭代法产生的序列收敛。
1
15:55
9/34
谱半径小于1是迭代收敛的充要条件,但它不 易计算,所以在实际使用中通常并不好用。
由X(0) 的任意性知
B =lim B O ( B ) 1。
* k
15:55
k
8/34
充分性
X ( k 1) BX ( k ) f B( BX ( k 1) f ) f
B k 1 X (0) B j f
k k 1
j 0
k
则( I B)( I B B
《数值分析》第六章
由上述 Th 1 可知， 迭代过程 xk +1 = ϕ ( xk ) 对于任 x ∈ Δ 意的初值 0 均收敛.
有局部收敛性.
证 明 . 由 连 续 函 数 的 性 质 ， 存 在 x* 的 邻 域
Δ : x − x* ≤ δ
，使 ∀x ∈ Δ 成立 ϕ '( x) ≤ L < 1 ，此外，
对于任意 x ∈ Δ ，总有 ϕ ( x) ∈ R ，这是因为
15 16
迭代法不一定收敛. 对同一个问题，不同的迭代法， 可能有的收敛，有的不收敛. 如下例.
Th 1 假定函数 ϕ (x) 满足： 1 对任意 x ∈ [a, b] 有， ϕ ( x) ∈ [a, b] （即，映像入内）
∀x ∈ [a, b] ， ϕ '( x ) ≤ L < 1 2 存在非负数 L < 1 使得， （压 缩映射）
k → ∞ 时成立下列渐近关系式
= xk − x * 当
求根 x * 的邻近连续，并且满足：
ϕ '( x* ) = ϕ ''( x* ) = L = ϕ ( p −1) ( x * ) = 0 ， ϕ ( p ) ( x * ) ≠ 0
ek +1 → C ( C ≠ 0) e kp
则称该迭代过程是 p 阶收敛的. 特别地， p = 1 时称为线性收敛，
*
* *
* * 假设 x , y ∈ [a, b] 是任意的两个根，因为
xk = x * . 故 lim k →∞
x* − y* = ϕ ( x* ) − ϕ ( y* ) = ϕ '(ξ )( x* − y* ) ≤ L x* − y*
* * 故 x = y , 即， x = ϕ ( x ) 在[a,b]上有唯一的根.
有局部收敛性.
证 明 . 由 连 续 函 数 的 性 质 ， 存 在 x* 的 邻 域
Δ : x − x* ≤ δ
，使 ∀x ∈ Δ 成立 ϕ '( x) ≤ L < 1 ，此外，
对于任意 x ∈ Δ ，总有 ϕ ( x) ∈ R ，这是因为
15 16
迭代法不一定收敛. 对同一个问题，不同的迭代法， 可能有的收敛，有的不收敛. 如下例.
Th 1 假定函数 ϕ (x) 满足： 1 对任意 x ∈ [a, b] 有， ϕ ( x) ∈ [a, b] （即，映像入内）
∀x ∈ [a, b] ， ϕ '( x ) ≤ L < 1 2 存在非负数 L < 1 使得， （压 缩映射）
k → ∞ 时成立下列渐近关系式
= xk − x * 当
求根 x * 的邻近连续，并且满足：
ϕ '( x* ) = ϕ ''( x* ) = L = ϕ ( p −1) ( x * ) = 0 ， ϕ ( p ) ( x * ) ≠ 0
ek +1 → C ( C ≠ 0) e kp
则称该迭代过程是 p 阶收敛的. 特别地， p = 1 时称为线性收敛，
*
* *
* * 假设 x , y ∈ [a, b] 是任意的两个根，因为
xk = x * . 故 lim k →∞
x* − y* = ϕ ( x* ) − ϕ ( y* ) = ϕ '(ξ )( x* − y* ) ≤ L x* − y*
* * 故 x = y , 即， x = ϕ ( x ) 在[a,b]上有唯一的根.
迭代解法全章
向量-矩阵范数旳相容性，得到
|λ| || x ||＝||λx|| =|| Ax|| ≤ || A || ||x||
从而，对A旳任何特征值λ均成立 |λ|≤|| A ||
（6.1）
设n阶矩阵A旳n个特征值为λ1,λ2，…λn。称
(
A)
max
1i n
i
为矩阵A旳谱半径，从（6.1）式得知，对矩阵A旳任何一
称(3)为求解(1)旳近似解旳迭代解法，称{x(k)}为(1)近
似解序列，称B为迭代矩阵。
假如 lim x (k ) x* 则有 k x*= Bx*+F
（4）
我们称迭代法(3)收敛，不然为发散。下面分析迭代格 式(3)收敛旳条件.
12/29/2023
19
x(k+1)= Bx(k)+F , k=0 ,1 , … , x*= Bx*+F
及向量
x*
( x1* ,
x2* ,,
x
* n
)T
假如
lim x(k) x* 0
k
则称向量序列 x(k) 收敛于向量 x* 。记作
lim x(k ) x* 或 x(k ) x*
k
向量序列 {x(k)} 收敛于向量 x*，当且仅当它旳每一 种分量序列收敛于x*旳相应分量，即
x(k)
x*
x(k) i
1
求解线性方程组旳数值解除了使用直接解法，迭代解 法也是经常采用旳一种措施，这种措施更有利于编程计 算，本章将简介这种措施。
§1 向量和矩阵旳范数
为了对线性方程组数值解旳精确程度，以及方程组 本身旳性态进行分析，需要对向量和矩阵旳“大小”引 进某种度量，范数就是一种度量尺度，向量和矩阵旳范 数在线性方程组数值措施旳研究中起着主要旳作用。
_第六章_线性方程组的数值解法迭代法
b 1
a 11
b2
f
a 22 bn
a nn
x(k1) B0x(k)f
--------(5)
第四节 解线性方程组的迭代法
令：
0 0 0
L
a 21
0
0 A的下三角部分矩阵
a n1 a n 2 0
0
U
0
a12 0
a1n a2n
A的上三角部分矩阵
第三节 向量范数和矩阵范数
（2）范数的另一个简单例子是二维欧氏空间的长度
0M x2 y2
欧氏范数也满足三个条件：
（勾股定理）
设x = (x1, x2) ① x 0 x >0 ② ax = a x a为常数 ③ x+ y ≤ x + y 前两个条件显然，第三个条件在几何上解释为三角形一边的长度不大于其它 两边长度之和。因此，称之三角不等式。
满足：
① A0,且A0,当且A 仅 0当
，若 A
正定
② A A,为任意实数
奇次
③ ABAB,A和 B为任意 n阶两 方个 三阵 角不等
则称 A 为矩阵A的范数。
第三节 向量范数和矩阵范数
2、矩阵范数与向量范数的相容性 对于任意的n维向量x，都有：
Ax A x
这一性质称为矩阵范数与向量范数的相容性。
n
A
max
1in
j1
aij
A的每行绝对值之和的最大值, 又称A的行范数
第三节 向量范数和矩阵范数
（3）矩阵的2范数
2范数 ||A|2 | ： (AT A )
(AAT) ?
矩阵的谱半径：
矩阵B的诸特征值为： i(i1,2, ,n)
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
定义：如果矩阵A的元素满足
| aii | | a ij |
j 1 ji jn
i 1,2,3, , n
则称A为严格对角占优矩阵。
9
特殊方程组迭代法的收敛性
定理：若线性方程组AX=b的系数矩阵A为 严格对角占优矩阵，则解该方程组的Jacobi
迭代法和G-S迭代法均收敛。
10
证: 因为系数矩阵 A严格对角占优 , 所以
a12 a11 0 an 2 ann
a1 n a11 a2 n a22 0
1 |aij | 1 BJ max i |a | ii j i
Jacobi迭代法收敛
由定理：谱半 径小于任何一 种算子范数
(2)对于G—S迭代法,其迭代矩阵为 BG ( D L)1U
一阶定常迭代法的收敛性
设解线性方程组的迭代格式
x ( k 1) Bx ( k ) f
而方程组的精确解为 x*,则
x* Bx * f
将两式相减,得：
x ( k 1) x* Bx ( k ) Bx * B( x ( k ) x*)
令 ( k ) x ( k ) x *
并讨论迭代收敛的条件。
16
补充例题
例：AX=b为二元线性方程组， 证明：解该方程组的Jacobi迭代与G-S迭 代同时收敛或同时发散。
17
6
2 0 2
2 1 0
0 1 2
一阶定常迭代法的收敛性
de t( I BJ ) de t 1 2 2
2
2 1 3 0
所以
0
( BJ ) max(| |) 0 1
1
2 0 0
2 1 0
0
2
( BG ) max(| |) 2 1
所以Gauss-Seidel迭代法发散。
8
特殊方程组迭代法的收敛性
4 1 1 问题：该矩阵具有怎样的特点？ 2 5 2 结论：该矩阵是严格对角占优阵 1 1 3
|aii | |aij | i 1,2,3,, n
j i
1 |aij | 1 i 1,2 ,3, , n |aii | j i
(1)对于Jacobi迭代法,其迭代矩阵为 BJ D1 ( L U )
11
0 a21 BJ a22 a n1 a nn
j i
i 1 n
可得
|||aii | |||aij | || |aij |
j 1 j i 1
|||aij |
j 1
i 1
j i 1
|a | (||1) |a |
ij j i 1 ij
13
n
n
如果|| 1, 则有
|||aii | |||aij |
即Jaobi迭代法收敛。
7
一阶定常迭代法的收敛性
(2) 求Gauss-Seidel法的迭代矩阵
1 1 BG ( D L) U 1 2
0 BG 0 0 2 2 0 2 3 2
0 1 2
0 0 0 0 0 1
k 0,1,2,
1
一阶定常迭代法的收敛性
则: ( k 1) B ( k ) B 2 ( k 1) B k 1 ( 0 )
注意 ( 0) x ( 0) x * 为非零常数向量
因此迭代法收敛的充要条件
lim ( k 1) lim( x ( k 1) x*) 0
雅克比迭代解一定收敛。 解：当线性方程组的系数矩阵为对角占优阵 时，Jacobi迭代法收敛，所以|a x2 b1 x1 2 x2 b2
(1)写出解该方程组的Jacobi迭代的迭代
阵，并讨论迭代收敛的条件；
(2)写出解该方程组的G-S迭代的迭代阵，
3
一阶定常迭代法的收敛性
定理：设B为n阶实矩阵，则 lim B k 0
k
的充要条件是 ( B ) 1 定理：迭代格式 x( k 1) Bx ( k ) f 收敛 的充要条件为： ( B) 1
4
一阶定常迭代法的收敛性
例：判别下列方程组用Jacobi迭代法和G-S 法求解是否收敛。
k k
可转变为
lim B k 1 0
k
2
一阶定常迭代法的收敛性
定理：迭代格式 x( k 1) Bx ( k ) f 收敛
的充要条件为：lim B k 0
k
lim B k 0
k
B的所有特征值的绝对值 小于 1
即:
( B) 1
B的谱半径
根据矩阵与其Jordan标准形及特征值的关系
j 1
i 1
j i 1
|a |
ij
n
则[( D L) U ]为严格对角占优矩阵 从而det[( D L) U ] 0
所以|| 1, 即( BG ) 1,
矛盾
G—S迭代法收敛
14
特殊方程组迭代法的收敛性
例：当a满足条件 时，线性方程组
10x1 x 2 3 x 3 7.2 x1 7 x 2 3 x 3 8.3 2 x 4 x ax 9.2 2 3 1
1 1 2 2 1 2 2 x1 1 1 x 2 1 x 1 1 3
5
一阶定常迭代法的收敛性
解: (1) 求Jacobi法的迭代矩阵
1 BJ D1 ( L U ) 0 0 0 1 0 0 0 0 1 2 1 2 0 2 2 1 0
由于BG的形式不易确定 ,
12
BG的特征值满足 det(I BG ) 0
即
det[I ( D L)1U ] 0
从而 det(D L)1 det[( D L) U ] 0
因此 由于
det[( D L) U ] 0
|aii | |aij |