α—严格对角占优矩阵与迭代法的收敛性定理
牛顿迭代法收敛定理
关于牛顿迭代法的课程设计实验指导非线性方程（或方程组）问题可以描述为求 x 使得f (x ) = 0。
在求解非线性方程的方法中，牛顿迭代法是求非线性方程（非线性方程组）数值解的一种重要的方法。
牛顿是微积分创立者之一，微积分理论本质上是立足于对世界的这种认识：很多物理规律在微观上是线性的。
近几百年来，这种局部线性化方法取得了辉煌成功，大到行星轨道计算，小到机械部件设计。
牛顿迭代法正是将局部线性化的方法用于求解方程。
一、牛顿迭代法及其收敛速度牛顿迭代法又称为牛顿-拉夫逊方法（Newton-Raphson method ），是一种在实数域和复数域上通过迭代计算求出非线性方程的数值解方法。
方法的基本思路是利用一个根的猜测值x 0做初始近似值，使用函数f (x )在x 0处的泰勒级数展式的前两项做为函数f (x )的近似表达式。
由于该表达式是一个线性函数，通过线性表达式替代方程中的求得近似解x 1。
即将方程f (x ) = 0在x 0处局部线性化计算出近似解x 1，重复这一过程，将方程f (x ) = 0在x 1处局部线性化计算出x 2，求得近似解x 2，……。
详细叙述如下：假设方程的解x *在x 0附近（x 0是方程解x *的近似），函数f (x )在点x 0处的局部线化表达式为)()()()(000x f x x x f x f '-+≈由此得一次方程 0)()()(000='-+x f x x x f求解，得 )()(0001x f x f x x '-= 如图1所示，x 1比x 0更接近于x *。
该方法的几何意义是：用曲线上某点（x 0，y 0）的切线代替曲线，以该切线与x 轴的交点（x 1，0）作为曲线与x 轴的交点（x *，0）的近似（所以牛顿迭代法又称为切线法）。
设x n 是方程解x *的近似，迭代格式)()(1n n n n x f x f x x '-=+ ( n = 0，1，2，……) 就是著名的牛顿迭代公式，通过迭代计算实现逐次逼近方程的解。
为严格对角占优阵
a11
a12
C
(D L)U
a21
an1
a22
an 2
a1n
a2n
ann
,
9
下面证明，当 时， 1，即 的d特e征t(值C) 0
G
均满足
，
1
由基本定理，则有高斯-塞德尔迭代法收敛.
事实上，当 时， 1
由 为A严格对角占优阵，
有
cii aii
i1
n
j1
aij
aij
于是，求解 化A为x 求解b
3
A11
y1
A12 y2 A22 y2
d1, d2.
由上式第2个方程组求出 ,
y2 再代入第1个方程组求出
y1.
显然，如果 所有元A素都非零，则 为不可约阵. A
4
例7
设有矩阵
b1 c1 a2 b2 c2
4 1 1 0
A
an1
bn1 an
定理8说明解 的SOARx迭代b法，只有在 范围
内取松弛因子 ，才可能收敛.
定理9
设 Ax， b 如果：
(1) 为对称A正定矩阵，
A D L U;
(0,2)
(2) 0 2.
则解 A的x SObR迭代法收敛.
12
证明
在上述假定下，只需证明 ， 1 其中 为 L
的任一特征值.
事实上，设 为对应y的 的特征向量，L
从而
2
(
)2 2 2 ( )2 2 2
.
当
0时，利用(23.7)，(3.8)，有
( )2 ( )2 ( 2 )( 2) 0,
即 L的任一特征值满足
当 0时， 2
为严格对角占优阵
min ( L ) ( Lo p t ).
对某些特殊类型的矩阵，已建立了SOR方法最佳松弛因 子理论. 例如，对所谓具有“性质A ” 等条件的线性方程组 建立了最佳松弛因子公式
19
opt
2 1 1 ( ( J ))
2
,
其中 ( J ) 为解 Ax b 的雅可比迭代法的迭代矩阵的谱半径. 在实际应用中，对于某些椭圆型微分方程(模型问题)， 可以给出 opt 的计算方法， 但一般来说，计算 opt 是有困难的，可用试算的办法 来确定一个适当的 . 算法2 (SOR迭代法) 设 Ax b ，其中 A 为对称正定 矩阵或为严格对角占优阵或为弱对角占优不可约矩阵等，
8. 如果k N 0 则转3
9. 输出N0及有关信息
(k ) r 也可用
eps来控制迭代终止，其中 r ( k ) b Ax( k ) .
22
6.4
分块迭代法
23
上述迭代法，从 x ( k ) x ( k 1) 计算时，是逐个计算 x ( k 1) 的分量 xi( k 1) (i 1,2, , n)，这种迭代法又称为点迭代
7
定理7 设 Ax b , 如果： (1) A为严格对角占优阵，则解 Ax b 的雅可比迭 代法，高斯-塞德尔迭代法均收敛. (2) A为弱对角占优阵，且 A为不可约矩阵，则解
Ax b雅可比迭代法，高斯-塞德尔迭代法均收敛.
证明 只证(1)中高斯-塞德尔迭代法收敛，其他同理. 由设可知， aii 0 (i 1,, n)，解 Ax b的高斯-塞 德尔迭代法的迭代矩阵为
xk max xi 0.
1i n
由齐次方程组第 k 个方程
线性方程组的4种迭代方法
线性方程组的4种迭代方法雍龙泉【摘要】研究了线性方程组的4种迭代方法———Jacobi迭代、Gauss-Seidel 迭代、HSS迭代、Richardson迭代，给出了4种迭代方法收敛的充分条件。
数值实验进一步表明，在大规模线性方程求解时，迭代矩阵谱半径的大小决定算法的收敛速度；在谱半径小于1的前提下，谱半径越小，则收敛速度越快。
%Four iterative methods to linear systems , such as Jacobi , Gauss-Seidel, HSS, and Richard-son iterative , are studied , and sufficient conditions for the convergence of these iterative methods are given . Numerical experiments further show that the size of spectral radius of iterative matrix determines convergence rate in solving large-scale linear systems .Under the premise of spectral radius of iterative matrix less than 1, the smaller the spectral radius , the faster convergence speed .【期刊名称】《陕西理工学院学报（自然科学版）》【年(卷),期】2016(032)005【总页数】5页(P80-84)【关键词】线性方程组;Jacobi迭代;Gauss-Seidel迭代;HSS迭代;Richardson迭代;谱半径【作者】雍龙泉【作者单位】陕西理工大学数学与计算机科学学院，陕西汉中723000【正文语种】中文【中图分类】O151.2考虑如下线性方程组记当矩阵A∈Rn×n非奇异时，方程组Ax=b具有唯一解。
迭代法的收敛性
即
det[I (D L)1U ] 0
从而 det(D L)1 det[(D L) U ] 0
所以
det[(D L) U ] 0
可得
因为
|aii| |aij | ji
i1
n
|||aii||| |aij ||| |aij |
j1
j i 1
i1
n
n
|| |aij| |aij| (||1) |aij|
(1)写出解该方程组旳Jacobi迭代旳迭代
阵，并讨论迭代收敛旳条件；
(2)写出解该方程组旳G-S迭代旳迭代阵， 并讨论迭代收敛旳条件。
17
补充例题
例：AX=b为二元线性方程组， 证明：解该方程组旳Jacobi迭代与G-S迭 代同步收敛或同步发散。
18
9
特殊方程组迭代法旳收敛性
4 1 1 问题：该矩阵具有怎样旳特点？
2 5 1 1
2
3
结论：该矩阵是严格对角占优阵
定义：假如矩阵A旳元素满足
jn
| aii | | aij | i 1,2,3,, n j 1 ji
则称A为严格对角占优矩阵。
10
特殊方程组迭代法旳收敛性
定理：若线性方程组AX=b旳系数矩阵A为 严格对角占优矩阵，则解该方程组旳Jacobi 迭代法和G-S迭代法均收敛。
2
一阶定常迭代法旳收敛性
则: (k 1) B (k ) B 2 (k 1) B k 1 (0)
注意 (0) x(0) x * 为非零常数向量
所以迭代法收敛旳充要条件
lim (k1) lim( x(k1) x*) 0
k
k
可转变为
lim Bk1 0
计算方法 第八章 解线性方程组的迭代法 高斯迭代法 迭代法的收敛性
( ( k x1k 1) , x2k 1) ,, xi(1 1)
的值，而Jacobi迭代公式并不利用这些最新的近似值计算， 仍用 (k ) (k ) (k )
x1 , x2 ,, xi 1
这启发我们可以对其加以改进,即在每个分量的计算中尽
设方程组 AX=b , 通过分离变量的过程建立 Jacobi迭代公式，即
a
i 1
n
ij
xj b , a 0 i i
( i 1,2, )n , ( i 1,2, )n ,
1 xi (bi aii
a
j 1 ji
n
ij
x) j
由此我们可以得到 Jacobi 迭代公式：
写成矩阵形式：
aii 0
x 1 a x ... a x b 12 2 1n n 1 1 a11 1 a x ... a x b x2 21 1 2n n 2 a22 ... ... ... ... 1 xn a an1 x1 ... a nn 1 xn1 bn nn
迭代法的基本思想 与解f (x)=0 的不动点迭代相类似，将AX=b改写
为X=BX+f 的形式，建立雅可比方法的迭代格式：
x( k 1) Bx( k ) f
其中，B称为迭代矩阵。其计算精度可控，特别 适用于求解系数为大型稀疏矩阵(sparse matrices)的 方程组。
5
AX b
15
迭代次数 0 1 2 3 4 5 6 7 8
x1 0 0.72 1.04308 1.09313 1.099126 1.09989 1.099986 1.099998 1.1
改进的高斯-赛德尔迭代法的收敛性分析
改进的高斯-赛德尔迭代法的收敛性分析黄湧辉【摘要】本文讨论了改进的高斯-赛德尔迭代法的收敛性。
在严格对角占优的L-矩阵条件下,该预条件加快了高斯-赛德尔迭代法的收敛速度,而且在该预条件下高斯-赛德尔迭代法的谱半径是单调下降的。
最后用数值例子说明本文得出的结论。
%In this papert,he convergence analysis for a new preconditioned Gauss-Seidel iterative method was discussed.If the matrix is the strictly dominant L-matrixt,he convergence rate of the preconditioned Gauss-Seidel iterative method is faster than one of the【期刊名称】《西昌学院学报（自然科学版）》【年(卷),期】2011(025)001【总页数】3页(P15-17)【关键词】严格对角占优L-矩阵;预条件迭代法;谱半径;弱正则分裂;收敛速度【作者】黄湧辉【作者单位】华南师范大学数学科学学院,广东广州510631【正文语种】中文【中图分类】O241.6引言本文考虑实线性方程组其中A=（aij）n×n∈Rn×n为n阶方阵，x∈Rn和b∈Rn是n维向量。
对系数矩阵A作A=M-N的分裂，M为非奇异矩阵，则对应方程组（1）的基本迭代形式为：其中称M-1为方程（1）的迭代矩阵，迭代形式（2）是否收敛取决于迭代矩阵M-1N。
当k→∞，M-1N→0，即k→∞时，谱半径ρ（M-1N）<1，并且其收敛速度随谱半径ρ（M-1N）的减小而加快。
一般地，对线性方程组（1）的系数矩阵A做如下的分裂其中D为非奇异对角矩阵，L为严格下三角矩阵，U为严格上三角矩阵。
为讨论方便，当A可逆时，总可以通过初等变换把A的对角元都化简为1，因此对于形如（3）的系数矩阵，Gauss-Seidel迭代法的迭代矩阵为：G=（I-L）-1U。
jacobi方法收敛的取值范围
Jacobi方法是一种用于解线性方程组的迭代法，通常用于大型稀疏矩阵的求解。
该方法通过将系数矩阵分解为对角线矩阵和剩余部分，然后利用迭代过程逐步逼近方程组的解。
然而，Jacobi方法并非对所有的线性方程组都能有效收敛，其收敛性与系数矩阵的特性密切相关。
本文将探讨Jacobi方法收敛的取值范围。
1. Jacobi方法的收敛性我们需要明确Jacobi方法的收敛条件。
对于线性方程组Ax=b，其中A为系数矩阵，b为常数向量，如果系数矩阵A满足严格对角占优条件或者对角占优条件，那么Jacobi方法就能保证收敛。
2. 严格对角占优条件严格对角占优条件指的是对于系数矩阵A的每一行，其对角线元素的绝对值大于该行其他元素的绝对值之和。
具体而言，对于系数矩阵A的第i行，如果存在一个k不等于i，使得|本人i|<|本人k|，那么系数矩阵A就不满足严格对角占优条件。
在这种情况下，Jacobi方法可能不收敛。
3. 对角占优条件对于对角占优条件而言，要求系数矩阵A的每一行都是弱对角占优的。
即对于系数矩阵A的第i行，其对角线元素的绝对值大于等于该行其他元素的绝对值之和。
此时，Jacobi方法能够收敛，但并不保证迭代过程的速度。
4. Jacobi方法的取值范围Jacobi方法的收敛性与系数矩阵A的特性密切相关。
一般来说，当系数矩阵A满足严格对角占优条件时，Jacobi方法是收敛的。
而对于不满足严格对角占优条件但满足对角占优条件的系数矩阵A，Jacobi方法可能也能收敛，但需要谨慎选择迭代过程的初始值。
5. 迭代过程的初始值选取在实际应用中，为了确保Jacobi方法的收敛性，需要合理选择迭代过程的初始值。
一般来说，可以通过对系数矩阵A进行预处理，使其满足严格对角占优条件，从而确保Jacobi方法的收敛性。
另外，还可以通过其他方法如高斯-赛德尔方法、超松弛方法等来改善迭代过程的收敛性。
Jacobi方法的收敛性取决于系数矩阵A的特性，当系数矩阵A满足严格对角占优条件时，Jacobi方法是收敛的。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
—
Ｄｉｇ ｎａ ｒｃ ｌ ｍ ｉ ａ ｃ ａ ｒｘ ａ ｎ ｅ ｇ ｎ ｅ ａ ｏ ｌＳｔｉｔｙ Ｄｏ ｎ ｎ ｅ Ｍ ｔ ｉ ｎｄ Ｃｏ ｖ ｒ ｅ ｃ Ｔｈｅ ｒ ｍ ｆＩｅ ａ ｉ ｎ Ｍ ｅ ｈ ｄｓ ｏ ｅ ｏ ｔ ｒ ｔｏ ｔｏ
ＳＯＮＧ ｉ ｃ ｉ Ｄａ — ａ ，Ｗ ＥＩ Ｘｉｏ— ｌ， ａ ｉＺＨＡ Ｏ ａ Ｘｉ ｏ— ｙ ｎ ｉｇ
关键词 ： 一 严 格 对 角 占优 矩 阵 ； 双 严 格 对 角 占优 矩 阵 ； 迭 代 法 ； 收 敛 性
中 图分 类 号 ：Ｏ ４ ． ； ５ ． ２ １ ６ Ｏ１ １ ２
文献标识码 ： Ａ
ｄ ｉ１ ． ６ ６ ｊ ｉ ｎ １ ７ —６ ５ ． ０ ０ ０ ． ２ ｏ ：０ ３ ９ ／．ｓ ． ６ ２ ９ ２ ２ １ ． １ ０ ２ ｓ
一
严 格 对 角 占优 矩 阵 与 迭 代 法 的 收 敛 性 定 理
宋 岱 才 ，魏 晓 丽 ，赵 晓颖
（ 宁石 油 化 工 大 学 理 学 院 ， 宁 抚 顺 １ ３ ０ ） 辽 辽 １ ０ １
摘 要 ： 针 对 线 性 方 程 组 的 系数 矩 阵为 口 一严 格 对 角 占优 矩 阵 和 双 严 格 对 角 占优 矩 阵 的 情 况 ， 论 了 线 性 方 讨
１ 基 本 概 念 及 引理
给定 线性 方程组 Ａ ｘ—ｂ 其 中 Ａ∈ ， 为非奇 异矩 阵 ， ｂ为 维 列 向量 。在 用 迭代 法 解 此方 程 组 的 问题 中， 常常需 要研 究其 迭代矩 阵谱 半径 的界 限 ， 对于研 究 迭代 法 的 收敛 性 以及 收敛 速 度 等是 非 常有 意 义 的 。 这 文献 ［ —７ １ ］对 于迭 代矩 阵为严 格对 角 占优 矩 阵 、一严 格对 角 占优矩 阵和双 ａ ａ 一严 格对 角 占优矩 阵等情 形分 别讨论 了常用 的几种 迭代法 的谱 半径 的上 界估计 问题 。然 而很 少见 有针 对系数 矩 阵来研究 迭代 法 收敛 的问
ｔ Ｏ ａ— ｄｉｇ ａ ｔｉｔｙ ｄ ａ ｏｎ ｌｓ ｒｃ ｌ ｏｍ ｉ ａ ｅ ｍ ａ ｒｘ ｏｕ ｙ ｄｉｇｏ ｌｓ ｒｃｌ ｍ ｉ ａ ｅ ｍ ａ ｒｘ， ａ ｍ ｐｒ ｅ ｈｅ ｋｎｏ ｎ ｒ ｓ ｔ ａ ｎ ｎｃ ｔ ｉ ｏｒ ｄ ｂｌ ａ ｎａ ｔｉ ｔｙ ｄｏ ｎ ｎｃ ｔ ｉ ｎｄ ｉ ｏｖ ｄ ｔ ｗ ｅ ｕｌｓ ｎｄ
第３ 卷第 １ Ｏ 期
２１ Ｏ ０年 ３月 辽 Nhomakorabea宁
石
油
化
工
大
学
学
报
Ｖ ｏ ．３０ １
Ｎｏ．１
Ｊ ０ＵＲＮＡＩ ＯＦ Ｉ ＡＡＯＮＩ Ｈ Ｉ ＮＧ Ｓ ＨＵ Ａ ＵＮＩ ＲＳ ＴＹ ＶＥ Ｉ
Ｍ ａ． ２ Ｏ ｒ ０１
文 章编 号 ： ６ ２ ９ ２ ２ １ ） １ ０ ８ 一Ｏ １ ７ —６ ５ （ ０ ０ ０ — ０ １ ３
ｗｅ ｅ ｓ ｉ ｄ ｔ ｘ ｅ ｄ ｄ ｍａ ｒｃ ｓ ｒ ｕ ｔ Ｏ ｅ ｔ ｎ ｅ ｔ ｉｅ ．Ｆｉａ ｌ ｅ ｎｌ ｙ，ａ ｕ ｒｃ ｌ ｘ ｍｐ ｅ ｒ ｉ ｅ ｏ ｌ ｓｒ ｔ ｇ ａ ｖ ｎ ａ ｅ ｏ ｅ ｕ ｔ ． ｎ ｎ ｍｅ ｉａ ａ ｌｓ ｗｅ ｅ ｇ ｖ ｎ ｆ ｒｉ ｕ ｔ ａ ｉ ｄ ａ ｔ ｇ ｆ ｒ ｓ ｌｓ ｅ ｌ ｎ
（ ｃ ｏ ｌ ｆ Ｓ ｉｎ ｅ ，Ｌｉｏ ｉｇ Ｓ ｉｕ ｉｅｓｔ Ｓ ｈ ｏ ｃｅ ｃｓ ｏ ａ ｎｎ ｈｈ ａ Ｕｎ ｖ ｒｉ ｙ，Ｆｕｈ ｎＬｉ ｏ ｉｇ １ ３ ０ ， Ｒ． ｉａ ｓ ｕ ａ ｎｎ １ ０ １ Ｐ． Ｃｈ ｎ ）
Ｒｅ ｅ ｖ ｄ ２５ Ｍ ａｒ ｈ ２ ０９； ｒ ｖｉｅ １ ｃｏ ｅ ０ ｃｉｅ ｃ ０ ｅ ｓｄ ２ Ｏ ｔ ｂ ｒ ２ ０９； ａ ｃ ｐｔ ｄ ３ Ｎ ｏｖ ｍ ｂ ｒ ２ ０９ ｃ ｅ ｅ １ ｅ ｅ ０
Ａｂ ｔ ａ ｔ Ｓ ｍｅ ｉ ｒ ｔ ｎ ｍｅ ｈ ｄ ｏ ｏ ｖ ｎ ｉ ｅ ｒ ｓ ｓ ｅ ｗｅ ｅ ｓ ｕ ｉｄ， ｅ ｏ ｆｉｉｎ ｔ ｉ ｓ ａ— ｄ ａ ｏ ａ ｔ ｉｔ ｓｒ ｃ ： ｏ ｔ ａ ｉ ｔ ｏ ｓ ｆ ｒ ｓ ｌ ｉｇ ｌ ａ ｙ ｔ ｍ ｒ ｔ ｄ ｅ ｗｈ ｎ ｃ ｅｆｃｅ ｔ ｍａ ｒｘ ｉ ｅ ｏ ｎ ｉｇ ｎ ｌ ｓ ｒｃ ｌ ｙ ｄ ｍｉ ａ ｃ ｒｄ ｕ ｌ ｉｇ ｎ ｌ ｔｉｔｙ ｄ ｍｉ ａ ｃ ，ａ ｄ ｓ ｍ ｅｃ ｎ ｅ ｇ ｎ ｅ ｔ ｅ ｒ ｍｓ ｗｅ ｅｇ ｖ ｎ ｏ ｎ ｎ ｅ ｏ ｏ ｂ ｙｄ ａ ｏ ａ ｒ ｌ ｏ ｎ ｎ ｅ ｎ ｏ ｏ ｖ ｒ ｅ ｃ ｈ ｏ ｅ ｒ ｉ ｅ ．Ｒｅ ｕ ｔ ｂ ａｎ ｄ ｗｅ ｅａ ｐ ｉａ ｌ ｓ ｃ ｓ ｌｓｏ ｔ ｉ ｅ ｒ ｐ ｌ ｂ ｅ ｃ
Ｋ ｅ ｗｏ ｄ ｙ ｒ ｓ： ａ — ｄｉｇ ａ ｓ ｒｃ ｌ ｄ ａ ｏｎ ｌ ｔｉｔｙ ｏｍ ｉ ａ ｅ ｎ ｎｃ ｍ ａ ｒｘ； Ｄｏ ｌ ｄｉｇｏ ｌ ｓ ｒｃ ｌ ｄ ｔｉ ｕｂ ｙ ａ ｎａ ｔｉ ｔｙ ｏｍ ｉ ｎ ｅ ｍ ａ ｒｘ； Ｉｅ ａ ｉ ｍ ｅｈｏ ｎａ ｃ ｔｉ ｔｒ ｔｏｎ ｔ ｄ； ｒ
程 组 求 解 时 常 用 的 几 种 迭代 方 法 的 收敛 性 ， 出 了迭 代 法 收 敛 性 定 理 ， 决 了以 往 估 计 迭 代 矩 阵 谱 半 径 的 问 题 。 结 给 解
果 不仅 适 用 于这 两 类矩 阵 ， 适 用 于 广 义 严 格 对 角 占优 矩 阵 类 ， 还 最后 举 例 说 明 了所 给 结 果 的 优 越 性 。
Ｃｏｎ ｒ ｅ ｅ ｔ ｅ ｒ ｍ ｖｅ ｇ ｎｃ ｈ ｏ ｅ
Ｃｏ ｒｓ ｏ ｄｎ ｕｈ ｒ ｒｅｐ ｎ ｉｇａ ｔ ｏ ．Ｔｅ．： ８ — ４ ３ ６ ６ ８ １ ａ ： ８ — ４ ３ ６ ６ ７ ６ － ｍａｌｓ ｃ ＠ １ ３ ｃ ｒ １ ＋ ６ １ — ８ ０ ２ ；ｆ ｘ ＋ ６ １ — ８ ０ ６ ；ｅ ｉ：ｄ ｌ ６ ．ｏ ｎ