一类新的预条件Gauss-Seidel迭代法

一类新的预条件Gauss-Seidel迭代法

摘要：本文给出了一个新的预条件因子

P,证明了在非奇异M矩阵和严

t

格对角占优L矩阵下，该预条件不仅加快了Gauss—Seidel迭代法的收敛速度，而且说明了在该预条件下Gauss—Seidel迭代法的谱半径是单调下降的.最后再用相关的数值例子说明文中给出的预条件

P要优于文献中所给的预条件.

t

关键词：预条件；Gauss—Seidel迭代法；谱半径；收敛性；收敛速度.

A New Class of Preconditioned Gauss-Seidel Interative Method

P.

Abstract: This paper give a new preconditioner large sparse linear equations

t In the pre condition,by using Gauss-Seidel iteration format was linear equations .we first present a preconditions factor and then prove the accelerated convergence of the iteration method by the preconditions under the nonsingular Mmatrix．Discussed the in the the Strictly Diagonally Dominant the L matrix under the conditions of, the pre-conditions to speed up the the the convergence speed of of the Gauss-Seidel iterative method, but also in the the pre-under the conditions of the the Spectral Radius of the Gauss-Seidel iterative method is monotonic declining．Finally，some numerical examples are given to explain our theoretical result.

Key words:pre-conditions factor，Gauss—Seidel iteration method ，spectral radius，weak regular splitting;，convergence rate.

引言

在对自然科学与社会科学许多实际问题进行数值模拟时，人们最后都归结为求解一个或者一些大型稀疏矩阵方程组,因此研究大型稀疏矩阵方程组的解法是人们关注的焦点，后来人们发现迭代法是求解这种线性方程组的一类主要方法之一，但是在实际生活中，迭代矩阵的收敛性和收敛速度的改善不仅取决于迭代方法和迭代矩阵中参数的选取，而且和方程组自身的某些变化密切相关．近几年来，稀疏线性方程组的迭代解法有了很大发展，特别是预条件矩阵的引入，大大加快了迭代的收敛性和收敛速度.因此，对预条件的研究仍是一个意义深刻的课题.

为了加速迭代法的收敛速度,很多学者对线性方程组提出了各种不同的预处理方法.1991年文献[]2中Guwnawardena 等人提出预条件S I P +=α，其中

???

???????

?

?

---=+=-10

10000

010*********,13,221

n n a a a S I P ，α 文献[]5中提出的预条件

?????????

?

??----=+=-101

0000100

00010000011

,3,2

,1

,n n n n n a a a a R I P

β 以及文献[]7中提到的预条件

??????

????

?

?-------=+=--10

1000010

0010

001

1,,1,11

,33,21,221

n n n n n S a

a a a

a a a B I P ， 本文主要考虑一种新的预条件因子

???

???

?

?

?

?------=++=---100

00001

11,,11,112321

212

n n n n n n t t a

t a a t a a t a S S I P

并且新的预处理矩阵加速了Gauss-Seidel 迭代法的收敛速度. 此时，预条件Gauss-Seidel 迭代法的迭代矩阵为

[])()()()(1

1S U U S L L D I U L D G S t S S t t -+-+--=-=--αα.

1.预备知识

1.1 相关定义

定义[]21 设矩阵()ij n n A a ?=n n R ?∈，如果对于矩阵主对角线的元素都不小于0，而主对角线外的元素都不大于0，则称矩阵A 为L 矩阵.

定义[]22 设()ij n n A a ?=n n R ?∈，矩阵M 和N 满足N M A -=,其中M 为可选择的非奇异矩阵，且使d Mx =容易求解，称M 为分裂矩阵，N M 1-为迭代矩阵，若01≥-M 和0N ≥，则称 N M A -=是A 的正则分裂；若01≥-M 和10M N -≥，则称分裂N M A -=是若正则的.

定义[]33 如果(){}k x 是由迭代公式()() 2,1,0,1=+=+k f Bx x k k ，产生的序列，且满足,,lim 0n k k R x x x ∈?=*∞

→那么称()()f Bx x k k +=+1是收敛的.

定义[]34 设矩阵()ij n n A a ?=n n R ?∈，A 可表示为,0A sI B B =-≥，I 为n 阶单位阵，并且当谱半径()B s ρ≤，那么A 是M 矩阵.当()B s ρ<时，则称A 是非奇异

M 矩阵.

定义[]45 设矩阵()ij n n A a ?=n n R ?∈，如果A 的元素满足

1,||||n

ii ij j j i a a =≠>∑

i 12,,

n = ，， 则称A 为严格对角占优矩阵. 1.2 相关引理

引理[]41 设A 为非奇异M 矩阵，分裂2211N M A N M A -=-=和是若正则的，若1121M M --≤，20N ≥，则有

111122()()M N M N ρρ--≤.

引理[]32 若系数矩阵A 为严格对角占优L 矩阵，那么经过预处理后的矩阵

A α是严格对角占优M 矩阵.

证明 设经过预处理后所得的矩阵为()ij n n A a α?=.因为矩阵A 是严格对角占

优L 矩阵，则有当i j ≠时

10ij a -<≤，

所以

1101j j a a ≤<，

从而有

1110j j a a ->，(2,,)j n = .

因此矩阵A α的对角元部分是

1221233222112,11,(1,1,,1)t n n n D diag a a a a t a a t a a =---- >0,

对于矩阵A α的非对角元部分有

1,,1,1,1,,12,,,2,,,.

j ij i i i i j i j i a j n a a t a i n a t a a

?=?=-=??-? 其它

因为

0,0,0,1,,1,1,1,,1≤≤-≤-≤j i i j i j i i i i j a a a t a a t a a .

矩阵t A 的非对角元部分是不大于0的,所以矩阵t A 是L 矩阵.记(1,1,,1)a = ，则有

11

1

(,,)0n

n

T j nj j j Aa a a ===∑∑> .

又因为0≥++=S S I P t t ，所以

0>=Aa P A t t .

引理[]43 设矩阵()ij n n A a ?=n n Z ?∈，则有以下两个等价性质 （1）存在向量x ，使得 0>Ax ； （2）矩阵A 是非奇异M 矩阵.

引理[]54 设矩阵()ij n n A a ?=n n Z ?∈为非奇异M 矩阵，n n B Z ?∈，若有B A ≥，则1A -，1B -都存在且110A B --≥≥.

引理[]35 若A 为严格对角占优矩阵且A 为L 矩阵，则10A -≥并且A 为非奇异

M 矩阵．

证明 由于A 是严格对角占优矩阵，则有

1,||||n

ii ij j j i

a a =≠>∑ i 1,2,,,n =

成立，从而有

1,|||0n

ii ij j j i a a =≠-∑>.

记(1,1,,1)a = ，有

11

1

(,,)n n

T j nj j j Aa a a ===∑∑ .

又由于A 为L 矩阵，则对,0ij i j a ?=≥且,0ij i j a ?≠≤，从而有

1

1,1,||||0n n n

ij ii ij ii ij j j j i

j j i

a a a a a ==≠=≠∑=-∑=-∑>.

即0Aa >.所以，由引理2得A 为非奇异M 矩阵.由定义4 知10A -≥.

2.主要结论

2.1 新预条件下Gauss-Seidel 迭代法的收敛定理 定理1 线性方程组

b Ax = ， (1) 其中A 为严格的对角占优L 矩阵，若γβ≤,即2,3,,,i n ?= 都有i i γβ≤，

12(,,,)n γγγγ= ,12(,,,),n ββββ= 并且[0,1],[0,1]i i γβ∈∈，2,3,,,i n ?= G γ表示用P I S γγ=++S 预处理矩阵Ａ后的迭代矩阵，G β表示用P I S ββ=++S 预处理矩阵A 得到的迭代矩阵，

I. 若对于(],,,2,1,0n i i =∈α有

1)()(<≤γβρρG G .

II. 若A 为非奇异且是不可约的M 矩阵，则对于任意的

(]1,,110,10,,2,3,,,i i i t i n a a ??

∈= ? ?

??

都有以下结论

1) 若0()1G γρ<<，有()()G G βγρρ≤；

2) 若()1G γρ=，有()()G G βγρρ=； 3) 若()1G γρ>,有 ()()G G βγρρ≥.

证明 I 因为矩阵A 是严格的对角占优L 矩阵，所以A 为非奇异M 矩阵且矩阵,A A βγ是严格对角占优非奇异M 矩阵.若令,A A βγ的分裂如下

()()()ββββββββββF E S U U S L L D I U L D A S S S -=-+--+--=--=，

()()()γγγγγγγγγβF E S U U S L L D I U L D A S S S -=-+--+--=--=，

其中

()()S U U F S L L D I E S S S -+=-+--=ββββββ,，

()()S U U F S L L D I E S S S -+=-+--=γγγγγγ,，

由定理1的证明可知，A E F E F ββγγ=-=-是矩阵A 的两个弱正则分裂. 因为有γβ≤，

()()()()()[]

S U U S L L D I S U U S L L D I E E S S S S S S -+--+----+--+--=-γγγγββββγ

β)( ()()0s s s s D D S S L L γββγγβ=-+-+-≤ ， 所以

E E γβ≥，

由引理4可得

11E E γβ--≤，

又0F γ≥.从而由引理1知

11()()1E F E F ββγγρρ--≤<.

由于

11,E F G E F G γγγβββ--==，

所以有

()()1G G βγρρ≤<.

II 因为系数矩阵A 是非奇异不可约M 矩阵，从而由引理3可得

()A S S I A t t ++=

也是非奇异不可约M 矩阵. 由于

,0,0,1

≥+≥--=-t t t t t t t U L D U L D A

则

t t t t U L D A --=

是矩阵t A 的一个M 分裂，(),1

t t t t U L D G --=从而由引理1知，存在一个正向量x ，

使得

(),x G x G t t ρ=

令()t G ρλ=，由定理1知

()()[]()()(

)()[]()x U L D S L L D I x

x S U U S L L D I x x G S S S S S S S S ++-+---=--+-+--=---1

1

1βββλλλ

因为

()()[]()01

≥++-+--=-x U L D S L L D I y S S S S S β,

所以当0()1G γρ<<时，有

01λ<<,(1)0G x x y βλλ-=-≤，

即

G x x βλ≤.

又由引理3得

()λρ≤t G ， 则

()()G G βγρρ≤；

同理可证

()1G γρ=，()()G G βγρρ=；()1G γρ>，()()G G βγρρ≥.

2.2 新预条件下矩阵谱半径的分析与比较

定理2 线性方程组（1）的系数矩阵A 为严格对角占优L 矩阵， 矩阵A 的Gauss-Seidel 迭代矩阵用G 表示，在预条件S S I P t t ++=下系数矩阵t A 的Gauss-Seidel 迭代矩阵用t G 表示，

I. 则有对于任意的(]0,1,2,,,i t i n ∈= 都有()()G G t ρρ<． II. 若A 为非奇异不可约M 矩阵，则对任意的

(]1,,110,10,,2,,,i i i t i n a a ??

∈= ? ?

??

有

1) 若0()1G ρ<<，则()()G G t ρρ<； 2) 若()1G ρ=，则()()G G t ρρ=； 3) 若()1G ρ>，则()()G G t ρρ≥.

证明 I 因为矩阵A 是严格对角占优L 矩阵，所以A 为非奇异M 矩阵且矩阵

t A 为严格对角占优非奇异M 矩阵.若令t A 的分裂如下

t t S t S S t t t t F E S U U S L L D I U L D A -=-+--+--=--=)()()(

其中

()S U U F S L L D I E s t t S S t -+=-+--=,)(,

由引理2的证明可知，矩阵t A 的对角元部分都是正的，非对角元部分都是非正的，因此t E 是严格对角占优L 矩阵，又由引理5得

,0F ,0≥≥t t E

所以有

01

≥-t t F E .

令

,)(,)(11t t t t t t F S S I N E S S I M --++=++=

由于

,

0)(1

1≥++=--t t t S S I E M

且

))((11

≥=++++=--t t t t t t t t F E F S S I S S I E N M

又

()()(),1

1

t t t t t t t N M F E S S I A S S I A -=-++=++=--

则分裂t t N M A -=是弱正则.

令L I M -=，U N =，有

N M U L I A -=--=,

由于矩阵A 是严格对角占优L 矩阵，则M 是严格对角占优L 矩阵，又由引 5得10M -≥.又知0N ≥，从而有10M N -≥.所以分裂N M A -=是弱正则的. 由于

()()()()()()[],

1

1t S S t t

t t S L L D I S S I L I E S S I L I M M -+--++--=++--=---

又

0=L S t ，,0=S t D S 0=S t L S ，

因而

0≥++=-S S S t U L D M M ,

所以有t M M ≥，由引理4得

1

1--≤t M M ，0N ≥.

由引理1得

()

()111<≤--N M N M t t ρρ.

由于

1M N G -=，()t t t t t t t t t G F E F S S I S S I E N M ==++++=----1111)(,

因而

()()1<≤G G t ρρ.

II 由于系数矩阵A 是非奇异不可约的M 矩阵，且()A I L U =--为矩 阵A 的一个M 分裂，1()G I L U -=-，由引理1可得，存在一个正向量x ，使得

()Gx G x ρ=，又由引理5可知，()A S S I A t t ++=是一个非奇异M 矩阵.

因为

1221233222112,11,(1,1,,1)t n n n D diag a a a a t a a t a a =---- >0,

所以

()()t S S S L L D I -+--

是非奇异的，且

)()()(S U U S L L D I A S t S S t -+--+--=

是t A 的一个M 分裂. 由于

()()[]()()()()[]()x

U L D S L L D I x

x S U U S L L D I x x G S S S t S S S t S S t ++-+---=--+-+--=---1

1

1λλλ

以及

()()[]()01

≥++-+--=-x U L D S L L D I y S S S t S S ，

所以有当0()1G ρ<<时，

(),01≤-=-y x x G t λλ

即

,x G λα≤

又知，()λρ≤t G ，则

()()G G t ρρ≤.

同理可得

()

1G ρ=，()()G G t ρρ=； ()1G ρ>，()()G G t ρρ≥.

3.数值例子

设线性方程组的系数矩阵

?????

?

? ??------------=14.03.02.02

.012.03.04.03.012

.01.03.03.01

A （1） 取,32n t t t === 分别用t s G G G G ,,,βα表示在预条件t s P P P P ,,,βα预处理矩阵A 后得到的高斯-塞德尔迭代矩阵，当()n i t i ,,3,2 =取不同值时，

()()()()t s G G G G ρρρρβα,,,的所得值如表一

i t

0.1

0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9

()αρG 0.5578 0.5578 0.5578 0.5578 0.5578 0.5578 0.5578 0.5578 0.5578

()βρG 0.5415 0.5415 0.5415 0.5415 0.5415 0.5415 0.5415 0.5415 0.5415 ()s G ρ 0.5305 0.5305 0.5305 0.5305 0.5305 0.5305 0.5305 0.5305 0.5305

()t G ρ

0.5275 0.5176

0.5061 0.4954 0.4849 0.4716 0.4595 0.4452 0.4298

（表一）

因为s G G G ,,βα中都不含参数()n i t i ,,3,2 =，所以()()()s G G G ρρρβα,,不会受参数i t 的影响，从上表格知：()()()()t s G G G G ρρρρβα>>>=0.5275，因此，该预条件t t S S I P ++=加快了高斯-塞德尔迭代法的收敛速度.

（2） 取n βββ=== 32，t G 表示用t t S S I P ++=预处理矩阵A 后得到的高斯塞德尔迭代矩阵，G β表示用ββS S I P ++=预处理矩阵A 后得到的高斯塞德尔迭代矩阵，当i t 、i β()n i ,,3,2 =取不同的值时，()t G ρ和()G βρ的比较值如表二

（表二）

由上表格可看出，当t ≥β时，有()()t G G ρρβ≤，即该预条件下Gauss-Seidel 迭代法的谱半径是单调下降.

4.结束语

由于预条件的引入能够加快线性方程组的收敛速度，所以得到很多学者的关注.本文给出了一个新的预条件S S I P t t ++=,讨论了当A 为非奇异M 矩阵，严格对角占优L 阵时该方法的收敛性，并得到了相应的结论.虽然该预条件加速了迭代法的收敛性,但收敛速度仍然不能令人满意.因此,高斯塞德尔方法结合预处理技术仍是很多学者感兴趣的问题.随着计算机的发展，预处理技术在不断创新，同时预条件迭代法也越来越广泛的用于解大型稀疏线性方程组.

i t

0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8

i β 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9

()t G ρ

0.5275 0.5176 0.5061 0.4954 0.4849 0.4716 0.4595 0.4452

()G βρ

0.5162 0.5061 0.4953 0.4838 0.4717 0.4595 0.4452 0.4297

参考文献

[1]KOHNO T，KOTAKEMORI H，NIKI H.Improving modified iterative methods for Z·matrices[J]．Liner Algebra and Its Application，1997，267:ll3-123

[2] 黄廷祝，杨传胜．特殊矩阵分析及应用[M]．北京：科学出版社，2007:1.33．

[3] 宋永忠．线性方程组迭代解法[M]．南京：南京师范大学出版社.l992:37．

[4] 张谋成，黎稳.非负矩阵论[M]. 广州：广东高等教育出版社，1995 :43-76.

[5] LI Wen，SUN Weiwei．Modified Gauss·Seidel type methods and Jacobi type methods[J]．Linear Algebra and Its Application,2000,3 l 7:227-240．

[6] HIROSHI NIKI，KYOUJI HARADA，MUNENORI MORMOTO，et a1．The survey of preconditiononers used for accelerating the rate of convergence in the Gauss—Seidel method[J].Journal of Computational and Applied Mathematics,2004,1 65(5):587—600．[7] LI W．SUN W W．Modified Gauss-seidel type methods and Jacobi type methods for z—matrices[J]．Linear Algebra App1．2000，317(1):227—240．

[8] SONG Y Z．Comparisons of nonnegative splittings of matrices [J]．Linear Algebra App1,1991:154—156,433—455．

[9] 徐树方．矩阵计算的理论与方法[M]．北京：北京大学出版社，1995:121—122．

[10] 戴华．矩阵论[M]．北京：科学出版社，2001:283—284．

[11] 蒋美群．加速松弛迭代法的最优因子[J]．数学研究与评论,1995，15（3）:423-427.

[12] 胡家赣．推广的迭代矩阵的收敛性[J]．计算数学，1984，6（2）:174-181.

[13] 张引．SAOR方法的收敛性[J]．计算数学，1988，10（2）:201-204.

[14] 胡家赣．推广的迭代矩阵的收敛性[J]．计算数学，1984，6（2）:174-181．

[15] 魏小梅，畅大为．相容次序矩阵SAOR方法的最优参数估计 [J]．内蒙古师范大学学报

（自然科学汉文版），2007年第02期．