SOR迭代法求解线性方程组
迭代法求解线性方程组的研究(精选.)
迭代法求解线性方程组的研究【摘要】:本文总结了解线性方程组的三个迭代法，Jacobi 迭代法，Gauss-seidel 迭代法，SOR迭代法，并且介绍了现代数值计算软件MATLAB 在这方面的应用，即分别给出三个迭代法的数值实验。
【关键字】:Jacobi 迭代法 Gauss-seidel 迭代法 SOR 迭代法 数值实验一． 引言迭代法是用某种极限过程去逐步逼近线性方程组精确解的方法，它是解高阶稀疏方程组的重要方法。
迭代法的基本思想是用逐次逼近的方法求解线性方程组。
设有方程组b Ax = …① 将其转化为等价的，便于迭代的形式f Bx x += …② (这种转化总能实现，如令b f A I B =-=,), 并由此构造迭代公式 f Bx xk k +=+)()1( …③式中B 称为迭代矩阵，f 称为迭代向量。
对任意的初始向量)0(x，由式③可求得向量序列∞0)(}{k x ，若*)(lim x xk k =∞→，则*x 就是方程①或方程②的解。
此时迭代公式②是收敛的，否则称为发散的。
构造的迭代公式③是否收敛，取决于迭代矩阵B 的性质。
本文介绍三种解线性方程组的最主要的三种迭代法：Jacobi 迭代法，Gauss-Seidel 迭代法和SOR 迭代法。
本文结构如下：第二部分介绍Jacobi 迭代法及其数值实验，第三部分介绍Gauss-Seidel 迭代法及其数值实验，第四部分介绍SOR 迭代法及其数值实验，第五部分总结。
二． 雅克比（Jacobi ）迭代法1. 雅克比迭代法的格式设有方程组),,3,2,1(1n i b x aj j nj ij==∑= …①矩阵形式为b Ax =,设系数矩阵A 为非奇异矩阵，且),,3,2,1(,0n i a ii =≠从式①中第i 个方程中解出x ，得其等价形式)(111j nj j ijiii x ab a x ∑≠=-= …②取初始向量),,,()0()0(2)0(1)0(n x x x x=，对式②应用迭代法，可建立相应的迭代公式：)(111)()1(∑≠=++-=nj j i k j ij ii k ib x a a x …③ 也可记为矩阵形式：J x J k F B xk +==)()1( …④若将系数矩阵A 分解为A=D-L-U ，式中⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=nn a a a D2211，⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=--0000121323121nn n n a a a a a a L ，⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛=--0000122311312n n n n a a a a a a D 。
高斯—塞德尔迭代法
上式至少有一个不等号严格成立。
*定义 每行每列只有一个元素是1,其余 元素是零的方阵称为置换阵(或排列阵).
定理8(对角占优定理)若矩阵A按行(或列)严格对角占优 或按行(或列)弱对角占优且不可约；则矩阵A非奇异。
定理9 若矩阵A按行(或列)严格对角占优,或按行(或列) 对角占优不可约；则Jacobi迭代、Gauss-Seidel迭代都 收敛。
高斯—塞德尔迭代法又等价于：对k=0,1,…,
三、逐次超松驰(SOR)迭代法
SOR迭代法的计算公式:对k=0,1,…,
说明:1)ω=1,GS; 2)ω>1超松驰,ω<1低松驰;
3)控制迭代终止的条件: 例3 用上述迭代法解线性代数方程组
初值x(0)=0，写出计算格式。
四、三种迭代法的收敛性
定理7 对线性方程组Ax=b，A，D非奇异，则 Jacobi迭代法收敛的充要条件是 GS迭代法收敛的充要条件是 SOR迭代法收敛的充要条件是 定义6 （1）按行严格对角占优：
证明 若矩阵A按行严格对角占优，或按行(或列)弱对角占优不可
则GS迭代收敛。假若不然，ρ(BG)≥1，即迭代矩阵BG的某一特征 值λ使得|λ|≥1，并且
类似地，若矩阵A按行严格对角占优，或按行(或列)弱对角占优不
可约，则Jacobi迭代收敛。假若不然，ρ(BJ)≥1，即迭代矩阵BJ 的某一特征值λ使得|λ|≥1，并且
定理10 对线性方程组Ax=b，若A为对称正定矩阵，则 1）GS迭代法收敛. 2）若2D-A也是对称正定矩阵，则Jacobi迭代法收敛。
例8 见书上
定理12 对于线性方程组Ax=b，若A为对称正定矩阵，则
当0<ω<2时，SOR迭代收敛. 证明 只需证明λ<1（其中λ为Lω的任一特征值） .
数值分析6-用SOR方法求解线性方程组
程序 clear;clc; A=[4,3,0;3,4,-1;0,-1,4]; b=[24,30,-24]'; N=length(b); %解向量的维数 fprintf('库函数计算结果：'); x=inv(A)*b %库函数计算结果 x=[1;1;1];%迭代初始值 %-----(A=D-E-F)-----D=diag(diag(A)); E=-tril(A,-1);%下三角 F=-triu(A,1);%上三角 w=1.5; %松弛因子，一般 0<w<2 B=inv(D-w*E)*[(1-w)*D+w*F];g=w*inv(D-w*E)*b; eps=1e-8;%相邻解的距离小于该数时，结束迭代 %--------开始迭代------for k=1:100 %最大迭代次数为 100 fprintf('第%d 次迭代：',k); y=B*x+g; if abs(x-y)<eps break; end x=y end x
程序结果
当比较松弛因Biblioteka 取 1.0 时当比较松弛因子取 1.25 时
当比较松弛因子取 1.5 时
作业七：编写用 SOR 方法求解线性方程组 Ax=B 的标准程序，并求下 列方程组的解， 并比较松弛因子取 1.0、 1.25、 1.5 时所需迭代的次数。 可取初始向量 X(0) =（1,1,1）’；迭代终止条件||x(k+1)-x(k)||<=10e-8
4 30 ������1 24 3 4 − 1 x2 = 30 0 − 14 x3 −24
实验报告四线性方程组的求解_迭代
浙江大学城市学院实验报告课程名称 科学计算实验项目名称 线性方程组的求解－迭代法实验成绩 指导老师（签名 ） 日期 2012-4-6一. 实验目的和要求1． 掌握Jacobi 迭代方法.Gauss-Seidel 迭代方法.SOR 迭代方法的编程思想.能够分别用分量形式和矩阵形式编写相关程序。
2． 观察SOR 迭代法中松弛因子变化情况对收敛的影响。
3． 了解Hilbert 矩阵的病态性和作为线性方程组系数矩阵的收敛性。
二. 实验内容和原理编程题2-1要求写出Matlab 源程序(m 文件).并有适当的注释语句；分析应用题2-2.2-3.2-4要求将问题的分析过程、Matlab 源程序和运行结果和结果的解释、算法的分析写在实验报告上。
2-1 编程注释 设11121121222212,n n n n nn n a a a b a a a b A b a a a b ⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦对下述求解线性方程组的Matlab 程序添上注释语句.其中A 和b 分别为线性方程组的系数矩阵和右端向量；0x 为迭代初始向量(0)X；max N 为容许迭代最大次数.eps 为迭代终止条件的精度(容许误差).终止条件为前后两次迭代解的差的向量2-范数。
1） Jacobi 迭代：Jacobimethod(A,b,x0,Nmax,eps)2） Gauss-Seidel 迭代：GaussSeidelmethod(A,b,x0,Nmax,eps)3） 松弛迭代：SORmethod(A,b,x0,Nmax,eps,w)2-2 分析应用题利用2-1中的程序来分析用下列迭代法解线性方程组：123456410100014101050141012101410501014120010146x x x x x x --⎡⎤⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥---⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥----=⎢⎥⎢⎥⎢⎥---⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥----⎢⎥⎢⎥⎢⎥--⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦ 的收敛性.并求出使(1)()20.0001k k X X +-≤的近似解及相应的迭代次数.其中取迭代初始向量(0)X 为零向量。
sor迭代法手算例题
sor迭代法手算例题SOR迭代法是求解线性方程组的一种经典方式，其基本思想是通过不断迭代来逼近方程组的解。
这种方法在大规模问题上具有很好的效率，因此得到了广泛的应用。
本文将介绍SOR迭代法的基本原理，并以一个手算例题来展示其具体步骤和计算结果。
一、SOR迭代法的基本原理在介绍SOR迭代法的原理之前，我们先来看一下迭代法本身的思想。
假设有一个线性方程组：$$Ax=b$$其中，A是一个$n\times n$的系数矩阵，b是一个$n\times 1$的常数向量，x是一个$n\times 1$的未知向量。
迭代法的基本思想是将方程组表示为：$$x^{(k+1)}=Tx^{(k)}+C$$其中，$x^{(k)}$表示第k次迭代的近似解，$T$是一个$n\times n$的矩阵，$C$是一个$n\times 1$的常数向量。
迭代法的步骤是从一个初始点$x^{(0)}$开始，不断应用上述公式来寻找更好的解$x^{(k+1)}$。
当接近真解时，迭代的过程会不断收敛，即$x^{(k+1)}$会不断逼近真解$x$。
那么，如何确定矩阵$T$和向量$C$呢？最简单的方法是将方程组表示为：$$x^{(k+1)}=(I-\omega A)x^{(k)}+\omega b$$其中，I是$n\times n$的单位矩阵，$\omega$是一个常数，称作松弛因子。
当$\omega=1$时，这就是最基本的迭代法——雅克比迭代法。
但是，雅克比迭代法的收敛速度比较慢，因此需要调整$\omega$的值，从而得到更好的迭代效果。
SOR迭代法就是一种改良的迭代方法，其基本思想是通过加速松弛因子的变化来改善雅克比迭代法的效率。
具体来说，SOR迭代法的公式为：$$x_i^{(k+1)}=(1-\omega)x_i^{(k)}+\frac{\omega}{a_{ii}}\left(b_i-\sum_{j<i}a_{ij}x_j^{(k+1)}-\sum_{j>i}a_{ij}x_j^{(k)}\right)$$其中，$i=1,2,\cdots,n$。
第一次迭代解法之SOR
种相容范数都有 ρ(A)≤||A||
（6.2）
2021/6/17
13
另一个更深刻的结果,对于任意的ε＞0，必存在一种相
容的矩阵范数，使
|| A ||≤ ρ(A) ＋ε
（6.3）
式（6.2）和（6.3）表明，矩阵A的谱半径是它所有相 容范数的下确界。
定义6.4 设有n×n矩阵序列 A(k) (ai(jk) ), k 1, 2, 方阵A＝（aij）, 如果
多大算病态没有标准。如果主元很小或者元素数量级相差大，可能是病态
cond ( A) A A1 AA1 1
2021/6/17
18
§2 迭代解法与收敛性
一、迭代解法
设有线性方程组
Ax=b
(1)
A∈Rn×n, b∈Rn .
对A 进行分裂， A=A1+A2 , 其中 A1 可逆，
则 (A1+A2)x=b A1x = - A2x+b x = - A1-1 A2 x + A1-1 b
再由 Ax =b，得到 || b||= || Ax || ≤||A || ||x||
2021/6/17
16
于是，由 || △x ||≤||A-1 || ||△b||
及 ||b || ≤||A || ||x|| 1 A
x
b
得到解的相对误差为
x A
A1
b
x
b
令 Cond(A)=||A || ||A-1 || ,并称其为矩阵A的条件数。
14 20
则它的特征方程为:
I AT A 10 14
2 30 4 0
14
20
2021/6/17
10
此方程的根为矩阵ATA的特征值，解得
数值分析第三章线性方程组解法
数值分析第三章线性方程组解法在数值分析中，线性方程组解法是一个重要的主题。
线性方程组是由一组线性方程组成的方程组，其中未知数的次数只为一次。
线性方程组的解法包括直接解法和迭代解法两种方法。
一、直接解法1.1矩阵消元法矩阵消元法是求解线性方程组的一种常用方法。
这种方法将方程组转化为上三角矩阵，然后通过回代求解得到方程组的解。
1.2LU分解法LU分解法是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U的乘积，然后通过解两个三角方程组求解线性方程组。
这种方法可以减少计算量，提高计算效率。
1.3 Cholesky分解法Cholesky分解法是对称正定矩阵进行分解的一种方法。
它将系数矩阵A分解为一个下三角矩阵L和它的转置的乘积，然后通过解两个三角方程组求解线性方程组。
Cholesky分解法适用于对称正定矩阵的求解，具有较高的精度和稳定性。
二、迭代解法2.1 Jacobi迭代法Jacobi迭代法是一种迭代求解线性方程组的方法。
它通过分解系数矩阵A为一个对角矩阵D和一个余项矩阵R，然后通过迭代更新未知数的值，直至达到一定精度要求为止。
Jacobi迭代法简单易懂，容易实现，但收敛速度较慢。
2.2 Gauss-Seidel迭代法Gauss-Seidel迭代法是一种改进的Jacobi迭代法。
它通过使用新计算出的未知数值代替旧的未知数值，达到加快收敛速度的目的。
Gauss-Seidel迭代法是一种逐步逼近法，每次更新的未知数值都会被用于下一次的计算，因此收敛速度较快。
2.3SOR迭代法SOR迭代法是一种相对于Jacobi和Gauss-Seidel迭代法更加快速的方法。
它引入了一个松弛因子，可以根据迭代的结果动态地调整未知数的值。
SOR迭代法在理论上可以收敛到线性方程组的解，而且收敛速度相对较快。
三、总结线性方程组解法是数值分析中的一个重要内容。
直接解法包括矩阵消元法、LU分解法和Cholesky分解法，可以得到线性方程组的精确解。
追赶法，高斯消元法，逆矩阵法，迭代法——解线性方程组精仪学院马金玉
追赶法，高斯消元法，逆矩阵法，迭代法 —— 解线性方程组精仪学院 马金玉 1012202030本文主要详细介绍了追赶法，高斯法，逆矩阵法的方法原理，运用这三种方法分别进行线性方程的求解举例，给出MATLAB 相应程序，最后做结果分析，比较说明追赶法和高斯法的特点。
最后对三种典型迭代方法Jacobi 迭代,Gauss-Seidel 迭代，SOR 迭代进行简单的分析比较。
1. 追赶法1.1）.追赶法方法介绍追赶法用于求解以下形式的方程组(三对角方程组)d Ax =其中 1[,,]T n d d =d ，系数矩阵(三对角矩阵)11222111n n n n n b c a bc a b c a b ---⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦A系数矩阵A 的元素满足1100 0 (2,,1)0i i i i i n n b c b a c a c i n b a ⎧>>⎪≥+>≠=-⎨⎪>>⎩第一步：实现A=LU 的分解，按照递推公式1111//()i i i i i c b c b a βββ-=⎧⎨=-⎩ 计算 123,,...........βββ：第二步：求解方程组LY=f,相应的递推公式 11111/()/()i i i i i i i y f b y f a y b a β--=⎧⎨=--⎩ 第三部：求解方程组UX=Y ，相应的递推公式1()n nii i i x y x y x β-=⎧⎨=-⎩ 求得x因为计算1231......n ββββ-→→→→ 及 1231......n y y y y -→→→→的过程是追赶的过程，结出结果X 。
1.2）.追赶法解线性方程组的matlab实例解线性方程组第一步：编写M文件如下：function [x,y,beta]=zhuiganfa(a,b,c,f)%a,b,c是三对角阵的对角线上的元素,f是自由项.n=length(b);beta(1)=c(1)/b(1);for i=2:nbeta(i)=c(i)/(b(i)-a(i)*beta(i-1));endy(1)=f(1)/b(1);for i=2:ny(i)=(f(i)-a(i)*y(i-1))/(b(i)-a(i)*beta(i-1));endx(n)=y(n);for i=n-1:-1:1x(i)=y(i)-beta(i)*x(i+1);enddisp(sprintf('k x(k) y(k) beta(k)')); for i=0:n-1disp(sprintf('%d %15.4f %15.4f %15.4f',i,x(i+1),y(i+1),beta(i+1))); end追赶法M文件程序截图如图1所示图1 追赶法M文件程序截图第二步：根据所求方程，在命令窗口中输入如下命令，并按ENTER 键确认。