2.3矩阵的条件数与病态方程组
2.3 线性方程组性态
（精确解为
）
解.1、
A
1
0 .8 6 4 8 10 1 .2 9 6 9
8
0 .1 4 4 0 , cond 0 .2 1 6 1
A
3 .2 7 1 0 ,
8
0 .2 1 6 1 2、 A , b 1 .2 9 6 9
A A ,
1
而
A
1
. A 1
由定理1.5知
A E A A
1
E A A
1
非奇异,且由 A 非奇异知
非奇异。
A x A x A x A x b b
2、 A A x x
A x A x A x b A x A x A x b
x A A x A A x A b
1
1
1
取与 R n n 中范数相容的
x A x A
1
R
n
中向量范数，有
x A x A
1
A A
x A
1
A A
b b
1
x A
1
1
1 A
1
A 0, b A x A
x x
1 2
5 0 %。
定义2 设 A R n n , A 0 ，若 A 的条件数越大，则称 线性方程组 A x b 病态越严重；若 A 的条件数越小，则 称线性方程组 A x b 越良态。
第二章 线性方程组数值解法
§3
线性方程组的性态与矩阵的条件数
b，其中，A R n n , A 0, b 0 ，
研究生数值分析(9)矩阵的条件数与病态线性方程组
X A 1 b 即 X A b 于是有
③
另一方面，由①得
b A X
且 X 0
故
A 1 X b
④
由③与④有
X
X
A
1
A
b
b
⑤
表明解的相对误差不超过右端向量b
的相对误差的 A1 A 倍。
（2）仅有小扰动δ A（设 A+ δ A 仍可逆） ~ 的解为 X X X 设方程组 ( A A) X b 即
1 1 A 1 1.0001
10001 10000 A 10000 10000
1
及其逆矩阵
在行模意义下的条件数
Cond ( A) A1
A 20001 2.0001 40004
因此称方程组 x1 x2 2 x1 1.0001x2 2 为病态方程组。
x1 0.9999 x2 1.9999
②
的解为
x1 1; x2 1
它们的解变化很大，这样的方程组称为“病态”
方程组。 下面，我们给出方程组“病态”，“良态”
概念及其衡量标准，并介绍判断近似解可靠性方
法。
1 矩阵的条件数与线性方程组的性态 由于方程组AX=b系数矩阵A与右端向量b 的初始数据微小变化引起解的很大变化，这样
§3 矩阵的条件数与病态线性方程组
判断计算方法的好坏，可用算法是否稳定、 解的精确程度以及计算量、存储量的大小来衡量。 然而，同一方法用于不同问题，效果却可以相差 很远。 例如 方程组
x1 x2 2 x1 1.0001x2 2
x1 2; x2 0
①
解为
第2章解线性代数方程组的迭代法
第二章解线性代数方程组的迭代法2. 1 引言在许多实际问题中，常常需要求解这样的线性代数方程组，它的系数矩阵数很高，但非零元素很少，人们称其为大型稀疏线性代数方程组，对于这类方程组，如果它乂不具有带状性，那么，再用直接法求解就不太有效，因为用直接法进行消元或矩阵的三角分解时，没有考虑到系数矩阵的稀疏性，破坏了系数矩阵的形状，导致了计算量的增加和存储单元的浪费，于是，人们常用迭代法求解大型稀疏线性代数方程组。
迭代法只需要存储系数矩阵的非零元素，这样，占用内存在单元较少，能解高阶线性代数方程组。
山于迭代法是通过逐次迭代来逼近方程组的解，因此，收敛性和收敛速度是构造迭代法时要注意的问题。
那么，是否可以构造一种适用于一般情况的迭代法呢？回答是否定的，这是因为不同的系数矩阵具有不同的性态，一般地，每一种迭代法都具有一定的适用范围，在本章的学习中将会看到，有时，某种方法对一类方程组迭代收敛，而对另一类方程组进行迭代时就会发散。
因此，我们应该学会针对具有不同性质的线性代数方程组，构造合适的迭代方法。
本章主要介绍一些基本的迭代法，并在一定的范围内讨论其中儿种方法的收敛法。
2. 2 基本迭代法考虑线性方程组如坷+如勺+…+气兀”二勺a2t x i+a22x2 + - + a2…x n =b2■•••••••••••(2. 1)采用矩阵和向量记号，我们可以把(2.1)式写成Ax = h(2.2)其中，为非奇异矩阵，设下面我们介绍雅可比(Jacobi)迭代，高斯-塞德尔(Gauss-Seidel)迭代与S0R迭代以及SS0R迭代的基本思想和算法。
为了方便地给出矩阵表示式，我们引进下列矩阵分裂：4SD-U,(2.3)其中-a2\-a n\(1)雅可比迭代的基本思想从式(2.1)的第i个方程中解出X t=(/ = 1,2,•••,«)我们把迭代前面的值代入上式右边，山计算得到等式左边的值作为一次迭代的新值，然后再把这个新值代入右边，再从左边得到一个新值，如此反复，就得到了雅可比迭代公式。
谈谈矩阵条件数及其几种计算方法
谈谈矩阵条件数及其几种计算方法摘要：矩阵条件数在数值分析领域中有重要作用，特别是在线郑治波性方程组和矩阵特征值扰动分析中有广泛的应用，条件数的大小就决定了方程组解的相对误差的大小，用条件数来判断方程组的解对于误差的敏感度是很有用的，它反映了方程组的状态。
关键词：矩阵条件数估计在生产实践和企业管理等实际问题中，经常会碰到许多大型线性方程组的求解问题，其系数阵a总是以抽样统计数据或以实验数据为基础。
统计技术的高低，实验仪器分辨率的高低等等都将给数据带来误差，而这种不可避免的误差，有时甚至是微小的变动也会引起解的极大波动，这时就称系数阵为“病态矩阵”。
对于这种“病态矩阵”一般的算法很难得出理想的结果。
我们知道，算法对误差的传播和积累有很大影响，为了减少这种影响，算法的选取是很重要的，这就是通常所说的算法的稳定性问题。
另一方面，方程组本身对计算中误差的积累也起着极其重要的作用，系数阵a的条件的好坏至关重要，如果问题是病态的，那么即使选择良好的计算方法，也不能指望有好的结果出现，因此判别原始方程组是否病态是十分重要的。
怎样有效地判别矩阵是否为病态矩阵？近几十年国内外许多从事计算数学的学者都在进行摸索研究，得知“条件数”与矩阵病态有密切关系。
“条件数”这一名词在上世纪五十年代初出现，主要用来衡量矩阵的病态程度，条件数越小，则矩阵的非奇异程度越高，称矩阵是良态的；条件数越大，则矩阵的非奇异程度越差，称矩阵为病态的。
另外，在数值分析中，常常要讨论矩阵扰动对一个给定矩阵的特征值的影响，条件数可以衡量矩阵的特征值经过扰动的偏离度，也是衡量矩阵a关于特征值问题是否良态的重要标志。
然而由于矩阵的阶数较大时，的计算量大导致应用定义计算矩阵条件数十分困难，因此，矩阵条件数的估计对研究各种矩阵问题有着重要意义。
1.条件数的提出（1）线性方程组的条件数考虑线性方程组的求解，其中用精确的计算求解得：若对常数列加入的摄动量，即考虑，所得解与之差是 .显然，对方程组的右端向量只不过改变了，而解却相差1806 .又如，设，，，由计算可知方程组和方程组的解分别为和 .由此可见，系数矩阵只产生的误差而解却产生300000 的误差。
数值分析向量,矩阵范数,矩阵的条件数
§8 向量,矩阵范数，矩阵的条件数一 、 向量、矩阵范数为了讨论线性方程组近似解的误差估计与研究解方程组迭代法的收敛性，需要在)(nn nRR ⨯或中引进向量序列(或矩阵序列)极限概念。
为此，这就需要对量空间n R (或n n R ⨯矩阵空间)元素的“大小”引进某种度量即向量范数(或矩阵范数)即距离的概念。
(一)向量范数：向量范数是3R 中向量长度概念的推广。
},{1为复数i n nx x x x x C ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡== 称为n 维复向量空间。
},)({为复数ij n n ij n n a a A A C ⨯⨯==称为n n ⨯复矩阵空间。
(2)设nn nCA C x ⨯∈∈,,称T n Hx x x x=≡),,(1 为x 的共轭转置，T H A A =称为A 共轭转置矩阵。
在许多应用中，对向量的范数(对向量的“大小”的度量)都要求满足正定条件，齐次条件和三角不等式，下面给出向量范数的抽象定义。
nR x ∈(或nC x ∈)的某个实值非负函数x x N ≡)(，如果满足下述条件(1)正定性 00,0=⇒⇐=≥x x x (2)齐次性 x ax α=其中R ∈α(或C ∈α)(3)三角不等式 )(,,nn C R y x y x y x ∈∈∀+≤+或，称x x N ≡)(是n R 上(或n C )一个向量范数(或为模)。
由三角不等式可推出不等式 (4)y x y x -≤- 下面给出矩阵计算中一些常用向量范数。
设)(),,(1nn T n C x R x x x ∈∈=或(1)向量的“∞”范数 i n i x x x N ≤≤∞∞=≡1max )((2)向量的“1”范数 ∑==≡ni i x xx N 111)((3)向量的“2”范数 2/1122/122)(),()(∑===≡ni i x x x xx N(4)向量的能量范数 设n n R A ⨯∈为对称正定阵2/1),()(x Ax xx N R x AA n =≡→∈∀称为向量的能量范数。
2-3矩阵条件数
另一方面
b A~ x A x~ x
x~ x b A~ x A
x A b x A
x~ x x b A~ x A A1
1
1
1 1 b 1 x A b
b A~ x 1 b b cond( A)
关于条件数的补充：有定理表明，当矩阵A十分病 态时，就说明A已十分接近一个奇异矩阵。
由第一章习题4酉矩阵与谱范数的性质可得 （5）A，B可逆 cond( AB) cond( A) cond(B )
cond( AB) AB AB
1
A B A1 B 1 cond( A) cond(B)
x
x
cond( A)
b
b
cond( A) 越大，解的相对误差界可能越 大，对求解线性方程组来说就越可能呈现 病态。 cond( A) 多大A算病态，通常没有具体的定 量标准； cond( A) 越小，解的相对误差界越小，呈现 良态。
相对误差
定义 设A为非奇异矩阵， 为矩阵的算子范数，
则称 cond( A) A A1 为矩阵A的条件数。 常用的条件数为：
cond ( A) A A
1
cond1 ( A) A 1 A
1 1
cond 2 ( A) A 2 A
1 2
max ( AH A) min ( AH A)
定理2.6 设Ax = b，A为非奇异矩阵，b为非零 ~ 向量，则方程组近似解 x的事后估计式为 ~ ~ b Ax xx b A~ x
1 cond( A)
b
x
cond( A)
b
~ ~ 其中称 b Ax 为近似解 x的余量，简称余量。
病态线性方程组
数值分析
由实际问题建立起来的线 性方程组Ax=b本身存在模 型误差和观测误差，或者 是由计算得到的，存在舍 入误差等。总之，A,b都会 有一定扰动ΔA, Δb, 因此实 际处理的是A+ ΔA或b+ Δb ，我们需要分析A或b的扰 动对解的影响。
数值分析
矩阵的条件数与病态线性方程组
提问：求解Ax＝b时，A和b的误差对x有何影响？ 1：A非奇异，设精确，b有误差Δb，导致解x有多大 误差？
北京航空航天大学 数学与系统科学学院
Email: numerical_analysis@ Password:beihang 答疑时间：星期三下午2:00－5:00 答疑地点：主216
朱立永
数值分析
第二章 线性方程组的解法
第四讲 病态线性方程组求解
数值分析
Gaussian elimination
• ||A|| ||A^-1||是我们遇到的第二个放大因子；
• cond（A）的具体大小与||∙||有关，但相对大小一致； • cond（A）的大小本质取决于A，与解题的方法无关；
• cond（A）＝∞，如果A是奇异的。
数值分析
常用的矩阵条件数
cond ( A ) || A || || A
1
||
cond ( A ) 1 || A ||1 || A
1
||1
cond ( A ) 2 || A ||2 || A
1
||2
数值分析
1 1 2 Hn 例：Hilbert 阵 1 n
1 2 1 3
1 n 1
1 n 1 1 2 n 1
2范数和条件数病态方程组
由于
( I A)( I A)1 I ( I A)1 A( I A)1 I
( I A)1 I A( I A)1
在最后一式两端取范数，得
( I A) 1 I A ( I A) 1
1 A
( I A) 1 I 1.
练习:计算矩阵
1 2 A 3 4 的各种范数.
答案 : 6,7, 15 221 , 30
§2.3 矩阵的条件数与病态线性方程组
2.3.1
矩阵的条件数与线性方程组的性态
给定线性方程组 Ax =b，现在考察，系数矩阵 A 和常数列 b 有了微小变化 △A，△b ，它如何影 响解向量 x，即，解向量 x 的变化量 △x 何样？ 由于A （或 b）的元素是测量得到的，或者是 计算的结果，在前种情况下， A （或 b）常常带有 某些观测误差，在后种情况下， A （或 b）包含舍 入误差，因此我们处理的实际矩阵是A + △A （或 b+ △b ）。
n×n矩阵 A，式(1.2)中定义的函数是一种矩阵范 数，并且它与给定的向量范数是相容的.
A max Ax
单位球上的 最大像值
x 1
(1.2)
证明 先证相容性. 对任意的n×n矩阵A和n维非零向
量 y. 由于
y 1 max Ax A Ay . x 1 y y
所以有
Ay y max Ax y A ,
考察方程组 Ax = b, 当 A 或 b 有微小扰动时, 对解的影响， 首先看一个例子：
1 x1 2 1 , 1 1.0001 x2 2 1 x1 2 1 x 1 1.0001 2.0001 2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
输入： n 5; H hilb(n);b H *ones(n,1); x H \ b; x,
得：ans=1.000,1,000,1.000,1.000,1.000 输入： n 10; H hilb(n);b H *ones(n,1); x H \ b; x,
2.3 矩阵的条件数与病态方程组
一、矩阵的条件数 二、线性方程组的性态 三、病态线性方程组的求解
2.3 矩阵的条件数与病态方程组
例1 方程组
3.03001
11
•
x1 x2
4.04001
准确解： x1 , x2 T 1 , 1T
若A及b作微小变化，考虑扰动后的方程组：
3 2.9999
11
•
x1 x2
4.04002
准确解：
x1 , x2 T 2
, 10T
方程组解的几何解释为：平面上两条接近于平行的直线的 交点，当其中一条直线稍有变化时，新的交点与原交点相 差很远。
例2 方程组 10 7 8 7 x1 32
7
8 7
5 6 5
6 10 9
5 190
•
x2 x3 x4
23 3331
（准1确A）解对0为0.00右0.081：端00b0.0(0..004x作211 ,微x00200..小11,1x扰3,00x动00..2042)：T （2(）1,1对,1,系1)数T 矩阵A作微小扰动：
10 7 8 7 x1 32.1
10 7 8.1 7.2 x1 32
7
8 7
5 6 5
三、病态线性方程组的求解 1、病态线性方程组的判别 2、病态线性方程组的求解
（1）采用高精度 （2）（预处理）平衡法 （3）残差校正法 （4）奇异值分解法
三、病态线性方程组的求解 1、病态线性方程组的判别
例（P49）
三、病态线性方程组的求解 1、病态线性方程组的判别
0.1 0.1
A 0.1
在MATLAB中，函数hilb（）提供了Hilbert矩阵
H4 hilb(4)
希尔伯特（Hilbert）阵 -----最著名的病态矩阵
Hilbert矩阵的条件数：
cond (H4 ) 1.55104 , cond (H6 ) 1.49107 cond (H8 ) 1.531010 cond (H5 ) 4.761105, cond (H10 ) 1.60251013 cond (H15 ) 8.4881017 cond (H20 ) 1.9084 1018
6 10 9
5 9 10
•
x2 x3 x4
22.9 3303..91
7.08
8 6.99
5.04 5.98 4.99
6 9.89
9
5 9 9.98
•
x2 x3 x4
23 3331
(x1, x2 , x3, x4 )T (9.2,12.6,4.5,1.1)T
b 0.1 0.303%
例4（P49）
0.1 0.1
0.1 1010
•
x1 x2
0.2 1010
cond ( A) 1011 方程组病态
进行行平衡: s1 0.1, s2 1010 , D diag(10,1010 )
得同解方程组: DAx Db
1 1011
11
•
x1 x2
2 1
cond ( A) 4
(3)残差校正法（迭代求精法，迭代改善法）
~x x
Ax b 近似解 ~xx1, x2 , x3, x4 )T (81,137,34,22)T
15111倍
A 0.3 0.9%
A
33
x x
13.6 1
1360%
x 136 13600%
x
1
2.3 矩阵的条件数与病态方程组
一、矩阵的条件数 ★矩阵条件数的定义 ★矩阵条件数的性质
一、矩阵的条件数
1010
例（P49）
cond ( A) 1011
1010 0.1
B
0.1
1010
cond (B) 1
2、病态线性方程组的求解
（2）预处理 设有预处理矩阵P，对方程组AX=b预处理 PAX=Pb
使 cond(PA) cond( A)
2、病态线性方程组的求解 （1）采用高精度
（2）预处理 cond (PA) cond ( A)
b
x
(3) 0.005%, 50%
b
x
希尔伯特（Hilbert）阵 -----最著名的病态矩阵
定义： H (hi, j )nn ,
hi, j
1 ,i, i j 1
j
1,2,, n
1
Hn
1
2
1
2 1
3
1 3 1
1
n 1
4
n
1
1 n
1 n 1
1 n2
1 2n 1
对称正定矩阵
Proof
x
A A1
A b
改写（2.22）式：
x
(
)
1 A A1 A
A
b
A
★矩阵条件数的定义： ★矩阵条件数的性质：
（6）Cond(AB) ≤ Cond(A) Cond(B)
二、线性方程组的性态
答案： (1)cond ( A) 4104 , x (2,0)T (2)x x (1,1)T
求解病态方程组出现的问题：
例：用MATLAB求解线性方程组
Hnx b
b Hne, e (1,1,,1)T
输入： n 5; H hilb(n);b H *ones(n,1); x H \ b; x,
得：ans=1.000,1,000,1.000,1.000,1.000 输入： n 10; H hilb(n);b H *ones(n,1); x H \ b; x,
得：ans=1.000, 1,000, 1.000, 1.000, 0.999 1.000，0.999， 1.000， 0.999，1.000
输入： n 20; H hilb(n);b H *ones(n,1); x H \ b; x,
得：ans=1.000, 1,000, 1.001, 0.979 1.202 -0.141, 4.886, - 6.842, 9.446, -2.9071 6.4271, -19.1914,24.787,9.577, -50.545, 65.566, -47.751, 27.814, -9.191, 2.883