线性代数方程组的解法
计算方法(3)第三章 线性代数方程组的解法
“回代”解得
xn
bn ann
xk
1 akk
[bk
n
akj x j ]
j k 1
其中aii 0 (i 1,2,......, n)
(k n 1, n 2, ,1)
返回变量
函数名
function X=backsub(A,b) 参数表
%Input—A is an n×n upper- triangular nonsingullar matrix % ---b is an n×1 matrix
x1
xi
b1 / a11
i 1
(bi aik
k 1
xk ) / aii
(i
2,3,
, n)
如上解三角形方程组的方法称为回代法.
二. 高斯消元法(Gaussian Elimination)
高斯消元法的求解过程,可大致分为两个阶段:首先, 把原方程组化为上三角形方程组,称之为“消元”过 程;然后,用逆次序逐一求出上三角方程组(原方程组的 等价方程组)的解,称之为“回代”过程.
符号约定:
1. (λEi )(Ei ): 第i个方程乘以非零常数λ。 2. (Ei +λEj )(Ei ): 第j个方程乘以非零常数λ
加到第i个方程。
3.（Ei )(Ej )： 交换第i个方程与第j个方程。
a11 x1 a12 x2 ... a1n xn b1
a21
x1 4 x4 x2 4 1 2 1
故解为（x1，x2 ，x3 ，x4 )T (1，2，0，1)T
A=[1 1 0 1;0 -1 -1 -5;0 0 3 13;0 0 0 -13] b=[4;-7;13;-13] X=backsub(A,b)
线性代数方程组的解法
2 3 2 n O( n ) 3
mult a(i , j ) a( j, j ); for k j 1 : n a(i , k ) a(i , k ) mult * a( j , k ); end b(i ) b(i ) mult * b( j ); end
end
LU分解
求A的LU分解（L是下三角矩阵，U是上三角矩阵）
1 1 1 1 3 4 3 4
LU分解
性质1 设向量
, xn ) 且 xk 0 T 则存在唯一的下三角阵 Lk I lk ek ,满足 x ( x1 , x2 ,
T
Lk x ( x1 ,
第三章 线性方程组的直接解法
/*Direct Method for Solving Linear Systems*/
求解 A x b, A R
Cramer法则:
nn
det( A) 0
Di xi D
i 1, 2,
,n
所需乘除法的运算量大约为(n+1)!+n
n=20时，每秒1亿次运算速度的计算机要算30多万年！
Gauss消去法的消元过程算法
for for
j 1: n 1
i j 1: n
2 3 2 n O( n ) 3
mult a(i , j ) a( j, j ); for k j 1 : n a(i , k ) a(i , k ) mult * a( j , k ); end b(i ) b(i ) mult * b( j ); end
方程组可化为下面两个易求解的三角方程组
Ly b Ux y
二、 高斯消去法
07线性代数方程组的解法
总计∑ n (k2k) n(n21)
k1
3
除法
n1
k
n(n1)
k1
2
回 代 总 计 算 量 n(n1) 2
总 乘 除 法 共 n 3 3 n 2 1 3 n (n 3 0 ,为 9 8 9 0 )
21
三、Gauss消去法的矩阵表示
每一步消去过程相当于左乘初等变换矩阵Lk
a x a x a x a b 得
到
(1)
同
解 (1)
方
程 (1)A(3组 )x=b(1() 3)
(1)
11 1
12 2
13 3
1n
1
a x a x (2) (2)
22 2
23 3
a x(3) 33 3
a b (2) (2)
2n
2
a b (3) (3)
11 1
12 2
1n n
1
b x 22 2
b2nxn g 2
称 消 元 过 程 。 逐 次 计 算 b出 nn x xn n, x gn 1 n,, x 1 称 回 代 过 1程 0 。
一、Gauss 消去法计算过程
a a b b 统一记 → 号 (1) ： , →(1)
(2) ,
2
(3)
(2)
2
1
0
1
L m 0 2
32
1
0 mn2 0
m a a
(2) (2)
i2
i2
22
i 3,4, ,n
线性方程组的解法与应用
线性方程组的解法与应用在数学中，线性方程组是由若干个线性方程组成的方程组，它是研究线性代数的基础。
线性方程组的解法和应用非常广泛，可以用于解决实际生活和工作中的各种问题。
本文将介绍线性方程组的解法以及一些应用案例。
一、线性方程组的解法线性方程组的解法主要有三种：图解法、代入法和消元法。
下面将详细介绍这三种方法。
1. 图解法图解法是线性方程组最直观的解法之一。
通过在坐标系中画出方程组表示的直线或者平面，可以确定方程组的解。
举个例子，考虑一个包含两个未知数的线性方程组：方程一：2x + 3y = 7方程二：4x - y = 1我们可以将方程一化简为 y = (7 - 2x) / 3，方程二化简为 y = 4x - 1。
然后在坐标系中画出这两条直线，它们的交点即为方程组的解。
2. 代入法代入法是一种逐步代入的解法。
通过将已知的某个变量表达式代入到另一个方程中，逐步求解未知数的值。
仍以前述的线性方程组为例，我们可以将方程二中的 y 替换为 (7 - 2x) / 3，代入方程一中：2x + 3((7 - 2x) / 3) = 7通过化简方程，我们可以得到 x 的值，然后再将 x 的值代入到方程二中，求出 y 的值。
3. 消元法消元法是一种通过不断消去未知数来求解方程组的解法。
通过变换或者利用消元的规律，将方程组转化为更简单的形式，从而获得解。
考虑一个包含三个未知数的线性方程组为例：方程一：2x + 3y - z = 10方程二：4x - y + z = 2方程三：x + 2y + z = 3可以使用消元法将这个方程组转化为上三角形式，即方程组的右上方是零。
通过对方程组进行一系列的变换，可以得到转化后的方程组：方程一：2x + 3y - z = 10方程二：-7y + 5z = -18方程三：4y + 5z = -1一旦方程组转化为上三角形式，可以通过回代法依次求解未知数。
二、线性方程组的应用线性方程组的求解方法在现实生活中有着广泛的应用。
线性代数方程组的解法
说明：线性方程组的初等变换是可逆的。 即，方程组（1）经初等变换化为一个新方 程组，那么新方程组也可以经过初等变换还 原为原方程组（1）。因而，方程组（1）与 它经过若干此初等变换之后得到的新方程组 是同解的。
⎧ a11 x1 + a12 x 2 + L + a1n x n = b1 ⎪ a x + a x + L+ a x = b ⎪ 21 1 22 2 2n n 2 ⎨ ⎪ LLLLLLLLLLLL ⎪a m 1 x1 + a m 2 x 2 + L + a mn x n = bm ⎩
L a1n ⎞ ⎟ L a2 n ⎟ L L⎟ ⎟ L amn ⎟ ⎠
矩阵A的 (m , n)元
这m × n个数称为 A的元素 , 简称为元素 (元 ).
元素是实数的矩阵称为实矩阵, 元素是复数的矩阵称为复矩阵.
例如
⎛ 1 0 3 5⎞ ⎟ 是一个 2 × 4 实矩阵, ⎜ ⎝ − 9 6 4 3⎠ ⎛ 1⎞ ⎜ ⎟ ⎜ 2⎟ ⎜ 4⎟ ⎝ ⎠
问题：是否每个矩阵都可以经过初等行变换化 为梯矩阵呢？ 定理1 任意m × n矩阵A总可以经初等行变换化为梯
矩阵及最简形。
证明 Step1 若A的元全为0, A已经是一个阶梯矩阵。
Step2 设非零矩阵A的第 j1 列是自左而右的第 一个非零列，设 a1 j ≠ 0 (否则，若 a ij1 非零，作 行变换 r1 ↔ ri ，总可使第j1列的第一个元非零)， 矩阵A的各行分别作行变换：
解
同理可得
−2 −2 1 1 −2 1 0 1 − 3 = −10, −1
D1 = 1 0
1
1 1
− 3 = −5, D2 = 2 −1 −1 1 = −5, 0
线性方程组的解法
线性方程组的解法作为一个线性代数主题，线性方程组的解法是一个非常重要的领域。
在本文中，我们将介绍几种解决线性方程组问题的方法。
我们将从初等变换、高斯消元法、矩阵展开式等几个方面来深入探讨。
一、初等变换初等变换往往是解决线性方程组问题的起点。
我们可以对方程组进行一些基本的操作来得到一个简化的等价方程组，从而方便我们去寻找方程组的解，初等变换主要包括三种操作：1.交换方程组中的两个方程的位置。
2.将某个方程的倍数加到另一个方程上。
3.用一个非零常数来乘某个方程。
执行初等变换时，我们必须记住每个变换对解x的影响。
在交换方程x 和y 的位置时，它们的解不变，而在加上一只方程的某个倍数时，系数矩阵和右侧向量也会随之改变，但解不变。
用一个非零常数乘以方程只会改变右侧向量，同时系数矩阵也会改变。
二、高斯消元法高斯消元法是解决线性方程组问题的另一种方法。
该方法通过使用矩阵增广形式来解决线性方程组问题。
具体步骤如下：1. 将线性方程组写成增广矩阵的形式，其中右侧向量位于最后一列。
2. 使用初等变换来将增广矩阵化为行梯阵形式。
行梯阵是矩阵的形式，其中每一行从左侧开始的第一个非零元素称为主元（pivot），每个主元下方的元素均为零。
3. 从最后一行开始，使用回带算法来求得线性方程组的解。
高斯消元法对于小规模的线性方程组可以轻松解决。
但是，在大规模问题上，该方法可能会产生误差或需要很长时间才能找到解决方案。
三、克拉默法则克拉默法则是解决线性方程组问题的第三种方法。
该方法的关键在于将解决方案表示为每个未知数的一个比值。
这个比值是通过计算每个未知数对其余所有未知数的系数行列式比率而得到的。
这个方法的好处在于消去解方程组所需要的系数矩阵增广形式和行梯阵形式的需要。
但是，如果有许多未知数，计算每个比率可能会非常繁琐。
另外，如果有两个或更多个未知数系数具有相同的值，则克拉默法则计算行列式比率会失败。
四、矩阵展开式最后，我们来看一下使用矩阵展开式来解决线性方程组问题的方法。
线性代数-线性方程组的解
0 0 0 0
R(A) = R(B) < 3,方程组有无穷多解 .
其通解为
x1 x2
=1− = x2
x2
−
x3
x3 = x3
(x2 , x3为任意实数 ).
(2) 当λ ≠ 1时,
1 1 λ
λ2
B ~ 0 1 −1 −λ
0
0
2+λ
(1
+
λ
)2
=
−2
x3
−
4 3
x4
,
( x3 , x4 可任意取值).
令 x3 = c1, x4 = c2，把它写成通常的参数 形式
x1
x2 x3
=
= =
2c2
+
5 3
c2
,
−2c2
−
4 3
c2
c1 ,
,
x4 = c2,
∴
x1 x2 x3 x4
=
c1
2 −2 1 0
+
c2
由于原方程组等价于方程组
x2 x3
− −
x3 x4
= a2 = a3
由此得通解：
x4 − x5 = a4
x1 = a1 + a2 + a3 + a4 + x5
x2 = a2 + a3 + a4 + x5 x3 = a3 + a4 + x5
x4 = a4 + x5
(x5为任意实数 ).
例５ 设有线性方程组
1 1 2 3 1 1 1 2 3 1
B
~
0 0 0
线性方程组的几种求解方法
线性方程组的几种解法线性方程组形式如下：常记为矩阵形式其中一、高斯消元法高斯（Gauss)消元法的基本思想是：通过一系列的加减消元运算，也就是代数中的加减消去法，将方程组化为上三角矩阵；然后，再逐一回代求解出x向量。
现举例说明如下：（一）消元过程第一步：将(1)/3使x1的系数化为1 得再将(2)、(3)式中x1的系数都化为零，即由(2)-2×(1)(1)得由(3)-4×(1)(1)得)1(32)2(......3432=+xx)1(321)1(......23132=++xxx第二步：将(2)(1)除以2/3，使x 2系数化为1，得再将(3)(1)式中x 2系数化为零，即 由(3)(1)-(-14/3)*(2)(2)，得第三步：将(3)(2)除以18/3，使x 3系数化为1，得经消元后，得到如下三角代数方程组：（二）回代过程由(3)(3)得 x 3=1, 将x 3代入(2)(2)得x 2=-2, 将x 2 、x 3代入(1)(1)得x 2=1 所以，本题解为[x]=[1,2,-1]T（三）、用矩阵演示进行消元过程第一步： 先将方程写成增广矩阵的形式第二步：然后对矩阵进行初等行变换初等行变换包含如下操作（1） 将某行同乘或同除一个非零实数（2） 将某行加入到另一行 （3） 将任意两行互换第三步：将增广矩阵变换成上三角矩阵，即主对角线全为1，左下三角矩阵全为0，形)3(3)3(......1-=x )2(3)3( (63)18-=x )2(32)2(......02=+x x )1(32)3( (63)10314-=--x x示例：（四）高斯消元的公式综合以上讨论，不难看出，高斯消元法解方程组的公式为1．消元（1）令a ij(1) = a ij , （i,j=1,2,3,…,n）b i(1) =b i , （i=1,2,3,…,n）（2）对k=1到n-1，若a kk(k)≠0，进行l ik = a ik(k) / a kk(k) , （i=k+1,k+2,…,n）a ij(k+1) = a ij(k) - l ik * a kj(k), （i,j= k+1,k+2,…,n）b i(k+1) = b i(k) - l ik * b k(k), （i= k+1,k+2,…,n）2．回代若a nn(n) ≠0x n = b n(n) / a nn(n)x i = (b i(i) – sgm(a ij(i) * x j)/- a ii(i),（i = n-1,n-2,…,1）,( j = i+1,i+2,…,n )（五）高斯消元法的条件消元过程要求a ii(i) ≠0 (i=1,2,…,n),回代过程则进一步要求a nn(n) ≠0,但就方程组Ax=b 讲，a ii(i)是否等于0时无法事先看出来的。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(2) 迭代解法：所谓迭代方法，就是构造某种 极限过程去逐步逼近方程组的解.
经典迭代法有： Jacobi 迭代法、Gauss Seidel 迭代法、 逐次超松弛（SOR）迭代法等；
上一页 下一页 4
5.1.1 向量空间及相关概念和记号
1 向量的范数
设 是n维实向量空间Rn上的范数，最常用的向量
a21 x1 a22 x2 a23 x3 a24 x4 b2 ,
(1)
a31 x1 a32 x2 a33 x3 a34 x4 b3 ,
a41 x1 a42 x2 a43 x3 a44 x4 b4 .
上一页 下一页 26
若 a11 0 ，则以第 i(i 2, 3,4) 个方程减去
证明 我们只证按行严格对角占优的情形，这时有
n
aij | aii |, i 1, 2,L , n
j 1 ji
假设 Ax 0有非零解x (x1, x2,L , xn ),
则存在下标1 i n，使得 xi
max 1 jn
xj
0,
考虑 Ax 0的第i 行 ai1x1 ai2x2 L ain xn 0
j 1 ji
且至少有一 i 个使不等式严格成立，则称矩阵 A 为按行对角占优矩阵。若 i 1, 2,L , n 严格不等 式均成立，则称 A 为按行严格对角占优矩阵. 类似地，可以给出矩阵 A 为按列（严格）对角
占优矩阵的定义.
上一页 下一页 22
定理 5.8 若 A为严格对角占优矩阵，则 A非奇异.
此时 A ( AT A) 2
若 A Rnn 为对称阵， A ( A) 2 （ 因为 ( AT A) ( A2 ) ）
上一页 下一页 15
关于矩阵的谱半径与矩阵的范数之间有如下关系. 定理 5.4 设 A Rnn，则有
（1）对任意一种 A的从属范数 ，有
(A) A . （2）对任给的 0，存在一种 A的从属范数 ，
a(3) 43
x3
a(3 44
)
x4
b4(3) .
其中
a11axi(1j3) a1a2 xi(j22) al1i32x 3a2(2j)a,14 x4 i,b1j, 3, 4,
bi(3)a2(22)bxi(22)a2(l32i)2x3b2(2a)2(,42) x4 ib2(2)3, , 4.
(2)
依此方法继续a下3(22)去x2 ， a得3(32) x到3
a(2) 34
x4
b3(2) ,
a(2) 42
x2
a(2 43
)
x3
a(2) 44
x4
b4(2) ,
上一页 下一页 28
a11 x 1 a12 x2 a13 x3 a14 x4 b1 ,
a(2) 22
x2
a(2) 23
x3
a(2) 24
x4
b(2) 2
,
a(3 33
)
x3
a(3) 34
x4
b3(3) ,
解： 按定义 A 6 A 7
1
Q
AT
A
1 2
3 1 4 3
2 4
10 14
14 20
I AT A 10 14 2 30 4 0 14 20
15 221
A ( AT A) 15 221 5.46 2 上一页 下一页 13
矩阵范数的等价定理：
对
n
n
从而 a ii x i a ij x j x i a ij
j 1
j 1
ji
ji
n
两边约去 xi ，得 aii aij
矛盾
j 1
ji
上一页 下一页 23
定义 5.8 称矩阵 A Rnn为一个稀疏矩阵是指 该矩阵的绝大多数元素是零.
一般说来，一个n n矩阵，如果其非零元总数 O(n)，就可称之为稀疏矩阵.
)
x3
a(2) 44
x4
b4(2) ,
其中：aa1211
x1 x1
aai(j212) x2aij a13lix1 3 a1 ja,14 x4 bai(22)2 x2bi a2l3i1x3b1, a24 x4
i,bj1, bi 2,
2, 2,
3, 3,
4, 4.
(1)
显然方aa4311程xx11组 aa（43222xx）22 和aa433原3xx33方程aa4344组xx44（ b1b43）., 等价
范数是 p范数： x ( x1, x2 ,L , xn )T
x
p
n
|
xi
|p
1/
p
,
i1
p [1,),
其中 p 1,2,是最重要的,即：
n
x 1 | x1 | | x2 | L | xn | | xi |
x
2
n i 1
xi2
1/ 2
i 1
x max(| x1 |,L ,| xn |)
第五章 线性代数方程组的解法
5.1 预备知识
上一页 下一页 1
求解线性方程组 Ax b
其中
a11 a12 L a1n
A
a21
a22
L
a2n
L L L L L L L L L L
an1。
an2
L
ann
且 | A | 0
x x1, x2 ,L , xn T b b1, b2 ,L , bn T
若对 i 1, 2,L , n
有
lim
k
xi(
k
)
xi
则称向量序列{ x(k) } 收敛于向量 x ( x1,L , xn )T
命题: ቤተ መጻሕፍቲ ባይዱ k 时
x(k) x lim x(k ) x 0
k
这是因为
x(k) x max
|
x(k) 1
x1
|,L
,|
x(k) n
xn
|
从而当 k 时， x(k) x 与 x(k) x 0 等价
A
、A
，存在常数 m
和 M ，使得：
m A A M A
几种常用范数的等价关系：
1
A A nA
n
2
1
A A nA
n1
2
1
上一页 下一页 14
2. 谱半径： 定义 5.2 设 A Rnn, 称其特征值的按模最大值
(A) max{ : (A)} 为 A的谱半径，这里 ( A)表示 A的特征值全体.
上一页 下一页 2
利用 Cramer 法则求解时存在的困难是：当方程 组的阶数 n 很大时，计算量为 O(n!) O(n2 ) 常用计算方法: (1) 直接解法：它是一类精确方法，即若不考虑计 算过程中的舍入误差，那么通过有限步运算可以获得 方程解的精确结果.
Gauss 逐步（顺序）消去法、 Gauss主元素法、矩阵分解法等；
condsp ( A)
:
max{ i ( A) min{ i ( A)
,i ,i
1,2,L 1,2,L
, n} ， , n}
定义为矩阵 A条件数，并称它为矩阵 A的谱条件数.
上一页 下一页 21
5 几种特殊矩阵
定义 5.5 若矩阵 A满足条件
n
aij aii , i 1, 2,L , n
I A L Ak L (I A)1.
上一页 下一页 18
推论 5.1 当 A 1时，则I A非奇异，且 (I A)1 1/(1 A ).
定理 5.7（Banach 引理）若矩阵 A Rnn非奇异， E Rnn且 A1 E 1，则 A E 非奇异，且
A1 ( A E)1
1 A1 E 该定理将被应用于解方程组的扰动分析和 Gauss消去法的舍入误差分析.
上一页 下一页 27
以（2）的第
i
个方程 (i 3,4) 减去
li 2
a(2) i2
/
a(2) 22
a11 x1 a12 x2 a13 x3 a14 x4 b1 ,
得到
a(2) 22
x2
a(2) 23
x3
a(2 24
)
x4
b2(2) ,
(3)
a(3) 33
x3
a(3 34
)
x4
b3(3) ,
使得
A ( A) .
上一页 下一页 16
3. 矩阵级数的收敛性
定义5.3 称矩阵序列 A(k) (ai(jk) ) Rnn 是收敛的，
如果存在 A (aij ) Rnn ，使得
lim
k
a(k ij
)
aij ,
i, j 1, 2,L , n
此时称 A 为矩阵序列 A(k) 的极限 记为
上一页 下一页 5
例 : 设 x (1, 3, 5,4)T , 求 x , p 1, 2, p
根据定义:
4
x 1
| xi | 13
i 1
x
2
4 i 1
1/ 2
xi2
51
x max(| x1 |,L ,| x4 |) 5
上一页 下一页 6
范数的等价性
定理 5.1 对于Rn中任意两种范数 和 ，总存在常
定义 5.1 若 是Rn上任意范数,则对任一 A Rnn
A max Ax max Ax ,
x0 x
x 1
称为 A的由向量范数 导出的矩阵范数，简称 A的从属
范数.
上一页 下一页 10
定理5.3 矩阵的从属范数具有下列基本性质： 1） A 0 ，当且仅当 A 0 时， A 0
2) R , A | | A
定义 5.9 如果矩阵 A Rnn的所有元素均为非负 数, 则称之为非负矩阵，并简记 A 0.