工程应用数学基础_15_--矩阵的三角分解
工程应用数学基础
0 1 1 2
例 4 试求方阵 A 1 0 0 1 的带行交换的LR分解.
2 1 0 1 1 3 0 1
解 取置换矩阵:
0 1 0 0
P 1 0 0 0 0 0 1 0
0 0 0 1
研究生MOOC课程
第15讲 矩阵的三角分解
1
工程应用数学基础
第15讲 矩阵的三角分解
一、三角分解
工程应用数学基础
上(下)三角阵的性质:
1) 上(下)三角阵的和、差、乘积、逆仍是上(下)三角阵；
2) 单位上(下)三角阵的乘积、逆仍为单位上(下)三角阵.
另外系数矩阵A为三角阵的非齐次线性方程组
容易求解.
Ax b
研究生MOOC课程
二、三角分解的求解
所以矩阵 A 的LR分解是
2 1 4
1
2 1 4
A 4 3 13 LR 2 1
1
5
2 2 20
1 1 1
11
工程应用数学基础
研究生MOOC课程
第15讲 矩阵的三角分解
二、三角分解的求解
0 1 1 2
1 0 0 1
0 1 0 0 (4) (3) 3 0
1 1
2
2 0 1 0
0 1 0 1
1 0 0 1
0 0 0 3
1 0 0 1
(3) (2) 0 1 1
2
0 0 1 1
0 0 0 3
1 0 0 0 0 1 0 0 2 1 1 0 7 0 3 1
二、三角分解的求解
问题
方阵 A 与 Ã 有什么关系?
PA Ã ，其中 P 是置换矩阵.
工程应用数学基础
定理2 若 A是 n 阶可逆方阵，则存在置换矩阵P，使得
PA 有唯一的三角分解，即有 PA LR
称上 LR 分解为 A 的带行交换的LR分解.
研究生MOOC课程
第15讲 矩阵的三角分解
二、三角分解的求解
所以有
a (1) 22
a22
a12
a21 a11
0
a11 a12
0 (
i
)(
2
)
ai(21) a2(12)
a (1) 22
0
0
研究生MOOC课程
a1n a (1)
2n
1 a21
a11
a(2) nn
*
1
a (1) n2
a (1) 22
1 1
第15讲 矩阵的三角分解
一、三角分解 定义1(三角分解) 若方阵 A 可分解为
A LR 其中 L 是单位下三角阵，R 是上三角阵，则称 A 可三角分解 (或LR分解，或Doolittle分解).
工程应用数学基础
对于非齐次线性方程组
研究生MOOC课程
Ax b
第15讲 矩阵的三角分解
一、三角分解
若方阵 A 有三角分解 A LR 令 Rx y
二、三角分解的求解
工程应用数学基础
则有
0 1 0 0 0 1 1 2 1 0 0 1
PA 1
0
0
0
1
0
0 1 0
1 1 2
0 0 1 0 2 1 0 1 2 1 0 1
0
0
0
1
1
3
0
1
1
3
0 1
因为 1 1 0， 2 1 0， 3 所以 PA 有唯一的LR分解
1
0 0 0 1 1
2
2 1 0 1
2 1 1 0 0 0 1 1
1
3
0 1
1
3 3 1 0 0
0 3
研究生MOOC课程
第15讲 矩阵的三角分解
二、三角分解的求解
[R⁞L 1]
工程应用数学基础
1 0 0 0 0 1 0 0 2 0 1 0 7 0 3 1
研究生MOOC课程
第15讲 矩阵的三角分解
二、三角分解的求解
工程应用数学基础
即有
1 0 0 1
1 0 0 0
R 0 1 1 0 0 1
2
，L1
0
1
0
研究生MOOC课程
第15讲 矩阵的三角分解
一、三角分解
上三角阵
a11 a1n
ann
下三角阵
a11
an1 ann
单位上三角阵
1
1
研究生MOOC课程
单位下三角阵
1
其中 Ak，Lk，Rk 分别是 A，L，R 的 k 阶顺序 主子阵
研究生MOOC课程
第15讲 矩阵的三角分解
一、三角分解
因为A可逆，所以L，R 可逆 按分块矩阵计算性质有 Ak Lk Rk 因为A可逆，所以L，R 可逆，进而有
|Lk| 0， |Rk| 0 于是有 |Ak| |Lk| |Rk| 0 所以定理成立
工程应用数学基础
第15讲 矩阵的三角分解
一、三角分解
工程应用数学基础
下证必要性
若可逆矩阵 A 存在LR分解: A LR
则对任意的k ( 1 k n) ，将 A LR 写成分块矩阵的形式
A
Ak Ck
Bk Dk
Lk
M
k
O Rk
N
k
O
Vk
Wk
工程应用数学基础
依次类推有
第15讲 矩阵的三角分解
一、三角分解
a11 a12
0
a (1) 22
0
0
a1n 1
a (1) 2n
*
1
a ( n 1) nn
*
*
工程应用数学基础
[R⁞L 1] 1
其中 L 1 是单位下三角阵，R是上三角阵 由单位下三角阵的性质知，L 也是单位下三角阵
二是Jordan标准形 A Pdiag{J1( 1)，J2( 2)，…，Js( s) } P 1
研究生MOOC课程
工程应用数学基础
第15讲 矩阵的三角分解
一、三角分解
工程应用数学基础
矩阵分解: 把矩阵分解为形式比较简单或性质比较熟悉的 若干个矩阵的乘积形式
分解意义: 清晰地反映出原矩阵的某些特征，提供有效的 数值计算方法和理论分析依据
0
1
2 1 1 0
0 0 0 3
7 0 3 1
所以 A 的带行交换的LR分解是:
1 0 0 0
L 0 1 0 0 2 1 1 0
1
3 3 1
1 0 0 1
1 0 0 0 1 0 0 1
PA
0
1 1 2 LR 0
则 Ax b 可分解为两个非齐次线性方程组: 1) Ly b (前推方程组) 2) Rx y (后退方程组)
工程应用数学基础
研究生MOOC课程
第15讲 矩阵的三角分解
一、三角分解
首先由方程组 Ly b
1 l21 1
y1 b1
y2
b2
第15讲 矩阵的三角分解
二、三角分解的求解
工程应用数学基础
2 1 4 1
2 1 4 1
[ A I ] 4 3 13
1
( 2 ) (1)2
(3) (1)
0
1
5 2 1
2 2 20
1
0 1 16 1 0 1
2 1 4 1
(3) ( 2 )
rnn
xn
yn
解得
xn xn1 x1
研究生MOOC课程
工程应用数学基础
第15讲 矩阵的三角分解
一、三角分解
工程应用数学基础
问题
是否任何方阵都有LR分解呢?
例
1
方阵
A
0 1
1 0
就没有LR分解
定理1 n 阶可逆方阵 A 有唯一的LR分解的充要条件是
(i )(1) ai1
a11
0
a (1) 22
0
a (1) n2
研究生MOOC课程
a1n 1
a (1) 2n
a21 a11
1
1
a (1) nn
an1 a11
1
工程应用数学基础
第15讲 矩阵的三角分解
一、三角分解
又因为 2 a11 a22 a12 a21 0
0 1 1 2
1 0 0 1
A 1 0 0 1 A 0 1 1 2
2 1 0 1
2 1 0 1
1 3 0 1
1 3 0 1
则方阵 A 有三角分解.
且方程组 Ax b 与方程组 Ax b 同解.
研究生MOOC课程
工程应用数学基础
第15讲 矩阵的三角分解
研究生MOOC课程
第15讲 矩阵的三角分解
一、三角分解
工程应用数学基础
因为矩阵[ R ⁞ L 1 ]是由矩阵 [ A ⁞ I ]通过行初等变换得到的，所
以存在一个可逆矩阵P，使得
解线性方程组的矩阵三角分解法
6
PLU 分解
矩阵的 PLU 分解
PA LU
k -1
ukj akj lki uij i 1
k 1
lik aik lijujk ukk
j 1
l21 M
l22
O
l22 O
lnM2
a21 M
a22
O
aM2n
ln1 L ln,n1 lnn
lnn an1 an2 L ann
计算公式
n
j 1
aij likl jk likl jk l jjlij
n
j 1
aij likl jk likl jk l jjlij
k 1
k 1
10
平方根法
Ax b A 对称正定
算法 ：(解对称正定线性方程组的平方根法 )
计算 A 的 Cholesky 分解 解方程：Ly = b 和 LTx = y
y1 b1 l11 ,
yi
bi
i1
lik yk
lii
,
k 1
xn yn lnn ,
xi
yi
n
lki
xk
lii
ki1
i = 2, 3, …, n i = n-1, …, 2, 1
11
改进的 Cholesky 分解
改进的 Cholesky 分解
矩阵三角分解法
m3 (m13 , m23 , m33 )T c1.
10
为了节省内存单元，可不必存放单位矩阵， c3存放在
A 的第1列， c2 存放在 A 的第二列位置， c1 存放在 A的
第3列. 经消元计算，最后再调整一下列就可在 A 的位置得到
A1 . 注意第 k 步消元时，由 A 的第 k 列
ak (a1k , , akk , , ank )T
利用(3.1)得到
Ln1I n1,in1 L2 I 2,i2 L1I1,i1 A A( n ) U .
若记 则有
~ P Ln1 I n1,in1 L2 I 2,i2 L1 I1,i1 .
~ P A U ,
~ Pb b ( n ) ,
~. 考虑 n 4 时的 P
U A( 4) L3 I 3,i3 L2 I 2,i2 L1 I1,i1 A
L3 ( I 3,i3 L2 I 3,i3 )( I 3,i3 I 2,i2 L1 I 2,i2 I 3,i3 )
~ ~ ~ ( I 3,i3 I 2,i2 I1,i1 ) A L3 L2 L1 PA,
（3.2）
1
其中
~ L1 I 3,i3 I 2,i2 L1 I 2,i2 I 3,i3 , ~ L2 I 3,i3 L2 I 3,i3 , ~ L3 L3 ,
6 5 3
0 0 1
0 1 0
1 0 0
1 第1次消元 0 0
1/ 3 2/3 1/ 3 c3
9
ቤተ መጻሕፍቲ ባይዱ
1 第2次消元 0 0 1 第3次消元 0 0
0 1 0
1/ 2 3/ 2 1/ 2
4.2 三角分解
故得A的Doolittle分解的紧凑计算格式为: r1 j a1 j , j 1, 2, , n, li1 ai1 , i 2, 3, , n, r11 k 1 r a l r , j k , k 1, , n ; k 2, , n , kj kj kt tj t 1 k 1 1 lik r aik lit rtk , i k 1, k 2, , n; k 2, t 1 kk
§4.2 矩阵的三角分解
一、矩阵的三角分解 1. 定义 定义1
设A C
n n
, 如果存在下三角矩阵L C 和上三角 A LR
n n
矩阵R Cnn , 使得 则称上述分解为A的三角分解, 或称A可作三角分解.
例如
0 0 A 1 2
0 01 0 1 2
证
设A Cnn是正定的Hermite矩阵, 则A的顺序主子 式 k 0, k 1, 2, , n, 由定理4知，
A LDR, 其中L是单位下三角矩阵，R是单位上三角矩阵， d1 D i 1, 2, d2 是对角矩阵，且d 0, i dn
, n.
因AH A, 所以 A AH R H DLH ,
由LDR分解的唯一性知，L R H , 所以 A LDLH d1 L GG H , d2 d1 dn d2 H L dn
设A的n个顺序主子式全不为零.
当n 1时，A1 a11 1 a11 , 结论成立.
设对n k结论成立，即Ak Lk Rk ,其中Lk 和Rk 分别是下三角矩阵和上三角矩阵，且由
k det Ak det Lk det Rk 0知,Lk 与Rk 均可逆.
三角分解法
三角分解法
三角分解法亦称因子分解法，由消元法演变而来的解线性方程组的一类方法。
设方程组的矩阵形式为Ax=b，三角分解法就是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U之积：A=LU，然后依次解两个三角形方程组Ly=b 和Ux=y，而得到原方程组的解，例如，杜利特尔分解法、乔莱斯基分解法等就是三角分解法。
【基本介绍】
若能通过正交变换，将系数矩阵A分解为A=LU，其中L是单位下三角矩阵(主对角线元素为1的下三角矩阵)，而U是上三角矩阵，则线性方程组Ax=b 变为LUx=b，若令Ux=y，则线性方程组Ax=b的求解分为两个三角方程组的求解：
(1)求解Ly=b，得y；
(2)再求解Ux=y，即得方程组的解x；
因此三角分解法的关键问题在于系数矩阵A的LU分解
【矩阵LU能分解的充分条件】
一般地，任给一个矩阵不一定有LU分解，下面给出一个矩阵能LU分解的充分条件。
定理1 对任意矩阵AϵR n×n（n≥2），若A的各阶顺序主子式均不为零，则A有唯一的Doolittle分解(或Crout分解)。
定理2 若矩阵AϵR n×n（n≥2）非奇异，且其LU分解存在，则A的LU 分解是唯一的。
矩阵的三角分解方法
§4矩阵的三角分解矩阵的三角分解定理：设n nA R ×∈,如果A 的前n-1个顺序主子式det()0,1,2,,1i A i n ≠=− ，则A 可分解为一个单位下三角矩阵L 与一个上三角矩阵U 的乘积，且这种分解是唯一的。
证明：1.存在性：利用高斯消去法来构L 和U(1)(2)()1122det()0,1,2,,1i i ii A a a a i n =≠=−1L A U −=，A LU=2112100101n n m L m m ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦ ，(1)(1)(1)11121(2)(1)222()0nn n nn a a a a a U a ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦2．唯一性：分A 非奇异和奇异两种情况来证 （1）A 非奇异考虑到A 的前n-1个顺序主子式非零，得 det()0,1,2,,i A i n ≠=设1122A LUL U ==，12,L L 为单位下三角矩阵，12,U U 为上三角矩阵。
因A 非奇异，所以1U 可逆，从而112121L L U U −−=112121112121(,)L L E U U L L U U −−−−⇒==因为单位下三角阵为上三角阵2121,L L U U ⇒==（2）A 奇异因det()0,1,2,,1i A i n ≠=− ，det()0n A =()0,1,2,,1i ii a i n ⇒≠=− ，()0n nn a = 设1122A LUL U ==，12,L L 为单位下三角矩阵，12,U U 为上三角矩阵。
对它们进行矩阵分块，得(1)(1)(1)(1)(1)(1)111222(1)(1)1122001010n n n n n n n n L U a L U a m a m a −−−−−−−−⎛⎞⎛⎞⎛⎞⎛⎞=⎜⎟⎜⎟⎜⎟⎜⎟⎝⎠⎝⎠⎝⎠⎝⎠其中(1)(1)12,n n L L −−为n-1阶单位下三角矩阵，(1)(1)12,n n U U −−为可逆的n-1阶上三角矩阵(1)(1)(1)(1)(1)(1)(1)(1)11112222(1)(1)(1)(1)(1)(1)(1)(1)1111122222n n n n n n n n n n n n n n n n L U L a L U L a m U m a a m U m a a −−−−−−−−−−−−−−−−⎛⎞⎛⎞⇒=⎜⎟⎜⎟++⎝⎠⎝⎠由(1)(1)(1)(1)1122n n n n L U L U −−−−=(1)(1)(1)(1)2121,n n n n L L U U −−−−⇒==由(1)(1)(1)(1)1122n n n n L a L a −−−−=(1)(1)21n n a a −−⇒= 由(1)(1)(1)(1)1122n n n n m U m U −−−−=(1)(1)21n n m m −−⇒=由(1)(1)(1)(1)222111n n n n m a a m a a −−−−+=+21a a ⇒= 故2121,L L U U == 证毕。
5.4矩阵三角分解法
b2 b3 b4
r
2
l21 l31 l41
u22 l32 l42
u23 a33 a43
u24 a34 a44
y2
b3 b4
u11 u12 u13 u14
r
3
l21 l31 l41
u22 l32 l42
u23 u33 l43
u24 u34 a44
y1 y2 y3 b4
r
4
一、直接法概述
直接法是将原方程组化为一个或若干个三角形 方程组的方法，共有若干种．
对于线性方程组
Ax b
其中
a11
A
a21
an1
a12 a22
a1n a2n
an2
ann
x1
x
x2
xn
b1
b
b2
bn
系数矩阵
未知量向量 常数项
根据Cramer(克莱姆)法则,若
2
解Ux y
3 2 1
2
2
U
10 0 3 10
11 3
11 6
11
12 3
11 9
17 2 2 11 4
20
y
17
11
16
10 0 3 1
11 3
11
12 3
11
17 2 2 11
2
所以
3
x
6 9 11
4 4
x1 1
x2
2
x
x3
3
ann
ln
1
lrr
lnr
lnn
lrr
llnnnr
a11 l11 l11 a21 l21 l11 ai1 li1 l11 i 1,2, , n
矩阵的三角分解
矩阵的三角分解
矩阵的三角分解是将一个矩阵分解为一个上三角矩阵和一个下
三角矩阵的乘积。
这个过程可以用于求解线性方程组、计算矩阵的行列式和逆等问题。
具体地说，设A是一个n×n的矩阵，其三角分解可以表示为： A=LU
其中L是一个下三角矩阵，U是一个上三角矩阵。
L和U可以通过高斯消元法来求得。
具体地，我们对矩阵A进行一系列初等变换，使其化为一个上三角矩阵U，然后再对原矩阵A的每一行进行相应的初等变换，使得变换后的矩阵L成为一个下三角矩阵。
例如，对于如下矩阵A：
1 2 3
4 5 6
7 8 9
我们可以通过高斯消元法求出其上三角矩阵U：
1 2 3
0 -3 -6
0 0 0
再对原矩阵A的每一行进行相应的初等变换，得到下三角矩阵L： 1 0 0
4 1 0
7 2 1
因此，矩阵A的三角分解为：
A = LU =
1 2 3 1 0 0 1 2 3
4 5 6 = 4 1 0 * 0 -3 -6
7 8 9 7 2 1 0 0 0
可以看到，矩阵A成功地被分解为一个上三角矩阵U和一个下三角矩阵L的乘积。
矩阵的三角分解及其应用
矩阵的三角分解及其应用作者：王焕庭来源：《教师·上》2010年第08期一、矩阵的三角分解1.定义如果方阵A可分解成一个下三角矩阵L和一个上三角矩阵U的乘积,则称A可作三角分解或LU分解。
如果方阵A可分解成A=LDU (1.1),其中L是单位下三角矩阵,D是对角矩阵,U是单位上三角矩阵,则称A可作LDU分解。
2. A的LDU分解和 LU分解求法(1)A的LDU分解求法: 取A的一阶主子式,作LDU分解A1=(1)(a11)(1),L1=(1),D1=(a11),U1=(1), 用(1)式-(4)式确定v1,l1,从而L2=,D2=,U2=,A2=L2D2U2。
然后重复使用(1)-(4)式得到A的顺序主子式的LDU分解。
Ak=LkDkUk,k=1,2,…,n,当k=n时,即完成A的LDU分解。
(2)A的LU分解求法:先按照(1)的步骤求出A的LDU分解,再令DU的乘积为U’,即求出 A 的LU分解。
3.LU分解的推广和改进矩阵A的LU与LDU分解都需要假设A的前n-1阶顺序主子式非零。
如果这个条件不满足,可以给A左或右乘以置换矩阵,就把A的行或列的次序重新排列,使这个条件满足,从而就有如下的带行交换的矩阵分解定理。
定理1设A是n阶非奇异矩阵,则存在置换矩阵P使PA的n个顺序主子式非零。
该定理的证明可在矩阵论教科书中查到。
4. LU分解在解方程组中的应用设A是n阶非奇异矩阵,则存在置换矩阵P使PA=LDU=LU’(1.3)。
其中L是单位下三角矩阵,D是对角矩阵,U是单位上三角矩阵, U’ 是上三角矩阵。
如果方程组AX=b(1.3),系数矩阵 A是n阶非奇异矩阵且△k≠0,(k=1,2,…,n-1), 则存在三角分解A=LU.于是得到与原方程组同解的以三角矩阵为系数矩阵的方程组Ly=b(1)Ux=y(2), 方程组的(1)式解出代入(2)式解出,这就是线性方程组的三角分解法。
如果方程组的系数矩阵A的某个顺序主子式△k=0 ,(k=1,2,…,n-1),可用定理1的推论考虑与其同解的方程组PAX=Pb(1.4),即也可用三角分解法求解。
第四章 第二节 矩阵三角分解法
1、 平方根法
设对称正定阵A具有形如 (3.4) 的分解：
A LLT
(3.5)
其中
l11 0 0 0 l l22 0 L 21 ln1 ln 2 lnn
和 Doolittle分解一样，比较 (3.5) 式两端对应元素， 可以依次算出 lik ，今设从第1列到第k-1 列的元素 均已算出，现在来计算L的第k列元素 lkk , lk 1,k , , lnk , 由关系式 (3.5) ，有
21212121313131312221213232312132323331313232求三次样条插值函数及用差分法求解二阶常微分方程的边值问题等都需要求解所谓对角占优的三对角方程组41其中由于在实际问题中遇到的这种方程组的阶数都较高所以零元占优势为节省存贮和计算量不直接用前述的分解公式而是根据矩阵的特殊形状推导出更为简捷的三角分解计算和求解公式
A LD D L L1LT 1
1 2
1 2
1 2 T
3.4
其中 L1 LD 已不是单位下三角矩阵了。
我们称 (3.3)和 (3.4) 为对称正定矩阵A的 Cholesky 分解，下面据这两种分解式来讨论方程组 AX b 的计算方法，从分解式 (3.4) 出发而得到的计算方法 称为平方根法； 从分解式 (3.3) 出发而得到的计 算方法称为LDLT分解法（改进的平方根法）， 这两 种方法统称为Cholesky 分解法 。
解
得
解
1 0 0 z1 1 0 2 0 z 0 , 2 0 0 3 z 3 3
得
z1 1 z 0, 2 z 1 3
矩阵的三角分解法
... ... ... ... ...
0 ... 0
... 0
a1(1) n ( a22 ) n ( a33) U n ... (n ann) 1
因为 1 l 1 L11 21 ... ln1 ... ... 1 1 1 L1 l32 2 ... ln 2
Doolittle分解
第k步时：计算u kk , u kk 1 ,...u kn jk u1 j u 2j k 1 akj [lk1lk 2 ...lkk 110 ... 0] u jj lkt utj u kj 0 t 1 0 有 u kj akj lkt utj （j k , k 1,...n）
u11 2，u12 5，u13 6； 4 6 l21 2，l31 3。 u11 2
例题
k 2时：u 22 a22 l21u12 13 2 5 3， u 23 a23 l21u13 19 2 (6) 7 l32 (a32 l31u12 ) / u 22 4 k 3时：u33 a33 l31u13 l32u 23 4 1 2 5 6 2 1 3 7 LU 所以A 3 4 1 4
Doolittle分解
若矩阵A有分解：A=LU，其中L为单位下
三角阵，U为上三角阵，则称该分解为
Doolittle分解，可以证明，当A的各阶顺
序主子式均不为零时，Doolittle分解可以 实现并且唯一。
A的各阶顺序主子式均不为零，即
a11 ... a1k Ak ... ... ... 0 (k 1,2,...n) ak1 ... akk