第七章__矩阵分解
矩阵分解及其应用
《线性代数与矩阵分析》课程小论文矩阵分解及其应用学生姓名：******专业：*******学号：*******指导教师：********2015年12月Little Paper about the Course of "Linear Algebra and MatrixAnalysis"Matrix Decomposition and its ApplicationCandidate:******Major:*********StudentID:******Supervisor:******12,2015中文摘要将特定类型的矩阵拆解为几个矩阵的乘机称为矩阵的分解。
本文主要介绍几种矩阵的分解方法，它们分别是矩阵的等价分解、三角分解、谱分解、奇异值分解和 Fitting 分解等。
矩阵的分解理论和方法是矩阵分析中重要的部分，在求解矩阵的特征值、解线性方程组以及实际工程中有着广泛的运用。
因此，本文将介绍矩阵等价分解、三角分解、奇异值分解的理论运用以及三角分解的工程运用。
关键词：等价分解,三角分解,奇异值分解,运用AbstractMany particular types of matrix are split into the product of a matrix of several matrices, which is called decomposition of matrix. In this paper, we introduce some methods of matrix decomposition, which are equivalent decomposition, triangular decomposition, spectral decomposition, singular value decomposition, Fitting decomposition and so on. The decomposition theory and method of matrix is an important part of matrix analysis, which is widely used in solving the characteristic value, solving linear equations and the practical engineering. In this paper, we will introduce the theory of matrix equivalence decomposition, triangular decomposition, singular value decomposition and the engineering application of triangular decomposition.Key words：Equivalent Decomposition, Triangular Decomposition, Singular Value Decomposition, Application目录中文摘要 (1)ABSTRACT (1)1 绪论 (1)2 矩阵分解的常用方法 (1)2.1矩阵的等价分解 (1)2.2矩阵的三角分解 (2)2.2.1 矩阵的三角分解 (2)2.2.2 矩阵的正三角分解 (2)2.3矩阵的谱分解 (5)2.3.1 单纯形矩阵的谱分解 (5)2.3.2 正规矩阵与酉对角化 (6)2.3.3 正规矩阵的谱分解 (6)2.4矩阵的奇异值分解 (7)2.4.1 矩阵的奇异值分解（SVD分解） (7)2.5矩阵的FITTING分解 (7)3矩阵分解的理论应用 (8)3.1矩阵等价分解的理论应用 (8)3.2矩阵三角分解的理论应用 (8)3.3矩阵奇异值分解的理论应用 (9)4 矩阵分解在递推系统辨识中的应用 (10)4.1递推系统辨识中的困难 (10)4.1.1 病态问题 (10)4.1.2 效率和计算量问题 (10)4.2QR分解的实现方法 (11)4.2.1 GIVENS变换 (13)4.3递推算法 (13)5 结论 (18)6 参考文献 (18)1 绪论矩阵的分解是将一个矩阵分解为较为简单的或具有某种特性的若干矩阵的乘积，这是矩阵理论及其应用中比较常见的方法。
矩阵分解——精选推荐
矩阵分解矩阵分解矩阵分解是将矩阵拆解为数个矩阵的乘积，可分为三⾓分解、满秩分解、QR分解、Jordan分解和SVD（奇异值）分解等，常见的有三种.矩阵的三⾓分解、正交三⾓分解、满秩分解将矩阵分解为形式⽐较简单或性质⽐较熟悉的⼀些矩阵的乘积,这些分解式能够明显地反映出原矩阵的许多数值特征,如矩阵的秩、⾏列式、特征值及奇异值等. 另⼀⽅⾯, 构造分解式的⽅法和过程也能够为某些数值计算⽅法的建⽴提供了理论依据. 接下来就讨论⼀下矩阵的三⾓分解.1 矩阵的三⾓分解1.1 矩阵的三⾓分解基本概念与定理定义1.1[]5设m n∈和上三⾓矩L C?A C?∈,如果存在下三⾓矩阵m n阵n m∈, 使得A=LU, 则称A可作三⾓分解或LU分解.U C?定义1.2设A为对称正定矩阵, D为⾏列式不为零的任意对⾓矩阵,则T=成⽴：A A=, U为⼀个单位上三⾓矩阵, 且有A LDU1) 如果L是单位下三⾓矩阵, D是对⾓矩阵, U是单位上三⾓矩阵, 则称分解D=为LD U分解.A L U2) 如果L=LD是下三⾓矩阵, ⽽U是单位上三⾓矩阵, 则称三⾓分解A LUCrout分解;= 为克劳特()3) 如果U DU是单位下三⾓矩阵, U 为上三⾓矩阵, 则称三⾓=分解A LUDoolittle分解;= 为杜利特()U --=== , 称为不带平⽅根的乔累斯基()Cholesky 分解;5) 如果12L D L = , 12D U U= , 则1122A LD U LD D U LU=== , 由于T UL = , 则T A LL= , 称为带平⽅根的乔累斯基()Cholesky 分解. 定理 1.1 n阶⾮奇异矩阵A可作三⾓分解的充要条件是k 0A ≠()1,2,,1k n =- ,这⾥A k为A 的k 阶顺序主⼦阵, 以下同.证明必要性. 设⾮奇异矩阵A 有三⾓分解A L U=, 将其写成分块形式k12k122122212222A L 0U =A A 0U kA U L L这⾥A k ,k L 和k U 分别为A, L和U 的k 阶顺序主⼦阵. ⾸先由0⽽L 0k ≠,U 0k ≠; 因此A =L U0kkk ≠()1,2,,1k n =-.充分性. 对阶数n 作数学归纳法. 当n=1时, 1A =（11a ）=（1）（11a ）,结论成⽴. 设对n k =结论成⽴, 即k =k k A L U , 其中k L 和k U 分别是下三⾓矩阵和上三⾓矩阵. 若k 0A ≠,则由kA =L k k U 易知L k 和k U 可逆. 现证当1n k =+时结论也成⽴, 事实上-1k k k k1TT 1T 1-1k+1,1k 1,1k k k A c 0c A =10c kkk T kk k k k k L U L r a r U a r U L +--+++??= ? ?-.由归纳法原理知A 可作三⾓分解.定理 1.1 给出了⾮奇异矩阵可作三⾓分解的充要条件, 由于不满⾜定理1.1的条件, 所以它不能作三⾓分解. 但110000110011211011202A ?????????? ?===.上例表明对于奇异矩阵,它还能作三⾓分解未必要满⾜定理1.1的条件.⾸先指出,⼀个⽅阵的三⾓分解不是唯⼀的, 从上⾯定义来看,杜利特分解与克劳特分解就是两种不同的三⾓分解,其实,⽅阵的三⾓分解有⽆穷多, 这是因为如果D 是⾏列式不为零的任意对⾓矩阵, 有1()()A LU C D D U LU-== ,其中,LU 也分别是下、上三⾓矩阵, 从⽽A LU = 也使A 的⼀个三⾓分解. 因D 的任意性, 所以三⾓分解不唯⼀. 这就是A 的分解式不唯⼀性问题, 需规范化三⾓分解.定理 1.2 （LD U 基本定理）设A 为n 阶⽅阵,则A 可以唯⼀地分解为A =LD U(1.1)的充分必要条件是A 的前1n -个顺序主⼦式k 0A ≠()1,2,,1k n =- .其中L,U分别是单位下、上三⾓矩阵, D是对⾓矩阵D=diag ()12,,,n d d d ,1k k k A d A -=()1,2,,kn = , 01A =.证明充分性. 若k 0A ≠()1,2,,1k n =- , 则由定理1.1, 即实现⼀个杜利特分解A LU= , 其中L 为单位下三⾓矩阵, U 为上三⾓矩阵,记1112122==()()()()()()1111112122222n n n nn a a a a a a ??=()n A , 因为()u 0i ii ii a ≡≠()1,2,,1i n =- .下⾯分两种情况讨论：1) 若A ⾮奇异,由式(1)有n ?=()()() 121122n nn a a a =A ≠, 所以()n nn nna u =≠,这时令()()()()121122diag n nn D a a a = , 则() ()()1121122111,,,n nn D diag a a a -??= ?.LD D U LDU -=== (1.2)是A 的⼀个LD U 分解.2)若A 奇异,则()u 0i iiii a ≡=,此时令()()()12111221,1(,,,,0)n n n D diag a a a ---= ,()()()()121n-111221,1,,,n n n D diag a a a ---= , α=()1n1u,,,Tn u n - ,则10n T UU α-??≡ =1111110=DU 0001n n n n T T U D U D α------,因此不论哪种情况, 只要k0A ≠()1,2,,1k n =- , 总存在⼀个LD U分解式(1.1),1a kk k kk k A d A -==()1,2,,1kn =- ,01A =.均⾮奇异.若还存在另⼀个LD U 分解111A L D U =, 这⾥1L ,1D , 1U 也⾮奇异,于是有111L D U L D U =(1.3)上式两端左乘以11L -以及右乘以1U -和1D -, 得111111L L D U U D---=, (1.4)但式(1.4)左端是单位下三⾓矩阵, 右端是单位上三⾓矩阵, 所以都应该是单位阵, 因此1LL I-=,1111D U UDI--=,即1L L =,111--=. 由后⼀个等式类似地可得11U UI-=,11D D I-=,即有1U U=,1D D=.2) 若A 奇异, 则式(1.3)可写成分块形式1111100001000110001T T T T T L D U L D U ααββ= ? ? ? ? ? ???????????, 其中1L, 1L 是1n -阶单位下三⾓阵; U , 1U 是1n -阶上三⾓阵; D,1D 是1n -阶对⾓阵; α, 1α,β, 1β是1n -维列向量. 由此得出111111=D U D DUD ααββαββα???? ? ???, 其中1L, 1D , 1U 和L ,D, U均⾮奇异, 类似于前⾯的推理, 可得1L =L ,1D =D , 1U =U ,1=αα,T T1=ββ.必要性. 假定A 有⼀个唯⼀的LD U 分解, 写成分块的形式便是1111A 00=0101n n n n T T nn n x D L U ya d αβ----,(1.5)其中1n L -,1D n -, 1n U -, 1n A -分别是L,A的1n -阶顺序主⼦矩阵;x , y, α,β为1n -维列向量. 由式(1.5)有下⾯的矩阵⽅程:1111n n n n A L D U ----=, (1.6)11TTn n yD U β--=,(1.7)11n n x L D α--=, (1.8)1Tnn n na D d βα-=+. (1.9)否则, 若10n A -=, 则由式(1.6)有111110n n n n n A L D U D -----===.于是有1110n n n L D D ---==, 即11n n L D --奇异. 那么对于⾮其次线性⽅程组(1.8)有⽆穷多⾮零解, 不妨设有α', 使11n n L D x α--'=, ⽽α'=α.同理, 因11n n D U --奇异, ()1111TTT n n n n L D U D ----=也奇异,故有ββ'≠, 使11TTn n U D yβ--=, 或11TTn n D U yn nn n d a D βα-'''=-, 则有1111000101n n n n T T nn nA x D L U y a d αβ----'= ? ? ? ?'',这与A 的LD U 分解的唯⼀性⽭盾, 因此10n A -≠.考察1n -阶顺序主⼦矩阵1n A -由式(1.6)写成分块形式, 同样有2222n n n n A L D U ----=. 由于10n D -≠, 所以20n D -≠, 可得222220n n n n n A L D U D -----==≠, 从⽽20n A -≠. 依此类推可得0k A ≠()1,2,,1k n =- .综上所述, 定理证明完毕.推论 1[]3 设A 是n 阶⽅阵, 则A 可惟⼀进⾏杜利特分解的充分必要条件是A 的前1n -个顺序主⼦式11110k k k kka a A a a =≠,1,2,,1k n =- , 其中L 为单位上三⾓矩阵, 即有11121212223132121111n nnn n n n n u u u l u u l l A u l l l -=并且若A 为⾮奇异矩阵, 则充要条件可换为: A的各阶顺序主⼦式全不为零, 即:0k A ≠,1,2,,k n = .推论 2[]3 n 阶⽅阵A 可惟⼀地进⾏克劳特分解111212122212111n nn n nnl u u ll u A LUl l l==的充要条件为11110k k k kka a A a a =≠, 1,2,,1k n =- .若A 为奇异矩阵, 则0nn l =, 若A 为⾮奇异矩阵, 则充要条件也可换为0k A ≠, 1,2,,k n = .定理 1.3[]3 设A 为对称正定矩阵, 则A 可惟⼀地分解为T A LDL =, 其中L 为下三⾓矩阵, D 为对⾓矩阵, 且对⾓元素是L 对⾓线元素的倒数. 即2212n n nnl l l L l l l ?? ?=, 1122111nn l l D l ?? ? ? ? ?=. 其中11/j ijij ik jk kkk l a l l l -==-∑,1,2,,ni = , 1,2,,j i = .。
矩阵的分解
§9. 矩阵的分解矩阵分解是将一个矩阵分解为比较简单的或具有某种特性的若干矩阵的和或乘积，这是矩阵理论及其应用中常见的方法。
由于矩阵的这些特殊的分解形式，一方面反映了原矩阵的某些数值特性，如矩阵的秩、特征值、奇异值等；另一方面矩阵分解方法与过程往往为某些有效的数值计算方法和理论分析提供了重要的依据，因而使其对分解矩阵的讨论和计算带来极大的方便，这在矩阵理论研究及其应用中都有非常重要的理论意义和应用价值。
这里我们主要研究矩阵的三角分解、谱分解、奇异值分解、满秩分解及特殊矩阵的分解等。
一、矩阵的三角分解——是矩阵的一种有效而应用广泛的分解法。
将一个矩阵分解为酉矩阵（或正交矩阵）与一个三角矩阵的乘积或者三角矩阵与三角矩阵的乘积，这对讨论矩阵的特征、性质与应用必将带来极大的方便。
首先我们从满秩方阵的三角分解入手，进而讨论任意矩阵的三角分解。
定义1 如果(1,2,,)ii a i n =均为正实数，()(,1,2,1;∈<=-ij a C R i j i n1,2,),=++j i i n 则上三角矩阵11121222000⎛⎫⎪ ⎪= ⎪⎪⎝⎭n n nn a a a a a R a 称为正线上三角复（实）矩阵，特别当1(1,2,,)ii a i n ==时，R 称为单位上三角复（实）矩阵。
定义2如果(1,2,,)ii a i n =均为正实数，()(,1,2,1;∈>=-ij a C R i j i n1,2,),=++j i i n 则下三角矩阵11212212000⎛⎫ ⎪ ⎪= ⎪⎪⎝⎭n n nn a a a L a a a称为正线下三角复（实）矩阵，特别当1(1,2,,)ii a i n ==时，L 称为单位下三角复（实）矩阵。
定理1设,⨯∈n nnA C 则A 可唯一地分解为 1=A U R其中1U 是酉矩阵，R 是正线上三角复矩阵；或者A 可唯一地分解为2=A LU其中2U 是酉矩阵，L 是正线下三角复矩阵。
矩阵论矩阵的分解
对称和反对矩称矩阵阵：A，T=A，则AT=A–A。可以分解为下列半正定矩阵的和。
A=v1v1H+v2v2H+…vkvkH
§3.2 Schur 分解和正规矩阵
已知：欧氏空间中的对称矩阵A可以正交
相似于对角形。
讨论：一般方阵A ，在什么条件下可以
酉相似于对角矩阵？
在内积空间中讨论问题，涉及：
空间 Cn、 Cnn， 酉矩阵U，UHU=I， U – 1=UH 酉相似： UHAU=J U–1 AU=J 相似关系
在内积空间中讨论问题，涉及：
Hermite 矩阵的谱分解 矩阵A可以相似对角化当且仅当矩阵A有谱分解
相似于对角形。
例题3 设A Rn n，AT=–A，证明
定理3 .6（P.73）设A是秩为k的半正定的Hermite 则A的谱={ 1， 2， ， s}。
74 ）对矩阵A Cn n，存在酉矩阵U和上三角矩阵T，使得
nn LU分解：A Fn n， 有下三角形矩阵L ，上三角形矩阵U ，使得A=LU。
2 Schur 分解和正规矩阵
推论：正规AC A有个标准正交的特征向 1 常见的矩阵标准形与分解
证明：源于Schmidt正交化方法（P.
nn
量构成空间C 的标准正交基。 UHAU=T=
n
矩阵化简的方法与矩阵技术
定理3.11（P.80 ）（正规矩阵的谱分解） 1 常见的矩阵标准形与分解
方阵的LU和LDV分解（P.61）
LU分解：AFnn， 有下三角形矩阵L ，上 三角形矩阵U ，使得A=LU。
LDV分解：AFnn， L、V分别是主对角线 元素为1的下三角形和上三角形矩阵，D为 对角矩阵，使得A=LDV。
已知的方法：Gauss-消元法
矩阵分析与计算--05-矩阵分解-02-Schur、SVD
1
酉矩阵： U U
H
1
U 为酉矩阵 U的列(行)向量为C n的标准正交基
任意复方阵都可以酉相 似于一个上三角矩阵
U AU R=+N
H
定理证明：对n作数学归纳法
当n =1，结论显然成立。 假设结论对n-1的矩阵成立，下面考虑A为n方阵 取矩阵A的一个特征值为 1 ，设其对应的单位特 征向量为 1 ，则有
2.概念：酉相抵
1. 酉相抵：
酉
F 上的m n矩阵A与B称为酉相抵，如果有m阶 和n阶酉方阵U 和V , 使UAV B, 记为A B
酉相抵关系是一种等价关系！也称为“酉等价”
酉相抵标准型定理：
酉相抵标准型定理
定理3
设A F mn ,rankA = r ,记
2 specAH A 12 , 2 ,
i Ai
T i
Ai 为A的 投影阵
单纯矩阵的 谱分解
三、矩阵的奇异值分解
Singular value decomposition
(SVD)
1.概述
前面介绍的Jordan分解、Schur分解、谱分解 只适用于方阵。 对角矩阵比上三角矩阵更容易计算 奇异值分解把矩阵分解称为酉矩阵与对角矩阵 的乘积 奇异值分解基本适用于内积空间中与矩阵秩相 关的问题 A的奇异值分解依赖于正规矩阵A HA的酉相似 分解的。
Matrix Analysis and Computations
矩 阵 分 析 与 计 算 ——矩阵分解（二）
Matrix Decomposition 理学院 2011年10月
本讲主要内容 Schur分解、谱分解与奇异值分解
复数矩阵分解的拆解思路（矩阵求逆特征值分解）
复数矩阵分解的拆解思路（矩阵求逆特征值分解）作者：桂。
时间：2017-10-26 07:11:02前⾔主要记录特征值分解的硬件实现思路。
⼀、实数矩阵转化在FPGA运算中，对实数运算通常优于对复数运算。
假设C为复数矩阵：C= A+iB;且C = C H从⽽A = A T;B = -B T；若C的奇异值所对应的奇异向量为u + iv，且满⾜：对应有：借助矩阵形式表⽰：根据A、B的性质，存在：⼀个NxN的Hermitian矩阵分解，转化为2Nx2N的实对称矩阵分解。
⼆、Jacobi算法（Givens旋转）对于对称矩阵：其中Givens参数：该公式可进⼀步转化：tan(2theta)=2a ij/(a jj−a ii);theta可以借助求解。
此处可以借助Cordic求解⾓度，也可以利⽤CORDIC求根号的思路进⾏sin、cos的计算：aii= 1;ajj = 3;aij = 1.2;tan_2 = (2*aij/(ajj-aii));theta = 1/2*atan(tan_2);tao = 1/tan_2;t = sign(tao)/(abs(tao)+sqrt(1+tao.^2));cos_1 = 1/sqrt(1+t^2)cos_1_new = cos(theta)sin_1 = t/sqrt(1+t^2)sin_1_new = sin(theta)使⽤Givens旋转左乘A，可以得到对⾓阵，右乘同样可以得出。
只使⽤左乘\右乘的Givens旋转称为单边Givens旋转。
与之不同，对nxn对称矩阵A同时采⽤左乘、右乘的⽅法，称为双边Givens旋转。
具体代码实现，参见：印象笔记-005常⽤算法-0020Jacobi算法。
借助之前，矩阵求逆的硬件实现，也可以在此基础上直接实现。
(此处实对称矩阵，利⽤：特征向量x特征值取反x特征向量转置，即完成矩阵求逆)clc;clear all;x = rand(4,100)*20+1i*rand(4,100)*20;R = x*x'/100;A = real(R);B = imag(R);R_cat = [A -B;B A];[D,V]=Jacobi(R_cat);% V = V';U_est = V(1:4,1:2:end)+1i*V(5:end,1:2:end);D0 = diag(D);D0 = 1./D0(1:2:end);R_inv = U_est*diag(D0)*U_est'三、并⾏拆解思路对于nxn的矩阵分解，⼀种思路是寻找矩阵所有⾮对⾓元素中绝对值较⼤者进⾏双边Jacobi变换，使得该⾮对⾓线元素变为0.接着进⾏第⼆次变换，直到收敛⾄精度要求，O（n2）复杂度。
矩阵分解_精品文档
矩阵分解在矩阵运算中，把矩阵分解成形式比较简单或具有其中一种特性的一些矩阵的乘积，在矩阵理论的研究和应用中，具有重要的意义。
一方面，矩阵分解能够明显反映出原矩阵的一些数值特征，如矩阵的秩、行列式、特征值及奇异值等，令一方面分解的方法与过程往往提供了一些有效地数值计算方法和理论分析根据。
常见的矩阵分解方法有：三角分解、QR分解、满秩分解、奇异值分解。
下面将主要从这四个方面进行分别介绍。
一、三角分解定义：设ACnnn，如果存在下三角矩阵LCnnn和上三角矩阵RCnnn，使得ALR（1）则成A可以作三角分解。
A可以作三角分解的充分必要条件是A的k阶顺序主子式。
kdetAk0(k1,2,n1)，而Ak为A的k阶顺序主子式（证明略）如果A可以分解成ALR，其中L是对角元素为1的下三角矩阵（称为单位下三角矩阵），R是上三角矩阵，则称之为A的Doolittle分解；L 是下三角矩阵，R为对角元素为1的上三角矩阵，则称之为A的Crout分解。
如果A可以分解为ALDR，其中L为单位下三角矩阵，D为对角矩阵，R为单位上三角矩阵，则称之为A的LDR分解。
设ACnnn，则A有唯一LDR分解的充分必要条件是k0(k1,2,,n1)。
此时对角矩阵Ddiag(d1,d2,,dn)的元素满足d11,dk证明从略。
假设ACnn是Hermite正定矩阵，则存在下三角矩阵GCnn，使得AGGH,则称之为A的Choleky分解。
综合分析：方阵的三角分解存在的充要条件是：A的k阶顺序主子式kdetAk0(k1,2,n1)，但是方阵的三角分解不是唯一的，比如A可以表示成ALR(LD)(D1R),其中，D为对角元素均不为0的对角矩阵。
为了规范化才有了Doolittle分解和Crout分解形式。
矩阵的LDR分解建立在普通LR分解的基础上。
而Choleky分解则是A为Hermite正定矩阵时的一种特殊形式。
二、QR分解定义：设ACnn，如果存在n阶酉矩阵Q和n阶上三角矩阵R，使得AQR（3）则称之为A的QR分解或酉-三角分解。
矩阵谱分解例题
矩阵谱分解例题矩阵谱分解（MatrixSpectralDecomposition，MSD）是一种常用的线性代数方法，可以将一个复杂的矩阵分解为若干子矩阵的乘积，其中每个子矩阵都具有特定的特性，使得它们之间存在明确的关系。
矩阵谱分解是一种无损压缩算法，用于将大型矩阵压缩到更小的空间，同时保留有用的结构和内容。
科学计算、图像处理、机器学习等领域，矩阵谱分解已经成为一种基本的技术手段。
本文旨在介绍矩阵谱分解的基本原理和例题，为读者提供一种理解矩阵谱分解的方法。
一、矩阵谱分解的基本原理矩阵谱分解的基本原理是将一个大的复杂的矩阵分解为若干小的矩阵的乘积，同时保留有用的结构和内容。
它通过分析一个矩阵的特征值（Eigenvalues）和特征向量（Eigenvectors），将矩阵分解为一系列子矩阵，每个子矩阵都可以通过特征值和特征向量来表示。
例如，原始矩阵A可以表示为A=EVV*，其中V是特征向量，E是特征值。
传统的矩阵谱分解算法包括以下三步：（1）计算矩阵A的特征值和特征向量；（2）将矩阵A的特征值和特征向量连接起来，得到一个新的矩阵S；（3）将矩阵S进行分解，得到一系列子矩阵，其中每个子矩阵都可以通过特征值和特征向量得到。
二、矩阵谱分解的例题下面将对矩阵谱分解的例题进行分析：例题1：有一个2阶矩阵A，其中A=$begin{bmatrix}3 & -1 2 & 4end{bmatrix}$将A分解为若干子矩阵的乘积。
首先，计算矩阵A的特征值和特征向量。
A的特征值为$lambda_1=5$，$lambda_2=1$，其特征向量为$vecv_1=(frac{1}{4},frac{3}{4})^T$，$vecv_2=(-frac{3}{4},frac{1}{4})^T$。
将特征值和特征向量连接起来，得到矩阵S，即$S=begin{bmatrix}5 & 0 0 & 1end{bmatrix}begin{bmatrix}frac{1}{4} & -frac{3}{4} frac{3}{4} & frac{1}{4} end{bmatrix}$最后，将矩阵S进行分解，得到$A=begin{bmatrix}5 & 0 0 & 1end{bmatrix}begin{bmatrix}frac{1}{4} & -frac{3}{4} frac{3}{4} & frac{1}{4} end{bmatrix}begin{bmatrix}3 & -1 2 & 4end{bmatrix}$综上，矩阵A可以分解为三个子矩阵的乘积，分别是：$A=begin{bmatrix}5 & 0 0 & 1end{bmatrix}begin{bmatrix}frac{1}{4} & -frac{3}{4} frac{3}{4} & frac{1}{4} end{bmatrix}begin{bmatrix}3 & -1 2 & 4end{bmatrix}$例题2：有一个4阶矩阵A，其中A=$begin{bmatrix}2 & -1 & 4 & 0 0 & -2 & 5 & 1 1 & -1 & 2 & 0 2 & -1 &3 & 4end{bmatrix}$将A分解为若干子矩阵的乘积。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1
1 || 1 ||2
(0.8, 0.4, 0.4, 0.2)T
2 2 (2,1 )1 (0.4, 0.8, 0.8,1.6)T
2
2 || 2 ||2
(0.2, 0.4, 0.4, 0.8)T
3 3 (3 , 1 )1 (3 , 2 ) 2 (0,1, 1, 0)T
3
3 || 3 ||2
因此 Q% 是列正交单位矩阵，且有
A Q%R
对列满秩的长方阵，Q%也可以是方阵。
定理4 （完全QR分解）设 n闯k (n k) 阶矩 阵 A 是列满秩阵，则必存在 k 阶非奇异上三
角矩阵 R 和 n 阶酉矩阵或正交矩阵 Q ，使
得矩阵 A 具有完全QR分解
得矩阵 A 具有约化QR分解
A Q%R
注意 A 的QR分解不是唯一的！！！
证明： 由题，对任意 x ，都有 Ax
因此 xH AH Ax ( Ax)H Ax 0
所以矩阵 A 是正定Hermite矩阵。从而存在唯
一的上三角矩阵 R ，使得
AH A RH R
令 Q% AR1 ，则 Q%HQ% RH RH RR1 I
R23
(
1 5
) R13
(1) R12
(3)
A
U
.
A
[ R23
(
1 5
)
R13
(1)
R12
(
3)]1U
[
R12
(
3)]1[
R13
(1)]1[
R23
(
1 5
)]1U
LU
R12
(3)
R13
(
1)
R23
(
1 5
)Q
1 0 0 1 2 1
3
1 0 0 5
3
1 1/ 5 1 0 0 12 / 5
一、再谈Gram-Schmidt方法
可逆阵 A 的列向量组 1,2,L ,n 构成欧氏空 间 R( A) 的一个基。而 Gram-Schmidt方法实 际上就是寻找正交向量序列 1, 2,L , j ，使得
span(1,2,L , j ) span(1,2,L , j )
即有
(1,2 ,L
,n ) (1,2,L
L
L11
2 3 1 3
1
1 2
0
1
所以 PA LU
1
2 3 1 3
0 1
1 2
0 3 0 0
1 0
5
2 3
0
6
1
1 2
需要指出的是，在Matlab中使用函数lu计算例 4和例7，例7的结果一致，但例4的结果不同。 这是因为， Matlab中lu函数的实现算法是列 选主元法，而前面例4的算法则未选主元。
§1、矩阵的LU分解
许多分解源自十九世纪对二次型和双线性型的 研究。LU分解源自Gauss处理表示最小二乘问 题的对称正定系统时所使用的消元法，确切地 说，Grass使用的是分解 A LDL T 。 对于双线 性型，则归功于Jacobi（1857）。Dwyer（1944） 最早注意到消元法与其矩阵表示间的联系。
0 1
12 5
x3
4 5
x1
2 x2
x2
1 3 0
x3
1 3
(2)
x1 x2
1 3 0
x3 1 3
(II )
用矩阵形式表示，系数矩阵
1 2 1 r12 (3) 1 2 1
A
3
1
0
0 5
3
1 1 2 r13 (1) 0 1 3
r23
(
1 5
)
1 2 1
0 5
3
U
0 0 12 / 5
角矩阵 L 与一个上三角矩阵 U 的乘积
A LU
则称其为 A 的 LU 分解或三角分解。
什么样的矩阵才有LU 分解呢？我们先考虑可逆 方阵。
设有 A = LU ，则 0 ? det A det L?detU detU 将 A = LU 分块为
A11
A21
A12 A22
L11 L21
O U11
L1
3
1 0 ,U 0 5
3
2 / 5 1 / 5 1 0 0 12 / 5
因为
1 0 0
L
L11
3
1 0
1 1 / 5 1
所以 A LU
1 0 0 1 2 1
3
1 0 0 5
3
1 1 / 5 1 0 0 12 / 5
推论5 ( LDU分解定理 )
如果方阵 A 的顺序主子式
Δk ? 0 (k 1, 2,L , n)
这就是Gauss提出消元法100多年后才被Dwyer 注意到的 LU 分解：
A LU
据此，有
Ax LUx L(Ux) b
因此可通过求解两个特殊的三角方程组
Ly b,Ux y 来求解线性方程组 Ax b ，这就是数值软
件中采用的方法。
二、矩阵的LU分解(Decomposition)
定义2 如果方阵 A 可以分解成一个单位下三
rj
j
可用矩阵表示为
Aj Qj Rj ( j 1, 2,L , n)
这说明列满秩的长方阵也存在QR分解。
例 1 利用Gram-Schmidt方法将下列矩阵进行 QR分解：
4 2 1
A
2
0
1
2 0 1
1
2
1
解： 1 (4, 2, 2,1)T , 1 1 (4, 2, 2,1)T
在标准Gram-Schmidt方法中，1,2,L , n 是逐 步计算出来的，需要计算 j 时，才用到 j ，
此前不需要改动 j 的值。遗憾的是Gram-
Schmidt迭代方法在数值上是不稳定的。
幸运的是，一个简单修正就可以使问题得到改进， 这就是Modified Gram-Schmidt（MGS）方法。
一、从Gauss消元法说起
例 1 求解线性方程组
x1 2 x2 3 x1 x2
x3
0 1
(I)
x1 x2 2x3 1
解：
(I ) (3) 1
x1 2 x2 x3 5x2 3x3
0 1
x2 3x3 1
1 5
(
5 12
)
3 5
x1 2x2 x3 5x2 3x3
L22
O
U12
U22
L11U11
L21U11
L11U12
L21U12
L22U22
因此
det A11 det( L11U11 )
det L11 det U11
1 det U11 det U11 0
考虑到分块矩阵 A 1 1 阶数的任意性，因此上 述结论对矩阵 A 的任意顺序主子式都成立。
则存在唯一的单位下三角矩阵 L 、唯一的单位
上三角矩阵U 以及对角矩阵 D ，使得
A LDU
当矩阵 A 仅为可逆方阵时，我们可以先通过排 列矩阵对 A 的行进行重排，然后就可以使用LU
分解了。 定理6 (列主元LU分解定理 )
对可逆方阵 A ，存在排列矩阵 P ，单位下三 角矩阵 L 与上三角矩阵 U ，使得
么矩阵 L 可逆，即存在可逆矩阵 L1 ，使得 L1 L I
从而 L1 A L1LU U
L1( A, I ) ( L1 A, L1 ) (U , L1 )
这说明，通过行初等变换求出 U 和 L1 后，就
可求出单位下三角阵 L1 的逆矩阵 L 。
例 4 求下列矩阵的LU 分解：
1 2 1
对于任意方阵，甚至长方阵，也有类似结论。例
如对长方阵
1 2
A
3
4
5 6
存在列主元LU分解
0 0 1 1 2 1 0
1
0
0 1
0
3
0 5
4
0.2
6 0.6
1
0.5
5 0
6
0.8
例 8 验证分块矩阵的LDU 分解（即Schur补）：
(1) 主子矩阵 A 可逆时，成立
A
3
1
0
1 1 2
解：
1 2 1 1 0 0
( A,
I)
3
1
0 0 1 0
1 1 2 0 0 1
1 2 1 1 0 0 0 5 3 3 1 0 0 1 3 1 0 1
1 2 1 1 0 0
0 5
3
3 1 0
0 0 12 / 5 2 / 5 1 / 5 1
从而得 L1 A U , 这里
1 0 0 1 2 1
那么，这个结论是否也是充分的呢？
定理3 ( LU分解定理 )
如果方阵 A 的各阶顺序主子式
Δk ? 0 (k 1, 2,L , n)
则存在唯一的主对角线上元素全为1的下三角矩
阵（称为单位下三角矩阵） L 与唯一的非奇异
上三角矩阵 U ，使得
A LU
根据 LU 定理，如果存在分解 A LU ，那
A B I OA O I
C
D
CA1
I
O
D
CA1B
O
(2) 右下角的子矩阵 D 可逆时，成立
A1B
I
A B I BD1 A BD1C O I O
C
D
O
I
O
D
D1C
I
定理9 ( Cholesky分解定理 )
如果Hermite阵 A 的顺序主子式
Δk ¹ 0 (k = 1, 2,L , n- 1)
则存在唯一的单位下三角矩阵 L 与唯一的实对