第五章--矩阵分解复习过程
矩阵论之矩阵的分解

矩阵的分解一、矩阵的三角分解 定义 3.1 设.n nA F⨯∈(1) 若,n n L U F ⨯∈分别为下三角矩阵和上三角矩阵,,A LU =则称A 可作LU 分解。
(2) 若,n n L U F ⨯∈分别是对角线元素为1的下三角矩阵和上三角矩阵,D 为对角矩阵。
,A LDU = 则称A 可作LDU 分解。
用Gauss 消去法,一个方阵总可以用行初等变换化为上三角矩阵,若只用第i 行乘以数k 加到第j 行(i j <)型初等变换就能把A 化为上三角矩阵U ,则有下三角形可逆矩阵,P 使,PA U =从而有LU 分解:1.A P U -=例1 设223477245A ⎡⎤⎢⎥=⎢⎥⎢⎥-⎣⎦,求A 的LU 分解和LDU 分解。
解 为求,P 对下面的矩阵做如下行初等变换:3223100223100()477010031210245001068101223100031210006521A I ⎡⎤⎡⎤⎢⎥⎢⎥=→-⎢⎥⎢⎥⎢⎥⎢⎥-⎣⎦⎣⎦⎡⎤⎢⎥→-⎢⎥⎢⎥-⎣⎦因此 100223210,031521006P PA ⎡⎤⎡⎤⎢⎥⎢⎥=-=⎢⎥⎢⎥⎢⎥⎢⎥-⎣⎦⎣⎦. 令1100223210,031121006L P U -⎡⎤⎡⎤⎢⎥⎢⎥===⎢⎥⎢⎥⎢⎥⎢⎥-⎣⎦⎣⎦则223031.006A L LU ⎡⎤⎢⎥==⎢⎥⎢⎥⎣⎦再利用初等变换,有31121002121030131216001A ⎡⎤⎢⎥⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥-⎢⎥⎣⎦⎣⎦⎢⎥⎢⎥⎣⎦就得到A LDU =其中 311210021210,3,0131216001L D U ⎡⎤⎢⎥⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥===⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥-⎢⎥⎣⎦⎣⎦⎢⎥⎢⎥⎣⎦一般来说,,LU LDU 分解一般不是惟一的。
下面讨论方阵的LU 和LDU 分解的 存在性和唯一性。
定理 3.1 设(),n nij n n A a F ⨯⨯=∈ 则A 有惟一LDU 分解A LDU =的充分必要条件是A 的顺序主子式1112121222012......0,1,2,...,;1,...............k k k k k kka a a a a a k n a a a ∆=≠=∆=其中 121,;1,2,...,...k k k n d d D d k n d -⎡⎤⎢⎥∆⎢⎥===⎢⎥∆⎢⎥⎣⎦证明:只证充分性:对A 的阶数n 进行归纳证明11111111,()(1)()(1)n A a a L DU ==== 所以定理对1n =成立,设定理对1n -成立,即 (1)(1)111()ij n n n n n A a L D U -⨯----== 则对,n 将A 分块成1n n Tnnn A A u a τ-⎡⎤=⎢⎥⎣⎦其中 121,12,1(,,...,),(,,...,),TTn n n n n n n n n n a a a u a a a τ--==设111100,1001n n n n n n T T n nn nn A L D V v u a l d τ----⎡⎤⎡⎤⎡⎤⎡⎤=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦⎣⎦ 比较两边,则有1111,n n n n A L D U ----= (3.1)11n n n n L D v τ--= (3.2)11T Tn n n n u l D U --= (3.3) 1T nn n n n n a l D v d -=+ (3.4)由归纳假设(3.1)式成立。
矩阵分解——精选推荐

矩阵分解矩阵分解矩阵分解是将矩阵拆解为数个矩阵的乘积,可分为三⾓分解、满秩分解、QR分解、Jordan分解和SVD(奇异值)分解等,常见的有三种.矩阵的三⾓分解、正交三⾓分解、满秩分解将矩阵分解为形式⽐较简单或性质⽐较熟悉的⼀些矩阵的乘积,这些分解式能够明显地反映出原矩阵的许多数值特征,如矩阵的秩、⾏列式、特征值及奇异值等. 另⼀⽅⾯, 构造分解式的⽅法和过程也能够为某些数值计算⽅法的建⽴提供了理论依据. 接下来就讨论⼀下矩阵的三⾓分解.1 矩阵的三⾓分解1.1 矩阵的三⾓分解基本概念与定理定义1.1[]5设m n∈和上三⾓矩L C?A C?∈,如果存在下三⾓矩阵m n阵n m∈, 使得A=LU, 则称A可作三⾓分解或LU分解.U C?定义1.2设A为对称正定矩阵, D为⾏列式不为零的任意对⾓矩阵,则T=成⽴:A A=, U为⼀个单位上三⾓矩阵, 且有A LDU1) 如果L是单位下三⾓矩阵, D是对⾓矩阵, U是单位上三⾓矩阵, 则称分解D=为LD U分解.A L U2) 如果L=LD是下三⾓矩阵, ⽽U是单位上三⾓矩阵, 则称三⾓分解A LUCrout分解;= 为克劳特()3) 如果U DU是单位下三⾓矩阵, U 为上三⾓矩阵, 则称三⾓=分解A LUDoolittle分解;= 为杜利特()U --=== , 称为不带平⽅根的乔累斯基()Cholesky 分解;5) 如果12L D L = , 12D U U= , 则1122A LD U LD D U LU=== , 由于T UL = , 则T A LL= , 称为带平⽅根的乔累斯基()Cholesky 分解. 定理 1.1 n阶⾮奇异矩阵A可作三⾓分解的充要条件是k 0A ≠()1,2,,1k n =- ,这⾥A k为A 的k 阶顺序主⼦阵, 以下同.证明必要性. 设⾮奇异矩阵A 有三⾓分解A L U=, 将其写成分块形式k12k122122212222A L 0U =A A 0U kA U L L这⾥A k ,k L 和k U 分别为A, L和U 的k 阶顺序主⼦阵. ⾸先由0⽽L 0k ≠,U 0k ≠; 因此A =L U0kkk ≠()1,2,,1k n =-.充分性. 对阶数n 作数学归纳法. 当n=1时, 1A =(11a )=(1)(11a ),结论成⽴. 设对n k =结论成⽴, 即k =k k A L U , 其中k L 和k U 分别是下三⾓矩阵和上三⾓矩阵. 若k 0A ≠,则由kA =L k k U 易知L k 和k U 可逆. 现证当1n k =+时结论也成⽴, 事实上-1k k k k1TT 1T 1-1k+1,1k 1,1k k k A c 0c A =10c kkk T kk k k k k L U L r a r U a r U L +--+++??= ? ?-.由归纳法原理知A 可作三⾓分解.定理 1.1 给出了⾮奇异矩阵可作三⾓分解的充要条件, 由于不满⾜定理1.1的条件, 所以它不能作三⾓分解. 但110000110011211011202A ?????????? ?===.上例表明对于奇异矩阵,它还能作三⾓分解未必要满⾜定理1.1的条件.⾸先指出,⼀个⽅阵的三⾓分解不是唯⼀的, 从上⾯定义来看,杜利特分解与克劳特分解就是两种不同的三⾓分解,其实,⽅阵的三⾓分解有⽆穷多, 这是因为如果D 是⾏列式不为零的任意对⾓矩阵, 有1()()A LU C D D U LU-== ,其中,LU 也分别是下、上三⾓矩阵, 从⽽A LU = 也使A 的⼀个三⾓分解. 因D 的任意性, 所以三⾓分解不唯⼀. 这就是A 的分解式不唯⼀性问题, 需规范化三⾓分解.定理 1.2 (LD U 基本定理)设A 为n 阶⽅阵,则A 可以唯⼀地分解为A =LD U(1.1)的充分必要条件是A 的前1n -个顺序主⼦式k 0A ≠()1,2,,1k n =- .其中L,U分别是单位下、上三⾓矩阵, D是对⾓矩阵D=diag ()12,,,n d d d ,1k k k A d A -=()1,2,,kn = , 01A =.证明充分性. 若k 0A ≠()1,2,,1k n =- , 则由定理1.1, 即实现⼀个杜利特分解A LU= , 其中L 为单位下三⾓矩阵, U 为上三⾓矩阵,记1112122==()()()()()()1111112122222n n n nn a a a a a a ??=()n A , 因为()u 0i ii ii a ≡≠()1,2,,1i n =- .下⾯分两种情况讨论:1) 若A ⾮奇异,由式(1)有n ?=()()() 121122n nn a a a =A ≠, 所以()n nn nna u =≠,这时令()()()()121122diag n nn D a a a = , 则() ()()1121122111,,,n nn D diag a a a -??= ?.LD D U LDU -=== (1.2)是A 的⼀个LD U 分解.2)若A 奇异,则()u 0i iiii a ≡=,此时令()()()12111221,1(,,,,0)n n n D diag a a a ---= ,()()()()121n-111221,1,,,n n n D diag a a a ---= , α=()1n1u,,,Tn u n - ,则10n T UU α-??≡ =1111110=DU 0001n n n n T T U D U D α------,因此不论哪种情况, 只要k0A ≠()1,2,,1k n =- , 总存在⼀个LD U分解式(1.1),1a kk k kk k A d A -==()1,2,,1kn =- ,01A =.均⾮奇异.若还存在另⼀个LD U 分解111A L D U =, 这⾥1L ,1D , 1U 也⾮奇异,于是有111L D U L D U =(1.3)上式两端左乘以11L -以及右乘以1U -和1D -, 得111111L L D U U D---=, (1.4)但式(1.4)左端是单位下三⾓矩阵, 右端是单位上三⾓矩阵, 所以都应该是单位阵, 因此1LL I-=,1111D U UDI--=,即1L L =,111--=. 由后⼀个等式类似地可得11U UI-=,11D D I-=,即有1U U=,1D D=.2) 若A 奇异, 则式(1.3)可写成分块形式1111100001000110001T T T T T L D U L D U ααββ= ? ? ? ? ? ???????????, 其中1L, 1L 是1n -阶单位下三⾓阵; U , 1U 是1n -阶上三⾓阵; D,1D 是1n -阶对⾓阵; α, 1α,β, 1β是1n -维列向量. 由此得出111111=D U D DUD ααββαββα???? ? ???, 其中1L, 1D , 1U 和L ,D, U均⾮奇异, 类似于前⾯的推理, 可得1L =L ,1D =D , 1U =U ,1=αα,T T1=ββ.必要性. 假定A 有⼀个唯⼀的LD U 分解, 写成分块的形式便是1111A 00=0101n n n n T T nn n x D L U ya d αβ----,(1.5)其中1n L -,1D n -, 1n U -, 1n A -分别是L,A的1n -阶顺序主⼦矩阵;x , y, α,β为1n -维列向量. 由式(1.5)有下⾯的矩阵⽅程:1111n n n n A L D U ----=, (1.6)11TTn n yD U β--=,(1.7)11n n x L D α--=, (1.8)1Tnn n na D d βα-=+. (1.9)否则, 若10n A -=, 则由式(1.6)有111110n n n n n A L D U D -----===.于是有1110n n n L D D ---==, 即11n n L D --奇异. 那么对于⾮其次线性⽅程组(1.8)有⽆穷多⾮零解, 不妨设有α', 使11n n L D x α--'=, ⽽α'=α.同理, 因11n n D U --奇异, ()1111TTT n n n n L D U D ----=也奇异,故有ββ'≠, 使11TTn n U D yβ--=, 或11TTn n D U yn nn n d a D βα-'''=-, 则有1111000101n n n n T T nn nA x D L U y a d αβ----'= ? ? ? ?'',这与A 的LD U 分解的唯⼀性⽭盾, 因此10n A -≠.考察1n -阶顺序主⼦矩阵1n A -由式(1.6)写成分块形式, 同样有2222n n n n A L D U ----=. 由于10n D -≠, 所以20n D -≠, 可得222220n n n n n A L D U D -----==≠, 从⽽20n A -≠. 依此类推可得0k A ≠()1,2,,1k n =- .综上所述, 定理证明完毕.推论 1[]3 设A 是n 阶⽅阵, 则A 可惟⼀进⾏杜利特分解的充分必要条件是A 的前1n -个顺序主⼦式11110k k k kka a A a a =≠,1,2,,1k n =- , 其中L 为单位上三⾓矩阵, 即有11121212223132121111n nnn n n n n u u u l u u l l A u l l l -=并且若A 为⾮奇异矩阵, 则充要条件可换为: A的各阶顺序主⼦式全不为零, 即:0k A ≠,1,2,,k n = .推论 2[]3 n 阶⽅阵A 可惟⼀地进⾏克劳特分解111212122212111n nn n nnl u u ll u A LUl l l==的充要条件为11110k k k kka a A a a =≠, 1,2,,1k n =- .若A 为奇异矩阵, 则0nn l =, 若A 为⾮奇异矩阵, 则充要条件也可换为0k A ≠, 1,2,,k n = .定理 1.3[]3 设A 为对称正定矩阵, 则A 可惟⼀地分解为T A LDL =, 其中L 为下三⾓矩阵, D 为对⾓矩阵, 且对⾓元素是L 对⾓线元素的倒数. 即2212n n nnl l l L l l l ?? ?=, 1122111nn l l D l ?? ? ? ? ?=. 其中11/j ijij ik jk kkk l a l l l -==-∑,1,2,,ni = , 1,2,,j i = .。
矩阵分解总结 -回复

矩阵分解总结-回复矩阵分解总结:1. 什么是矩阵分解矩阵分解是将一个矩阵拆解成若干个子矩阵的过程。
通过分解矩阵,我们可以更好地理解矩阵的性质和结构,从而简化矩阵的计算和应用过程。
常见的矩阵分解方法包括LU分解、QR分解、奇异值分解(SVD)和特征值分解等。
2. LU分解LU分解是将一个矩阵分解为下三角矩阵L和上三角矩阵U的乘积的过程。
LU分解的主要应用是求解线性方程组和矩阵的逆。
通过LU分解,我们可以将线性方程组的求解过程简化为两个方程组的求解,从而提高计算效率。
3. QR分解QR分解是将一个矩阵分解为正交矩阵Q和上三角矩阵R的乘积的过程。
QR分解的主要应用是求解最小二乘问题和计算矩阵的特征值。
通过QR分解,我们可以将最小二乘问题转化为最小化上三角矩阵R的问题,从而简化求解过程。
4. 奇异值分解(SVD)奇异值分解是将一个矩阵分解为三个矩阵的乘积的过程,即将矩阵A分解为U、Σ和V的乘积。
其中,U和V是正交矩阵,Σ是一个对角矩阵。
SVD 的主要应用是降维和推荐系统。
通过SVD,我们可以将高维矩阵降低到低维空间,从而简化计算和提高推荐系统的准确性。
5. 特征值分解特征值分解是将一个方阵分解为特征向量和特征值的乘积的过程。
特征值分解的主要应用是计算矩阵的幂和对角化。
通过特征值分解,我们可以将矩阵的幂运算简化为特征值的幂运算,从而提高计算效率和准确性。
总结:矩阵分解是一种将矩阵拆解为更简单结构的方法,可以简化矩阵的计算和应用过程。
不同的矩阵分解方法适用于不同的应用场景,如LU分解适用于线性方程组的求解,QR分解适用于最小二乘问题的求解,SVD适用于降维和推荐系统,特征值分解适用于幂运算和对角化。
矩阵分解在数学、工程、计算机科学等领域有着广泛的应用,对于提高计算效率和准确性起到了重要的作用。
线性代数中的矩阵分解方法

线性代数中的矩阵分解方法矩阵分解方法是线性代数中的关键概念之一,它通过将一个矩阵分解为多个简化的矩阵形式,从而简化计算和分析。
在本文中,我们将介绍线性代数中常见的矩阵分解方法,并讨论它们的应用和优势。
一、LU分解LU分解是将一个方阵分解为一个下三角矩阵L和一个上三角矩阵U的过程。
通过LU分解,我们可以方便地求解线性方程组,计算逆矩阵等操作。
LU分解的过程可以通过高斯消元法来实现,如下所示:[ A ] = [ L ] [ U ]其中,[ A ]是需要分解的方阵,[ L ]是下三角矩阵,[ U ]是上三角矩阵。
二、QR分解QR分解是将一个矩阵分解为一个正交矩阵Q和一个上三角矩阵R 的过程。
QR分解广泛应用于最小二乘拟合、信号处理和图像处理等领域。
QR分解的过程可以通过Gram-Schmidt正交化方法来实现,如下所示:[ A ] = [ Q ] [ R ]其中,[ A ]是需要分解的矩阵,[ Q ]是正交矩阵,[ R ]是上三角矩阵。
三、奇异值分解(SVD)奇异值分解是将一个矩阵分解为一个正交矩阵U、一个对角矩阵Σ和一个正交矩阵V的过程。
SVD广泛应用于图像压缩、降噪和数据降维等领域。
奇异值分解的过程可以通过特征值分解和奇异值分解算法来实现,如下所示:[ A ] = [ U ] [ Σ ] [ V ]^T其中,[ A ]是需要分解的矩阵,[ U ]是正交矩阵,[ Σ ]是对角矩阵,[ V ]是正交矩阵。
四、特征值分解特征值分解是将一个方阵分解为一个特征向量矩阵P和一个特征值对角矩阵D的过程。
特征值分解广泛应用于谱分析、动力系统和量子力学等领域。
特征值分解的过程可以通过求解特征值和特征向量来实现,如下所示:[ A ] = [ P ] [ D ] [ P ]^(-1)其中,[ A ]是需要分解的方阵,[ P ]是特征向量矩阵,[ D ]是特征值对角矩阵。
五、Cholesky分解Cholesky分解是将一个对称正定矩阵分解为一个下三角矩阵L和其转置矩阵的乘积的过程。
第五章 矩阵分解

, yn 即可(其实 y r 1 , 可以是任意数, 它们是自由变量)。那么
c1 / 1 c2 / 2 H V x cr / r 0 0 c1 / 1 c2 / 2 x V c r / r 0 0
设A是 m 矩阵, b是n维列向量,考虑如 n 下线性方程组
Ax b
在很多情形下,上述方程组没有解,
因此,我们计算其最小二乘解,即求x使 得 Ax 最小。 b2
设 A的奇异值分解为
0 r Vn A U , 0 0
其中U,V是酉矩阵。可以证明2-范数具
有酉不变性,因此
A , Q R
则称此分解为A的QR分解(或酉三角分解)。
n n 当A R 时称为 A的正交三角分解。
例 5.2.3
m n 定理5.2.3 设 A C ,则存在酉矩阵
m m 使得 QC
,其中 A QR
是 R C m n
阶梯型矩阵。
例 5.2.4
5.2.3 QR分解的应用
的解,通常只需迭代几步就可以得到很精确 Ax b
的解。
5.2 QR分解
QR分解在解决最小二乘问题,特征值的 计算等方面有十分重要的应用。
5.2.1 Householder变换 在平面解析几何中,将向量 x 映射为关
于 x 轴对称的向量 y 的变换称为关于 x 轴的
x (x1 , x 2,则 )T 镜像变换(见图5.2.1)。设
D diag(1 ,, n ), i 0(i 1,, n)
矩阵分解的方法和应用

矩阵分解的方法和应用在机器学习和数据分析领域,矩阵分解是一个常用的技术手段。
通过对数据矩阵进行分解,我们可以得到数据的潜在特征和规律,从而更好地理解和利用数据。
本文将介绍矩阵分解的常见方法和应用。
一、基本概念矩阵分解是指将一个矩阵表示为若干个小矩阵(或向量)的乘积的形式。
这些小矩阵一般是具有特定结构或意义的,例如对称矩阵、正定矩阵、特征矩阵等等。
矩阵分解可以应用到各种场景,例如数据降维、矩阵压缩、矩阵重构、协同过滤等等。
二、矩阵分解的方法常见的矩阵分解方法有以下几种:1. 奇异值分解(SVD)奇异值分解是一种基础的矩阵分解方法。
它将一个矩阵分解为三个小矩阵的乘积形式:$A=U\Sigma V^T$,其中$U$和$V$是正交矩阵,$\Sigma$是奇异值矩阵。
通过特征值分解可以得到奇异值矩阵,从而实现矩阵分解。
奇异值分解可以用来进行数据降维和矩阵重构。
例如,我们可以将一个高维度的数据矩阵分解为低维度的奇异向量,从而实现数据降维;或者我们可以使用奇异向量重构原始的矩阵,从而实现数据压缩。
2. QR分解QR分解是一种将矩阵分解为正交矩阵和上三角矩阵的方法。
具体来说,对于一个矩阵$A$,可以分解为$A=QR$,其中$Q$是正交矩阵,$R$是上三角矩阵。
QR分解可以应用到求解线性方程组、估计模型参数等领域。
3. 特征值分解(EVD)特征值分解是指将一个方阵分解为正交矩阵和对角矩阵的乘积形式。
具体来说,对于一个方阵$A$,可以分解为$A=V\LambdaV^{-1}$,其中$V$是正交矩阵,$\Lambda$是对角矩阵,对角线上的元素就是矩阵$A$的特征值。
特征值分解可以用于矩阵压缩和数据降维。
三、矩阵分解的应用1. 推荐系统推荐系统是一种常见的应用场景,它可以根据用户历史行为和兴趣,向用户推荐可能感兴趣的物品。
矩阵分解可以应用到推荐系统中,其基本思路是利用用户对物品的评分矩阵,对其进行分解,得到用户和物品的特征向量,然后通过计算余弦距离等方法,计算出用户和物品之间的相似度,从而推荐给用户可能感兴趣的物品。
线性代数矩阵运算与特征值分解重点复习

线性代数矩阵运算与特征值分解重点复习线性代数是数学中的一个重要分支,研究了向量空间和线性映射的结构、性质和运算法则。
在线性代数中,矩阵运算和特征值分解是两个重要的概念和技巧。
本文将以复习的形式来介绍线性代数中的矩阵运算和特征值分解。
一、矩阵运算1. 矩阵的定义和基本运算- 矩阵是由数域上的元素组成的一个长方形的数组。
- 矩阵的基本运算包括加法、减法、数乘和乘法等。
2. 矩阵的转置和共轭转置- 矩阵的转置是将矩阵的行与列对调得到的新矩阵。
- 对于复数矩阵,还可以进行共轭转置,即将矩阵中的元素取复共轭得到的新矩阵。
3. 矩阵的逆和行列式- 逆矩阵是对于方阵A,存在一个矩阵B,使得AB=BA=I,其中I 是单位矩阵。
- 行列式是一个标量,用于判断矩阵是否可逆。
二、特征值和特征向量1. 特征值和特征向量的定义- 对于一个矩阵A和一个非零向量v,如果存在一个标量λ,使得Av=λv,那么v就是A的一个特征向量,λ就是A的对应特征值。
2. 特征值和特征向量的性质- 特征值和特征向量具有以下性质:- A的特征值的个数等于A的阶数。
- 特征向量的长度可以归一化,使得其模长为1.- 如果v是A的特征向量,那么对于任意非零标量c,cv也是A的特征向量。
3. 特征值分解- 特征值分解是将一个可对角化的矩阵表示为特征值和特征向量的形式。
- 设A是一个n阶方阵,如果存在一个非奇异矩阵P,使得P^-1AP=D,其中D是一个对角矩阵,那么称D的对角元素为A的特征值,P的列向量为A的特征向量。
4. 特征值分解的应用- 特征值分解在多个领域和问题中有广泛的应用,如主成分分析、图像压缩、物理系统的模态分析等。
总结:线性代数中的矩阵运算和特征值分解是重要的概念和技巧。
矩阵运算包括基本运算、转置和共轭转置、逆和行列式等,而特征值和特征向量的概念则提供了解析矩阵性质和变换的重要工具。
特征值分解是一种重要的矩阵分解形式,可以用于研究和求解各种问题。
矩阵的分解分析复习进程

定理2.1.2设A为 n阶方阵,则 A可以惟一地分解为
ALDU
的充分必要条件是A的前n 1个顺序主子式 k0 (k 1 ,2 , ,n 1 ).其中 L,U 分别是单位下、上三角矩阵D, 是对角矩阵
D di(d 1 a ,d 2 ,g ,d n )
d k , k
k 1
k1,2,,n, 0 1.
0
3
5
3 5
0
4 5
则有
0 QST 1
0
4
5 0 3
5
3
054, 5
1 R0
0
1 5 0
1
2
1
且 AQR
谢 谢 老 师!
此课件下载可自行编辑修改,仅供参考! 感谢您的支持,我们努力做得更好!谢谢
2 1
5 0
0
4 2
5 1
0
0
1
2
7
1 2 ALDU54 5 0
0 1
2 5
0 0
1 2
10000005
0 1
5 0
0
0 0 1 0
00071000
2 5 1
0
0
4 5
2
1
0
0
5 2
1
0 4 1
例5
用初等反射矩阵求矩阵A
1
1
1
的
QR分解.
0 3 2
解:对A的第一列,构造初等反射矩阵如下:
A(2) 1
5 2 4 0
0
0
1
5 0
2 5 1
1
2
0 0 0 7
于是得到
1 0 0 0
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
若在计算过程 作中 行不 变换,则 Ei都 是 下 三 角E阵r ,E1也 是 下 三 角
阵,且LE= r E1 1也是下三角 . 阵
所 以 A = L U , L三-角下矩 阵 U梯-形阶矩 阵
矩阵L的求法: 只需将做初 换等 对变 应的乘子 在方阵对应的位置 得即 到可 L。
xˆ aˆ1 aˆ2
如此继续下去,可以证明,只要cond(A) 不是太大,序列 x ˆ,x ˆa ˆ1,x ˆa ˆ最1终a ˆ2,会收敛到 的解,A通x常b 只需迭代几步就可以得到很精确 的解。
5.2 QR分解
QR分解在解决最小二乘问题,特征值的 计算等方面有十分重要的应用。
5.2.1 Householder变换
r 11
x1
r12x 2 r22x 2
c1 c2
0 c 3
5.3 奇异值分解
5.3.1 奇异值分解 设A是 n的n非奇异矩阵,由于 AHA
是Hermite矩阵,则由Schur分解定理知 存在酉矩V阵Cn,n 使得VHAHA,VD 其中
D d(i 1 , a ,n ) g i, 0 ( i 1 , ,n )
矩阵的LU分解最常应用于求解线性方 程组 Ax,b首先我们作分解 P,A然L后U求解 方程组 ,求L解U过xP程b分两步进行:
(1)首先解线性方程组 Ly,P可b 得 y L.1Pb
(2) 接着计算原方程组的解 x ,U1即y 求解方程组 Ux。y
例 5.1.5 例 5.1.6 例 5.1.7
有些时候,线性方程组的系数矩阵不 变而右端项发生了变化,若此时已经得 到了系数矩阵LU的分解,则当右端项发 生变化时,只需求解两个三角方程组即 可( Ly,Pb Ux) y,而不必重新进行 Gauss消去,这样就可大大节省计算量。
e2
x
e1
x1
u e2
y
e1
x1
图(5.2.1 )
图(5.2.2)
定义5.2.1 设单位列向量 u,C称n 矩阵
HI2uuH
为Householder矩阵,称Householder 矩阵确定的线性变换为Householder 变 换。
为H若ouu不se是h单old位e向r矩量阵,,则对定应义的变H换I称 u为222 uuH Householder变换。
定理5.2.1 设 z是C单n 位列向量,则对 C 中n 的任意向量x,都存在Householder 矩阵使得Hxz,其中 ,x且2 为实xH数z 。
例 5.2.1 例 5.2.2
5.2.2 矩阵的QR分解
下面我们探讨如何利用Householder 变换将矩阵化为上三角矩阵。我们以n=3 的情形开始讨论 .
设
x1 y1 z1 A x2 y2 z2
x
3
y3
z
3
由例5.2.1知存在Householder矩阵H 1 使得
x 1 l 1
H1x2 0
x
3
0
其中
x 1
l1 x 2
x
3
2
此时
l1 v1 w1
H1A 0 v2 w2
0v3w3接下来可构造H使得若 a 1是 Ax的r精1 确解,则
A ( x ˆ a 1 ) A x ˆ A 1 b a r 1 r 1 b
即 xˆ 是a1 A的x精r1确解,从而达到改进解的 目的。当然很可能还存在误差,得到的是 ,
而不是aˆ 1 。此时设a 1
,r 解2 线b 性A 方x ˆ 程a ˆ1
组 ,得到 ,Ax将r2 的解改aˆ 2 进为 Axb。
定理5.1.1 设A是m的n矩阵,则存在置换 矩阵P使得
PALU
其中L是mm 单位下三角阵,U是 m 的阶n梯 形矩阵。
定义5.1.1 设A是 m 的n矩阵,如果A (或A的某个排列PA)可分解为AL(U或 PAL其U)中L是单位下三角阵,U是阶梯形矩 阵,则称此分解为A的Doolittle分解。
H
v v
2 3
l2 0
其中
l2
v v
2 3
令
H2
1 0
由H0矩阵分块乘法可知
l1 v1 w1 l1 v1 w1 H2H1AH20 v2 w20 l2 r2
0 v3 w3 0 0 r3
记
l1 R0
0
v1 l2 0
w1
, r2
r3
Q(H2H1)1
则 AQR
由于H1,H是2 酉矩阵,则 H1和1,HQ21都是 酉矩阵。
Householder变换将向量x映为关 于“与u垂直的子空间W{y(y,x) ”0}对称 的向量(见图5.2.3)
u
W
Hx
图 5.2.3
Householder矩阵具有如下的性质: (1) HH (HH是Hermit矩阵) (2) HHH(IH是酉矩阵) (3) H2 I (4) H1(HH是自逆矩阵) (5) deH t()1
如果A(或PA)可分解为AL(或U PALU) 其中L是下三角矩阵,U是非零对角元为1 的阶梯形矩阵 ,则此称分解为A的Crout 分解。
例 5.1.3
定理5.1.2 设A是 n的n正定矩阵,则存 在 n的n下三角阵L使得
ALLT
此分解称为矩阵A的Cholesky分解。
例 5.1.4
5.1.2 LU分解的应用
定理5.2.2 设 A,C则nn存在酉矩阵Q及上 三角矩阵R,使
AQR
定义5.2.2 设 A,C如nn果存在n阶酉矩阵Q 和n阶上三角矩阵R,使得 A,QR 则称此分解为A的QR分解(或酉三角分解)。 当 AR时nn称为A的正交三角分解。
例 5.2.3
定理5.2.3 设 AC,m则n 存在酉矩阵
在平面解析几何中,将向量x映射为关 于x轴对称的向量y的变换称为关于x轴的 镜像变换(见图5.2.1)。设x(x1,x2,)T则
y(x 1, x2)T 1 0 0 1 x x 1 2 (I2 e2 e2T )xH
其中 e2 (0,H,1)是T 正交矩阵,且detH=-1
x2
x2
QC使m得m
,A其Q中R 是 RCmn
阶梯型矩阵。
例 5.2.4
5.2.3 QR分解的应用
QR分解可用于求解线性方程组 Axb 的最小二乘解.
设 A QR 则 QRx b Q为正交矩阵, 即求Rx QTb的最小二乘解
例如R=r011 rr1222 cQTbcc12
0
0
c3
要求xi(i,1,2使) 得方程组