矩阵论矩阵分解精品

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
【关键字】方法、条件、问题、矛盾、有效、继续、充分、保持、提出、研究、位置、需要、
需求、作用、标准、反映、检验、分析、逐步、推广、满足、保证、解决、优化、方向、转
变、规范、不改变、规范化
第四章 矩阵分解
把矩阵分解为形式比较简单或具有某种特性的一些矩阵的乘积，在矩阵理论的研究与应 用中，都是十分重要的．因为这些分解式的特殊形式一方面能明显地反映出原矩阵的某些数 值特征，如矩阵的秩、行列式、特征值及奇异值等，另一方面分解的方法与过程往往提供了 某些有效的数值计算方法和理论分析根据．本章将介绍几种常用的矩阵分解形式．
§4．1 矩阵的三角分解 三角矩阵的计算，如求行列式、求逆矩阵、求解线性方程组等，都是很方便的，因此首 先研究是否可将矩阵分解成一些三角矩阵的乘积． 一、三角分解及其存在惟一性问题
定义 4.1 设 A Cnn ，如果存在下三角矩阵 L Cnn 和上三角矩阵 R Cnn ，使得
A=LR 则称 A 可以作三角分解．
关于三角分解的存在性有如下一些结论．
定理 4.1
设
A
C
nn n
，则
A
可以作三角分解的充分必要条件是
k
≠0
(k=1，2，…，n
－1)，其中 k det Ak 为 A 的 k 阶顺序主子式，而 Ak 为 A 的 k 阶顺序主子阵。
证 必要性．已知 A 可以作三角分解，即 A＝LR，其中 L＝ lij nn lij 0，i＜j ，
R rij nn rij 0，i＞j ．将 A，L 和 R 进行分块，得
这里 Ak ， Lk 和 Rk 分别是 A，L 和 R 的 k 阶顺序主子阵，且 Lk 和 Rk 分别是上三角矩阵
和下三角矩阵．由矩阵的分块乘法运算，得
由于
所以
＝ l11 lkkr11 rkk≠0 (k 1, 2, , n 1)
充分性．对阶数 n 用归纳法证明．当 n=1 时， A1 a11 1a11 ，结论成立．设对
n=k 结论成立，即 Ak Lk Rk ，其中 Lk 和 Rk 分别是上三角矩阵和下三角矩阵，且由 k det Ak det Lk det Rk≠0 知， Lk 与 Rk 均可逆．则当 n=k+1 时，有
其中 ck a1,k1 , , ak ,k1 T ，rkT ak1,1 , , ak1,k ．故由归纳假设知 A 可以作三角分解．
证毕
这个定理说明，并不是每个可逆矩阵都可以作三角分解．如矩阵
A

0 1
1
0

就不能作
三解分解．
定理 4.2
设
A
Cnn r
，且
A
的前
r
个顺序主子式不为零，即
k
≠0
(k=1，2，…，r)，
见 A 可以作三角分解．
证 由定理 4.1 知， Ar 可以作三角分解，即 Ar Lr Rr ，且 Lr 和 Rr 分别是可逆的上三
角矩阵和下三角矩阵．将矩阵 A 分块为
由于 rankAr ＝rankA=r，所以 A 的后 n－r 行可由前 r 行线性表示，即存在矩阵 B Cnrr ，
使得 A21 BAr ， A22 BA12 ，从而
即得到 A 的一种三角分解．
证毕
该定理的条件仅是充分的．如矩阵
A

0 1
0 2

的秩为
1，不满足定理的条件，但
1文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
等，都是 A 的三角分解． 需要指出的是，即使一个方阵的三角分解存在，它也不是惟一的．这是因为如果 A=LR
是 A 的一个三角分解，令 D 是对角元素都不为零的对角矩阵，则 A＝(LD) D1R LR ，
其中 L LD ， R D1R 也分别是下三角矩阵和上三角矩阵，即又得到了 A 的另一个三角
分解．为讨论惟一性问题，需规范化三角分解．
定义 4.2 设 ACnn ．如果 A 可分解成 A＝LR，其中 L 是对角元素为 1 的下三角矩阵
(称为单位下三角矩阵)，R 是上三角矩阵，则称之为 A 的 Doolittle 分解；如果 A 可分解为 A=LR，其中 L 是下三角矩阵，R 是对角元素为 1 的上三角矩阵(称为单位上三角矩阵)，则称 之为 A 的 Crout 分解；如果 A 可分解为 A=LDR，其中 L 是单位下三角矩阵，D 是对角矩阵， R 是单位上三角矩阵，则称之为 A 的 LDR 分解．
定理 4.3
设
A
Cnn n
，则
A
有惟一
LDR
分解的充分必要条件是
k
≠0(k=1，2，…，n
－1)．此时对角矩阵 D=diag( d1 ， d2 ，…， dn )的元素满足
证 由定理 4.1，A 可作三角分解 A=LR 的充分必要条件是 k ≠0(k=1，2，…，n－1)．记
DL diagl11,l22, ,lnn ， DR diagr11, r22, , rnn
由 L 和 R 可逆知 DL 与 DR 也可逆，从而
这是 A 的 LDR 分解． 再证惟一性．设 A 有两个 LDR 分解 于是
上式左边是单位下三角矩阵，右边是上三角矩阵，所以都应该是单位矩阵，即有
从而
又由 RR1 是单位上三角矩阵知 RR1 I , D1D I ，故
故 A 的 LDR 分解是惟一的． 将 A，L，D，R 进行分块，得
其中 Ak ， Lk ， Dk ， Rk 分别是 A，L，D，R 的 k 阶顺序主子阵．则有
根据
Ak Lk Dk Rk (k=1,2,…,n)
得
d11
1, dkk
k k 1
(k=2,3,…,n)
证毕
推论
设
A
Cnn n
．则
A
有惟一
Doolittle
分解或
Crout
分解的充分必要条件是
k
≠
0(k=1，2，…，n－1)．
上述定理 4.3 的结论可以适当放宽，即当 ACnn (不要求 A 可逆)时，A 有惟一 LDR 分
解的充分必要条件是 k ≠0(k=1，2，…，n－1)．证明略去．
二、三角分解的紧凑计算格式
现在阐述直接计算三角分解的方法，以下总假设
A
Cnn n
，且
A
可以作三角分解，即
A
的所有顺序主子式不为零．
由 A 的 Doolittle 分解 A=LR，得 于是
由上式可导出求 A 的 Doolittle 分解的紧凑计算格式为
具体计算时，可按下图所示一框一框地逐步进行．对同一框中的元素，rkk 必须在计算 lik
之前先算出，其余元素的计算先后没有影响．由算法公式可知，在计算出 rij 或 lij 后， aij 就
不再使用了，因此算出的 rij 或 lij 就可以放在 A 的相应元素的位置上．
图 4.1
2文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
与上面的推导类似，可以得到 Crout 分解的紧凑计算格式：
2 1 3
例 4.1
求矩阵
A＝

1
2
1

的
Doolittle
分解和
Crout
分解．
2 4 3
解 由 Doolittle 分解的紧凑计算格式得
r11 a11 2 ， r12 a12 1 ， r13 a13 3
l21
a21 r11
1 2
， l31
a31 r11
1
故 A 的 Doolittle 分解为
而由 Crout 分解的紧凑计算格式得
考虑 Hermite 正定矩阵的三角分解，有如下的结果．
定理 4.4 设 A Cnn 是 Hermite 正定矩阵，则存在下三角矩阵 G Cnn ，使得
称之为 A 的 Cholesky 分解．
证 由定理 1.27 知 k >0(k=1，2，…，n)，故 A 有惟一的 LDR 分解
A=LDR
根据 AH A 和 LDR 分解的惟一性得 R LH ，即
又由定理 4.3 知，对角矩阵 D=diag( d1 ， d2 ，…， dn )的对角元素 di >0(i=1，2，…，n)，于
是
A=Ldiag( d1 ， d2 ，…， dn )diag( d1 ， d2 ，…， dn ) LH
令
G=Ldiag( d1 ， d2 ，…， dn )
则 G 是下三角矩阵，且 A GGH ．
证毕
设 A
aij
，G
nn
gij
nn
gij 0，i＜j
，则由 A GGH (只比较下三角部分的元素)
得
从而得到求 Hermite 正定矩阵 A 的 Cholesky 分解的紧凑计算格式：
5 2 0
例 4.2
已知矩阵
A=

2
3
1 ，求 A 的 Cholesky 分解．
0 1 1
解 容易验证 A 是实对称正定矩阵．由 Cholesky 分解的紧凑计算格式得
故 A 的 Cholesky 分解为
如果线性方程组
Ax=b
的系数矩阵
A
Cnn n
，且
k
≠0(k=1，2，…，n－1)，则
A
可作
三角分解 A=LR．于是便得与 Ax=b 同解的、具有以三角矩阵为系数矩阵的两个线性方程组
Ly=b， Rx=y
由第一个方程组递推求得 y，再代入第二个方程组通过回代解出 x．
例 4.3 求解线性方程组 Ax=b，其中
解 例 4.1 已求得
由 Ly=b 递推求得
而由 Rx=y 通过回代求得
§4.2 矩阵的 QR 分解
矩阵的 QR 分解在解决最小二乘问题、特征值计算等方面，都是十分重要的．本节首先
介绍 Householder 矩阵和 Givens 矩阵，这也是在求矩阵的 QR 分解时用到的主要工具．
一、Householder 矩阵与 Givens 矩阵
定义 4.3 设 u Cn 是单位向量，即 uHu 1，称
3文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
为 Householder 矩阵或初等反射矩阵．由 Householder 矩阵 H 确定的 C n 上的线性变换 y=Hx
称为 Householder 变换或初等反射变换． Householder 矩阵具有下列性质．
定理 4.5 设 H Cnn 是 Householder 矩阵，则 (1) H H H (Hermite 矩阵)； (2) H HH I (酉矩阵)； (3) H 2 I (对合矩阵)；
(4) H 1 H (自逆矩阵)；
(5)

Ir O
O H

是
n+r
阶
Householder
矩阵；
(6)detH=－1．
证 只证(5)和(6)．由于 H 是 Householder 矩阵，所以存在 u Cn ，且 uHu 1，使得
H I 2uuH ．从而
其中
u

0 u

，由于
故

Ir O
O H

是
n+r
阶
Householder
矩阵．
因为
取行列式即得
证毕
Householde 矩阵的应用主要基于下述结果．
定理 4.6 设 z Cn 是单位向量，则对任意 x Cn ，存在 Householder 矩阵 H，使得
Hx=αz，其中 x ，且 xH z 为实数． 2 证 当 x=0 时，任取单位向量 u，则
当 x=αz≠0 时，取单位向量 u 满足 uHx 0 ，则有
当 x≠αz 时，取
u xz
(4.1)
x z
2
则有
x z x zH
Hx

I
2
xz 2 2

x
(4.2)
x
2
x
x
z H
z
H x
x
z
x
z
由于 代入式(4.2)得
证毕
推论 1 对任意 x Cn ，存在 Householder 矩阵 H I 2uuH ，使得 Hx e1，其中
x
，且
2
xHe1 为实数．
推论 2 对任意 x Rn ，存在 Householder 矩阵
H I 2uuT ( u Rn 且 uTu 1)
使得 Hx e1，其中
x
．
2
以上两推论的结果称为用 Householder 变换化向量 x 与 e1 共线(或同方向)．
4文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
例 4.4 用 Householder 变换化下列向量与 e1 共线：
（1） x 1, 2, 2T ；（2） x 2i,i, 2T
解 （1）取 x 3，计算 2
1 2 2
于是
H
I
2uu T
1 3

2 2
1 2
2

，使得
Hx
3e1
．
1
（2）由于
x 3，为使 2
x 2 3且 xHe1 2i 为实数，可取 α＝3i，于是
使 Hx 3ie1 ．
读者可分别取 α＝－3 和 α＝－3i 计算之．
以下在 R3 中说明将 Householder 矩阵称为初等反射矩阵的原因．
考虑法向量为单位向量 u 且过原点 O 的平面π(见图 4.2)．任取向量 x R3 ，将 x 分解
为
从而
x＝v+w (v∈π， w⊥π) 图 4.2
故
可见向量 x 经过 Householder 变换后，变成了以 u 为法向量的平面π的对称向量 x ，也即关
于平面π的反射向量 x ．
在平面解析几何中，任一向量 x 依顺时针方向旋转角度θ后变为向量 y(见图 4.3)，则显
然 x 与 y 有相等的长度，且在给定的直角坐标系下，如果 x 的坐标为(1 ，2 )，y 的坐标为
(1 ，2 )，则它们满足
称 T 为平面旋转矩阵．显然它是正交矩阵，且 detT=1．推广到 Cn 上，有
图 4.3
定义 4.4 设 c，s Cn ，且满足 c 2 s 2 1，称 n 阶方阵
(4.3)
为 Givens 矩阵或初等旋转矩阵．由 Givens 矩阵Tpq 确定的 Cn 上的线性变换 y Tpq x 称为
5文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
Givens 变换或初等旋转变换．
容易验证，当 c 2 s 2 1时，存在实数 α，β，θ，使得 c ei cos ，s ei sin ．特
别地，当 c，s 为实数且 c2 s2 1时，存在实数 θ，使得 c=cosθ，s=sinθ，此时Tpq 可以解
释为 Rn 上由 e p 和 eq 构成的平面旋转矩阵． 由定义可直接得到 Givens 矩阵的有关性质：Givens 矩阵Tpq 是酉矩阵，且 det Tpq 1 ．
Givens 矩阵的应用主要基于下述定理和推论．
定理 4.7 对任意义 x 1,2, ,n T Cn ，存在 Givens 矩阵Tpq ，使得Tpq x 的等 q
个分量为零，第 p 个分量为非负实数，其余分量不变．
证 设 1,2, ,n T Tpq x ，其中Tpq 如式(4.3)，则有 当 p 2 q 2 0 时，取 c=1，s=0．则Tpq I ，此时 p q 0 ，k k k≠p, q ，结
论成立．
当 p 2 q 2 ≠0 时，取
c
p
，s
q
2
2
p q
2
2
p q
(4.4)
则
推论 设 x 1,2, ,n T Cn ．则存在 Givens 矩阵T12 ， T13 ，…，T1n ，使得
称之为用 Givens 变换化向量 x 与 e1 同方向．
证 由定理 4.7，存在 Givens 矩阵T12 ，使得
对 T12 x ，又存在 Givens 矩阵T13 ，使得
如此继续下去，最后得
T
T1n
T13T12 x
n
k 2 , 0,
k 1
, 0 x 2 e1
证毕
例 4.5 用 Givens 变换化下列向量与 e1 同方向：
(1) x 1, 2, 2T ； (2) x 2i,i, 2T ．
解
(1)取 c1
1 5
， s1
2 ，则 5
5
使得T12 x

0 ．又取 c2
2

5 3
，
s2
2 3
则
3
使得
T
T 13 12
x

0

3e1
．
0
(2)取 c1
2i 5
， s1
i ，则 5
6文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
5
使得T12 x

0 ．又取 c2
2

5 3
，
s2
2 3
，则
3
使得 T13T12
x

0

3e1
．
0
二、矩阵的 QR 分解
定义 4.5 设 A Cnn ．如果存在 n 阶酉矩阵 Q 和 n 阶上三角矩阵 R，使得
A=QR (4.5)
则称之为 A 的 QR 分解或酉-三角分解．当 A Rnn 时，称式(4．5)为 A 的正交-三角分解．
定理 4.8 任意 A Cnn 都可以作 QR 分解．
证法 1 将矩阵 A 按列分块为 A a1, a2, , an ，由定理 4．6 知，存在 n 阶 Householder
矩阵 H1 ，使得 H1a1 a1e1 ，于是
其中 Bn1 Cn1n1 ．再将 Bn1 按列分块为 Bn1 b2, ,bn ，则存在 n－1 阶 Householder 矩阵 H 2 ，使得 H2b2 2e1 ，这里 e1 1, 0, , 0 T Cn1 ．记
则 H2 是 n 阶 Houscholder 矩阵，且有 其中 Cn2 Cn2n2 ．继续这一步骤，在第 n－1 步得
其中 Hk k 1, 2, , n 1 都是 n 阶 Houscholder 矩阵．注意到 Hk 均是自逆矩阵，则有
这里 Q H1H2 Hn1 是酉矩阵，R 是上三角矩阵．
法 2 将矩阵 A 按列分块 A＝ a1, a2, , an ，由定理 4.7 的推论知，存在 n 阶 Givens
矩阵 T12 ，…， T1n ，使得
于是
对于其第 2 列，又存在 n 阶 Givens 矩阵T23 ，…，T2n ，使得
从而
其中 ck Cn2 （k=3，…，n）．如此进行下去，最后得
于是
其中 Q T1H2
T1Hn T2H3
T2Hn
TH n1,n
是酉矩阵，R
是上三角矩阵．
证毕
该定理的证明过程给出了用 Householder 变换和 Givens 变换求矩阵 QR 分解的方法． 当 A 是可逆矩阵时，有如下的结论．
定理 4.9
设
A
Cnn n
．则
A
可惟一地分解为
A=QR
其中
Q
是
n
阶酉矩阵，
R
C
nn n
是具有正对角元的上三角矩阵．
证 将矩阵 A 按列分块为 A a1, a2, , an ．由于 A 可逆，所以 a1 ，
a2 ，…， an 线性无关．用 Schmidt 正交化方法将其正交化：
其中 ij
ai , p j pj, pj
．再将
pk
(k=1，2，…，n)单位化得
则有
故
7文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
其中 Q q1, q2, , qn 是酉矩阵，R 是具有正对角元的上三角矩阵．
再证惟一性．设 A 有两个 QR 分解
其中 Q， Q1 是酉矩阵，R， R1 是具有正对角元的上三角矩阵．于是 式中 D R1R1 仍是具有正对角元的上三角矩阵．由于
I QHQ Q1DH Q1D DHD (4.6)
即 D 还是酉矩阵，所以 D 是单位矩阵(请读者证明之)，故
Q Q1D Q1 ， R1 DR R
即这种 QR 分解是惟一的． 证毕
在定理 4.9 中，如果不要求上三角矩阵 R 具有正对角元，则矩阵 A 的不同 QR 分解仅在
于酉矩阵 Q 的列和上三角矩阵 R 的对应行相差模为 1 的因子．这是因为 D R1R1 只保证
是可逆的上三角矩阵，又由式(4.6)知 D 是酉矩阵，从而 D 是对角元素的模为 1 的对角矩阵．于 是
Q1 QD1 ， R1 DR
可见 Q1 与 Q 的列，且 R1 与 R 的对应行相差模为 1 的因子．
定理 4.9 的推证过程，给出了用 Schmidt 正交化方法求可逆矩阵 QR 分解的方法．
0 3 1
例 4.6
已知矩阵
A

0
4
2

，求
A
的
QR
分解．
2 1 2
解法 1 利用 Householder 变换．
因为 a1 0, 0, 2T ，取1 a1 2 2 ，作单位向量
于是
0 0 1
2 1 2
H1
I
2u1u1T

0
1
0

，
H1
A

0
4
2

1 0 0
0 3 1
又因 b2 4,3T ，取2 b2 2 5，作单位向量
于是
H2
I
2u2u2T
14
5

3
3
4

，记
故 A 的 QR 分解为
法 2 利用 Givens 变换．
取 c1 0, s1 1 ，则
又取
c2
4 5
, s2
3 5
，则
故 A 的 QR 分解为
法 3 利用 Schmidt 正交化方法．
设 a1 0, 0, 2T ， a2 3, 4,1T ， a3 1, 2, 2T ，则 a1 ， a2 ， a3 线性无关．正交化
得
再单位化
p1
a1
0,0, 2T
，
p2
a2
1 2
p1
3, 4, 0T ，
8文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
q1
1 2
p1
0, 0,1T
， q2
1 5
p2

3, 5
4 5
T
,
0

于是
故 A 的 QR 分解为
QR
分解有许多应用，兹举一例说明之．对于线性方程组
Ax=b
来说，如果
A
C
nn n
，
则有
A=QR，其中
Q
是
n
阶酉矩阵，
R
C
nn n
是上三角矩阵．在
Ax=b
两边同时左乘
Q
H
，
则有 QH Ax QHb ，即 Rx QHb ．通过回代即可求出 x．又由于 QH 是一个酉矩阵，它左
乘任一向量都不改变其 2-范数，故可抑制计算过程中的误差积累．所以 QR 分解在数值计算 中是常用的工具之一
定理 4.9 还可以作如下的推广．
定理 4.10
设
A
Cmn n
，则
A
可惟一分解为
A＝QR
其中 Q
Cmn n
且满足 QHQ
I
，Q
Cnn n
是具有正对角元的上三角矩阵．
三、矩阵酉相似于 Hessenberg 矩阵
Schur 定理 1.22 表明 n 阶方阵 A 总可以酉相似于上三角矩阵 T，这一结论在矩阵理论中 起着重要的作用．但 Schur 定理的证明过程并未给出如何求酉矩阵和相应的上三角矩阵 T 的
方法，且由于 T 的对角元素就是 A 的特征值，要求出它是不容易的．现在考虑是否能使 n
阶方阵 A 酉相似于一个与上三角矩阵比较接近的矩阵?
定义 4.5 如果 A aij nn Cnn 的元素满足 aij 0 j＞i 1 ，即
则称 A 为上 Hessenberg 矩阵．如果 A 的元素满足 aij 0i＞j 1 ，则称 A 为下 Hessenberg
矩阵．如果 A 的元素满足 aij 0 i j ＞1 ，则称 A 为三对角矩阵．
定理 4.10 设 A Cnn ，则 A 可酉相似于上 Hessenberg 矩阵．
证 将矩阵 A 分块为
选择 n－1 阶 Householder 矩阵 H1 ，使得 H1a1 1e1 ，其中 e1 1,0, ,0 T Cn1 ．令
1 0T
H1

0
H1

，则
H1
是
n
阶
Householder
矩阵，且
其中 a2 ， b2 ， c2 Cn2 ， A2 Cn2n2 ．选择 n－2 阶 Householder 矩阵 H? 2 ，使得
H? 2a2 2e?1 ，其中 e?1 1,0,
, 0T
Cn2
，令
H2

I2 O
O H? 2 ，则 H2 是 n 阶 Householder
矩阵，且
其中 a3 ， b3 ， c3 ， d3 Cn3 ， A3 Cn3n3 ．继续这一过程共 n－2 步，即可得到上
Hessenberg 矩阵 H，即
令 Q H1H2 Hn2 ，则 Q 是酉矩阵，且 QH AQ H ．
证毕
该定理的证明过程给出了用 Householder 变换化矩阵酉相似于上 Hessenberg 矩阵的方
法．同样，用 Givens 变换也能完成这一过程，只需注意在化简时对矩阵左乘 Givens 矩阵后，
右边应相应乘上该矩阵的共轭转置(读者考虑其原因)．
推论 1 设 A Rnn ，则 A 可正交相似于实的上 Hessenberg 矩阵． 推论 2 设 A Cnn 是 Hermite 矩阵，则 A 可酉相似于三对角矩阵．
证 由定理 4.10，存在 n 阶酉矩阵 Q，使得
其中 H 是上 Hessenberg 矩阵．注意到 AH A ，于是
即 H 也是 Hermite 矩阵，故 H 是三对角矩阵．
9文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
推论 3 设 A Rnn 是对称矩阵，则 A 可正交相似于实的三对角矩阵．
例 4．7 化实对称矩阵 正交相似于三对角矩阵．
解法 1 利用 Householder 变换．
因为 a1 0, 0,1T ，取1 a1 2 1，计算
则
证毕
又因为 a2 3, 4T ，取2 a2 2 5，计算
则
1 0 0 0
故正交矩阵 Q
H1H 2
0
0
0 0
4 5 3
3

4
5

，使得
QT
AQ
H
．
5 5
0 1 0 0
法 2 利用 Givens 变换．
取 c1 0 ， s1 1，则
又取 c2
3 5 , s2
4 5
，则
1 0 0 0
0 0
4
3

故正交矩阵 Q
T2T4T3T4

0 0
5 3
4
5

，使得
QT
AQ
H
．
5 5
0 1 0 0
作为本节结论的应用，以下叙述计算一般方阵求全部特征值的 QR 方法，该方法由
J．G．F．Francis 于 1961 年首先提出，至今被认为是求全部特征值和特征向量的最有效方
法之一．
设 A Cnn ．记 A1 A ，求 A1 的 QR 分解 A1 Q1R1 ；记 A2 R1Q1 ，再求出 A2 的 QR
分解 A2 Q2R2 ；如此一直做下去，一般的迭代格式为
Ak Qk Rk ， Ak1 RkQk
(k=1，2，…)
其中 Qk 为酉矩阵， Rk 是上三角矩阵．这就是 QR 方法．可以证明，QR 方法生成的矩阵序
列{Ak } 中每一矩阵都与 A 酉相似，且在一定条件下，当 k→+∞时， Ak 将收敛于一个上三
角矩阵，此上三角矩阵的对角元素即为 A 的全部特征值．在 QR 方法中，每一步需要做一次
QR 分解和一次矩阵乘法，计算量较大，所以在实际计算时总是先将 A 经酉相似化为上
Hessenberg 矩阵 H，然后对 H 用 QR 方法计算，此时由 QR 方法生成的矩阵序列保持是上
Hessenberg 矩阵，但当 k→+∞时，其第 i+1 行、i 列元素趋于 0(i=1，2，…，n－1)．
§4.3 矩阵的满秩分解
本节论述将非零矩阵分解为一个列满秩矩阵和一个行满秩矩阵的乘积问题，这种分解在
广义逆矩阵的研究中是一个有力的工具．本节首先介绍矩阵的 Hermite 标准形，为后面的讨
论作些准备．
一、Hermite 标准形
在线性代数中已研究过等价矩阵的概念．
定义 4.6 设 A， B Cmn ．如果 A 经过有限次初等变换变成矩阵 B，则称矩阵 A 与 B
10文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
等价． 关于等价矩阵有如下结论(证明参见线性代数教材)．
定理 4.11 设 A， B Cmn ．则
(1)A 与 B 等价的充分必要条件是 rankA=rankB；
(2)A
与
B
等价的充分必要条件是，存在
S
Cmm m
和T
Cnn n
，使得
SAT=B
如果只对 A 作初等行变换，则有
定理 4.12
设
A
Cmn r
(r>0)，则
A
可通过初等行变换化为满足如下条件的矩阵
H：
(1)H 的前 r 行中每一行至少含一个非零元素，且第一个非零元素是 1，而后 m－r 行元
素均为 0；
(2)若 H 中第 i 行的第一个非零元素 1 位于第 ji 列(i=1，2，…，r)，则
j1 < j2 <…< jr
(3)H 的第 j1 ， j2 ，…， jr 列为 Im 的前 r 列．
即有
称
H
为
A
的
Hermite
标准形或行最简形．采用矩阵说法即为，存在
S
C
mm m
，使得
SA=H．
为了求出定理 4.12 中的变换矩阵 S，可采用下述方法：
构造 m×(m+n)矩阵(A， Im )，由
可见，对(A，Im )作初等行变换，当把其左边一半 A 化为 Hermite 标准形 H 时，右边一半 Im
就把 S 记录下来了．
定义 4.7 以 n 阶单位矩阵 I n 的 n 个列向量 e1 ， e2 ，…， en 为列构成的 n 阶方阵
称为 n 阶置换矩阵，这里 i1 ， i2 ，…， in 是 1，2，…，n 的一个全排列．
置换矩阵有如下一些性质(证明留给读者)．
定理 4.13 设 P ei1 , ei 2 , , ei n 是置换矩阵．则
(1)P 是正交矩阵；
(2)对任意 A Cmn ，AP 是将 A 的列按 i1 ， i2 ，…， in 的次序重新排列所得到的矩阵．
如果将 A 的 Hermite 标准形 H 的第 j1 ， j2 ，…， jr 列依次调换到前 r 列的位置，相当
于用置换矩阵 P=( e j1 ， e j 2 ，…， e j r ，…)右乘矩阵 H，则有
定理 4.14
设
A
Cmn r
(r>0)，则存在
S
Cmm m
和
n
阶置换矩阵
P，
使得
SAP

Ir O
K
O

K Crnr
(4.8)
如果对上面的矩阵再进行初等列变换，可得到 A 的等价标准形
定理 4.15
设
A
Cmn r
(r>0)，则存在
S
Cmm m
和T
Cnn n
，使得
SAT

Ir O
O
O

(4.9)
为求出定理 4.15 中的变换矩阵 S 和 T，可采用如下两种方法．
方法一
A,I
m
初等行变换
H
,S
， HIn

初等列变换



Ir O
T
O O



方法二 以化成
A
对矩阵

I
n
Im O

的前
m
行仅施行初等行变换，对前
n
列仅施行初等列变换，就可
11文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
从而记录到 S 和 T
2 4 1 1
例 4.8
已知矩阵 A 11
2 2
1 2
2 1

．
(1)求 A 的 Hermite 标准形 H 和所用的变换矩阵 S；
(2)求置换矩阵 P，化 A 为式(4.8)的形式；
(3)求 A 的等价标准形和所用的变换矩阵 S 和 T．
解 (1)因为
所以 A 的 Hermite 标准形 H 和所用的变换矩阵 S 为
1 2 0 1
1

3
1 3
0

H

0 0
0 0
1 0
01
,
S

1 3 1
2 3
1
0

1

(2)取 4 阶置换矩阵
(4.10)
则
(3)由
得变换矩阵
变换矩阵 S 同式(4.10)，使得
二、矩阵的满秩分解
定义 4.8
设
A
Cmn r
(r>0)，如果存在
F
Cmr r
和
G
Crn r
，使得
则称之为 A 的满秩分解．
A=FG
定理 4.16
设
A
Cmn r
(r>0)，则
A
的满秩分解总是存在的．
证 当 r=m 时， A Im A 是 A 的一个满秩分解；而当 r=n 时， A AIn 是 A 的一个满
秩分解．下设
04.15，存在
S
Cmm m
和
T
Cnn n
，使得
于是
其中
F
S 1
Ir O

Cmn r
，G
Ir
O
T
1
Crn r
．
该定理的证明过程即给出求满秩分解的一种方法．
证毕
2 4 例 4.9 求矩阵 A 1 2
1 2
1 1
1
2

的满秩分解．
2 1
解 例 4.8 已求出了 A 的等价标准形和所用的变换矩阵 S 和 T．可求得
取 S 1 的前 2 列，T 1 的前 2 行即得到 F 和 G，故 A 的满秩分解为
需要指出的是，矩阵 A 的满秩分解不是惟一的．这是因为任取 D Crrr ，
则
其中
F
FD
Cmr r
，G
D1G
Crn r
，又得到
A
的另一个满秩分解．
利用定理 4.16 所给出的方法求满秩分解的计算工作量较大．下面介绍较简便的一种方
法．
定理 4．17
设
A
Cmn r
(r>0)，且
A
的
Hermite
标准形
H
如式(4．7)．取
A
的第
j1,
j2 ,
, jr
列构成矩阵 F，又取 H 的前 r 行构成矩阵 G，则 A=FG 即为 A 的一个满秩分解．
12文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
证 取 n 阶置换矩阵 P=( e j1 ， e j 2 ，…， e j r ，…)，由 G 的取法知
GP= Ir , K
K Crnr
令 P1 ej1 , ej 2 , , ej r ，则有 GP1 Ir ．为确定矩阵 F 使得 A=FG，给其两边右乘矩阵 P1 ，
得
可见 F 由 A 的 j1 ， j2 ，…， jr 列构成．又由
r=rankA=rank(FG)≤rankF
知
F
Cmr r
．显然
G
Crn r
．
证毕
利用定理 4.17 所述方法求 A 的满秩分解时，需要首先求出 A 的 Hermite 标准形 H，但 并未用到变换矩阵 S，因此不需求之．
2 4 1 1
例 4.10
求矩阵
A

1 1
2 2
1 2
2 1

的满秩分解．
解 例 4.8 已求得
可见 j1 1 ， j2 3 ，故 A 的满秩分解为
利用矩阵的满秩分解处理一些矩阵问题时，有时会十分方便．
例 4.11
设
A
Cmn r
(r>0)．证明
A
可分解为
A=QD
其中 Q
Cmr r
且 QHQ
Ir
，
D
Crn r
．
证 作 A 的满秩分解
由定理 4.10 可将 F 分解为
F=QR
其中 Q
Cmr r
且 QHQ
Ir
，
R
Crr r
是具有正对角元的上三角矩阵．于是
A=QRG=QD
其中
D
RG
Crn r
．
§4.4 矩阵的奇异值分解
矩阵的等价标准型具有很简单的形式（见式 4.9），但他仅反映了矩阵的秩特性，如果
对变换矩阵 S 和 T 增加更多的限制，如要求 S 和 T 取为酉矩阵，则可以保留矩阵更多的特
性。
定义 4.9 设 A, B C m n .若存在 m 阶酉矩阵 U 和 n 阶酉矩阵 V，使得U H AV B ，
则称 A 与 B 酉等价。 矩阵的奇异值分解就是矩阵在酉等价下的一种标准形，他在优化问题，最小二乘方问题、
广义逆矩阵及统计学等方面都有重要的作用。
定义 4.10 A Crm n （r>0）, AH A 的特征值为
1
2
r
r1
n0
（4.11）
则称 i
i (i 1, 2, , n) 为 A 的奇异值。
由定理 1.26 知， rank(AH A) rankA ,且 AH A 与 AAH 有相同的非零特征值，从而 A
的非零奇异值个数等于 rankA,且 A 与 AH 有相同的非零奇异值。
13文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
定理 4.18 酉等价矩阵有相同的奇异值。
证 设 A, B C m n ，且 m 阶酉矩阵 U 和 n 阶酉矩阵 V 使得U H AV
B ，则有
BH B (U H AV )H (U H AV ) V H AH AV 这表明 BH B 与 AH A 相似，从而他们有相同
的特征值，于是 A 和 B 有相同的奇异值。 一下给出本节的主要定理
证毕
定理 4.19 设 A Crm n （r>0），则存在 m 阶酉矩阵 U 和 n 阶酉矩阵 V，使得
U H AV
O OO
（4.12）
其中
diag (
，
1
，，
2
r ) ，而
i （i=1,2,…,r）为 A 的非零奇异值，将式（4.12）
改写为： A U
O VH
OO
（4.13）
称之为 A 的奇异值分解。
证 记 Hermite 矩阵 AH A 的特征值如式（4.11）。根据定理 1.23，存在 n 阶酉矩阵 V，使
得V H AH AV diag( 1, 2 , n )
2O OO
（4.14）
将 V 分块为V (V1,V2 )
(V1 Cn r ,V2 Cn (n r) )
代入式（4.14），得V1H AH AV1
2 ,V2H AH AV2 O
于是 1 V1H AH AV1 1 I r , ( AV2 )H ( AV2 ) O
从而 AV2 O ，又记U1 AV1 1, 由上式知U1HU1 Ir ,即U1 的 r 个列是两两正交的单位
向量。取U2 C m (m r) ,使得U
(U1,U
2
)
为
m
阶酉矩阵，U
H 2
U1
O ，U2HU2
Im r
则有U H AV
U1H
U
H 2
A(V1,V2 )
U1H AV1 U1H AV2
U
H 2
AV1
U
H 2
AV2
U1H (U1 ) O
U
H 2
(U1
)O
O
证毕
OO
推论 设 A Cnn n ，则存在 n 阶酉矩阵 U 和 V，使得U H AV
diag (
，
1
，，
2
n ) 其中
i >0（i=1,2,…,n）为 A 的奇异值。
例 4.12 求矩阵 A
100
0 1 1 的奇异值分解。
000
14文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
解 可求得 AT A
101
0 1 1 的特征值为 1 =3， 2 =1, 3 =0
112
对应的特征向量依次为
1 p1 1 , p2
2
1 1 , p3 0
1
1
1
6
2
1 故正交矩阵V
1
1
62 1
20
6
使得V T AT AV
300 0 1 0。 000
1
3 1， 3 1
3
计算U1 AV1
1
1
100 6
21
1 011 1
1
0 3
000 6 2 0 1
2
0
6
1
1
2
2
11
22 00
取U2 (0, 0,1)T ,则U (U1,U2 ) 是酉矩阵，故 A 的奇异值分解为
1
10
1
12
2
2
300 6
66
A1
1 0 0 10 1
1
0 由式(4.13)可得
22
0 00
2
2
0 01
1
11
3
33
从而 U 的列向量就是 AAH 的单位正交特征向量，而 V 的列向量是 AH A 的单位正交特征向
量，这就给出了求矩阵的奇异值分解时如何求酉矩阵 U 和 V 的另一种方法，但所的结果需 进行检验。
对于例 4.12 的矩阵 A 可求得 AAT
210 120 000
AAT 的特征值为 1 =3， 2 =1, 3 =0（ AAT 的非零特征值应为与 AH A 的非零特征值对应），
15文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
对应的特征向量依次为 p1
1 1 , p2 0
1
0
1 , p3 0
0
1
1
10
2
2
300
故正交矩阵V
1
1 0 ，使得U T AATU 0 1 0
22
000
0 01
这里所求的酉矩阵 U 与例 4.12 的相同，从而 A 的奇异值分解也相同。
1 10
22
300
若取U 1
1 0 , 使得U T AATU 0 1 0 ，
2
2
0 01
000
但此时 A U
300 0 1 0 V T 由奇异值分解可以得到以下一些结论。 0 00
定理 4.20 设 A C n n ，则 A 可分解为 A=BQ=QC（4.15）其中 Q 是ｎ阶酉矩阵，Ｂ
和Ｃ是 Hermite 半正定矩阵，称式（4.15）为矩阵 A 的极分解。 证 把 A 的奇异值分解式（4.13）改写为
记B U
O UH,C V
O V H ,Q UV H 则有 A=BQ=QC
OO
OO
易证 B 和 C 是 Hermite 半正定矩阵，Q 为酉矩阵。
当 A 是 1 阶复方阵时，由于 1 阶酉矩阵形如 (ei ) ，其中 为实数；而 1 阶 Hermite
半正定矩阵形如（r）,其中 r 是非负实数，于是式（4.15）给出了复数 z 在复平面的极坐标
系中表达式 z rei （ r 0, 为实数）。这也是称式（4.15）为 A 的极分解的原因。
定理 4.21
设A
Crm
n ，bCm
，且
A
的奇异值分解为
AU

O
O O
V
H
则 x(0) V
1 O U H b 是矛盾方程组 Ax=b 的最小二乘解；如果 Ax=b 的最小二乘
OO
解不唯一，则 x(0) 是其中具有最小 2－范数的向量，称 x(0) 为 Ax=b 的极小范数最小二乘解。
16文档来源为:从网络收集整理.word 版本可编辑.

文档收集于互联网，已重新整理排版.word 版本可编辑,有帮助欢迎下载支持.
证
令
y
V
H
x,
c
U
H
b
，且将其分块为
y

y1 y2

,
c

c1 c2

( y1, c1 Cr ) 则有
这表明对任意 x Cn,
Ax b
有下界
2
c2
2 . 如果取 y1
1 c1 ，而 y2 任意时， Ax b
2
可以打到这个下界，故
x
Vy
V

1
c1

y2
( y2 Cnr任意) 是 Ax=b 的最小二乘解，取 y2 =0，得
x(0)
V

1
c1

V
1
0 O
有最小 2－范数者。
O O


c1 c2

V

1 O
O
U
H
b
容易证明他是最小二乘解中具
O
证毕
17文档来源为:从网络收集整理.word 版本可编辑.