矩阵分解之Givens变换与Householder变换(PPT文档)

合集下载

Householder变换与矩阵的正交分解

• 001
Householder变换的实例
01
```
02
变换过程
03
```
Householder变换的实例
01
123
02
456
03
789
Householder变换的实例
``` 第一行减去2倍的第二行
Householder变换的实例
``` 1 -2 -3
456
Householder变换的实例
• 7-16 -9
Householder变换的实例
```
第二行减去2倍的第一行
VS
Householder变换的实例
01 ``` 02 1 -2 -3 03 0 1 0
Householder变换的实例
Householder变换的实例
```
第三行减去4倍的第二行
Householder变换的实例
未来研究方向与展望
随着科学技术的不断发展，矩阵的正交分解和Householder变换的应用场景将更加广泛，需要进一步深入研究其理论和应用。
目前，对于大规模稀疏矩阵的正交分解和并行计算的研究还比较少，未来可以加强这方面的研究，以提高计算效率和精度。
随着深度学习和人工智能的兴起，矩阵的正交分解和Householder变换在神经网络、自编码器等领域的应用前景值得期待。
0.562847086929545 -0.378755864794983 -0.688379494594977
03
0.378755864794983 -0.562847086929545 -0.386377262123644
正交分解的实例
0.688379494594977 -0.386377262123644 0.591631132832155

矩阵理论_课件_11

2
，且 αxHz 为实数.
α 满足两个特征
证明：当 x=0时，任取单位向量u，则
H ( E 2uu H )0 0 0 z Hx
当 x= αz ≠ 0 时，取单位向量u满足 uHx=0，则有
Hx ( E 2uu H ) x x 2u(u H x ) x = z
5 2 , s1 计算T13. 取 c1 ，则 3 3
5 3 T13 0 2 3
T T T x x e 3(1, 0, 0) 使得 13 12 . 2 1
0 1 0
2 3 0
5 3
□
6.2.3 矩阵的QR分解
定义：设 A Cnn . 如果存在n阶酉矩阵Q和n阶上三角矩阵R，使得
1 1 c s p行 1 Tpq 1 s c q行 1 1
p 列
q 列
T n x ( , , , ) C 定理：对任意定理对任意， 1 1 n
解(1)：取 x
2
(2). x (2i, i, 2)T .
3 ，计算
2 1 x e1 1 1 u 2 1 x e1 2 12 3 2 1 1 2 2 1 H 于是 H E 2uu 2 1 2 , 使得 Hx=3e1. 3 2 2 1
( x z) ( x z) x x x z z x z z
H H H H H
2
x x ( x z ) z x x
H H H H
2 2
2
实数的共轭转置为本身

householder和givens变换

定理设 u 是C一n 个单位向量，则对于任意的 x Cn
存在Householder矩阵H，使得Hx au其中 a x 2为,ax实Hu数。
证明当x=0时，任取单位向量 C n
则 H()(x) I 2 H 0 0
当 x au时，0取单位向量使 C n H x 0
则
H ()(x) I 2 H x x 2( H x) x au
Householder变换
Householder变换又称为反射变换或镜像变换，有
明显的几何意义。在R3 中，给定一个向量，令表示
关于平面（以为法向量）的反射变换所得像，如
图所示，
记 R3
H () I 2 T
则 H ()
O
+
即：该变换将向量变成了以为法向量的平
面的对称向量。
使得 Hx ae1
，其中
a
x 2
上述结论表明，可以利用Householder变换将任意向量 Rn
化为与第一自然基向量 e平1 行的向量（共线）。
例2 用Householder变换将向量x 2i, i, 2T
化为与 e1 1, 平0, 行0T的向量。
解由于
x 3 2
x H e1 2i
从上图中我们可以看出旋转变换并不改变向量的模，所以它是正交变换，从而T是正交矩阵，且
2020/10/16
2(xH x au H x) 2(x au)H x
所以
H ()x x 2 (x au)H x (x au) au
(x au)H (x au)
推论1 对于任意的 x ，Cn存在Householder矩阵H，使得 Hx ae1 其中 a x 2 ,为ax实H e数1 。

第六节 HOUSEHOLDER变换与矩阵的正交分解

数值分析
数值分析
对第二种情形的H
阵，还可进行降维处理。
k
Hk阵对向量x的前k 1个分量的作用就如同是一个 (k 1)阶的单位阵的作用。 x Rn
x
x(1)
x
(
2
)
x(1) x(2)
( x1 , x2 ,L , xk 1 )T Rk 1 ( xk , xk 1 ,L , xn )T Rnk 1
K 3
取K 3 于是y Ke3 (0, 0, 3, 0)T ,
U x y (2, 0, 5,1)T
11 0 10 2
H
UU T I2 U 2
1
0
15 10
1 0
0 10
0
5
2
2
0
5
14
数值分析
数值分析
2. 构造H阵,将向量x ( x1 ,L , xk , xk1 ,L , xn )T 的后面n k个分量约化为零(1 k n)。
数值分析
第六节 Householder变换与矩阵的正交分解
一、初等反射阵(Householder变换阵)
定义设非零向量W Rn ,W (w1, w2 ,L , wn )T , 且满足条件 W 1,形如
2
H E(W ,W , 2) I 2WW T
的n阶方阵称为初等反射阵, 或称为Householder
H (2) k
x(2)
H
(2 k
)
x(2)
数值分析
数值分析
例：已知向量x (2, 2,1)T , 试构造初等反射阵使y Hx最后一个元素为零。
解 k 2, 构造H2
1
2 sign( x2 )( x22 x32 )2 5

矩阵论课件 4.2

z R , 则存在有限个Givens矩阵的乘积T，使
得 Tx x z.
证对于向量x ，存在
(1)
T
(1)
T T
(1) (1) 1n 1,n 1
T
(1) 12
使得 T x x e1; 对于向量z ，存在
T
所以
T T
( 2)
T T
( 2) ( 2) 1n 1,n 1
T
( 2) 12
例4.5 设 x (1,2,2)T , 用Householder变换化 x为与 e1 同方向的向量.
x 3, x x e1 2(1,1,1) . 解计算 1 T 取 u (1,1,1) , 构造Householder 矩阵 3
T
1 1 1 2 2 2 1 H 1 1 1 1 1 2 1 2 3 3 1 1 2 2 1
为Givens矩阵（初等旋转矩阵），亦可记作
Tij Tij (c, s)
由Givens矩阵确定的变换称为
Givens变换（初等旋转变换）.
性质1
1 ij
Givens矩阵是正交矩阵，且有
T ij
T (c, s) T (c, s)
性质2 设
T
Tij (c, s), det Tij (c, s) 1
T
x (1 , 2 ,, n ) , y Tij x 1 ,2 ,,n
则有
i ci s j , j si c j ,k k (k i, j )
当 0 时，选取
2 i 2 j
c
则有

2 i
i

3-2 Householder变换

§2 Householder 变换镜像变换(Householder 变换)是把矩阵进行正交三角分解的有效方法。

一、Householder 变换及其性质考虑一向量x 分解为两个正交的分向量。

如下图所示，假定除了向量x 外还有另一已知向量v .现在,先将x 投影到v ,产生投影x P v .然后将x 投影到与v 垂直的超平面⊥v 上,产生另外一个投影x P v ⊥.投影x P v ⊥称为向量x 到向量v 的正交投影.于是,这两个投影就构成了以x 为对角线的矩形的两个边.根据向量加法规则, x 可以表示这两个投影的向量之和(合成向量),即x P x P x v v ⊥+= (1)向量x 的这一分解形式称为正交分解.在上述二维的例子中, ⊥v 是一直线,而x P v ⊥为一向量.在更高维的情况下,⊥v 变成一多维目标(超平面),而x P v ⊥仍然为包含在⊥v 内部的一向量.正交分解式(1)中的矩阵'),(1v v v v P v -= (2) '),(1v v v v I P I P v v -⊥-=-= (3)分别称为向量v 的投影矩阵和正交投影矩阵.如果我们不是像图3.1那样构造两个投影x P v 与x P v ⊥之和,而是构造二者之差,就会得到一个新向量x H v 如图3.2所示.图中,)1,2(),4,2(==v x ,因此)512,56(),58,516(-=--=-⊥x P x P v v ,于是, ).54,522(-=-=⊥x P x P x H v v v 矩阵v v I v v vv I v v v v I P P H v v v /,'2),/('2'),(21=-=-=-=-=-⊥ϖϖϖ (4)称为向量v 的Householder(变换)矩阵,而向量),(),(2),/('2)(v v x v vx v v x vv x x P x P x P P x H v v v v v -=-=-=-=⊥⊥ (5) 称为向量x 相对于向量⊥v 的Householder 镜像变换.这样设计的算法即节省了n n ⨯个存储单元,而且同样达到求解求逆的目的,这种改进的G-J 消去变换也称为紧凑或原地求逆变换.定义6.1 设0,)(≠=⨯ij m n ij a a A ,定义一个新的矩阵m n ij b ⨯=)(B ,其中j l i k a a a a b ij kj il kl kl ≠≠-=, ./ )1( i k a a b ij kj kj ≠-= ./ )2( j l a a b ij il il ≠= ./ )3(/1 )4(ij ij a b =按这个规则A 变成n ij ij ij I G A G A T -+=定义6.2 称)(A T ij 是对称矩阵A 施行以),(j i 为主元的消去变换，如果： ① 对A 作J G -消去变换，使其第j 列j a 变成i e ，即i j ij e a G =； ② 记i i ij g e G =，用i g 替代i ij A G 的第j 列i e . 由等价的定义，当A 为n 阶方阵时易得出n ij ij ij I G A G A T -+=消去变换ij T 的基本性质性质1 反身性：A A T T ij ij =；设),(),()2()1()2()1()1(ij ij ij ij a A T A a A T A ≡=≡=，由（6.3）式可直接验证：m),1,2,j n;,1,2,(i )2( ===ij ij a a性质2 可交换性：当l j k i ≠≠,时，A T T A T T ij kl kl ij =；由（6.3）式可直接验证两边元素对应相等.性质3 若)(为对称阵A A A ='，记)(αβb A T B kk ≡=，则⎪⎩⎪⎨⎧≠≠=≠-=k k b b kb b k k βαββααβββ,, , 对对称阵A 施行),(k k 消去变换后，得矩阵B .B 除第k 行k 列相差一个符号后，其余仍保持对称性，也称B 为绝对对称阵.性质4 行列置换与消去变换的次序变化关系：设A 为m n ⨯阵，ip P 为i 行和p 行交换的行置换阵，jq Q 为j 列和q 列交换的列置换阵，则①jq iq jq ij Q A T AQ T )()(=； ②)()(A T P A P T pj ip ip ij =； ③jq pq ip jq ip ij Q A T P AQ P T )()(=.证明 ①和②由（6.3）式及行列置换的定义可直接验证.下面利用①和②来证明③：jq pq ip jq pj ip jq ip ij jq ip ij Q A T P AQ T P AQ P T AQ P T )()]([)]([)(===性质5 设⎪⎪⎭⎫⎝⎛=22211211 A A A A A ，11A 为r 阶可逆矩阵，则⎪⎪⎭⎫ ⎝⎛--=------1211121122111211211111111 A A A A A A A A A A T T T r r . 证明记),,2,1(,)1()()0(r k A G A A A k k k ===-，利用J G -消去变换的定义知：⎪⎪⎭⎫⎝⎛====--*22*12)0(121)1()( 0 A A I AG G G G AG Ar r r r r r . 记n r r r I G G G G J 121 -=.因k G 是由)1(-k A 的第k 列定义的J G -消去变换阵，即).,,,,,,(111n k k k k e e g e e G +-=对r k ,,2,1 =，k G 的第r 列以后各列均为单位向量，故有). (112111阶方阵为r J I J J J r n r ⎪⎪⎭⎫ ⎝⎛=- 由消去变换的定义 6.2，知消去变换等价于先做J G -变换然后进行替换.故有⎪⎪⎭⎫⎝⎛=-*2221*1211121 A J A J A T T T T r r . 利用0 0*22*12222112112111)0()(⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛==-A A I A A A A I J J A J A r r n r r (6.4) 可得⎩⎨⎧=+=,0,2111211111A A J I A J r ,即⎪⎩⎪⎨⎧-==--.,111212111111A A J A J 把2111,J J 代入(6.4)式又得 ⎪⎩⎪⎨⎧-=+===--.,121112122221221*22121111211*12A A A A A A J A A A A J A 所以.A A A 121-1121221-112112-111-111121⎪⎪⎭⎫⎝⎛--=-A A A A A A A T T T T r r [证毕] 6.2 消去变换的应用(一)计算可逆矩阵的逆设A 为n 阶可逆矩阵.当A 为正定阵时,因A 的各阶主子式非零,故对A 依次施行消去变换时主元均不为零.于是有:A T T T T A n n 1211 --=,其中),,2,1(n k T k =是施行以),(k k 为主元的消去变换.对于一般可逆阵A ,有0≠A ,对A 依次以对角元为主元做消去变换时,当遇到某个0)1(=-k kka 时,一般先对矩阵作行列置换,使主元不为0,然后接着做消去变换,求出1-A .例6.2 求⎪⎪⎪⎭⎫⎝⎛=1 2 00 123 00A 的逆矩阵.解因012≠=A ,A 为可逆矩阵.但011=a ,求1-A 时, 先进行行列置换后接着做消去变换,求出1-A .定理1（分块矩阵的正则逆）设⎪⎭⎫⎝⎛=22211211A A A A A 可逆. 若011≠A , 则⎪⎪⎭⎫ ⎝⎛--+=⎪⎭⎫ ⎝⎛=-----------11.221112111.2211.22121111112111.22121111111222112111A A A A A A A A A A A A A A A A AA （1）若022≠A , 则⎪⎪⎭⎫ ⎝⎛+--=----------1221212.112112212212.11211221221212.1112.111A A A A A A A A A A A A A A （2）其中.,2112212112.111211121221.22A A A A A A A A A A ---=-= 证明若011≠A , 则有(分块矩阵的初等变换)⎪⎭⎫⎝⎛=⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛⎪⎭⎫ ⎝⎛---1.22111211122211211111210000A A I A A I A A A A I A A I （3）此式证明了1.22A 的可逆性。

householder变换和奇异值分解

householder变换和奇异值分解标题：Householder变换与奇异值分解：线性代数中的两个重要概念引言：在线性代数中，Householder变换和奇异值分解是两个非常重要的概念。

它们在矩阵计算、数据处理以及信号处理等领域有着广泛的应用。

本文将以人类的视角，生动地介绍这两个概念，让读者感受到它们的实际应用和重要性。

1. Householder变换：矩阵的几何变换Householder变换是一种线性代数中常用的几何变换方法。

通过对矩阵进行反射操作，可以将向量投影到另一个向量上。

这个过程可以理解为在空间中对矩阵进行镜像，从而改变了矩阵的形状和性质。

例如，在计算机图形学中，我们可以利用Householder变换来实现图像的翻转、旋转和缩放等操作。

2. 奇异值分解：解析矩阵的秘密奇异值分解是一种将矩阵分解为三个矩阵乘积的方法。

这个过程可以将矩阵的结构和特征分解出来，从而更好地理解和处理矩阵的性质。

奇异值分解在数据处理、机器学习和信号处理等领域中非常常见。

例如，在数据降维中，我们可以利用奇异值分解将高维数据降低到低维空间，以减少计算量和提高算法效率。

3. Householder变换与奇异值分解的应用Householder变换和奇异值分解在实际应用中有着广泛的应用。

在图像处理中，我们可以利用Householder变换进行图像的翻转和旋转操作，从而实现图像的处理和增强。

而在数据处理和机器学习中，奇异值分解可以帮助我们降低数据维度，提取重要特征，并进行数据压缩和噪声去除等操作。

结论：Householder变换和奇异值分解作为线性代数中的两个重要概念，在实际应用中发挥着重要的作用。

它们不仅可以改变矩阵的形状和性质，还可以帮助我们更好地理解和处理数据。

通过深入学习和理解这两个概念，我们可以在各个领域中应用它们，从而提高问题的解决效率和准确性。

无论是在图像处理、数据处理还是机器学习中，Householder变换和奇异值分解都是不可或缺的工具，值得我们深入学习和探索。

西北工业大学矩阵论课件PPT第四章例题矩阵分解

u1
a3 e~1 a3 e~1 2
1 2
1 0 1
于是
0 0 1
H~1
I
2u1u1T
0
1
0
1 0 0
令
H1
1 0
0T H~1
1 0 0 0
0 0 0 1
0 0 1 0
0 1 0 0
2 1 0 0
则
H1AH1
1 0
1 3
3 1
4 2
0 4 2 1
对 a2 (3,4)T，取 2 a2 2 5，则
1
0
0 0 0 2
例
试求矩阵
A
0 0
3 4
1 2
的QR分解。
2 1 2
解
将列向量
a1
0
0
，a2
3 4 ，a3
1 2
正交化得
2
1
2
p1
a1
0
0
，
p2
2
a2
2 4
p1
3 4
，p3
0
a3
4 4
p1
5 25
p2
8 5
6 5
0
单位化得
0
q1
1 2
p1
0 ， 1
证因为
I O A B I O A B B I I B A I I O A B 取行列式即得。
例设A, B, C, D为同阶方阵，A可逆, 且AC = CA。
证明证因为
det A C
B det(AD CB) D
I CA1
O A I C
B A D O
(2 )4
4!
A4

数值分析(07)矩阵的正交分解

数值分析
Householder变换与矩阵的正交分解第六节 Householder变换与矩阵的正交分解
一、初等反射阵(Householder变换阵) 初等反射阵(Householder变换阵) (Householder变换阵
定义设非零向量W ∈ R ,W = ( w1 , w2 ,L , wn ) , 且满足条件 W 2 = 1, 形如
数值分析
T
数值分析
H阵的性质：阵的性质：阵的性质 T det( H ) = 1 − 2W W = −1 （1）非奇异
（2）对称正交 T H=H HH T = H 2 = ( I − 2WW T )( I − 2WW T ) = I − 4WW T + 4WW TWW T = I
2 1 − 2w1 −2w2 w1 H= L −2wn w1
故取 K = −σ 3 = − 3 于是 y = −σ 3 e 3 = Ke 3 = (0, 0, − 3, 0)T ,
U = x − y = (2, 0, 5,1)T , ρ = σ 3 (σ 3 + x3 ) = 3(3 + 2) = 15
ρ = U TU
1 2
H =I−
1
ρ
UU
T
11 0 1 = 15 − 10 −2
数值分析
数值分析
1 例：W = 2
1 3 0 ∈ R ,|| W ||2 = 1 2 1 2 1 1 T H = I − 2WW = I − 2 0 0 2 1 2 2 0 0 −1 =0 1 0 −1 0 0
数值分析
例已知向量 x = (2, 0, 2,1)T , 试构造 Householder阵 , 使 Hx = Ke 3 , 其中 e 3 = (0, 0,1, 0)T ∈ R 4 , K ∈ R。

第5节矩阵的QR 分解

§1-5 矩阵的QR 分解——一种正交变换思想：设[]nn RA ⨯∈[A]为一般非奇异方阵若[][][]R Q A =称为[A]的QR 分解其中:[Q]——正交矩阵，[R]——上三角阵[][][]I Q Q=T第5节矩阵的QR 分解法一G-S 正交化方法法二Householder 变换法三Givens 变换重点讲均可实现[A]=[Q][R]实现[A]的QR 分解的方法：重点要求掌握两种变换方法的思想：①Householder 变换②Givens 变换这是两种常用的正交相似变换！变换的目的使原矩阵简化，便于求特征解！第5节矩阵的QR 分解一、用Householder 变换实现QR 分解1、Householder 变换（简称H 变换）的定义和性质2、用H 变换将“给定向量”−→−H“指定方向”上去第5节矩阵的QR分解（进行一次最基本的H 变换）3、用H 变换将一般矩阵4、用H 正交相似变换，把一般矩阵[A]约化为上Hessenherg 阵[A]=[Q][R]下面介绍：（要通过n-1步最基本的H 变换才能实现）1、H 变换矩阵的定义和性质定义：设{}nRu ∈第5节矩阵的QR分解{}{}{}(){}{}{}{}222222,22u u u u u u u T====β[][]{}{}Tu u I P β-=称为Householder 变换矩阵！其中：（可推广到复空间）模的平方！若引入规范化向量（单位向量）：{}W {}{}{}2u u W ={}{}{}2u u W TT =第5节矩阵的QR 分解{}{}{}(){}{}()1,21212===W W W W W T{}{}1=W W T即则[][]{}{}TW W I P 2-=性质：（1）对称性：（2）正交性：[][]{}{}()[]P W W I P TTT=-=2[][][]I P P T=第5节矩阵的QR分解证：[][][]{}{}()[]{}{}()TT TW W I W W I P P 22--=[][]{}{}{}{}{}{}[]{}{}{}{}[]I W W W W I W W W W W W I I TTTTT=+-=+-=44422证毕。

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

2019/12/23
更一般地
2019/12/23
Givens矩阵有什么性质呢？
2019/12/23
2019/12/23
2019/12/23
2019/12/23
举一个应用Givens变换的例子
2019/12/23
2019/12/23
2、Householder矩阵和Householder变换
? 向量。这两种变换之间有何关系呢？ ?
2019/12/23
2019/12/23
2019/12/23
2019/12/23
! thank you !!
2019/12/23
矩阵QR分解之—Givens变换和 householder变换
2019/12/23
电子科学系谭春华 2012年12月
1、Givens矩阵和Givens变换 2、Householder矩阵和Householder变换
1、Givens矩阵和Givens变换
从上图中我们可以看出旋转变换并不改变向量的模，所以它是正交变换，从而T是正交矩阵，且
2019/12/23
如果不是关于水平轴的镜像变换又会是怎样？
2019/12/23
2019/12/23
2019/12/23
2019/12/23
举一个应用Householder变换的例子
2019/12/23
பைடு நூலகம்
2019/12/23
正所谓条条大路通罗马，通过例4.4和例4.5我们可以知道可以用 Givens变换和Householder变换化已知列向量为与某单位向量同向的