2-2 广义逆矩阵
矩阵论广义逆
矩阵论广义逆矩阵是线性代数中的重要概念，广义逆是矩阵论中的一个关键概念。
在矩阵论中，广义逆用于解决矩阵方程的求解问题。
本文将介绍矩阵论中的广义逆以及其应用。
1. 广义逆的定义在矩阵论中，矩阵的广义逆是指对于任意矩阵A，存在一个矩阵X，满足以下条件：1) AXA=A2) XAX=X3) (AX)^T=AX4) (XA)^T=XA广义逆的存在性和唯一性是矩阵论中的一个重要问题，对于满足以上条件的矩阵X，我们称其为A的广义逆，记作A⁺。
2. 广义逆的性质广义逆具有以下性质：1) AA⁺A=A2) A⁺AA⁺=A⁺3) (A⁺)^T=A⁺4) (AA⁺)^T=AA⁺广义逆的性质使得它在矩阵方程的求解中具有重要作用。
3. 广义逆的应用广义逆在矩阵方程的求解中有广泛的应用，下面介绍其中几个常见的应用：3.1 线性方程组的求解对于线性方程组Ax=b，如果A的广义逆A⁺存在，那么方程的解可以表示为x=A⁺b。
广义逆的存在性保证了线性方程组的解的存在性，并且通过广义逆的计算，可以得到解的一个特解。
3.2 最小二乘问题的求解最小二乘问题是指在给定线性方程组Ax=b无解时，求解使得||Ax-b||^2最小的x。
如果A的广义逆A⁺存在，那么最小二乘问题的解可以表示为x=A⁺b。
广义逆的计算可以通过奇异值分解等方法来实现。
3.3 线性回归分析线性回归分析是统计学中的一种重要方法，用于建立自变量与因变量之间的线性关系。
在线性回归分析中，广义逆可以用于求解回归系数，得到最佳拟合直线，并用于预测和推断。
4. 广义逆的计算方法广义逆的计算方法有多种，常见的包括伪逆法、奇异值分解法等。
伪逆法是通过对矩阵A进行分解或变换，得到A的伪逆矩阵。
奇异值分解法则是通过对矩阵A进行奇异值分解，得到A的伪逆矩阵。
这些计算方法都是基于矩阵的特征和性质进行推导和求解的。
5. 广义逆的应用举例以线性方程组的求解为例，假设有如下线性方程组：2x+y=3x+3y=9将其转化为矩阵形式为：A=[2 1; 1 3]b=[3; 9]求解线性方程组的解可以通过计算广义逆来实现。
矩阵广义逆求法
推论：设A Cmn， 1 ）当r n时(列满秩)，A+ =(AH A)1 AH， r 2）当r m时(行满秩)，A+ =AH (AAH )1.
证明：当r n时, A AI n BC为A的满秩分解，由定理可得 1) A + =(A H A) 1 A H； 2)当r m时, A I m A BC ,
54 75 33 1 32 43 1 BH 234 130 182 78 34 53 15
3 1 2)因B列满秩，B =(B B) B = (1,3) (1,3) (1,3). 10 1
注：当r ( A) 1时，非零特征值只有1个，则A =
+
1
1
AH .
此时，设A=(aij ) mn , r ( AH A) r ( A) 1, 可知 1 n 0 H tr ( A A) 1 =tr j 1 0
a
i 1
利用奇异值分解求A +的简化步骤： 1)求出A H A的r个非零特征值1， , r , i 0; 2)求出A H A对应于特征值1， , r的标准正交特征向量
1 , , r .令V1 =(1 , , r );
1-1 H H + 3)则A V1 V1 A r-1
1 2 1 解：A 0 1 -1 0 1 -1 1 2 1 B= 2 5 ，C= 0 4 9 5 1 0 3 -3 4 0 1 -1 4 ，令 4 0 0 0 0 0 3 -3 . 1 -1 4
上述定理可简化：
Sr 定理3：设A C ，在A奇异值分解A=U 0 令V=(x1 , , x r ,x r 1 , ,x n )=(V1 ,V2 ).则
矩阵广义逆
矩阵广义逆
1 矩阵广义逆
什么是矩阵广义逆？矩阵广义逆，又称为双射矩阵（Bidiagonal Matrix），是指一个n阶方阵A，对于该矩阵有一个n阶矩阵B满足
AB=BA=E，其中E为n阶单位矩阵，那么矩阵B就叫做矩阵A的广义逆。
记B为A^#。
2 求解矩阵广义逆
矩阵A的广义逆矩阵B存在，当且仅当A^*A存在逆矩阵，即A^*A 的逆矩阵为：(A^*A)^-1=A^-1*(A^*)^-1，其中A^*为A的共轭转置。
那么矩阵A的广义逆矩阵变成B=(A^*)^-1*A^-1。
这样，就可以使用共轭转置和逆矩阵的公式将矩阵A的广义逆矩阵B计算出来。
3 应用
矩阵广义逆在线性数学中有广泛的应用，例如在图像处理和微分
方程求解中都有广泛的应用。
在求解复杂的线性方程组时，通常也会
使用矩阵的广义逆来求解，从而简化求解的步骤。
在框架计算中，矩
阵的广义逆也被用来构建有效的模型，以了解问题的最优解。
因此可以看出，矩阵广义逆在线性数学中有着重要的作用，其计
算方法也非常简便，是一种重要的数学工具。
第八章 矩阵的广义逆
第八章矩阵的广义逆前言初等变换和标准形初等变换和标准形举例
§8.1 广义逆矩阵减号逆的概念
减号逆存在定理及求法减号逆存在定理及求法续
关于减号逆公式的注一个减号逆确定所有减号逆1减号逆的主要性质续减号逆的主要性质续
减号逆的主要性质续左逆与右逆的概念矩阵左逆与右逆的求法自反广义逆的概念
自反广义逆的存在与唯一性自反广义逆的唯一性自反广义逆与左(右)逆的关系用满秩分解求自反广义逆
自反广义逆的求法自反广义逆的求法续§8.2 伪逆矩阵
伪逆的存在性求伪逆举例
伪逆的唯一性
伪逆的性质
⎞
⎛−101求伪逆举例
§8.3 广义逆与线性方程组
一般矩阵方程有解的条件一般矩阵方程的通解
用减号逆求解相容线性方程组举例相容线性方程组的最小模解0130
−
相容方程组最小模解的充要条件
相容方程组最小模解的充要条件续
求相容方程组最小模解举例
Ax,即‖Ax-b‖>0.
不相容方程组的最小二乘解
R(A)
Ax 0
不相容方程组的最小二乘解举例用广义逆求最小二乘解定义8.3.2:线性方程组Ax=b 的一个最佳最小二乘
矩阵方程的最小二乘解。
广义逆矩阵
广义逆矩阵方程
设A是n阶非奇异矩阵，则存在唯一的逆矩阵A-1， 它具有如下性质：
AA1 I
A1 A I
AA1 A A
A1 AA1 A1
或者说， A-1是下述矩阵方程组的解
AXA A
(P1 )
XAX X
AX H AX
(P2 ) (P3 )
XAH XA (P4 )
Al --最小二乘广义逆
A{1,4},它的形式记为
Am 最小范数广义逆
广义逆A-
A{1}是指仅满足第一个Penrose方程的广义逆，即若
AA-1A=A, 则记 A A{1}
说明： 1)利用初等行变换，可以求得A-
2）A的减号逆A-不唯一。
例：设
A
1 1
0 0,
1 0
设r 0,由满秩分解定理知，存在B Crmr ,C Crrn , 使得A BC
令X C H (CC H )1(BH B)1 BH
可以验证X满足广义逆矩阵方程
对于矩阵方程
几类弱逆
AXA A
(P1)
XAX X
AX H AX
(P2 ) ( P3 )
XAH XA (P4 )
首先利用初等行变换求出A的Hermite标准型H为：
1 2 0 1 H 0 0 1 1,
0
设A的满秩分解为 A
0
0
BC
0
，则
B
2 1
1 1 ,
C 1 2 0
1
1 2
0 0 1 1
于是
A C H (CC H )1(BH B)1 BH
x min Ax b xC n
广义逆矩阵(Pseudoinverse)神经网络
广义逆矩阵（Pseudoinverse）在神经网络学习算法中的应用早在20世纪20年代初期，E.H.Moor 就提出了广义逆矩阵的概念，但长期以来广义逆矩阵的研究却没有受到人们的注意。
直到1955年，随着科学技术的迅猛发展，特别是电子计算机的出现，推动了计算科学的进步。
R.Penrose又独立提出广义逆矩阵的概念后，情况才开始发生了变化。
由于广义逆矩阵在测量学，统计学等多领域中得到了广泛应用，产生了巨大的推动力量，使其在之后的近四十年的时间得到了迅猛发展，形成了完整的理论体系。
一．广义逆矩阵若A为非奇异矩阵，则线性方程组Ax=b的解为x=A1-b，其中A的逆矩阵A1-满足A1-A=A A1-=I(I为单位矩阵)。
若A是奇异阵或长方阵，Ax=b可能无解或有很多解。
若有解，则解为x=Xb+(I-XA)у，其中у是维数与A 的列数相同的任意向量，X是满足AXA=A的任何一个矩阵，通常称X为A的广义逆矩阵，用A g-、A-或A1-等符号表示，有时简称广义逆或伪逆。
当A 非奇异时，A1-也满足A A1-A=A，且x= A1-b+(I- A1-A)у= A1-b。
故非异阵的伪逆矩阵就是它的逆矩阵，说明伪逆矩阵确是通常逆矩阵概念的推广。
1955年R.彭罗斯证明了对每个m×n阶矩阵A，都存在唯一的n×m阶矩阵X，满足：①AXA=A；②XAX=X；③(AX)H＝AX；④(XA)H＝XA。
通常称X为A的穆尔-彭罗斯广义逆矩阵，简称M-P逆，记作A1-。
当A非奇异时，A1-也满足①～④，因此M-P逆也是通常逆矩阵的推广。
在矛盾线性方程组Ax＝b的最小二乘解中，x＝A1-b是范数最小的一个解。
若A是n阶方阵，k为满足（图1）的最小正整数（rank为矩阵秩的符号），记作k=Ind(A)，则存在唯一的n阶方阵X，满足：(1) AkXA=Ak；(2) XAX=X；(3) AX=XA。
通常称X为A的德雷津广义逆矩阵，简称D逆，记作Ad，A(d)或AD等。
广义逆矩阵求法
广义逆矩阵
定理：设 阵方程
A 是数域 K 上一个s n 矩阵，则矩
AXA A
(1)
总是有解。如果 rank( A) r ，并且
( I nn A A) A A
A ( A ) 0
所以 X ( I nn A A) Z 是方程组 的通解。
AX 0
利用上述定理，可以得到非齐次线性方程组的 另一种形式的通解。
推论：设数域 K 是 n 元非齐次线性方程组 AX 有解，则它的通解为
即
I r B 1 Q P C D 先分析 Q 与 P 1 之间的关系。由已知 A ，
因此我们有
I r 0 1 0 0 Q P 1 分别把 Q , P 分块，设 行 Y1 }r Q Y2 }n r行
伪逆矩阵
定义：设 A C mn，若 A C nm ，且同时有
AA A A ,
H
A AA A
( AA ) AA ,
( A A) A A
H
则称 A 是 A 的伪逆矩阵。上述条件称为 Moore－ Penrose 方程。 例：
1 设 A 0
取 B 0, D 0, C (0,,0, k Y ,0,,0)
1 i 2
则
Ir C
于是
0 1 Ir P C 0
1
浅介几种广义逆矩阵及其应用
浅介几种广义逆矩阵及其应用矩阵理论既是学习经典数学的基础，又是一门最有实用价值的数学理论。
其中所涉及到的一个重要分支——广义逆矩阵，有许多好的性质和用途，已成为许多领域研究并解决问题的强有力工具，是矩阵理论在最近几十年中的新成就之一。
本文主要介绍[]几种常用广义逆矩阵的基本知识及广义逆矩阵在生产生活中的应用。
标签：广义逆矩阵；基本介绍；应用1 背景介绍广义逆产生于线性方程组求解的实际需要，其思想可追溯到1903年E.I.弗雷德霍姆所研究的关于积分算子的一种广义逆，随后由E.H.Moore在1920年提出任意矩阵的广义逆定义，然而在其后的30年却未能引起人们关注，直到1955年，R.Penrose定义了Moore的广义逆矩阵之后，广义逆矩阵的发展才开拓了一片新的天地。
后来人们证明Moore和R.Penrose的两种广义逆矩阵是等价的，因而被称为M一P广义逆矩阵。
至此，广义逆矩阵正式诞生，此后的逐步发展也使其具有了广泛的应用。
2 几种常见广义逆矩阵的简单介绍我们引用方便的M—P方法来定义广义逆矩阵：设任意复数矩阵Amn，如果存在复数矩阵Bnm，满足M-P方程，即（1）ABA=A（2）BAB=B（3）（AB）H=AB（4）（BA）H=BA的全部或一部分，则称B为A的广义逆矩阵。
由此易推算广义逆矩阵有15种。
在这里，重点研究和介绍五种，即：A-、自反广义逆Ar-，极小范数广义逆Am-，最小二乘广义逆Al-及伪逆矩阵A+。
2.1 A-满足方程（1）的记为A-，其重要性质有：（1）A广义逆的转置等于A转置的广义逆，即（AT）-=（A-）T；（2）若复方阵A满秩，那么A的逆等于A的广义逆，且A-唯一；（3）秩（A）≤秩（A-）；（4）秩（A）=秩（AA-）=秩（A-A）；（5）线性方程组Ax=b有解（相容）当且仅当AA-b=b。
2.2 自反广义逆Ar-满足方程（1）和（2）的是自反广义逆。
若X、Y都是A的广义逆矩阵，则Z=XAY是A的自反广义逆。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
§2 矩阵的广义逆一、广义逆矩阵的概念定义1 设任意一个矩阵n m R A ⨯∈，若存在矩阵m n R X ⨯∈，满足 AXA =A （1） XAX =X （2） (AX )T =AX （3） (XA )T =XA （4） 这四个方程中的一个、两个、三个或全部，则称X 为A 的广义逆矩阵。
由上面的定义可知，广义逆矩阵有15C C C C 44342414=+++中之多。
本节介绍应用广泛的减号广义逆和加号广义逆。
定义2 对矩阵n m R A ⨯∈，一切满足方程组A AXA =的矩阵X ，称为矩阵A 的减号逆或g-逆。
记为-A 。
例如，⎪⎭⎫ ⎝⎛=010001B ，⎪⎭⎫ ⎝⎛=100001C 都是⎪⎪⎭⎫ ⎝⎛=010101A 的减号逆。
下面的定理解决了-A 的存在性和构造性问题。
定理1(秩分解) 设A 为n m ⨯矩阵，()rank A r =，若Q O O O I P A r ⎪⎭⎫ ⎝⎛=， 或⎪⎪⎭⎫ ⎝⎛=--O O O I AQ P r 11 这里P ,Q 分别为n n m m ⨯⨯,的可逆阵，则12221121---⎪⎭⎫ ⎝⎛=P G G G I Q A r (5) 其中222112,,G G G 是相应阶数的任意矩阵。
证明 设X 为A 的广义逆，则有Q O O O I P Q O O O I QXP O O O I P A AXA r r r ⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛⇔= ⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛⇔O O O I O O O I QXP O O O I r r r 若记⎪⎪⎭⎫ ⎝⎛=22211211G G G G QXP 则上式，⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⇔00000011r I G r I G =⇔11 于是， 12221121--⎪⎪⎭⎫ ⎝⎛=⇔=P G G G I Q X A AXA r 其中222112,,G G G 任意. 证毕.定理1不但表明矩阵的减号逆总是存在的，通常也是不唯一的，而且还给出了计算减号逆的方法。
推论：若A 右逆，则1211---⎪⎪⎭⎫ ⎝⎛=P G I Q A m ；若A 左逆，则()1112n A Q I G P ---=。
例 1 设⎪⎭⎫ ⎝⎛-=210121A , 求-A 。
解 经过初等变换可得 ⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛--→⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛-=⎪⎪⎭⎫ ⎝⎛00100002100050110010210010010000010000011021001121032I I A于是⎪⎭⎫ ⎝⎛-=-10211P，⎪⎪⎭⎫ ⎝⎛-=-1002105011Q 故 ⎪⎪⎭⎫ ⎝⎛+-+--+--=⎪⎭⎫ ⎝⎛-⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛-=⎪⎭⎫ ⎝⎛=---21121121121121212241251025110211001100210501t t t t t t t t t t t P G I Q A 其中21,t t 是任意数。
再如：,0011⎪⎭⎫ ⎝⎛=A 则任意a a A ,001⎪⎭⎫ ⎝⎛=-. 推论(1)对任意矩阵n m A ⨯，-A 总是存在且不唯一，全体记为{}1A . 一般情况：设Q P A n m ,,⨯是奇异方阵，且PAQ B =，-A 是A 的减号逆，则{}111B P A Q ∈---，1)(---=P A PA ，---=A Q AQ 1)(。
(2)-A 唯一⇔A 为可逆矩阵。
此时1--=A A (正则逆)；(3)r AA rank A A rank A rank A rank ===≥---)()()()(，且()()()T R A R AA R AA -==；()()N A A N A -=。
Q C I Q A A P G I P AA r r ⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛=----00,00 11 (4)------AA I A A I AA A A m n ,, ,都是幂等矩阵，且r A rank AA rank A A rank AA tr A A tr =====----)()()()()(。
(5)若()(),()()T R B R A R C R A ⊂⊂，则B A C T -与-A 的选择无关；(6)--=)()(T T A A ；(7)T T A A A A -)(与广义逆-)(A A T 的选择无关(选择合适的逆)；(8),)(A A A A A A T T =- ,)(T T T T A A A A A A =-若P 正定，则,)()(A PA A PA A A T T =-()()T T T T A PA A PA A A -=；(9)A A AGA A A AGA T T =⇔=；(10)⎩⎨⎧≠===-+-+-0,0,0,)(1λλλλλλA A ； (11));()())((A rank AB rank A A AB AB =⇔=-);()()(B rank AB rank B AB AB B =⇔=-(12)A A ≠--)(，如⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛=1001,0101B A ，则A B B A ≠=--但,。
证明)4(~)1(,(10)可以从定理1和广义逆的定义得到证明。
(5)的证明如下, 由)()()(T T T T T T A A A A A A A AA A ----=⇒=⇒=.(6)由()()T T R A R A A =，知存在矩阵B ，使得AB A A T T =。
于是，T T A A A A -)(=()T T T T T T B A A A A A AB B A AB -=，与-)(A A T 的选择无关。
(7)记A A A A A A F T T -=-)(,利用广义逆的定义,可以验证：,0=F F T 于是0=F .第一式得证。
同理可证其它两式。
(8)必要性是显然的，下面证充分性。
设0=-⇒=A A AGA A A A AGA A T T T T ,因为O A A AGA A E G A A AGA A A G A A AGA A AGA T T T T T T T T T =--=--=--))(())(()()(所以, 0=-A AGA , 也就是A AGA =.定理2 设有一固定的-A ，则A 的减号逆的通式为(1)W V W A A I AA I V A G n m ,,)()(----+-+=是相应的任意矩阵;(2)V AVAA A V A G ,----+=是相应的任意矩阵。
证明(1)由W A A A I A A AA I AV A AA AGA n m )()(----+-+=AW A AA AW A A AV AA AV A A ---+-+=A AWA AWA AVA AVA A =-+-+=知G 是A 的减号逆。
反之，设G 是A 的某个减号逆，令--=-=VAA W A G V ,,并注意到O A A A AA AGA A A G A AVA =-=-=-=--)(有WA A I AA I V A VAA A A I AA I V A A AVA A A G A G n m n m )()()()()()(------------+-+=-+-+=--+=(2)由A AUA AUA A A AUAA AA AUA A AA AGA =-+=-+=---即证G 是A 的减号逆；反之，设G 是A 的某个减号逆，令--=A G V ，并注意到-----------=-=AA AA A AGAA A AA A G A A AVAA A )(O AA A AA A =-=----,有---------+=---+=AVAA A V A AA A G A A A G A G )()( 证毕.定理1和定理2以后都称为矩阵A 的减号逆的一般表达式。
推论：,()()AA B B A R B R A --=∀⇔⊂。
证明：由,()()AA B B A R B R A --=∀⇒⊂；反之由()()R B R A ⊂⇒ A At At AA B AA t At B ∀===⇒∃=--,,B ，即证结论.下面的两个定理圆满地解决了用广义逆矩阵表示相容线性方程组解集的问题。
定理3 设b Ax =为一相容方程组，则(1)对任一广义逆-A ，b A x -=必为解；(2)齐次方程组0=Ax 的通解为z A A I x )(--=，这里z 为任意的向量，-A 为任意固定的一个广义逆；(3)b Ax =的通解为 z A A I b A x )(---+=其中-A 为任一固定的广义逆，z 为任意向量.证明(1)由相容性假设知，存在0x ，使b Ax =0。
故对任一-A ，b Ax Ax AA b A A ===--00)(,即b A x -=为解。
(2)设0x 是0=Ax 的任一解，即00=Ax ，那么0000)()(x A A I Ax A x A A I x ----=+-=即任一解都取z A A I )(--的形式。
反过来，对任意的z ，因0)()(=-=---z A AA A z A A I A 。
故z A A I )(--必为解.(3)任取定一个广义逆-A ，有(1)知b A x -=1为方程组b Ax =的一个特解。
由(2)知z A A I x )(2--=为齐次方程组00=Ax 的通解。
依非齐次线性方程组的解结构定理知，21x x +为b Ax =的通解。
证毕。
定理4 设b Ax =为相容线性方程组，且0≠b ，那么，当-A 取遍A 的所有广义逆时，b A x -=构成了该方程组的全部解。
证明证明由两部分组成。
其一，要证对每一个-A ，b A x -=为b Ax =的解，这已在前一定理中证明过了。
其二，要证b Ax =的任意解0x ，必存在一个-A ，使b A x -=0，由定理3知，存在A 的一个广义逆G 及0z ，使得00)(z GA I Gb x -+=因0≠b ，故总存在矩阵U ，使Ub z =0。
例，可取T T b b b z U 10)(-=。
于是Hb b U GA I G Ub GA I Gb x ∆=-+=-+=))(()(0 其中，U GA I G H )(-+=。
易验证H 为一个-A 。
定理得证。
注：（1）两个定理给出了相容线性方程组解（用广义逆表示）的两种形式，一种-A 固定，另一种-A 不固定。
（2）相容线性方程组b Ax =有唯一解的充分必要条件是A 列满秩。
定理 5 （Penrose 定理） 设q m q p n m C B A ⨯⨯⨯,,，则矩阵方程C AXB = （6）有解的充要条件是C B CB AA =-- （7） 且在有解的情况下，其通解为-----+=AYBB A Y CB A X （8）其中p n R Y ⨯∈是任意矩阵。