向量与矩阵范数
1-向量范数与矩阵范数

2. 齐次性, 即 aA a A (a R) 3. 三角不等式,即对 则称
N ( A) A
A, B Rnn ,总有 A B A B
AB A B
4. 矩阵乘法不等式,即对 A, B Rnn ,总有 为 R nn 上矩阵
A
的范数(或模)。
在实际应用问题中,矩阵和向量常常具有一定
AX X
1 1
max aij
1 j n i 1
n
AX X
AX
2 2
max ( AT A)
n
∞―范数(行模) A max X X 0
T 其中 max ( A A) max i 1i n
max aij
1i n j 1
T i 为 A A 的特征值。
A2
。
其中 x (1, 2, 3) ,
1 2 0 A 1 2 1 0 1 0
X Y X Y
将向量的长度概念加以推广,便得到向量范数概念。
定义1 设
N(X ) X
是定义在 R n 上的实值函数,
X 0, X 0
如果它满足三个条件:
① 非负性,即 ② 齐次性,即 则称 N ( X ) X 为
பைடு நூலகம்Rn
当且仅当
(a R)
X 0
aX a X
③ 三角不等式,即对 X , Y Rn,总有
X X X
1
1 2 3 6 (1) 2 (3) 14
2 2 2
2
max{ 1 , 2 , 3} 3
(2) 矩阵的范数 定义2 设
N ( A) A
第五章--向量范数和矩阵范数

当 x 时,|| x ||A 0 ;当 x θ 时由 A 对称
正定知 xH Ax 0 ,即 || x ||A 0 。
对于任意 k C ,有 || k x ||A (kx)T A(kx) | k | xT Ax | k | || x ||A
由于 A 为Hermite正定矩阵,故存在酉矩阵 U ,使得
|| x ||2
| x1 |2 | x2 |2
| xn |2
定义的|| ||2 是 F n上的向量范数,称为2-范数或 l2
范数,也称为 Euclid 范数。
例 7 对任意 x ( x1, x2, , xn) T F n,由
|| x ||p
1/ p n
| xi |p , p 1
i1
定义的|| ||p 是 F n 上的向量范数,称为p -范数或 lp
UT AU Λ diag( λ1, λ2, , λn)
这里 A 的特征值 λi (i 1, 2, , n) 都为正数。
从而有
A UΛUT U Λ Λ UT BT B
此时
|| x ||A xT Ax xT BT Bx (Bx)T Bx || Bx ||2
因此对任意 y C n , || x y ||A || B( x y) ||2
数 || A || 表示对于任意向量 x F n , A 可以 “拉伸”向量 x 的最大倍数,即使得不等式
|| A x || C || x || 成立的最小的数 C 。称 || A || 为范数 || || 和 || ||
j1
n
| xj
j1
yj |; yj |;
yj |;
1
yj |m m;
以及与椭圆范数类似的Mahalanobis距离:
向量和矩阵的范数

|| k Ax || | k ||| Ax || 2) || k A || max max | k ||| A || x0 x0 || x || || x || || Ax || 3) 由 || A || max ,则 || Ax |||| A |||| x || x R n x 0 || x || 于是 || ( A B ) x || || Ax Bx |||| A |||| (|| A || || B ||) || x ||
法则对应于一非负实数 ||
n
则称 || x || 为向量x的范数。
常见的向量范数
设向量x ( x1 , x2 ,..., xn )T || ||
x || | x |
1 i 1 i
n
x || || x ||
( | xi | ) ( x, x) ( xT x) 2
i 1
3.5 病态方程组与矩阵的条件数
例3.5.1 设线性方程组 0.99 x1 1.99 1 0.99 0.98 x 1.97 2 试分析系数矩阵和右端项有微小扰动, 解将产生 什么样的变化 ? 解 该方程组的精确解为x (1,1)T 。
||
Hale Waihona Puke x ||2 n ||
x ||
1 例如 : || n
1 n x ||1 | xi | || n i 1
x ||
max{| xi |} | xi |
1i n i 1
n
向量的收敛性
定义3.4.2 设R n中一向量序列{ x ( k ) }( k 1,2,...), 其中 (i 1,2,..., n)
向量与矩阵的范数

范数
定义:设是一线性空间,而对其每一点都有一个非负实数适合以下条件,则称为地范数. ();
()
()
向量地范数
定义:对维空间中任一向量,按一定规则有一确定地实数与之对应,该实数记为,若满足下面三个性质:文档来自于网络搜索
();
()
()
则称该实数为向量地范数.
几种常见地范数:设
()范数(又称为ö范数)
(),向量地范数:
(),向量地范数:
()向量地:
性质:(向量范数地连续性)向量范数是定义在上地连续实函数
性质:(向量范数地等价性)设是定义在上地两个范数,则存在正数,使对任意,有.文档来自于网络搜索
性质:任意两个等价地向量范数决定地向量序列地收敛性是相同地
矩阵范数
定义:非负函数,叫做上地矩阵范数,如果满足:
正定性:.
齐次性:.
三角不等式:.
相容性:
定理:设是上地一个向量范数,则非负函数
是定义在上地一个矩阵范数.
由上述定理给出地矩阵范数称为从属于向量范数地矩阵范数,也称由向量范数诱导出地算子范数.
矩阵地范数:
矩阵地范数是由向量范数诱导出地算子范数:
常见地矩阵范数计算公式:
矩阵范数(列范数)
矩阵范数(行范数)
矩阵范数(谱范数)
矩阵地范数:
由矩阵范数推出地向量范数
矩阵范数可由向量范数诱导,同样,向量范数有时也可以从矩阵范数推出例:设是上地矩阵范数,任取中地非零向量,则函数
是上地向量范数.。
向量与矩阵范数

向量与矩阵范数在欧氏空间与酉空间中,我们通过向量的内积定义了下列的长度,对于一般的线性空间,能否引入一个类似于长度而又比其更广泛的概念呢?这就是范数的概念。
向量范数与矩阵范数是应用非常广泛的重要概念,从范数可导出向量与向量,矩阵与矩阵之间的距离,进而引进向量序列和矩阵序列收敛性问题.它是矩阵分析与计算的基础.§1 向量范数定义1.1 设V 是数域()或C R 上的线性空间,如果对于任意V ∈x 按照某种法则对应于一个实数x,且满足:1) 非负性0≥x .当且仅当=x 0时,0=x ; 2) 齐次性k k =x x;3) 三角不等式 对任意,V ∈x y 总有,+≤+x y x y;则称实数x为线性空间V 上向量x 的范数.简称向量范数.定义了范数的线性空间V 称为赋范线性空间.由定义1.1可以看出,向量范数是定义在线性空间上的非负实值函数,它具有下列性质:(1) 当≠x 0时,11||||=x x ;(2) 对任意向量V ∈x ,有||||||||-=x x ;(3)||||||||||||||y -≤-x y x ; (4)||||||||||||||y -≤+x y x .性质(1)与(2)是显然成立的,下面证明性质(3) 因为||||||||||||||||=-+≤-+x x y y x y y , 所以||||||||||||-≤-x y x y .同理可证||||||||||||||()||||||-≤-=--=-y x y x x y x y , 即||||||||||||-≥--x y x y .综上有||||||||||||||y -≤-x y x .若用y -代替性质(3)中的y ,便得到性质(4).n C 上最著名的范数是p 范数,也称赫尔德(hölder )范数11()nppi pk x ==∑x,T 12(,,,)n n x x x =∈x C .这里1p ≤<∞,其中最常用的是1,2p =时的p 范数,即11nik x ==∑x ;12221()ni k x ==∑x 。
矩阵范数和向量范数的关系

矩阵范数和向量范数的关系矩阵范数和向量范数是线性代数中常用的概念,它们之间存在一定的关系。
本文将从矩阵范数和向量范数的定义、性质以及它们之间的联系等方面进行阐述。
我们来介绍矩阵范数和向量范数的定义。
矩阵范数是定义在矩阵上的一种范数,它可以将一个矩阵映射为一个非负的实数。
常见的矩阵范数有Frobenius范数、1-范数、2-范数和∞-范数等。
以Frobenius范数为例,对于一个矩阵A,它的Frobenius范数定义为矩阵元素平方和的平方根,即∥A∥F = √(∑∑|aij|^2)。
向量范数是定义在向量空间中的一种范数,它可以将一个向量映射为一个非负的实数。
常见的向量范数有1-范数、2-范数和∞-范数等。
以2-范数为例,对于一个向量x,它的2-范数定义为向量元素平方和的平方根,即∥x∥2 = √(∑|xi|^2)。
矩阵范数和向量范数之间存在一定的联系。
首先,对于一个n维向量x,可以将其看作是一个n×1的矩阵。
此时,向量范数就可以看作是矩阵范数的一种特殊情况。
例如,向量的2-范数就是矩阵的2-范数。
因此,矩阵范数可以看作是向量范数的推广。
矩阵范数和向量范数之间满足一些性质。
例如,对于一个矩阵A和一个向量x,满足以下性质:1. 三角不等式:对于任意的矩阵A和向量x,有∥A∥ + ∥x∥ ≤∥A + x∥。
2. 齐次性:对于任意的矩阵A和实数α,有∥αA∥ = |α|∥A∥。
3. 子多重性:对于任意的矩阵A和B,有∥AB∥ ≤ ∥A∥∥B∥。
我们来讨论矩阵范数和向量范数的联系。
通过定义可以看出,矩阵范数和向量范数都是对于矩阵或向量的度量。
矩阵范数可以看作是对矩阵的度量,而向量范数可以看作是对向量的度量。
矩阵范数和向量范数都满足范数的定义,即满足非负性、齐次性和三角不等式。
在应用中,矩阵范数和向量范数有着广泛的应用。
矩阵范数可以用于矩阵的相似性度量、矩阵的特征值估计等问题。
而向量范数可以用于向量的相似性度量、向量的正则化等问题。
向量和矩阵的范数

向量和矩阵的范数一、引言向量和矩阵是线性代数中最基本的概念之一,而范数则是线性代数中一个非常重要的概念。
范数可以用来度量向量或矩阵的大小,也可以用来衡量它们之间的距离。
在本文中,我们将讨论向量和矩阵的范数。
二、向量范数1. 定义向量范数是一个函数,它将一个向量映射到一个非负实数。
它满足以下条件:(1)非负性:对于任意的向量x,有||x||≥0;(2)齐次性:对于任意的标量α和向量x,有||αx||=|α|·||x||;(3)三角不等式:对于任意的向量x和y,有||x+y||≤||x||+||y||。
2. 常见范数(1)L1范数:也称为曼哈顿距离或城市街区距离。
它定义为所有元素绝对值之和:||x||1=∑i=1n|xi| 。
(2)L2范数:也称为欧几里得距离。
它定义为所有元素平方和再开平方根:||x||2=(∑i=1nxi^2)1/2 。
(3)p范数:它定义为所有元素p次方和的p次方根:||x||p=(∑i=1n|xi|^p)1/p 。
(4)无穷范数:它定义为所有元素绝对值中的最大值:||x||∞=ma xi|xi| 。
三、矩阵范数1. 定义矩阵范数是一个函数,它将一个矩阵映射到一个非负实数。
它满足以下条件:(1)非负性:对于任意的矩阵A,有||A||≥0;(2)齐次性:对于任意的标量α和矩阵A,有||αA||=|α|·||A||;(3)三角不等式:对于任意的矩阵A和B,有||A+B||≤||A||+||B||。
2. 常见范数(1)Frobenius范数:也称为欧几里得范数。
它定义为所有元素平方和再开平方根:||A||F=(∑i=1m∑j=1naij^2)1/2 。
(2)一范数:它定义为每列元素绝对值之和的最大值:||A||1=maxj(∑i=1m|aij|) 。
(3)二范数:它定义为矩阵A的最大奇异值:||A||2=σmax(A) 。
(4)∞范数:它定义为每行元素绝对值之和的最大值:||A||∞=maxi(∑j=1n|aij|) 。
第3章 范数

1
2
例题:设x = (3,12,0,4 ) , 计算 x 1 , x ∞ , x
T
2
x 1 = 3 + 12 + 0 + 4 = 19 x
∞
= max{3,12,0,4} = 12
x 2 = 32 + (12) 2 + 0 2 + (4) 2 = 13
向量和矩阵的范数
2 矩阵范数 定义
任一矩阵A ∈ R n×n,都对应于一个实数N ( A)( N ( A)为R n×n上的实值函数 ), N ( A) = A ,且满足以下条件:
1≤i ≤ n
( A的特征值按模的最大值)
为矩阵的谱半径。
若λi为实数,则λi 是指绝对值 若λi为复数(λi = a + bi),则λi 是指模, λi = a 2 + b 2
例题
1 0 1 设A = 2 2 1, 计算A的谱半径。 1 0 0 λ 1 0 1
解: λI A) = 2 det( 1
几种矩阵范数
设x ∈ R n , A ∈ R n×n , 则
(1) A 1 = max ∑ aij
1≤ j ≤ n n
( A的列范数 )
(2) A ∞ = max ∑ aij
1≤i ≤ n j =1
i =1 n
( A的行范数 )
(3) A 2 = λmax ( AT A) (其中λmax ( AT A)表示矩阵AT A的绝对值( 模)最大的特征值)
a11 a12 a13 三阶方阵A = a21 a22 a23 则A的行列式 a31 a32 a33 det( A) = a11a22 a33 + a21a32 a13 + a12 a23a31 a13 a22 a31 a12 a21a33 a23 a32 a11
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
向量与矩阵范数在欧氏空间与酉空间中,我们通过向量的内积定义了下列的长度,对于一般的线性空间,能否引入一个类似于长度而又比其更广泛的概念呢?这就是范数的概念。
向量范数与矩阵范数是应用非常广泛的重要概念,从范数可导出向量与向量,矩阵与矩阵之间的距离,进而引进向量序列和矩阵序列收敛性问题.它是矩阵分析与计算的基础.§1 向量范数定义1.1 设V 是数域()或C R 上的线性空间,如果对于任意V∈x 按照某种法则对应于一个实数x,且满足:1) 非负性0≥x .当且仅当=x 0时,0=x ; 2) 齐次性k k =x x;3) 三角不等式 对任意,V ∈x y 总有,+≤+x y x y;则称实数x为线性空间V 上向量x 的范数.简称向量范数.定义了范数的线性空间V 称为赋范线性空间.由定义1.1可以看出,向量范数是定义在线性空间上的非负实值函数,它具有下列性质:(1) 当≠x 0时,11||||=x x ;(2) 对任意向量V ∈x ,有||||||||-=x x ;(3)||||||||||||||y -≤-x y x ; (4)||||||||||||||y -≤+x y x .性质(1)与(2)是显然成立的,下面证明性质(3) 因为||||||||||||||||=-+≤-+x x y y x y y , 所以||||||||||||-≤-x y x y .同理可证||||||||||||||()||||||-≤-=--=-y x y x x y x y , 即||||||||||||-≥--x y x y .综上有||||||||||||||y -≤-x y x .若用y -代替性质(3)中的y ,便得到性质(4).n C 上最著名的范数是p 范数,也称赫尔德(hölder )范数11()nppi pk x ==∑x,T 12(,,,)n n x x x =∈x C .这里1p ≤<∞,其中最常用的是1,2p =时的p 范数,即11nik x ==∑x ;12221()ni k x ==∑x 。
当p =∞时, 1max ii nx ∞≤≤=x.关于1||||⋅和||||∞⋅满足范数定义的三条是容易的,而要验证||||(1)p p ⋅<<∞是n C 上的向量范数,则需要著名hölder 的不等式:11111||||||||||()()nnnpq pqk kp q i i k k k a bx x αβ===≤=∑∑∑其中T 12(,,,)n a a a α= ,T 12(,,,)n n b b b β=∈ C ,p ,q 均为大于1的实数,且满足1/1/1p q +=.证明 当≠x 0时,x 至少有一个分量不为零,按定义显然有1/12||||(||||||)0p p p p p n x x x =+++>x .而且||||0=x 当且仅当=x 0.对任意k ∈C ,任意向量T 12(,,,)n n x x x =∈x C 按定义有11T 1211||||||(,,,)||()||()||nnp p ppp n p i i k k k kx kx kx kx k x k ======∑∑x x.对任意两个向量,n ∈x y C ,其中T 12(,,,)n x x x =x ,T 12(,,,)n y y y =y ,则111||||||nnpp kk k k k k k k xy x y x y -==+=++∑∑1111||||||||n np p k k k k k k k k x y x x y y --==≤+++∑∑利用hölder 的不等式,可得11(1)1111111(1)1111||(||)(||)(||)(||)p nnnp pppp pkk k k k k k k p nnp p pp pk k k k k xy x x y y x y ---===---==+≤+++∑∑∑∑∑1111111(||)(||)(||)n n np p pp p p k k k k k k k x y x y -===⎡⎤=++⎢⎥⎢⎥⎣⎦∑∑∑从而111111(||)(||)(||)nnnp p p pppk k k k k k k x y x y ===+≤+∑∑∑.定理1.1 (1)对任意1p q ≤<及任意的n ∈x C 有,||||||||q p ≤x x ;(2)对任意的n ∈x C 有,lim ||||||||p p ∞→∞=x x .证明(1)略 (2)设1max ||i i nx ≤≤=ω,则1111()()pp nnp ppiipk k x x ====∑∑xωωωω.由于1ix ≤ω,因而11nii x =≥∑ω,故11pnii x n =≤≤∑ω,所以1111()p nppii x n=≤≤∑ω.由L 'Hospital 法则可知,1lim1pp n →∞=,于是有lim ||||||||p p ∞→∞==x x ω.在实际应用中,常常利用已知范数构造出实用的新范数,下述定理就给出一种最简单的构造方法.定理1.2 设||||⋅是nC 上的范数,A 是秩为n 的m n ⨯复矩阵,则由()||||N =A x Ax ,n ∈x C所定义的实函数()N A x 是n C 上的范数.直接验证这样定义的实函数()N A x 满足范数的定义即可.推论 设A 是n 阶正定的复矩阵,则由||||=A x n ∈x C定义的实函数||||⋅A 是nC 上的范数.||||⋅A 是一种非常重要的向量范数,他在某些实际应用中常常是十分方便的.下图从左至右依次给出了在1-范数,2-范数和∞-范数下,平面上的单位圆(一维单位球面)一般地,我们将赋范线性空间V 中范数为1的向量的集合称为单位球面,范数小于等于1的向量的集合称为单位球。
赋范线性空间V 中的单位球与单位球面具有重要意义,因为在几何上,他们相当于实数轴上的单位闭区间或其端点,相当于平面上的单位圆盘或单位圆周,以及空间中的单位球或单位球面。
因此它们都是有界闭集(更精确地,是紧集)。
从数学分析课程中我们知道,连续函数在有界闭集上一定有最大值与最小值。
研究赋范线性空间V 中的连续函数或变换(算子)的一个重要技巧是设法将函数的定义域限制或转移到单位球或单位球面上。
定义1.2 设||||⋅α与||||⋅β是n 维线性空间V 的任意两种向量范数,若存在两个与向量x 无关的正常数12,c c ,使得对V 中所有向量x ,都有下面不等式成立.12||||||||||||c c ≤≤x x x βαβ.则称范数||||⋅α与范数||||⋅β是等价的。
定理1.3 设||||⋅α与||||⋅β是有限维线性空间V 的任意两种向量范数,则范数||||⋅α与范数||||⋅β是等价的。
在证明该定理时,可先证明,对V 中任意向量T 12(,,,)n x x x =x ,||||x α与||||x β都是n 个变量12,,,n x x x 的n 元连续函数,再利用连续函数在有界闭集有最大值与最小值这个性质.就可证明上述不等式.证明 设12,,,n εεε 是n 维线性空间V 的一组基,于是V 中的任意向量x 都可惟一的表示为1122n n x x x =+++x εεε.则1122||||||||n n x x x αα=+++x εεε.它可以看作是n 个坐标分量12,,,n x x x 的n 元函数,记为12||||(,,,)n x x x =x αϕ.则12(,,,)n x x x ϕ是坐标分量12,,,n x x x 的连续函数.事实上,设另一个向量为1122n n y y y =+++y εεε,112212||||||||(,,,)n n n y y y y y y ααϕ=+++=y εεε.则1212|(,,,)(,,,)|||||||||||||n n y y y x x x -=-≤-y x y x αααϕϕ111222||()()()||n n n y x y x y x =-+-++- αεεε111222||||||||||||||||||n n n y x y x y x ≤-+-++- αααεεε由于|||| (1,2,,)i i n = αε是常数,所以,当y 与 x 无限接近时,12(,,,)n y y y ϕ充分接近12(,,,)n x x x ϕ.这就说明向量范数11222||||||||n x x x εεε=+++x αα是坐标分量12,,,n x x x 的连续函数.同理可证,向量范数11222||||||||n x x x εεε=+++x ββ是坐标分量12,,,n x x x 的连续函数.当≠x 0时,||||0,||||0≠≠x x αβ,由于它们都是12,,,n x x x 的连续函数,因此,若设12||||(,,,)||||n f x x x =x x αβ,则12(,,,)n f x x x 也是12,,,n x x x 的连续函数.考虑单位超球面2221212{(,,,)||||||1}n n S x x x x x x =+++=由于S 有界闭集,且f 在S 上的值均不为零,因此,f 在上S 连续,根据多元连续函数的性质可知,12(,,,)n f x x x 在有界闭集S 上可取得最大值M 与最小值m ,即||||||||max0,min 0||||||||s sM m ∈∈=>=>x x x x x x ααββ.即||||0||||m M <≤≤x x αβ,S ∀∈x又由于对任意V∈x ,且≠x 0,则向量122222||||||||||||||||nx x x ==+++xy x x x x 为S 中的向量,从而有221||||||||||||||||01||||||||||||||||m M<≤==≤x y x x y x x x αααβββ.即||||||||||||m M ≤≤x x x βαβ.取12,m c M c ==,则有12||||||||||||c c ≤≤x x x βαβ.§2 矩阵范数本节将进一步把范数的概念推广到m ×n 矩阵上,一个m ×n 矩阵当然可以看作m ×n 维向量,因此可以按向量定义范数的办法来定义矩阵的范数.但是,由于在线性空间中只考虑加法运算与数乘运算,而在矩阵空间中,还必须考虑矩阵与向量以及矩阵与矩阵之间的乘法运算,因此在定义矩阵范数时,必须多一条反映矩阵乘法的公理.2.1 矩阵范数的概念与性质 定义2.1 对任意m n ⨯∈A C ,按照某种法则在m n ⨯C 上定义了一个实值函数A,它满足以下四个条件:1) 非负性:0≥A ,当且仅当=A O 时,0=A ; 2) 齐次性:k k =A A;3) 三角不等式: 对任意,m n ⨯∈A B C ,+≤+A B A B;4) 相容性: 当矩阵乘积AB 有意义时,有||||||||||||≤AB A B .则称实数A为矩阵A 范数.如前所述,我们若将m ×n 矩阵A 看成一个m ·n 维向量,那么很自然地就可仿照向量范数得出矩阵的几种范数,为简单起见,下面给出方阵的几种范数.例1 设()n n ij a ⨯=∈A C ,验证下面规定的实值函数111||||||nnm ij i j a ===∑∑A ,1,||||max ||m ij i j nn a ∞≤≤=⋅A ,212211||||(||)n nm ij i j a ===∑∑A ,都是矩阵范数.事实上,由于矩阵范数定义中的前三条与向量范数定义的三条类似,故它们满足矩阵范数定义的前三条是显然的,只须证明它们满足矩阵范数定义的第四条即可.1111111||||||||n n n n n nm ik kj ik kj i j k i j k a b a b =======≤∑∑∑∑∑∑AB111111(||)(||)||||||||nnn nij ij m m i j i j a b ====≤=∑∑∑∑A B .1,1,111,1||||max ||max ||||max(max ||||)n nm ik kj ik kj i j ni j nk k ik kj i j nk nn a b n a b n n a b ∞≤≤≤≤==≤≤≤≤=≤≤∑∑AB1,1,(max ||)(max ||)||||||||ik kj m m i k nk j nn a n b ∞∞≤≤≤≤≤=A B .2112222111111||||(||)((||||))n n nn n nm ik kj ik kj i j k i j k a b a b =======≤∑∑∑∑∑∑AB22122211111122221111((||)(||))(||)(||)||||||||n nn nik kj i j k k nnnnik kj m m i k k j a b a b ========≤≤≤∑∑∑∑∑∑∑∑A B .方阵()n n ij a ⨯=∈A C 的范数2||||m A 又称为佛罗贝尼乌斯(Frobenius )范数,简称F-范数,记作||||F A ,亦称欧几里德范数,它是矩阵最常用的范数之一.与向量范数类似.矩阵范数也有向量范数类似的性质,我们不加证明地给出如下定理. 定理m n ⨯C 上任意两个矩阵范数是等价的.这个定理的证明与向量范数等价性的证明完全类似.2.2 F-范数的性质 定理 2.1 设C是复数域,A 为m n⨯C 中的任意n 阶矩阵,若将A 按列分块为12(,,,)n ααα=A ,则221||||||||nFk F k α==∑A .其中k α为矩阵A 的第k 列.证明留给读者自己完成.定理2.2 设A 为m n⨯C中的任意m ×n 矩阵,则有1H2||||tr()F ⎡⎤=⎣⎦A A A .其中Htr()AA 表示矩阵H A A 的迹,也就是H A A 的主对角线上元素的和.证明 设m n⨯C中的任意m ×n 矩阵A 为111212122212n n m m mn a a a a a a a a a ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦A ,则12211||||(||)m nF ij i j a ===∑∑A .而112111112121222H 122221212m n n m m m mn n n mn a a a a a a a a a a a a a a a a a a ⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦A A1112211mi i i mi i i min in i a a aa a a ===⎡⎤*⎢⎥⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥*⎢⎥⎣⎦∑∑∑ 所以H1122111tr()mmmi i i i in in i i i a a a a a a ====+++∑∑∑A A22221211111||||||||m m m m ni i in ij i i i i j a a a a ======+++=∑∑∑∑∑ .故1H2||||tr()F ⎡⎤=⎣⎦A A A .定理2.3 设A 为m n⨯C中的任意m ×n 矩阵,,U V 是m 阶酉矩阵与n 阶酉矩阵,则有||||||||||||||||F F F F ===UA AV UAV A .证明 因为,U V 是m 阶酉矩阵与n 阶酉矩阵,所以有H H H H , ====U U UU E V V VV E由定理2.2知111H H H H222||||tr()()tr()tr()||||F F ⎡⎤⎡⎤⎡⎤====⎣⎦⎣⎦⎣⎦UA UA UA A U UA A A A .同理有 ||||||||F F =AV A .进而有||||||||F F =UAV A .定理2.4 设A 为m n⨯C中的任意m ×n 矩阵,则有1221||||()nF ii ==∑A σ. 其中12,,,nσσσ表示矩阵A的奇异值,且1210r r n +≥≥≥>=== σσσσσ.证明 设矩阵A 的奇异值分解为=A USV ,其中,U V 是m 阶酉矩阵与n 阶酉矩阵,12,diag(,,,)r ∑⎡⎤=∑=⎢⎥⎣⎦O S O O σσσ,则由定理2.3知1H2||||||||||||tr()F F F ⎡⎤===⎣⎦A USV S S S1H21H21212221tr()tr()tr ()ni i σ=⎡⎤∑∑⎡⎤⎡⎤⎡⎤==⎢⎥⎢⎥⎢⎥⎣⎦⎢⎥⎣⎦⎣⎦⎣⎦⎡⎤⎡⎤∑==⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦∑O O S S O O O O O OO .2.3矩阵的算子范数前面我们讨论了向量范数与矩阵范数的概念及性质,但在实际应用中,m ×n 矩阵和n 维向量常常以乘积形式出现,往往矩阵和向量是掺杂在一起的,由于一个m ×n 矩阵与一个n 维向量的乘积仍是一个n 维向量.因此,我们应该注意矩阵范数与相应的向量范数之间的关系,并建立它们之间的联系,这就是下面将要介绍的矩阵范数与向量范数的相容性问题.定义2.2 设,m n n ⨯∈∈A x C C ,如果对于取定的向量范数||||x α和矩阵范数||||A β满足下列不等式||||||||||||≤Ax A x αβα.则称向量范数||||x α与矩阵范数||||A β是相容的.例2 设T 12(,,,)nn x x x =∈x C ,()n nij a ⨯=∈A C .证明:向量范数12221()ni k x ==∑x 与矩阵范数122F 11||||(||)n nij i j a ===∑∑A 是相容的证明 若将A 的第i 行记为(1,2,,)i i n α= ,于是11112211211222221122n n n n n n nn n n a x a x a x a x a x a x a x a x a x ααα+++⎡⎤⎡⎤⎢⎥⎢⎥+++⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎢⎥+++⎢⎥⎣⎦⎣⎦x x Ax x由柯西-施瓦茨不等式,有H H 22|||(,)|||||||||i i i ααα=≤x x x ,因此222222222F 211||||||||||||||||||||||nni i i i αα===≤=∑∑Ax x x A x .故2F 2||||||||||||=Ax A x ,即F||||A 与2||||x 是相容的.例 3 设T 12(,,,)nn x x x =∈x C ,()n nij a ⨯=∈A C .证明:向量范数11nik x ==∑x 与矩阵范数111||||||nnm ij i j a ===∑∑A 是相容的.证明 由于11111||||||||||n n n nik k ik k i k i k a x a x =====≤∑∑∑∑Ax11111(||)||||||||||n n nik k m i k k a x ===≤=∑∑∑A x .故1||||m A 与1||||x 是相容的.矩阵A 的范数F||||A 与向量x 的范数2||||x 相容的性质反映了这样一个事实:F ||||A 可以看成x 的像Ax 的2-范数||Ax ||2与x 的2-范数||x ||2之比的一个上界,即2F 2||||||||||||≤Ax A x .当2||||1=x 时,就有2F ||||||||≤Ax A .因此可以用上界F ||||A 来评判线性变换(算子)A(对应的矩阵为A )的映射效果.但是,这种用上界估计映射效果是比较粗糙的,所以,改用2||||Ax 的最小上界(即上确界),即 122||||1||||sup ||||=≤x Ax Ax .然而,上确界12||||1sup ||||=x Ax 这个实函数是否也是矩阵范数呢?如果是矩阵A 的范数,用它来评判线性算子A的映射效果应该是最精确的.这个问题就是下面讨论的所谓矩阵“算子范数”问题,这可由下述定理给出.定理2.5 设||||⋅是nC 上的一个向量范数,A 为m n⨯C中的任意m ×n 矩阵,则实值函数M ||||1||||max ||||==x A Ax是m n⨯C上的一个矩阵范数,且与已知的向量范数||||⋅相容.证明 首先,由范数等价定理知,点集{}||||1n∈=x x C是n C 上的有界闭集,而且向量范数||||⋅是nC 上的连续函数,因此对每个矩阵A 而言,这个最大值是可以取到的,也就说,能够找到这样的向量0x ,使得0||||1=x ,而0M ||||||||=Ax A .其次,有向量范数的定义可知,对任意非零向量y ,则1||||=x y y 满足条件||||1=x ,于是M M ||||||(||||)||||||||||||||||||||||||||==≤=Ay A y x y Ax y A A y .故M||||A 与||||x 是相容的.下面证明如上定义的M ||||A 是矩阵范数.(1)当A 为非零矩阵时,必可找到非零向量0x ,使0≠Ax 0,从而00M 0||||||||||||<≤Ax x A .而0||||0>x ,所以M ||||0>A ,即M ||||A 满足正定性.另外,显然,M ||||0=A ,当且仅当=A O .(2)对任意k ∈C ,m n ⨯∈A C ,有M M ||||1||||1||||max ||||||max ||||||||||k k k k =====x x A Ax Ax A .即M ||||A 满足齐次性.(3)设m n⨯∈B C,对于矩阵+A B ,可以找到向量0x ,使得0||||1=x 和M 0||||||()||+=+A B A B x ,于是M 00000M M||||||()||||||||||||||||||||||+=+=+≤+≤+A B A B x Ax Bx Ax Bx A B .(4)设n l⨯∈B C,对于矩阵AB ,可以找到向量0x ,使得0||||1=x 和M 0||||||()||=AB AB x ,于是M 00M 0||||||()||||()||||||||||==≤AB AB x A Bx A BxM M 0M M ||||||||||||||||||||≤=A B x A B .即M ||||A 是矩阵A 的范数.定义2.3 设||||⋅是nC 上的一个向量范数,A 为m n⨯C中的任意m ×n 矩阵,则m n⨯C上的矩阵范数M ||||1||||max ||||==x A Ax ,称为由向量范数||||⋅诱导出的矩阵算子范数,简称算子范数;有时也称作从属于向量范数||||⋅的矩阵范数.显然,n 阶单位矩阵E 的从属于任何向量范数的算子范数||||1||||max ||||1===x E Ex ,而对于单位矩阵E 的非算子范数,如1F ||||,||||m n ==E E ,他们都大于1,由于=x Ex ,所以||||||||||||≤x E x ,当||||1=x 时,有||||1≥E .这说明单位矩阵的算子范数是所有与向量范数||||x 相容的矩阵范数||||E 中值最小的一个.上面的论述表明,矩阵范数是与向量范数密切相关的,有什么样的向量范数就有对应的矩阵范数,当在定理2.5中取向量范数为p-范数时,所得到矩阵算子范数称为矩阵的p-范数,记为||||p A .因为向量的1-范数,2-范数,∞-范数是向量最常用的三种范数,因而矩阵的1-范数,2-范数,∞-范数也是矩阵最常用的三种范数,如果用定义求这三种范数是不方便的.下面的定理给出了用A 的元素及A H A 的特征值表示矩阵的这三种常用范数的值.定理2.6 设()m n ij a ⨯=∈A C ,T 12(,,,)n n x x x =∈x C .则从属于向量x 的三种范数12||||,||||,||||∞x x x 的算子范数依次为(I )111||||max ||mij j ni a ≤≤==∑A (也称为列和范数); (II )11||||max ||nij i nj a ∞≤≤==∑A (也称为行和范数); (III)2||||==A A 的最大奇异值(也称为谱范数).其中H max ()A A λ是矩阵H A A 特征值绝对值的最大值.证明 (I )设11nik x ==∑x =1,则1111111||||||||||||||n n n n n nij j ij j ij j i j i j j i a x a x a x =======≤=∑∑∑∑∑∑Ax1111111(||)||max ||||max ||n n m n mij j ij j ij j nj nj i i j i a x a x a ≤≤≤≤======≤=∑∑∑∑∑.所以,111||||max ||mij j ni a ≤≤=≤∑A .设在0j j =时,1||mij i a =∑达到最大值.即111||max ||mmij ij j ni i aa ≤≤===∑∑.取向量T 0(0,,0,1,0,,0)=x ,其中第0j 个分量为1,显见01||||1=x ,而且00111111||||||||max ||mnmmij j ij ij j ni j i i a x a a ≤≤=======∑∑∑∑Ax .于是111||||111||||max ||||max ||mij j ni a =≤≤===∑x A Ax(II )设1max ii nx ∞≤≤=x=1,即则111111||||max ||max ||||max ||n n nij j ij j ij i ni ni nj j j a x a x a ∞≤≤≤≤≤≤====≤≤∑∑∑Ax .所以,11||||max ||nij i nj a ∞≤≤=≤∑A .设在0ii =时,1||nij j a =∑达到最大值.即0111||max ||nni jij i nj j aa ≤≤===∑∑.取向量T012(,,,)n x x x =x ,其中0000||,01 0.i j i j i j j i j a a a x a ⎧≠⎪=⎨⎪=⎩当;,当, 易知,1max ii nx ∞≤≤=x =1,且当0i i =时,01111||||max ||n n ni j j i j i j i nj j j a x a a ≤≤=====∑∑∑,即Ax 至少有一个分量为11max ||nij i nj a ≤≤=∑.从而011||||max ||nij i nj a ∞≤≤=≥∑Ax .于是||||111||||max ||||max ||nij i nj a ∞∞∞=≤≤===∑x A Ax .(III )因为H A A 是Hermite 矩阵,且由H H H 22()()||||0==≥x A Ax Ax Ax Ax知,H A A 是半正定的,从而它的特征值都是非负实数,设为12,,,0n ≥ λλλ.由于H A A 是Hermite 矩阵,因此,它具有n 个相互正交的且2-范数为1的特征向量12,,,n x x x ,并设它们依次属于特征值12,,,,n λλλ于是,任何一个2-范数2||||1=x 的向量x ,总可以用这些特征向量线性表示,即有1122n n a a a =+++x x x x由于HHH111()n n nk k k k k k k k k k a a a ======∑∑∑A Ax A A x A Ax x λ.因此有2HHHH 21111||||()()()()n n n nk k k k k k kk k k k k k k a a a a =======∑∑∑∑Ax x A Ax x x x x λλ221111||||n nk k k k k a a ===≤=∑∑λλλ.从而有222||||1||||max ||||==≤x A Ax 另一方面,由于12||||1=x ,而且2H H H 12111111||||()===Ax x A Ax x x λλ.所以22212||||1||||max ||||||||==≥=x A Ax Ax例3 设2124⎡⎤=⎢⎥⎣⎦A ,求1||||A ,2||||A ,||||∞A ,1||||m A ,F ||||A ,||||m ∞A解 由定理2.6及例1可知,1||||5=A ,2||||=≈A 4.844,||||6∞=A ,1||||12249m =+++=A ,F ||||5==A ,||||2max{1,2,2,4}8m ∞==A .定理2.7 设n n ⨯∈A C ,则(1)22H 2||||||||1||||max ||===x y A y Ax ;(2)H T 222||||||||||||==A A A ;(3)H 222||||||||=A A A ; (4)221||||||||||||∞≤A A A ;(5)对任意n 阶酉矩阵,U V 恒有,22||||||||=UAV A .证明 (1)对满足22||||||||1==x y 的x 与y ,施瓦茨不等式及定理2.5有H222||||||||||||||≤≤y Ax y Ax A 施瓦茨不等式.又设有2||||1=x 的x ,并使22||||||||0=≠Ax A ,若令2||||=Axy Ax ,就有2H2222||||||||||||||||||===Ax y Ax Ax A Ax .从而22H 2||||||||1||||max ||===x y A y Ax .(2)222222H H H 2||||||||1||||||||1H HH2||||||||1||||max ||max |()|max ||||||==========x y x y x y A y Ax y Ax x A y A .222222H H T 2||||||||1||||||||1T TT2||||||||1||||max ||max |()|max ||||||==========x y x y x y A y Ax y Ax x A y A(3)由H H 222||||||||||||≤A A A A 及H 22||||||||=A A ,可知H 222||||||||≤A A A . 设2||||1=x 的x ,并使22||||||||=Ax A ,于是22H H H 22222||||1||||1||||max ||max ||||||||==≥==x x A A x A Ax Ax A . 故有H 222||||||||=A A A . (4)设λ是H A A 的最大特征值,对应的特征向量为x ,即H =x A Ax λ,因此H H 1111111||||||||||||||||||||||||||||||||||∞==≤≤x x A Ax A Ax A A x λλ.两边消去1||||x 可得,1||||||||||∞=≤A A λλ,即221||||||||||||∞≤A A A .(5)令H ,==v V x u Uy ,则2222||||1||||1,||||1||||1=⇔==⇔=x v x u ,于是2222H H 22||||||||1||||||||1||||max ||max ||||||=======v u x y UAV u UAVv y Ax A .§3 矩阵的谱半径及其性质定义3.1 设n n ⨯∈A C ,12,,,n λλλ是矩阵A 的特征值,则称12max{||,||,,||}n λλλ为A 的谱半径.记为()A ρ,即12()max{||,||,,||}n =A ρλλλ.谱半径的几何意义为:以原点为圆心,包含A 的全部特征值的圆半径中最小的一个. 定理3.1 对任意矩阵n n ⨯∈A C 和n n ⨯C 上的任一矩阵范数||||⋅,总有()||||≤A A ρ.即A 的谱半径不会超过A 的任何一种范数.证明 设λ是A 的任一特征值,x 是相应的特征向量,则有=Ax x λ,再由矩阵范数的相容性条件,有||||||||||||||||||||||==≤x x Ax A x λλ.即有||||||≤A λ,故()||||≤A A ρ.此定理称为特征值上界定理.特别地,如果A 为正规矩阵,则由下面的结果. 定理3.2 设n n ⨯∈A C ,且A 为正规矩阵,则2()||||=A A ρ.证明 由于A 为正规矩阵,所以存在酉矩阵U ,使H 12diag(,,,)n ==U AU Λ λλλ于是由定理2.7及定理2.5知H 222||||||||||||===A U AV Λ()===A ρ.例4 求矩阵1231i i -⎡⎤=⎢⎥+⎣⎦A 谱半径及1,2,∞-范数,并验证定理3.1的正确性.解 因为2d et ()(1)5-=--E A λλ,所以A 的特征值为11=λ,21=λ,从而()1=A ρ又1||||||||3∞==A A 而H 131211552131556i i i i i i +-+⎡⎤⎡⎤⎡⎤==⎢⎥⎢⎥⎢⎥-+-⎣⎦⎣⎦⎣⎦A A .H 2det()1716-=-+E A A λλλ,因此,H A A的特征值为H H 12()16,()1==A A A A λλ,于是 2||||4=A =.因此1()||||≤A A ρ,2()||||≤A A ρ,()||||∞≤A A ρ.例4 设n n ⨯∈A C ,则对任一正整数k ,都有()[()]k k =A A ρρ.证明 设A 的n 个特征值是12,,,n λλλ,则k A 的n 个特征值是12,,,k k k n λλλ, 于是()max ||(max ||)[()]k k k k i i i i===A A ρλλρ.定理3.3 设n n ⨯∈A C ,对任意的正数ε,存在某种矩阵范数M ||||A ,使得M ||||()≤+A A ρε.证明 根据Jordan 定理 ,存在可逆矩阵n n ⨯∈P C ,使得1-=P AP J .记 12diag(,,,)n =Λ λλλ;1210000n -⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦T δδδ,0i δ=或1. 则有=+J ΛT .这里12,,,n λλλ是A 的n 个特征值.令1diag(1,,,)n -=D εε则有11()()--==+PD A PD D JD ΛT ε.若记=S PD ,则S 可逆,且有111||||||||()-=+≤+S AS ΛT A ερε.容易验证,1M 1||||||||-=A S AS 是n n ⨯C 上的矩阵范数,于是1M 1||||||||()ε-=≤+A S AS A ρ.定理3.1及定理3.3说明谱半径不是n n ⨯C 上的矩阵范数,但是对于给定的矩阵A ,它是A 的所有矩阵范数的最大下界.需要指出的是,定理3.3中构造的矩阵范数M ||||A 与给定A 的矩阵密切相关.对于其它的矩阵B ,不等式M ||||()≤+B B ρε一般不成立.习题1. 设||||x 是n C 中的向量范数,取n n ⨯∈C A ,证明||||Ax 是n C 中的向量范数的充分必要条件为A 是可逆矩阵。