5-3 向量范数和矩阵范数的相容

合集下载

范数

范数

‖Ax‖≤‖A‖‖x‖
则称矩阵范数‖A‖与向量范数‖x‖相容.
Frobenius范数:
|| A ||F
| a ij |2 (向量|| ·||2的直接推广)
i 1 j 1
n
n
|| 可以证明,对方阵 A R nn和 x R n 有: , Ax ||2 || A ||F || x ||2
|| A || 1

② ( I A)1 A( I A)1 ( I A)( I A)1 I
( I A)1 I A( I A)1
|| ( I A)1 || 1 || A || || ( I A)1 ||
§1.5 线性方程组的性态(误差分析)
算子范数 ( operator norm ),又称为从属的矩阵范数: 由向量范数 || · p 导出关于矩阵 A Rnn 的 p 范数: ||
利用Cauchy 不等式 则 || AB ||p || A ||p || B ||p || Ax ||p || A ||p max max|| Ax ||p y | ||x || || y || |x 2 2 x 0 || x|| p 1 || x ||p || Ax || || A || || x ||
如果lim xki=xi对所有的i=1,2,…,n成立,
那么,称向量x*是向量序列{xk}的极限 , 若一个向量序列有极限,称这个向量序列是收敛的.
定理1.4.2 对任意一种向量范数‖· ‖而言,向量 序列{xk}收敛于向量x*的充分必要条件是
lim || xk x || 0
* k
矩阵范数 ( matrix norms )
2 2 || A || 1,|| B || 1,|| AB AB 2 2 || AB |||| A |||| B || 从而

第五章--向量范数和矩阵范数

第五章--向量范数和矩阵范数
圆范数。
当 x 时,|| x ||A 0 ;当 x θ 时由 A 对称
正定知 xH Ax 0 ,即 || x ||A 0 。
对于任意 k C ,有 || k x ||A (kx)T A(kx) | k | xT Ax | k | || x ||A
由于 A 为Hermite正定矩阵,故存在酉矩阵 U ,使得
|| x ||2
| x1 |2 | x2 |2
| xn |2
定义的|| ||2 是 F n上的向量范数,称为2-范数或 l2
范数,也称为 Euclid 范数。
例 7 对任意 x ( x1, x2, , xn) T F n,由
|| x ||p
1/ p n
| xi |p , p 1
i1
定义的|| ||p 是 F n 上的向量范数,称为p -范数或 lp
UT AU Λ diag( λ1, λ2, , λn)
这里 A 的特征值 λi (i 1, 2, , n) 都为正数。
从而有
A UΛUT U Λ Λ UT BT B
此时
|| x ||A xT Ax xT BT Bx (Bx)T Bx || Bx ||2
因此对任意 y C n , || x y ||A || B( x y) ||2
数 || A || 表示对于任意向量 x F n , A 可以 “拉伸”向量 x 的最大倍数,即使得不等式
|| A x || C || x || 成立的最小的数 C 。称 || A || 为范数 || || 和 || ||
j1
n
| xj
j1
yj |; yj |;
yj |;
1
yj |m m;
以及与椭圆范数类似的Mahalanobis距离:

向量与方阵的范数

向量与方阵的范数

x2 L xn ) ∈ R n , n 维向量空间 R n 上常用的向量范数有:
T
2 2 2
(1) .2-范数: || x || 2 = x1 + x 2 L + x n ; (2) .1-范数: || x ||1 =| x1 | + | x 2 | + L + | x n | ; (3) . ∞ 范数: || x ||∞ = max{ xi };
− A → 0 (k → ∞) 。
练习
⎛ 2 − 4⎞ ⎛ 1 ⎞ 1.设 A = ⎜ ⎟,x = ⎜ ⎟ 。求: x 1 , x 2 , x ∞ , A 1 , A 2 , A ∞ 。 ⎜1 − 3⎟ ⎜ − 2⎟ ⎠ ⎝ ⎝ ⎠
2.设 A 是 n × n 矩阵,证明: n −1 A 2 ≤ n
−1 2
1≤i ≤ n
(4) . p -范数: x
p
=
p
x1 + L + xn
p
p

可以证明,它们满足定义 1 中的三条性质。 例1 解:
|| x || 2 = 12 + ( −3) 2 + 0 2 + 2 2 = 14 ;
计算向量 x = (1 − 3 0 2 ) 的 2-范数,1-范数, ∞ 范数和 4-范数。
n
1≤ j ≤ n
(1)1-范数: A 1 = max ∑ aij ;
i =1
(2) ∞ 范数: || A || ∞ = max ∑ aij ;
1≤i ≤ n j =1
n
(3)2-范数: || A || 2 = λ max , λ max 为 AT A 的最大特征值; (4)Frobenius 范数: || A || F =

向量范数与矩阵范数的相容性

向量范数与矩阵范数的相容性

x v 1
v
例3 证明由n维向量的1-范数, ∞-范数和2-范数
所诱导的算子范数分别是(设A=(aij)n×n)
n
(1)
A
1

max j
i 1
aij
为从属于向量1 – 范数的矩阵范数
列模和之最大者:列和范数
n
(2)
A


max i
j 1
x
F
2
因此,可以用||A||F来刻画变换A 的结果。
对于给定的某种向量是否一定存在与它相容的矩阵 范数?
任意一个矩阵范数都有与之相容的向量范数吗?
从属于向量范数的矩阵范数
定理1 给定C n 上的向量范数 v ,ACnn 定义
Ax A max v
x x v

是Cnn上与向量范数
aij
2
2

与向量范数
证明:设 A (aij ) C n,n x 1,2 , ,n T C n
Ax 2
n i 1
a n
2
k 1 ik k

n(
i 1
n k 1
aikk
)2

n (
i 1
a n
k 1 ik
k )2

n [(
i 1
n k 1
aik
2 )(
n k 1
k
2
)]

n i 1
a n
2
k 1 ik
n
2
k1 k
A x
F
2
||A||F 与 ||x||2 相容的性质反映了 ||A||F 是像 Ax 的2-范 数 ||Ax||2 与原像 x 的2-范数之比的最大值,即

矩阵范数理论及其应用

矩阵范数理论及其应用

第四章 矩阵范数理论及其应用知识要点:1、向量范数及其性质(范数与赋范空间,n 维向量的1-范数1x 、2-范数2x 、p -范数px 和∞范数x∞,pp lim xx ∞→∞=,aP a xPx =,2H H PxPx x P Px ==,有限维赋范空间的范数是等价的)2、矩阵范数及其相容性(Frobenius 范数,FEn =,相容性:AB A B ≤,1E ≥)3、算子范数(定义,列范数,行范数,谱范数)4、矩阵范数的应用(矩阵序列及幂级数的收敛性,矩阵条件数,摄动理论、矩阵的谱半径)§4.1 向量范数及其性质一、范数与赋范线性空间定义1:如果线性空间V 中的任一向量x ,都对应—个实值函数()f x (记为x ),并满足以下三个条件(称为范数公理):(1)非负性:0x ≠时, x >0;0x =时, x =0。

(2)齐次性:ax =a x ,a K ∈,x V ∈。

(3)三角不等式:x y +≤x +y ,,x y V ∈。

则称x 为V 上向量x 的范数(norm ),V 称为赋范线性空间(normed linear space )。

易证x y -满足距离公理,称之为x 与y 的范数诱导的距离。

若0n x x -→,则称nx 收敛于x ,记为n x x →。

例1:对于连续函数空间[,]C a b 中的向量()f x ,可如下定义范数为:1()()baf t f t dt =⎰,()max ()a t bf t f t ∞≤≤=,1()()bpppa f t f t dt ⎡⎤=⎢⎥⎣⎦⎰,1p ≤<∞。

分别称之为1-范数,∞-范数,p -范数。

注:需要用到数学专业的一些函数不等式,才能证明上述范数的正确性。

性质1:对于赋范线性空间V 上任意的x ,定义实函数()f x x =,则()f x 为V 上的连续函数,即0x x →时,0()()f x f x →,其中0x V ∈。

向量和矩阵的范数

向量和矩阵的范数

|| k Ax || | k ||| Ax || 2) || k A || max max | k ||| A || x0 x0 || x || || x || || Ax || 3) 由 || A || max ,则 || Ax |||| A |||| x || x R n x 0 || x || 于是 || ( A B ) x || || Ax Bx |||| A |||| (|| A || || B ||) || x ||
法则对应于一非负实数 ||
n
则称 || x || 为向量x的范数。
常见的向量范数
设向量x ( x1 , x2 ,..., xn )T || ||
x || | x |
1 i 1 i
n
x || || x ||
( | xi | ) ( x, x) ( xT x) 2
i 1
3.5 病态方程组与矩阵的条件数
例3.5.1 设线性方程组 0.99 x1 1.99 1 0.99 0.98 x 1.97 2 试分析系数矩阵和右端项有微小扰动, 解将产生 什么样的变化 ? 解 该方程组的精确解为x (1,1)T 。

||
Hale Waihona Puke x ||2 n ||
x ||

1 例如 : || n
1 n x ||1 | xi | || n i 1
x ||

max{| xi |} | xi |
1i n i 1
n
向量的收敛性
定义3.4.2 设R n中一向量序列{ x ( k ) }( k 1,2,...), 其中 (i 1,2,..., n)

矩阵范数理论及其应用

1
n 2 2 x k k E ,成立着 A x k B x 。 k 1 k 1
证明: x

k 1 k
n
k
0 时,令 y
x

k 1
n
, f (1 , 2 ,
2 k
, n ) y ,则 f (1 , 2 ,
p p
n 定理 1:对于 n 维向量 x C , lim x
x 。
注:几何意义上,向量 PQ 的 2-范数、 ∞-范数和1-范数分别是斜边 PQ 长度、直角边 PR 长 度以及两直角边 PR 和 RQ 的长度之和。
三、范数的等价性
定义 3:对任意 x V ,满足不等式 C1 x

x
j 1
设 A ( aij ) C
n
n n
, x (1 , 2 ,
, n )T C n , 令 Ax y (1 ,2 ,
,n )T , 其 中
,n。 i a i j j, i 1, 2,
j 1
Ax

y

max i max aij j max ( aij j ) x max aij 。
中范数,且 P, Q C
F
都是酉矩阵,则
n n
PA
F
AQ
F
A F ,即给 A 左乘或右乘以酉矩阵后其
值不变 (在 A R
时P 和
Q 都是正交矩阵 )。
证明: PA
F
[tr ( AH P H PA)] 2 [tr ( AH A)] 2 A F 。
1
1
由 A
F
( aij )

向量范数与矩阵范数

(2) 对任意的数 k∈R,有
kA max kAx k max Ax k A .
x 1
x 1
(3) 对任意的n×n矩阵 A 和 B, 有
A B max (A B)x max Ax Bx
x 1
x 1
max Ax Bx x 1
max Ax max Bx A B
正定性三角不等式积的范数小于等于范数的积矩阵范数与向量范数的相容性定义给定向量范数和矩阵范数如果对任和任意的nn矩阵a它们总满足则称所给的矩阵范数与向量范数是相容的
§1.3 向量范数与矩阵范数
为了研究线性方程组近似解的误差估 计和迭代法的收敛性,我们需要对 Rn 中 向量或 Rn×n 中矩阵的“大小”引进某种 度量----向量或矩阵的范数。向量范数是 三维欧氏空间中向量长度概念的推广,在 数值分析中起着重要作用。
1.3.1 向量范数
向量的范数是刻画向量大小的量, 又叫向量的模.
❖定义 Rn 上的实值函数‖·‖称为向量范数,如果 对任意的 x, y∈Rn, 它均满足下列3条性质:
(1)正定性: || x ||,且 0 x 0;|| x || 0
(2)齐次性:对 k ,有R
|| kx |;|| k | || x ||
以及
A. F
解 x | 3| | 5| |1| 9, 1
x 32 (5)2 12 35 2
x max{| 3|,| 5|,|1|} 5,
|1| | 2 | | 3 |,
A
1

max

|
5
|

|1|

|
8
|,

2.2-2 矩阵范数与向量范数的相容性

矩阵论/矩阵分析视频公开课武汉理工大学理学院统计学系金升平本视频内容:矩阵范数与向量范数的相容性矩阵范数诱导的向量范数矩阵范数与向量范数的相容性的概念,为矩阵与向量的联合起来进行分析,提供了理论保障“矩阵范数诱导的向量范数”将告诉我们:对于任意矩阵范数,都可找到与之相容的向量范数二、矩阵范数与向量范数的相容性1. 矩阵范数与向量范数的相容性定义3,v m v Ax A x ≤⋅则称矩阵范数∙m 与向量范数∙v 相容.设∙m 是Cn×n上矩阵范数,∙v 是C n上向量范数,如果, ,n nnA Cx C ⨯∀∈∈下标使用的原因:矩阵--m atrix ,向量--v ector定理1(1) 矩阵范数分别与相容;1, m F ⋅⋅12, ⋅⋅(2) 矩阵范数与向量范数相容.m ∞⋅12, , ∞⋅⋅⋅以矩阵范数与向量范数为例证之.1m ⋅1⋅设(),n nij A a C⨯=∈()12,,,.Tnn x x x x C =∈则11111nnnnij j ij i j i j jAx a x a x =====≤∑∑∑∑和的绝对值小于等绝对值之和。

将x j 放大11111.n n ij m i j nk k a x A x ===⎛⎫⎪⎝≤⎭=⋅∑∑∑2. 由矩阵范数诱导的向量范数, .Hnvmx xax C =∈设是上一个矩阵范数,取,0.na C a ∈≠且m⋅n nC⨯定义可以证明,它是上的向量范数,称为由矩阵范数nC ∙m所诱导的向量范数.事实上,(1) 正定性:当0≠x ∈C n时,xa H≠OHvmxxa =>而当x =0Hxxa ==(2)齐次性:当时,C λ∈HHvvmmxxaxaxλλλλ===(3)三角不等式:()HH Hv mmx y x y axa ya+=+=+HHmmxaya≤+v vx y=+定理2Cn×n上任意一矩阵范数∙m与它所诱导的向量范数∙v 相容.()Hv mAx Ax a=证明只需证相容性即可()HmA xa=()Hm mA xa≤m vA x=See you next time武汉理工大学理学院统计学系金升平矩阵论/矩阵分析视频公开课矩阵范数与向量范数的相容性矩阵范数诱导的向量范数(完)下一讲内容:向量范数诱导的矩阵范数。

向量与矩阵的范数


那么
n
X X H *
xi
X 1
i 1
矩阵旳谱半径及其性质
定义:设 A C mn ,A 旳 n 个特征值为 1, 2, , n ,我们称
( A) max{ 1 , 2 , , n }
为矩阵 A 旳谱半径。 例 1 :设 A C mn ,那么
( A) A
这里 A 是矩阵 A 旳任何一种范数。
F
F
于是有
AB A B
F
F
F
例 4 :对于任意 A C nn ,定义
A
[Tr
(
AH
A)]
1 2
证明如此定义旳 A 是矩阵 A 旳范数。
证明: 首先注意到这么一种基本事实,

[Tr( AH
1
A)] 2
(
m
n
aij
2
)
1 2
i1 j1
由一种例题可知此定义满足范数旳性质。
Frobenious范数旳性质:
(1)' n
1
(2)' n
2
1
2
(3)' n
2
引理(Hoider不等式):设
a1, a2, , an T , b1, b2, , bn T Cn

n
n
aibi (
ai p ) 1 p ( n
bi
q)
1 q
i 1
i 1
i 1
其中 p 1,
q1 且
1p
是矩阵范数。
证明:非负性,齐次性和三角不等式轻易 证得。目前我们考虑乘法旳相容性。设
A C nn , B C nn ,那么
n
n
AB
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

的向量范数。 的向量范数。如果对任意的 A ∈ C n×n ( R n×n ), x ∈ C n ( R n ) 都有: 都有: Ax α ≤ A β x α
Department of Mathematics
则称矩阵范数 A β 与向量范数 x α 是相容的
定理1: 范数和F- 范数分别与 定理 :在Cn×n上的矩阵 m − 1 范数和 上的向量1–范数和 范数和2–范数相容 定义 在 Cn 上的向量 范数和 范数相容
≤ =
∑ [(∑
n i=1 n
n
k =1
aik )(∑k=1 ξk )]
2 2
∑ ∑
i=1
n k =1
aik

n k =1
ξk
2
= AF⋅ x 2
所以,矩阵的 范数与向量的2 所以 矩阵的F – 范数与向量的 – 范数相容 矩阵的
Department of Mathematics
定理2: 上的矩阵 m∞ − 上的向量1定理 : n×n 范数与Cn上的向量 、2 -、 、 C 范数均相容 ∞− 证明: 证明:矩阵 m∞ − 范数与向量∞−范数的相容性
(1), (2),
A = max Ax
x γ =1
γ γ
y = x ⇔ x v =1 令 yv
A = max Ax
x γ ≤1
都是由 • γ 诱导出的算子范数
y = max A y≠0 yv
证(1) A = max
y≠0
Ay v yv
Ay = max y≠0 yv : x v = 1}
v
v
= max{ Department of MathematicsAx v
x≠0
= A+B
Ax v xv
)≥
Ax v xv
Ax v ≤ A x v
Department of Mathematics
即矩阵范数

相容, 与向量范数 ⋅ v相容,由于此条件
是矩阵范数定义第4条 相容性) 是矩阵范数定义第 条(相容性)的必要条件
AB ≤ A ⋅ B
• γ 是 C n ( R n ) 上的向量范数 则 定理3: 上的向量范数,则 定理 设
A = (aij ) ∈Cn×n x = (ξ 1 , ξ 2 ,⋯ , ξ n )T ∈ C n 证明: 证明:设 ,
Ax 1 = ∑i=1 ∑k=1 aikξk ≤ ∑i=1(∑k=1 aik ξk )
n n n n
≤ ∑i=1[(∑k=1 aik )(∑k=1 ξk )]
n n n
= (∑i=1 ∑k=1 aik )(∑k=1 ξk )
n n n
= Am x
1
1
Department of Mathematics
再证矩阵的F 范数与向量的2 再证矩阵的 – 范数与向量的 – 范数相容
Ax 2 =
n
Ax, Ax =
n 2
∑ ∑
n i=1
n 2Leabharlann nk =1 ik k

2
Cauchy-Schwarz不等式 不等式 n n 2 ≤ ∑i=1(∑k=1 aikξk ) = ∑i=1(∑k=1 aik ξk )
A 是 C n×n ( R n×n ) 上的矩阵范数, x 是C n ( R n ) 上的矩阵范数, 若
(R 上的向量, Ax 仍是C n ( R n )上的向量, 上的向量范数, 上的向量范数,由于
所以: 所以: Ax ≤ A x
n× n n× n n n x 定义1:设 上的矩阵范数, 定义 设 A β 是C ( R ) 上的矩阵范数, α 是 C ( R )上
A = max
x≠0
Ax v xv
相容的矩阵范数, 则 ⋅ 是Cn×n上与向量范数 ⋅ v相容的矩阵范数, 导出的算子范数 从属于向 算子范数或 称 ⋅ 为由向量范数 ⋅ v 导出的算子范数或从属于向 量范数 ⋅ v的矩阵范数 证明:在证 ⋅ 是矩阵范数的过程中,很容易证得 证明: 是矩阵范数的过程中, 其绝对齐性和正定性, 其绝对齐性和正定性,下面只证 ⋅ 满足三角不等 式和相容性。 式和相容性。
定理4: 定理 (1) 设A = (aij )∈Cn×n ,则:
A 1 = max ∑i=1 aij
n j
列模和之最大者: 列模和之最大者:列和范数
从属于向量 范数的矩阵范数 向量1 为从属于向量 – 范数的矩阵范数 (2)
A ∞ = max ∑j=1 aij
n i
行模和之最大者: 行模和之最大者:行和范数
为从属于向量2 为从属于向量 – 范数的矩阵范数 (3) A = λM 2
λM = max{λ :det(λI − AH A) = 0}
谱范数
为从属于向量 ∞−范数的矩阵范数
Department of Mathematics
证明: 证明 令
A 1 = max
x≠0
Ax 1 x1
Ax v xv
A 2 = max
2 2
AV 2 = V H AH = AH = A 2
UAV 2 = AV 2 = A 2
Department of Mathematics
3. 当A是正规矩阵时,存在 阶酉矩阵 ,使得 是正规矩阵时, 阶酉矩阵U, 是正规矩阵时 存在n阶酉矩阵
U H AU = diag(λ1 λ2 ⋯ λn )
AH
2
的 个特征 λ2 ⋯ λn 是A的n个特征 1 值,则 A 2 = max λk k
λM = max{λ :det(λI − AH A) = 0}
′ λM = max{λ :det(λI − AAH ) = 0}
′ = λM
( AH A)H = AH A
Department of Mathematics
(U H AU)H = U H AHU = diag(λ1 λ2 ⋯ λn )
(U H AU)H (U H AU) =U H AHUU H AU =U H AH AU
= diag(λλ1 λ2λ2 ⋯ λnλn ) = diag( λ1 1
A 2 = max{λ :det(λI − AH A) = 0}
x≠0
Ax 2 x2
A ∞ = max
x≠0
Ax ∞ x∞
A = max
x≠0
A = max{ Ax v : x v =1 }
取 x 1 =1,得 A 1 = max ∑i=1 aij j
n
Ax 1 x1
≤ A1
Ax 2 x2
Ax ∞ x∞
≤ A 2 取 x 2 =1 , 得
A 2 = max{λ :det(λI − AH A) = 0}
≤ A ∞ 取 x =1,得 ∞
A ∞ = max ∑j=1 aij
n i
Department of Mathematics
A 2 范数的性质
设 1.
A∈C , 和 是 阶酉矩阵,则
AH
2
n×n,U和V是n阶酉矩阵,则 和 是 阶酉矩阵,
= A2
A 2范数的酉不变性
2. UA 2 = AV 2 = UAV 2 = A 2 3. 若A是正规矩阵, 是正规矩阵, 是正规矩阵 λ 证明: 证明:1. A = λM 2
矩阵论电子教程
哈尔滨工程大学理学院应用数学系
Department of Mathematics, College of Sciences
第 五 章
向量与矩阵的重要数字特征
Department of Mathematics
§5.3 矩阵范数与向量范数的相容性 在矩阵范数中,相容性 尤为重要, 在矩阵范数中 相容性 AB ≤ A B 尤为重要,那么 矩阵范数与向量范数之间有类似的性质? 矩阵范数与向量范数之间有类似的性质?
1.
m
三角不等式 ∀x, y ∈Cn
m
x + y v = ( x + y)α H
Department of Mathematics
≤ xα H
m
+ yα H
m
= xv+ yv
2, 绝对齐性 ∀λ ∈C
λx v = (λx)αH
3, 正定性
m
= λ xαH
m
=λ xv
x≠0
x =0
xα ≠ 0
H
x v = xα
= n⋅ max aik ⋅ max ξk
i ,k

k
Department of Mathematics
= Am ⋅ x ∞
与矩阵范数相容的向量范数的存在性 上的一种矩阵范数, 设 ⋅m 是定义在 Cn×n 上的一种矩阵范数,则在 Cn 上必存在与它相容的向量范数 证明:用构造法证明。 证明:用构造法证明。取定 0 ≠ α ∈Cn ,则 x v = xαH 则 就是 Cn 上与 ⋅ m相容的向量范数。 相容的向量范数。 首先, 上的范数: 首先 证明 ⋅ v 是 Cn 上的范数:
x=
设 ξ1 ξ2
⋮ ξn
∈Cn
A = (aij ) ∈C
n i
n×n
n
Ax ∞ = max ∑k=1 aikξk ≤ max ∑k=1 aik ξk
i
≤ max aik max ∑k=1 ξk
n i,k k
≤ max aik ⋅ n⋅ max ξk
i,k k
AH A 与AAH的非零特征值相同
AH
2
= A2
2. UA = max{λ :det(λI − (UA)HUA) = 0} 2
= max{λ :det(λI − AHU HUA) = 0} = max{λ :det(λI − AH A) = 0} = A2
相关文档
最新文档