3.1向量和矩阵的范数1
向量范数

计算方法
2
常用向量范数
设向量 x = ( x1 , x2 ,..., xn ) || x ||1 = ∑ | xi |
n i =1 n
T
|| x ||2 = ( ∑ | xi | ) = ( x , x ) = ( x T x )
i =1
1 2 2
1 2
1 2
|| x ||∞ = max{| xi |}
定义
设λi(i = 1,2 ,...,n)为矩阵 A的特征值 , 则称
1≤ i ≤ n
ρ ( A) = max{| λi |}
的谱半径。 为矩阵 A的谱半径。 矩阵A的谱半径 ρ ( A)不是A的一种范数 , 但易证
ρ ( A) ≤ A
定义2 定义2
若
Ax ≤|| A || ⋅ || x || ∀x ∈ R n , ∀A ∈ R n× n
称矩阵范数与向量范数是相容的. 称矩阵范数与向量范数是相容的. 相容的
2 − 1 例4 : 设矩阵 A = − 2 4 , 求 || A ||1 , || A ||2, || A ||∞ 。 解: || A || = max{ 2+ | −2 |, | −1 | +4} = 5 1
1≤ i ≤ n
计算方法
T || || 例3:已知 x = (1, 2, − 3 ) , 求 || x ||1 , x ||2 , x ||∞
解: x
1
= x1 + x2 + x3 = 1+2+3= 6
2 2 x12 + x2 + x 3 = 1 + 4 + 9 = 14
x2=
x
∞
数值分析8(向量范数与矩阵范数)

20:22
16/16
20:22
11/16
A 2 ( A A), 其中 ( B ) max{| i ( B ) |}
T i
2 T T 证: 2 这表明矩阵ATA是对称半正定的, 是非负。设矩阵ATA的特征值为
|| Ax || x A Ax 0
1 2
所以它的特征值 都
n 0
并设对应的特征向量为
v1 , 由于ATA是对称,故 v1 ,
vi
20:22
2
1, i 1,
, vn , v n 是Rn的标准正交基: T , n vi v j 0, i j
12/16
对于向量 x 可被特征向量系所表示 x ck v k
n n k 1
n n
n
T T T || Ax ||2 x A Ax ( c v k k )( ck k vk ) 2
Matlab内部函数: norm(A,p)。
20:22
9/16
矩阵算子范数
设 ||x||是Rn上的向量范数,A∈Rn×n,则A的非 负函数 || Ax ||
|| A || max
x 0
|| x ||
称为矩阵A的算子范数(或诱导范数)。 注1 矩阵算子范数由向量范数诱导出, 如
|| Ax ||2 || A ||2 max x 0 || x || 2
1 i n
, xn
Matlab内部函数: norm(x,p)。特别的, norm(x) 等价于norm(x,2)。 范数概念是我们熟悉的距离概念的一种自然的 推广。 k *
lim || x x || 0
k
则称序列{xk}在范数||.||下收敛于x*。
矩阵论课件 3-1向量范数

x 2 1
x Dn x2
x 0
因为
是的连续函数,
故它在Dn上取到最大值m和最小值M
m x x2
x x
2
M
mx2 x
M x
2
例
设A C x
(n)
mn
, y
( m)
( m)
( y C m )是范数,则
n
Ax
, x C 也是范数。
(m)
证明
x 0 Ax 0 Ax x
(n)
0 x
(m)
(n)
0
A(x)
(n)
(m)
Ax
x
(n)
x y
A( x y) Ax
( m)
( m)
Ax Ay
( m)
( m) ( n)
Ay
x
( n)
y
在赋范向量空间C n中, 向量的距离定义为
X
A
X AX
T
1 2
X x1 , x2 , , xn
T
试证上述函数是向量范数,称为向量的加权范数或椭圆范数。
证明 因为A是正定对称矩阵,故存在可逆矩阵B,使得A = B T B,进而有
X
A
X AX
T
X
1 2
T
B BX
1 2
T
(BX )
1 2
T
( BX )
p
1 p
n
n
p
1 p
n
p
1 p
i 1
i 1
i 1
《向量和矩阵的范数》PPT课件

h
1
三种常用范数 给定 x (x1, x2 , , xn )T
n
1-范数:
x 1
x1
x2
xn xi
i 1
2-范数: x 2
x12 x22
1
xn2
n
i 1
xi2
2
? 范数: x max{ x1 , x2 ,
,
xn
}
max{
1in
xi
}
h
2
一般范数 给定 x (x1, x2 , , xn )T
1
(n max 1in
xi
p)p
故有 x x n p x
p
令
p
1
, n p
1limxFra bibliotekxp
p
h
4
范数的等价性 对于任意向量 x R n ,如果存在正数
c1, c2 ,均有
x
p c1
x, q
x q c2
x
,则称范数
p
x
与
p
x 等价。 q
范数的等价关系具有传递性。如果范数 x 与 x 等价,
(5) I 1,其中 I 为单位阵。
h
14
矩阵范数的另一个等价定义
设 A R nn , x Rn ,矩阵 A 的范数 A max Ax
x 1
h
15
常用的矩阵范数
设 A[aij]nn常用的矩阵范数有行(无穷)范数和列(一)范数。
例如
A
3 0
2
4
n
A
maxaij
1in j1
n
A 1
maxaij
Rnn 上的矩阵序列 A(k) 是收敛于A 的充要条件为
3.1向量和矩阵的范数1

3.1 向量与矩阵的范数 3.2 直接法 3.3 迭代法 3.4 迭代法的收敛性分析
例
设有方程组
1 1
1 1.0001
x1 x2
2 2.
分析
记为Ax
b,它的精确解为x
2 0
现在考虑常数项的微小变化对方程组解的影响,
即考察方程组
1 1
1 1.0001
y1 y2
x2 2 ...
xn
2
1
)2
--------(1)
x的2 范数或欧氏范数
x 1 x1 x2 ... xn
--------(2)
x的1 范数或平均范数
x
max 1in
xi
--------(3)
x的 范数或最大范数或切比雪夫范数
x
p
(
x1
p
x2
p ...
xn
p
1
)p
--------(4)
x的p 范数, p 1
显然由于 x 和 x 是 x 当p 1和p 2时的特例,并且由于
1
2
p
max
1in
xi
(
x1 p
x2
p ...
xn
p
)
1 p
(n max
1in
xi
p)1p
1
n
p max 1in
xi
max 1in
xi
( p )
x
ห้องสมุดไป่ตู้
p
x ( p 时),
所以
x
也是
x
的特例
p
例3 求下列向量的各种常用范数
2 2.0001
向量与矩阵的范数

那么
n
X X H *
xi
X 1
i 1
矩阵旳谱半径及其性质
定义:设 A C mn ,A 旳 n 个特征值为 1, 2, , n ,我们称
( A) max{ 1 , 2 , , n }
为矩阵 A 旳谱半径。 例 1 :设 A C mn ,那么
( A) A
这里 A 是矩阵 A 旳任何一种范数。
F
F
于是有
AB A B
F
F
F
例 4 :对于任意 A C nn ,定义
A
[Tr
(
AH
A)]
1 2
证明如此定义旳 A 是矩阵 A 旳范数。
证明: 首先注意到这么一种基本事实,
即
[Tr( AH
1
A)] 2
(
m
n
aij
2
)
1 2
i1 j1
由一种例题可知此定义满足范数旳性质。
Frobenious范数旳性质:
(1)' n
1
(2)' n
2
1
2
(3)' n
2
引理(Hoider不等式):设
a1, a2, , an T , b1, b2, , bn T Cn
则
n
n
aibi (
ai p ) 1 p ( n
bi
q)
1 q
i 1
i 1
i 1
其中 p 1,
q1 且
1p
是矩阵范数。
证明:非负性,齐次性和三角不等式轻易 证得。目前我们考虑乘法旳相容性。设
A C nn , B C nn ,那么
n
n
AB
向量与矩阵范数

向量与矩阵范数在欧氏空间与酉空间中,我们通过向量的内积定义了下列的长度,对于一般的线性空间,能否引入一个类似于长度而又比其更广泛的概念呢?这就是范数的概念。
向量范数与矩阵范数是应用非常广泛的重要概念,从范数可导出向量与向量,矩阵与矩阵之间的距离,进而引进向量序列和矩阵序列收敛性问题.它是矩阵分析与计算的基础.§1 向量范数定义1.1 设V 是数域()或C R 上的线性空间,如果对于任意V ∈x 按照某种法则对应于一个实数x,且满足:1) 非负性0≥x .当且仅当=x 0时,0=x ; 2) 齐次性k k =x x;3) 三角不等式 对任意,V ∈x y 总有,+≤+x y x y;则称实数x为线性空间V 上向量x 的范数.简称向量范数.定义了范数的线性空间V 称为赋范线性空间.由定义1.1可以看出,向量范数是定义在线性空间上的非负实值函数,它具有下列性质:(1) 当≠x 0时,11||||=x x ;(2) 对任意向量V ∈x ,有||||||||-=x x ;(3)||||||||||||||y -≤-x y x ; (4)||||||||||||||y -≤+x y x .性质(1)与(2)是显然成立的,下面证明性质(3) 因为||||||||||||||||=-+≤-+x x y y x y y , 所以||||||||||||-≤-x y x y .同理可证||||||||||||||()||||||-≤-=--=-y x y x x y x y , 即||||||||||||-≥--x y x y .综上有||||||||||||||y -≤-x y x .若用y -代替性质(3)中的y ,便得到性质(4).n C 上最著名的范数是p 范数,也称赫尔德(hölder )范数11()nppi pk x ==∑x,T 12(,,,)n n x x x =∈x C .这里1p ≤<∞,其中最常用的是1,2p =时的p 范数,即11nik x ==∑x ;12221()ni k x ==∑x 。
矩阵范数和向量范数的关系

矩阵范数和向量范数的关系矩阵范数和向量范数是线性代数中常用的概念,它们之间存在一定的关系。
本文将从矩阵范数和向量范数的定义、性质以及它们之间的联系等方面进行阐述。
我们来介绍矩阵范数和向量范数的定义。
矩阵范数是定义在矩阵上的一种范数,它可以将一个矩阵映射为一个非负的实数。
常见的矩阵范数有Frobenius范数、1-范数、2-范数和∞-范数等。
以Frobenius范数为例,对于一个矩阵A,它的Frobenius范数定义为矩阵元素平方和的平方根,即∥A∥F = √(∑∑|aij|^2)。
向量范数是定义在向量空间中的一种范数,它可以将一个向量映射为一个非负的实数。
常见的向量范数有1-范数、2-范数和∞-范数等。
以2-范数为例,对于一个向量x,它的2-范数定义为向量元素平方和的平方根,即∥x∥2 = √(∑|xi|^2)。
矩阵范数和向量范数之间存在一定的联系。
首先,对于一个n维向量x,可以将其看作是一个n×1的矩阵。
此时,向量范数就可以看作是矩阵范数的一种特殊情况。
例如,向量的2-范数就是矩阵的2-范数。
因此,矩阵范数可以看作是向量范数的推广。
矩阵范数和向量范数之间满足一些性质。
例如,对于一个矩阵A和一个向量x,满足以下性质:1. 三角不等式:对于任意的矩阵A和向量x,有∥A∥ + ∥x∥ ≤∥A + x∥。
2. 齐次性:对于任意的矩阵A和实数α,有∥αA∥ = |α|∥A∥。
3. 子多重性:对于任意的矩阵A和B,有∥AB∥ ≤ ∥A∥∥B∥。
我们来讨论矩阵范数和向量范数的联系。
通过定义可以看出,矩阵范数和向量范数都是对于矩阵或向量的度量。
矩阵范数可以看作是对矩阵的度量,而向量范数可以看作是对向量的度量。
矩阵范数和向量范数都满足范数的定义,即满足非负性、齐次性和三角不等式。
在应用中,矩阵范数和向量范数有着广泛的应用。
矩阵范数可以用于矩阵的相似性度量、矩阵的特征值估计等问题。
而向量范数可以用于向量的相似性度量、向量的正则化等问题。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
可得AT A的特征值为
1 9.1428, 2 2.9211, 3 0.9361
max ( AT A) 9.1428
A 2 max ( AT A) 3.0237 A1
容易计算
A
A2
计算较复杂
对矩阵元素的 变化比较敏感 性质较好
(理论上)使用最广泛
矩阵序列的收敛性
k
定理3.6,Rn×n 中矩阵序列{A(k)} 收敛于矩阵A 的充分必要条
件是
lim A
k
(k )
A 0,
其中 为矩阵的任意一种范数。
定理3.7设A为任意n阶方阵,则对任意矩阵范 数||A||,有: ρ(A)≤||A||
证:设λ为A的任意一个特征值, X为对应的特征向量 AX= λ X 两边取范数,得:
5
解
A 1 max aij max{ 2 ,5 ,2} 5
1 j n i 1
n
A max aij max{ 3 , 4பைடு நூலகம்,2} 4
1 i n j 1
1i n
由于
A 2 max ( AT A)
因此先求AT A的特征值
1 T A A 2 0
则称 A 为矩阵A 的范数.
由于大多数与估计有关的问题中,矩阵和向量会同时 参与运算,所以希望引进一种矩阵范数,它和向量范数 相联系而且和向量范数相容,即
Ax A . x
为此我们引进矩阵的算子范数
定义3.5
设x R n , A R nn , v 为一种向量范数
则
Ax x
v
v
对所有的x 0有最大值, 令
lim x
k
(k )
x 0,
其中 为向量的任意一种范数。
证明:
lim x
k
(k )
x
lim x
k
(k )
x
0.
由向量范数的等价性定理可得到结论:如果在一 种范数意义下向量序列收敛时,则在任何一种范数意 义下向量序列亦收敛
3.1.2 矩阵的范数 定义3.4
对于空间R nn中任意一个矩阵A,
在向量空间R n (C n )中, 设x ( x1 , x2 ,..., xn )T
常用的向量 x 的范数有:
x 2 ( x, x ) xT x
2 1 2
x 2 ( x1 x2 ... xn )
2 2
--------(1)
x的2 范数或欧氏范数
x
1
x1 x2 ... xn
i 1
x y
i 1
n
ei 0,
当 x y 时.
有限维向量空间的范数等价性定理 定理3.2
设 与 为向量空间R n 中的两种范数,
'
则存在正常数c和C,使得下面不等式成立:
c x x C x ,
' '
x Rn.
证明 只需证明R n 中任何范数与 2 等价。考虑单位球面 S2 {x R n : x 2 1}. S2是有界闭集,因而 x 在其上达 到最大值C和最小值c,显然,C c 0. 于是,
x x x
1 2
x (1,4 ,3,1)T x1 x2 ... x4 9
( x1 x2 ... x4
2 2 2
)
1
2
27 3 3
max xi 4
1i 4
向量范数是其分量的连续函数,即有下述定理: 定理3.1(向量范数连续性定理)
设 是向量空间R n 中的一种范数,则 x 是关于x 的 分量 x1 ,x2 ,...,xn 的连续函数。
证明
对任何 x ( x1 ,x2 ,...,xn )T xi ei , y yi ei , 其中
i 1 i 1 n n
ei R n ,i=1,2,...,n,除第i个分量为1外,其余分量为0.
x y x y
n
(x
i 1
n
i
yi )ei
| xi yi | ei
x x x R ,x 0,c C,(因为 S2) x2 x2
n
即
c x 2 x C x 2 . 当 x 0,不等式也成立。
容易验证:
3种范数相 (1) ‖x‖2≤‖x‖1≤ n1/2‖x‖2; 互等价
(2)‖x‖∞≤‖x‖2≤ n1/2‖x‖∞;
(3)‖x‖∞≤‖x‖1≤ n‖x‖∞。
从向量的长度或模谈起
例 1 复数 x = (a, b) = a i + b j 的长度或模指的是量
|| x ||
a b
2
2
显然复向量 x 的模 || x || 具有下列三条性质:
(1)
|| x || 0
,当且仅当 x 时,等号成立。
(2) || x || | | || x || ; ( R)
(3) ||x y|| ||x|| ||y|| 。 (x、y R)
例 2
n 维欧氏空间中向量
x
的长度或模定义为
|| x ||
( x, x)
2 2 2 x1 x2 ... xn
显然向量 x 的模 || x || 也具有下列三条性质:
(1)
|| x || 0
,当且仅当 x 时,等号成立。
特征方程为
1 0 1 2 0 2 2 1 1 2 1 0 1 1 0 1 1 1
0 1 9 1 1 2
2 T det( I A A) 0 1
0 1 0 9 1 1 2
定义3.7 如果n阶矩阵序列{A(k)} ⊂Rn× n和矩阵A∈Rn× n 满足
( 其中A(k)=(aij(k))n×n , A=(aij)n×n)
( aijk ) aij , i, j 1, 2,..., n, lim k
则称矩阵序列{A(k)}收敛于矩阵 A,记为
A( k ) A, 或 A( k ) A (k ). lim
定理3.8 对任给的 存在 R nn 上的算子范数 使得
证明:
由Jordan分解定理知,存在非奇异矩阵
nn
PR
,使得
其中,
=1或0,对于任意给定的
,令
则有
在 R nn 上引入一个算子矩阵范数,定义如下
它所对应的向量范数,定义如下
该范数对于矩阵
有
定理3.9
设 是R nn上的一种算子范数, A R nn , 若A满足 A 1, 则I A非奇异, 且 1 1 ( I A) --------(3.8) 1 A
证明
用反证法。若det(I-A) 0,则存在x0 0,使得 Ax0 =x0 ,因此 Ax0 / x0 =1,从而 A 1,矛盾。
|| A X || = ||λ X || =|λ | || X || |λ | || X ||= ||λ X ||= || A X || ≤|| A || || X ||
由X ≠0 ,所以 || X || >0 ,
故有:
|λ | ≤|| A ||
所以特征值的最大值≤||A||,即ρ(A)≤||A||
设A R
1i n
nn
的特征值i (i 1, 2,3,...)
称 ( A) max | i | 为矩阵A的谱半径
定理3.5 向量的常用范数可以得到常用的矩阵算子范数
(1)
n Ax 1 A 1 max max aij x 1 1 j n i 1 x0
A v max
x0
Ax x
v
v
max Ax v . --------(3.5)
x v 1
可以验证 A v 满足定义3.4的4个条件
定理3.4 设 x 是R n 上一个向量范数,A 是R nn 上
矩阵的算子范数,且满足相容条件
Ax A
v
x
--------(3.6)
定义3.6
--------(2)
x的 1 范数或平均范数
x max xi 1i n
x p ( x1 x2 ... xn )
p p p 1 p
--------(3)
x的 范数或最大范数或切比雪夫范数
--------(4)
x的p 范数, p 1
显然 由于 x 1 和 x 2 是 x p 当p 1和p 2时的特例, 并且由于
即考察方程组
1 y1 2 2 0 1 1 1.0001 y 2.0001 2 0.0001 b b 2
1 y x x 为其解 1
1 可见 : 常数项b的第2个分量只有 的微小变化, 10000 方程组的解却变化很大 .
证明: 对于2范数,应有
注意,
是半正定的对称阵,设其特征值为
以及其对应的正交规范特征向量为 则对任一满足 和 的向量 有
于是,有
另一方面,若取
,则有
所以
例3.5
求矩阵A的各种常用范数
1 2 A 1 2 0 1
2
n
0 3 1 4 1 2
2
1 j n
max xi ( x1
1i n
p
x2
p
... xn
1 i n
p
1
)
p
( n max xi )