向量范数
向量范数3-1,3-2,3-3
A
X AX
X x1 , x2 , , xn R n
T
试证上述函数是向量范数，称为向量的加权范数或椭圆范数。 证明 因为A是正定对称矩阵，故存在可逆矩阵P，使得
P T AP I
从而
A P
X
A
1 2 A
T 1
P P
T T 1 2
1
1 T
1 2
P 1 B T B
证明 易验证条件(i)和(ii)成立，现验证条件(iii)也 成立。 下面用到了Chauchy-Schwarz不等式。
x y
2 2
x y , x y ( x, x ) ( x, y ) ( y , x ) ( y , y )
x
2 2
2 x
2y2源自 y2 2定理对 x ( x , x ,, x )T C n C n R 分别定义三个函数 1 2 n
x
x
1
x
i 1
n i 1
n
i
1 2
1－范数，
)
2
( xi
2
2－范数(或Euclid范数)
x
max xi
1 i n
∞－范数(或最大值范数)。
它们均构成范数。 说明：在同一个向量空间，可以定义多种向量范数，而对 于同一个向量，不同定义的范数，其大小可能不同。
AX
AX H A X H A X
即矩阵范数与向量范数相容
算子范数
定义 设
即由向量范数构造矩阵范数
和
分别是 C m 和 C n
第五章--向量范数和矩阵范数
当 x 时，|| x ||A 0 ；当 x θ 时由 A 对称
正定知 xH Ax 0 ，即 || x ||A 0 。
对于任意 k C ，有 || k x ||A (kx)T A(kx) | k | xT Ax | k | || x ||A
由于 A 为Hermite正定矩阵，故存在酉矩阵 U ，使得
|| x ||2
| x1 |2 | x2 |2
| xn |2
定义的|| ||2 是 F n上的向量范数，称为2-范数或 l2
范数，也称为 Euclid 范数。
例 7 对任意 x ( x1, x2, , xn) T F n，由
|| x ||p
1/ p n
| xi |p , p 1
i1
定义的|| ||p 是 F n 上的向量范数，称为p -范数或 lp
UT AU Λ diag( λ1, λ2, , λn)
这里 A 的特征值 λi (i 1, 2, , n) 都为正数。
从而有
A UΛUT U Λ Λ UT BT B
此时
|| x ||A xT Ax xT BT Bx (Bx)T Bx || Bx ||2
因此对任意 y C n ， || x y ||A || B( x y) ||2
数 || A || 表示对于任意向量 x F n ， A 可以 “拉伸”向量 x 的最大倍数，即使得不等式
|| A x || C || x || 成立的最小的数 C 。称 || A || 为范数 || || 和 || ||
j1
n
| xj
j1
yj |; yj |;
yj |;
1
yj |m m;
以及与椭圆范数类似的Mahalanobis距离：
范数
3.3 范数3.3.1 向量范数在一维空间中，实轴上任意两点距离用两点差的绝对值表示。
绝对值是一种度量形式的定义。
范数是对函数、向量和矩阵定义的一种度量形式。
任何对象的范数值都是一个非负实数。
使用范数可以测量两个函数、向量或矩阵之间的距离。
向量范数是度量向量长度的一种定义形式。
范数有多种定义形式，只要满足下面的三个条件即可定义为一个范数。
同一向量，采用不同的范数定义，可得到不同的范数值。
定义3.1对任一向量，按照一个规则确定一个实数与它对应，记该实数记为，若满足下面三个性质：（1），有，当且仅当时，（非负性）（2），，有（齐次性）（3.37）（3），，有（三角不等式）那么称该实数为向量的范数。
几个常用向量范数向量的范数定义为其中，经常使用的是三种向量范数。
或写成例3.5 计算向量的三种范数。
向量范数的等价性有限维线性空间中任意向量范数的定义都是等价的。
若是上两种不同的范数定义，则必存在,使均有或（证明略）向量的极限有了向量范数的定义，也就有了度量向量距离的标准，即可定义向量的极限和收敛概念了。
设为上向量序列，若存在向量使，则称向量列是收敛的（是某种向量范数），称为该向量序列的极限。
由向量范数的等价知，向量序列是否收敛与选取哪种范数无关。
向量序列，收敛的充分必要条件为其序列的每个分量收敛，即存在。
若，则就是向量序列的极限。
例3.6 求向量序列极限向量。
解：算出每个向量分量的极限后得在计算方法中，计算的向量序列都是数据序列，当小于给定精度时，取为极限向量。
3.3.2 矩阵范数矩阵范数定义定义3.2 如果矩阵的某个非负实函数，记作，满足条件：（1）当且仅当时，（非负性）（2）（齐次性）（3）对于任意两个阶数相同的矩阵有（三角不等式性）（4）矩阵为同阶矩阵（相容性）则称为矩阵范数。
矩阵的算子范数常用的矩阵范数是矩阵的算子范数，可用向量范数定义：设，记方阵的范数为，那么或（3.38）称为矩阵的算子范数或从属范数。
3-1,2,3向量范数
主要内容 一、向量范数 二、矩阵范数与算子范数 三、范数的应用
第一节 向量范数
主要内容： 1·向量范数的定义及几种常见的向量范数 2·向量范数的等价性
一、向量范数的定义
对于向量空间 C上n 的任意向量 x,
如果函数 Cn R 满足：
对应一个实值函数 x
1）正定性 x 0 且 x 0 x 0
d(x, y) x y
实例1 在向量空间C n中, 向量的长度是一种向量范数，
称为2-范数或欧氏范数。
n
1
x ( 2
xi 2 ) 2
i 1
x (x1, x2 , , xn )T C n
证明 易验证条件(i)和(ii)成立，现验证条件(iii)也成立。 下面用到了Chauchy-Schwarz不等式。
2）齐次性 x x , C
3）三角不等式 x y x y
则称 x为向量x的范数。
范数的性质： (1) x x
(2) x y x y
性质（1）利用范数的齐次性即可证明。 下面证明（2）。根据三角不等式，有
x xyy xy y
x y xy 对任意的 x , y C，n 可以利用范数定义向量间的距离如下：
n
x 1
xi
i 1
n
1
x ( 2
xi 2 ) 2
i 1
1－范数， 2－范数(或Euclid范数)
x
max
1in
xi
它们均构成范数。
∞－范数(或最大值范数)。
说明：在同一个向量空间，可以定义多种向量范数，而对 于同一个向量，不同定义的范数，其大小可能不同。
x 1,2,3T
x 6 1
x 14 2
向量的范数
设 Ax = b为一线性方程组 , A 为非奇异矩阵 , x为其精确解
若常数项 b存在误差 δ b , 则解也应存在误差 δ x
即有
A( x + δ x ) = b + δ b
Aδx = δb
δ x = A −1δ b
所以 又因为
δx = A −1δb ≤ A −1 ⋅ δb
A2=
显然
λ max ( A A )
T
=
ρ ( AT A )
设 ⋅ 是 R n × n 上的一种算子范数 , A ∈ R n × n , 定理1.
若 A满足 A < 1 , 则 I + A非奇异 , 且
( I + A)
−1
1 < 1− A
三、误差分析
对于线性方程组 Ax = b , 如果系数矩阵 A或 常数项 b的元素的微小变化 , 就会引起方程组解的 巨大变化 , 则称该方程组是 " 病态 "的 , A为" 病态 " 矩 阵.否则称为 "良态 "的.
∞
2 − 范数
( 3) Ax A 2 = max x≠0
2
= λmax ( AT A) x 2
λmax ( AT A)为AT A的特征值的绝对值的最 大值
例2. 求矩阵A的各种常用范数
1 2 A = − 1 2 0 1
n
0 − 1 1
1≤ j ≤ n
δA
A
定义4.
设 A 为非奇异矩阵 , 称
cond ( A ) = A ⋅ A −1
为 A 的条件数 , 其中 ⋅ 为某种算子范数 .
向量范数
向量范数定义1. 设,满足1. 正定性:║x║≥0,║x║=0 iff x=02. 齐次性:║cx║=│c│║x║,3. 三角不等式:║x+y║≤║x║+║y║则称Cn中定义了向量范数,║x║为向量x的范数.可见向量范数是向量的一种具有特殊性质的实值函数.常用向量范数有,令x=( x1,x2,…,xn)T1-范数:║x║1=│x1│+│x2│+…+│xn│2-范数:║x║2=(│x1│2+│x2│2+…+│xn│2)^1/2∞-范数:║x║∞=max(│x1│,│x2│,…,│xn│)易得║x║∞≤║x║2≤║x║1≤n1/2║x║2≤n║x║∞定理中任意两种向量范数║x║α,║x║β是等价的,即有m,M>0使m║x║α≤║x║β≤M║x║可根据范数的连续性来证明它.由定理1可得定理2.设{x(k)}是Cn中向量序列,x是Cn中向量,则║x(k)-x║→0(k→∞) iff xj(k)-xj→0,j=1,2,…,n(k→∞)其中xj(k)是x(k)的第j个分量,xj是x的第j个分量.此时称{x(k)}收敛于x,记作x(k) →x(k→∞),或 .三、矩阵范数定义2. 设,满足1. 正定性:║X║≥0,║X║=0 iff X=02. 齐次性:║cX║=│c│║X║,3. 三角不等式:║X+Y║≤║X║+║Y║4. 相容性: ║XY║≤║X║║Y║则称Cn×n中定义了矩阵范数,║X║为矩阵X的范数.注意, 矩阵X可视为n2维向量,故有前三条性质.因此定理1,2中向量的等价性和向量序列收敛的概念与性质等也适合于矩阵.第四条,是考虑到矩阵乘法关系而设.更有矩阵向量乘使我们定义矩阵范数向量范数的相容性:║Ax║≤║A║║x║所谓由向量范数诱导出的矩阵范数与该向量范数就是相容的.定理3. 设A是n×n矩阵,║?║是n维向量范数则║A║=max{║Ax║:║x║=1}= max{║Ax║/║x║: x≠0}是一种矩阵范数,称为由该向量范数诱导出的矩阵范数或算子范数,它们具有相容性或者说是相容的.单位矩阵的算子范数为1可以证明任一种矩阵范数总有与之相容的向量范数.例如定义:║x║=║X║,X=(xx…x)常用的三种向量范数诱导出的矩阵范数是1-范数:║A║1= max{║Ax║1:║x║1=1}=2-范数:║A║2=max{║Ax║2:║x║2=1}= ,λ1是AHA的最大特征值.∞-范数:║A║∞=max{║Ax║∞:║x║∞=1}=此外还有Frobenius范数: .它与向量2-范数相容.但非向量范数诱导出的矩阵范数.四、矩阵谱半径定义3.设A是n×n矩阵,λi是其特征值,i=1,2,…,n.称为A的谱半径.谱半径是矩阵的函数,但非矩阵范数.对任一矩阵范数有如下关系:ρ(A)≤║A║因为任一特征对λ,x,Ax=λx,令X=(xx…x),可得AX=λX.两边取范数,由矩阵范数的相容性和齐次性就导出结果.定理 3.矩阵序列I,A,A2,…Ak,…收敛于零的充分必要条件是ρ(A)。
向量范数
且
A 0 A 0
A A
C , A C
mn
AB A B
AB A B
A, B C
mn
称为A的范数。
矩阵范数的性质： (1) A A
(2) A B A B
矩阵范数同向量范数具有类似的性质，比如等价性：
对于两个矩阵范数
m
, C 上的同类向量范数，如果有
n
A C
mn
, X C
n
则称矩阵范数与向量范数是相容的。 定理2 设 是 C 上的相容矩阵范数，则在 C n 上存 在与 相容的向量范数 证明：任取一非零向量 C
X
n
n n
定义向量X的范数为
n
X
n
H
X C
容易验证
AX
性质1 证明 对于任意n阶矩阵A，成立 ( A k ) [ ( A )] k 设1, 2, …, n是属于A的所有特征值
则A 的特征值为 1 , 2 , , n
k k k k
因此 ( A ) max i i
k
k
( max i ) [ ( A )]
n
n
定义Dn是C n的单位球面(有界闭集)
D n x ( x1 , x 2 , , x n ) C
T
n
x
2
1
x 0
x x
2
Dn
因为
是连续函数，
故它在Dn上取到最大值m和最小值M
m
x x
2
x x
2
范数的定义[精华]
3.3 范数3.3.1 向量范数在一维空间中，实轴上任意两点距离用两点差的绝对值表示。
绝对值是一种度量形式的定义。
范数是对函数、向量和矩阵定义的一种度量形式。
任何对象的范数值都是一个非负实数。
使用范数可以测量两个函数、向量或矩阵之间的距离。
向量范数是度量向量长度的一种定义形式。
范数有多种定义形式，只要满足下面的三个条件即可定义为一个范数。
同一向量，采用不同的范数定义，可得到不同的范数值。
若X是数域K上的线性空间，泛函║·║: X->R 满足：1. 正定性：║x║≥0，且║x║=0 <=> x=0；2. 正齐次性：║cx║=│c│║x║；3. 次可加性(三角不等式)：║x+y║≤║x║+║y║ 。
那么║·║称为X上的一个范数。
常用范数这里以C^n空间为例，R^n空间类似。
最常用的范数就是p-范数。
若x=[x1,x2,...,xn]^T，那么║x║p=(|x1|^p+|x2|^p+...+|xn|^p)^{1/p}可以验证p-范数确实满足范数的定义。
其中三角不等式的证明不是平凡的，这个结论通常称为闵可夫斯基(Minkowski)不等式。
当p取1，2，∞的时候分别是以下几种最简单的情形：1-范数：║x║1=│x1│+│x2│+…+│xn│2-范数：║x║2=(│x1│^2+│x2│^2+…+│xn│^2)^1/2∞-范数：║x║∞=max(│x1│,│x2│,…,│xn│)其中2-范数就是通常意义下的距离。
矩阵范数一般来讲矩阵范数除了正定性，齐次性和三角不等式之外，还规定其必须满足相容性：║XY║≤║X║║Y║。
所以矩阵范数通常也称为相容范数。
如果║·║α是相容范数，且任何满足║·║β≤║·║α的范数║·║β都不是相容范数，那么║·║α称为极小范数。
对于n阶实方阵(或复方阵)全体上的任何一个范数║·║，总存在唯一的实数k>0，使得k║·║是极小范数。
关于范数的理解或定义
I 、向量的范数向量x ∈R n的范数f(x )是定义在R n空间上取值为非负实数且满足下列性质的函数：1ο对于所有的x ≠ 0,x ∈R n有f(x )>0; (非负性）2ο对于所有的α∈R 有f(αx ）=αf(x ); （正齐性） 3ο对于所有的x,y ∈R n有f(x+y )≤f(x )+f(y ). （三角不等式）一、 一般情况下，f(x )的具体模式如下：p x = p ni pix 11)(∑=，p 1≥ 也称它为p-范数。
下证p-范数满足上述的三个性质：1、对于所有的x ∈R n，x ≠ 0，p ni pix 11)(∑=显然是大于0的，故性质1ο成立。
2、 由pxα = pni pix 11)(∑=α = αp ni pix 11)(∑= = αp x 知性质2ο成立。
3、欲验证性质3ο，我们的借助下列不等式：设p>1,q>1,且p 1 + q1 = 1，则对所有的0,≥βα有αββα≥+qpqp证：考虑函数ptptt -=1)(ϕ，因为)1(1)(11'-=-p t pt ϕ，由()t 'ϕ=0 t=1,又因为01)1(''<-=pqϕ，所以当t = 1的时候)(t ϕ取最大值，则有：p p ttp111-≤-， 令t = q pβα,代入可得：q p p q ppq p1111=-=-⎪⎪⎭⎫⎝⎛βαβα, 化简之后即得： αββα≥+qpqp证毕！又令∑=)(1i px x piα，∑=)(1i qy y qiβ，代入上不等式可得：∑∑+)()(iq i i p iy y x x qqpp∑∑≥)()(11y x yx i qi pqpii，两边同时对i 求和，并利用关系式p 1 + q1 = 1可知：∑∑≥+=∑∑∑∑∑)()(11)()(1y x yx y y x x i qi piq i ip i qpiiqqpp从而有：∑∑≤∑)()(11y x y x i qi pqpii另一方面，又有：∑+∑++=-yx y x y x iip pii ii 1)(1y x y x ii p ii +≤∑+-yy x x y x ip ip i i ii ∑+∑+--+=11()()()()()()∑∑-+∑∑-≤++y y x x y x ipiiq p ipiiq p pqpq111111()()()()⎥⎥⎦⎤⎢⎢⎣⎡∑∑-=+∑+y x y x ipip piiqp pq1111()()()⎥⎥⎦⎤⎢⎢⎣⎡∑∑=+∑+y x y x ipip piipp111 左右两边同时除以()∑+y x iip1得：()()()∑∑≤∑++y x y x ipipiip ppp111。
线性方程组解法 第2节 向量范数等价性证明
1 2 n 0.
为A对T 称A矩阵，设
为 的u相1,应u于2 ,(5.9), un A
的特征向量且
，又设 为任一非零向量，
(ui , u j ) ij
xRn
于是有
n
x ciui , i 1
（5.9）
12
其中 为c组i 合系数，则
n
Ax 2 2 x2
( AT Ax, x) ( x, x)
向量范数
1. 向量范数的定义
函数 （（（123N定）））义正齐三x9定次角（性 性 不向等量x式范，数若）xx满x足0对 ,：yxx于，向其 0量 x中x yRx,nR或 (x或 0,x或 y记 CRCn为n)的；或某 ；个C实n值。非负
称N
(
x)
||
x
||
是R
n
上
或C n
一个向量范数或模。
设
x (x1, x2 , , xn )T , y ( y1, y2 , , yn )T R（n 或 ）C.n
将实数
（或复数 称为向量
n
(x, y) yT x xi yi i 1
( x, y) ）y H x n xi yi i1
的x数, 量y 积.
18
将非负实数
1
x
2
1
(x, x) 2
aij x j
j1
max i
aij
j1
xj
n
t max i
j1
aij .
10
这说明对任何非零 ， x R n 有
Ax
.
x
（5.8）
接下来说明有一向量 ,
x0 0
使
Ax0 .
x0
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
x 6 1
x 14 2
x 3
引理3.1.1 如果实数 p 1, q 1, 1 1 1
pq
则对于任意非负实数a，b，成立 ab a p bq
pq
引理3.1.2（ Holder 不等式）
如果实数 p 1, q 1, 1 1 1 则对于任意数组
pq
说明：在p范数中，若取p<1时,它不是范数； 1-范数，2范数是p分别取1，2时的p范数
而对于p范数与∞－范数有下面的关系
定理 在向量空间C n中, 向量范数满足
证明 则
lim X X
p
p
当X=0时，结论显然成立。设
X 0, xk
max iΒιβλιοθήκη xi Xn
(
p i 1
xk
p
xi xk
1
1
1
X X T AX 2 X T BT BX 2 (BX )T (BX ) 2 BX
A
2
所以 X
1
X T AX 2
是向量范数。
A
定理:设 x 是 C n 上的向量范数, 则 x 是 x1, x2 ,, xn
的连续函数。
提示：利用连续函数的定义证明
第三章 范数理论
主要内容 一、向量范数 二、矩阵范数与算子范数 三、范数的应用
第一节 向量范数
主要内容： 1·向量范数的定义及几种常见的向量范数 2·向量范数的等价性
一、向量范数的定义
对于向量空间 C n上的任意向量 x , 对应一个实值函数 x
如果函数 Cn R 满足： 1）正定性 x 0 且 x 0 x 0
义向量函数为
1
X X T AX 2 A
X x1, x2 , , xn T Rn
试证上述函数是向量范数，称为向量的加权范数或椭 圆范数。
证明 因为A是正定对称矩阵，故存在可逆矩阵P，使得
PT AP I 从而
A PT 1 P1 P1 T P1 BT B
容易证明：向量范数的等价具有自反性、对称性和传递性.
定理 向量空间 C n 中的任意两个向量范数等价。
说明：我们证明 C n上的任一范数都与2-范数等价，
再利用范数等价的传递性即可。
证明 首先任一向量范数是 C n 上的一个连续函数
定义Dn是C n的单位球面(有界闭集)
Dn x (x1, x2 ,, xn )T Cn
n
x 1
xi
i 1
n
1
x ( 2
xi 2 ) 2
i 1
1－范数， 2－范数(或Euclid范数)
x
max
1in
xi
它们均构成范数。
∞－范数(或最大值范数)。
说明：在同一个向量空间，可以定义多种向量范数，而对 于同一个向量，不同定义的范数，其大小可能不同。
x 1,2,3T
i 1
x (x1, x2 ,, xn )T C n
证明 易验证条件(i)和(ii)成立，现验证条件(iii)也 成立。 下面用到了Chauchy-Schwarz不等式。
x y 2 x y, x y (x, x) (x, y) ( y, x) ( y, y) 2
x 1 2
x 0
x x
Dn
因为
是连续函数，
2
故它在Dn上取到最大值m和最小值M
m x
x M
x
x
2
2
mx x M x
2
2
再利用范数等价的传递性可知：C n 上的任意两个范
数都等价。
向量范数的等价性表明：按不同向量范数定义的向量的收敛性 具有一致性。
第二节 矩阵范数
对同一个向量用不同的范数度量其值一般是不等的 ，即 在不同的范数下，两个向量之间的距离是不等的。但我 们将证明它们没有实质上的区别，即范数具有下面所说 的等价性
范数等价性
对于两个向量范数
与
，如果存在常数ｍ和Ｍ
(0 m M)
使得 m x x M x
则称范数
与
等价
p1
)p
xk
n
(
xi
p1
)p
i1 xk
因为
n
xk p xi p n xk p i 1
故
n
1 (
xi
p1
1
) p n p 1( p )
i1 xk
所以
lim X
p
p
xk
max i
xi
X
说明：
我们也可以通过已知的范数构造新的向量范数.
例 设A是n阶正定实对称矩阵，在向量空间Rn中, 定
主要内容： 1·矩阵范数的定义、性质 2·算子范数（由向量诱导的矩阵范数） 3·几种常用的矩阵范数
定义
设 AC mn 定义一个实值函数 C mn R 满足：
（1）正定性 （2）齐次性
x 2 2 x y y 2 x y 2
2
22
2
2
2
两边开方即得证。
实例2 在向量空间C n中, 向量分量的最大模是一种
向量范数，称为∞ -范数。
证明
x
max
1in
xi
范数定义中的条件(i)显然成立，
现验证条件(ii)和(iii)也成立
x
max
1in
xi
2）齐次性 x x , F 3）三角不等式 x y x y
则称 x 为向量X的范数。
范数的性质： (1) x x
(2) x y x y
实例1 在向量空间C n中, 向量的长度是一种向量范数，
称为2-范数或欧氏范数。
n
1
x ( 2
xi 2 ) 2
a a1, a2 ,, an ,b b1,b2 ,,bn
成立
n
ai
bi
n
[ ai
] [ b ] p 1 n p
q1 q
i
i 1
i 1
i 1
利用上面的三个引理可以证明：在向量空间 Cn中，有下面的范数：
n
1
x ( p
xi p ) p
i 1
(1 p ) p-范数或 Holder 范数
max
1in
xi
x
x
y
max 1in
xi
yi
max(
1in
xi
yi
)
max
1in
xi
max 1in
yi
x
y
反例：设 x R1, 若令 x x2,
显然，它满足范数定义中的正定性，但不满足齐 次性，因此它不是 R1 中的范数。
定理 对 x (x1, x2 ,, xn )T C n C n R分别定义三个函数