2-5 向量范数与矩阵范数
合集下载
向量范数
计算方法
2
常用向量范数
设向量 x = ( x1 , x2 ,..., xn ) || x ||1 = ∑ | xi |
n i =1 n
T
|| x ||2 = ( ∑ | xi | ) = ( x , x ) = ( x T x )
i =1
1 2 2
1 2
1 2
|| x ||∞ = max{| xi |}
定义
设λi(i = 1,2 ,...,n)为矩阵 A的特征值 , 则称
1≤ i ≤ n
ρ ( A) = max{| λi |}
的谱半径。 为矩阵 A的谱半径。 矩阵A的谱半径 ρ ( A)不是A的一种范数 , 但易证
ρ ( A) ≤ A
定义2 定义2
若
Ax ≤|| A || ⋅ || x || ∀x ∈ R n , ∀A ∈ R n× n
称矩阵范数与向量范数是相容的. 称矩阵范数与向量范数是相容的. 相容的
2 − 1 例4 ： 设矩阵 A = − 2 4 , 求 || A ||1 , || A ||2, || A ||∞ 。 解： || A || = max{ 2+ | −2 |, | −1 | +4} = 5 1
1≤ i ≤ n
计算方法
T || || 例3：已知 x = (1, 2, − 3 ) , 求 || x ||1 ， x ||2 ， x ||∞
解： x
1
= x1 + x2 + x3 = 1+2+3= 6
2 2 x12 + x2 + x 3 = 1 + 4 + 9 = 14
x2=
x
∞
数值分析8(向量范数与矩阵范数)
20:22
16/16
20:22
11/16
A 2 ( A A), 其中 ( B ) max{| i ( B ) |}
T i
2 T T 证: 2 这表明矩阵ATA是对称半正定的, 是非负。设矩阵ATA的特征值为
|| Ax || x A Ax 0
1 2
所以它的特征值 都
n 0
并设对应的特征向量为
v1 , 由于ATA是对称,故 v1 ,
vi
20:22
2
1, i 1,
, vn , v n 是Rn的标准正交基: T , n vi v j 0, i j
12/16
对于向量 x 可被特征向量系所表示 x ck v k
n n k 1
n n
n
T T T || Ax ||2 x A Ax ( c v k k )( ck k vk ) 2
Matlab内部函数: norm(A,p)。
20:22
9/16
矩阵算子范数
设 ||x||是Rn上的向量范数,A∈Rn×n,则A的非 负函数 || Ax ||
|| A || max
x 0
|| x ||
称为矩阵A的算子范数(或诱导范数)。 注1 矩阵算子范数由向量范数诱导出, 如
|| Ax ||2 || A ||2 max x 0 || x || 2
1 i n
, xn
Matlab内部函数: norm(x,p)。特别的, norm(x) 等价于norm(x,2)。 范数概念是我们熟悉的距离概念的一种自然的 推广。 k *
lim || x x || 0
k
则称序列{xk}在范数||.||下收敛于x*。
向量范数生成的矩阵范数
向量范数生成的矩阵范数矩阵范数在矩阵分析、系统理论、数值逼近等领域有着广泛的应用。
矩阵的范数是一个数学工具，用于度量矩阵的大小或者多样性。
它是矩阵理论中重要的概念之一，具有很多有用的性质。
矩阵范数的定义有很多种不同的形式，其中一种常见的定义是通过向量范数来生成的。
本文重点介绍向量范数生成的矩阵范数的定义、性质和应用。
一、向量范数的定义向量范数是将一个向量映射到非负实数的函数。
常用的向量范数包括欧几里得范数、曼哈顿范数、p-范数、无穷范数等。
以二维向量为例，这些向量范数的定义如下：1. 欧几里得范数：||x||₂ = sqrt(x₁² + x₂²)，其中x=(x₁,x₂)。
2. 曼哈顿范数：||x||₁ = |x₁| + |x₂|。
向量范数满足以下条件：1. 非负性：对于所有的向量x，||x||≥0，且等号成立当且仅当x=0。
2. 齐次性：对于所有的向量x和标量a，||ax|| = |a|||x||。
3. 三角不等式：对于任意两个向量x和y，||x+y||≤||x||+||y||。
给定一个矩阵A∈R^(m×n)，我们可以通过向量范数定义一种矩阵范数，记作||A||。
向量范数生成的矩阵范数定义如下：||A|| = sup{||Ax|| : x∈R^n, ||x||=1}。
其中||x||=1是指x的范数等于1，sup表示取最大值。
也就是说，矩阵A的范数等于将所有满足x的范数为1的向量Ax的范数取最大值。
4. Frobenius范数：||A||_F = sqrt(∑(i,j)|a_ij|²)。
其中，1-范数和无穷范数是矩阵列向量和行向量的范数的最大值和最大值，而2-范数就是矩阵的谱半径。
Frobenius范数是矩阵元素绝对值平方和的开方。
三、性质和应用和向量范数一样，向量范数生成的矩阵范数也具有一些重要的性质，它们包括：3. 子多项式不等式：对于所有的矩阵A和所有次数不超过n的多项式p，有||p(A)||≤ ||p||_∞||A||。
向量和矩阵的范数
|| k Ax || | k ||| Ax || 2) || k A || max max | k ||| A || x0 x0 || x || || x || || Ax || 3) 由 || A || max ，则 || Ax |||| A |||| x || x R n x 0 || x || 于是 || ( A B ) x || || Ax Bx |||| A |||| (|| A || || B ||) || x ||
法则对应于一非负实数 ||
n
则称 || x || 为向量x的范数。
常见的向量范数
设向量x ( x1 , x2 ,..., xn )T || ||
x || | x |
1 i 1 i
n
x || || x ||
( | xi | ) ( x, x) ( xT x) 2
i 1
3.5 病态方程组与矩阵的条件数
例3.5.1 设线性方程组 0.99 x1 1.99 1 0.99 0.98 x 1.97 2 试分析系数矩阵和右端项有微小扰动, 解将产生 什么样的变化 ? 解 该方程组的精确解为x (1,1)T 。
||
Hale Waihona Puke x ||2 n ||
x ||
1 例如 : || n
1 n x ||1 | xi | || n i 1
x ||
max{| xi |} | xi |
1i n i 1
n
向量的收敛性
定义3.4.2 设R n中一向量序列{ x ( k ) }( k 1,2,...), 其中 (i 1,2,..., n)
向量范数与矩阵范数
(2) 对任意的数 k∈R，有
kA max kAx k max Ax k A .
x 1
x 1
(3) 对任意的n×n矩阵 A 和 B, 有
A B max (A B)x max Ax Bx
x 1
x 1
max Ax Bx x 1
max Ax max Bx A B
正定性三角不等式积的范数小于等于范数的积矩阵范数与向量范数的相容性定义给定向量范数和矩阵范数如果对任和任意的nn矩阵a它们总满足则称所给的矩阵范数与向量范数是相容的
§1.3 向量范数与矩阵范数
为了研究线性方程组近似解的误差估 计和迭代法的收敛性，我们需要对 Rn 中 向量或 Rn×n 中矩阵的“大小”引进某种 度量----向量或矩阵的范数。向量范数是 三维欧氏空间中向量长度概念的推广，在 数值分析中起着重要作用。
1.3.1 向量范数
向量的范数是刻画向量大小的量, 又叫向量的模.
❖定义 Rn 上的实值函数‖·‖称为向量范数，如果 对任意的 x, y∈Rn, 它均满足下列3条性质:
(1)正定性: || x ||,且 0 x 0;|| x || 0
(2)齐次性:对 k ,有R
|| kx |;|| k | || x ||
以及
A. F
解 x | 3| | 5| |1| 9, 1
x 32 (5)2 12 35 2
x max{| 3|,| 5|,|1|} 5,
|1| | 2 | | 3 |,
A
1
max
|
5
|
|1|
|
8
|,
kA max kAx k max Ax k A .
x 1
x 1
(3) 对任意的n×n矩阵 A 和 B, 有
A B max (A B)x max Ax Bx
x 1
x 1
max Ax Bx x 1
max Ax max Bx A B
正定性三角不等式积的范数小于等于范数的积矩阵范数与向量范数的相容性定义给定向量范数和矩阵范数如果对任和任意的nn矩阵a它们总满足则称所给的矩阵范数与向量范数是相容的
§1.3 向量范数与矩阵范数
为了研究线性方程组近似解的误差估 计和迭代法的收敛性，我们需要对 Rn 中 向量或 Rn×n 中矩阵的“大小”引进某种 度量----向量或矩阵的范数。向量范数是 三维欧氏空间中向量长度概念的推广，在 数值分析中起着重要作用。
1.3.1 向量范数
向量的范数是刻画向量大小的量, 又叫向量的模.
❖定义 Rn 上的实值函数‖·‖称为向量范数，如果 对任意的 x, y∈Rn, 它均满足下列3条性质:
(1)正定性: || x ||,且 0 x 0;|| x || 0
(2)齐次性:对 k ,有R
|| kx |;|| k | || x ||
以及
A. F
解 x | 3| | 5| |1| 9, 1
x 32 (5)2 12 35 2
x max{| 3|,| 5|,|1|} 5,
|1| | 2 | | 3 |,
A
1
max
|
5
|
|1|
|
8
|,
向量与矩阵的范数
范数
定义：设是一线性空间，而对其每一点都有一个非负实数适合以下条件，则称为地范数. ()；
()
()
向量地范数
定义：对维空间中任一向量，按一定规则有一确定地实数与之对应，该实数记为，若满足下面三个性质：文档来自于网络搜索
()；
()
()
则称该实数为向量地范数.
几种常见地范数：设
（）范数（又称为ö范数）
（）,向量地范数:
（）,向量地范数:
（）向量地:
性质：（向量范数地连续性）向量范数是定义在上地连续实函数
性质：（向量范数地等价性）设是定义在上地两个范数，则存在正数，使对任意，有.文档来自于网络搜索
性质：任意两个等价地向量范数决定地向量序列地收敛性是相同地
矩阵范数
定义：非负函数,叫做上地矩阵范数，如果满足：
正定性：.
齐次性：.
三角不等式：.
相容性：
定理：设是上地一个向量范数，则非负函数
是定义在上地一个矩阵范数.
由上述定理给出地矩阵范数称为从属于向量范数地矩阵范数，也称由向量范数诱导出地算子范数.
矩阵地范数：
矩阵地范数是由向量范数诱导出地算子范数：
常见地矩阵范数计算公式：
矩阵范数（列范数）
矩阵范数（行范数）
矩阵范数（谱范数）
矩阵地范数：
由矩阵范数推出地向量范数
矩阵范数可由向量范数诱导，同样，向量范数有时也可以从矩阵范数推出例：设是上地矩阵范数，任取中地非零向量，则函数
是上地向量范数.。
向量与矩阵的范数
那么
n
X X H *
xi
X 1
i 1
矩阵旳谱半径及其性质
定义：设 A C mn ，A 旳 n 个特征值为 1, 2, , n ，我们称
( A) max{ 1 , 2 , , n }
为矩阵 A 旳谱半径。 例 1 ：设 A C mn ，那么
( A) A
这里 A 是矩阵 A 旳任何一种范数。
F
F
于是有
AB A B
F
F
F
例 4 ：对于任意 A C nn ，定义
A
[Tr
(
AH
A)]
1 2
证明如此定义旳 A 是矩阵 A 旳范数。
证明： 首先注意到这么一种基本事实，
即
[Tr( AH
1
A)] 2
(
m
n
aij
2
)
1 2
i1 j1
由一种例题可知此定义满足范数旳性质。
Frobenious范数旳性质：
(1)' n
1
(2)' n
2
1
2
(3)' n
2
引理（Hoider不等式）：设
a1, a2, , an T , b1, b2, , bn T Cn
则
n
n
aibi (
ai p ) 1 p ( n
bi
q)
1 q
i 1
i 1
i 1
其中 p 1,
q1 且
1p
是矩阵范数。
证明：非负性，齐次性和三角不等式轻易 证得。目前我们考虑乘法旳相容性。设
A C nn , B C nn ，那么
n
n
AB
课件：2-5 矩阵范数
i1 j1
i1 j1
A B
m1
m1
➢ 满足相容性
nn n
nn n
AB m1
aik bkj
i1 j1 k1
( | aik | | bkj |)
i1 j1 k1
nn n
n
(| aik | | bkj |)
i1 j1 k1
k 1
nn
nn
( | aik | ) ( | bkj |)
aij
m1-范数与m2-范数可以视为向量的1-范数与2-范数的直接推 广，而矩阵的m∞-范数与向量的∞-范数却并不相同，这是为 什么呢？先看一个例子
若定义
A
max i, j
|
aij
|,
对
A
1 0
1 1
,, B
1 1
0 1
有 A 1, B 1, AB 2, 从而 AB A B
因此这样定义是为了满足相容性而设的。
A UA AV UAV
F
F
F
F
2.5.3 矩阵范数的性质
定理3 设 A, B C nn (或 Rnn )，则
(1) Onn 0 (2) A B A B
(3) ||A||是关于矩阵A各元素aij的连续函数。 证明 与向量范数类似，略。
定义2 设|| A || ,|| A || 是C nn 中定义的任意两种矩 阵范数，若存在两个与A无关的正常数m、M，使得
定义1 设F nn 是数域 F (R或C)上所有n n矩阵全体构成 的线性空间。实值函数 : F nn R 称为矩阵范数，是 指对于任意矩阵 A, B F nn 满足下列性质
(1) 正定性: || A || 0 当且仅当: A 0 , A 0
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
重点： 施密特正交化方法；正交子空间及其正交补；
正交投影；酉变换；算子范数；相容性
难点： 正交基及子空间的正交关系，算子范数及其与
向量范数的相容性
范数集中描述了向量空间的中大小和距
离的度量。
从范数可以导出向量与向量、矩阵与矩阵之间
的距离，进而引出向量序列和矩阵序列收敛的
问题。
§2.5
向量范数与矩阵范数
考虑线性空间Cn中的单位球面
S { x ( x1 , x2 , , xn )T | x |21 | x |2 2 | x |2 n 1}
由于S是有限闭集，且f(x)在S上的点均不为0，因
此，f(x)在S上连续。根据多元函数的性质，在S上
可取得最大值M与最小值m，即
0 m min
x S
x x
x x
max
x S
x x
M
对任意的向量x∈ Cn ，且x≠0，则
y x | x1 | | x2 | ... | xn |
2 2 2
S
m
y y
M
注意到
y y
x,
x
2
| x1 | | x2 | ... | xn | 1
数,则对于任意的 x V ,有:
(1) x max{ x , x } 是 V (F ) 上的范数. (2) x k1 x
k2 x
是V (F ) 上的范数.
x 0 ，可知
其中k1，k2为正实数。 证明(1)：当 x 时，由 x 0
x max{ x , x } 0
kx
p
( kxi ) ( k
i 1
n
1 p p
p
x
i 1
n
1 p p i
) k x
p
(3) 由Minkowski不等式知
x y
p
( xi yi )
p i 1 n 1 p p
n
1 p
( x i ) ( yi ) x p y
p i 1 i 1
即正定性成立。
对任意的常数k∈C，及任意的x∈V，有
kx max{ kx
, kx
} max{ k
x
, k
x
}
k max{ x
, x
} k
x
即齐次性成立。 (1) x max{ x , x } 是 V (F ) 上的范数. 对任意的y∈V，有
x y max{ x y max{ x max{ x x y
又由于 i 是固定向量 i 的范数,所以,它与 x i , yi 是无关的,所以,当 yi x i 时,有:
( y1 , y2 , , yn ) ( x1 , x 2 , , x n )
所以 x 必为 x1 , x2 ,, xn 的连续函数
定理2 设 x
,
x 是Cn中定义的两种向量范数，
Re x , y
x, y
|| x || || y ||
x , x 2 Re x , y y , y
定理1 设 x 是 C n ( R n ) 中的向量 x x1 , x2 , , x n T的 向量范数,则 x 必为 x1 , x2 ,, xn 的连续函数
造标准正交基；
3, 理解正交子空间及其正交补的概念，掌握正交投影的 概念；理解正交变换的概念，熟练掌握正交矩阵的性质；
教学内容和基本要求
4, 理解向量范数的概念，知道常用向量范数的几何意义
及其性质；理解矩阵范数的概念，掌握算子范数，会求 常用的算子范数，并掌握矩阵范数与向量范数的相容性； 5, 理解谱半径的概念，掌握谱半径的相关性质；
2
n
其中 p 1, q 1 且 p=2， Cauchy-Schwarz不等式 （Minkowski不等式）：
1 1 1 p q
1 p
n n n ( ai bi ) ( ai ) ( 2bi )
i 1
i 1
ai bi 1 ai i i 1
定义
x
max xi
i
，试证， x
是Cn上的一个向量范数。
解答： 正定性显然成立。 对任意的常数k∈C，及任意的x∈Cn，有 该范数被称为∞-范数。
kx
max kxi k max xi k
i i
x
对任意的x，y∈Cn，有
x y
max xi yi
i i i
max xi max yi x
n
1 p
p
x
p
( xi )
i 1
n
1 p p
p≧1，可知在同一个线性空间 中，可以定义不同的向量范数。
例2
设C[a,b]是由 [a,b]上所有连续函数f(x)所构成的
集合,按照通常意义下的加法和数乘构成线性空间，如
下三种映射是该空间中常用的三种范数
f ( t ) 1 f ( t ) dt ,
x的范数，简称向量范数。
向量范数是定义在线性空间上的一个非负的实值函数，
它具有如下的性质：
(1)
0
1 x 1, || x || 0 x
(2)
(3)
x x
(4)
x y
x y
证明(4)：
x x y y x y y x y x y
另一方面，
y x ( y x) x y x x x y x y y x
1 p p
n
1 p p 2 2
1
n
ibi1 i 1 其中实数
1 p 2
p 1
。
向量空间中常用的范数 例 1：设向量 x [ x1 , x2 , , xn ]T，对任意的数
n
p 1
称:
x
p
( x i ) 为向量 x 的 p 范数。
i 1
1 p p
，试证， x
1
是Cn上的一
个向量范数。 解答： 正定性显然成立。 对任意的常数k∈C，及任意的x∈Cn，有 该范数被称为1-范数。即向量的长
kx
1
kx1 kx2 ... kxn 度只是沿各坐标方向的直线度量。 k ( x1 x2 ... xn ) k x
1
对任意的x，y∈Cn，有
证明: 设Cn中的一组基为 T T T 1 1, 0, , 0 , 2 0,1, , 0 , , n 0, 0, ,1 则对任意的 x , y C n 可以表示成:
x x1 1 x 2 2 x n n y y1 1 y2 2 yn n
x ( x1 , x2 ,, xn )
于是有:
x 是关于其分量 x1 , x2 ,, xn 的实值函数,记
( y1 , y2 , , yn ) ( x1 , x2 , , xn ) y x y x
( y1 x1 ) 1 ( y2 x2 ) 2 ( yn xn ) n y1 x1 1 y2 x2 2 yn xn n
证明:只需验证(1)正定性,(2)齐次性,(3)三角不等式 设 x , y C ( R ), x x1 , x2 , xn , y y1 , y2 , yn
n n T T
(1) 正定性显然。 (2) 对任意的常数 k C ( R),由实值函数的定义:
所以 x
x2 n x
x y
1
x1 y1 x2 y2 ... xn yn ( x1 y1 ) ( x2 y2 ) ... ( xn yn ) ( x1 x2 ... xn ) ( y1 y2 ... yn ) x
1
y
1
例5 设 x x1 , x2 , ..., xn T 是向量空间Cn上的任一向量，
2.5.1 向量范数的概念与性质
定义1 设V是数域F(R或C)上的线性空间，实值函 数 :V R 称为向量范数，是指对于任意
x 0 ，且 x 0 x，y∈V，满足下列性质： x 0 正定性
齐次性
kx k x
三角形不等式
x y x y
x 是V中向量
空间V称为赋范线性空间，
x y
x y
2
x y2 2
2
x
x1
x1 y1 2
22
2
2
y
x2
2
2 x
2
x 2 y2
2
2
2
x
1
y2
2y
... xn 2
y
2 ... yn
2
2 y
2
2 x n yn ...
2
2
而
x y
2 2
x y, x y
x 1 xi n max xi n x
i 1 n
x 1 max x i x
1 i n
所以 1 ,
2 2
等价
(2)
x 2 xi n max xi n x
2 2 i 1
n
x 2 max xi x