向量和向量范数
第五章--向量范数和矩阵范数
当 x 时，|| x ||A 0 ；当 x θ 时由 A 对称
正定知 xH Ax 0 ，即 || x ||A 0 。
对于任意 k C ，有 || k x ||A (kx)T A(kx) | k | xT Ax | k | || x ||A
由于 A 为Hermite正定矩阵，故存在酉矩阵 U ，使得
|| x ||2
| x1 |2 | x2 |2
| xn |2
定义的|| ||2 是 F n上的向量范数，称为2-范数或 l2
范数，也称为 Euclid 范数。
例 7 对任意 x ( x1, x2, , xn) T F n，由
|| x ||p
1/ p n
| xi |p , p 1
i1
定义的|| ||p 是 F n 上的向量范数，称为p -范数或 lp
UT AU Λ diag( λ1, λ2, , λn)
这里 A 的特征值 λi (i 1, 2, , n) 都为正数。
从而有
A UΛUT U Λ Λ UT BT B
此时
|| x ||A xT Ax xT BT Bx (Bx)T Bx || Bx ||2
因此对任意 y C n ， || x y ||A || B( x y) ||2
数 || A || 表示对于任意向量 x F n ， A 可以 “拉伸”向量 x 的最大倍数，即使得不等式
|| A x || C || x || 成立的最小的数 C 。称 || A || 为范数 || || 和 || ||
j1
n
| xj
j1
yj |; yj |;
yj |;
1
yj |m m;
以及与椭圆范数类似的Mahalanobis距离：
数值计算方法-范数
0
1 k 2k 1 1 例 求向量序列x ,(1 ) , 的极限向量 k k 11 k 1 解：首先求出每个分量向量的极限，即
(k )
T
1 k 2k 1 1 lim x lim ,(1 ) , k k k 1 k k 11 T k 1 2k 1 1 lim ,lim 1 ,lim k k 1 k k k 11 k
k k k
反之，设（ A） 1，且为矩阵A的任一特征值，x为其 对应的特征向量，其中 = （A）,
则有 从而
k
Ax x x
k k 2 2
2
A
k 2
Ak x x
2
2
1，
即lim Ak 0不成立，假设不成立，原命题正确。
误差分析
例 设线性方程组: 0.99 x1 1.99 1 0.99 0.98 x 1.97 2 试分析系数矩阵和右端项有微小扰动, 解将产生 什么样的变化 ? 解： 易求该方程组的精确解为x (1,1)T 。
从上述定理可以推知,向量的P-范数（p=1,2,）有如下 等价关系：
1 x1 x n
x2 x1
注：定义在同一个R n空间中的所有范数都是等价的
向量序列的极限：
(k ) (k ) T 设x ( k ) ( x1( k ) , x2 , , xn ) R n , k 0,1, ，为R n中的一个
|| Ax ||2 T T ② || A ||2 max = （ A A ） ；（ 为 A A特征值 max n xR || x || 2 || x|| 0
范数
3.3 范数3.3.1 向量范数在一维空间中，实轴上任意两点距离用两点差的绝对值表示。
绝对值是一种度量形式的定义。
范数是对函数、向量和矩阵定义的一种度量形式。
任何对象的范数值都是一个非负实数。
使用范数可以测量两个函数、向量或矩阵之间的距离。
向量范数是度量向量长度的一种定义形式。
范数有多种定义形式，只要满足下面的三个条件即可定义为一个范数。
同一向量，采用不同的范数定义，可得到不同的范数值。
定义3.1对任一向量，按照一个规则确定一个实数与它对应，记该实数记为，若满足下面三个性质：（1），有，当且仅当时，（非负性）（2），，有（齐次性）（3.37）（3），，有（三角不等式）那么称该实数为向量的范数。
几个常用向量范数向量的范数定义为其中，经常使用的是三种向量范数。
或写成例3.5 计算向量的三种范数。
向量范数的等价性有限维线性空间中任意向量范数的定义都是等价的。
若是上两种不同的范数定义，则必存在,使均有或（证明略）向量的极限有了向量范数的定义，也就有了度量向量距离的标准，即可定义向量的极限和收敛概念了。
设为上向量序列，若存在向量使，则称向量列是收敛的（是某种向量范数），称为该向量序列的极限。
由向量范数的等价知，向量序列是否收敛与选取哪种范数无关。
向量序列，收敛的充分必要条件为其序列的每个分量收敛，即存在。
若，则就是向量序列的极限。
例3.6 求向量序列极限向量。
解：算出每个向量分量的极限后得在计算方法中，计算的向量序列都是数据序列，当小于给定精度时，取为极限向量。
3.3.2 矩阵范数矩阵范数定义定义3.2 如果矩阵的某个非负实函数，记作，满足条件：（1）当且仅当时，（非负性）（2）（齐次性）（3）对于任意两个阶数相同的矩阵有（三角不等式性）（4）矩阵为同阶矩阵（相容性）则称为矩阵范数。
矩阵的算子范数常用的矩阵范数是矩阵的算子范数，可用向量范数定义：设，记方阵的范数为，那么或（3.38）称为矩阵的算子范数或从属范数。
3-1,2,3向量范数
主要内容 一、向量范数 二、矩阵范数与算子范数 三、范数的应用
第一节 向量范数
主要内容： 1·向量范数的定义及几种常见的向量范数 2·向量范数的等价性
一、向量范数的定义
对于向量空间 C上n 的任意向量 x,
如果函数 Cn R 满足：
对应一个实值函数 x
1）正定性 x 0 且 x 0 x 0
d(x, y) x y
实例1 在向量空间C n中, 向量的长度是一种向量范数，
称为2-范数或欧氏范数。
n
1
x ( 2
xi 2 ) 2
i 1
x (x1, x2 , , xn )T C n
证明 易验证条件(i)和(ii)成立，现验证条件(iii)也成立。 下面用到了Chauchy-Schwarz不等式。
2）齐次性 x x , C
3）三角不等式 x y x y
则称 x为向量x的范数。
范数的性质： (1) x x
(2) x y x y
性质（1）利用范数的齐次性即可证明。 下面证明（2）。根据三角不等式，有
x xyy xy y
x y xy 对任意的 x , y C，n 可以利用范数定义向量间的距离如下：
n
x 1
xi
i 1
n
1
x ( 2
xi 2 ) 2
i 1
1－范数， 2－范数(或Euclid范数)
x
max
1in
xi
它们均构成范数。
∞－范数(或最大值范数)。
说明：在同一个向量空间，可以定义多种向量范数，而对 于同一个向量，不同定义的范数，其大小可能不同。
x 1,2,3T
x 6 1
x 14 2
数值分析向量,矩阵范数,矩阵的条件数
§8 向量,矩阵范数，矩阵的条件数一 、 向量、矩阵范数为了讨论线性方程组近似解的误差估计与研究解方程组迭代法的收敛性，需要在)(nn nRR ⨯或中引进向量序列(或矩阵序列)极限概念。
为此，这就需要对量空间n R (或n n R ⨯矩阵空间)元素的“大小”引进某种度量即向量范数(或矩阵范数)即距离的概念。
(一)向量范数：向量范数是3R 中向量长度概念的推广。
},{1为复数i n nx x x x x C ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡== 称为n 维复向量空间。
},)({为复数ij n n ij n n a a A A C ⨯⨯==称为n n ⨯复矩阵空间。
(2)设nn nCA C x ⨯∈∈,,称T n Hx x x x=≡),,(1 为x 的共轭转置，T H A A =称为A 共轭转置矩阵。
在许多应用中，对向量的范数(对向量的“大小”的度量)都要求满足正定条件，齐次条件和三角不等式，下面给出向量范数的抽象定义。
nR x ∈(或nC x ∈)的某个实值非负函数x x N ≡)(，如果满足下述条件(1)正定性 00,0=⇒⇐=≥x x x (2)齐次性 x ax α=其中R ∈α(或C ∈α)(3)三角不等式 )(,,nn C R y x y x y x ∈∈∀+≤+或，称x x N ≡)(是n R 上(或n C )一个向量范数(或为模)。
由三角不等式可推出不等式 (4)y x y x -≤- 下面给出矩阵计算中一些常用向量范数。
设)(),,(1nn T n C x R x x x ∈∈=或(1)向量的“∞”范数 i n i x x x N ≤≤∞∞=≡1max )((2)向量的“1”范数 ∑==≡ni i x xx N 111)((3)向量的“2”范数 2/1122/122)(),()(∑===≡ni i x x x xx N(4)向量的能量范数 设n n R A ⨯∈为对称正定阵2/1),()(x Ax xx N R x AA n =≡→∈∀称为向量的能量范数。
线性代数中的基础概念常见符号表示,向量范数与矩阵范数
线性代数中的基础概念常见符号表示，向量范数与矩阵范数常见的符号表示\mathbb{R} : 实数集\mathbb{C} : 复数集\mathbb{R}^n : n维实数空间\mathbb{C}^n : n维复数空间\mathbb{R}^{m\times n} : 所有m \times n的实矩阵构成的集合\mathbb{C}^{m\times n} : 所有m \times n的复矩阵构成的集合\mathbf{x} : 列向量[\mathbf{x}]_i, x_i : 向量\mathbf{x}的第i个元素\mathbf{A} :矩阵a_{ij}, [\mathbf{A}]_{ij}:矩阵第i行的第j个元素向量：\mathbf{x} \in \mathbb{R}^n即\mathbf{x} = \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{bmatrix}, x_i \in \mathbb{R}, i \in \{1, 2, \cdots, n\}\\向量的转置：\mathbf{x} \in \mathbb{R}^n, \mathbf{x}^T = [x_1, x_2, \cdots, x_n] (列向量转置成为了行向量)向量的共轭转置：\mathbf{x} \in \mathbb{C}^n,\mathbf{x}^H = [x_1^*, x_2^*, \cdots, x_n^*]（x_i与x_i^*互为共轭）矩阵:\mathbf{A} \in \mathbb{R}^{m \times n}即\begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & & &\vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \\\end{bmatrix} = \begin{bmatrix} \mathbf{a}_1 &\mathbf{a}_2 & \cdots & \mathbf{a}_n \end{bmatrix},a_{ij} \in \mathbb{R}, \mathbf{a}_j \in \mathbb{R}^m, i \in \{1, 2, \cdots, m\}, j \in \{1, 2, \cdots, n\}\\矩阵的转置：\mathbf{A} \in \mathbb{R}^{m \times n}\mathbf{A}^T = \begin{bmatrix} a_{11} & a_{21} &\cdots & a_{m1} \\ a_{12} & a_{22} & \cdots & a_{m2} \\ \vdots & & & \vdots \\ a_{1n} & a_{2m} & \cdots & a_{mn} \\ \end{bmatrix} \in \mathbb{R}^{n \times m}, \mathbf{B} = \mathbf{A}^T \Leftrightarrow b_{ij} =a_{ij}\\性质：•\mathbf{(AB)}^T = \mathbf{B}^T \mathbf{A}^T•(\mathbf{A}^T)^T = \mathbf{A}•(\mathbf{A+B})^T = \mathbf{A}^T + \mathbf{B}^T矩阵的共轭转置：\mathbf{A} \in \mathbb{C}^{m \times n}\mathbf{A}^H = \begin{bmatrix} a_{11}^* & a_{21}^* & \cdots & a_{m1}^* \\ a_{12}^* & a_{22}^* & \cdots &a_{m2}^* \\ \vdots & & & \vdots \\ a_{1n}^* & a_{2m}^*& \cdots & a_{mn}^* \\ \end{bmatrix} \in \mathbb{R}^{n \times m}, \mathbf{B} = \mathbf{A}^H \Leftrightarrowb_{ij} = a_{ij}^*\\性质：•\mathbf{(AB)}^H = \mathbf{B}^H \mathbf{A}^H•(\mathbf{A}^H)^H = \mathbf{A}•(\mathbf{A+B})^H = \mathbf{A}^H + \mathbf{B}^H矩阵的迹（trace）： \mathbf{A} \in \mathbb{R}^{n\times n}, tr(\mathbf{A}) = \sum_i^n a_{ii}性质：•tr(\mathbf{A}^T) = \mathbf{A}•tr(\mathbf{A+B}) = tr(\mathbf{A}) + tr(\mathbf{B})•tr(\mathbf{AB}) = tr(\mathbf{BA})\mathbf{0} 表示一个元素全为0的向量或矩阵\mathbf{1} 表示一个元素全为1的向量或矩阵单位向量：\mathbf{e}_i = [0, \cdots, 0, 1, 0 \cdots, 0]^T，\mathbf{e}_i只有一个位置为1，其余是0单位矩阵（identity matrix）：\mathbf{I} = \begin{bmatrix} 1 & & & \\ & 1 & & \\ & & \ddots & \\ & & & 1 \end{bmatrix}\\对角矩阵（diagonal matrx）：\text{diag}(a_1, \cdots, a_n) = \begin{bmatrix} a_1 & & \\ & \ddots & \\ & & a_n \end{bmatrix}\\上三角矩阵（upper triangle matrix）\mathbf{L} = \begin{bmatrix} l_{11} & l_{12} & \cdots & l_{ln} \\ & l_{22} & \cdots & l_{2n} \\ & & \ddots & \vdots\\ & & & l_{nn} \end{bmatrix}\\关于上三角矩阵：•上三角矩阵的逆是上三角矩阵•上三角矩阵和上三角矩阵相乘，仍是上三角矩阵下三角矩阵（lower triangle matrix）\mathbf{U} = \begin{bmatrix} u_{11} & & & \\ u_{12} & u_{22} & & \\ \vdots & \vdots & \ddots & \\ u_{1n} &u_{2n} & \cdots & u_{nn} \end{bmatrix}\\关于下三角矩阵：•下三角矩阵的逆是上三角矩阵•下三角矩阵和上三角矩阵相乘，仍是下三角矩阵向量乘法与数乘如\mathbf{x} = [x_1, x_2, \cdots, x_n]^T \in\mathbb{R}^n, \mathbf{y} = [y_1, y_2, \cdots, y_n]^T \in \mathbb{R}^n, \alpha \in \mathbb{R},•向量数乘：\alpha \mathbf{x} = [\alpha x_1, \alpha x_2, \cdots, \alpha x_n]^T•向量乘法（内积）：<\mathbf{x}, \mathbf{y}> =\mathbf{x}^T \mathbf{y} = \sum_{i=1}^n x_i y_i•如果\mathbf{x}^T \mathbf{y} = 0, 则说\mathbf{x}和\mathbf{y}是正交的。
范数的运算方法
范数的运算方法在数学领域中，范数是衡量向量大小的一种工具，广泛应用于线性代数、数值分析等领域。
范数的运算方法不仅涉及基础的数学理论，还与实际应用紧密相关。
本文将详细介绍几种常见的范数运算方法。
一、向量范数的定义设向量( mathbf{a} = (a_1, a_2, ..., a_n) )，其范数定义为：1.向量的1-范数（Manhattan范数）：[ ||mathbf{a}||_1 = sum_{i=1}^{n} |a_i| ]2.向量的2-范数（Euclidean范数，即欧几里得范数）：[ ||mathbf{a}||_2 = sqrt{sum_{i=1}^{n} a_i^2} ]3.向量的∞-范数（最大范数）：[ ||mathbf{a}||_{infty} = max_{1leq ileq n} |a_i| ]二、范数的运算方法1.范数的加法：对于向量( mathbf{a} ) 和( mathbf{b} )，其1-范数、2-范数和∞-范数的加法满足以下性质：[ ||mathbf{a} + mathbf{b}||_1 leq ||mathbf{a}||_1 + ||mathbf{b}||_1 ] [ ||mathbf{a} + mathbf{b}||_2 leq ||mathbf{a}||_2 + ||mathbf{b}||_2 ] [ ||mathbf{a} + mathbf{b}||_{infty} leq ||mathbf{a}||_{infty} +||mathbf{b}||_{infty} ]2.范数的乘法：对于向量( mathbf{a} ) 和标量( alpha )，其1-范数、2-范数和∞-范数的乘法满足以下性质：[ ||alpha mathbf{a}||_1 = |alpha| ||mathbf{a}||_1 ][ ||alpha mathbf{a}||_2 = |alpha| ||mathbf{a}||_2 ][ ||alpha mathbf{a}||_{infty} = |alpha| ||mathbf{a}||_{infty} ]3.范数的三角不等式：对于向量( mathbf{a} ) 和( mathbf{b} )，其1-范数、2-范数和∞-范数满足以下三角不等式：[ ||mathbf{a} + mathbf{b}||_1 leq ||mathbf{a}||_1 + ||mathbf{b}||_1 ] [ ||mathbf{a} + mathbf{b}||_2 leq ||mathbf{a}||_2 + ||mathbf{b}||_2 ] [ ||mathbf{a} + mathbf{b}||_{infty} leq ||mathbf{a}||_{infty} +||mathbf{b}||_{infty} ]三、总结范数的运算方法在实际应用中具有重要作用，如优化问题、数值分析等领域。
第3章 线性方程组解法 第2节 向量范数等价性证明
将实数
n
(x, y) yT x xi yi
i 1
n
（或复数 (x, y) y H x ） xi yi
i1
称为向量 x,的y 数量积.
18
将非负实数
1
x
2
1
(x, x) 2
n i 1
xi2 2
或
1
x 2
1
(x, x) 2
n i1
xi 2 2
称为向量 x的欧氏范数 .
，x *
记为
lim x(k ) x*.
k
25
定理7
( N (的x)连续性) 设非负函数 N (x) x
为 R上n 任一向量范数， 则 N (是x) 的x分量
的连续函数.
xi2 ) 2 .
i 1
也称为向量 x的欧氏范数.
4. 向量的 -范p数：
n
x ( p
xi p )1/ p ,
i 1
其中 p [1., )
可以证明向量函数 N (x)是 x上p 向量R的n 范数, 且容易说明上述三种范数是 p-范数的特殊情况.
24
例 计算向量 x (1,的2,3各)T种范数.
关于范数，成立如下定理.
定理6
设 x, yR（ n 或Cn ), 则
1. (x,x)0, 当且仅当x 0 时成立；
19
2. (x, y) (x, y), 为实数, (或(x, y) (x, y), 为复数）；
3. (x, y) ( y,x)(或(x, y) ( y,x));
4. (x1 x2, y) (x1, y) (x2, y);
证明 设 是 的A 任一特征值， 为x相应的特征向量，
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
3.4 向量和矩阵范数
3.4.1 内积与向量范数
为了研究方程组Ax=b解的误差和迭代法收敛性，需对向量及矩阵的"大小"引进一
种度量，就要定义范数，它是向量"长度"概念的直接推广，通常用表示n维实向量空间，表示n维复向量空间.
定义4.1设(或)，，，实数或
复数，称为向量x与y的数量积也称内积.
非负实数，称为向量x的欧氏范数或2-范数.
定理4.1设设(或)则内积有以下性质：
(1) ，当且仅当x=0时等号成立；
(2) ,或；
(3) ,或；
(4) ；
(5) (3.4.1)
称为Cauch-Schwarz不等式.
(6) ，称为三角不等式.
定义4.2向量的某个实值函数N(x)，记作，若满足下列条件：
(1) ‖x‖≥0,当且仅当x=0时等号成立(正定性)；
(2) (齐次性)；
(3) (三角不等式)；
则称是上的一个向量范数.
对于，由内积性质可知它满足定义4.2的三个条件，故它是一种向量范数.此外还有以下几种常用的向量范数.
(称为∞-范数)
(称为1-范数)
容易验证及均满足定义4.2的三个条件.更一般的还可定义
但只有p=1,2,∞时的三种范数是常用的向量范数.
例如给定,则可求出
定理4.2设是上任一种向量范数，则N(x)是向量x的分量的连续函数.
定理4.3设与是上任意两种向量范数，则存在常数，使
(3.4.2)
不等式称为向量范数等价性.
以上两定理证明可见［2］，［3］.
讲解：
在向量得内积（x,y）的性质中，定理4.1的（5）为Cauch-Schwarz不等式（3.4.1）是经常使用的，下面给出证明，显然当x＝0或y＝0时（3.4.1）成立，现设，考察
若取
则上式为
于是
两边开方则得（3.4.1）
利用（3.4.1）直接可证三角不等式，从而可证明向量2一范数，满足定义中的三个条件。
及是三种最常用的范数。
实际上可以给出很多不同的向量范数，只要证明它们满足定义4.2中的三个条件，定理4.3表明任意的两种向量范数及，它们都是等价的，对于的等价性在习题10中给出，可自己证明。