矩阵论向量范数

矩阵论向量范数
矩阵论向量范数

第六讲

主要内容:向量范数,重要例子,等价范数

第四章 范数理论及其应用

4.1 向量范数及其性质

定义 4.1 设是数域上的线性空间,

满足

(1) 则称是上的一个范数。

例1 是上的一个范数.

问题: 你能想象该范数的重要意义吗?

定义4.2设是数域上的线性空间,是

上的一个范数,若,则

称时,按范数收敛到,记为

例2 ,对定义

(2) 是一个范数。

例3 ,对定义

(3) 是一个范数。

例4 ,对定义

(4)

是一个范数。

例5 ,对定义

(5)

是一个范数。

例6 ,对,定义

(6)

是一个范数。

Minkowski不等式

(7) Holder不等式,

(8)

例7 ,对,及正

定矩阵定义

(9)

是一个范数。

证明:练习。

例8 一个区域,,

定义

(10) 则是一个范数。

有限维空间上的范数的等价

定义 4.3 是空间上的两个范数,

若存在使得,则

称范数比强;若存在使得

,则称范数

与等价。

性质1 若范数比强,则

若范数与等价,则

性质2 范数与等价,则范数与

等价。

性质3 是空间上的三个范数,

若与等价,与等价,则与

等价。

定理4.1.1 设是一个有限维空间,则上的

任意两个范数都是等价的。

证明:取的一组基,则对

,,定义

则是上的一个范数(练习)。

对上任意范数,令

知是一个连续函数,记

则对,,所以

从而,所以范数

与范数等价。

最后,由性质3知道上的任意两个范

数都是等价的。

推论 上的任意两个范数引导的收敛性都

相同,都等价于按坐标收敛。

练习 对,有

Fun Note

闵科夫斯基 MINKOWSKI,Hermann 1864.6.22—1909.1.12

德国数学家。生于俄国的阿列克萨塔斯〔Alexotas,今在苏联考纳斯(Каунас)〕,卒于格丁根。8岁时随全家迁回德国,曾在柏林大学学习。后入柯尼斯堡(Konigsberg)大学,在那里与数学家希尔伯特结为挚友。1885年获数学博士学位。经过短期服役后,相继在波恩,柯尼斯堡(1895)、苏黎世(1896)、和格丁根(1903)等地大学任数学教授。在格丁根时与希尔伯特一起领导过数学讨论班。1881年,巴黎科学院悬赏征求下述问题的解:将一个数表成五个平方数的和。年仅17岁

的闵科夫斯基提交出大大超过原问题结果的论文,给出了更一般的答案。终于在1883年与当时英国著名的数学家亨利·史密斯同获这项数学大奖。从此,闵科夫斯基与数论结下不解之缘,在代数数论,特别是有理系数的二次型理论方面做出了突出贡献。他创用几何方法去研究数论,其目的是用几何图形来表达有理数的代数猜想,结果常常使证明变得更加简洁。1896年他出版了有关的系统论著《数的几何》(Geometrieder Zahlen),将数论中型的理论提升到一个新的高度。闵科夫斯基应用几何方法对连分数理论和n维空间的凸性理论作了探索,他还由对应几何原理引进空间距离的新定义,为本世纪20年代建立赋范空间铺平了道路。闵科夫斯基的另一贡献是与著名物理学家爱因斯坦同时奠定 了相对论的基础。他曾在1908年的科学年会上提出若干有关电动力学的新结果。他的演讲以《空间和时间》(Raum und Zeit,1907)为主题,引进了极为简单的数学空一时观。根据这种思想,某些现象可以用简单的数学方式表出,使三维几何学变成了四维物理学。他的工作为相对论提供了数学工具。1909年,闵科夫斯基因急性阑尾炎引起的并发症早逝于格丁根。

赫尔德 HOLDER,Otto Ludwig 1859.12.22—1937.8.29

德国数学家。生于斯图加特(Stuttgart),卒于莱比锡。1877年入柏林大学学习,1882年获博士学位。1884年任格丁根大学讲师,不久成为蒂宾根大学副教授。1894年受聘为柯尼斯堡大学教授。1899年任莱比锡大学教授,并被选为科学院院长,巴伐利亚(Bavaria)科学院通讯院士(1927)。赫尔德在数学分析、函数论、级数论、群论、几何学、数学基础等方面作出了重要贡献。他提出了后来以其名字命名的体积密度连续性条件,提出了以算术方法求和的法则。给外尔斯特拉斯定理——解析函数可任意接近其本性奇点邻域中的每一个值——提供了第一个完整的证明。研究了其幂级数在收敛圆周上的点发散的解析函数。论证了它们在收敛圆周上点的极限值是可以计算出来的。考察了不必连续或不必有界的函数的傅立叶级数的收敛性。首先将傅立叶系数定义为非正常积分的新形式。作出了在数学分析中有广泛应用的赫尔德不等式,包含了施瓦尔兹不等式对一般指数推广的情形。研究了正规链理论,得出了在群论中有重要意义的若尔当一赫尔德序列和若尔当—赫尔德定理。考察了单群理论,探讨了商群和正规子群所构成的群的结构。在几何学和数学基础方面,有《几何学中的观点和思想》(Anschauungen und Denken inder Geometrie,1900)《数学方法》( Die mathematische Methode,1924)等著作。赫尔德也很注意研究与物理学密切相关的数学问题,例如,他论证了哈密顿变分原理对于非完整运动(nonholonomic mo‐tion)同样是有效的。

矩阵范数标准详解

《周国标师生交流讲席010》 向量和矩阵的范数的若干难点导引(二) 一. 矩阵范数的定义 引入矩阵范数的原因与向量范数的理由是相似的,在许多场合需要“测量”矩阵的“大小”,比如矩阵序列的收敛,解线性方程组时的误差分析等,具体的情况在这里不再复述。 最容易想到的矩阵范数,是把矩阵m n A C ?∈可以视为一个mn 维的向量(采用所谓“拉 直”的变换),所以,直观上可用mn C 上的向量范数来作为m n A C ?∈的矩阵范数。比如 在1l -范数意义下,111 ||||||m n ij i j A a === ∑∑( ) 12 tr()H A A =; () 在2l -范数意义下,1 2 211||||||m n F ij i j A a ==??= ??? ∑∑, () 注意这里为了避免与以后的记号混淆,下标用“F ”,这样一个矩阵范数,称为Frobenius 范数,或F-范数。可以验证它们都满足向量范数的3个条件。 那么是否矩阵范数就这样解决了因为数学上的任一定义都要与其对象的运算联系起来,矩阵之间有乘法运算,它在定义范数时应予以体现,也即估计AB 的“大小”相对于A B 与的“大小”关系。 定义1 设m n A C ?∈,对每一个A ,如果对应着一个实函数()N A ,记为||||A ,它满足以下条件: (1)非负性:||||0A ≥; (1a )正定性:||||0m n A O A ?=?= (2)齐次性:||||||||||,A A C ααα=∈; (3)三角不等式:||A ||||||||||||,m n A B A B B C ?+≤+?∈ 则称()||||N A A =为A 的广义矩阵范数。进一步,若对,,m n n l m l C C C ???上的同类广义矩阵 范数||||?,有 (4)(矩阵相乘的)相容性:||A ||||||||||||AB A B ≤, n l B C ?∈, 则称()||||N A A =为A 的矩阵范数。 我们现在来验证前面()和()定义的矩阵范数是否合法我们这里只考虑(),把较容易的()的验证留给同学们, 三角不等式的验证。按列分块,记1212(,,,),(,,,)n n A a a a B b b b ==。 2 22112||)(,),(),(||||||F n n F b a b a b a B A +++=+ 2 222222211||||||||||||n n b a b a b a ++++++= ()()2 2 121222||||||||||||||||n n a b a b ≤++ ++ ()()()2 2 2 2 122121222122||||||||2||||||||||||||||||||||||n n n n a a a b a b b b =+ +++ +++ + 对上式中第2个括号内的诸项,应用Cauchy 不等式,则有 222||||||||2||||||||||||F F F F F A B A A B B +≤++2 (||||||||)F F A B =+ () 于是,两边开方,即得三角不等式。 再验证矩阵乘法相容性。

向量和向量范数

3.4 向量和矩阵范数 3.4.1 内积与向量范数 为了研究方程组Ax=b解的误差和迭代法收敛性,需对向量及矩阵的"大小"引进一 种度量,就要定义范数,它是向量"长度"概念的直接推广,通常用表示n维实向量空间,表示n维复向量空间. 定义4.1设(或),,,实数或 复数,称为向量x与y的数量积也称内积. 非负实数,称为向量x的欧氏范数或2-范数. 定理4.1设设(或)则内积有以下性质: (1) ,当且仅当x=0时等号成立; (2) ,或; (3) ,或; (4) ; (5) (3.4.1) 称为Cauch-Schwarz不等式. (6) ,称为三角不等式. 定义4.2向量的某个实值函数N(x),记作,若满足下列条件: (1) ‖x‖≥0,当且仅当x=0时等号成立(正定性); (2) (齐次性); (3) (三角不等式); 则称是上的一个向量范数.

对于,由内积性质可知它满足定义4.2的三个条件,故它是一种向量范数.此外还有以下几种常用的向量范数. (称为∞-范数) (称为1-范数) 容易验证及均满足定义4.2的三个条件.更一般的还可定义 但只有p=1,2,∞时的三种范数是常用的向量范数. 例如给定,则可求出 定理4.2设是上任一种向量范数,则N(x)是向量x的分量的连续函数. 定理4.3设与是上任意两种向量范数,则存在常数,使 (3.4.2) 不等式称为向量范数等价性. 以上两定理证明可见[2],[3]. 讲解: 在向量得内积(x,y)的性质中,定理4.1的(5)为Cauch-Schwarz不等式(3.4.1)是经常使用的,下面给出证明,显然当x=0或y=0时(3.4.1)成立,现设,考察 若取 则上式为 于是

矩阵范数的意义

矩阵范数的意义 几何方法是一种数学思维方法。函数和几何是数学的两条主要主线。我们学习各种函数及其性质,比如微积分、复变函数、实变函数、泛函等。而几何是函数形象表达,函数是几何的抽象描述,几何研究“形”,函数研究“数”,它们交织在一起推动数学向更深更抽象的方向发展。 函数图象联系了函数和几何,表达两个数之间的变化关系,映射推广了函数的概念,使得自变量不再仅仅局限于一个数,也不再局限于一维,任何事物都可以拿来作映射,维数可以是任意维,传统的函数图象已无法直观地表达高维对象之间的映射关系,这就要求我们在观念中,把三维的几何空间推广到抽象的n维空间。 由于映射的对象可以是任何事物,为了便于研究映射的性质以及数学表达,我们首先需要对映射的对象进行“量化”,取定一组“基”,确定事物在这组基下的坐标,事物同构于我们所熟悉的抽象几何空间中的点,事物的映射可以理解为从一个空间中的点到另一个空间的点的映射,而映射本身也是事物,自然也可以抽象为映射空间中的一个点,这就是泛函中需要研究的对象——函数。 从一个线性空间到另一个线性空间的线性映射,可以用一个矩阵来表达,矩阵被看线性作映射,线性映射的性质可以通过研究矩阵的性质来获得,比如矩阵的秩反映了线性映射值域空间的维数,可逆矩阵反映了线性映射的可逆,而矩阵范数反映了线性映射把一个向量映射为另一个向量,向量的“长度”缩放的比例。 并不是只有线性空间才有范数的定义,任意空间都可以引入范数,这样的空间称为赋范空间,使得这个空间可以被度量,如希尔伯特空间。 范数是把一个事物映射到非负实数,且满足非负性、齐次性、三角不等式,符合以上定义的都可以称之为范数,所以,范数的具体形式有很多种(由内积定义可以导出范数,范数还也可以有其他定义,或其他方式导出),要理解矩阵的算子范数,首先要理解向量范数的内涵。矩阵的算子范数,是由向量范数导出的,由形式可以知: 或方阵

矩阵范数标准详解

《周国标师生交流讲席010》 向量和矩阵的范数的若干难点导引(二) 一. 矩阵范数的定义 引入矩阵范数的原因与向量范数的理由是相似的,在许多场合需要“测量”矩阵的“大小”,比如矩阵序列的收敛,解线性方程组时的误差分析等,具体的情况在这里不再复述。 最容易想到的矩阵范数,是把矩阵m n A C ?∈可以视为一个mn 维的向量(采用所谓“拉 直”的变换),所以,直观上可用mn C 上的向量范数来作为m n A C ?∈的矩阵范数。比如 在1l -范数意义下,111 ||||||m n ij i j A a === ∑∑( ) 12 tr()H A A =; (1.1) 在2l -范数意义下,1 2 211||||||m n F ij i j A a ==??= ??? ∑∑, (1.2) 注意这里为了避免与以后的记号混淆,下标用“F ”,这样一个矩阵范数,称为Frobenius 范数,或F-范数。可以验证它们都满足向量范数的3个条件。 那么是否矩阵范数就这样解决了?因为数学上的任一定义都要与其对象的运算联系起来,矩阵之间有乘法运算,它在定义范数时应予以体现,也即估计AB 的“大小”相对于A B 与的“大小”关系。 定义1 设m n A C ?∈,对每一个A ,如果对应着一个实函数()N A ,记为||||A ,它满 足以下条件: (1)非负性:||||0A ≥; (1a )正定性:||||0m n A O A ?=?= (2)齐次性:||||||||||,A A C ααα=∈; (3)三角不等式:||A ||||||||||||,m n A B A B B C ?+≤+?∈ 则称()||||N A A =为A 的广义矩阵范数。进一步,若对,,m n n l m l C C C ???上的同类广义矩阵 范数||||?,有 (4)(矩阵相乘的)相容性:||A ||||||||||||AB A B ≤, n l B C ?∈, 则称()||||N A A =为A 的矩阵范数。 我们现在来验证前面(1.1)和(1.2)定义的矩阵范数是否合法?我们这里只考虑(1.2),把较容易的(1.1)的验证留给同学们, 三角不等式的验证。按列分块,记1212(,, ,),(,,,)n n A a a a B b b b ==。 2 22112||)(,),(),(||||||F n n F b a b a b a B A +++=+ 2 222222211||||||||||||n n b a b a b a ++++++= ()()2 2 121222||||||||||||||||n n a b a b ≤++ ++ ()()()2 2 2 2 122121222122||||||||2||||||||||||||||||||||||n n n n a a a b a b b b =+ +++ +++ + 对上式中第2个括号内的诸项,应用Cauchy 不等式,则有 222||||||||2||||||||||||F F F F F A B A A B B +≤++2 (||||||||)F F A B =+ (1.3) 于是,两边开方,即得三角不等式。

数值分析向量,矩阵范数,矩阵的条件数.

§8 向量,矩阵范数,矩阵的条件数 一 、 向量、矩阵范数 为了讨论线性方程组近似解的误差估计与研究解方程组迭代法的收敛性,需要在)(n n n R R ?或中引进向量序列(或矩阵序列)极限概念。为此,这就需要对量空间n R (或n n R ?矩阵空间)元素的“大小”引进某种度量即 向量范数(或矩阵范数)即距离的概念。 (一)向量范数:向量范数是3R 中向量长度概念的推广。 },{1为复数i n n x x x x x C ??????????== 称为n 维复向量空间。 },)({为复数ij n n ij n n a a A A C ??==称为n n ?复矩阵空间。 (2)设n n n C A C x ?∈∈,,称T n H x x x x =≡),,(1 为x 的共轭转置, T H A A =称为A 共轭转置矩阵。 在许多应用中,对向量的范数(对向量的“大小”的度量)都要求满足正定条件,齐次条件和三角不等式,下面给出向量范数的抽象定义。 n R x ∈(或n C x ∈)的某个实值非负函数 x x N ≡)(,如果满足下述条件 (1)正定性 00,0=??=≥x x x (2)齐次性 x ax α=其中R ∈α(或C ∈α)

(3)三角不等式 )(,,n n C R y x y x y x ∈∈?+≤+或,称x x N ≡)(是n R 上(或n C )一个向量范数(或为模)。 由三角不等式可推出不等式 (4)y x y x -≤- 下面给出矩阵计算中一些常用向量范数。 设)(),,(1n n T n C x R x x x ∈∈=或 (1)向量的“∞”范数 i n i x x x N ≤≤∞ ∞=≡1max )( (2)向量的“1”范数 ∑==≡n i i x x x N 1 1 1)( (3)向量的“2”范数 2/11 2 2 /12 2)() ,()(∑===≡n i i x x x x x N (4)向量的能量范数 设n n R A ?∈为对称正定阵 2/1),()(x Ax x x N R x A A n =≡→∈? 称为向量的能量范数。 设n R x ∈(或n C x ∈),则)(),(),(12x N x N x N ∞是n R 上(或n C )的向量范数。 证明 只验证三角不等式:对任意n R y x ∈,,则222 y x y x +≤+ 利用哥西不等式:22 ),(y x y x ≤,则有 ),(22 y x y x y x ++=+),(),(2),(y y y x x x ++= 22 2 2 22 2y y x x ++≤222))(y x += 对任何n R y x ∈,则 (1) ∞∞ ≤≤x n x x 2

相关文档
最新文档