6.1向量范数
第五章--向量范数和矩阵范数
当 x 时，|| x ||A 0 ；当 x θ 时由 A 对称
正定知 xH Ax 0 ，即 || x ||A 0 。
对于任意 k C ，有 || k x ||A (kx)T A(kx) | k | xT Ax | k | || x ||A
由于 A 为Hermite正定矩阵，故存在酉矩阵 U ，使得
|| x ||2
| x1 |2 | x2 |2
| xn |2
定义的|| ||2 是 F n上的向量范数，称为2-范数或 l2
范数，也称为 Euclid 范数。
例 7 对任意 x ( x1, x2, , xn) T F n，由
|| x ||p
1/ p n
| xi |p , p 1
i1
定义的|| ||p 是 F n 上的向量范数，称为p -范数或 lp
UT AU Λ diag( λ1, λ2, , λn)
这里 A 的特征值 λi (i 1, 2, , n) 都为正数。
从而有
A UΛUT U Λ Λ UT BT B
此时
|| x ||A xT Ax xT BT Bx (Bx)T Bx || Bx ||2
因此对任意 y C n ， || x y ||A || B( x y) ||2
数 || A || 表示对于任意向量 x F n ， A 可以 “拉伸”向量 x 的最大倍数，即使得不等式
|| A x || C || x || 成立的最小的数 C 。称 || A || 为范数 || || 和 || ||
j1
n
| xj
j1
yj |; yj |;
yj |;
1
yj |m m;
以及与椭圆范数类似的Mahalanobis距离：
向量的范数
设 Ax = b为一线性方程组 , A 为非奇异矩阵 , x为其精确解
若常数项 b存在误差 δ b , 则解也应存在误差 δ x
即有
A( x + δ x ) = b + δ b
Aδx = δb
δ x = A −1δ b
所以 又因为
δx = A −1δb ≤ A −1 ⋅ δb
A2=
显然
λ max ( A A )
T
=
ρ ( AT A )
设 ⋅ 是 R n × n 上的一种算子范数 , A ∈ R n × n , 定理1.
若 A满足 A < 1 , 则 I + A非奇异 , 且
( I + A)
−1
1 < 1− A
三、误差分析
对于线性方程组 Ax = b , 如果系数矩阵 A或 常数项 b的元素的微小变化 , 就会引起方程组解的 巨大变化 , 则称该方程组是 " 病态 "的 , A为" 病态 " 矩 阵.否则称为 "良态 "的.
∞
2 − 范数
( 3) Ax A 2 = max x≠0
2
= λmax ( AT A) x 2
λmax ( AT A)为AT A的特征值的绝对值的最 大值
例2. 求矩阵A的各种常用范数
1 2 A = − 1 2 0 1
n
0 − 1 1
1≤ j ≤ n
δA
A
定义4.
设 A 为非奇异矩阵 , 称
cond ( A ) = A ⋅ A −1
为 A 的条件数 , 其中 ⋅ 为某种算子范数 .
同济大学研究生课程教学大纲
同济大学研究生课程教学大纲课程名称所在院（系、所）适用专业填表日期同济大学研究生院培养处制课程编号：（请用4号字填写）课程名称：（请用黑体4号字填写）英文名称：（请用4号字填写）开课单位：（请用宋体5号字填写）开课学期：（请用宋体5号字填写）课内学时：（请用宋体5号字填写）教学方式：（请用宋体5号字填写）适用专业：（请用宋体5号字填写）考核方式：（请用宋体5号字填写）预修课程：（请用宋体5号字填写）一、教学目标与要求（请用宋体5号字填写）二、课程内容与学时分配（请用宋体5号字填写）三、实验及实践性环节（注：此项没有的不填）（请用宋体5号字填写）四、教材（序号，编著者姓名，教材名称，出版社，版次，出版日期）（请用宋体5号字填写）主要参考书（序号，编著者姓名，教材名称，出版社，版次，出版日期）（请用宋体5号字填写）大纲撰写负责人：（请用宋体5号字填写）授课教师：（请用宋体5号字填写）课程编号：000109课程名称：矩阵论英文名称：The Theory of Matrices开课单位：081（理学院数学系）开课学期：1课内学时：60 教学方式：讲授适用专业：工科各专业考核方式：考试预修课程：线性代数、高等数学一、教学目标与要求本课程较全面、系统地介绍矩阵的基本理论、方法和某些应用，重点是线性空间及其映射、变换，以及矩阵运算等。
难点是理解线性空间、线性映射、线性变换的不变子空间、λ矩阵在相抵下的标准形和矩阵算子范数等抽象概念以及计算线性映射在基下的矩阵、-的各种因子分解等。
通过本课程中基本概念和基本定理的阐述和论证，培养研究生的抽象思维与逻辑推理能力，提高研究生的数学素养。
在重视数学论证的同时，强调数学概念的物理、力学等实际背景，培养研究生应用数学知识解决实际工程技术问题的能力。
通过本课程的学习，要求研究生掌握矩阵的基本理论和方法，为学习后续课程、开展科学研究打好基础。
二、课程内容与学时分配第一章线性空间与内积空间（8学时）1．1 预备知识：集合·映射与数域 1．2 线性空间1．3 基与坐标 1．4 线性子空间1．5 线性空间的同构 1．6 内积空间第二章线性映射与线性变换（8学时）2．1 线性映射及其矩阵表示 2．2 线性映射的值域与核2．3 线性变换 2．4 特征值与特征向量2．5 矩阵的相似对角形 2．6 线性变换的不变子空间2．7 酉（正交）变换与酉（正交）矩阵第三章λ-矩阵与矩阵的Jordan标准形（8学时）3．1 一元多项式 3．2 λ-矩阵及其在相抵下的标准形3．3 λ-矩阵的行列式因子和初等因子 3．4 矩阵相似的条件3．5矩阵的Jordan标准形3．6 Cayley-Hamilton定理与最小多项式第四章矩阵的因子分解（8学时）4．1 初等矩阵 4．2 满秩分解4．3 三角分解 4．4 QR分解4．5 Schur定理与正规矩阵 4．6 奇异值分解第五章 Hermite 矩阵与正定矩阵（6学时）5．1 Hermite 矩阵与Hermite 二次型 5．2 Hermite 正定（非负定）矩阵5．3 矩阵不等式 5．4 Hermite 矩阵的特征值* 第六章 范数与极限（10学时）6．1 向量范数 6．2 矩阵范数6．3 矩阵序列与矩阵级数 6．4 矩阵扰动分析第七章 矩阵函数与矩阵值函数（4学时）7．1 矩阵函数 7．2 矩阵值函数7．3 矩阵值函数在微分方程组中的应用 7．4 特征对的灵敏度分析* 第八章 广义逆矩阵（6学时）8．1 广义逆矩阵的概念 8．2 广义逆矩阵A -与线性方程组的解8．3 极小范数广义逆A m -与相容方程组的极小范数解8．4 最小二乘广义逆A i -与矛盾方程组的最小二乘解8．5 广义逆矩阵A +与线性方程组的极小最小二乘解第九章 Kronecker 积与线性矩阵方程（2学时）9．1 矩阵的Kronecker 积 9．2 矩阵的拉直与线性矩阵方程9．3 矩阵方程AXB C =与矩阵最佳逼近问题* 9．4 矩阵方程AX B =的Hermite 解与矩阵最佳逼近问题* 9．5 矩阵方程AX XB C +=和X AXB C-=* 第十章 非负矩阵* 10．1 非负矩阵与正矩阵 10．2 素矩阵与不可约矩阵10．3 随机矩阵 10．4 M —矩阵注：带“*”者为机动的内容。
矩阵分析 - 北京理工大学研究生院
课程名称：矩阵分析一、课程编码：1700002课内学时： 32 学分： 2二、适用学科专业：计算机、通信、软件、宇航、光电、生命科学等工科研究生专业三、先修课程：线性代数，高等数学四、教学目标通过本课程的学习，要使学生掌握线性空间、线性变换、Jordan标准形，及各种矩阵分解如QR分解、奇异值分解等，正规矩阵的结构、向量范数和矩阵范数、矩阵函数，广义逆矩阵、Kronecker积等概念和理论方法，提升研究生的数学基础，更好地掌握矩阵理论，在今后的专业研究或工作领域中熟练应用相关的矩阵分析技巧与方法，让科研结果有严格的数学理论依据。
五、教学方式教师授课六、主要内容及学时分配1、线性空间和线性变换（5学时）1.1线性空间的概念、基、维数、基变换与坐标变换1.2子空间、线性变换1.3线性变换的矩阵、特征值与特征向量、矩阵的可对角化条件2、λ-矩阵与矩阵的Jordan标准形（4学时）2.1 λ-矩阵及Smith标准形2.2 初等因子与相似条件2.3 Jordan标准形及应用；3、内积空间、正规矩阵、Hermite 矩阵（6学时）3.1 欧式空间、酉空间3.2标准正交基、Schmidt方法3.3酉变换、正交变换3.4幂等矩阵、正交投影3.5正规矩阵、Schur 引理3.6 Hermite 矩阵、Hermite 二次齐式3.7.正定二次齐式、正定Hermite 矩阵3.8 Hermite 矩阵偶在复相合下的标准形4、矩阵分解（4学时）4.1矩阵的满秩分解4.2矩阵的正交三角分解（UR、QR分解）4.3矩阵的奇异值分解4.4矩阵的极分解4.5矩阵的谱分解5、范数、序列、级数（4学时）5.1向量范数5.2矩阵范数5.3诱导范数（算子范数）5.4矩阵序列与极限5.5矩阵幂级数6、矩阵函数（4学时）6.1矩阵多项式、最小多项式6.2矩阵函数及其Jordan表示6.3矩阵函数的多项式表示6.4矩阵函数的幂级数表示6.5矩阵指数函数与矩阵三角函数7、函数矩阵与矩阵微分方程（2学时）7.1 函数矩阵对纯量的导数与积分7.2 函数向量的线性相关性7.3 矩阵微分方程(t)()() dXA t X t dt=7.4 线性向量微分方程(t)()()() dxA t x t f t dt=+8、矩阵的广义逆（3学时）8.1 广义逆矩阵8.2 伪逆矩阵8.3 广义逆与线性方程组课时分配说明：第一章的课时根据学生的数学基础情况可以调整，最多5学时，如学生线性代数的基础普遍较高，可以分配3学时，剩余2学时可在最后讲解第九章部分内容(Kronecker 积的概念和基本性质)。
向量范数
向量范数定义1. 设,满足1. 正定性:║x║≥0,║x║=0 iff x=02. 齐次性:║cx║=│c│║x║,3. 三角不等式:║x+y║≤║x║+║y║则称Cn中定义了向量范数,║x║为向量x的范数.可见向量范数是向量的一种具有特殊性质的实值函数.常用向量范数有,令x=( x1,x2,…,xn)T1-范数:║x║1=│x1│+│x2│+…+│xn│2-范数:║x║2=(│x1│2+│x2│2+…+│xn│2)^1/2∞-范数:║x║∞=max(│x1│,│x2│,…,│xn│)易得║x║∞≤║x║2≤║x║1≤n1/2║x║2≤n║x║∞定理中任意两种向量范数║x║α,║x║β是等价的,即有m,M>0使m║x║α≤║x║β≤M║x║可根据范数的连续性来证明它.由定理1可得定理2.设{x(k)}是Cn中向量序列,x是Cn中向量,则║x(k)-x║→0(k→∞) iff xj(k)-xj→0,j=1,2,…,n(k→∞)其中xj(k)是x(k)的第j个分量,xj是x的第j个分量.此时称{x(k)}收敛于x,记作x(k) →x(k→∞),或 .三、矩阵范数定义2. 设,满足1. 正定性:║X║≥0,║X║=0 iff X=02. 齐次性:║cX║=│c│║X║,3. 三角不等式:║X+Y║≤║X║+║Y║4. 相容性: ║XY║≤║X║║Y║则称Cn×n中定义了矩阵范数,║X║为矩阵X的范数.注意, 矩阵X可视为n2维向量,故有前三条性质.因此定理1,2中向量的等价性和向量序列收敛的概念与性质等也适合于矩阵.第四条,是考虑到矩阵乘法关系而设.更有矩阵向量乘使我们定义矩阵范数向量范数的相容性:║Ax║≤║A║║x║所谓由向量范数诱导出的矩阵范数与该向量范数就是相容的.定理3. 设A是n×n矩阵,║?║是n维向量范数则║A║=max{║Ax║:║x║=1}= max{║Ax║/║x║: x≠0}是一种矩阵范数,称为由该向量范数诱导出的矩阵范数或算子范数,它们具有相容性或者说是相容的.单位矩阵的算子范数为1可以证明任一种矩阵范数总有与之相容的向量范数.例如定义:║x║=║X║,X=(xx…x)常用的三种向量范数诱导出的矩阵范数是1-范数:║A║1= max{║Ax║1:║x║1=1}=2-范数:║A║2=max{║Ax║2:║x║2=1}= ,λ1是AHA的最大特征值.∞-范数:║A║∞=max{║Ax║∞:║x║∞=1}=此外还有Frobenius范数: .它与向量2-范数相容.但非向量范数诱导出的矩阵范数.四、矩阵谱半径定义3.设A是n×n矩阵,λi是其特征值,i=1,2,…,n.称为A的谱半径.谱半径是矩阵的函数,但非矩阵范数.对任一矩阵范数有如下关系:ρ(A)≤║A║因为任一特征对λ,x,Ax=λx,令X=(xx…x),可得AX=λX.两边取范数,由矩阵范数的相容性和齐次性就导出结果.定理 3.矩阵序列I,A,A2,…Ak,…收敛于零的充分必要条件是ρ(A)。
《矩阵论》 ppt课件
1
2
p
ppt课件
4
引理6.1.1 如果实数p 1, q 1且 1 1 1,则对 pq
任意非负实数a, b, 有
a p bq ab
pq
定理6.1.1（Hölder不等式）
设x ( x1 ,, xn )T , y ( y1 ,, yn )T C n , 则
1
1
(2) 齐次性：对任意k P, V ,有 k k ；
(3) 三角不等式：对任意 , V ,有 ,
则称||α||为向量α的范数，并称定义了范数的线性空 间为赋范线性空间。
ppt课件
2
对赋范线性空间V中任意向量 与， 有
| |
6.2.1 基本概念 6.2.2 相容矩阵范数 6.2.3 算子范数
ppt课件
11
6.2.1 基本概念
定义6.2.1 设||A||是以Cm×n中的矩阵A为自变量的 非负实值函数，如果它满足以下三个条件：
(1) 非负性 :当A 0时, A 0;当A 0时, A 0; (2) 齐次性 : 对任意k C , A C mn ,有 kA k A ; (3) 三角不等式: 对任意A, B C mn ,有 A B A B , 则称 A 为m n矩阵A的范数.
k
(1) lim(ax(k) by(k) ) ax by ; k
(2) lim Ax(k) Ax . k
定理6.1.8 C n中向量序列{ x(k) }收敛于向量x的充分
必要条件是对任一向量范数 , 数列 x(k) x
收 敛 于0.
ppt课件
10
6.2 矩阵范数
初试科目：数学(数理方程、数理统计、线性代数、计算方法,四选一)
二、正态总体参数假设检验 1．u一检验滕 2．t一检验滕
3． 一检验滕
4．F一检验滕 三、非参数假设检验 1．符号检验滕 · 2．秩和检验滕△
3． 一检验滕*
4．独立性检验。 第四章 方差分析与回归分析
—、单因素方差分析△ 二、双因素方差分析 三、一元线性回归
1． 参数的最帏二乘估计。
2． 回归绻数的检验。 3．预测。 四、多元线性回归
考试内容：矩阵的特征值与特征向量，矩阵可对角化的条件，不变子空间，矩阵的若 当(Jordan)标准形
考试要湂： 1．掌握线性变换的特征值和特征向量的定义和湂滕；
2．掌握线性变换可对角化的条件，会湂相似对角化的基； 3．了解不变子空间的概念； 4．了解Hamilton—cayley定理。 5．会湂矩阵的若当标准形，会湂n阶矩阵的若当标准形和变换矩阵。 四，矩阵分析 考试内容：矩阵范数，矩阵的微分和积分，矩阵分解，特征值估计 考试要湂： 1． 掌握矩阵范数的计算和应用； 2． 掌握矩阵的序列、级数、函数及其微积分的概念和运算； 3． 掌握矩阵的三角分解、QR分解、满秩分解、奇异值分解的方滕； 4． 掌握矩阵的特征值的估计和表示方滕 参考教材： 1．《矩阵论简明教程》（第二版），徐仲等，科学出版社。 第四部分 计算方滕 第一章插值滕 1插值问题 1．1基本概念 1．2插值多项式的存在唯一性 2 Lagrange插值 2．1 Lagrange插值多项式 2．2插值余项表达式 3差商与Newton插值 3．1差商的定义和性质 3．2 Newton插值公式 4差分与等距节点插值 4．1差分及其性质 4．2等距节点插值公式 5 Hermite插值 6三次样条插值 6．1多项式插值的缺陷与分段插值 6．2三次样条插值函数 6．3三次条函数的构造方滕 第二章 曲线拟合与平方逼近 1观测数据的最帏二乘拟合 1．1最帏二乘问题 1．2正规方程组 2正交多项式 2．1 Chebyshev多项式 2．2一般正交多项式 3最佳平方逼近 3．I预备知识 3．2最佳平方逼近 第三章敷值积分与数值微分 1数值积分思想与代数纾确度 1．1基本思想 1．2插值型湂积公式 1．3代数纾确度 2 Newton—Cotes公式 2．1公式导出 2．2几种低阶公式的余项 2．3复化湂积滕 3 Romberg算滕 3．1梯形公式的递推关绻 3．2 Romberg公式 4 Gauss公式 4．1基本概念 4．2 Gauss点 4．3 Gauss—Legendre公式
向量范数
且
A 0 A 0
A A
C , A C
mn
AB A B
AB A B
A, B C
mn
称为A的范数。
矩阵范数的性质： (1) A A
(2) A B A B
矩阵范数同向量范数具有类似的性质，比如等价性：
对于两个矩阵范数
m
, C 上的同类向量范数，如果有
n
A C
mn
, X C
n
则称矩阵范数与向量范数是相容的。 定理2 设 是 C 上的相容矩阵范数，则在 C n 上存 在与 相容的向量范数 证明：任取一非零向量 C
X
n
n n
定义向量X的范数为
n
X
n
H
X C
容易验证
AX
性质1 证明 对于任意n阶矩阵A，成立 ( A k ) [ ( A )] k 设1, 2, …, n是属于A的所有特征值
则A 的特征值为 1 , 2 , , n
k k k k
因此 ( A ) max i i
k
k
( max i ) [ ( A )]
n
n
定义Dn是C n的单位球面(有界闭集)
D n x ( x1 , x 2 , , x n ) C
T
n
x
2
1
x 0
x x
2
Dn
因为
是连续函数，
故它在Dn上取到最大值m和最小值M
m
x x
2
x x
2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第六章 方程求根的迭代法
一、教学目标及基本要求
通过对本章的学习，使学生掌握方程求根的数值解法。
二、教学内容及学时分配
本章主要介绍方程求根的迭代法。
具体内容如下：迭代收敛性与迭代加速、牛顿法、弦截法。
三、教学重点难点
1．教学重点：迭代收敛性与迭代加速、牛顿法。
2. 教学难点：迭代的收敛性。
四、教学中应注意的问题
多媒体课堂教学为主。
适当提问，加深学生对概念的理解 向量范数、迭代收敛性
§6.1向量和矩阵的范数
1、
向量的范数
对向量T
n x x x x ),...,(21=，其长度记作322212...n x x x x +++=，借助长度可刻
画向量的收敛性。
向量序列T k n k k k x x x x ),...,()
()
(2)
(1)(=，T
n x x x x ),...,(*
*
2*
1*=，
则*
)(lim x x k k =∞
→的充要条件是0
lim *)(=-∞
→x x k k
除长度外，还有哪些反映收敛性的度量？
T n x x x x ),...,(21=，其范数记为x ，是一个实数，满足： 1）对任意向量x ，
≥x ，当且仅当0=x 时
=x ；
2）对任意实数λ及任意向量x ，x
x λλ=；
3）任意向量y x ,，
y
x y x +≤+（三角不等式）。
按上述定义，存在多种范数，常用范数有：
1）2范数：2
/112
2)(∑==n
i i x x
2）1范数：∑==n
i i
x x 1
1 3）∞范数：
i
n
i x x
≤≤∞
=1max
上述都是P 范数特例：
p
n
i p
i p
x x
/11
)(∑==
定理1 对任意向量x ：∞
∞→=x x p p lim 。
证：P163
不同方式规定的范数，其值一般不同，但在各种范数下考虑向量系列的收敛性时，所有范数都是一致的，向量范数具有等价性。
范数等价性：
p
q q p
x
c x x c x
21,≤≤，称
q
p x
x ,等价。
范数等价性保证应用具体范数分析收敛性的合法性。
对向量序列
{}∞
1
)(k x 收
敛到*
x 的充分必要条件是：对于给定的P ，有：
lim *
)(=-∞→p
k k x x
2、 矩阵的范数
对n 阶方阵A ，将
)0(/≠x x Ax 的上确界称作矩阵A 的范数，记为
A
，即：
x
Ax A x /max 0
≠=
由定义知
x
A Ax ≤
矩阵范数具有如下性质：
1）
≥A ，当且仅当0=A 时
=A
2）对任意实数λ和任意方阵A ，有：
A
A λλ=
3）
B
A B A +≤+,
B
A A
B ≤
由于)(
max /max 0
0x
x A x Ax A x x ≠≠==，而1=x
x
，故矩阵范数亦可等价定
义为：
Ax
A x 1
max ==
矩阵范数和向量范数密切相关，相应于向量的范数，记
p
x
p Ax
A p
1
max ==。
定理2 对n 阶方阵n m ij a A ⨯=)(，有：∑=≤≤∞=n
j ij n
i a A 1
1max ，∑=≤≤=n
i ij n
j a A 1
11max ，
分别称为矩阵的行范数和列范数。
§6.3迭代过程的收敛性
1、
迭代收敛的充分条件
定理3 对给定方阵G ，若1<G ，则矩阵I-G 为非奇异。
（反证法） 定理4 方程组b Ax =，迭代公式d Gx x k k +=+)()1(，若1<G ，则迭代公式对于任意初值)0(x 均收敛。
证：P166
2、对角占优方程组
对角占优：矩阵A 的主对角元素的绝对值大于同行其他元素绝对值之和，即
∑≠=<n
i
j j ii ij
a a
1，n i ,...,2,1=
定理5 若A 为对角占优阵，则它是非奇异的。
证：P166
定理6 若线性方程组Ax=b 的系数矩阵A 为对角占优矩阵，则雅克比和高斯--赛德尔迭代法收敛。
证：P167
使)()(A Cond pA Q Cond
小结：这节课我们主要学习了矩阵范数的相关基本理论。
要求大家掌握
几个常用范数的计算，掌握常用条件数的计算。
作业：1-4。