第二章内积空间
矩阵理论-第二章内积空间
因此有 即
( , )
2
( , ) ( , )
( , )
而且当且仅当
( , ) ，即 与 线性相关时，等号成立. ( , )
定义 1.3 设 V 是欧氏空间，则 x，y V ，称
( x, y) arccos x y
, n 是 n 维欧氏空间 V 的一个标准正交基，
x 11 2 2
n
n n , y 1 1 2 2
n
n
n n
则有
( x, y ) ( i i , j j ) ii
i 1 j 1
i 1
在标准正交基下， V 中任意两个元素的内积等于它们对应坐标向量的内积.
km (m , i ) 0 ,(i 1,2, , m)
由于 i j 时, (i , j ) 0 ，故可得
ki ( i , i ) 0 (i 1, 2, , m) ，
又 i O 时， (i , i ) 0 , 从而有
ki 0 (i 1, 2
( x ,y ) 0 成立，
例 2.3 设
W1 ( x , y , T 0) x ,y W2 (0, 0, z )T z R
证明 因为 1 ,2 , 首先, 取
,n 线性无关，所以 i 0 (i 1 , 2 , n ,. )
1 1 ;
( 2 , 1 ) 1 ; ( 1 , 1 )
其次, 令 2 2
则可得两个正交元素 1 , 2 .
( 3 , 1 ) ( 3 , 2 ) 再次, 令 3 3 1 2 ; ( 1 , 1 ) (2 , 2 )
矩阵论第2章 内积空间
2 2 2 ( )2
由此得到式 (1) .
对此式由 ，得到
.
由此得到式 (2) .
把定理 2-1 应用到欧氏空间 Rn 和例 2-3 中 R[a, b]得到两个著名
的不等式为
n
n
n
xi yi
xi2
（1） ( , k ) k( , ) ；
（2） , , , ；
（3） (, 0) (0, ) 0 ．
有了内积概念，就可以在内积空间引入向量的长度及向量之间的 夹角等概念．下面先证明关于内积的一个重要不等式.
定理 2-1 设V 是数域 R 上的内积空间，对 , V ，则有不
(, ) ( , ) 2 2
一般地，如果1 ,2 , ,k 是 k 个两两正交的向量组，则有 1 2 k 2 1 2 2 2 k 2
这利用内积性质及正交条件可以证明．
事实上，由正交性有
(i
, j
)
(
i
,i
)
i
2
,
ji ,
(i, j 1, 2,
,k)
0,
ji
得到
k
设12n????及12n????是n维欧氏空间v的两个标准正交基从前一个基到后一个基的过渡矩阵为的两个标准正交基从前一个基到后一个基的过渡矩阵为a即12n?????12na????21上式转置得12??????????????12ta????????????22n?????n?????利用形式矩阵乘法将式22两边分别左乘式21得111212122212nnnnnn?????????????????????????????????????111212122212nntnnnnaa???????????????
由此可得，若1,2 , ,n 是 n 维欧氏空间V 的一组非零向 量，且满足条件：
第二章内积空间
定理4：设 ε1 , ε 2 ,L, ε n 与 η1 ,η 2 ,L,η n 为n维酉空间V的基，它们 定理4 维酉空间V的基， 的度量矩阵为A和B，，C是 ε1 , ε 2 ,L, ε n 到 η1 ,η 2 ,L,η n 的过渡 的度量矩阵为A ，，C
(α ,α )
.
∀α ≠ 0 ∈ V ,
称
α α
为α 的规范化单位向量
定义 α , β 的距离为 d (α , β ) = α − β 2、向量长度的性质
(1) α ≥ 0, 当且仅当 α = 0时等式成立； 时等式成立； (2) kα = k α ;
引理（Chauchy不等式） 引理（Chauchy不等式）设V是酉（欧氏）空间， ∀α , β ∈ V , 不等式 是酉（欧氏）空间， 向量的长度满足 证明: 证明:
y1 n n y2 (α , β ) = ∑∑ xi y j (α i ,α j ) = (x1 , x2 ,L, xn )A = xT Ay M i =1 j =1 y n
则
即抽象的向量的内积可通过他们在基下的坐标及度量矩阵 的双线性函数来计算。 的双线性函数来计算。 定理2：设 ε1 , ε 2 ,L, ε n 与 η1 ,η 2 ,L,η n 为n维欧氏空间V的基，它们 定理2 维欧氏空间V的基， 的度量矩阵为A ，，C 的度量矩阵为A和B，，C是 ε1 , ε 2 ,L, ε n 到 η1 ,η 2 ,L,η n 的过渡 证明详见P26-27） （证明详见 ） 矩阵，则 B = C AC 矩阵， 即同一欧氏空间不同基的度量矩阵是相合矩阵。 欧氏空间不同基的度量矩阵是相合矩阵 即同一欧氏空间不同基的度量矩阵是相合矩阵。
第二章-内积空间
(,)TT
a 1 b 1 a 2 b 2 a n b n .
将向量推广到无限维，可得到：
例3 定义了标准内积的集合 H 称为希尔伯特空
间，这里 H 是所有平方和收敛的实数列的集合，即
H {|(a 1,a2, ,an, )T}, a2 i
i1
(,)TT
a 1 b 1 a 2 b 2 a n b n
这个一元二次不等式对任意 恒成立，因此
4 ( ,)2 4 ( , )(,) 0
当 0 时，取 即两向量线性相关
时等式 成立。
类似于高等数学，根据柯西-施瓦茨不等式，我们称
a rcco s (,), [0 ,], 、 0
(4 )定 性 ： (x ,x )= 0 x .
据此，我们可以给出线性空间中内积的公理化定义。
定义1 V是实数域 R 上的线性空间。如果对 V中任意
两个向量 、V 都存在所谓 与 的内积 (,)R，满足下面四个条件。称定义了内积的线
性空间 V 为实内积空间，简称欧氏空间。
(1)(,)(,); 、 、 V
注意到 R n 中的内积显然具有如下性质：
(1 )对 称 性 ： (x ,y ) (y ,x );
(2)双 线 性 性 ： (xy,z)(x,z)(y,z); (x， y+z)(x,y)(x,z); (kx,y)k(x,y), kR; (x,ky)k(x,y), kR;
(3)正 性 ： (x,x)0;
( , )( , )(,) ( , ) ( , ) ( ,) 2 ( , )( ,)
(,) (,)(,)
定理8 （柯西--施瓦茨不等式）如果 V 是数域 R 上
的欧氏空间，则对 V 中的任意向量 α、β V ，有
第二章 内积空间
第二章 内积空间在以前学习的线性代数中，我们知道在n R 中向量的长度、夹角和正交等性质是用内积刻划的，在本章中将内积的概念推广到一般线性空间，从而讨论一般线性空间中向量的度量性质。
定义了内积的线性空间称为内积空间，常用的内积空间有欧氏空间与酉空间。
§2.1欧氏空间与酉空间一、欧氏空间与酉空间定义1 设V 是R 上的线性空间，如果V 中每对向量,x y ，按某一对应法则都有唯一确定的实数(,)x y 与之对应且满足： ),(),(.1x y y x =),(),(.2y x y x λ=λ，λ∀∈R ),(),(),(.3z y z x z y x +=+，z V ∀∈0),(.4≥x x 等号成立当且仅当x θ=则称(,)x y 为V 的内积。
称定义了上述内积的有限维线性空间()V R 为欧几里得空间，简称欧氏空间，称21),(x x x =为x 的长度或模。
例1 在[]n P x 中定义10((),())()()f x g x f x g x dx =⎰，(),()[]n f x g x P x ∈，则[]nP x 构成一个欧氏空间。
例2 在n n ⨯R 中对,n n A B ⨯∀∈R 定义T (,)tr()A B AB =,则n n ⨯R 为欧氏空间。
证明 因为,,,n n A B C λ⨯∀∈∈R R（1） T T T T (,)tr tr[()]tr (,)A B AB AB BA B A ==== （2） T T (,)tr tr (,)A B AB AB A B λλλλ===（3） T T T (,)tr[()]tr[](,)(,)A B C A B C AC BC A C B C +=+=+=+（4） 211(,)tr()0n nTijj i A A AA a ====≥∑∑ 等号当且仅当A θ=成立 故n n ⨯R 为欧氏空间。
例3 ,n x y ∀∈R 定义T (,)x y x y =，则n R 是n 维欧氏空间。
工程矩阵理论第2章内积空间与等距变换.ppt
, = x11 + x22 +…+ xnn, y11 + y22 +…+ ynn
1, 1 1, 2 … 1, n y1 = (x1, x2, …, xn) 2, 1 2, 2 … 2, n y2
n, 1 n, 2 … n, n yn
… …
… …
= XTGY = (XTGY)T = YHGTX.
第二章 内积空间与等距变换
例2 在 n中定义X, Y = YHX, 则 n为酉空间.
注: 上述两个例子中的内积称为标准内积. 一般情况下, 如果不特别声明, 则 n和 n 中的内积均指标准内积.
例3 设A为n阶正定矩阵, 在 n中定义 X, Y = YTAX,
则 n为欧氏空间.
第二章 内积空间与等距变换
§2.1 内积空间的基本概念
… …
… …
…
1, 1y1 + 1, 2y2 +…+ 1, nyn
= (x1, x2, …, xn) 2, 1y1 + 2, 2y2 +…+ 2, nyn
n, 1y1 + n, 2y2 +…+ n, nyn
1, 1 1, 2 … 1, n y1 = (x1, x2, …, xn) 2, 1 2, 2 … 2, n y2
1, 1y1 + 1, 2y2 +…+ 1, nyn
= (x1, x2, …, xn) 2, 1y1 + 2, 2y2 +…+ 2, nyn
n, 1y1 + n, 2y2 +…+ n, nyn
…
第二章 内积空间与等距变换
§2.1 内积空间的基本概念
第2章 内积空间
(a 1 , a 2 ) (a 2 , a 1 ) A T A 即 A 为实对称矩阵。 x T Ax (a , a ) 0 即 A 为实正定矩阵。
,a n 定理1 设A为n维欧氏空间V的基a1 ,a 2 , 的度量矩阵，则
(1)矩阵A为实对称正定矩阵；
(2) a , b V , a x1a1 + x2a2 + + xnan , b y1a1 + y2a2 + + ynan ,
内积的作用：研究高维空间中的几何问题 内积的公理化定义要点
内积(a，b)是二元运算：V×V→ R (a，b)的公理性质 (a，b)是任何满足定义的运算。
欧氏空间的例子
例1. 线性空间 R n { ( x1 , x 2 , , x n ) T | x1 , x 2 , , x n R }
设 a 1， a 2， ,a n 是 n 维 实 内 积 空 间 V 的 一 个 基 ，
向量a 与b 在该基下的坐标为
x ( x1 , x 2 , , x n ) T , y ( x1 , x 2 , , x n ) T
a x 1a 1 + x 2 a 2 + + x n a n ,
n 例5 在实线性空间R n中，对于任意两个 n阶矩阵A，B， 定义 n n T ( A, B ) tr ( AB ) aij bij
i 1 j 1
则 ( A, B 是内积，向量空间 )
8
是欧氏空间。 R nn
欧氏空间的性质
由定义知
(5) (a , b +g ) = (a, b ) + (a, g ) (6) (a, kb ) = k(a, b )
第2章 内积空间-2
1 2
1 2
cos sin
sin cos
1 2
G
1 2
就是一个正交变换。因为此变换的矩阵表示 G 是正
交矩阵。
矩阵分析简明教程
例2 HouseHolder变换
如图，
e2
x
x ( x, e1 )e1 ( x, e2 )e2 ,
2β
y
e1
因此向量 x 关于“与 e2 轴正交的直线”对称的镜
一、正交补与投影定理
定义 2.4.1 设 V1,V2 是数域 R上欧氏空间 V 的
两个子空间。向量 V 。如果对任意 V1 ，都 有 ( , ) 0 ，则称 与子空间 V1 正交，记
为 V1 。如果对任意 V2 ，都有 V1 ， 则称子空间 V1 与 V2 正交，记为 V1 V2
就称 x 为方程组的最小二乘解，这种方法就称为
最小二乘法。
矩阵分析简明教程
令 y A x ，显然 y R( A) ，因此求不相容方 程组的最小二乘解的问题即为在 R( A) 中找出向 量 Ax，使得向量b 到 Ax 的距离比到子空间 R( A) 中其它向量的距离都短，即Ax 是向量 b 在 R( A)
1. 正交投影的概念
定义 设 V1 是数域 R上欧氏空间V 的子空间。
向量 V 。如果有 1 V1 , 2 V1 使得
1 2
则称 1 是 在 V1 上的正交投影。
定理 （投影定理）设 V1 是数域 R 上欧氏空间V 的
子空间，则对任意 V ， 在 V1 上存在唯一 的正交投影。
矩阵分析简明教程
设 Rn 为单位向量，对任意 Rn ，定义
H ( E 2 H )
称H 为Householder 变换（初等反射变换），则 H 是 Rn 的正交变换。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第二章 内积空间在以前学习的线性代数中，我们知道在n R 中向量的长度、夹角和正交等性质是用内积刻划的，在本章中将内积的概念推广到一般线性空间，从而讨论一般线性空间中向量的度量性质。
定义了内积的线性空间称为内积空间，常用的内积空间有欧氏空间与酉空间。
§2.1欧氏空间与酉空间一、欧氏空间与酉空间定义1 设V 是R 上的线性空间，如果V 中每对向量,x y ，按某一对应法则都有唯一确定的实数(,)x y 与之对应且满足： ),(),(.1x y y x =),(),(.2y x y x λ=λ，λ∀∈R ),(),(),(.3z y z x z y x +=+，z V ∀∈0),(.4≥x x 等号成立当且仅当x θ=则称(,)x y 为V 的内积。
称定义了上述内积的有限维线性空间()V R 为欧几里得空间，简称欧氏空间，称21),(x x x =为x 的长度或模。
例1 在[]n P x 中定义10((),())()()f x g x f x g x dx =⎰，(),()[]n f x g x P x ∈，则[]nP x 构成一个欧氏空间。
例2 在n n ⨯R 中对,n n A B ⨯∀∈R 定义T (,)tr()A B AB =,则n n ⨯R 为欧氏空间。
证明 因为,,,n n A B C λ⨯∀∈∈R R（1） T T T T (,)tr tr[()]tr (,)A B AB AB BA B A ==== （2） T T (,)tr tr (,)A B AB AB A B λλλλ===（3） T T T (,)tr[()]tr[](,)(,)A B C A B C AC BC A C B C +=+=+=+（4） 211(,)tr()0n nTijj i A A AA a ====≥∑∑ 等号当且仅当A θ=成立 故n n ⨯R 为欧氏空间。
例3 ,n x y ∀∈R 定义T (,)x y x y =，则n R 是n 维欧氏空间。
例4 设A 为n 阶正定阵且,n x y ∀∈R 定义T (,)x y x Ay =，则n R 是n 维欧氏空间。
证明 ,,,n x y z λ∀∈∈R R（1）T T T T (,)[](,)x y x Ay x Ay y Ax y x ==== （2）T (,)(,)x y x Ay x y λλλ==（3）T T T (,)()(,)(,)x y z x y Az x Az y Az x z y z +=+=+=+（4）因为T x Ax 正定二次型，故T (,)0x x x Ax =≥，T 0x Ax x θ=⇔=注：例3、例4说明在一个线性空间中可以定义不同的内积，但其得到的欧氏空间我们视为不同的。
由于经常用到复矩阵及其相关性质，故以下列出一些常用概念及性质。
矩阵共轭及共轭转置：设n n A ⨯∈C 1. ()ij m n A a ⨯= ，()ij m n A a ⨯=，称A 为A 的共轭。
2. A B A B +=+，,m n A B ⨯∈C 。
3. AB A B =，,m s s n A B ⨯⨯∈∈C C 。
4. 记TH A A =，H A 称为A 的复共轭转置矩阵，m n A ⨯∈C 。
5. TH T A A A ==，m n A ⨯∈C 。
6. H H H ()A B A B +=+，,m n A B ⨯∈C 。
7. H H ()kA kA =，k ∈C 。
8. H H H ()AB B A =，,m s s n A B ⨯⨯∈∈C C 。
9.H H ()A A =，m n A ⨯∈C 。
10. 若H A A =，则称A 为埃尔米特（Hermite ）矩阵，n n A ⨯∈C 。
11. 若H A A =-，则称A 为反埃尔米特矩阵，n n A ⨯∈C定义2 设V 是C 上的线性空间，若V y x ∈∀,有(,)x y ∈C 且满足： ),(),(.1x y y x = ),(),(.2y x y x λ=λ λ∈C),(),(),(.3z y z x z y x +=+，z V ∀∈0),(.4≥x x 等号成立当且仅当x θ=则称(,)x y 为V 的内积，称定义了上述内积的有限维线性空间()V C 为复内积空间或酉空间，称21),(x x x =为x 的长度或模。
例5 在n C 中定义H (,)x y x y =，则n C 是酉空间。
注：在n C （n R ）中定义的内积H (,)x y x y =（T x y ）称为标准内积。
以后若无特殊说明，n C （n R ）及其子空间的内积均采用标准内积。
例6在m n ⨯C 中对,m n A B ⨯∀∈C 定义H (,)tr()A B A B =,则m n ⨯C 为酉空间。
证明 与例2类似，请读者自证。
二、欧氏空间与酉空间的性质 定理1：设(,)x y 是酉空间V 的内积，则 （1）(,)(,)x y x y λλ=，,x y V ∈，λ∈C （2）(,)(,)(,)x y z x y x z +=+，,,x y z V ∈（3）1111(,)(,)mrm ri i jj i j i j i j i j x y x y λμλμ=====∑∑∑∑， 其中,i j λμ∈C ，,i j x y V ∈，1,2,,i m =，1,2,,j r =。
证明（1） (,)(,)(,)(,)x y y x y x x y λλλλ=== （2）),(),(),(),(),(),(z x y x x z x y x z y z y x +=+=+=+（3）由定理1的（2 ）得1111(,)(,)mrmri i jj i i jj i j i j x y x y λμλμ=====∑∑∑∑11(,)mri i j j i j x y λμ===∑∑11(,)mri j i j i j x y λμ===∑∑上述定理1的结论在欧氏空间显然成立，即 推论1设(,)x y 是欧氏空间V 的内积，则 （1）(,)(,)x y x y λλ=，,x y V ∈，λ∈R （2）(,)(,)(,)x y z x y x z +=+，,,x y z V ∈（3）1111(,)(,)mrm ri i jj i j i j i j i j x y x y λμλμ=====∑∑∑∑ 其中,i j x y V ∈，,i j λμ∈R ，1,2,,i m =，1,2,,j r =。
定理2 设(,)x y 是酉（欧氏）空间V 的内积，则 （1）kx k x =，k ∈C （k ∈R ）。
（2）(,)x y xy ≤，柯西—许瓦兹（Cauchy ––Schwarz ）不等式（3）x y x y +≤+ 证明 不妨设V 是酉空间。
（1）kx k x ===。
（2）y θ=时显然，不妨设y θ≠，考虑),(02y x y x y x λ-λ-=λ-≤),(),(),(),(2y y x y y x x x λ+λ-λ-=取),(),(y y x y =λ，则 2222222(,)(,)(,)0x y x y y x x yyy--+≥所以y x y x ≤),(（3） 2(,)x y x y x y +=++22(,)(,)x x y y x y =+++ 22Re(,)x x y y =++ 222(,)x x y y ≤++， 由柯西—许瓦兹不等式，即得 2x y +2222()x xy y x y ≤++=+所以 y x y x +≤+三、内积在基下的矩阵线性空间中，向量是由一个基唯一线性表示的，而内积是两个向量的运算，所以我们自然要讨论欧氏（酉）空间中内积与基的关系。
定义3：设12,,,n εεε为欧氏（酉）空间V 的基，则称n n ij a A ⨯=)(为内积在基下的矩阵，也称度量矩阵，其中n j n i a j i ij 2,1,2,1),(==εε=。
定理3设12,,,n εεε为酉空间V 的基，则（1） 内积在基下的矩阵A 是埃尔米特矩阵，即H A A =。
（2）H (,)x y x A y =，其中(=x x n ~),,21εεε ，(=y y n ~),,21εεε ，,n x y ∈C 。
（3）n x θ∀≠∈C 均有H 0x A x >。
证明 （1） 由于ji i j j i ij a a =εε=εε=),(),(，故H A A =。
（2） 设T T 1212(,,,),(,,,)n n x x x x y y y y ==，由定理1有11(,)(,)nni i j ji j x y x y εε===∑∑11(,)nni j i j i j x y εε===∑∑H 11n ni j ij i j x y a x Ay ====∑∑（3）(x x θ≠⇒=12,,,)n x εεεθ≠，所以H (,)0x A x x x =>。
在欧氏空间中，由定理3可得类似结论。
推论2 设12,,,n εεε为欧氏空间V 的基，则（1） 内积在基下的矩阵A 是实对称阵，即T A A =。
（2）T (,)x y x A y =，其中(=x x n ~),,21εεε ，(=y y n ~),,21εεε ，,n x y ∈R 。
例7 3(),()[]f x g x P x ∀∈，定义2((),())()()f x g x f x g x dx =⎰，则3[]P x 为欧氏空间，求内积在基21,1,(1)x x --下的矩阵。
解 21102a dx ==⎰，2120(1)0a x dx =-=⎰， 221302(1)3a x dx =-=⎰ 222202(1)3a x dx =-=⎰，23230(1)0a x dx =-=⎰243302(1)5a x dx =-=⎰因为A 是实对称阵，所以220320322035A ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦。
定理4 设欧氏（酉）空间的内积),(y x 在两组基12,,,n εεε和12,,,nεεε'''下的矩阵分别为B A ,，且 12(,,,)(nεεε'''=12,,,)n P εεε，则H B P AP =，即B 与A 合同。
证明：设(),(,),(),(,)ij n n ij i j ij n n ij i j A a a B b b εεεε⨯⨯''==== ，12()n P p p p =，则12(,,,)(nεεε'''=12,,,)n P εεε =12(,,,)n εεε12()n p p p所以i ε'=12(,,,)n i p εεε j ε'=12(,,,)n j p εεε故由定理3有H (,)ij i j i j b p Ap εε''==所以H ()()ij n n i j n n B b p Ap ⨯⨯==H H H 11121H H H 12n nn n n p Ap p Ap p Ap p Ap p Ap p Ap ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦ H 11H []n n p Ap Ap p ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦H 1H 1H []n n p A p p P AP p ⎡⎤⎢⎥==⎢⎥⎢⎥⎣⎦§2.2向量的正交与标准正交基一、向量的正交与标准正交基定义1 设V 为欧氏（酉）空间，,x y V ∈，如果(,)0x y =，则称向量x 与y 正交，记为x y ⊥。