第2章内积空间
合集下载
矩阵理论-第二章内积空间
2
因此有 即
( , )
2
( , ) ( , )
( , )
而且当且仅当
( , ) ，即 与 线性相关时，等号成立. ( , )
定义 1.3 设 V 是欧氏空间，则 x，y V ，称
( x, y) arccos x y
, n 是 n 维欧氏空间 V 的一个标准正交基，
x 11 2 2
n
n n , y 1 1 2 2
n
n
n n
则有
( x, y ) ( i i , j j ) ii
i 1 j 1
i 1
在标准正交基下， V 中任意两个元素的内积等于它们对应坐标向量的内积.
km (m , i ) 0 ,(i 1,2, , m)
由于 i j 时, (i , j ) 0 ，故可得
ki ( i , i ) 0 (i 1, 2, , m) ，
又 i O 时， (i , i ) 0 , 从而有
ki 0 (i 1, 2
( x ,y ) 0 成立，
例 2.3 设
W1 ( x , y , T 0) x ,y W2 (0, 0, z )T z R
证明 因为 1 ,2 , 首先, 取
,n 线性无关，所以 i 0 (i 1 , 2 , n ,. )
1 1 ;
( 2 , 1 ) 1 ; ( 1 , 1 )
其次, 令 2 2
则可得两个正交元素 1 , 2 .
( 3 , 1 ) ( 3 , 2 ) 再次, 令 3 3 1 2 ; ( 1 , 1 ) (2 , 2 )
因此有 即
( , )
2
( , ) ( , )
( , )
而且当且仅当
( , ) ，即 与 线性相关时，等号成立. ( , )
定义 1.3 设 V 是欧氏空间，则 x，y V ，称
( x, y) arccos x y
, n 是 n 维欧氏空间 V 的一个标准正交基，
x 11 2 2
n
n n , y 1 1 2 2
n
n
n n
则有
( x, y ) ( i i , j j ) ii
i 1 j 1
i 1
在标准正交基下， V 中任意两个元素的内积等于它们对应坐标向量的内积.
km (m , i ) 0 ,(i 1,2, , m)
由于 i j 时, (i , j ) 0 ，故可得
ki ( i , i ) 0 (i 1, 2, , m) ，
又 i O 时， (i , i ) 0 , 从而有
ki 0 (i 1, 2
( x ,y ) 0 成立，
例 2.3 设
W1 ( x , y , T 0) x ,y W2 (0, 0, z )T z R
证明 因为 1 ,2 , 首先, 取
,n 线性无关，所以 i 0 (i 1 , 2 , n ,. )
1 1 ;
( 2 , 1 ) 1 ; ( 1 , 1 )
其次, 令 2 2
则可得两个正交元素 1 , 2 .
( 3 , 1 ) ( 3 , 2 ) 再次, 令 3 3 1 2 ; ( 1 , 1 ) (2 , 2 )
矩阵第二章 内积空间
第二章 内积空间目的：在线性空间中引入向量的长度、向量之间夹角等度量概念，深化对线性空间、线性变换等的研究。
§1 内积空间的概念定义2－1 设V 是实数域R 上的线性空间。
如果对于V 中任意两个向量βα,，都有一个实数（记为()βα,）与它们对应，并且满足下列条件(1)-(4)，则实数()βα,称为向量βα,的内积。
(1) ()()αββα,,=； （2）),(),(βαβαk k =，（R k ∈） （3）),(),(),(γβγαγβα+=+，（V ∈γ） （4）()0,≥αα，当且仅当θα=时，等号成立。
此时线性空间V 称为实内积空间，简称为内积空间。
例2－1 对于nR 中的任二向量()n x x x X ,,,21 =，()n y y y Y ,,,21 =，定义内积()∑==ni i i y x Y X 1,，n R 成为一个内积空间。
内积空间n R 称为欧几里得（Euclid ）空间，简称为欧氏空间。
由于n 维实内积空间都与nR 同构，所以也称有限维的实内积空间为欧氏空间。
例2－2 如果对于nn RB A ⨯∈∀,，定义内积为()∑==nj i ij ij b a B A 1,,，则n n R ⨯成为一个内积空间。
例2－3 ],[b a R 定义dx x g x f x g x f ba⎰=)()())(),((，则可以验证))(),((x g x f 满足内积的条件，从而],[b a R 构成内积空间。
内积()βα,具有下列基本性质(1) ()()βαβα,,k k =，（R k ∈）；(2) ()()()γαβαγβα,,,+=+；(3) ()()0,,==βθθα。
定理2－1（Cauchy-Schwarz 不等式）设V 是内积空间，则V ∈∀βα,，有()()()ββααβα,,,2≤，并且当且仅当βα,线性相关时等号成立。
定义2－2 设α是内积空间V 的任一向量，则非负实数()αα,称为向量α的长度，记为α。
第二章内积空间
y1 n n 则 (α , β ) = ∑∑ xi y j (α i ,α j ) = (x1 , x2 ,L , xn )A y2 = x H Ay M i =1 j =1 y n
定理4：设 ε1 , ε 2 ,L, ε n 与 η1 ,η 2 ,L,η n 为n维酉空间V的基，它们 定理4 维酉空间V的基， 的度量矩阵为A和B，，C是 ε1 , ε 2 ,L, ε n 到 η1 ,η 2 ,L,η n 的过渡 的度量矩阵为A ，，C
(α ,α )
.
∀α ≠ 0 ∈ V ,
称
α α
为α 的规范化单位向量
定义 α , β 的距离为 d (α , β ) = α − β 2、向量长度的性质
(1) α ≥ 0, 当且仅当 α = 0时等式成立； 时等式成立； (2) kα = k α ;
引理（Chauchy不等式） 引理（Chauchy不等式）设V是酉（欧氏）空间， ∀α , β ∈ V , 不等式 是酉（欧氏）空间， 向量的长度满足 证明: 证明:
y1 n n y2 (α , β ) = ∑∑ xi y j (α i ,α j ) = (x1 , x2 ,L, xn )A = xT Ay M i =1 j =1 y n
则
即抽象的向量的内积可通过他们在基下的坐标及度量矩阵 的双线性函数来计算。 的双线性函数来计算。 定理2：设 ε1 , ε 2 ,L, ε n 与 η1 ,η 2 ,L,η n 为n维欧氏空间V的基，它们 定理2 维欧氏空间V的基， 的度量矩阵为A ，，C 的度量矩阵为A和B，，C是 ε1 , ε 2 ,L, ε n 到 η1 ,η 2 ,L,η n 的过渡 证明详见P26-27） （证明详见 ） 矩阵，则 B = C AC 矩阵， 即同一欧氏空间不同基的度量矩阵是相合矩阵。 欧氏空间不同基的度量矩阵是相合矩阵 即同一欧氏空间不同基的度量矩阵是相合矩阵。
定理4：设 ε1 , ε 2 ,L, ε n 与 η1 ,η 2 ,L,η n 为n维酉空间V的基，它们 定理4 维酉空间V的基， 的度量矩阵为A和B，，C是 ε1 , ε 2 ,L, ε n 到 η1 ,η 2 ,L,η n 的过渡 的度量矩阵为A ，，C
(α ,α )
.
∀α ≠ 0 ∈ V ,
称
α α
为α 的规范化单位向量
定义 α , β 的距离为 d (α , β ) = α − β 2、向量长度的性质
(1) α ≥ 0, 当且仅当 α = 0时等式成立； 时等式成立； (2) kα = k α ;
引理（Chauchy不等式） 引理（Chauchy不等式）设V是酉（欧氏）空间， ∀α , β ∈ V , 不等式 是酉（欧氏）空间， 向量的长度满足 证明: 证明:
y1 n n y2 (α , β ) = ∑∑ xi y j (α i ,α j ) = (x1 , x2 ,L, xn )A = xT Ay M i =1 j =1 y n
则
即抽象的向量的内积可通过他们在基下的坐标及度量矩阵 的双线性函数来计算。 的双线性函数来计算。 定理2：设 ε1 , ε 2 ,L, ε n 与 η1 ,η 2 ,L,η n 为n维欧氏空间V的基，它们 定理2 维欧氏空间V的基， 的度量矩阵为A ，，C 的度量矩阵为A和B，，C是 ε1 , ε 2 ,L, ε n 到 η1 ,η 2 ,L,η n 的过渡 证明详见P26-27） （证明详见 ） 矩阵，则 B = C AC 矩阵， 即同一欧氏空间不同基的度量矩阵是相合矩阵。 欧氏空间不同基的度量矩阵是相合矩阵 即同一欧氏空间不同基的度量矩阵是相合矩阵。
第二章-内积空间
(,)TT
a 1 b 1 a 2 b 2 a n b n .
将向量推广到无限维，可得到：
例3 定义了标准内积的集合 H 称为希尔伯特空
间，这里 H 是所有平方和收敛的实数列的集合，即
H {|(a 1,a2, ,an, )T}, a2 i
i1
(,)TT
a 1 b 1 a 2 b 2 a n b n
这个一元二次不等式对任意 恒成立，因此
4 ( ,)2 4 ( , )(,) 0
当 0 时，取 即两向量线性相关
时等式 成立。
类似于高等数学，根据柯西-施瓦茨不等式，我们称
a rcco s (,), [0 ,], 、 0
(4 )定 性 ： (x ,x )= 0 x .
据此，我们可以给出线性空间中内积的公理化定义。
定义1 V是实数域 R 上的线性空间。如果对 V中任意
两个向量 、V 都存在所谓 与 的内积 (,)R，满足下面四个条件。称定义了内积的线
性空间 V 为实内积空间，简称欧氏空间。
(1)(,)(,); 、 、 V
注意到 R n 中的内积显然具有如下性质：
(1 )对 称 性 ： (x ,y ) (y ,x );
(2)双 线 性 性 ： (xy,z)(x,z)(y,z); (x， y+z)(x,y)(x,z); (kx,y)k(x,y), kR; (x,ky)k(x,y), kR;
(3)正 性 ： (x,x)0;
( , )( , )(,) ( , ) ( , ) ( ,) 2 ( , )( ,)
(,) (,)(,)
定理8 （柯西--施瓦茨不等式）如果 V 是数域 R 上
的欧氏空间，则对 V 中的任意向量 α、β V ，有
第二章 内积空间
第二章 内积空间在以前学习的线性代数中，我们知道在n R 中向量的长度、夹角和正交等性质是用内积刻划的，在本章中将内积的概念推广到一般线性空间，从而讨论一般线性空间中向量的度量性质。
定义了内积的线性空间称为内积空间，常用的内积空间有欧氏空间与酉空间。
§2.1欧氏空间与酉空间一、欧氏空间与酉空间定义1 设V 是R 上的线性空间，如果V 中每对向量,x y ，按某一对应法则都有唯一确定的实数(,)x y 与之对应且满足： ),(),(.1x y y x =),(),(.2y x y x λ=λ，λ∀∈R ),(),(),(.3z y z x z y x +=+，z V ∀∈0),(.4≥x x 等号成立当且仅当x θ=则称(,)x y 为V 的内积。
称定义了上述内积的有限维线性空间()V R 为欧几里得空间，简称欧氏空间，称21),(x x x =为x 的长度或模。
例1 在[]n P x 中定义10((),())()()f x g x f x g x dx =⎰，(),()[]n f x g x P x ∈，则[]nP x 构成一个欧氏空间。
例2 在n n ⨯R 中对,n n A B ⨯∀∈R 定义T (,)tr()A B AB =,则n n ⨯R 为欧氏空间。
证明 因为,,,n n A B C λ⨯∀∈∈R R（1） T T T T (,)tr tr[()]tr (,)A B AB AB BA B A ==== （2） T T (,)tr tr (,)A B AB AB A B λλλλ===（3） T T T (,)tr[()]tr[](,)(,)A B C A B C AC BC A C B C +=+=+=+（4） 211(,)tr()0n nTijj i A A AA a ====≥∑∑ 等号当且仅当A θ=成立 故n n ⨯R 为欧氏空间。
例3 ,n x y ∀∈R 定义T (,)x y x y =，则n R 是n 维欧氏空间。
工程矩阵理论第2章内积空间与等距变换.ppt
, = x11 + x22 +…+ xnn, y11 + y22 +…+ ynn
1, 1 1, 2 … 1, n y1 = (x1, x2, …, xn) 2, 1 2, 2 … 2, n y2
n, 1 n, 2 … n, n yn
… …
… …
= XTGY = (XTGY)T = YHGTX.
第二章 内积空间与等距变换
例2 在 n中定义X, Y = YHX, 则 n为酉空间.
注: 上述两个例子中的内积称为标准内积. 一般情况下, 如果不特别声明, 则 n和 n 中的内积均指标准内积.
例3 设A为n阶正定矩阵, 在 n中定义 X, Y = YTAX,
则 n为欧氏空间.
第二章 内积空间与等距变换
§2.1 内积空间的基本概念
… …
… …
…
1, 1y1 + 1, 2y2 +…+ 1, nyn
= (x1, x2, …, xn) 2, 1y1 + 2, 2y2 +…+ 2, nyn
n, 1y1 + n, 2y2 +…+ n, nyn
1, 1 1, 2 … 1, n y1 = (x1, x2, …, xn) 2, 1 2, 2 … 2, n y2
1, 1y1 + 1, 2y2 +…+ 1, nyn
= (x1, x2, …, xn) 2, 1y1 + 2, 2y2 +…+ 2, nyn
n, 1y1 + n, 2y2 +…+ n, nyn
…
第二章 内积空间与等距变换
§2.1 内积空间的基本概念
第2章 内积空间
(a 1 , a 2 ) (a 2 , a 1 ) A T A 即 A 为实对称矩阵。 x T Ax (a , a ) 0 即 A 为实正定矩阵。
,a n 定理1 设A为n维欧氏空间V的基a1 ,a 2 , 的度量矩阵，则
(1)矩阵A为实对称正定矩阵；
(2) a , b V , a x1a1 + x2a2 + + xnan , b y1a1 + y2a2 + + ynan ,
内积的作用：研究高维空间中的几何问题 内积的公理化定义要点
内积(a，b)是二元运算：V×V→ R (a，b)的公理性质 (a，b)是任何满足定义的运算。
欧氏空间的例子
例1. 线性空间 R n { ( x1 , x 2 , , x n ) T | x1 , x 2 , , x n R }
设 a 1， a 2， ,a n 是 n 维 实 内 积 空 间 V 的 一 个 基 ，
向量a 与b 在该基下的坐标为
x ( x1 , x 2 , , x n ) T , y ( x1 , x 2 , , x n ) T
a x 1a 1 + x 2 a 2 + + x n a n ,
n 例5 在实线性空间R n中，对于任意两个 n阶矩阵A，B， 定义 n n T ( A, B ) tr ( AB ) aij bij
i 1 j 1
则 ( A, B 是内积，向量空间 )
8
是欧氏空间。 R nn
欧氏空间的性质
由定义知
(5) (a , b +g ) = (a, b ) + (a, g ) (6) (a, kb ) = k(a, b )
第二章-数值分析(04)内积空间
证明：以二阶矩阵为例证明 10 取x ee2 得x T Ax 11 22 0 0 x 1 , 得x T Ax a a 取 , 01
数值分析
数值分析
(2) A是正定阵, A 也是正定阵； （由i 0证明） (3) A R nn , 若A是非奇异的, 则AT A是n 阶实对称正定阵；
数值分析
成 立, 则 , 必 线 性 相 关因 为 若 , 线 性 无 关 则k R, . , 非 零, 都 有 k 0.从 而( k , k ) 0 所 以 等 号 不 成 立矛 盾. ,
数值分析
数值分析
在不同的空间中Cauchy Schwarz不等式有 ,
证明
设有 1 , 2 ,, r 使 11 2 2 r r 0
用 1 与上式作内积得 ,
(1 , 11 r r ) 1 (1 , 1 ) 0
由 1 0 ( 1 , 1 ) 1
2
0, 从而有1 0 .
数值分析
数值分析
二、 内积范数
由内积定义的范数称为内积范数： ( , )
(1) x R n , x
x, x
2 2 2 x1 x 2 x n ,
称 x 为 n 维向量 x 的内积范数 .
(2) x R n , A为n阶对称正定矩阵, x的A范数定义为 x
a b
n
ij ij
若 ( x ) 1, 则 b ( f , g ) f ( x ) g ( x )dx
a
数值分析
定义 设[a , b]是有限或无限区间, ( x )是定义 在[a , b]上的非负可积函数, 若其满足 (1) ( x )dx 0,
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
a 与b 正交 || a + b ||2 || a ||2 + || b ||2
这就是实内积空间中的勾股定理。
10
2.2 欧氏空间的正交基
定义：设a1， 2， , a s是实内积空间 的一组非零向量， a V
若它们两两正交，则称其为一个正交向量组。 定理：正交向量组必是线性无关的。
若 a1， 2， , a n是n维内积空间 的一个正交向量组， a V
对比 R n 中的结论， 可用
(a , b ) cos a , b || a || || b ||
定义a 与b 在内积空间中的夹角 a , b .
9
向量的正交
定义. 设V 是实内积空间，a , b V ,
若 (a , b ) 0 , 则称 a 与b 正交，记作 a b 。
由 || a + b ||2 (a + b , a + b ) || a ||2 +2(a , b )+ || b ||2 知
定义内积
(a , b ) x1 y1 + x2 y2 + + xn yn a T b
称为内积空间 R n的标准内积。
3
例. 线性空间 R n { ( x1 , x2 , , xn )T | x1 , x2 , , xn R } A为 n 阶实正定矩阵，
a ( x1 , x2 , , xn )T , b ( x1 , x2 , , xn )T
7
Cauchy-Schwaz的两种特殊形式
(1)
xi yi
i 1
n
x
i 1
n
2 i
yi2
i 1
n
(2)
b
a
f ( x ) g ( x )dx
b
a
f ( x )dx
2
b
a
g 2 ( x )dx
8
向量的夹角
由Cauchy-Schwaz不等式可知
-1 (a , b ) 1, || a || || b ||
最小二乘法
AX b, A aij R , b b1 , b2 , , bn 可能无解，即任意 x1 , x2 , , xn 都可能使
1.问题提出，实系数线性方程组
( )
n s
（1）
( ai1 x1 + ai 2 x2 + + ain xn - bi ) i 1
a
并且等号成立当且仅当 b = d。
a - b W , b - d W，
d
W
a - b b - d，
b
a - b + b - d a - d，
||a - b ||2 + || b - d ||2 ||a - d ||2 ， （勾股定理）
即 || a - b || ||a - d ||
12
Gram-Schmidt 正交化过程
Gram-Schmidt 正交化过程： 设 a1 , a 2 ,, a n 是内积空间V 中线性无关的向量组， 则V 中存在正交向量组 b1 , b 2 ,, b n ，通过如下过程得到
13
令
b 1 a1 ;
( b1 ,a 2 ) b2 a2 b1; ( b1 , b1 ) ( b1 ,a r ) (b 2 ,a r ) ( b r -1 , a r ) br ar b1 b2 - b r -1 ( b1 , b1 ) (b 2 , b 2 ) ( b r -1 , b r -1 )
用距离的概念，（2）就是 Y - b .
2
由（3）知
Y x1a1 + x2a 2 + + xsa s , A a1 ,a 2 , ,a s
找X 使（2）最小，等价于找子空间 L(a1 ,a 2 ,,a s ) 中向量 Y使 b到它的距离 ( Y - b ) 比到 L(a1 ,a 2 ,,a s ) 中其它向量的距离都短. 设 C b - Y b - AX , 为此必 C L(a1 ,a 2 ,,a s )
0 0
n
2
（2）
0
不等于零，设法找实数组 x1 , x 2 ,, x n 使（2）最小 0 0 0 这样的 x1 , x 2 ,, x n 为方程组（1）的最小二乘解， 此问题叫最小二乘法问题.
2.问题的解决 设
n n n
Y a1 j x j , a2 j x j , , anj x j AX . （3） j 1 j 1 j 1
定理: 设T 是实内积空间V 的线性变换，a, b V ，
则下列命题等价， e1 , e2 , , en是V 的标准正交基，
(1) ( T( a), T b a b ( )) ( , ), 即T 保持向量的内积不变；
(2) ( T( a), T a a a ( )) ( , ),
定理5 设g 1 , g 2 ,..., g n;1 ,2 ,...,n 都是n维欧氏空间V中的标准正交基， 并且 (1 ,2 ,...,n ) (g 1 , g 2 ,..., g n )A 则A是正交矩阵.
17
题型
x11 已知R 的子空间W X x 21
22
x12 x21 - x22 0 x22 2 2 x11 x12 y11 ，Y 在W上定义( X , Y ) xij yij , 其中X x y x22 i 1 j 1 21 21 (1) 证明：X , Y )是W的一个内积； ( (2) 求W的一组标准正交基 .
y12 , y22
2.4 正交补
定义: 设W, U是实内积空间V 的子空间，
(1) a V , 若b W, 都有(a, b ) = 0, 则称a 与W 正交，记作a W ; (2) 若a W, b U, 都有(a, b ) = 0, 则称W 与U 正交，记作W U ; (3) 若W U，并且W + U = V, 则称U 为W 的正交补。 注意：若W U，则 W与U 的和必是直和。
第 2 章 内积空间
同济大学数学系
2009-3-22
2.1 实内积空间
定义.设V 是一个实线性空间，R为实数域， 若a, b V, 存在唯一的 rR与之对应， 记作(a, b ) = r, 并且满足
(1) (a, b ) = (b, a ) (2) (a +b, g ) = (a, g ) + (b, g ) (3) (ka, b ) = k(a, b ) (4) (a, a )≥0, (a, a ) = 0 a = 0 实内积空间也称欧几里得(Euclid)空间。
则 b1 , b 2 , , b r 是正交向量组
14 14
下面用归纳法说明 b1 , b 2 ,, b r 是正交向量组
(b i , ak ) ( b k , b j ) (a k - b i , b j ) (1 j k ) i 1 ( b i , b i ) k -1 (b i , ak ) (a k , b j ) - (b i , b j ) i 1 ( b i , b i )
6
向量长度
定义. 设V 为实内积空间，称 (a , a ) 为向量a 的长度， 记作 ||a ||。
定理. 设V 是实内积空间，a , b V , k R ，则 正定性 齐次性
(1) || a || 0, 且 || a || 0 当且仅当a 0； ( 2) || ka || | k | || a || ； Cauchy-Schwarz 不等式 ( 3) | (a , b ) | || a || || b ||, 等号成立当且仅当a , b 线性相关； (4) || a + b || || a || + || b || 。 三角不等式
几个定理和推论
定理1：n 维实内积空间V 必存在标准正交基。 推论1：n 维实内积空间V 中任一正交向量组都可扩充成
V 的一个正交基。 定理2：设 a1 , a 2 ,, a n 是n维欧氏空间V 的一组基， 则V 中存在标准正交基 g 1 , g 2 ,, g n ，使得
(a1, a2 , , an) ( g1, g2, g n) R ,
a V , 有a b + g , 其中b W， W ， g
则称向量b 为向量a 在W上的正投影，
称向量长度||g ||为向量a 到W 的距离。
g a d
W
O
b
垂线最短定理
定理: 设W 是实内积空间V 的子空间，aV , b 为a 在W 上的正投影，则 dW, 有
|| a - b || || a - d ||
19
正交补的存在唯一性
定理: 设W 是实内积空间V 的子空间，则W 的正交补
存在且唯一，记该正交补为 W ，并且
W { a | a W , a V }
定理: 设W 是实内积空间V 的有限维子空间，则
V W W
20
向量的正投影
定义: 设W 是实内积空间V 的子空间，于是V W W ,
2.5 正交变换
定义: 设T 是实内积空间V 的线性变换，若a, bV 有
(T (a), T( b)) ( a b , )
则称T 为V 的正交变换。
||a || (a , a )
等式(T (a ), T (a )) (a , a ) 可看做 保持向量的长度不变； T
正交变换的特征刻画
这等价于 (C ,a1 ) (C ,a 2 ) (C ,a s ) 0, （4）
这就是实内积空间中的勾股定理。
10
2.2 欧氏空间的正交基
定义：设a1， 2， , a s是实内积空间 的一组非零向量， a V
若它们两两正交，则称其为一个正交向量组。 定理：正交向量组必是线性无关的。
若 a1， 2， , a n是n维内积空间 的一个正交向量组， a V
对比 R n 中的结论， 可用
(a , b ) cos a , b || a || || b ||
定义a 与b 在内积空间中的夹角 a , b .
9
向量的正交
定义. 设V 是实内积空间，a , b V ,
若 (a , b ) 0 , 则称 a 与b 正交，记作 a b 。
由 || a + b ||2 (a + b , a + b ) || a ||2 +2(a , b )+ || b ||2 知
定义内积
(a , b ) x1 y1 + x2 y2 + + xn yn a T b
称为内积空间 R n的标准内积。
3
例. 线性空间 R n { ( x1 , x2 , , xn )T | x1 , x2 , , xn R } A为 n 阶实正定矩阵，
a ( x1 , x2 , , xn )T , b ( x1 , x2 , , xn )T
7
Cauchy-Schwaz的两种特殊形式
(1)
xi yi
i 1
n
x
i 1
n
2 i
yi2
i 1
n
(2)
b
a
f ( x ) g ( x )dx
b
a
f ( x )dx
2
b
a
g 2 ( x )dx
8
向量的夹角
由Cauchy-Schwaz不等式可知
-1 (a , b ) 1, || a || || b ||
最小二乘法
AX b, A aij R , b b1 , b2 , , bn 可能无解，即任意 x1 , x2 , , xn 都可能使
1.问题提出，实系数线性方程组
( )
n s
（1）
( ai1 x1 + ai 2 x2 + + ain xn - bi ) i 1
a
并且等号成立当且仅当 b = d。
a - b W , b - d W，
d
W
a - b b - d，
b
a - b + b - d a - d，
||a - b ||2 + || b - d ||2 ||a - d ||2 ， （勾股定理）
即 || a - b || ||a - d ||
12
Gram-Schmidt 正交化过程
Gram-Schmidt 正交化过程： 设 a1 , a 2 ,, a n 是内积空间V 中线性无关的向量组， 则V 中存在正交向量组 b1 , b 2 ,, b n ，通过如下过程得到
13
令
b 1 a1 ;
( b1 ,a 2 ) b2 a2 b1; ( b1 , b1 ) ( b1 ,a r ) (b 2 ,a r ) ( b r -1 , a r ) br ar b1 b2 - b r -1 ( b1 , b1 ) (b 2 , b 2 ) ( b r -1 , b r -1 )
用距离的概念，（2）就是 Y - b .
2
由（3）知
Y x1a1 + x2a 2 + + xsa s , A a1 ,a 2 , ,a s
找X 使（2）最小，等价于找子空间 L(a1 ,a 2 ,,a s ) 中向量 Y使 b到它的距离 ( Y - b ) 比到 L(a1 ,a 2 ,,a s ) 中其它向量的距离都短. 设 C b - Y b - AX , 为此必 C L(a1 ,a 2 ,,a s )
0 0
n
2
（2）
0
不等于零，设法找实数组 x1 , x 2 ,, x n 使（2）最小 0 0 0 这样的 x1 , x 2 ,, x n 为方程组（1）的最小二乘解， 此问题叫最小二乘法问题.
2.问题的解决 设
n n n
Y a1 j x j , a2 j x j , , anj x j AX . （3） j 1 j 1 j 1
定理: 设T 是实内积空间V 的线性变换，a, b V ，
则下列命题等价， e1 , e2 , , en是V 的标准正交基，
(1) ( T( a), T b a b ( )) ( , ), 即T 保持向量的内积不变；
(2) ( T( a), T a a a ( )) ( , ),
定理5 设g 1 , g 2 ,..., g n;1 ,2 ,...,n 都是n维欧氏空间V中的标准正交基， 并且 (1 ,2 ,...,n ) (g 1 , g 2 ,..., g n )A 则A是正交矩阵.
17
题型
x11 已知R 的子空间W X x 21
22
x12 x21 - x22 0 x22 2 2 x11 x12 y11 ，Y 在W上定义( X , Y ) xij yij , 其中X x y x22 i 1 j 1 21 21 (1) 证明：X , Y )是W的一个内积； ( (2) 求W的一组标准正交基 .
y12 , y22
2.4 正交补
定义: 设W, U是实内积空间V 的子空间，
(1) a V , 若b W, 都有(a, b ) = 0, 则称a 与W 正交，记作a W ; (2) 若a W, b U, 都有(a, b ) = 0, 则称W 与U 正交，记作W U ; (3) 若W U，并且W + U = V, 则称U 为W 的正交补。 注意：若W U，则 W与U 的和必是直和。
第 2 章 内积空间
同济大学数学系
2009-3-22
2.1 实内积空间
定义.设V 是一个实线性空间，R为实数域， 若a, b V, 存在唯一的 rR与之对应， 记作(a, b ) = r, 并且满足
(1) (a, b ) = (b, a ) (2) (a +b, g ) = (a, g ) + (b, g ) (3) (ka, b ) = k(a, b ) (4) (a, a )≥0, (a, a ) = 0 a = 0 实内积空间也称欧几里得(Euclid)空间。
则 b1 , b 2 , , b r 是正交向量组
14 14
下面用归纳法说明 b1 , b 2 ,, b r 是正交向量组
(b i , ak ) ( b k , b j ) (a k - b i , b j ) (1 j k ) i 1 ( b i , b i ) k -1 (b i , ak ) (a k , b j ) - (b i , b j ) i 1 ( b i , b i )
6
向量长度
定义. 设V 为实内积空间，称 (a , a ) 为向量a 的长度， 记作 ||a ||。
定理. 设V 是实内积空间，a , b V , k R ，则 正定性 齐次性
(1) || a || 0, 且 || a || 0 当且仅当a 0； ( 2) || ka || | k | || a || ； Cauchy-Schwarz 不等式 ( 3) | (a , b ) | || a || || b ||, 等号成立当且仅当a , b 线性相关； (4) || a + b || || a || + || b || 。 三角不等式
几个定理和推论
定理1：n 维实内积空间V 必存在标准正交基。 推论1：n 维实内积空间V 中任一正交向量组都可扩充成
V 的一个正交基。 定理2：设 a1 , a 2 ,, a n 是n维欧氏空间V 的一组基， 则V 中存在标准正交基 g 1 , g 2 ,, g n ，使得
(a1, a2 , , an) ( g1, g2, g n) R ,
a V , 有a b + g , 其中b W， W ， g
则称向量b 为向量a 在W上的正投影，
称向量长度||g ||为向量a 到W 的距离。
g a d
W
O
b
垂线最短定理
定理: 设W 是实内积空间V 的子空间，aV , b 为a 在W 上的正投影，则 dW, 有
|| a - b || || a - d ||
19
正交补的存在唯一性
定理: 设W 是实内积空间V 的子空间，则W 的正交补
存在且唯一，记该正交补为 W ，并且
W { a | a W , a V }
定理: 设W 是实内积空间V 的有限维子空间，则
V W W
20
向量的正投影
定义: 设W 是实内积空间V 的子空间，于是V W W ,
2.5 正交变换
定义: 设T 是实内积空间V 的线性变换，若a, bV 有
(T (a), T( b)) ( a b , )
则称T 为V 的正交变换。
||a || (a , a )
等式(T (a ), T (a )) (a , a ) 可看做 保持向量的长度不变； T
正交变换的特征刻画
这等价于 (C ,a1 ) (C ,a 2 ) (C ,a s ) 0, （4）