《线性代数》电子教程之十三(向量组的正交规范化)
2向量的正交规范化
1
0
得
x1 x2
0
x3
取 x3 1 得方程组的一个解，将其取为3 即可
1
3
0 1
18
1
例3
已知向量1
1 1
,
求R3的一个标准正交基.
解 设非零向量2 ,3都于 正1 交， 即满足方程1T x 0,
或 x1 x2 x3 0,
1 0
其基础解系为
1
0 1
,
2
11 .
19
14
1）正交化
令 1 1
2
2
1 1
,2 , 1
1
LLL
r
r
1 , r 1, 1
1
2 2
,r ,2
2
L
r1,r r1, r1
r1
则 1, 2 ,L , r 两两正交，且与 1,2 ,L ,r等价.
15
2）标准化
令
e1
1
1
1,
e2
1
2
2, L
,
er
1
r
r ,
就得到Ｖ的一个标准正交向量组.
（1）对称性： , ,
（2）线性性： , , , k, k,
（3）正定性： , 0, 当且仅当 0时 , 0.
4
二、向量的长度与夹角 １、长度的概念
令 , a12 a22 L an2 为ｎ维向量α
的长度（模或范数）. 特别 长度为１的向量称为单位向量.
如果 1,2 ,L ,r是Ｖ的一组基，则 e1,e2 ,L ,er 就是 Ｖ的一组标准正交基.
上述方法称为施密特（Schmidt）正交化法.
例
1
1
线性代数正交规范化ppt课件
1 0
1 0 ,2 1 .
1 1
把基础解系正交化，即合所求．亦即取
a21, a32[[11,,12]]1.
其 [1 ,中 2 ] 1 ,[1 ,1 ]2 ,于是得
1 a2 0 , 1
0 1 1 1 1 a311201221.
四、正交矩阵与正交变换
rr
其中
e ieiT[, i]
６ 求规范正交基的方法
设1,2,,r是向量空V的 间一个,要 基求V
的一个规范正,就交是基要找一组两的 两单 正交
位 向 量 e1,e2,,er ,使e1,e2,,er与1,2,,r等
价,这样一个问 ,称题 为把 1,2,,r这个基
范正 . 交化 若 a 1,a2, ,ar为向 V 的 量一 空 , 个 间基
则有 [1 ,3 ] [2 ,3 ] 0
即
[[ 2 1,, 3 3]] x x1 1 2 xx 22xx 3300
解之得 x 1 x 3,x 2 0 .
若令 x31,则有 3
x1 x2
1 0
x3 1
由上可知1,2,3构成三维空间的一设n维向量 e1,e2,,er是向量空 V(V间
1 1 4
例3
设a1
2,a2
3,a31,试
用
施密
1
1
0
特正交化过程量 把规 这范 组正 .向交化
解
取 b1a1;
1 1
b2
a2 [a2,b21]b1
b1
3 1
4 6
2 1
5 3
1 1 1
;
b3a3[a3,b21]b1[a3,b22]b2
b1
线性代数向量正交公式
线性代数向量正交公式线性代数向量正交公式是一个常见的数学概念，它表示两个向量在三维空间中被定义为正交，也就是说，它们夹角为90°。
它也可以用来解决具有特定方向的物理问题，比如从一个物体到另一个物体的力。
下面会简要介绍一些线性代数向量正交公式：一：向量范数向量范数是一个向量的标准值，它表示向量的长度。
向量正交公式依赖于向量范数而定义，下面的公式表示的是向量的范数：$$ \lvert v \rvert = \sqrt {v_1^2 + v_2^2 + ... + v_n^2 }$$二：两向量正交当两个向量彼此正交时，两个向量之间的内积就会为0，下面的式子表示的就是两向量彼此正交的公式：$$\vec{a} \cdot \vec{b} = 0$$三：任何两向量正交任何两个向量正交，都可以用下面的公式来表示：$$(\vec{a}, \vec{b}) = \cos \theta _{ab} \lvert \vec{a} \rvert \lvert \vec{b} \rvert$$其中：$\theta_{ab}$ 表示两向量 $\vec{a}$ 和 $\vec{b}$之间的夹角。
$|\vec{a}|$ 表示向量 $\vec{a}$ 的范数。
$|\vec{b}|$ 表示向量 $\vec{b}$ 的范数。
四：锐角锐角就是两个向量之间的夹角是小于90°的，而当两个向量之间的夹角之小于90°的时候，它们的正交的公式就会变成：$$(\vec{a}, \vec{b}) = \cos \theta _{ab} \lvert \vec{a} \rvert \lvert \vec{b} \rvert$$其中：$\theta_{ab}$ 表示两向量 $\vec{a}$ 和 $\vec{b}$之间的夹角。
$|\vec{a}|$ 表示向量 $\vec{a}$ 的范数。
$|\vec{b}|$ 表示向量 $\vec{b}$ 的范数。
向量的正交规范化
b1
an
b2
Байду номын сангаас
T
.
bn
3
２、性质
（1）对称性： , ,
（2）线性性： , , , k, k,
（3）正定性： , 0, 当且仅当 0时 , 0.
或 x1 x2 x3 0,
1 0
其基础解系为
1
0 1
,
2
11 .
19
1
1
0
令
1
11
,
2
1
0 1
,
3
2
11
.
1）正交化
1
1
令
1
则称Ａ为正交矩阵.
若Ａ按列分块表示为Ａ＝(1,2 , ,n ), 则AT A E
可表示为
1T
T 2
1
2
1
n
E
1
,
T n
1
亦即 (iT j )nn ( ij )nn
其中
( ij )nn
6、规范正交基
若规范正交组 1, 2 , , r 为向量空间Ｖ上的一个基， 则称 1, 2 , , r 为向量空间Ｖ上的一个规范正交基.
13
7、施密特（Schmidt）正交化法
设 1,2 , ,r 是向量空间Ｖ的一个基，要求向量空 间Ｖ的一个规范正交基，就是要找到一组两两正交的单
线性代数5.1向量组规范正交化
一、向量的内积
内积可用矩阵记号表示 : 为
x, y xT y.
2 向量的内积是几何中向量数量积的推广，但是n(n>3) 维向量内积没有直观的几何意义． 向量的数量积：x y ( x1 , x2 ,, xn ) ( y1 , y2 ,, yn ) x1 y1 x2 y2 xn yn
单位向量 e1 , , er , 规范正交基即要找一组两两正交的 , 使 e1 , , er 与 1 , , r 等价. 1 , , r 规范正交化方法 : 1 1 ; 2 2 [ 2 , 1 ] 1 （1）正交化，取 [ 1 , 1 ] [ 3 , 1 ] [ 3 , 2 ] 3 3 1 2 ,, [ 1 , 1 ] [ 2 , 2 ] [ r , 1 ] [ r , 2 ] [ r , r 1 ] r r 1 2 r 1 [ 1 , 1 ] [ 2 , 2 ] [ r 1 , r 1 ]
2内积有以下性质： (其中 x , y , z 为 n 维向量, 为实数 ) : (ii) [x, y] [ x, y] [ x, y] ; (i ) [ x, y] [ y, x] ;
(iii) [ x y, z ] [ x, z ] [ y, z ] ;
( iv ) 当 x 0 时 , [ x , x ] 0 ;
例3
T 解 a2 , a3 应满足方程a1 x 0 , 即 x1 x2 x3 0 . 1 0 把基础解系正交化 , 它的基础解系为 1 0 , 2 1 , 即为所求 , 亦即取 1 1 [1 , 2 ] 1 0 1 1 a2 1 , a3 2 1 , 得 1 1 a 2 0 , a3 1 0 2 . [1 ,1 ] 1 1 2 1 2 1 其中 [1 , 2 ] 1 , [1 , 1 ] 2,
正交规范化
正交规范化正交规范化是一种对样本数据进行预处理的方法，它通过将样本数据进行正交变换，将原始数据投影到一个新的正交特征空间上，从而达到降低数据冗余和提高数据可解释性的目的。
正交规范化在特征选择、特征抽取和特征融合等领域都有广泛的应用。
正交规范化的基本思想是找到一组正交变换矩阵，将原始特征转换到一个新的正交特征空间中。
正交变换矩阵的选取通常是通过最大化或最小化某种目标函数来实现的，最常用的目标函数是最小均方误差和最大方差。
正交规范化可以分为线性正交规范化和非线性正交规范化两种方法。
线性正交规范化是指通过线性变换将原始特征转换为正交特征。
线性正交规范化的目标是最小化特征之间的相关性，从而降低特征之间的冗余性。
最常用的线性正交规范化方法是主成分分析（PCA）和因子分析（FA）。
主成分分析是一种无监督学习的降维方法，它通过找到数据方差最大的方向，将原始数据映射到一个新的正交特征空间上。
主成分分析可以有效地去除数据中的冗余信息，保留最主要的特征。
因子分析是一种潜变量模型，它假设观测数据是由一些共同因子和特殊因子决定的，通过找到最能解释数据变异的共同因子，将原始数据进行正交变换。
非线性正交规范化是指通过非线性变换将原始特征转换为正交特征。
非线性正交规范化的目标是将原始数据映射到一个更高维度的特征空间中，从而提高数据的可拟合性和可解释性。
非线性正交规范化的方法有很多，如核主成分分析（KPCA）、非负矩阵分解（NMF）和独立成分分析（ICA）等。
核主成分分析是一种非线性特征提取方法，它通过将数据映射到一个更高维度的特征空间中，利用核函数的技巧将特征进行正交化。
非负矩阵分解是一种非负线性因子分析方法，它通过将非负数据进行分解，将原始数据转换为非负的正交特征。
独立成分分析是一种盲源分离方法，它假设观测数据由相互独立的源信号线性组合而成，通过找到相互独立的因子分量，将原始数据进行正交规范化。
正交规范化在机器学习和数据挖掘中有着广泛的应用。
5.1向量组规范正交化
x2
x2
x4 x4
a4
令x2
c1
2 (0,0,1,1)
2
,
1 0
x4
c2
c1
1 0 0
c2
0 11
则a1, a2 , a3, a4即为所求
解(1)法二a1, a2线性无关，可取3 (1,0,0,0)，4 (0,0,1,0)
使a1,
a2
,
3
,
线性无关。
4
将a1
,
a3
[a3, b1] [b1, b1]
b1
[a3 [b2
, ,
b2 b2
] ]
b2
3,5,1,1 8 1,1,1,1 140,2,1,3 1,1,2,0
4
14
再单位化， 得规范正交向量组如下
e1
b1 b1
1 1,1,1,1 1 , 1 , 1 , 1
2
2 2 2 2
e2
b2 b2
(ii) 齐次性 x x ; R
(iii) 三角不等式 x y x y .
证 (i) 与(ii) 是显然的,下面证明 (iii) , (iii) 三角不等式 x y x y .
x y 2 [ x y , x y ] [ x, x ] 2 [x, y] [ y, y ] ,
例２ 用施密特正交化方法，将向量组
a1 (1,1,1,1), a2 (1,1,0,4), a3 (3,5,1,1)
正交规范化.
解 先正交化， 取 b1 a1 1,1,1,1
b2
a2
a2 , b1 b1 , b1
b1
1,1,0,4
1
1
1
1 1
8--向量组的正交性
四、向量组的正交规范化：
设1,2 ,,m为线性无关向量组，令
11,
2
2
（2，1 ）, （1，1） 1
3
3
（3，1） （1，1） 1
（3，2）, （2，2 ） 2
看出规律 来了吗？
m
m
（（m1，，11））1
（（m2，，22））2
（m，m1）
（ ， ） m1
1 0 0
E
0
1
0
(i , i ) 1, (i , j ) 0, (i
j).
0 0 1
即1,2 ,,n为单位正交向量组。
方法一、用定理。
方法二、用定义。
练习
1 8 4
A 8
1
4,
A正交吗？
4 4
7
不正交。
1/ 9 A 8/9 4 / 9
8/9 1/ 9 4/9
4 / 9
4
/
9,
A正交吗？
7 / 9
正交。
1/ 9 8/ 9 4 / 9
A 8/9
1/ 9
4
/
9,
A1
?
AT
4 / 9 4 / 9 7 / 9
m 1
m 1
.
(i) 1,2 ,,m与1, 2 ,, m等价 (ii) 1, 2 ,, m为正交组。 再将1, 2 ,, m为单位化，即得到单位正交向量组。
五、正交矩阵：
1.定义4：若n阶方阵A满足AT A E，则称A为n阶正交矩阵。
2.性质： (i)若A为n阶正交矩阵 A 1. (ii)若A为n阶正交矩阵 AT与A1也是正交矩阵。 (iii)若A, B为n阶正交矩阵 AB与BA也是正交矩阵 。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
14
例如 设
e1
1
2
1
2 0
0
,
1
2
e2
1
2 0
0
,
e3
0
0
0 0
1
2 1
2
,
e3
1
2 1
2
ቤተ መጻሕፍቲ ባይዱ,
e1 , e2 , e3 , e4 就是R4的一个规范正交基.
[e1 , e2 ] [e1 , e3 ] [e1 , e4 ] 0, [e2 , e3 ] [e2 , e4 ] 0, [e3 , e4 ] 0,
1
1
13
3. 规范正交向量组和规范正交基
设n维向量组1,2 ,,r 是向量空间V (V Rn )
的一个基，若满足
⑴ 1,2,,r两两正交，即
当i j 时，[i , j ] iT j 0;
⑵ 1,2,,r都是单位向量，即 i [i ,i ] iTi 1,(i 1,2,, r)
]
1;
3
3
[ 3 , 1 ] 1 2
1
[ 3 , 2 ] 2 2
2;
r
r
[ r , 1 ] 1 2
1
[ r , 2 2 2
]
2
[ r , r
r
1
1 2
]
r
1
;
16
单位化：构造两两正交的单位向量组1,2 ,,r， 且满足1,2 ,,r 与1, 2 ,, r 等价.
令
1
1
1
1, 2
1
2
2,
0
3是 Ax
0的非零解.
12
记
A
T 1
T 2
1 1
1 2
11
要求 3应满足齐次线性方程组 Ax 0，即
1 1 1 x1
1
2
1
x2 x3
0
A
1 1
1 2
11
r2
r1
1 0
1 3
1 0
rr21(r32)
1 0
0 1
10
1
1
于是得Ax 0 的基础解析为 0 ，取3 0 即为所求.
4
2. 内积的性质
⑴ [ , ] [ , ]; ⑵ [k , ] k[ , ],k R;
⑶ [ , ] [ , ] [ , ];
⑷ 当 0时，[ , ] 0, 当 0 时，[ , ] 0;
⑸（施瓦茨不等式）[ , ]2 [ , ][ , ].
5
二、向量的长度
1.定义 设 n 维向量
则1,2,,r 称为正交向量组.
即一组两两正交的非零向量构成的向量组 称为正交向量组.
10
定的理 非1零向若量n，维则向量1,12,,2 ,,r,线r 性是无一关组.两两正交
即正交向量组是线性无关向量组.
证 设存在 k1, k2 ,, kr使
k11 k22 krr 0,
以
T 1
左乘上式两端，得
⑵ 齐次性 k | k | , k R;
⑶ 三角不等式 . 证明
说明 当n 2、3时，三角不等式的几何解释为
7
3. 两向量之间的夹角
与 的数量积
的长度 的长度 与 夹角余弦
设、 为n维向量，当 0, 0时，有
cos [， ] , arccos [ , ] ,
a1
a2
an
令 [ , ] a12 a22 an2 ,
称为向量 的长度（或范数）.
当 1 时，称 为单位向量.
说 明当 n 2、3时，按此定义的向量的长度与几何空 间中的向量的长度是一致的.
6
2. 向量的长度的性质
⑴ 非负性 当 0 时， 0 ；当 0 时， 0 ；
1
1
1 1, 2 2,
1
1
正交，试求一个非零向量 3，使1,2,3两两正交.
解 析：此题是一个常见问题.解此题的关键是将 所提问题转化为求一个齐次线性方程组的非零解
的问题.
因为所求向量 3，满足1,2,3 两两正交，即有
T 1
3
0,
2T 3 0,
T 1
T 2
3
0
A 3
《线 性 代 数》
电子教案之十一
1
主要内容
第 十 一 讲
❖向量的内积、长度、正交的概念； ❖正交向量组、规范正交基的概念，施密特正交
化方法；
❖正交矩阵的概念和性质.
向 量
基本要求
的 内
❖了解向量的内积、长度、正交、规范正交基、 正交矩阵等概念，知道施密特正交化方法.
积
2
第 一、向量的内积
一 节
1. 内积的定义
➢在定义了内积后，3维向量空间与解析几何中3维 几何空间是类似的. 3维向量空间中向量的内积类
似于3维几何空间的向量的数量积. n 维向量的内
积可看作是数量积的一种推广.
➢向量的内积是两个向量之间的另一种运算，其结
果是一个数，用矩阵记号表示，当 与 为列向
量时，有 , T T .
,r
1
r
r ,
说明
✓上述的正交化过程称为施密特(Schimidt)正交
化满过 足程1,.由2,此,过r与程得1,到2的,向, 量r 等组价，1, 而2,且,满r不足仅 1,2 ,,k 与 1, 2 ,, k (1 k r) 等价.
向 定义 设有 n 维向量
量 的 内 积 长 度令
a1
b1
a2
,
b2
,
an
bn
, a1b1 a2b2 anbn ,
及 正
, 称为向量 与 的内积.
交
性
3
说明
➢在定义内积之前，向量之间的运算只定义了加法 与数乘；如果把3维向量空间与解析几何中3维 几何空间（或称欧式空间）相比较，会发现前者 缺少向量的几何度量性质，如向量的长度、两向 量的夹角等，但向量的几何度量性质在许多问题 中有着特殊的地位.
称为n维向量与 的夹角.
8
三、向量的正交性
1. 向量正交
当[ , ] 0时，称向量 与 正交.
显然，若x 0，则x与任何向量都正交.
说
明当、 为2或3维向量时，、 正交的几何解释为
9
2. 正交向量组
设向量组1,2 ,,r , 若满足 ⑴ 1,2,,r都是非零向量；
⑵ 当 i j 时，[i , j ] iT j 0,
e1 e2 e3 e4 1.
15
4. 施密特(Schimidt)正交化
已知1,2,,r 是向量空间V 的一个基，要求 V的
一个规范正交基. 这就是把已知基规范正交化问题.
正交化：构造正交向量组 1, 2 ,, r ，且满足
1, 2 ,, r 与1,2 ,,r 等价.
令 1 1;
2
2
[ 2 , 1 1 2
k11T1 k21T 2 kr1T r 0,
因为1,2 ,,r 两两正交，即有
[1, j ] 1T j 0, j 2,3,, r
所以 k11T1 0, 又1 0 ，故1T1 0, 从而必有 k1 0.
类似可证必有 k2 0,, kr 0.
11
例1 已知3维向量空间 Rn中两个向量