1math

ｆ：Ｄ
减函数
定义
→ R, D为Rn 的子集 1、递减：当x1 ≥ x2时,有f(x1 ) ≤ f(x2) 2、严格递减： x1 x2时,有f(x1 ) ＜ f(x2) 3、强递减:当x1 ≥ x2且x1 ≠ x2时, 有f(x1 )＜ f(x2)
ｆ：Ｄ
凹函数
定义 对于所有x1,x2属于D，D为Rn
连续映射定理
→ Rn 为一连续映射 ，如果S为D的紧子集， 则f（S)在Rn内是紧集。
设D是Rm的一个子集，设f：D
存在性定理
威尔斯拉斯定理
→ R 是一个连续实值映射,S为 紧集,则存在向量x*、ｘ～属于S，对于 所有ｘ属于Ｓ，满足： ｆ（ｘ～) ≤ｆ（ｘ） ≤ｆ（ x*)
设ｆ：S
的子凸集 ，若下式成立，则ｆ：Ｄ → R是一个凹 函数； f(xt) ≥ tf(x1)+(1-t)f(x2), t ∈【0,1】 其中xt =tx1+(1-t)x2,
凹函数
定理
一个凹函数的图像及其下方的点 的集合是凸集。 F是凹函数 A是凸集
A
严格凹函数
定义：
→ R 是一个严格凹函数,当且 仅当对于D 中的所x1 ≠ x2,有： f(xt) > tf(x1)+(1-t)f(x2), t ∈(０，１)
关系
定义3
传递性 如果对于集合S中的任何元素x,y,z X R y, and yRz 有：x R z， 那么，S上的一个关系R是传递的。
映射与函数
映射：ｆ：Ｄ
D定义域 R值域 Ｄ，Ｒ为两个集，f为Ｄ到Ｒ的一个关系 。若对于每一个ｘ属于Ｄ，有唯一的ｙ 属于Ｒ，使得（x, y）属于f，称关系f为 函数
通过使用不同的度量我们可以构造有趣 的非欧几里德几何。 例如爱因斯坦广义相对论四维空间 黎曼几何空间 ＳＰ—ＳＰＡＣＥ
度量空间
欧氏度量（欧氏范数）
也可以记为：
度量空间
设X为一个集合，一个映射d：X×X→R
若对于任何x,y,z属于X，有 （I）（正定性）d(x,y)≥0,且 d(x,y)=0当且仅当 x = y； （II）（对称性）d(x,y)=d(y,x)； （III）（三角不等式） d(x,z)≤d(x,y)+d(y,z）
是凸集。 F是凹函数
A是凸集
严格凸函数
定义：
→ R 是一个严格凸函数,当且 仅当对于D 中的所x1 ≠ x2,有： f(xt) < tf(x1)+(1-t)f(x2), t ∈(０，１)
设ｆ：D
拟凸函数
定义
→ R 是一个拟凸函数,当且仅当 对于D 中的所x1 与 x2,有： 0,1 f(xt) ≤ max(f(x1), f (x2)), t ∈ 其中xt =tx1+(1-t)x2,
相乘） 非负n维实数集记 Rn+ 每一元素称为向量或点
集合与映射
Rn+
x x x

集合与映射
向量的和： Ｘ＋Ｙ＝（x1+x2…
xn+yn) 数乘向量：tX=(tx1… txn) 向量的内积：ＸＹ＝∑ xiyi
集合与映射
定义1
Rn上的凸集
，如果下式对 ：
所有t都成立，t
ｆ：D
[ ]
严格拟凸函数
定义
→ R 是一个拟凸函数,当且仅当 对于D 中的所有x1 与 x2, x1 ≠ x2 ,有 ： f(xt) < max(f(x1), f (x2)), t ∈(０，１) 其中xt =tx1+(1-t)x2,
ｆ：D
连续函数
定义
,当
必然有 则f(x)在点x0处连续

集合与映射
定义4
Rn上的开球与闭球 1、以xo为中心，以 〉0为半径的开球 是： B（xo） 2、以xo为中心，以 〉0为半径的闭球 是： B*（xo）
集合与映射
定义5
Rn上的开集 ＞０，使得
∈S ,使得开球内的点完全处
即 B（ x）
于集合内 则Ｓ是一个开集

集合与映射
对于每一个x属于S， 选择 >0,使得 B （x）∈S,则: S=∪ B （x）
集合与映射
定义6
Rn上的闭集 如果S的补集是个开集，那么，S是一个 闭集.
集合与映射
定理4
Rn上的闭集 (1) 空集是一个闭集. (2)整个空间是一个闭集. (3)闭集的任何有限个并集是一个闭集. (4)闭集的交集是闭集.
度量空间

欧几里德空间(Euclidean Space)，也 可以称为平直空间，在数学中是对欧几 里德所研究的2维和3维空间的一般化。 这个一般化把欧几里德对于距离、以及 相关的概念长度和角度，转换成任意数 维的坐标系。这是有限维、实和内积空 间的“标准”例子
度量空间
空间的几何性质依赖于所选择的度量，
ｆ：D
凹性与二阶导数
设D是实值区间，f二次连续可微，则 1、
f是凹的 2、二阶导数小于等于零f’’(x) ≤0 3、 f(x) ≤ f(x0)+ f’(x0) (x- x0 ) x0
1-3是等价的 若f’’(x)
D
<0,则 f是严格凹的.
凸函数
定义 对于所有x1,x2属于D，若下式成立，则
grad f = (f1 ( x 0 ), f 2 ( x 0 ),..., f n ( x 0 ))
雅可比矩阵

f: Rn→Rm
二阶偏导数
定义 f1(x)关于xi再求导数，得二阶偏导数：
海赛矩阵

f: Rn→R
H(x)=
海赛矩阵
H(x)包含所有可能的二阶偏导数。 H(x)类似于f:
Ch1 数学基础
1、集合与映射(Sets
and mapping) 2、线性代数(Linear algebra) 3、最优化条件(Optimization)
集合与映射
一个集合是任何元素的总体，具有某种
特定性质的具体或抽象的对象汇集成的 总体。 表示法： 列举法 描述法 文氏图示
集合与映射
→R
集合与映射
度量空间(Metric
Space)，在数学中是 指一个集合，并且该集合中的任意元素 之间的距离（叫做度量）是可定义的。 度量空间中最符合我们对于现实直观理 解的是欧几里德空间。事实上，“度量 ”的概念就是对欧几里德距离的推广。 欧几里得度量定义了在两个点之间的距 离为连接它们的直线的长度。
R →R的二阶导数。 H(x)是对称的。(可由杨格定理得到)
杨格定理
对于二次可微的函数f(x),有下式对于所
有i,j成立：
多变量函数的凹性
设D是Rn的一个非空的凸子集，f是二阶
连续可微的，则： 1、 f是凹的 2、对于D中的所有x,H(x)是负半定的。 3、对于一切 x0 属于D： f(x) ≤ f(x0)+ ▽f(x0) (x- x0 )， 1-3是等价的
ｆ：Ｄ → R是一个凸函数； f(xt) ≤ tf(x1)+(1-t)f(x2), t ∈「０，１」 其中xt =tx1+(1-t)x2,
凹与凸函数
定理 当且仅当一f(x)是一个（严格）凸函数
时，f(x)是一个凹函数。 即一个凹函数同其负函数 的凸性等价。
凸函数
定理 一个凸函数的图像及其上方的点的集合
多变量函数的凹性
若
H(x)
是负定的,则 f是严格凹的.
定与半定矩阵
定义: A为n阶方阵，向量X∈
Rn 如果对于所有x ≠0，都有xtAx>0,则A 为 正定的； 如果对于所有x ≠0，都有xtAx<0,则A 为 负定的；
定与半定矩阵
如果对于所有x
，都有xtAx≥0,则A 为正
若集合的每个点都是它的内点,则为开集 任何开球是开集 开集的一个必要条件是,集合没有边界(
点).
集合与映射
定理2
Rn上的开集 (1) 空集是一个开集. (2)整个空间是一个开集. (3)开集的并集是一个开集. (4) 任何有限个开集的交集是开集.
集合与映射
定理3 每个开集是开球的并集 设S是一个开集,
存在性定理
布劳威不动点定理
→ S 是一个连续映射,S为紧且 凸集,则在S中至少存在一个f的固定点。 即至少存在一个向量x*属于Ｓ，满足： x*=ｆ（ x*)
设ｆ：S
实值函数
定义: 如果Ｄ是任意集合，并且R为Ｒ的子集
，那么 ｆ：Ｄ → R就是一个实值函数
增函数
定义
→ R, D为Rn 的子集 1、递增：当x1 ≥ x2时,有f(x1 )≥ f(x2) 2、严格递增： x1 x2时,有f(x1 ) ﹥ f(x2) 3、强递增:当x1 ≥ x2且x1 ≠ x2时, 有f(x1 )> f(x2)
A的行列式。
Xi=
齐次函数
定义 对于所有t＞0，如果下式成立， f(tx)
≡tkf(x) 则f(x)是k次齐次函数
齐次函数
对于所有t＞0， 如果f(tx)
集合：用大写字母表示，如：X 元素：用小写字母标示 元素与集合的关系：属于或
S T
不属于
记为：x∈X
集合与映射


集合与集合的关系： 1、逻辑关系：子集 补集 2、运算：并集: S∪T 交集: S∩T 3、乘积: 表示有序对的集合 SXT
集合与映射
将n维实数集记为
Rn =RXRXRXR(n个