第2章：凸集与凸函数
凸集与凸函数
凸集与凸函数在数学中，凸集和凸函数是两个非常重要的概念。
它们在优化、几何、经济学等领域中都有广泛的应用。
本文将介绍凸集和凸函数的定义、性质和应用。
凸集凸集是指在一个向量空间中，如果对于任意两个点x和y，它们的线段上的所有点都在该集合内，那么这个集合就是凸集。
简单来说，凸集就是一个“凸起来”的集合，它的内部没有凹陷的部分。
凸集有很多重要的性质。
其中最重要的是：凸集的交集仍然是凸集。
这个性质在优化问题中非常有用，因为它可以帮助我们证明一些最优化问题的解是凸集。
凸函数凸函数是指在一个实数域上，如果对于任意两个点x和y，它们的线段上的所有点都在函数图像的上方，那么这个函数就是凸函数。
简单来说，凸函数就是一个“凸起来”的函数，它的图像没有凹陷的部分。
凸函数也有很多重要的性质。
其中最重要的是：凸函数的下凸壳是一个凸函数。
这个性质在优化问题中非常有用，因为它可以帮助我们求解一些最优化问题的解。
应用凸集和凸函数在优化、几何、经济学等领域中都有广泛的应用。
其中最常见的应用是在最优化问题中。
凸集和凸函数的性质可以帮助我们证明一些最优化问题的解是凸集或凸函数，从而简化问题的求解过程。
凸集和凸函数还可以用于解决一些几何问题。
例如，我们可以使用凸包算法来求解一个点集的凸包，从而得到一个凸集。
同样地，我们也可以使用凸函数来求解一些几何问题，例如最小二乘法。
在经济学中，凸集和凸函数也有广泛的应用。
例如，在市场经济中，供求关系可以被视为一个凸函数，从而帮助我们预测市场价格的变化。
总结凸集和凸函数是数学中非常重要的概念。
它们在优化、几何、经济学等领域中都有广泛的应用。
凸集和凸函数的性质可以帮助我们证明一些最优化问题的解是凸集或凸函数，从而简化问题的求解过程。
同时，它们也可以用于解决一些几何问题和经济学问题。
1-2凸集与凸函数
所以一元凸函数表示连接函数图形上任意两点的线段
总是位于曲线弧的上方．
2020/3/1
12
2020/3/1
13
凸函数的性质
(1)设 f x 是凸集 D Rn 上的凸函数,实数 k 0 ,则 kf x 也
是 D 上的凸函数.
(2)设 f1 x , f2 x 是凸集 D Rn 上的凸函数,实数 , 0 , 则 f1 x f2 x 也是 D 上的凸函数.
则称 f x 为凸集 D 上的凸函数。
定义1.5 严格凸函数
注:将上述定义中的不等式反向,可以得到凹函数的定义。
例: 设 f x x 12 ,试证明 f x 在 , 上是严格凸
函数.
2020/3/1
9
证明: 设 x, y R ,且 x y, 0,1 ,都有
a2
不等式要取等号，必须 y z a ,
且 y, z y z , 容易证明 y z x ,
根据定义可知 x 为极点．
2020/3/1
8
三、凸函数
定义 1.4: 设函数 f x 定义在凸集 D Rn 上,若对任意的
x, y D, 0,1,都有:
f x 1 y f x 1 f y,
元函数 t 在0,1 上为凸函数. (2) 设 x, y D, x y , 若 t 在 0,1 上 为 严 格 凸 函 数 , 则 f x 在 D 上为严格凸函数.
2020/3/1
16
该定理的几何意义是：凸函数上任意两点 之间的部分是一段向下凸的弧.
2020/3/1
L
x2 xn
凸集与凸函数的性质与应用
凸集与凸函数的性质与应用凸集与凸函数是数学中两个非常重要的概念，它们在各个领域都有广泛的应用。
本文将围绕凸集与凸函数的性质展开讨论，并探讨它们在实际问题中的应用。
一、凸集的定义及性质1. 凸集的定义在数学中，一个集合称为凸集，如果对于集合中的任意两点，连接这两点的线段上的所有点也在该集合内部。
2. 凸集的性质（1）凸集的交集仍然是凸集。
即若集合A和集合B都是凸集，则它们的交集A∩B也是凸集。
（2）凸集的闭包仍然是凸集。
即若集合A是凸集，则它的闭包A 也是凸集。
（3）凸集的仿射变换仍然是凸集。
即若集合A是凸集，线性变换T将A的元素变换到B，B上的任意两点通过T来自A的元素，B也是凸集。
二、凸函数的定义及性质1. 凸函数的定义在实数域上，如果一个函数的定义域是凸集，并且满足对于任意一对定义域内的点x₁和x₂以及任意的x∈ [0,1]，都有凸函数性质：x(xx₁+(1−x)x₂) ≤ xx(x₁)+(1−x)x(x₂)则该函数被称为凸函数。
2. 凸函数的性质（1）凸函数上的割线位于函数图像的下方或与之切线重合。
（2）凸函数的上、下半级集都是凸集。
即对于凸函数x(x)，有以下性质：- x∈ℝ且x∈ℝ，x(x) ≤ x≤ x(x) 成立，则对于该函数来说，有x(x) ≤ x，其中x∈ [x, x]。
- 若x(x) ≤ x，则x(x) ≤ x，其中x∈ℝ。
三、凸集与凸函数的应用1. 最优化问题凸集与凸函数在最优化问题中有着广泛的应用。
凸函数的性质保证了在一定条件下的最优解存在且唯一。
在优化问题中，我们可以将目标函数设为凸函数，将约束条件设为凸集，从而利用凸函数的性质来求解最优解，简化了问题的求解过程。
2. 经济学凸集与凸函数在经济学中也有重要的应用。
例如，生产函数、效用函数等都是凸函数，它们描述了在一定约束下的最优决策。
同时，凸集与凸函数也被应用在市场均衡理论、优化分配问题等经济学中的重要概念和工具中。
3. 机器学习凸集与凸函数在机器学习中也占据重要地位。
凸函数和凸的
凸函数和凸的凸函数和凸集是数学中的两个重要概念，在数学和工程应用中非常常见。
本文将着重介绍这两个概念的定义、性质和应用。
一、凸函数1. 定义对于实数集合X上的函数f，如果对于任意的x1,x2∈X及实数α(0≤α≤1)，都有f(αx1+(1−α)x2)≤αf(x1)+(1−α)f(x2)则称f是X上的凸函数。
简单来说，就是图像上任意两点连线在函数图像下方时，该函数为凸函数。
如下图：2. 性质（1）凸函数的一阶导数单调增加。
（2）如果f(x)在[a,b]内是凸函数，则∀x∈(a,b)，有f(x)≤f(a)+f'(a)(x−a)或f(x)≤f(b)+f'(b)(x−b)（即解析式可以被类比为斜率大于等于零的直线），同时也可以得出：f(a)+f(b)2≥f(a+b2)即弦比切的定理。
（3）如果f(x)在[a,b]上是二次凸函数，则额外满足：f(a+x+b−a−2x2b−a)≤f(a)+f(b)2−f'(a)(b−a)4根据其定义可知，凸函数有一个很好的性质，即对于任意一个凸函数f(x)，其局部最小值也是全局最小值。
这个性质在优化问题中非常有用。
3. 应用凸函数在优化问题中很常见，比如线性规划、非线性规划、半正定规划以及凸优化等。
此外，凸函数在机器学习中也有非常广泛的应用，比如核方法、支持向量机等。
二、凸集1. 定义凸集是指对于一个实数集合X，如果对于其中的任意两个点x1,x2∈X及实数α(0≤α≤1)，有αx1+(1−α)x2∈X则称X是凸集。
也就是说，凸集内的任意两点连线上的任意一点也在凸集内。
如下图：2. 性质（1）凸集的交仍为凸集。
（2）凸集的凸组合一定在该凸集内。
（3）凸集的闭包也是凸集。
（4）如果X是凸集，则对于x∈X，X是以x为球心的超球体内的凸集。
3. 应用凸集和凸函数在很多方面都是密切相关的，比如凸优化和半正定规划等都涉及到凸集的概念。
凸集也被广泛应用于统计学和经济学中，例如一些概率模型的凸包上界（convex hull upper bound）和有效边界（efficient set）等等。
第2讲凸集与凸函数
第二讲凸集与凸函数22•定义1(凸集)设集合, 若对于任意两点及实数, 都有, 则称集合为凸集.nR D ⊂D y x ∈,]1,0[∈αD y x ∈-+)1(ααD 凸集x y xyx y凸集•例1. 证明超平面为凸集.证明:设, 对有因此，故为凸集.}{b x a R x H T n =∈=H y x ∈,]1,0[∈∀αbb b ya x a y x a T T T=-+=-+=-+)1()1())1((ααααααH y x ∈-+)1(ααH •例2. 欧式空间, 半空间为凸集.规定空集Ø为凸集.n R }{b x a R x H T n ≥∈=+凸集的性质•(3). 设为凸集，则为凸集.•(2). 设为凸集, , 则为凸集.D R ∈β},|{D x x y y D ∈==ββ21,D D },|{2121D y D x y x z D D ∈∈+==+比如,对于性质(3),是单点集，是三角形为四边形1D 2D 21D D +•(1). 设,,...,为凸集，则...为凸集.1D 2D n D 21D D D =n D•(4).S 是凸集当且仅当S 中任意有限个点的凸组合仍然在S 中.•(5). 设是凸集，则也是凸集，其中是实数。
k i D i ,,2,1, =i ki i D ∑=1βi β例3. 表示x 轴上的点.表示y 轴上的点.则表示两个轴上得所有点，它不是凸集；而是凸集.(){}R x x D T ∈=|0,1(){}R y y D T ∈=|,0221D D ⋃221R D D =+注：凸集的和集和并集有很大的区别，凸集的并集未必是凸集，而凸集的和集是凸集.凸集的性质定义2（-水平集）设是定义在集合R 上的实函数，是实数，则称如下的集合是函数的-水平集。
α)(x f α})(,|{αα≤∈=x f R x x S )(x f α凸函数•定义3 (凸函数)设函数定义在凸集上，若对于及,都有,则称为上的凸函数.f nR D ⊂D y x ∈∀,]1,0[∈∀α)()1()())1((y f x f y x f αααα-+≤-+f D •定义4 (严格凸函数)设函数定义在凸集上若对于及,都有,则称为上的严格凸函数.f n R D ⊂D y x ∈∀,)1,0(∈∀α)()1()())1((y f x f y x f αααα-+<-+f D凸函数•定理1(一阶条件) 设在凸集上可微, 则在上为凸函数的充分必要条件是对, 都有.f n R D ⊂f D D y x ∈∀,)()()()(x y x f x f y f T -∇+≥•定理2(二阶条件) 设在开凸集上二阶可微,则(1).在为上凸函数的充要条件为时,半正定.(2). 时, 正定, 则为上的严格凸函数.f n R D ⊂f D D x ∈∀)(2x f ∇D x ∈∀)(2x f ∇f D 1x 0x 1f 0f ()f x 000()f f T x x +∇-典型凸函数6) f (x) = x log x, x >0.既凸又凹！凸函数与不等式凸函数的性质性质1设()f x 是凸集n D R ⊂上的凸函数,实数0k ≥,则()kf x 也是D 上的凸函数.性质2设()()12,f x f x 是凸集nD R ⊂上的凸函数,实数,0λμ≥,则()()12f x f x λμ+也是D 上的凸函数.性质3设()f x 是凸集nD R ⊂上的凸函数,β是实数,则水平集()(){},,S f x x D f x ββ=∈≤是凸集. 12例5.试判断下列函数的凸凹性。
1-2凸集与凸函数
6
二、极点
定义1.3 定义1.3 设 D为凸集， D, 若 D 中不存在 x∈ 为凸集，
两个相异的点 y, z 及某一实数 λ ∈( 0,1) 使得 x = λ y + (1 λ) z , 则称 x 为 D 的极点． 极点．
一个极点 极点,且有 注： x 是 S 中的一个极点 且有 x = λ x1 + ( 1 λ ) x2 , λ ∈ ( 0,1) , 若
2010-8-21
17
一阶判别条件
可微,则 定理 1.2: 设在凸集 D R n 上 f ( x ) 可微 则 : f ( x ) 在 D 上为 都有: 凸函数的充要条件是对 x , y ∈ D ,都有 都有
f ( y ) ≥ f ( x ) + f ( x )
T
( y x)
严格凸函数 充要条件) 凸函数(充要条件 定理 1.3: 严格凸函数 充要条件
则称 f ( x ) 为凸集 D 上的凸函数 。 上的凸函数 凸函数。
定义1.5 严格凸函数 定义
定义中 不等式反向 可以得到 函数的定义。 反向,可以得到凹 注:将上述定义中的不等式反向 可以得到凹函数的定义。 将上述定义
严格凸 例 : 设 f ( x ) = ( x 1) ,试 证明 f ( x ) 在 ( ∞ , +∞ ) 上 是 严格 凸 试
2 f x12 2 f 2 G ( x ) = f ( x ) = x2 x1 M 2 f x x n 1
2 f x1 x2 2 f 2 x 2 M 2 f x n x 2
2 f L x1 xn
2 f L x 2 x n M M 2 f L 2 x n
2010-8-21
11
凸函数的几何性质 对一元函数 f ( x ) ,在几何上 λ f ( x1 ) + ( 1 λ ) f ( x2 ) , 在几何上
凸集和凸函数
凸集和凸函数凸集和凸函数是数学中一些重要的概念。
它们的应用范围广泛，涉及到诸如优化、几何学、经济学、物理学等领域。
本文将分步骤阐述凸集和凸函数的定义、性质及应用。
一、凸集的定义和性质凸集是指在欧几里得空间中，对于其中的任意两点，它们之间的连线都落在该集合内。
换句话说，凸集中的任何一条线段都是完全落在凸集内的。
要说明集合是凸的，需要证明其满足如下两个条件：①对于其中的任意两点x和y，它们之间的任意一个点z，都应该满足z=λx+(1-λ)y（其中0≤λ≤1）；②该集合是一个凸组合的闭包。
凸集有以下性质：1. 任意两个凸集的交集也是凸集；2. 凸集的闭包是凸集；3. 凸集的凸壳是凸集；4. 凸集的极小凸包是凸集；5. 凸集是连通的。
二、凸函数的定义和性质凸函数是指在函数图像下方的区域是凸集。
凸函数有以下几个特征：1. 任意两个点的线段都落在函数图像下方；2. 函数的一阶导数递增或数值非负；3. 函数的二阶导数数值非负。
凸函数具有以下性质：1. 任意两个凸函数的和是一个凸函数；2. 凸函数的下凸包是凸函数；3. 凸函数的上凸包是凸函数；4. 若函数f在定义域D内是凸的，那么其上任意一点的全体支撑线构成的集合是非空凸集。
在实际应用中，凸函数可用于优化问题、光学物理等方面。
因为凸函数有唯一的最小值和全局最小值，这种性质对于优化问题非常重要。
光学物理中，利用凸函数可对某些照明系统进行设计。
三、凸集和凸函数的应用凸集和凸函数的应用非常广泛。
它们在很多领域都得到了充分的应用，下面将简单介绍一些常见应用：1. 最优化问题。
凸函数有唯一的最小值和全局最小值，因此可以用于优化问题中，如线性规划、非线性规划等。
2. 几何形状分析。
凸集的定义是指一个区域内的两点连线都在该区域内，因此凸集可以用于分析几何形状。
3. 光学物理。
利用凸函数可以对光学系统进行设计，尤其是在非均匀照明下平均照度问题的解决中可以应用到凸函数。
4. 机器学习。
第二章凸性(Convexity)
凸集-----性质
推论： 设 Di , i 1,2,, k 是凸集， 则 i Di 也是凸集， 其中 i 是实数．
i 1 k
(4) S 是凸集当且仅当S中任意有限个点的凸 组合仍然在S中.
凸集-----性质
注： 和集和并集有很大的区别，凸集的并集 未必是凸集，而凸集的和集是凸集．
f x 1 y f x 1 f y 都有：
则称函数 f x 为 D 上的凸函数．
注：将上述定义中的不等式反向，可以得到 凹函数的定义．
凸函数
严格凸函数 设 D R n 是非空凸集， f x : S R, 若对任意的 x, y D ( x y), 及任意的 0,1 则称函数 f x 为 D
一个可微函数 是凸函数当且 仅当函数图形 上任一点处的 切平面位于曲 面的下方.
凸函数
凸函数的判别定理---二阶条件
定理5:
2 x1 2 f G x 2 f x x x 2 1 2 f x n x1
设在开凸集 D R 内 f x 二阶可微,则 f x 是 D 内的凸函数的充要条件为: 对任意 x D, f x 的Hesse矩阵 G x 半正定, 其中： 2 f 2 f 2 f
称为函数f在集合S上关于数 定理3 设 f x 是凸集 S R n 上的凸函数，则对任意 R ，水平集 S f , 是凸集． 注：定理3 的逆命题不成立.
的水平集.
凸函数
y 2 xy 的等值线的图形，可以看出水平集是凸集.
4 2 4 f x , y x 3 x y 下面的图形给出了凸函数