凸函数
什么是凸函数及如何判断一个函数是否是凸函数
什么是凸函数及如何判断⼀个函数是否是凸函数t元j⼀、什么是凸函数 对于⼀元函数f(x)，如果对于任意tϵ[0,1]均满⾜：f(tx1+(1−t)x2)≤tf(x1)+(1−t)f(x2)，则称f(x)为凸函数(convex function) 如果对于任意tϵ(0,1)均满⾜：f(tx1+(1−t)x2)<tf(x1)+(1−t)f(x2)，则称f(x)为严格凸函数(convex function) 我们可以从⼏何上直观地理解凸函数的特点，凸函数的割线在函数曲线的上⽅，如图1所⽰：从f(x1)连⼀条线到右侧的虚线，利⽤三⾓形边的⽐例性质可以推出中间虚线与上⾯直线交点的值 上⾯的公式，完全可以推⼴到多元函数。
在数据科学的模型求解中，如果优化的⽬标函数是凸函数，则局部极⼩值就是全局最⼩值。
这也意味着我们求得的模型是全局最优的，不会陷⼊到局部最优值。
例如⽀持向量机的⽬标函数||w||2/2就是⼀个凸函数。
⼆、如何来判断⼀个函数是否是凸函数呢？ 对于⼀元函数f(x)，我们可以通过其⼆阶导数f″(x) 的符号来判断。
如果函数的⼆阶导数总是⾮负，即f″(x)≥0 ，则f(x)是凸函数 对于多元函数f(X)，我们可以通过其Hessian矩阵（Hessian矩阵是由多元函数的⼆阶导数组成的⽅阵）的正定性来判断。
如果Hessian矩阵是半正定矩阵，则是f(X)凸函数三、Jensen不等式 对于凸函数，我们可以推⼴出⼀个重要的不等式，即Jensen不等式。
如果 f 是凸函数，X是随机变量，那么f(E(X))≤E(f(X))，上式就是Jensen不等式的⼀般形式 我们还可以看它的另⼀种描述。
假设有 n 个样本{x1,x2,...,x n}和对应的权重{α1,α2,...,αn}，权重满⾜a i⩾，对于凸函数 f，以下不等式成⽴：f(\sum_{i=1}^{n}\alpha_ix_i) \leq \sum_{i=1}^{n}\alpha_if(x_i)Loading [MathJax]/jax/element/mml/optable/SuppMathOperators.js。
凸函数 上凸 下凸 凹函数
凸函数上凸下凸凹函数
凸函数是指在定义域上的任意两点连线上的函数值都小于等于这条连线的最高点所对应的函数值的函数。
凸函数可以分为上凸和下凸两种类型。
上凸函数是指在定义域上的任意两点连线上的函数值都小于等于这条连线的最高点所对应的函数值的凸函数。
下凸函数是指在定义域上的任意两点连线上的函数值都大于等于这条连线的最高点所对应的函数值的凸函数。
凹函数是指在定义域上的任意两点连线上的函数值都大于等于这条连线的最高点所对应的函数值的函数。
综上所述，凸函数是一种特殊的函数类型，可以分为上凸函数、下凸函数和凹函数三种类型，根据其定义域上的连线和函数值的关系来进行分类。
第三节 凸函数
d)f(x)=x12+4x1x2-x22
解 a)
∂f( x ) ∂x
2 1
= 10x 1+
2
x
2
- 5,
∂f( x ) ∂x
2
=
x
1
+ 2x 2+ 4
∂ f( x ) ∂x
2 2 1
= 10,
∂ f( x ) ∂x
2 1
= 1
x
2
∂ f( x ) ∂x
2
= 1,
∂ f( x ) ∂x 2
2
= 2
x
表明▽2f(x)负定，f(x)是严格凹函数。
c）
2 2 f (x) 0 0
0 12 x 2 0
0 0 0
▽2f(x)的一阶主子式分别为2,12x2,0均非 负（x2≥0）；二阶主子式分别为
2 0 0 12 x2 2 4 x 2≥ 0 ， 2 0 0 0 =0， 12 x 2 0 0 0 0
凸函数。
证明：设x，y∈R，且x≠y，λ∈（0 ，1）都有：
f[λx+(1-λ)y]-[λf(x)+(1-λ)f(y)]
=[λx+(1- λ)y-1]2 - λ(x-1)2 - (1- λ)(y-1)2
= -λ(1- λ)(x-y)2＜0
因此f(x)在（-∞，+∞）上是严格凸函数。
例2：试证线性函数是Rn上的凸函数。
f[λx1+(1-λ)x2]= ≤
fα i 1+(1-λ)x2) i (λx
i=1
k
αi [λfi(x1)+(1-λ)f(x2)]
i 1
k
正常凸函数
正常凸函数（Proper Convex Function）是指定义在实数域上的凸函数，其值域为实数 的上半平面（即函数值大于负无穷大的实数集合）。具体地，对于定义在实数域上的函数 f(x)，如果满足以下条件，则称其为正常凸函数：
1. 函数 f(x) 是凸函数，即对于任意的实数 x1 和 x2，以及任意的 t ∈ [0, 1]，都有 f(tx1 + (1-t)x2) ≤ tf(x1) + (1-ห้องสมุดไป่ตู้)f(x2)。
2. 函数 f(x) 的值域为实数的上半平面，即对于任意的实数 x，都有 f(x) > -∞。 正常凸函数在优化和凸分析中具有重要的性质和应用。它们在经济学、工程学、运筹学等 领域中经常被用来描述和优化各种问题。常见的正常凸函数包括指数函数、幂函数、对数函 数等。
凸函数
凸函数,是数学函数的一类特征。
凸函数就是一个定义在某个向量空间的凸子集C（区间）上的实值函数。
凸函数是一个定义在某个向量空间的凸子集C（区间）上的实值函数f，而且对于凸子集C中任意两个向量, f((x1+x2)/2)>=(f(x1)+f(x2))/2,则f(x)是定义在凸子集c中的凸函数（该定义与凸规划中凸函数的定义是一致的，下凸）。
常见的凸函数
1 指数函数eax
2 幂函数xa,x∈R+,1≤a或者a≤0
3 负对数函数- log x
4 负熵函数x log x
5 范数函数||x||p
如果一个可微函数f它的导数f'在某区间是单调下跌的，f就是凹的；即一个凹函数拥有一个下跌的斜率（当中下跌只是代表非上升而不是严谨的下跌，也代表这容许零斜率的存在。
）
如果一个二次可微的函数f，它的二阶导数f'(x)是正值（或者说它有一个正值的加速度），那么它的图像是凹的；如果二阶导数f'(x)是负值，图像就会是凸的。
当中如果某点转变了图像的凹凸性，这就是一个拐点。
如果凹函数（也就是向上开口的）有一个“底”，在底的任意点就是它的极小值。
如果凸函数有一个“顶点”，那么那个顶点就是函数的极大值。
如果f(x)是二次可微的，那么f(x)就是凹的当且仅当f''(x)是非正值。
如果二阶导数是负值的话它就是严谨凹函数，但相反而言又不一定正确。
凸函数的几个性质
凸函数的几个性质
1. 凸函数的导数在定义域内单调递增或单调递减；
2. 凸函数的二阶导数在定义域内非负；
3. 凸函数的图像在定义域内是上凸的；
4. 凸函数的极值点只可能是极小值点或极大值点；
5. 凸函数的极值点只可能出现在函数的端点或极值点处；
6. 凸函数的极值点处的导数值为零；
7. 凸函数的极值点处的二阶导数值非负；
8. 凸函数的极值点处的二阶导数值为零时，极值点为拐点；
9. 凸函数的极值点处的二阶导数值为正时，极值点为极小值点；
10. 凸函数的极值点处的二阶导数值为负时，极值点为极大值点。
92. 什么是凸函数？如何判断？
92. 什么是凸函数？如何判断？92、什么是凸函数？如何判断？在数学的广袤世界里，凸函数是一个重要的概念，它在优化理论、经济学、物理学等众多领域都有着广泛的应用。
那么，究竟什么是凸函数呢？又该如何去判断一个函数是否为凸函数呢？简单来说，凸函数是一种具有特殊性质的函数。
想象一下，在函数的图像上，如果连接任意两点的线段都在这两点之间的函数曲线之上，那么这个函数就是凸函数。
更严谨地，对于定义在某个区间上的函数 f(x)，如果对于区间内任意的两个点 x₁和 x₂，以及介于 0 和 1 之间的任意实数λ ，都满足不等式f(λx₁＋（1 λ)x₂) ≤ λf(x₁) ＋（1 λ)f(x₂) ，那么这个函数就是凸函数。
为了更直观地理解凸函数，我们来看几个具体的例子。
比如，最简单的凸函数之一是二次函数 f(x) ＝ x²。
在其图像上，很容易发现任意两点之间的线段都在曲线之上。
再比如，函数 f(x) ＝｜x| 也是凸函数。
那如何判断一个给定的函数是否为凸函数呢？这有多种方法。
一种常见的方法是通过函数的二阶导数来判断。
如果函数 f(x) 的二阶导数 f'＇（x) ≥ 0 在其定义域内恒成立，那么这个函数就是凸函数。
以函数 f(x) ＝ x²为例，它的一阶导数为 f'（x) ＝ 2x ，二阶导数为f'＇（x) ＝ 2 ，因为 2 恒大于 0 ，所以 f(x) ＝ x²是凸函数。
另一种方法是利用定义来直接判断。
对于给定的函数，选取定义域内的任意两点，计算出λx₁＋（1 λ)x₂对应的函数值，并与λf(x₁) ＋（1 λ)f(x₂) 进行比较。
但这种方法在实际操作中往往比较繁琐，特别是对于复杂的函数。
还有一种方法是通过函数的性质来判断。
例如，如果一个函数是由多个凸函数相加组成的，那么这个函数也是凸函数。
凸函数在实际应用中有着重要的价值。
在优化问题中，凸函数的性质使得我们能够更容易地找到最优解。
第三节 凸函数
1
∇
2
1 0 f( x ) = 1
1 2
由于▽2f(x)的一阶顺序主子式为10，大于零，2阶 行列式为
10 1 1 2 20 1 19 0
表明▽2f(x)正定，故f(x)是严格凸函数。 b) 2 3
f (x) 3
2
8
▽2f(x)的奇数阶（一阶）顺序主子式分别为-2， 小于零；偶数阶主子式为 2 3 16 9 7 0 3 8
由已知条件有
f(x1)≥ f(x) + ▽f(x)T(x1-x)
f(x2)≥ f(x) + ▽f(x)T(x2-x)
所以
λ f(x1)≥ λ f(x) + λ ▽f(x)T(x1-x)
(1-λ) f(x2)≥ (1-λ) f(x) + (1-λ)▽f(x)T(x2-x)
两式相加，并进行整理，得
λ f(x1) +(1-λ) f(x2)≥f(x) + ▽f(x)T[λx1+(1-λ)x2 -x]
f(x2)＞ f(x1) + ▽f(x1)T(x2-x1)
例3 设f(x)=x4，x属于（-∞，+∞），判断函数 的凸凹性。
解：任取两相异点x1，x2，则有
▽f(x1)= f'(x1)=4x13
f(x2)-[f(x1) + ▽f(x1)T(x2-x1)]
=x24-x14-4x13(x2-x1)
=x24-2x12x22+x14+2x12x22-4x13x2+2x14
3、掌握凸函数的一阶与二阶判定方法。
第三节 凸函数
凸函数的定义
凸函数的性质
凸函数的判定
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
一、凹凸函数的代数定义
容易理解，若函数 f（x）为凸函数，那么 -f（x）为凹函数。
所以，讨论清楚了凸函数，等价于讨论清楚了凹函数。
现在我们来讨论凸函数，现设一函数 f（x）。
在该函数定义域的凸区内任取两点x1、x2（x1<x2）。
设一点x=q1x1+q2x2(q1,q2>0 ，且q1+q2=1)那么易得，该点必包含于x1，x2之间。
凸函数,是数学函数的一类特征。
凸函数就是一个定义在某个向量空间的凸子集C（区间）上的实值函数。
凸函数是一个定义在某个向量空间的凸子集C（区间）上的实值函数f，而且对于凸子集C中任意两个向量, f((x1+x2)/2)≤
(f(x1)+f(x2))/2,则f(x)是定义在凸子集c中的凸函数（该定义与凸规划中凸函数的定义是一致的，下凸）。
注意：中国大陆数学界某些机构关于函数凹凸性定义和国外的定义是相反的。
Convex Function在某些中国大陆的数学书中指凹函数。
Concave Function指凸函数。
但在中国大陆涉及经济学的很多书中，凹凸性的提法和其他国家的提法是一致的，也就是和数学教材是反的。
举个例子，同济大学高等数学教材对函数的凹凸性定义与本条目相反，本条目的凹凸性是指其上方图是凹集或凸集，而同济大学高等数学教材则是指其下方图是凹集或凸集，两者定义正好相反。
在函数可导的情况下,如果一阶导娄在区间内是连续增大的,它就是凹函数; 在图形上看就是"开口向上" ,反过来,就是凸函数; 由于一
阶导数连续增大,所以凹函数的二阶导数大于0; 由于一阶导数连续减小,所以凸函数的二阶导数小于0,凸函数就是:缓慢升高,快速降低; 凹函数就是:缓慢降低,快速升高.。