最优化方法,汇总
最优化方法
随机梯度下降每次迭代只使用一个样本，迭代 一次计算量为n 2 ，当样本个数m很大的时候， 随机梯度下降迭代一次的速度要远高于批量梯 度下降方法。 两者的关系可以这样理解：随机 梯度下降方法以损失很小的一部分精确度和增 加一定数量的迭代次数为代价，换取了总体的 优化效率的提升。增加的迭代次数远远小于样 本的数量。
2. 牛顿法和拟牛顿法（Newton's method & Quasi-Newton Methods）
牛顿法（Newton's method） 牛顿法是一种在实数域和复数域上近似求解方程 的方法。方法使用函数 f ( x ) 的泰勒级数的前 面几项来寻找方程 f ( x ) = 0 的根。牛顿法最大 的特点就在于它的收敛速度很快。
具体步骤：
首先，选择一个接近函数 f ( x ) 零点的 x 0 ， 计算相应的 f ( x 0 ) 和切线斜率 f ' (x 0 ) （这 里 f ' 表示函数 f 的导数）。然后我们计算穿 过点 (x 0 , f (x 0 )) 并且斜率为 f '(x 0 ) 的直线 和 x 轴的交点的 x 坐标，也就是求如下方程的 解：
批量梯度下降法（Batch Gradient Descent,BGD）
（1）将J(theta)对theta求偏导，得到每个theta对应 的的梯度：
（2）由于是要最小化风险函数，所以按每个参数 theta的梯度负方向，来更新每个theta：
（3）从上面公式可以注意到，它得到的是一个全 局最优解，但是每迭代一步，都要用到训练集 所有的数据，如果m很大，那么可想而知这种 方法的迭代速度会相当的慢。所以，这就引入 了另外一种方法——随机梯度下降。 对于批量梯度下降法，样本个数m，x为n维向 量，一次迭代需要把m个样本全部带入计算， 迭代一次计算量为m*n 2 。
最优化方法归纳总结
最优化方法归纳总结最优化方法归纳总结篇一：最优化方法综述最优化方法综述1.引论1.1应用介绍最优化理论与算法是一个重要的数学分支，它所研究的问题是讨论在众多的方案中什么样的方案最优以及怎样找出最优方案。
这类问题普遍存在。
例如，工程设计中怎样选择设计参数，使得设计方案满足设计要求，又能降低成本；资源分配中，怎样分配有限资源，使得分配方案既能满足各方面的基本要求，又能获得好的经济效益；生产评价安排中，选择怎样的计划方案才能提高产值和利润；原料配比问题中，怎样确定各种成分的比例，才能提高质量，降低成本；城建规划中，怎样安排工厂、机关、学校、商店、医院、住户和其他单位的合理布局，才能方便群众，有利于城市各行各业的发展；农田规划中，怎样安排各种农作物的合理布局，才能保持高产稳产，发挥地区优势；军事指挥中，怎样确定最佳作战方案，才能有效地消灭敌人，保存自己，有利于战争的全局；在人类活动的各个领域中，诸如此类，不胜枚举。
最优化这一数学分支，正是为这些问题的解决，提供理论基础和求解方法，它是一门应用广泛、实用性强的学科。
1.2优化的问题的基本概念工程设计问题一般都可以用数学模型来描述，即转化为数学模型。
优化设计的数学模型通常包括设计变量、目标函数和约束条件。
三个基本要素。
设计变量的个数决定了设计空间的维数。
确定设计变量的原则是：在满足设计基本要求的前提下，将那些对设计目标影响交大的而参数选为设计变量，而将那些对设计目标影响不大的参数作为设计变量，并根据具体情况，赋以定值，以减少设计变量的个数。
用来评价和追求最优化设计方案的函数就称为目标函数，目标函数的一般表达式为f?x??f?x1,x2,?xn?。
优化设计的目的，就是要求所选择的设计变量使目标函数达到最佳值。
所谓最佳值就是极大值或极小值。
在设计空间中，虽然有无数个设计点，即可能的设计方案，但是一般工程实际问题对设计变量的取值总是有一些限制的，这些限制条件显然是设计变量的函数，一般称之为优化设计问题的约束条件或约束函数。
五种最优化方法
五种最优化方法1. 最优化方法概述1.1最优化问题的分类1）无约束和有约束条件；2）确定性和随机性最优问题（变量是否确定）；3）线性优化与非线性优化（目标函数和约束条件是否线性）；4）静态规划和动态规划（解是否随时间变化）。
1.2最优化问题的一般形式（有约束条件）：式中f(X)称为目标函数(或求它的极小，或求它的极大)，si(X)称为不等式约束，hj(X)称为等式约束。
化过程就是优选X，使目标函数达到最优值。
2.牛顿法2.1简介1）解决的是无约束非线性规划问题；2）是求解函数极值的一种方法；3）是一种函数逼近法。
2.2 原理和步骤3. 最速下降法（梯度法）3.1最速下降法简介1）解决的是无约束非线性规划问题；2）是求解函数极值的一种方法；3）沿函数在该点处目标函数下降最快的方向作为搜索方向；3.2 最速下降法算法原理和步骤4. 模式搜索法(步长加速法)4.1 简介1）解决的是无约束非线性规划问题；2）不需要求目标函数的导数，所以在解决不可导的函数或者求导异常麻烦的函数的优化问题时非常有效。
3）模式搜索法每一次迭代都是交替进行轴向移动和模式移动。
轴向移动的目的是探测有利的下降方向，而模式移动的目的则是沿着有利方向加速移动。
4.2模式搜索法步骤5.评价函数法5.1 简介评价函数法是求解多目标优化问题中的一种主要方法。
在许多实际问题中，衡量一个方案的好坏标准往往不止一个，多目标最优化的数学描述如下：min (f_1(x),f_2(x),...,f_k(x))s.t. g(x)<=0传统的多目标优化方法本质是将多目标优化中的各分目标函数，经处理或数学变换，转变成一个单目标函数，然后采用单目标优化技术求解。
常用的方法有“线性加权和法”、“极大极小法”、“理想点法”。
选取其中一种线性加权求合法介绍。
5.2 线性加权求合法6. 遗传算法智能优化方法是通过计算机学习和存贮大量的输入-输出模式映射关系，进而达到优化的一种方法，主要有人工神经网络法，遗传算法和模拟退火法等。
最优化方法
最优化方法一、凸集凸集是一种特殊的集合，具有以下的性质：1.对于集合中的任意两个点，它们的连线上的所有点也属于该集合；2.对于集合中的任意两个点，连接它们的线段上的所有点也属于该集合。
凸集在最优化问题中具有许多重要的性质，例如：1.如果一个函数定义在一个凸集上，并且在该凸集上是凸函数，那么该函数的最小值也会在该凸集上取得；2.在最优化问题中，如果问题的约束集是凸集，那么该问题就是一个凸优化问题，可以使用凸优化算法进行求解。
二、凸函数凸函数是一种具有以下性质的函数：1.对于函数定义域中的任意两个点，函数曲线上的点也在这两个点的连线上；2.对于函数定义域中的任意两个点，函数曲线上的点形成的弦的函数值小于或等于这两个点的函数值的平均值。
凸函数在最优化问题中具有许多重要的性质，例如：1.如果一个函数在一个凸集上是凸函数，那么它的局部最小值也是全局最小值；2.凸函数可以使用一些高效的算法进行求解，例如梯度下降算法、牛顿法等。
三、最优化方法1.黄金分割法：通过在区间内不断缩小范围，找到函数的最小值或最大值。
2.梯度下降法：通过计算函数在每个点的梯度，并沿着梯度的负方向更新参数，逐步接近最优解。
3.牛顿法：利用函数的二阶导数信息来逼近函数的最小值或最大值。
4.线性规划：一种将目标函数和约束条件均为线性的最优化问题求解方法。
5.非线性规划：一种将目标函数和约束条件中至少有一个为非线性的最优化问题求解方法。
总结起来，最优化方法是一种用于求解最优化问题的数学和计算机科学技术，凸集和凸函数是最优化方法中的重要概念，它们在最优化问题的分析和求解中具有重要的作用。
使用凸优化方法可以有效地求解具有凸结构的问题，并提高求解效率。
五种最优化方法
五种最优化方法1. 最优化方法概述1.1最优化问题的分类1）无约束和有约束条件；2）确定性和随机性最优问题（变量是否确定）；3）线性优化与非线性优化（目标函数和约束条件是否线性）；4）静态规划和动态规划（解是否随时间变化）。
1.2最优化问题的一般形式（有约束条件）：式中f(X)称为目标函数(或求它的极小，或求它的极大)，si(X)称为不等式约束，hj(X)称为等式约束。
化过程就是优选X，使目标函数达到最优值。
2.牛顿法2.1简介1）解决的是无约束非线性规划问题；2）是求解函数极值的一种方法；3）是一种函数逼近法。
2.2 原理和步骤3. 最速下降法（梯度法）3.1最速下降法简介1）解决的是无约束非线性规划问题；2）是求解函数极值的一种方法；3）沿函数在该点处目标函数下降最快的方向作为搜索方向；3.2 最速下降法算法原理和步骤4. 模式搜索法(步长加速法)4.1 简介1）解决的是无约束非线性规划问题；2）不需要求目标函数的导数，所以在解决不可导的函数或者求导异常麻烦的函数的优化问题时非常有效。
3）模式搜索法每一次迭代都是交替进行轴向移动和模式移动。
轴向移动的目的是探测有利的下降方向，而模式移动的目的则是沿着有利方向加速移动。
4.2模式搜索法步骤5.评价函数法5.1 简介评价函数法是求解多目标优化问题中的一种主要方法。
在许多实际问题中，衡量一个方案的好坏标准往往不止一个，多目标最优化的数学描述如下：min (f_1(x),f_2(x),...,f_k(x))s.t. g(x)<=0传统的多目标优化方法本质是将多目标优化中的各分目标函数，经处理或数学变换，转变成一个单目标函数，然后采用单目标优化技术求解。
常用的方法有“线性加权和法”、“极大极小法”、“理想点法”。
选取其中一种线性加权求合法介绍。
5.2 线性加权求合法6. 遗传算法智能优化方法是通过计算机学习和存贮大量的输入-输出模式映射关系，进而达到优化的一种方法，主要有人工神经网络法，遗传算法和模拟退火法等。
五种最优化方法
五种最优化方法 Prepared on 22 November 2020五种最优化方法1. 最优化方法概述最优化问题的分类1）无约束和有约束条件；2）确定性和随机性最优问题（变量是否确定）；3）线性优化与非线性优化（目标函数和约束条件是否线性）；4）静态规划和动态规划（解是否随时间变化）。
最优化问题的一般形式（有约束条件）：式中f(X)称为目标函数(或求它的极小，或求它的极大)，si(X)称为不等式约束，hj(X)称为等式约束。
化过程就是优选X，使目标函数达到最优值。
2.牛顿法简介1）解决的是无约束非线性规划问题；2）是求解函数极值的一种方法；3）是一种函数逼近法。
原理和步骤3. 最速下降法（梯度法）最速下降法简介1）解决的是无约束非线性规划问题；2）是求解函数极值的一种方法；3）沿函数在该点处目标函数下降最快的方向作为搜索方向；最速下降法算法原理和步骤4. 模式搜索法(步长加速法)简介1）解决的是无约束非线性规划问题；2）不需要求目标函数的导数，所以在解决不可导的函数或者求导异常麻烦的函数的优化问题时非常有效。
3）模式搜索法每一次迭代都是交替进行轴向移动和模式移动。
轴向移动的目的是探测有利的下降方向，而模式移动的目的则是沿着有利方向加速移动。
模式搜索法步骤5.评价函数法简介评价函数法是求解多目标优化问题中的一种主要方法。
在许多实际问题中，衡量一个方案的好坏标准往往不止一个，多目标最优化的数学描述如下：min (f_1(x),f_2(x),...,f_k(x)). g(x)<=0传统的多目标优化方法本质是将多目标优化中的各分目标函数，经处理或数学变换，转变成一个单目标函数，然后采用单目标优化技术求解。
常用的方法有“线性加权和法”、“极大极小法”、“理想点法”。
选取其中一种线性加权求合法介绍。
线性加权求合法6. 遗传算法智能优化方法是通过计算机学习和存贮大量的输入-输出模式映射关系，进而达到优化的一种方法，主要有人工神经网络法，遗传算法和模拟退火法等。
最优化方法求解技巧
最优化方法求解技巧最优化问题是数学领域中的重要课题，其目标是在给定一组约束条件下寻找使目标函数取得最大（或最小）值的变量取值。
解决最优化问题有多种方法，下面将介绍一些常用的最优化方法求解技巧。
1. 直接搜索法：直接搜索法是一种直接计算目标函数值的方法。
它的基本思路是在给定变量范围内，利用迭代计算逐步靠近最优解。
常用的直接搜索法包括格点法和切线法。
- 格点法：格点法将搜索区域均匀划分成若干个小区域，然后对每个小区域内的点进行计算，并选取最优点作为最终解。
格点法的优点是简单易行，但对于复杂的问题，需要大量的计算和迭代，时间复杂度较高。
- 切线法：切线法是一种基于目标函数的一阶导数信息进行搜索的方法。
它的基本思路是沿着目标函数的负梯度方向进行迭代搜索，直到找到最优解为止。
切线法的优点是收敛速度较快，但对于非光滑问题和存在多个局部最优点的问题，容易陷入局部最优。
2. 数学规划法：数学规划法是一种将最优化问题转化为数学模型的方法，然后借助已有的数学工具进行求解。
常用的数学规划法包括线性规划、非线性规划、整数规划等。
- 线性规划：线性规划是一种求解目标函数为线性函数、约束条件为线性等式或线性不等式的优化问题的方法。
常用的线性规划求解技巧包括单纯形法和内点法。
线性规划的优点是求解效率高，稳定性好，但只能处理线性问题。
- 非线性规划：非线性规划是一种求解目标函数为非线性函数、约束条件为非线性等式或非线性不等式的优化问题的方法。
常用的非线性规划求解技巧包括牛顿法、拟牛顿法、遗传算法等。
非线性规划的优点是可以处理更广泛的问题，但由于非线性函数的复杂性，求解过程相对较复杂和耗时。
- 整数规划：整数规划是一种在变量取值为整数的前提下求解优化问题的方法，是线性规划和非线性规划的扩展。
由于整数规划的复杂性，常常利用分支定界法等启发式算法进行求解。
3. 近似法：近似法是一种通过近似的方法求解最优化问题的技巧，常用于处理复杂问题和大规模数据。
最优化方法最详细总结
最优化方法最详细总结下载温馨提示：该文档是我店铺精心编制而成，希望大家下载以后，能够帮助大家解决实际的问题。
文档下载后可定制随意修改，请根据实际需要进行相应的调整和使用，谢谢!并且，本店铺为大家提供各种各样类型的实用资料，如教育随笔、日记赏析、句子摘抄、古诗大全、经典美文、话题作文、工作总结、词语解析、文案摘录、其他资料等等，如想了解不同资料格式和写法，敬请关注!Download tips: This document is carefully compiled by the editor. I hope that after you download them, they can help yousolve practical problems. The document can be customized and modified after downloading, please adjust and use it according to actual needs, thank you!In addition, our shop provides you with various types of practical materials, such as educational essays, diary appreciation, sentence excerpts, ancient poems, classic articles, topic composition, work summary, word parsing, copy excerpts,other materials and so on, want to know different data formats and writing methods, please pay attention!最优化方法在计算机科学和数学领域广泛应用，其目的是寻找问题的最佳解决方案。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
最优化方法结课作业年级数学121班学号201200144209 姓名李强1、几种方法比较无约束优化：不对定义域或值域做任何限制的情况下，求解目标函数的最小值。
这是因为实际应用中，许多情形被抽象为函数形式后均为凸函数，对于凸函数来说局部最小值点即为全局最小值点，因此只要能求得这类函数的一个最小值点，该点一定为全局最小值。
（直接法：又称数值方法，它只需计算目标函数驻点的函数数值，而不是求其倒数，如坐标轮换法，单纯型法等。
间接法：又称解析法，是应用数学极值理论的解析方法。
首先计算出目标函数的一阶或一阶、二阶导数，然后根据梯度及海赛矩阵提供的信息，构造何种算法，从而间接地求出目标函数的最优解，如牛顿法、最速下降法共轭梯度法及变尺度法。
）在优化算法中保证整体收敛的重要方法就是线搜索法与信赖域法,这两种算法既相似又有所不同。
根据不同的线搜索准则就延伸出不同的线搜索算法,譬如比较常见和经典的最速下降法,牛顿法,拟牛顿法以及共辄梯度法等。
一维搜索又称线性搜索(Line Search),就是指单变量函数的最优化,它是多变量函数最优化的基础,是求解无约束非线性规划问题的基本方法之一。
一维搜索技术既可独立的用于求解单变量最优化问题,同时又是求解多变量最优化问题常用的手段,虽然求解单变量最优化问题相对比较简单,但其中也贯穿了求解最优化问题的基本思想。
由于一维搜索的使用频率较高,因此努力提高求解单变量问题算法的计算效率具有重要的实际意义。
在多变量函数的最优化中,迭代格式Xk+1=Xk+akdk其关键就是构造搜索方向dk和步长因子ak设Φ(a)=f(xk+adk)这样从凡出发,沿搜索方向dk,确定步长因子ak,使Φ(a)<Φ(0)的问题就是关于步长因子a 的一维搜索问题。
其主要结构可作如下概括:首先确定包含问题最优解的搜索区间，然后采用某种分割技术或插值方法缩小这个区间，进行搜索求解。
一维搜索通常分为精确的和不精确的两类。
如果求得ak使目标函数沿方向dk达到极小,即使得f (xk+akdk)=min f (xk+ adk) ( a>0)则称这样的一维搜索为最优一维搜索,或精确一维搜索,ak叫最优步长因子;如果选取ak使目标函数f得到可接受的下降量,即使得下降量f (xk)一f (xk+akdk)>0是用户可接受的,则称这样的一维搜索为近似一维搜索,或不精确一维搜索,或可接受一维搜索。
由于在实际计算中,一般做不到精确的一维搜索,实际上也没有必要做到这一点,因为精确的一维搜索需要付出较高的代价,而对加速收敛作用不大,因此花费计算量较少的不精确一维搜索方法受到了广泛的重视和欢迎。
精确一维搜索,作为一种理想的状态,虽然在实际计算中被采用的概率较之不精确一维搜索要小,但有关精确一维搜索技术的研究历史悠久成果相当丰富,方法众多,其理论体系也相对比较完备,对其进行进一步的研究仍有着重要的理论意义和现实意义。
通常我们根据算法中有无使用导数的情况,将精确一维搜索算法分为两大类:一类是不用函数导数的方法,这其中就包括二分法(又称作对分法或中点法)、0.618法(黄金分割脚、Fibonacci法(分数法)、割线法、成功一失败法等;另一类是使用函数导数的方法,包括经典的Newton法、抛物线法以及各种插值类方法等。
（1）在不用导数的方法中,二分法、0.618法(黄金分割法)以及Fibonacci法均是分割方法,其基本思想就是通过取试探点和进行函数值比较,使包含极小点的搜索区间不断缩短,当区间长度缩短到一定程度时,区间上各点的函数值均接近函数的极小值,从而各点均可看作极小点的近似。
分割类方法仅需计算函数值,因此使用的范围较广,尤其适用于非光滑及导数表达式复杂或写不出等情形。
二分法是一种最简单的分割方法,每次迭代都将搜索区间缩短一半,故二分法的收敛速度是线性的,收敛比为0.5,收敛速度较慢。
其优势就是每一步迭代的计算量都相对较小,程序简单,而且总能收敛到一个局部极小点。
黄金分割法是一种针对目标函数是单峰函数亦即目标函数为凸的情形的分割类方法,因其不要求函数可微,且每次迭代只需计算一个函数值,程序简单容易实现而被广泛采用。
由于黄金分割法是以等比例τ=0.618分割缩小区间的,因此它是一种近似最优方法。
针对在实际中遇到的目标函数往往不是单峰函数的情况,HPonfiger(1976)提出了.0618法的改进形式,即在缩小区间时,不只是比较两个内点处的函数值,而是对两内点及其两端点处的函数值进行综合比较,以避免搜索得到的函数值反而比初始区间端点处的函数值大的情况。
经过这样的修改,算法比.0618法要更加可靠。
Fibonacci法是另一种与.0618法相类似的分割类方法,两者的主要区别在于Fibonacci法搜索区间的缩短比率不是采用黄金分割数τ,而是采用Fibonacci数列。
在使用Fibonacci法时,通常是由用户给定最终区间长度的上限,从而确定探索点的个数,逐步进行搜索。
通过对Fibonacci数列进行分析表明,在迭代次数n趋于无穷的情形。
Fibonacci法与.0618法的区间缩短率相同,因而Fibonacci法的收敛速度也是线性的,收敛比也是黄金分割数τ。
可以证明,Fibonacci法是分割方法求解一维极小化问题的最优策略,而0.618法只是近似最优的,但因0.618法不必预先知道探索点的个数,程序实现更加容易,因而应用也更加广泛。
抛物线法也可称作三点二次插值法,其基本思想与下面要叙述的牛顿法相同,也是用二次函数近似目标函数,并以其极小点去近似目标函数的极小点,不同之处是牛顿法是利用目标函数fx()在x0处的二阶Tyalor展式来逼近f(x),而抛物线法则是利用目标函数fx()在三个点x0,xl,xZ处的函数值构造一个二次函数作为其近似。
一般地,抛物线法并不能保证算法一定收敛,在迭代过程中有可能会出现相邻迭代点xk，xk+1充分接近且xk+1并非函数近似极小点的退化情况。
但在己知迭代点列收敛到目标函数极小点的情况,可以证明:在一定的条件下,抛物线法是超线性收敛的,收敛的阶约为1.3。
割线法与分割法类似,也是通过取试探点和进行函数值比较,使包含所求点的搜索区间缩小,但试探点的取法与分割法不同,它是选取连接两个端点的线段与横轴的交点作为试探点。
割线法不能保证每次都使搜索区间缩小一定的比例,因而不具有全局线性收敛性,但是它却利用了函数的一些性质。
在函数接近线性时,它是非常快的。
如果函数本身是线性函数时,它可以一步找到解。
(ii)一般地,使用导数的方法通常包括牛顿法、插值法等,其中插值法又有一点二次插值法(牛顿法)、二点二次插值法)、三点二次插值法以及三次插值法、有理插植法等常用方法。
求一维无约束极小化问题的牛顿法是从计算方法中方程求根的牛顿法演化而来的,其基本思想是用目标函数f (x)在己知点x0处的二阶Tylor展式g (x)来近似代替目标函数,用g (x)的极小点作为f (x)的近似极小点,迭代公式是牛顿法的优点是收敛速度快,具有局部二阶收敛速度;缺点是要在每个迭代点处计算函数的二阶导数值,增加了每次迭代的工作量,而且它要求迭代初始点要选的好,也就是说初始点不能离极小值太远,在极小点未知的情况下,做到这一点是很困难的,这就限制了算法的应用范围,导致算法不实用。
事实上,牛顿法也是插值类方法的一种。
插值法是一类重要的一维搜索方法,其基本思想是在搜索区间内不断用低次(通常不超过三次)多项式来逼近目标函数,并用插值多项式的极小点去近似目标函数的极小点。
实践表明,在目标函数具有较好的解析性质时,插值方法比直接方法(如.0618或Fibonacci法)效果更好。
所谓不精确一维搜索方法是指应用各种可接受的步长选择律的线性搜索方法。
常用的不精确一维搜索算法包括利用简单准则的后退方法、经典的Armijo-Goldstein方法、Wolfe-Powell 方法和强Wolfe-Powell方法、以及其后发展起来的利用Curry-Altman步长律、改进的Curry-Altman步长律、Danilin-Pshenichuyi步长律、De Leone-Grippo步长律、Backtracking步长律等的各种方法坐标轮换法：可靠性较高，算法效率太低，操作方便，一般只用于低维问题，n<10 鲍威尔法：可靠性高，算法效率较高，操作较复杂，一般适用于n<10~20的问题梯度法：可靠性较高，算法效率低，操作方便用于低维、低精度的问题。
牛顿法：可靠性低，算法效率高，操作不方便，很少用。
变尺度法：可靠性高(BFGS比DFP更高)，算法效率高,使用较复杂,适用于高维问题2、牛顿法如前面所提到的，最速下降法在最初几步迭代中函数值下降很快外，总的说来下降的并不快，且愈接近极值点下降的愈慢。
因此，应寻找使目标函数下降更快的方法。
牛顿法就是一种收敛很快的方法，其基本思路是利用二次曲线来逐点近似原目标函数，以二次曲线的极小值点来近似原目标函数的极小值点并逐渐逼近改点。
一维目标函数()f x 在()k x 点逼近用的二次曲线（即泰勒二次多项式）为()()()()()()21()()()()()()2k k k k k k x f x f x x x f x x x ϕ'''=+-+- 此二次函数的极小点可由()()0k xϕ'=求得。
对于n 维问题，n 为目标函数()f X 在()k X点逼近用的二次曲线为：()()()()()2()()1()()().[][].().[]2k k k k k T k k X f x f X X X X X f X X X ϕ⎡⎤=+∇-+-∇-⎣⎦令式中的Hessian 2()()()()k k f XH X ∇=，则上式可改写为：()()()()()()()1()()().[][].().[]2()k k k k k T k k X f x f X X X X X H X X X f X ϕ⎡⎤=+∇-+--⎣⎦≈当()0X ϕ∇=时可求得二次曲线()X ϕ的极值点，且当且仅当改点处的Hessian 矩阵为正定时有极小值点。
由上式得：()()()()()()[]k k k X f X H X X X ϕ∇=∇+-令()0X ϕ∇=，则()()()()()[]0k k k f X H X X X ∇+-=若()()k H X为可逆矩阵，将上式等号两边左乘1()()k H X -⎡⎤⎣⎦，则得1()()()()()[]0k k k n H X f X I X X -⎡⎤∇+-=⎣⎦整理后得1()()()()()k k k X XH X f X -⎡⎤=-∇⎣⎦当目标函数()f X 是二次函数时，牛顿法变得极为简单、有效，这时()()k H X 是一个常数矩阵，式()()()()()()()1()()().[][].().[]2()k k k k k T k k X f x f X X X X X H X X X f X ϕ⎡⎤=+∇-+--⎣⎦≈变成精确表达式，而利用式1()()()()()k k k X X H X f X -⎡⎤=-∇⎣⎦作一次迭代计算所得的X 就是最优点*X 。