一种新的Wolfe线搜索技术及全局收敛性
一类Wolfe搜索下的共轭梯度法及其全局收敛性
董 晓亮， 李郴 良， 清干 唐
ＤＯＮＧ ａ —ｉｎ Ｌ ｅ — ａ ｇ ＴＡＮＧ ｎ — ａ Ｘｉｏ ｌ ｇ， ＩＣｈ ｎ ｌ ｎ ， ａ ｉ Ｑｉ ｇ ｇ ｎ （ 桂林 电子科 技大学 计算 科学 与数学 系 ， 广西桂 林
＾ 』 ＿ ＝ ＜ 【 １ － １
一
ｇ ＋ 一 ｄ 一 ， ｌ ｌｋ≥ ２ ，
‘ （ ２ ） Ｊ
１ 预 备 知 识
在 构 造共 轭 梯度 法 时 ， 常 步 长 ａ 满 足 所谓 的 通 ｋ Ｗｏ ｅ 件 ： ｌ条 ｆ
ｆ（ ｘ ）一 ｆ ｘ ＋ ａ （ ｋ ）≥ 一 ｐｋｒ ｄ ａ ｋ ， ｇｄ ａ ｒ ｇ（ ａｄ ）ｄ ≤ ０ ｇｄ ≤ ｘ ＋ ｋ ， （） ４ （） ５
维普资讯
广 西科学 Ｇｕｎ ｘ Ｓ ｉ ｃｓ２ ０ １ （ ） ４ ＂ ４ ａ ｇ ｉ ｃ ｎ ｅ ０ ７ ４ １ ：４－ ６ ｅ －
一
类 Ｗ０ｆ 搜 索 下 的 共轭 梯 度 法 及 其全 局 收 敛 性 ｌｅ
．
Ｇｌ ｂ ｌ ａ Ｃｏ ｖ ｒ ｅ ｃ ｆｒ ａ Ｃ ｓｏ ｏ ｊｇ ｔ’ ｒ ｄｅ ｔ ｏ ｎ ｅ ｇ ｎ ｅ ｏ ｌｓ ｆＣ ｎ ｕ ａｅ Ｇ ａ ｉ ａ ｎ
ｆ（ 。 ） ｘ ） 有界 ；
． 另外 ，
收敛性 ， 全局 收敛性 也不 能得 到保证 Ｌ． ３ 近来 ， 献 ［ ］ 文 ４
～
８ 对 ＨＳ公式 就公 式 的修 正 以及 全局 收 敛性 等方 ］
面 做 了新 探 索． 文 在 上 述文 献 的基 础 上 ， 合 ＨＳ 本 结
ｃ ｎ ｔｏ ｏ ｄｉｉｎ
共轭 梯度 法是 求 解无 约束 优 化 问题 ｍｉｆ ｘ ｎ （ ）的
Wolfe线搜索下新的共轭梯度法的全局收敛性
（ｐ ｌ ｄＳｉ ｃ ｃｏｌ Ｓ ｅｉ ， ｅ ｇ １０ ８ ，Ｃ ｉ ） Ａ ｐ￣ ｃ ｎｅＳｈ ｏ，Ｕ ＴＢ ｉｎ Ｂ ｎ ０ ０ ３ ｈｎ ｅ ｊｇ ａ Ａ ｓｒｃ ： ｏｊｇｔ ｇａｉ ｔ ｅ ｏ ｔｏ ｒ ｏ ｉ ｏｌ ｅｒ ｐｉ ｚｔ ｎｐｏｌ ．Ｉ ｔｉ ｐｐ ｒ ｌ ｓ ｂ ｔ ｔＣ ｎ ａ ｒｄｅ ｔ ｄｉ ａ ｈｄｆ ｌ ｎ ｎｎｉ ａ ｔ ａ ｏ ｒｂｅ ａ ｕ ｅ ｎ ｍ ｈ ｓ ｍｅ ｏｓｖ ｇ ｎ ｏ ｍｉ ｉ ｍｓ ｎ ｈｓ ａ ｅ ａｃａ ｓ
Ｇｌｂ ｌ ｏ ｖ ｒｅ ｃ ｆ ｅ Ｋｎ ｆＣ ｎｕ ａｅＧｒｄｅ ｔ ａ ｎ ｅｇ ｎ ｅｏ Ｋ ｗ ｉｄｏ ｏ ｊｇ ｔ ｉｎ ｏ Ｃ ａ ａ
Ｍ ｅ ｈ ｔ ｏｌ ｎｅ Ｓｅ ｃ ｔ ｏｄ ｗｉ Ｗ ｆ Ｌｉ ａｒ ｈ ｈ ｅ
ＧＡ ｉ Ｏ Ｌ ，ＸＩ ｉ－ ｎ Ｅ Ｔ ｅｊ ｕ
（） ５
其 中 ， 为参数 。因为精 确线 搜索确 定 的步长 满足 正交条 件 ｇ ｘ ａ ｄ ） ｄ ＝ （ ＋ ｋ ０ 所以， 当采 用精 确 线搜索 时得 到 ＝ ， 卢 故方 法 （ ） （ ） （ ） ２ 、 ３ 和 ５ 是共 轭 梯度 法 。 在 式 （ ） ５ 中取 ＝１ ，
维普资讯
第１ ７卷
第１ 期
运 筹 与 管 理
０Ｐ ＥＲＡＴ１ ０ＮＳ ＲＥＳ ＥＡＲＣＨ ＡＮＤ ＡＮＡＧＥＭ ＥＮＴ Ｍ ＳＣＩ ＥＮＣＥ
Ｖｏ ． ７ ， ． １ １ Ｎｏ １
２０ ０ ８年 ２月
Ｆ ｂ． ０ ｅ ２ ０８
ｏ ｅ ｏｊ ｇ ｔ ａ ｉｎ ｔｏ ｓａｅｐ ｅｅ ｔｄ ｉ ｈｃ ｈ ｌｂ ｏ ｖ ｒｅ ｃ ｔ ｅ ｅａｉｅ ｌ ｉｅ ｆｎ ｗ ｃ ｎｕ ａｅｇ ｄｅ ｔｍｅｈ ｄ ｒ ｒｓｎｅ ，ｗ ｔ ｗ ｉｈ ｔｅｇｏ ａ ｃ ｎ ｅｇ ｎ ｅｗｉ ｇ ｎ ｒｌ ｄ Ｗｏｆ ｌ ｒ ｈ ｌ ｈ ｚ ｅ ｎ
Wolfe线搜索下的一类新的共轭梯度法
定理 １ 假设条件 （ ） Ｈ 成立 ， ‘ ｝ ｛ 是由算法 １ ’
作者简介 ： 张雅琴 （９９ ， ， 师 ， ， １６ 一）女 讲 硕士 主要研究方 向为最优化理论与方法 。
太
原
科
技
大
学
学
报
２１ ０ ０生
产生 的序列 ， 如果对任 何 ｋ 均பைடு நூலகம் ｇ ｘ ）≠ ０ （ ’ ，
得到一个新的共轭梯度法 ， 并在 Ｗｏ ｅ ｌ 线搜索 ｆ 下证明了此共轭梯度法的收敛性。 ｗ０ ｅ ｌ 线搜索要求步长 满足 ： ｆ
厂 ’ 厂 ‘ ＋ａ ｄ ）≥ 一 （ ）一 （ ｋ‘ ’
则
‘ ’停 ； “ 否则 ， Ｓ ｐ ； 转 ｔ ｅ６ Ｓｅ 令 ｄ“ ＝一 （ ‘ ）＋ ＋ ‘ 其中 ｔ ６ ｐ ‘ ｇ １ ¨， ｄ
行研究 。 ｇ ｘ ） ＝ Ｖ 戈 记 （‘ ’ ‘ ， 共 轭 梯 度法 ） 则 的计算 公 式为 ：
（ ）＝ （ ｄ ’＋ （ ’ （） １
１ 假设 与算 法
对 目 函数 ） 标 作如下假设（ ） Ｈ ： （）目标函数 ） Ｉ 在水平集 ￡ ｏ）＝｛ ∈ （（ ’ 引
）≤ ‘ ） 有 界 ； 。 ｝ ’
（Ｉ Ｉ）目标 函数 厂 ） （ 在水 平集 Ｌ ）内连续 可 （
微， 且其梯度 ｇ ｘ （）满足 Ｌｓｃｉ 条件 ， ｉ ｈｔ ｐ ｚ 即存在常数 Ｍ ＞０ 使得 ｌ （）一 （ ）Ｉ≤ Ｍ ｝ 一 ， ｘ ， Ｉ ｘ ｇＹ Ｊ ｇ Ｊ ＹＩ Ｖ ， Ｊ
参数 ＋ 满足 （ ） ， ｋ＝ｋ＋１转 Ｓｅ ． ， ３ 式 令 ， ｔ ３ ｐ
ｇ ｘ （‘ ’＋ｃｄ ’ ‘ ｔ ）ｄ ｋ ’≥ ｏ （ ‘ ）ｄ ＇ ｘ ‘ ｇ ’ ’
Matlab学习手记——线搜索Wolfe准则
Matlab学习手记——线搜索Wolfe准则线是数值最优化算法中常用的一种方法，用于确定在给定方向上的最优步长。
Wolfe准则是一种经典的线准则，旨在保证策略能够在每一步都保持收敛性质，并且避免过大或过小的步长。
在Matlab中，我们可以利用内置函数和自定义函数来实现线Wolfe准则。
首先，我们需要定义一个目标函数和它的梯度函数。
例如，我们以Rosenbrock函数为例：```matlabfunction [value, gradient] = rosenbrock(x)value = 100*(x(2)-x(1)^2)^2 + (1-x(1))^2;if nargout > 1gradient = [-400*x(1)*(x(2)-x(1)^2)-2*(1-x(1)); 200*(x(2)-x(1)^2)];endend```其中，`x`是一个二维向量。
该函数计算了Rosenbrock函数的值和梯度。
接下来，我们可以定义一个函数来实现线Wolfe准则。
具体来说，我们需要实现Armijo准则和曲率条件。
以下是一个可能的实现：```matlabfunction [alpha, value] = line_search_wolfe(f, x, p, c1, c2, max_iter, alpha_max)alpha = alpha_max;[f0, gradient0] = f(x);value = f0;for iter = 1:max_iter[f_alpha, gradient_alpha] = f(x + alpha*p);if f_alpha > f0 + c1*alpha*gradient0'*p ， (iter > 1 &&f_alpha >= f_alpha0)alpha = zoom(f, x, p, c1, c2, alpha0, alpha);return;endif abs(gradient_alpha'*p) <= -c2*gradient0'*preturn;endif gradient_alpha'*p >= 0alpha = zoom(f, x, p, c1, c2, alpha, alpha0);return;endalpha0 = alpha;f_alpha0 = f_alpha;alpha = min(2*alpha, alpha_max);endendfunction alpha = zoom(f, x, p, c1, c2, alpha_lo, alpha_hi) while truealpha = (alpha_lo + alpha_hi)/2;[f_alpha, gradient_alpha] = f(x + alpha*p);f_lo = f(x + alpha_lo*p);if f_alpha > f_lo + c1*alpha*(gradient_alpha'*p) ，f_alpha >= f_alpha_loalpha_hi = alpha;elseif abs(gradient_alpha'*p) <= -c2*(gradient_lo'*p)break;endif gradient_alpha'*p*(alpha_hi - alpha_lo) >= 0alpha_hi = alpha_lo;endalpha_lo = alpha;f_alpha_lo = f_alpha;endendend```该函数接受一个目标函数和它的参数 `x` 和方向 `p`。
强wolfe准则
强Wolfe准则什么是强Wolfe准则？强Wolfe准则，也被称为强Wolfe-Powell准则，是数学优化中的一种准则，用于确定线搜索算法中的步长。
在优化问题中，我们常常需要通过迭代来寻找函数的最小值或最大值。
线搜索算法是一种常用的迭代方法，其中强Wolfe准则被广泛应用。
线搜索算法线搜索算法的目标是在每次迭代中找到一个合适的步长，在目标函数下降最快的方向上更新当前解。
这个步长通常通过满足一定条件来确定。
强Wolfe准则的定义强Wolfe准则给出了线搜索算法中步长选择的条件。
对于给定的目标函数和搜索方向，强Wolfe准则要求满足以下两个条件：1.曲率条件：目标函数在新解处有足够下降。
2.阻尼条件：新解相对于当前解具有足够小的梯度。
具体来说，假设f(x)是我们要优化的目标函数，g(x)是f(x)关于x的梯度向量（即导数），α是步长。
曲率条件可以表示为：f(x+αp)≤f(x)+c1αg T(x)p其中，p是搜索方向向量，c1是一个介于0和1之间的常数，用于控制下降程度。
这个条件确保了新解相对于当前解有足够的下降。
阻尼条件可以表示为：|g T(x+αp)p|≤c2|g T(x)p|其中，c2是另一个介于c1和1之间的常数，用于控制梯度变化。
这个条件确保了新解相对于当前解具有足够小的梯度。
强Wolfe准则要求同时满足曲率条件和阻尼条件。
强Wolfe准则的应用强Wolfe准则在优化算法中被广泛应用。
通过选择合适的步长，我们可以加快优化过程，并且能够更好地收敛到最优解。
在实际应用中，我们通常使用线搜索算法来满足强Wolfe准则。
一种常见的线搜索算法是回溯线搜索（backtracking line search）。
该算法通过不断缩小步长来找到满足强Wolfe准则的最佳步长。
回溯线搜索首先选择一个初始步长，并计算目标函数在新解处的值。
如果曲率条件不满足，则将步长缩小一定比例（通常是减半），并重新计算目标函数的值。
4 Frank-Wolfe方法
基本原理
Frank-Wolfe方法 方法
最优步长
(2) 确定一维搜索步长
Frank-Wolfe方法 方法 Step1 Step2
算法步骤
Step3 Step4
Frank-Wolfe方法 方法
举例
第一次迭代： 第一次迭代：
举例
Frank-Wolfe方法 方法
第二次迭代： 第二次迭代：
举例
Frank-Wolfe方法 方法
frankwolfe全局收敛性分析frankwolfe算法是一种可行方向法在每次迭代中搜索方向总是指向某个极点并且当迭代点接近最优解时搜索方向与目标函数的梯度趋于正交因此算法收敛速度比较慢
简介
Frank-Wolfe方法 方法
1956年，Frank 和Wo1fe提出了一种求解线性约束问题的算 年 提出了一种求解线性约束问题的算 其基本思想是将目标函数作线性近似， 法，其基本思想是将目标函数作线性近似，通过求解线性规 划求得可行下降方向,并沿该方向在可行域内作一维搜索 并沿该方向在可行域内作一维搜索. 划求得可行下降方向 并沿该方向在可行域内作一维搜索 这种方法又称作近似线性化方法.
Байду номын сангаас第三次迭代： 第三次迭代：
y2
.
Frank-Wolfe方法 方法
全局收敛性分析
特点
Frank-Wolfe算法是一种可行方向法，在每次迭代中， 算法是一种可行方向法，在每次迭代中， 算法是一种可行方向法 搜索方向总是指向某个极点，并且当迭代点接近最优解时， 搜索方向总是指向某个极点，并且当迭代点接近最优解时， 搜索方向与目标函数的梯度趋于正交， 搜索方向与目标函数的梯度趋于正交，因此算法收敛速度 比较慢. 比较慢 但该方法把求解非线性最优化问题转化为为求解一 系列线性规划问题，而且各线性规划具有相同的约束条件， 系列线性规划问题，而且各线性规划具有相同的约束条件， 因而该方法在实际应用中仍然是一种有用的算法． 因而该方法在实际应用中仍然是一种有用的算法．
推广的Wolfe型线性搜索下的广义拟牛顿法及全局收敛性Matlab程序实现
function [x,val,k]=TG_Wolfe(fun,gfun,x0)%功能：用推广的Wolfe线性搜索算法步长求解无约束问题：minf(x) %输入：x0是初始点，fun，gfun分别是目标函数及其梯度%输出：x，val分别是近似最优点和最优值，k是迭代次数maxk=1e3;%给出最大迭代次数lamida=0.45;sigma1=0.6;sigma2=0.8;phi=0.45;theta=0;%固定参数k=0;n=length(x0);epsilon=1e-5;Bk=eye(n);while(k<maxk)gk=feval(gfun,x0);%计算梯度if norm(gk)<epsilonbreak;end;dk=-Bk\gk;alpha=1;a=0;b=inf;while(1) %推广的Wolfe准则搜索求步长fk=feval(fun,x0);fk1=feval(fun,x0+alpha*dk);gk1=feval(gfun,x0+alpha*dk);if ~(fk1-fk<=lamida*alpha*gk'*dk)b=alpha;alpha=(alpha+a)/2;continue;endif ~(gk1'*dk>=sigma1*gk'*dk&&gk1'*dk<=-sigma2*gk'*dk) a=alpha;alpha=min([2*alpha,(b+alpha)/2]);continue;endbreak;endx=x0+alpha*dk;sk=x-x0;yk=feval(gfun,x)-gk;Rk=fk1-fk-gk'*sk;Qk=theta*sk'*yk+2*(1-theta)*Rk;Zk=sk/(sk'*sk)-Bk*sk/(sk'*Bk*sk);Bk=Bk-(Bk*sk*sk'*Bk)/(sk'*Bk*sk)+(Qk*sk*sk')/(sk'*sk)^2+...+phi*(sk'*Bk*sk)*Zk*Zk';x0=xk=k+1val=feval('fun',x0)end然后，根据相应的实例，建立目标函数文件fun.m和梯度文件gfun.m.。
离散灰狼优化算法-概述说明以及解释
离散灰狼优化算法-概述说明以及解释1.引言1.1 概述概述部分的内容：离散灰狼优化算法(Discrete Grey Wolf Optimization, DGWO) 是近年来新兴的一种智能优化算法，它是基于灰狼群体行为的智能搜索算法。
该算法通过模拟灰狼群体的求生行为，从而寻找最优解。
与传统的优化算法相比，离散灰狼优化算法具有较强的全局搜索能力和快速收敛速度，并且适用于求解离散型问题。
灰狼是一种社会性动物，具有高度的合作意识和自组织能力。
离散灰狼优化算法借鉴了灰狼群体中个体之间的合作和竞争方式，并通过启发式的搜索策略，在解空间中寻找最优解。
该算法的基本思想是通过模拟灰狼群体的寻食行为，将问题转化为一个个体和群体之间的协同寻优过程。
离散灰狼优化算法的应用领域非常广泛，包括工程优化、机器学习、数据挖掘等领域。
在工程优化中，它可以用于参数优化、布局优化、路径规划等问题。
在机器学习和数据挖掘中，它可以用于特征选择、聚类分析、神经网络优化等任务。
由于离散灰狼优化算法具有较强的全局搜索能力和快速收敛速度，因此在实际问题中得到了广泛的应用和研究。
然而，离散灰狼优化算法也存在一些局限性。
首先，该算法在处理大规模问题时可能面临搜索空间过大的挑战，导致计算复杂度增加。
其次，算法的参数设置对算法性能具有较大影响，需要进行针对性调整。
此外，离散灰狼优化算法的局部搜索能力相对较弱，可能会陷入局部最优解。
综上所述，离散灰狼优化算法作为一种智能优化算法，具有较强的全局搜索能力和快速收敛速度，适用于离散型问题的求解。
它在工程优化、机器学习、数据挖掘等领域具有广泛的应用前景。
然而，为了进一步提高算法的性能，还需要进行参数调优和改进算法的局部搜索能力。
未来的研究可以尝试结合其他优化算法，进一步提高离散灰狼优化算法的性能，并探索其在更广泛领域的应用。
1.2文章结构1.2 文章结构本文将按照以下结构进行介绍离散灰狼优化算法：1. 引言：首先介绍离散灰狼优化算法的背景和意义，以及文章的目的和重要性。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第 ２ 卷 第 １期 ８ ２０ 年 ２ ０８ 月
桂 林 电 子 科 技 大 学 学 报
Ｊ ｕ ｎ ｌｏ ｉｉ ｉｅｓｔ ｆＥｌｃ ｒ ｎ ｃＴｅ ｈ ｌｇ ｏ ｒ ａ ｆＧｕ ｌ Ｕｎ ｖ ｒｉｙ ｏ ｅ ｔｏ ｉ ｃ ｎｏｏ ｙ ｎ
Ｗａ ｒ ｖ ｄ ｗｉｈ ａ ｅ ａ ｔｌ ｅ ｓ ａ ｃ ｆＷ ｏ ｆ ．Ｎｕ ｒｃ ｌ ｘ ｅ ｉ ｎ ｓｄ ｍｏ ｓ ｒ ｔ ｄ ｔ ｅ ｅ ｆ ｃ ｉ ｅ ｅ ｓ ｏ ｈ ｅ Ｓ ｐ ｏ ｅ ｔ ｎ ｉ ｘ ｃ ｉ ｅ ｒ ｈ ｏ ｌｅ ｎ ｎ ｍｅ ｉａ ｐ ｒｍｅ ｔ ｅ ｎ ｔ ａ ｅ ｈ ｆｅ ｔｖ ｎ ｓ ｆｔ ｅ ｎ ｗ ｅ ｌ ｅｓ ａ ｃ ． ｉ ｅ ｒ ｈ ｎ
Ｖｏ ． ８， ． １ ２ Ｎｏ １ Ｆｅ ． ０ ８ ｂ ２０
一
种新 的 Ｗｏｆ 线搜 索技术 及全 局收敛性 ｌ ｅ
房 明 磊 ，张 聪 ，陈 风 华
（． １ 桂林 电子科技 大学 数 学与计 算科学学院 ， 广西 桂 林
２ 安 徽 理 工 大 学 理 学院 ， 徽 淮 南 ． 安 ２２０） ３ ０ １
（） ２
ｋ＝ １
＋ ａｄ ｋ
一
Ｆ ｅｃ ｅ— ｅ ｖｓ方 法 具 有 全 局 收 敛 性 ， 是 Ｐ ｗ ｌ ｌｔｈ ｒＲ ｅ ｅ 但 ｏ ｅｌ
ｄ ｉｇ 一 ≥ ， ｋ — 愚 ２ — ＋
其 中 ｇ＝Ｖｆ ｘ） ｄ 为下 降方 向 ＞Ｏ为步 长 由某 （ ， 种 线搜 索 确定 ， 是 一 个 参数 ， 轭 梯度 法 的 关键 就 共
是 和 的选取 。 常用的 公 式有 如下 几 种 ：
、
在文献 Ｅ－ ｚ 中指 出， Ｉ 即使用精确线搜索 Ｐ ｌ — ｉｉ ｒ ｏ ｋＲｂ ｅ ａ ￣
方 法 也不 会有 全局 收敛 性 ， 此方 法 在数 值 计算 中有 但 很好 的表 现 ， 由此 就考虑 能 否把 方法 的 良好 数值 表现
Ｋｅ ｒ ｓ ｉｅ ａ ｔｌ ｅ ｓ ａｃ Ｗ ｏｆ ｙ ｗｏ ｄ ： ｘ ｃ ｉ ｅ ｒｈ； ｎ ｎ ｌｅ；ｃ ｎｕ ａ ｅｇ ａ ｉｎ ｔ ｏ ｏ ｊ ｇ ｔ ｒ ｄｅ ｔｍｅ ｈ ｄ；ｇｏ ａ ｏ ｖ ｒ ｅ ｃ ｌｂ ｌ ｎ ｅｇ ｎ ｅ ｃ
１ 问题 的提 出
考虑无 约 束优 化 问题 ： ｎ （ ）ｚ∈ Ｒ ， （ ） ｍｉｆ ｘ ， １ 其 中厂： 一 Ｒ连 续可 微 的 函数 。求 解 问题 （） １的共 轭 梯度 法 的迭代 公式 为
２ ｏ ｌｇ ｆ ｉｎ ｅ ．Ｃ ｌ ｅｏ ｅ ｃ ，Ａｎ ｕ ｉｅ ｓｔ ｆ ｉｎ ｅ ａ ｄ Ｔｅ ｈ ｏ ｏ ｙ ｅ ｃ Ｓ ｈｉ Ｕｎｖ ｒｉ ｏ ｅ ｃ ｎ ｃ ｎ ｌ ｇ ，Ｈｕ ｉａ ３ ０ １ ｙ ｃ Ｓ ａｎ ｎ ２ ２ ０ ，Ｃｈｎ ） ｉ ａ
Ａｂ ｔａ ｔＣ ｎｕ ａｅ ｒ ｄｅ ｔ ｔｏ ｍｅｈ ｄｆ ｒ ｏｖｎ ｏ ｌ ｅ ｒ ｐ ｉ ｚ ｔ ｎｐ ｏ ｌｍｓ ｅ ｐ ｃ ｌ ｒ ｅｓ ａ ｓｒ ｃ ： ｏ ｊｇ ｔ ｇ ａ ｉｎ ｈ ｄｉ ａ ｔ ｏ ｌ ｉｇｎ ｎ ｉ ａ ｔ ａｉ ｒ ｂ ｅ ， ｓ ｅ ｉ ｌ ｌ ｇ —ｃ ｌ ｍｅ ｓ ｏ ｓ ｎ ｏ ｍｉ ｏ ａｙａ ｅ ｐ ｏ ｌｍｓ ｎ ｔ ｉ ｐ ｐ ｒａｎ ｗ ｃ ｎ ｕ ａｅｇ ａ ｉ ｔｍｅｈ ｄｆ ｒａ ｎ ｗ ｒ ｂ ｅ ．Ｉ ｈｓ ａ ｅ ｅ ｏ ｊｇ ｔ ｒ ｄ ｎ ｔ ｏ ｅ ｅ ｏ ｗａ ｒｐ ｓｄ ａ ｄ ｔ ｅ ｇｏ ａ ｏ ｖ ｒ ｅ ｃ ｓｐ ｏ ｏ ｅ ｎ ｈ ｌ ｂ ｌｃ ｎ ｅ ｇ ｎ ｅ
５１０； ４ ０ ４
摘
要： 共轭梯 度法是求解无约束优化 问题 的一种 重要的方法 ， 尤其适用于大规模优化问题 的求解 。通过应用计算
的新公 式求得一种 新的共轭梯 度法 ， 非精 确线性搜 索的 Ｗｏｆ 则下证 明新 的共轭梯度 法的全 局收敛性 ， 在 ｌ ｅ准 并
且数值 实验表 明了这 种线搜索下算法 的有效性 。
＋ 一
ｆ
。一 二 ｌ Ｉ
ｄｋ １ ＿。 一 １
一 ｌ 【 ｌ ｌ ！
ｄｋ ｖ 一１ 一１
其中Ｙ ＝ 一 ＿ห้องสมุดไป่ตู้ｌ Ｉ 。 ｌ・Ｉ 为欧拉范数 。
一
些文 献和 相关 论 文对 的构 造 及算 法 的收 敛
性 做 了 大 量 的 研 究 。在 文 献 ［ ］中 Ａ１ ａｌ证 明 １ 一 ａｉ Ｂ
ＦＡＮ Ｇ ｉ ｇ—ｅ ．ＺＨ ＡＮ Ｇ Ｃｏ ｇ ．ＣＨ ＥＮ ｎ — ｕ Ｍ ｎ ｌｉ ｎ Ｆｅ ｇ ｈ ａ
（ ．Ｓ ｈ ｏ ｆＭ ａ ｈ ｍ ａｉｓａ ｄ Ｃ ｍｐ ｔ ｔ ｎ ｌＳ ｉｎ ｅ Ｇｕ ｌ ｉ ｅ ｓ ｙｏ ｌｃ ｒ ｎｃＴｅ ｈ ｏｏ ｙ， ｕｌ ４ ０ ４， ｉａ １ ｃ ｅ ｌ ｔ ｅ ｔ ｎ ｏ ｕ ａｉ ａ ｃｅ ｃ ， ｉ ｎ Ｕｎｖ ｒ ｉ ｆＥ ｅ ｔｏ ｉ ｃ ｎ ｌ ｇ Ｇ ｉ ｎ ５ １ ０ Ｃｈ ａ ； ｏ ｃ ｏ ｉ ｔ ｉ
关键词 ： 非精确线性搜索 ； ｌ ； Ｗｏｆ 共轭梯度法 ； ｅ 全局收敛性 中图分 类号 ： ２ ０２ ４ 文献标识码 ： Ａ 文章编号 ：１ ７ ．０Ｘ（ ０ ８ ０—０ ３０ ６ ３８ ８ ２ ０ ） １０ ６ —４
Ａ ｅ ｌｎ ｅ ｒ ｈ ｔ ｃ ｎ ｗ ｉ ｅ ｓ ａ ｃ ｅ ｈｎｉ ｕ ｆ Ｗ ｏ ｆ ｎ ｈｅ ｇ ｏ ａ ｏ ｅ ｇ ｎ ｅ ｑ ｅ ｏ ｌ ｅ ａ ｄ ｔ ｌ ｂ ｌｃ ｎｖ ｒ ｅ ｃ