黄金分割法 二次插值 牛顿 matlab 程序一维搜索方法比较

一维搜索方法应用比较

一、黄金分割法

（1）黄金分割法的起源

黄金分割在文艺复兴前后，经过阿拉伯人传入欧洲，受到了欧洲人的欢迎，他们称之为"金法"，17世纪欧洲的一位数学家，甚至称它为"各种算法中最可宝贵的算法"。这种算法在印度称之为"三率法"或"三数法则"，也就是我们现在常说的比例方法。

其实有关"黄金分割"，我国也有记载。虽然没有古希腊的早，但它是我国古代数学家独立创造的，后来传入了印度。经考证。欧洲的比例算法是源于我国而经过印度由阿拉伯传入欧洲的，而不是直接从古希腊传入的。

因为它在造型艺术中具有美学价值，在工艺美术和日用品的长宽设计中，采用这一比值能够引起人们的美感，在实际生活中的应用也非常广泛，建筑物中某些线段的比就科学采用了黄金分割，舞台上的报幕员并不是站在舞台的正中央，而是偏在台上一侧，以站在舞台长度的黄金分割点的位置最美观，声音传播的最好。就连植物界也有采用黄金分割的地方，如果从一棵嫩枝的顶端向下看，就会看到叶子是按照黄金分割的规律排列着的。在很多科学实验中，选取方案常用一种0.618法，即优选法，它可以使我们合理地安排较少的试验次数找到合理的西方和合适的工艺条件。正因为它在建筑、文艺、工农业生产和科学实验中有着广泛而重要的应用，所以人们才珍贵地称它为"黄金分割"。我国数学家华罗庚曾致力于推广优选法中的"0.618法"，把黄金分割应用于生活实际及科学应用中。

黄金分割〔Golden Section〕是一种数学上的比例关系。黄金分割具有严格的比例性、艺术性、和谐性，蕴藏着丰富的美学价值。应用时一般取0.618 ，就像圆周率在应用时取3.14一样。

由于公元前6世纪古希腊的毕达哥拉斯学派研究过正五边形和正十边形的作图，因此现代数学家们推断当时毕达哥拉斯学派已经触及甚至掌握了黄金分割。

公元前4世纪，古希腊数学家欧多克索斯第一个系统研究了这一问题，并建立起比例理论。

公元前300年前后欧几里得撰写《几何原本》时吸收了欧多克索斯的研究成果，进一步系统论述了黄金分割，成为最早的有关黄金分割的论著。

中世纪后，黄金分割被披上神秘的外衣，意大利数家帕乔利称中末比为神圣比例，并专门为此著书立说。德国天文学家开普勒称黄金分割为神圣分割。

到19世纪黄金分割这一名称才逐渐通行。黄金分割数有许多有趣的性质，人类对它的实际应用也很广泛。最著名的例子是优选学中的黄金分割法或0.618法，是由美国数学家基弗于1953年首先提出的，70年代在中国推广。

（2）原理及应用

一维搜索是解函数极小值的方法之一，其解法思想为沿某一已知方向求目标函数的极小值点。一维搜索的解法很多，这里主要采用黄金分割法（0.618法）。该方法用不变的区间缩短率0.618代替斐波那契法每次不同的缩短率，从而可以看成是斐波那契法的近似，实现起来比较容易，也易于人们所接受。

图1 黄金分割法原理图

黄金分割法是用于一元函数f(x)在给定初始区间[a,b]内搜索极小点α*的一种

方法。它是优化计算中的经典算法，以算法简单、收敛速度均匀、效果较好而著称，是许多优化算法的基础，但它只适用于一维区间上的凸函数，即只在单峰区间内才能进行一维寻优，其收敛效率较低。其基本原理是：依照“去劣存优”原则、对称原则、以及等比收缩原则来逐步缩小搜索区间[7]。具体步骤是：在区间[a,b]内取点：a1 ，a2 把[a,b]分为三段。如果f(a1)>f(a2)，令a=a1,a1=a2,a2=a+r*(b-a)；如果f(a1)

二、牛顿法

（1）起源

牛顿法最初由艾萨克·牛顿于1736年在Method of Fluxions 中公开提出。而事实上方法此时已经由Joseph Raphson于1690年在Analysis Aequationum中提出，与牛顿法相关的章节《流数法》在更早的1671年已经完成了。

（2）原理及应用

对于一个函数f(x),它的泰勒级数展开式是这样的

f(x)=f(x0)+f′(x0)(x?x0)+12f′′(x0)(x?x0)2+...+1n!fn(x0)(x?x0)n当使用牛顿法来求一个方程解的时候，它使用泰勒级数前两项来代替这个函数，即用?(x)代替f(x),其中:

?(x)=f(x0)+f′(x0)(x?x0)

令?(x)=0，则x=x0?f(x0)f′(x0)。

所以，牛顿法的迭代公式是xn+1=xn?f(xn)f′(xn)

牛顿法求解n的平方根求解n的平方根，其实是求方程x2?n=0的解利用上面的公式可以得到：xi+1=xi?x2i?n2xi=(xi+nxi)/2编程的时候核心的代码是：x = (x + n/x)/2

三、二次插值法

二次插值法亦是用于一元函数在确定的初始区间内搜索极小点的一种

方法。它属于曲线拟合方法的范畴。

（1）基本原理

在求解一元函数的极小点时，常常利用一个低次插值多项式来逼

近原目标函数，然后求该多项式的极小点(低次多项式的极小点比较容易计算)，并以此作为目标函数的近似极小点。如果其近似的程度尚未达到所要求的精度时，可以反复使用此法，逐次拟合，直到满足给定的精度时为止。

常用的插值多项式为二次或三次多项式，分别称为二次插值法和三次

插值法。这里我们主要介绍二次插值法的计算公式。

假定目标函数在初始搜索区间中有三点、和

，其函数值分别为、和(图2}，且满足，，即满足函数值为两头大中间小的性质。利用这三点及相应的函数值作一条二次曲线，其函数为一个二次多项式，式中、、为待定系数。

图2

根据插值条件，插值函数与原函数在插值结点、、处函数值相等，得

（2）

为求插值多项式的极小点，可令其一阶导数为零，即

（3）

解式(3)即求得插值函数的极小点（4）

式(4)中要确定的系数可在方程组(2)中利用相邻两个方程消去而得:

（5）

（6）

将式(5)、(6)代入式(4)便得插值函数极小值点的计算公式：

（7）

把取作区间内的另一个计算点，比较与两点函数值的大

小，在保持两头大中间小的前提下缩短搜索区间，从而构成新的三点搜索区间，再继续按上述方法进行三点二次插值运算，直到满足规定的精度要求为止，把得到的最后的作为的近似极小值点。上述求极值点的方法称为三点二

次插值法。

为便于计算，可将式(7)改写为

（8）

式中：

（9）

（10）

（2）应用

四、例题应用

（1）黄金分割法

求解y=n*n+2*n的最小值。

程序：

huangjinfenggefa.m

clear

clc

a=-3;b=5;lamda=0.618;epsilon=0.05;i=0; x1=b-lamda*(b-a);

f1=x1*x1+2*x1;

x2=a+lamda*(b-a);

f2=x2*x2+2*x2;

tic

while b-a>=epsilon

if f1>=f2

a=x1;x1=x2;f1=f2;

x2=a+lamda*(b-a);

f2=x2*x2+2*x2;

else

b=x2;x2=x1;

f2=f1;

x1=b-lamda*(b-a);

f1=x1*x1+2*x1;

end

fprintf('右边的区间距离');

disp(b-x2);

fprintf('左边的区间距离');

disp(x1-a);

i=i+1;

X=0.5*(b+a);

min=X*X+2*X;

fprintf('黄金分割法所得最小极值点为：%f\n',X); fprintf('黄金分割法所得最小极值为：%f\n',min); fprintf('迭代次数为：%f\n',i);

end

t=toc

运行结果：

右边的区间距离 1.8880

左边的区间距离 1.8886

黄金分割法所得最小极值点为：-0.528000

黄金分割法所得最小极值为：-0.777216

迭代次数为：1.000000

右边的区间距离 1.1674

左边的区间距离 1.1674

黄金分割法所得最小极值点为：-1.472000

黄金分割法所得最小极值为：-0.777216

迭代次数为：2.000000

右边的区间距离0.7214

左边的区间距离0.7212

黄金分割法所得最小极值点为：-0.888304 黄金分割法所得最小极值为：-0.987524 迭代次数为：3.000000

右边的区间距离0.4459

左边的区间距离0.4459

黄金分割法所得最小极值点为：-1.249028 黄金分割法所得最小极值为：-0.937985 迭代次数为：4.000000

右边的区间距离0.2755

左边的区间距离0.2754

黄金分割法所得最小极值点为：-1.026101 黄金分割法所得最小极值为：-0.999319 迭代次数为：5.000000

右边的区间距离0.1704

左边的区间距离0.1704

黄金分割法所得最小极值点为：-0.888420 黄金分割法所得最小极值为：-0.987550 迭代次数为：6.000000

右边的区间距离0.1052

左边的区间距离0.1053

黄金分割法所得最小极值点为：-0.973595 黄金分割法所得最小极值为：-0.999303 迭代次数为：7.000000

右边的区间距离0.0651

左边的区间距离0.0651

黄金分割法所得最小极值点为：-1.026189 黄金分割法所得最小极值为：-0.999314 迭代次数为：8.000000

右边的区间距离0.0402

左边的区间距离0.0402

黄金分割法所得最小极值点为：-0.993642 黄金分割法所得最小极值为：-0.999960

迭代次数为：9.000000

右边的区间距离0.0249

左边的区间距离0.0249

黄金分割法所得最小极值点为：-1.013756 黄金分割法所得最小极值为：-0.999811

迭代次数为：10.000000

右边的区间距离0.0154

左边的区间距离0.0153

黄金分割法所得最小极值点为：-1.001326 黄金分割法所得最小极值为：-0.999998

迭代次数为：11.000000

t =

0.0630

（3）牛顿法

求解y=n*n+2*n的最小值。

程序：

newton_1.m

function y = newton_1(x0,EPSI)

x(1)=x0;

b=1;

i=1;

while (abs(b)>EPSI)

i=i+1;

x(i)=x(i-1)-df(x(i-1))/df2(x(i-1));

b=x(i)-x(i-1);

fprintf('所得的极小值点为：%f\n',x(i)); end

y=x(i);

fprintf('总共迭代%f次\n',i-1);

end

newton_2.m

clear;

clc;

x0=input('x0=');

EPSI=input('EPSI=');

tic

X=newton_1(x0,EPSI);

t=toc

fprintf('牛顿法所得极小值点为%f\n',X); fprintf('牛顿法所得极小值为%f\n',f(X)); df.m

function y = f(n)

y=n*n+2*n;

end

df2.m

function y = df(n)

y=2*n+2;

end

f.m

function y = df2(n)

y=2;

end

运行结果：

x0=1

EPSI=0.05

所得的极小值点为：-1.000000

所得的极小值点为：-1.000000

总共迭代2.000000次

t =

0.0283

牛顿法所得极小值点为-1.000000

牛顿法所得极小值为-1.000000

（4）二次插值法

求解y=1/4*n^4-2/3*n^3-2*n^2-7*n+8;的最小值

程序：

ercichazhifa.m

clear;

clc;

i=1;

a=input('a=');

b=input('b=');

h=input('h=');

EPSI=input('EPSI=');

a1=a;

a2=(a+b)/2;

a3=b;

y1=f(a1);

y2=f(a2);

y3=f(a3);

c1=(y3-y1)/(a3-a1);

c2=((y2-y1)/(a2-a1)-c1)/(a2-a3);

ap=0.5*(a1+a3-c1/c2);

yp=f(ap);

tic

while abs(yp-y2)>EPSI

if (ap-a2)*h>0

if y2>=yp

a1=a2;

y1=y2;

a2=ap;

y2=yp;

else

a3=ap;

y3=yp;

end

else

if y2>=yp

a3=a2;

y3=y2;

a2=ap;

y2=yp;

else

a1=ap;

y1=yp;

end

end

c1=(y3-y1)/(a3-a1);

c2=((y2-y1)/(a2-a1)-c1)/(a2-a3);

ap=0.5*(a1+a3-c1/c2);

yp=f(ap);

if y2

A=a2;

Y=y2;

else

A=ap;

Y=yp;

end

fprintf('二次插值法所得极值点为%f\n',A); fprintf('二次插值法所得极值为%f\n',Y); fprintf('总共迭代：%f次\n',i);

M(i)=A;

i=i+1;

end

t=toc

N=1:i;

n=1:i;

plot(N,M(i-1));

f.m

function y = f(n)

y=1/4*n^4-2/3*n^3-2*n^2-7*n+8;

end

运行结果：

a=-3

b=5

h=1

EPSI=0.05

二次插值法所得极值点为-1.000000

二次插值法所得极值为-1.000000

总共迭代：1.000000次

t =

0.0133

（5）总结比较

当精度取为0.05时，黄金分割法所得最小极值为：-0.999998，

迭代次数为：11次，t = 0.0630s；牛顿法所得极小值点为-1.000000

总共迭代2.000000次，t =0.0283s；二次插值法所得极值为-1.00000，

总共迭代：1.000000次，t =0.0133s。

当精度取为0.0005时，黄金分割法所得最小极值为：-1.000000，

迭代次数为：21.000000，t =0.0660；牛顿法所得极小值为-1.000000，

总共迭代2.000000次，t =0.0081s;二次插值法所得极值为-1.00000,

总共迭代：1.000000次,t =0.0015s。

通过结果可以发现，在精度比较低的情况下，二次插值法具有优势，迭代次数少，而且花的时间少，其次是牛顿法，最后则是黄金分割法。当精度体高时，仍然是二次插值法具有优势，所迭代的次数比较少，而且用的时间也是最少。虽然黄金分割法比牛顿法的迭代次数多，但是黄金分割法却比牛顿法所用的时间少。

总的来说，二次插值法的程序较为复杂，但是高效，对于二次函数求极值问题有优势。牛顿法因为需要求二阶导数，随着精度大的不断提高，所用的时间也不断增多，而且限制于求解可微函数的极值。黄金分割法相比于其他两种以为搜索方法而言，随着精度的提升，所用时间短的优势便逐渐体现出来。