牛顿-拉夫森(Newton-Raphson)迭代法

§3.4 牛顿迭代法

牛顿迭代法也称为牛顿-拉夫森(Newton-Raphson)迭代法，它是数值分析中最重要的方法之一，它不仅适用于方程或方程组的求解，还常用于微分方程和积分方程求解。 3.4.1 牛顿迭代法

用迭代法解非线性方程时，如何构造迭代函数是非常重要的，那么怎样构造的迭代函数才能保证迭代法收敛呢？牛顿迭代法就是常用的方法之一，其迭代格式的来源大概有以下几种方式：

1设

],[)(2

b a C x f ∈，对)(x f 在点],[0b a x ∈作泰勒展开： !2)

)((''))((')()(2

0000x x f x x x f x f x f -+

-+=ξ

略去二次项，得到)(x f 的线性近似式：)

)((')()(000x x x f x f x f -+≈。

由此得到方程=)(x f 0的近似根(假定≠)('0x f 0)，

)(')(000x f x f x x -=

即可构造出迭代格式(假定≠

)('k x f 0)：

)(')

(1k k k k x f x f x x -

=+ 公式(3.4.1)

这就是牛顿迭代公式，若得到的序列{

k

x }收敛于α，则α就是非线性方程的根。

2 牛顿迭代法也称为牛顿切线法，这是由于)(x f 的线

性化近似函数)(x l ＝)

)((')(000x x x f x f -+是曲线y ＝

)(x f 过点))(,(00x f x 的切线而得名的，求)(x f 的零点代之以求)(x l 的零点，即切线)(x l 与x 轴交点的横坐标，如右图

所示，这就是牛顿切线法的几何解释。实际上，牛顿迭代法

也可以从几何意义上推出。利用牛顿迭代公式，由

k

x 得到

1

+k x ，从几何图形上看，就是过点

))

(,(k k x f x 作函数)(x f 的切线k l ，切线k l 与x 轴的交点就是1+k x

，所以有

1

)()('+-=

k k k k x x x f x f ，整理后也能得出牛顿迭代公式：

)

(')(1k k k k x f x f x x -

=+。

3 要保证迭代法收敛，不管非线性方程=)(x f 0的形式如何，总可以构造：

)()()(x f x k x x x -==? )0)((≠x k

作为方程求解的迭代函数。因为：)(')()()('1)('x f x k x f x k x --=? 而且

)

('x ?在根α附近越小，其局部收敛速度越快，故可令：0)('=α?

若≠)('αf 0(即根α不是=)(x f 0的重根)，则由0)('=α?得：

)('1)(ααf k =

，

因此可令

)('1

)(x f x k =

，则也可以得出迭代公式：

)(')

(1k k k k x f x f x x -

=+。 4 迭代法的基本思想是将方程0)(=x f 改写成等价的迭代形式)(x x ?=，但随之而来的

问题却是迭代公式不一定收敛，或者收敛的速度较慢。运用前述加速技巧，对于简单迭代过程

)

(1n n n x f x x +=+，其加速公式具有形式： θ

θ?--=

+1)(1n

n n x x x )

(111n n n x x x --+

=++θ

θ

，其中)(1n n x x ?=+

记1-=θL ，上面两式可以合并写成：

L

x f x x n n n )(1-

=+

这种迭代公式称作简单的牛顿公式，其相应的迭代函数是：

L x f x x )

()(-

=?。 需要注意的是，由于L 是)('x ?的估计值，若取)()(x f x x +=?，则)('x ?实际上便是

)('x f 的估计值。假设0)('≠x f ，则可以用)('x f 代替上式中的L ，就可得到牛顿法的迭代公式：

)(')

(1n n n n x f x f x x -

=+。 牛顿迭代法实质上是一种线性化方法，其基本思想是将非线性方程逐步归结为某种线性方程来求解。

3.4.2 牛顿迭代法的收敛性

牛顿迭代公式可以看成是由

)(')

()(x f x f x x -

=?而获得的不动点迭代格式。这样就可以应用不动点迭代的收敛原则，只须证明在根α附近的迭代函数是一个压缩映象。由于：

2

2

2

)]

('[)(")()]

('[)

(")()]('[1)('x f x f x f x f x f x f x f x =

--

=?，

这里的根α是单根，即0)(=αf 且0)('≠αf ，于是：0)]('[)

(")()('2

==

αααα?f f f 。

那么由)('x ?的连续性可知，存在一个邻域),(δαδα+-，对这个邻域内的一切x ，有：

q

x <)('?，其中O ＜q ＜1，因此)(x ?为区间),(δαδα+-上的一个压缩映象，于是有以下

结论：

定理 3.4.1 设],[)(2

b a C x f ∈，*x 是0)(=x f 的精确解，且0*)('≠x f ，则存在*

x 的δ邻域)*,*(δδ+-x x ，对于任何迭代初值)*,*(0δδ+-∈x x x ，迭代序列}

{n x 收敛于

*x 。

牛顿迭代法具有较高的收敛速度，它的收敛阶数为p ＝2；而牛顿迭代法的局部收敛性较

强，只有初值充分地接近*x ，才能确保迭代序列的收敛性。为了放宽对局部收敛性的限制，必须再增加条件建立以下收敛的充分条件。

定理 3.4.2 设],[)(2

b a C x f ∈，且满足：在区间],[b a 上， ⑴ 0)()(

⑶ )("x f 不变号；⑷ ],[0b a x ∈，满足条件：0)(")(00>x f x f 则牛顿迭代序列}{n x ，单调地收敛于方程0)(=x f 的唯一解*x 。

由条件⑴至条件⑷可归结为四种情形： ① 0)(b f ，0)('>x f ，0)(">x f ；

② 0)(b f ，0)('>x f ，0)("a f ，0)(x f ；

④ 0)(>a f ，0)(

对定理的几何意义作如下说明：条件⑴保证了根的存在性；条件⑵表明函数单调变化，在区间],[b a 内有惟一的根；条件⑶表示函数图形在区间],[b a 上的凹向不变。条件⑶和条件⑷一起保证了每一次迭代值都界于区间],[b a 内。

在不满足上述收敛充分条件时，有可能导致迭代值远离所求根的情况或死循环的情况(如下图所示)。

【例3.4.1】对于给定的正数a ，用牛顿法建立求平方根的收敛迭代公式。 解 令a x x f -=2

)(，(x ＞0)，则0)(=x f 的正根就是a 。

用牛顿法求解的迭代公式是：)

(2

122

1n

n n

n n n x a x x a x x x +

=

--

=+， 公式(3.4.2)

由于当x ＞0时，x x f 2)('=＞0，2)(''=x f ＞0，故由收敛定理可知，对于任意满足条件a x >0的初始近似值，由选代公式所产生的序列必定收敛于平方根a 。公式(3.4.2)是计算平方根的准确而有效的计算方法。 3.4.3 牛顿迭代法的变形

用牛顿法解方程，虽然在单根附近具有较快的收敛速度，但它有个明显的缺点，就是每次都要计算导数)('x f ，当)(x f 比较复杂时，计算)('x f 可能很困难。下面介绍两种克服这种困难的方法，另外还介绍一种扩大牛顿迭代法初值选择范围的方法，它们统称为变形的牛顿迭代法。

1 简化牛顿法

为避免频繁地计算导数值)('x f ，可将它取为固定值，比如在牛顿迭代公式中用)

('0x f 代

替

)

('n x f ，即在迭代过程中始终保持分母不变，则有简化牛顿迭代公式(或固定斜率切线

法)：)(')

(01x f x f x x n n n -

=+ 公式(3.4.3)

其几何意义如下图所示，这时除第一次迭代仍为曲线的切线外，其余皆为该切线的平行线。简化牛顿法避免了每次计算导数值。

更一般地，若取

L

x f n =)(',则迭代公式成为：

L

x f x x n n n )(1-

=+，称为推广的简化切线法。这时L 值应

满足下式：

1

)('1)('<-

=L

x f x ?

满足上式的L 为：2

)('0<<

L

x f ，可见当L 与)('x f 同号且满足上述不等式时，推广的简化切线法是收敛的。该迭代形式在参数法里也曾得到过。

2 由牛顿法的收敛性定理知，牛顿法对初始值的选取要求是很高的。一般地说，牛顿法只有局部收敛性。当初始值取得离根太远时，迭代将不收敛，而一旦初始值进入收敛域内，牛顿

法就有平方收敛的速度，为了扬长避短，扩大初始值选取的范围，下面介绍牛顿法的一种改进——牛顿下山法。

将牛顿法的迭代公式修改为：)(')

(1n n n n x f x f x x λ

-=+ 公式(3.4.3)

其中，λ是一个参数，λ的选取应使

)

(1+n x f ＜

)

(n x f 成立，当

)

(1+n x f ＜1ε或

n

n x x -+1＜

2ε，就停止迭代，且取1*+≈n x x ，其中1ε，2ε为事先给定的精度，1ε称为残量精确度，2ε为根的误差限；否则再减λ，继续迭代。按上述迭代过程计算，实际上得到了一个以零为下界

的严格单调下降的函数值序列，这个方法就称为牛顿下山法。λ称为下山因子，要求满足0＜λε1≤≤λ，λε称为下山因子下界，为了方便，一般开始时可简单地取1=λ，然后逐步分半

减小，即可选取1=λ，21

，221

，…，λελ≥，且使)(1+n x f ＜)

(n x f 成立。

牛顿下山法计算步骤可归纳如下：

⑴ 选取初始近似值0x ；⑵ 取下山因子1=λ；

⑶ 计算1

+n x ，

)(')(1n n n n x f x f x x λ

-=+

⑷ 计算)

(1+n x f ，并比较)

(1+n x f 与

)

(n x f 的大小，分以下两种情况：

① 若)

(1+n x f ＜)

(n x f ，则当

n

n x x -+1＜2ε时，则就取

1

*+≈n x x ，计算过程结束；当

n

n x x -+1＞2ε时，则把

1

+n x 作为新的n

x 值，并重复回到⑶。

②若)(1+n x f ≥)(n x f ，则当λελ≤且)(1+n x f ＜1ε，就取n

x x ≈*，计算过程结束；否

则，若

λ

ελ≤，而

)(1+n x f ≥1ε时，则把1+n x

加上一个适当选定的小正数，即取δ++1n x 作为

新的n x

值，并转向⑶重复计算；当λελ>，且)(1+n x f ≥1ε时，则将下山因子缩小一半，并转向⑶重复计算。

牛顿下山法不但放宽了初值的选取，且有时对某一初值，虽然用牛顿法不收敛，但用牛顿下山法却有可能收敛。一般来说，牛顿下山法不再有平方收敛速度，它的优点在于可能将原来收敛域以外的初始值，经过几次迭代后拉入收敛域内。

例如，已知方程1)(3

--=x x x f ＝0的一个根为≈*x 1.32472，若取初值0x

＝0.6，用牛顿法计算得到的第一次近似值9.171=x 反而比0x

更偏离根。若改用牛顿下山法，当取下山因

子

5

21

=

λ时，可得14063.11=x ，修正后的迭代序列收敛。（沈建华P138）（史万明P48）

3.4.4 弦截法

1 单点弦截法

为避免牛顿迭代法中导数的计算，可用平均变化率：0

0)

()(x x x f x f n n --

来近似代替)('n x f ，于是得到如下迭代公式：

)

()()()()()

()()(000001x f x f x f x x f x x x x f x f x f x x n n n n n n n n --=

---

=+ 公式(3.4.4)

称为单点弦截法。单点弦截法具有明显的几何意义，它

是用联结点A(0x ，0y )与点B(n x ，n y )的直线，代替曲线求取与横轴交点作为近似值1+n x 的方法，以后再过(0x ，0y )与(1+n x ，1+n y )两点，作直线求取与横轴的交点作为2+n x ，等等。其中(0x ，0y )是一个固定点，称为不动点，另一点则不断更换，故名单点弦截法。可以证明，单点弦截法具有收敛的阶r ＝1，即具有线性收敛速度。

2 双点弦截法

若把单点弦截法中的不动点(0x ，0y )改为变动点(1-n x ，1-n y )，则得到下面的双点弦截法的迭代公式：

)

()()

()()()

()()(111111-----+--=

---

=n n n n n n n n n n n n n x f x f x f x x f x x x x f x f x f x x 公式(3.4.5) 用弦截法求根的近似值，在几何上相当于过点(

1

-k x ，

)

(1-k x f )，和点(

k

x ，

)

(k x f )作

弦，然后用弦与x 轴的交点的横坐标1+k x

作为*x 的新的近似值。由于在双点弦截法中，构造

的迭代公式在计算新的近似值

1

+k x 时，不仅用到点

k

x 上

的函数值

)

(k x f ，而且还用到点1

-k x 及其函数值，这就

有可能提高迭代法的收敛速度。

与牛顿法一样，如果函数)(x f y =在其根*x 附近具有直到二阶的连续导数，且0)('≠x f ，则弦截法具有局部收敛性，即当初始近似值充分接近于*x 时，按双点弦截法迭代公式得到的迭代序列收敛于根*x 。可以证明弦截法具有超线性收速度，且收敛阶数为P ＝

1.618。双点弦截法迭代公式与前面介绍的单点迭代法有明显的不同，就是在计算1

+n x 时要用

到前两步的计算结果n x

、1-n x

，所以在使用迭代公式前，必须先给出两个初始值0

x 、1x ，因

此，这种迭代法也称两步法，而单点迭代法称为一步法。