牛顿迭代法.
牛顿迭代法
李保洋
数学科学学院信息与计算科学学号：060424067
指导老师：苏孟龙
摘要：牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法，即牛顿迭代法.迭代法是一种不断用变量的旧值递推新值的过程.跟迭代法相对应的是直接法或者称为一次解法，即一次性解决问题.迭代法又分为精确迭代和近似迭代.“牛顿迭代法”属于近似迭代法，本文主要讨论的是牛顿迭代法，方法本身的发现和演变和修正过程，避免二阶导数计算的Newton迭代法的一个改进，并与中国古代的算法，即盈不足术，与牛顿迭代算法的比较.
关键词：Newton迭代算法；近似求解；收敛阶；数值试验；中国古代数学；
九章算术；Duffing方程；非线性方程；收敛速度；渐进性
0 引言：
迭代法也称辗转法，是一种不断用变量的旧值递推新值的过程，跟迭代法相对应的是直接法或者称为一次解法，即一次性解决问题.迭代法又分为精确迭代和近似迭代.“二分法”和“牛顿迭代法”属于近似迭代法.
迭代算法是用计算机解决问题的一种基本方法.它利用计算机运算速度快、适合做重复性操作的特点，让计算机对一组指令（或一定步骤）进行重复执行，在每次执行这组指令（或这些步骤）时，都从变量的原值推出它的一个新值.具体使用迭代法求根时应注意以下两种可能发生的情况：
(1)如果方程无解，算法求出的近似根序列就不会收敛，迭代过程会变成死循环，因此在使用迭代算法前应先考察方程是否有解，并在程序中对迭代的次数给予限制.
(2)方程虽然有解，但迭代公式选择不当，或迭代的初始近似根选择不合理，也会导致迭代失败.
所以利用迭代算法解决问题，需要做好以下三个方面的工作：
1、确定迭代变量.在可以用迭代算法解决的问题中，至少存在一个直接或间接地不断由旧值递推出新值的变量，这个变量就是迭代变量.
2、建立迭代关系式.所谓迭代关系式，指如何从变量的前一个值推出其下一个值的公式(或关系).迭代关系式的建立是解决迭代问题的关键，通常可以使用递推或倒推的方法来完成.
3、对迭代过程进行控制，在什么时候结束迭代过程？这是编写迭代程序必须考虑的问题.不能让迭代过程无休止地重复执行下去.迭代过程的控制通常可分为两种情况：一种是所需的迭代次数是个确定的值，可以计算出来;另一种是所需的迭代次数无法确定.对于前一种情况，可以构建一个固定次数的循环来实现对迭代过程的控制;对于后一种情况，需要进一步分析出用来结束迭代过程的条件.
1牛顿迭代法：
y
x
O x * x 1
x 0
牛顿迭代法(Newton method)又称为牛顿-拉夫逊方法(Newton-Rapfson method )，它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法.多数方程不存在求根公式，因此求精确根非常困难甚至不可能，从而寻找方程的近似根就显得特别重要.方法使用函数()f x 的泰勒级数的前面几项来寻找方程
()0f x =的根.牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程()0f x =的单根附近具有平方收敛性，而且该法还可以用来求方程的重根、复根.另外该方法广泛用于计算机编程中：
解非线性方程()0f x =的牛顿(Newton )法是把非线性的方程线性化的一种近似方法.把()f x 的0x 点附近展开泰勒(Taylor ）级
()()()()()
()
''2
0'
00002!
f x f x f x f x x f
x x x =+-+-+；
取其线性部分作为非线性方程()0f x =的近似方程，则有：
()()()'0000f x f x x x +-=；
设()'00f x ≠，则其解为：
()
()
0'100f x x x f x =-
；
再把()f x 在1x 附近展开泰勒(Taylor )级数，也取其现行部分作为()0f x =的近似方程.若()'10f x ≠，则得：
()
()
1'211f x x x f x =-
；
这样，得到牛顿(Newton )法的一个迭代序列：
()
()
'
1n n n n f x x x f
x +=-
；
牛顿迭代有十分明显的几何意义，如图所示：
当选取初值0x 以后，过()()00,x f x 做()f x 的切线，其切线方程为：
()()()'000y f x f x x x -=-；
求此切线方程和x 轴的交点，即得：
()()'
100
0x x f x f x
=-； 牛顿法正因为有这一明显的几何意义，所以也叫切线法.
例：用牛顿法求下面方程的根
()32210200f x x x x =++-=； 解：因()'23410f x x x =++，所以迭代公式为：
()()3221210203410n n x x x x x x x +=-++-++；
选取01x =计算结果列表： N 牛顿法 弦位法 抛物线法 0 1
1
1
1 1.411764705882353 1.500000000000000 1.500000000000000
2 1.369336470588235 1.354430379746836 1.250000000000000
3 1.368808188617532 1.368270259654687 1.368535857721367
4 1.36980810782137
5 1.368810350393887 1.368807906820180 5 1.368808107821373 1.368808107472217 1.368808107821681
6 1.368808107821373 1.368808107821373 1.368808107821373 7
1.368808107821373
1.368808107821373
从结果可以看出，牛顿法的收敛是很快的，5x 误差1510-.但用牛顿法计算工作量比较大，因每次计算迭代除了计算函数值外还要计算微商值.为此我们提出了简化牛顿法：其公式为()()'10n n n x x f x f x +=-；用上面的公式计算，不再需要每步重新计算微商值，所以计算量小一些，但收敛也要慢一些.为了避免计算导数还可以采用差商代导数的方案：
()
()()
()111n n n n n n n f x x x x x f x f x +--=-
--；
关于牛顿迭代的收敛有下面结果：如果()f x 在零点附近存在连续的二阶微商，
ξ是()f x 的一重零点，且初始0x 充分接近于ξ，那么牛顿迭代是收敛的，且有
()()()2
'''1/2n n x f f x ξξξξ+-≈?-；
这表明牛顿法是二阶收敛的（平方收敛的）.
最后考虑()f x 是多项式的特殊情况，此时()f x ，()'f x 在某个x 值，比如x c =时的计算可用综合除法.
设 ()111n n n n f x ax a x a x a +-=+++，除以x c -，得商()q x ，余r ： ()()(
)f x q x x
c r =-+；
（1） 其中：
()120121n n n n q x b x b x b x b ----=++
++；
()n r b f c ==；
比较(1)式两边k x 的系数便知这些k b 可以按下表进行：
0a 1a 2a 1n a -
n a
0b c 1b c 2n b c -
1n b c -
00b a = 110b a b c =+
221b a b c =+
112n n n b a b c ---=+ 1n n n b a b c -=+
这一过程其实就是秦九韶算法，计算多项式值的嵌套算法：
()()()()
121n n f c a
a c a c c a c a -=
+++
++；
每个括号的值就是这里的0n b b .
至于导数的计算，注意到(1)式可得：
()()()()''f x q x q x x c =+-；
于是：
()()'f c q c =；
因此再对0
n b b 进行上述过程，或者再用一次秦九韶算法即可.
2一种修正的牛顿迭代法：
给出了牛顿迭代法的一种修正形式，并证明了当1/2r ≠时修正的牛顿迭代法是二阶收敛的，当参数1/2r =时是三阶收敛的，数值实验表明，与经典牛顿迭代法相比，该修正牛顿迭代法具有一定的优势.众所周知，数值求解非线性方程
()0f x =的根的方法很多.经典的牛顿迭代法是非线性方程组求根的一个基本方法，它二次收敛到单根，线性收敛到重根.牛顿法因收敛速度快而得到广泛应用，也倍受学者的重视，近年来很多文献中提出各种改进的牛顿方法.文献［8］中利用Newton 迭代法和微分中值定理“中值点”的渐进性，提出了一种多点迭代法.
设()f x 满足下述条件：
()[]2,f x c a b ∈，()()0f a f b <； ()'0f x ≠， ()''f x 在[,]a b 上保号. (A)
根据微分中值定理，存在(,)a b ξ∈，使得：
()()()'f b f a f b a
ξ-=-，而1
l im
2b a a b a ξ→-=-. 因此，当b 与a 的距离无限接近时有：
()1
2a b a ξ≈+
-.也就是说，在区间(,)a b 不甚大时，中值点ξ一定在其渐近位置 ()1
2
a b a ξ≈+-附近，并随区间变小而趋于其渐近位置.图所示迭代法构造图本方
案基于上述考虑，给出一种通过迭代点选取另一个点，利用两个点进行迭代求近似根的新方法.这种方法虽然在迭代中又只利用了一个其它点，但其计算精度却相当高，它的某一种特殊情形恰是通常的Newton 迭代法.为了更加直观起见，我们
通过几何直观图来构造这种迭代法.设()f x 满足条件(A )，当选定初值0x
(仅要求()()"
00f x f x ?>)，如图所示，作交点的切线交x 轴于B ()()00'0,0f x x f x ??
- ? ???
，
AQ 线段的斜率为：
()()()()()000'0000'0f x f x f x f x f x x x f x ??
-- ?
????-- ?
?
?. 由微分中值定理知，存在()
()000'0,f x x x f x ξ??∈- ? ???
使得：
()()()()()()000'0'0000'0f x f x f x f x f x f x x x f x ??
-- ?
??=??-- ?
?
?；
而()()()()0000''0012f x f x x x f x f x ξ??≈-
+- ? ??
?，因此，我们取数1,12r ??
∈ ???，在点()()
()()()()0000''001,1f x f x P x r f x r f x f x ??
??---- ? ? ? ??
???作切线PC ，图中AD 平行于PC .即用点P 的导数()()()0'
0'01f x f x r f x ??-- ? ???代替点A 的导数，而仍用点A 的迭代格式得到点
D 的坐标
()()()()00'00'0,01f x D x f x f x r f x ?? ?
?
- ???
?-- ? ?????
；
重复上述过程，得到多点迭代公式
()()()()1''1k k k k k k f x x x f x f x r f x +=-
??-- ?
?
?； (2)
其中[,]k x a b ∈，1,2,3,
k =.
下面我们对上述事实，从理论上加以严格证明.
定理 设()f x 满足条件(A )，则由多点迭代公式(1)产生的序列{n x }必收敛于
[,]a b 上的唯一a ，这里[],n x a b ∈，()0f a =.
证明 函数()f x 在上连续，由连续函数根的存在定理，从()()0f a f b <知道
()f x 在[],a b 上根存在，又由条件()'0f x ≠及()''f x 保号知道，()'f x 在[],a b 上不变号，故()f x 在[],a b 上是单调函数，因此()f x 在[],a b 上根a 存在且唯一.由定理条件曲线()y f x =可有如下四种不同情况：
(1) ()()()"0,0,0f a f b f x <>>，则()'f x 单调上升，()()''0f a f b >； (2) ()()()"0,0,0f a f b f x <>>，则()'f x 单调下降，()()''0f a f b >；
(3) ()()()"0,0,0f a f b f x ><>，则()'f x 单调上升， ()()''0f a f b <； (4) ()()()"0,0,0f a f b f x ><<，则()'f x 单调下降，()()''0f a f b <. 通过对自变量的变号或对函数的变号可将四种情况归结为一种情况，所以我们只需对情况(一)证明迭代过程(1)收敛就可以了.
若初值[]0,,,n x a b x a ∈>所以()00f x >，故有
()()()()0100'00'01f x x x x f x f x r f x =-
?
?；
()()()()()()()()()()()()()()()''0001000'''000000'''000111f x f a f x a f x a x x x x f x f x f x f x r f x r f x r f x f x f x ξξ+--=-
=-
=-
??
??
??
------ ?
?
?
?
??
??
?；
一方面，()0.a x ξ∈，且()()'
00f x f x a =-.下证()()()()0'
'
0'01f x f x f x r f x ??
<-- ? ???.
若()()()()0''0'01f x f x f x r f x ??>-- ? ??
?，由()'
f x 的单调性有，x ，()()()00'01f x x r f x ξ--<，又因为()
()()()
()0000''
001f x f x x r x f x f x -->-，因此有()()()0''0'0f x f x f f x ξ??-< ? ?
?
?，与Newton 迭代法的收敛性矛盾. 由(一)的假设及()()()()0''0'01f x f f x r f x ξ??<-- ? ??
?可得： ()()()()()()'01000'00'01f x a x x x x a a f x f x r f x ξ-=-
>-=??-- ?
?
?；
一般地，若n x a =，同样可以证明由式(2)得到的1n x +满足1n n a x x +<<.所以由式(1)产生的迭代序列{n x }单调下降且有下界.依极限理论必有极限.对式(2)两边取极限，由极限理论可以求得()'0f a =.再由()'0f x ≠，[],n x a b ∈，可知函数方程
()0f x =在[],a b 上的根是唯一的，因此有'a a =.
当1r =时，式(2)即为Newton 迭代公式.
本文给出的这种多点迭代方法不仅可以被广泛应用于方程的近似求根，更重要的是它为人们提供了一种新的迭代思想，拓宽人们在方程近似求根方面的思路.
例 计算()3250f x x x =--=在(2,3)区间内的一个实根.
我们已知()0f x =有一个精确到十二位有效数字的实根 2.09455148154a =. 取03x =，以Newton 迭代法计算(记作1n x )，取03x =， 1
2
r =以式(1)计算(记作2n x )，其结果列表如表1. 表1 计算结果： 迭代次数N
1n x 2
n
x 0 1 2 3 4 5
3 2.36 2.095136037 2.09455167
4 2.94551482 3
2.18468446 2.094726304 2.094551482 从这个数值例子，我们可以看出，式(2)比Newton 迭代法的收敛速度快得多，只进行三次迭代就已得满足精度要求的值了，而Newton 迭代法需迭代5次才可得到满足精度要求的值.式(2)可以被广泛应用，特别是编成数学软件后，用计算机求解方程近似根效果会更加显著.
3另外一种牛顿迭代法的修正：
Newton 迭代法是方程求根的一种简单而直观的近似方法，但在实际运用中，我们常常觉察到，这种方法仅仅是利用了迭代点及该点的导数值，而没有充分利用其他点及其导数值.是否存在可利用的点，这些点我们应怎样确定.文[1]给出了一种方法，但这种方法求根的关键在适当地选取0x 和r 或n r .选取不适当，就会出现某次迭代的值不是迭代序列中的值.因此，我们会问这些值特别是0x 能否不依靠人为选取，而通过迭代点来选取，本文将利用Newton 迭代法和微分中值定理“中值点”的渐近性，来寻找除迭代点以外的可利用点，给出一种多点迭代方法.
设()f x 满足下述条件：
()[]()()2,,0f x c a b f a f b ∈<；
()()'''0,f x f x ≠在[],a b 上保号. (A)
根据微分中值定理，存在(),a b ξ∈，使得
()()()'f b f a f b a
ξ-=-而1
lim
2b a a b a ξ→-=-.因
此，当b 与a 的距离无限接近时有：()1
2
a b a ξ≈+-.也就是说，在区间(),a b 不甚大时，中值点ξ一定在其渐近位置()1
2
a b a ξ≈+
-附近，并随区间变小而趋于其渐近位置.本方案基于上述考虑，给出一种通过迭代点选取另一个点，利用两个点进行迭代求近似根的新方法.
设()f x 满足下列条件(A)：
(1) ()f x 在区间在区间[],a b 上存在二阶导数； (2) ()'f x 在[],a b 上不等于零； (3) ()''f x 在[],a b 上不变号； (4) ()()0f a f b <；
为了更为直观，我们通过几何直观图来构造多点迭代法.设()f x 满足条件(A)，当选定初值0x （仅要求()()''00f x f x >），如图所示：
做A 点的切线交X 轴于B ()()00'0,0f x x f x ??- ? ???
，AQ 线段的斜率为：
()()()()()000'0000'0f x f x f x f x f x x x f x ??
-- ?
????-- ??
?；由微分中值定理知，存在()()000'0,f x x x f x ξ??∈- ? ???使得： ()()()()()()000'0'0000'0f x f x f x f x f x f x x x f x ??
-- ?
??=??-- ?
?
?；
而()()()()0000''0012f x f x x x f x f x ξ??≈-
+- ? ???，因此，我们取数1,12r ??
∈ ???
，在点()()
()()()()0000''001,1f x f x P x r f x r f x f x ??
??---- ? ? ? ??
???作切线PC ，图中AD 平行于PC .即用点P 的导数()()()0'0'01f x f x r f x ??
-- ? ???代替点A 的导数，而仍用点A 的迭代格式得到点D 的坐标
()()()()00'0',01k k f x D x f x f x r f x ?? ?
?
- ??? ?-- ? ?????
； (3)
主要对(3)式的分子()k f x 用()k f x 与()()()()''1k k k k k f x f x f x f x r f x ?? ?
?
- ???
?-- ? ?????
的和代替，这样就得到新的迭代公式：
()()()()()()()()'
'1''11k k k k k k k k k k k f x f x f x f x f x r f x x x f x f x r f x +?? ?
?
+-
??? ?-- ? ?????=-
??-- ?
?
?； (4) 如果令 ()()
()()'1k k f x u x x r f x =--；()()
()1'k k k k
f x x w x x f u +==-；则： ()()
111'k k k f x x x f u x -+-
++??
??
?=-； 从而可知(4)式中迭代函数为：()()()()
()()
'f w x x w x f w x Φ=-
；
引理1[5] 对于迭代公式()1k k x x +=Φ，如果p Φ在所求的根*x 的邻近连续并且：
()()()()1'*''**0p x x k x +Φ=Φ==Φ=，()()*0p x Φ≠，则该公式在*x 的邻近是p 阶收
敛的.
定理1 设方程()f x 的根为*x ，函数()f x 在*x 的的邻域内有至少四阶连续导数，且()'0f x ≠，则迭代公式(4)在的*x 邻近至少是三阶收敛的. 证明 迭代公式(4)的迭代函数为：()()()()
()()
'f w x x w x f w x Φ=-
，其中
()()()
'
k k k f x w x x f u =-
，由于方程()f x 的根为*
x 所以()*0f x =，从而可知()**w x x =，()'*0w x =；
()()()
()()()
'*'*''*3
'
'
*
f x u x w x f u x =
对()x Φ求导数得：
()()()()()()()()()()()()
()()
()'''''"''''*2
''0f w x w x f u x f w x f u x u x x w x x f u x -Φ=-
?Φ=；
同理可得：()()()()()()'
"
'
"*''*''*0x x x w x w x Φ=Φ?Φ=-=. 由引理知迭代公式(4)在*x 邻近至少是三阶收敛的.
引理2（[4]） 假设函数()f x 在区间[],a b 上存在二阶导数，且满足下列条件 (1) ()'f x 在[],a b 上不等于零； (2) ()''f x 在[],a b 上不变号； (3) ()()0f a f b <；
(4) 设[],x a b ∈，且满足条件()()"0f x f x >；
则由Newton 迭代法()()'10n n n x x f x f x +=-得到的序列{}n x 收敛于()0f x =的惟一根*x .
定理2 假设函数()f x 在区间[],a b 上存在二阶导数，且满足下列条件 (1) ()'f x 在[],a b 上不等于零； (2) ()''f x 在[],a b 上不变号；
(3) ()()0f a f b <；
(4) 设[],x a b ∈，且满足条件()()"0f x f x >.
则由多点迭代公式(4)得到的序列{}n x 收敛于()0f x =的惟一根*x .
证明 函数()f x 在[],a b 上连续，由连续函数根的存在定理，从()()0f a f b <知道
()f x 在[],a b 上根存在，又由条件()'0f x ≠及()"f x 的保号性知道，()'f x 在[],a b 上不变号，故()f x 在[],a b 上是单调函数，因此()f x 在[],a b 上的根*x 存在且惟一. 由定理条件，曲线()y f x =可有如下四种不同情况：
(a) ()()()"0,0,0f a f b f x <>>，则()'f x 单调上升，()()''0f b f a ≥>； (b) ()()()"0,0,0f a f b f x <><，则()'f x 单调下降，()()''0f a f b ≥>； (c) ()()()"0,0,0f a f b f x ><>，则()'f x 单调上升，()()''0f a f b ≥<； (d) ()()()"0,0,0f a f b f x ><<，则()'f x 单调下降，()()''0f b f a ≥<. 通过对自变量的变号或对函数的变号可以将四种情况归结为一种情况，所以我们只需对其中一种情况证明迭代过程(4)是收敛的就可以了.
下面仅就情况(a)证明定理2，其余情况的证明类似.对情况(a)来说此时()0f x =在
[],a b 上的根存在且惟一，且()f x 在[],a b 上单调递增.首先证明，对任何初始近似
()*,x x b ∈，由迭代公式(4)求出的逐次近似k x 都属于()*,x b ，并且单调递减. 事实
上，由引理2的证明我们可知，只要()()()
()()*'1,k k k k f x u x x r x b f x =--∈，就有
()*
1,k x x b -
+∈，即()1k k k x u x x -
+<<，再由(3)式得11k k x x -
++<，另一方面(3)式可化为：
()()()()()()()()()*''1*****11111'''1k k k k k k k k k f x f x f f x x x x x x x x x x f u x f u x f u x ξξ-+----+++++??
- ?????????-=--=---=-- ? ? ? ???????
； 其中()()**
11,,k k x x x u x ξ-+??∈? ???
.由()'f x 单调递增且()'0f x >知()()()''
1k f f u x ξ<，故*10k x x -
+->因而由(4)式产生的序列{}n x 单调递减并有下界，故lim n n x →∞
存在.
设lim n n x x -
→∞
=，(4)式两边当k →∞时求极限得：
()()_
___
_'_'__
_
_
'_'101f x f x f x f x f x r f x x x f x f x r f x ?? ? ?
???
? ????? ?+- ??????? ? ? ?
??? ?--
??? ? ? ? ? ???????=-=??
?? ? ??? ?--?? ? ?
????
?； ()()_
___
_'_'_
_
'_'11f x f x f x f x f x r f x f x f x r f x ??
? ?
???
? ????? ?+- ??????? ? ? ?
??? ?--
??? ? ? ? ? ?????????
?? ? ??? ?--?? ? ?
????
?； 可知 ()_
___
_'_'01f x f x f x f x f x r f x ??
? ?
???
? ????? ?+-= ???????
? ? ?
??? ?--
??? ? ? ? ? ??????
?； ()()__
_
*__
'_',,1f x x x x b f x f x r f x ??
???
-
∈??
?? ? ??? ?--?? ? ?
????
?，()f x 在[],a b 上单调递增，且()*0f x =
所以：()_
___
_'_'0,01f x f x f x f x f x r f x ?? ? ?
???
? ????? ?=-= ???????
? ? ?
??? ?--
??? ? ? ? ? ??????
?；因此得：*x x -
=. 本方法代方法比Newton 和文[4]的迭代法的收敛速度明显要快，而且对于1,12r ??
∈????
，r 越大效果越差！
对于例1，用MATLAB 程序运算格式(4)，当12r <时，在*0k x x →=之前迭代格式会产生负值.所以，格式(4)的收敛速度和r 的选取有关. 对于定理2中的四个条件，在MATLAB 中通过简单的程序即可验证.
4 中国古代算法盈不足术与牛顿迭代算法的比较：
首先介绍 盈不足术 九章算术中的第七章是盈不足术，这是求解方程的一种最古老的方法.为了说明该方法的基本思想，我们考虑该章的第一个例子：
今有共买物，人出8，盈3；人出7，不足4，问人数、物价各几何？ 其求解过程为(见图1)：
(1) 把出率(8)和(7)放在第一行；
(2) 把盈数(3)和不足数(4)放置在出率下面；
(3) 计算维积(交差积)得(32)和(21)，得和为(53)； (4) 盈减去不足数为431-=； (5) 从而得物价为53531
=；
用现代数学的观点，盈不足术可表示为：设1x 和2x 为两个近似物价，1R 和2R 分别表示为盈或不足数，则物价为：2112
12x R x R x R R -=
-;人数为1212
R R y x x +=-；正如白尚恕
[7]指出的那样，在隋唐(581～618年AD )盈不足术在中东被广泛流传，最早的阿
拉伯算术书是由al-Khowarizmi 在公元825年写的，英文中的算术一词(algorithm)来自他的名字，他应该对九章算术和其他古代中国巨著很了解，并把盈不足术称为中国方法.Khitai 指China ，类似的写法有Khatai ，Chatayn ，Chataain 等等.普遍认为中国算法是通过古代著名的意大利数学家Leonardo Fibonacci(1170?～1250?年)传给西方的，据记载Fibonacci 随他父亲周游了埃及、西西里、希腊和叙利亚，这次周游使他接触了东方和阿拉伯的计算方法.在1202年，即他回家后不久他就出版了著名的《算经Liber Abaci 》.该书也介绍了盈不足术，并把这种方法称为中国规则，这个名字来自中东，在那里中国算法称为Hisabl-Chatin ，里Chation 指China 该书中的一些例子和算法和中国古代数学巨著完全一样.如在4世纪的孙子算经：今有物不知其数，三三数之胜二，五五数之胜三，七七数之胜二，问物几何？该问题的解题方法就是数论中的中国余数定理：在Fibonacci 的《算经》中阿拉伯语DeRegulisel-Chatavn 被译成拉丁文DuarumFalsdrumPosicionumRegula 所以在西方这种方法被称作双假定方法，这实际上是九章算术中的盈不足术，即中国算法，它起源于中国是毫无疑问的，这正如钱宝琮[8]指出的那样可惜的是很多西方人认为这种方法起源于印度，并被阿拉伯人所掌握所以本作者强烈建议把双假设法改称为中国算法或中国方法.
中国算法与牛顿迭代算法考虑方程()'0f x =设12,x x 为方程的两个近似解，于是我们得残量()1f x 和()2f x 应用中国算法，我们可得
()()
()()
2112312x f x x f x x f x f x -=
-； （5） 在九章算术中给出了在下列情况下的一些不等式： (1)双盈，即()10f x >和()20f x > (2)双亏，即()10f x <和()20f x <； (3)一盈一亏，即()()120f x f x ?<；
上述算法可以根据不等式的性质确定更合适的两个数()12,x x 或()23,x x ，再进行计算定更精确的近似解，为了与牛顿迭代算法比较，我们把(5)写成如下形式：
()()()()
()()()()
2112112
311212x f x x f x f x x x x x
f x f x f x f x --=
=-
--； 如果引入导数()'1f x ，它定义为()()()
12'112
f x f x f x x x -=
-；
那么我们马上可得：()
()
11'
1f x x x f x =-
； 这就是著名的牛顿迭代法，当两个近似值1x 和2x 位于真解的两侧时，即
()()120f x f x ?<，中国算法比牛顿迭代算法具有很大的优势，牛顿迭代算法可以更进一步的优化发展，可参考文献[10，11].
中国算法的改进：
中国算法可以看成是通过两个近似解的线性近似方法，见图2为了提高中国算法的精度，我们用三点()123,,x x x ，而不用两点()12,x x ，用抛物线拟合该曲线，我们得近似解为：
()()()()
(
)()
123
213
321
1213212
33231x f f x f f x f f x f f f f f f f f f f f f =
+
+
------；
式中()i i f f x =； 综合概述：
迭代算法是一种用途非常广泛的方法，本文不仅介绍了这个方法很好的诠释这个方法， 而且做了牛顿迭代法的两种修正，更做了牛顿迭和与中国古代算法的比较，不仅试读者更好理解了这个方法，更开阔了读者的视野，使读者更能留下研究的空间.
参考文献：
[1] 徐萃薇，孙绳武.计算方法引论（第三版）[M].北京：高等教育出版社，2007.
[2] 龙爱芳.避免二阶导数计算的迭代法[J].浙江工业大学学报，2005， 33(5):
602～604.
[3] 李庆扬，王能超.数值分析[M].武汉：华中科技大学出版社，1986.
[4] 张新东，王秋华.避免二阶导数计算的Newton迭代法的一个改进[J].山东大学学报，2007，42（7）：72～76.
[5] 何吉欢.盈不足术与牛顿迭代算法的比较[J].应用数学和力学，2002，23（12）：1256～1259.
[6] 王晓峰.一种修正的牛顿迭代法[J]，2010，33（1）长春理工大学学报，178～179.
[7] 白尚恕.九章算术注释[M].北京：科学出版社，1983.
[8] 钱宝琮.中国数学史[M].北京：科学出版社，1992.
[9] 陈新一.一种多点迭代方法[J].甘肃教育学报（自然科学版），2001，15（1）：13～16.
[10]HeJi-huan.Improvement of Newton interation menthod [J].International Journal of Nonlinear Science and Numerical Simulation 2000，1(3):239～240.
[11]HeJi-huan.Newton-like iteration menthod for solving algebraice quations[J]. Communication NumSimulation，1998，3(2):106～109
Newton iteration
LI Bao Yang
Mathematical Sciences Information and Computing Science NO：060424067
Instructor :SU Menglong
Summary：In the 17th century，Newton introduced a method of solve equations approximately in real number domain and complex domain，that is Newton Iteration，a process of recursion new value constantly with the old value of variable. Correspond with the Iterative Method is A Direct Method or as A Solution，that is a one-time problem solving. Iteration is divided into exact iterative and approximate iterative. "Newton Iterative Method" is belong to approximate iterative methods. This article mainly focuses on the Newton Iteration. The main contents of this article include the discovery，evolution and amendment process of this methods; an improve of avoiding calculating Newton Iteration with second-order derivative; the comparison of the Chinese ancient algorithm---Yingbuzu Method and Newton Iterative Algorithms. Keywords: Newton Iterative Algorithm; approximate solution; order of convergence; numerical experimentation; Arithmetic in Nine Section ; Duffing Equation; Nonlinear equations; Convergence rate; Progressive
牛顿迭代法文献综述
“牛顿迭代法”最新进展文献综述牛顿法是一种重要的迭代法，它是逐步线性化的方法的典型代表。牛顿迭代法又称为牛顿-拉夫逊方法，它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。多数方程不存在求根公式，因此求精确根非常困难，甚至不可能，从而寻找方程的近似根就显得特别重要。方法使用函数f(x)的泰勒级数的前面几项来寻找方程f(x) = 0的根。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x) = 0的单根附近具有平方收敛，而且该法还可以用来求方程的重根、复根。另外该方法广泛用于计算机编程中。 介绍一下牛顿迭代法研究的前沿进展，1992年南京邮电学院基础课部的夏又生写的一篇题名一类代数方程组反问题的牛顿迭代法，对一类代数方程组反问题提出了一个可行的迭代解法。从算法上看,它是一种解正问题—迭代—解正问题迭代改善的求解过程。湖南师范大学的吴专保;徐大发表的题名堆浸工艺中浸润面的非线性问题牛顿迭代方法，为了研究堆浸工艺的机理,用牛顿迭代公式寻求浸润面的非线性方程的数值解,经过14次迭代的误差达到了,说明此算法收敛有效。浙江大学电机系的林友仰发表的牛顿迭代法在非线性电磁场解算中的限制对非线性电磁场解算中的限制做了分析，求解非线性方程组时迭代法是不可避免的。牛顿—拉斐森迭代法由于它的收敛速度快常被优先考虑。应用这个方法的主要问题是求雅可比矩阵。因为雅可比矩阵元素的计算非常费时。然而,本文要说明的是当利用以三角形为单元的有限元法求解非线性方程组时,应用牛顿法其雅可比矩阵容易求得,并且它保持了原系数的对称性和稀疏性,因而节省了时间。与此相反,若在差分法中应用牛顿迭代,并且按习惯用矩形网格进行剖分,则雅可比阵的计算很费时,而且不再保持原有对称性,这就使得存贮量和计算时间大为增加。南株洲工学院信息与计算科学系的吕勇;刘兴国发表的题名为牛顿迭代法加速收敛的一种修正格式，主要内容牛顿迭代法是求解非线性方程的一种重要的数值计算方法,在通常情况下,它具有至少平方收敛。本文利用文献[4]所建立的迭代格式xn+1=xn-αf(xfn)(x+n)f′(xn),对迭代格式中的参数α的讨论,实现了牛顿迭代法加速收敛的一种修正格式。
牛顿迭代法
牛顿迭代法 李保洋 数学科学学院信息与计算科学学号：060424067 指导老师：苏孟龙 摘要：牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法，即牛顿迭代法.迭代法是一种不断用变量的旧值递推新值的过程.跟迭代法相对应的是直接法或者称为一次解法，即一次性解决问题.迭代法又分为精确迭代和近似迭代.“牛顿迭代法”属于近似迭代法，本文主要讨论的是牛顿迭代法，方法本身的发现和演变和修正过程，避免二阶导数计算的Newton迭代法的一个改进，并与中国古代的算法，即盈不足术，与牛顿迭代算法的比较. 关键词：Newton迭代算法；近似求解；收敛阶；数值试验；中国古代数学； 九章算术；Duffing方程；非线性方程；收敛速度；渐进性 0 引言： 迭代法也称辗转法，是一种不断用变量的旧值递推新值的过程，跟迭代法相对应的是直接法或者称为一次解法，即一次性解决问题.迭代法又分为精确迭代和近似迭代.“二分法”和“牛顿迭代法”属于近似迭代法. 迭代算法是用计算机解决问题的一种基本方法.它利用计算机运算速度快、适合做重复性操作的特点，让计算机对一组指令（或一定步骤）进行重复执行，在每次执行这组指令（或这些步骤）时，都从变量的原值推出它的一个新值.具体使用迭代法求根时应注意以下两种可能发生的情况： (1)如果方程无解，算法求出的近似根序列就不会收敛，迭代过程会变成死循环，因此在使用迭代算法前应先考察方程是否有解，并在程序中对迭代的次数给予限制. (2)方程虽然有解，但迭代公式选择不当，或迭代的初始近似根选择不合理，也会导致迭代失败. 所以利用迭代算法解决问题，需要做好以下三个方面的工作： 1、确定迭代变量.在可以用迭代算法解决的问题中，至少存在一个直接或间接地不断由旧值递推出新值的变量，这个变量就是迭代变量. 2、建立迭代关系式.所谓迭代关系式，指如何从变量的前一个值推出其下一个值的公式(或关系).迭代关系式的建立是解决迭代问题的关键，通常可以使用递推或倒推的方法来完成. 3、对迭代过程进行控制，在什么时候结束迭代过程？这是编写迭代程序必须考虑的问题.不能让迭代过程无休止地重复执行下去.迭代过程的控制通常可分为两种情况：一种是所需的迭代次数是个确定的值，可以计算出来;另一种是所需的迭代次数无法确定.对于前一种情况，可以构建一个固定次数的循环来实现对迭代过程的控制;对于后一种情况，需要进一步分析出用来结束迭代过程的条件. 1牛顿迭代法：
Newton迭代法实例
基于牛顿迭代法的圆形断面临界水深直接计算 学院：建筑工程学院学号：2111206052 姓名：王瑞峰 一、问题来源 圆形断面由于具有受力条件好、适应地形能力强、水力条件好等优点，已成为农田灌溉、城市给水排水等工程较常采用的断面形式。而临界水深的计算则是进行圆形断面水力计算的关键，但其计算较繁杂，要求解高次隐函数方程，且未知量包含在三角函数中，求解难度大。自20世纪90年代，对圆形断面临界水深的计算进行了大量研究，获得了较多成果。鉴此，本文应用牛顿迭代算法，得到一种较简洁且可提供高精度算法程序的近似计算公式。 二、数学模型 相应于断面单位能量最小值的水深称为临界水深，其计算公式为： 需满足的临界流方程为： 其中 式中，d为洞径；为临界水深对应的圆心角，rad；n为流速分布不均匀系数(不特殊说明时取1.0)；Q为流量，m3Is；g为重力加速度(通常取9.81 m/s2)；分别为临界流对应的过水断面面积和水面宽度。 无压流圆形断面的水力要素见图1 将式(1)、(3)、(4)代入式(2)得： 将式(5)整理即得临界水深的非线形方程： 由此可知．式(6)为临界水深h。的高次隐函数方程，且未知量包含在三角函数中。 即圆形断面临界水深的求解即为式(6)的求根问题。在现行工程实际中计算临界水深时均采用近似公式或试算法，所得结果精度不高且效率较低。 三、方法选择 牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x) = 0的单根附近具有平方收敛，而且该法还可以用来求方程的重根、复根。 解非线性方程f(x)=0的牛顿法是把非线性方程线性化的一种近似方法。把f(x)在x0点
附近展开成泰勒级数f(x) = f(x0)+(x－x0)f'(x0)+(x－x0)^2*f''(x0)/2! +… 取其线性部分，作为非线性方程f(x) = 0的近似方程，即泰勒展开的前两项，则有f(x0)+f'(x0)(x－ x0)=f(x)=0 设f'(x0)≠0则其解为x1=x0－f(x0)/f'(x0) 这样，得到牛顿法的一个迭代序列：x(n+1)=x(n)－f(x(n))/f'(x(n))。 在对式(6)的求解方法中，应首选牛顿迭代法，因为牛顿迭代法可快速求解出其他方法求不出或难以求出的解。 引入无量纲参数k： 将式(7)代入式(6)得： 的一阶、二阶导函数分别为： 由牛顿迭代法可得： 式中，=0，1，2…为迭代次数；为的初值。 将式(8)、(9)代入式(10)，可得相应于式(6)临界水深对应中心角的牛顿迭代公式： 由式(11)迭代计算出临界水深对应的中心角后，代入式(1)即可得临界水深。 根据文献，为避免渡状水面有可能接触洞顶引起水流封顶现象。洞内水面线以上的空间不宜小于隧洞断面面积的15％，且高度不小于0.4m。可得临界水深对应的中心角的最大值一般不超过4.692，相应可得无量纲参数值的上限为0.5044。故取值范围为[O.000 0,0.504 4]。 查阅文献与的近似公式： 若将式(12)视为初值函数，代入式(11)进行一次迭代计算，不仅得到了直接计算的公式，且提高了计算结果的精度。 其中 将式(13)代入式(1)即得圆形断面临界水深。 计算实例： 某引水式电站输水隧洞为圆形断面，已知洞径d=3.0 m，试确定设计流量Q=8.0m3/s时的临界水深。 四、编程实现 本文采用Fortran软件求解，程序的代码如下：
牛顿迭代法求平方根
牛顿迭代法求平方根 求n的平方根，先假设一猜测值X0= 1，然后根据以下公式求出X1，再将X1代入公式右边，继续求出X2…通过有效次迭代后即可求出n的平方根，X k+1 (迭代公式) 简单推导 假设f(x)是关于X的函数: 求出f(x)的一阶导，即斜率: 简化等式得到: 然后利用得到的最终式进行迭代运算直至求到一个比较精确的满意值，为什么可以用迭代法呢理由是中值定理(Intermediate Value Theorem):
如果f 函数在闭区间[a,b]内连续，必存在一点x 使得f(x) = c ，c 是函数f 在闭区间[a,b]内的一点 我们先猜测一X 初始值，例如1，当然地球人都知道除了1本身之外任何数的平方根都不会是1。然后代入初始值，通过迭代运算不断推进，逐步靠近精确值，直到得到我们主观认为比较满意的值为止。例如要求768的平方根，因为252 = 625，而302 = 900，我们可先代入一猜测值26，然后迭代运算，得到较精确值:。 回到我们最开始的那个”莫名其妙”的公式，我们要求的是N 的平方根，令x 2 = n ，假设一关于X 的函数f(x)为: f(X) = X 2 - n 求f(X)的一阶导为: f'(X) = 2X 代入前面求到的最终式中: X k+1 = X k - (X k 2 - n)/2X k 化简即得到我们最初提到的那个求平方根的神奇公式了: 用泰勒公式推导 我之前介绍过在The Art and Science of C 一书中有用到泰勒公式求平方根的算法，其实牛顿迭代法也可以看作是泰勒公式(Taylor Series)的简化，先回顾下泰勒公式:
非线性方程组的牛顿迭代法的应用
CENTRAL SOUTH UNIVERSITY 数值分析实验报告
非线性方程组的牛顿迭代法的应用 一、问题背景 非线性是实际问题中经常出现的，并且在科学与工程计算中的地位越来越重要，很多我们熟悉的线性模型都是在一定条件下由非线性问题简化的，为得到更符合实际的解答，往往需要直接研究非线性科学，它是21世纪科学技术发展的重要支柱，非线性问题的数学模型有无限维的如微分方程，也有有限维的。道遥咏计算机进行科学计算都要转化为非线性的单个方程或方程组的求解。从线性到非线性是一个质的变化，方程的性质有本质不同，求解方法也有很大差别。本文主要介绍的是非线性方程组的牛顿迭代法的数值解法。 二、数学模型 对于方程()0=x f ，如果()x f 湿陷性函数，则它的求根是容易的。牛顿法实质上是一种线性化方法，其基本思想是将线性方程()0=x f 逐步归结为某种线性方程来求解。 设已知方程()0=x f 有近似根k x （假定()0'≠k x f ），将函数()x f 在点k x 展开，有 ()()()()k k k x x x f x f x f -+≈'， 于是方程()0=x f 可近似地表示为 ()()()0'=-+k k k x x x f x f 这是个线性方程，记其根为1+k x ，则1+k x 的计算公式 ()() k k k k x f x f x x ' 1- =+， ,1,0=k 这就是牛顿法。 三、算法及流程 对于非线性方程 ()()()???? ????????=n n n n x L x x f M x L x x f x L x x f f ,,,,,,,,,2 1212211 在()k x 处按照多元函数的泰勒展开，并取线性项得到
用牛顿迭代法求近似根
用牛顿迭代法求近似根
————————————————————————————————作者：————————————————————————————————日期：
第四题 题目：用Newton 法求方程在 74 28140x x -+= （0.1，1.9）中的近似根（初始近似值取为区间端点，迭代6次或误差小于0.00001）. 解：此题是用牛顿迭代法求解近似根的问题 1. Newton 迭代法的算法公式及应用条件： 设函数在有限区间[a,b]上二阶导数存在，且满足条件 ⅰ. ()()0f a f b <; ⅱ. ()''f x 在区间[a,b]上不变号； ⅲ. ()'0f x ≠; ⅳ. ()()'f c f c b a ≤-，其中c 是a,b 中使()()''min(,)f a f b 达到的一个. 则对任意初始近似值0[,]x a b ∈，由Newton 迭代过程 ()()() 1'k k k k k f x x x x f x +=Φ=-，k=0，1，2… 所生成的迭代序列{ k x }平方收敛于方程()0f x =在区间[a,b]上的唯一解а. 对本题： )9.1()9.1(0 )8(4233642)(0 )16(71127)(0 )9.1(,0)1.0(,1428)(3225333647>?''<-=-=''<-=-='<>+-=f f x x x x x f x x x x x f f f x x x f Θ 故以1.9为起点 ?? ???='-=+9.1)()(01x x f x f x x k k k k 2. 程序编写 #include
牛顿迭代法及其应用教学提纲
编号 毕业设计（论文）题目 Newton Raphson 算法及其应用 二级学院数学与统计学院 专业信息与计算科学 班级108010101
学生姓名侯杰学号10801010106 指导教师职称 时间 目录 摘要 (3) Abstract (3) 一、绪论 (4) 1.1 选题的背景和意义 (4) 1.2 牛顿迭代法的优点及缺点 (4) 二、Newton Raphson 算法的基本原理 (5) 2.1 Newton Raphsn算法 (5) 2.2 一种修正的Newton Raphsn算法 (7) 2.3 另外一种Newton Raphsn算法的修正 (11) 三、Newton Raphson 算法在计算方程中的应用 (18) 四、利用牛顿迭代法计算附息国债的实时收益率 (21) 4.1附息国债实时收益率的理论计算公式 (22) 4.2附息国债实时收益率的实际计算方法 (22)
4.3利用牛顿迭代法计算 (23) 五、结论 (26) 致谢 (27) 参考文献 (28) 摘要 牛顿在17世纪提出的一种近似求解方程的方法，即牛顿拉夫森迭代法.迭代法是一种不断的用变量的旧值递推新值的过程.跟迭代法相对应的是直接法或被称为一次解法，即一次性解决的问题.迭代法又分为精确迭代以及近似迭代.“牛顿迭代法”就属于近似迭代法，本文主要讨论的就是牛顿迭代法，方法本身的发现到演变到修正的过程，避免二阶导数计算的Newton迭代法的一个改进，以及用牛顿迭代法解方程，利用牛顿迭代法计算国债的实时收益率。 关键词：Newton Raphson迭代算法；近似解；收益率； Abstract In the 17th century，Newton raised by an approximate method of solving equations，that is Newton Iteration，a process of recursion new value constantly with the old value of variable. Correspond with the iterative method is a direct method or as a solution，that is a one-time problem solving. Iteration is divided into exact iterative and approximate iterative. "Newton Iterative Method" are approximate iterative method. This article mainly focuses on the Newton Iteration. The main contents of this article include the discovery，evolution and amendment process of this methods; an improve of avoiding calculating Newton Iteration with second-order derivative; Newton Raphson iterative method of solving equations and Calculating the real-time yield of government bonds. Keywords: Newton Iterative Algorithm; approximate solution; Yield；
牛顿迭代法
牛顿迭代法 一、 牛顿迭代法 牛顿迭代法也称为牛顿-拉夫森(Newton-Raphson)迭代法，它是数值分析中最重要的方法之一，它不仅适用于方程或方程组的求解，还常用于微分方程和积分方程求解。 二、 迭代公式 ,...2,1,0,) () (1='-=+k x f x f x x k k k k 用迭代法解非线性方程时，如何构造迭代函数是非常重要的，那么怎样构造的迭代函数才能保证迭代法收敛呢？牛顿迭代法就是常用的方法之一，其迭代格式的来源大概有以下几种方式（主要是第一种）： 1、设 ],[)(2 b a C x f ∈，对)(x f 在点],[0b a x ∈作泰勒展开： !2))((''))((')()(2 0000x x f x x x f x f x f -+ -+=ξ 略去二次项，得到)(x f 的线性近似式：))((')()(000x x x f x f x f -+≈。 由此得到方程=)(x f 0的近似根(假定≠)('0x f 0)，) (')(000x f x f x x - = 即可构造出迭代格式(假定≠)('k x f 0)： ) (') (1k k k k x f x f x x - =+ 公式(1) 这就是牛顿迭代公式，若得到的序列{k x }收敛于α，则α就是非线性方程的根。
2、 牛顿迭代法也称为牛顿切线法，这是由于)(x f 的线性化近似函数 )(x l ＝))((')(000x x x f x f -+是曲线y ＝)(x f 过点))(,(00x f x 的切线而得名 的，求)(x f 的零点代之以求)(x l 的零点，即切线)(x l 与x 轴交点的横坐标，如右图所示，这就是牛顿切线法的几何解释。实际上，牛顿迭代法也可以从几何意义上推出。利用牛顿 迭代公式，由k x 得到1+k x ，从几何图形上看，就是过点))(,(k k x f x 作函数)(x f 的切线k l ，切线k l 与x 轴的交点就是1+k x ，所以有1 )()('+-= k k k k x x x f x f ， 整理后也能得出牛顿迭代公式： ) (') (1k k k k x f x f x x - =+。 3、 要保证迭代法收敛，不管非线性方程=)(x f 0的形式如何，总可以构造： )()()(x f x k x x x -==? )0)((≠x k 作为方程求解的迭代函数。因为：)(')()()('1)('x f x k x f x k x --=? 而且)('x ?在根α附近越小，其局部收敛速度越快，故可令：0)('=α? 若≠)('αf 0(即根α不是=)(x f 0的重根)，则由0)('=α?得：)('1 )(ααf k = ， 因此可令 )('1 )(x f x k = ，则也可以得出迭代公式：)(')(1k k k k x f x f x x - =+。 4、 迭代法的基本思想是将方程0)(=x f 改写成等价的迭代形式
非线性方程组的牛顿迭代法的应用
非线性方程组的牛顿迭代法的应用
CENTRAL SOUTH UNIVERSITY 数值分析实验报告
非线性方程组的牛顿迭代法的应用 一、问题背景 非线性是实际问题中经常出现的，并且在科学与工程计算中的地位越来越重要，很多我们熟悉的线性模型都是在一定条件下由非线性问题简化的，为得到更符合实际的解答，往往需要直接研究非线性科学，它是21世纪科学技术发展的重要支柱，非线性问题的数学模型有无限维的如微分方程，也有有限维的。道遥咏计算机进行科学计算都要转化为非线性的单个方程或方程组的求解。从线性到非线性是一个质的变化，方程的性质有本质不同，求解方法也有很大差别。本文主要介绍的是非线性方程组的牛顿迭代法的数值解法。 二、数学模型 对于方程()0=x f ，如果()x f 湿陷性函数，则它的求根是容易的。牛顿法实质上是一种线性化方法，其基本思想是将线性方程()0=x f 逐步归结为某种线性方程来求解。 设已知方程()0=x f 有近似根k x （假定()0'≠k x f ），将函数()x f 在点k x 展开，有 ()()()()k k k x x x f x f x f -+≈'， 于是方程()0=x f 可近似地表示为 ()()()0'=-+k k k x x x f x f 这是个线性方程，记其根为1+k x ，则1+k x 的计算公式 () () k k k k x f x f x x ' 1- =+， ,1,0=k 这就是牛顿法。 三、算法及流程 对于非线性方程 ()()()???? ????????=n n n n x L x x f M x L x x f x L x x f f ,,,,,,,,,2 12 12211 在()k x 处按照多元函数的泰勒展开，并取线性项得到
牛顿-拉夫森(Newton-Raphson)迭代法 2
§3.4 牛顿迭代法 牛顿迭代法也称为牛顿-拉夫森(Newton-Raphson)迭代法，它是数值分析中最重要的方法之一，它不仅适用于方程或方程组的求解，还常用于微分方程和积分方程求解。 3.4.1 牛顿迭代法 用迭代法解非线性方程时，如何构造迭代函数是非常重要的，那么怎样构造的迭代函数才能保证迭代法收敛呢？牛顿迭代法就是常用的方法之一，其迭代格式的来源大概有以下几种方式： 1设 ],[)(2b a C x f ∈，对)(x f 在点],[0b a x ∈作泰勒展开： !2))((''))((')()(2 0000x x f x x x f x f x f -+-+=ξ 略去二次项，得到)(x f 的线性近似式： ))((')()(000x x x f x f x f -+≈。 由此得到方程=)(x f 0的近似根(假定 ≠)('0x f 0)，)(')(000x f x f x x -= 即可构造出迭代格式(假定≠)('k x f 0)：)(') (1k k k k x f x f x x -=+ 公式(3.4.1) 这就是牛顿迭代公式，若得到的序列{k x }收敛于α，则α就是非线性方程的根。 2 牛顿迭代法也称为牛顿切线法，这是由于)(x f 的线 性化近似函数)(x l ＝))((')(000x x x f x f -+是曲线y ＝ )(x f 过点))(,(00x f x 的切线而得名的，求)(x f 的零点代之 以求)(x l 的零点，即切线)(x l 与x 轴交点的横坐标，如右图 所示，这就是牛顿切线法的几何解释。实际上，牛顿迭代法 也可以从几何意义上推出。利用牛顿迭代公式，由k x 得到1+k x ，从几何图形上看，就是过点))(,(k k x f x 作函数)(x f 的切线k l ，切线k l 与x 轴的交点就是1+k x ，所以有 1)()('+-=k k k k x x x f x f ，整理后也能得出牛顿迭代公式： )(') (1k k k k x f x f x x -=+。 3 要保证迭代法收敛，不管非线性方程=)(x f 0的形式如何，总可以构造： )()()(x f x k x x x -==? )0)((≠x k ？ 作为方程求解的迭代函数。因为：)(')()()('1)('x f x k x f x k x --=? 而且)('x ?在根α附近越小，其局部收敛速度越快，故可令：0)('=α?
线性方程组的迭代法应用及牛顿迭代法的改进
线性方程组的迭代法应用及牛顿迭代法的改进 摘要: 迭代解法就是通过逐次迭代逼近来得到近似解的方法。由于从不同 的问题而导出的线性代数方程组的系数矩阵不同，因此对于大型稀疏矩阵所对应线性代数方程组，用迭代法求解。本文论述了Jacobi 法，Gauss-Seidel 法，逐次超松弛法这三种迭代法，并在此基础上对牛顿型的方法进行了改进，从而使算法更为精确方便。 关键词:线性方程组，牛顿迭代法，Jacobi 法，Gauss-Seidel 法，逐次超松弛 法 1.线性方程组迭代法 1.1线性方程组的迭代解法的基本思想 迭代法求解基本思想:从某一初始向量X （0）=[x 1(0) ,x 2(0) ,……………x n (0) ]出发，按某种迭代规则，不断地对前一次近似值进行修改，形成近似解的向量{X (k)}。当近似解X (k) =[x 1(k) ,x 2(k) ,……………x n (k) ]收敛于方程组的精确解向量X* =[x 1*,x 2*,……………x n *]时，满足给定精度要求的近似解向量X (k)可作为X*的数值解。 1.2 线性方程组的迭代法主要研究的三个问题 (1) 如何构造迭代公式 (2) 向量数列{X (k)}的收敛条件 (3) 迭代的结束和误差估计 解线性方程组的迭代解法主要有简单迭代法、 Gauss-Seidel 法和SOR 法。简单迭代法又称同时代换法或Jacobi 法，是最简单的解线性方程组的迭代解法也是其他解法的基础。 1.3Jacobi 迭代法 设方程组点系数矩阵n n j A ai R ???=∈??满足条件0ii a ≠，i=0,1,2, …n 。把A 分解为 A=D+L+U
梯度下降法、牛顿迭代法、共轭梯度法
(1) (5) 梯度下降法、牛顿迭代法、共轭梯度法 （参见：神经网络->PGM-ANN-2009-C09性能优化） 优化的目的是求出目标函数的最大值点或者最小值点，这里讨论的是迭代的方法 梯度下降法 首先，给定一个初始猜测值 ，然后按照等式 逐步修改猜测。这里向量 ？ k 代表一个搜索方向，一个大于零的纯量 〉k 为学习 速度，它确定了学习步长。 当用 工k 二 X k a k P k 进行最优点迭代时，函数应该在每次迭代时 都减小，即 F （、 k 1 ■ F （二 k ） 考虑 的F （X ）在X k 的一阶泰勒级数展开: F （工 k J = F （乂 「 -< k ） （4） 其中， g T 为在旧猜测值X k 处的梯度 (2) * T" F(x)二 F(x) 'F(x) =*(X - x *) 1 (X - X * ) 2 2 F (x) (3) F (工 k ) g ： *
(1) (5) g k = ▽ F （x ） x=x k 要使 F （工 k -1V : F k ） 只需要（4）中右端第二项小于 0，即
T g T k k k k k （ 6） （6） 选择较小的正数:A 。这就隐含g ：P k o ° 满足g ：P k 0的任意向量成为一个下降方向。如果沿着此方向取足够小步长，函数一 定递减。并且，最速下降的情况发生在 g ： P k 最小的时候，容易知道，当P k = -g k 时g ：P k 最 小，此时，方向向量与梯度方向相反。 在（1式中，令P k =-g k ，则有 k 1 X k a k g k （ 7） 对于式（7）中学习速率的选取通常有两种方法：一种是选择固定的学习速率 ：“, 另一种方法是使基于学习速率 的性能指数或目标函数 F （X ki ）在每次迭代中最小化，即 沿着梯度反方向实现最小化： X k1 = X k -，k g k ° 注意: 1、对于较小的学习速度最速下降轨迹的路径总是与轮廓线正交，这是因为梯度与轮廓 线总是正交的。 2 、如果改变学习速度，学习速度太大，算法会变得不稳定，振荡不会衰减，反而会增 大。 3、稳定的学习速率 对于任意函数，确定最大可行的学习速度是不可能的，但对于二次函数，可以确定 一个上界。令特 征函数为： 1 X T AX d T X c 2 I F(X)二 AX d 代入最速下降法公式（7）中 X k 1 二 X k -a k g k 二 X k -ajAX k d) = (I -a k A ) X k -a k d ( 9) 在动态系统中，如果矩阵［I -aA ］的特征值小于 1则该系统是稳定的。可用赫森矩阵 A 的特征值来表示该矩阵的特征值，假设 A 的特征值和特征向量分别为 匚仆’2, 'n ［和 立,Z 2,…Z n 二那么 g F(x)二 (8) 那么梯度为
利用牛顿迭代法求解非线性代数方程组
利用牛顿迭代法求解非线性代数方程组 一、 问题描述 在实际应用的很多领域中，都涉及到非线性方程组的求解问题。由于方程的非线性，给我们解题带来一定困难。牛顿迭代法是求解非线性方程组的有效方法。下面具体对牛顿迭代法的算法进行讨论，并通过实例理解牛顿迭代法。 二、 算法基本思想 牛顿迭代法求解非线性代数方程组的主要思想是将非线性函数线性化。下面我们具体讨论线性化过程： 令： ()()()()?? ?? ????????=????? ???????=????????????=0000,,2121 n n x x x x x f x f x f x F （3-1） 则非线性方程组（3-2） ()()()0 ,,,0 ,,,0,,,21212211===n n n n x x x f x x x f x x x f （3-2） 可写为向量形式 ()0=x F （3-3） ？ ()0=x F 成为向量函数。
设()()() ()k n k k x x x ,,,2 1 是方程组（3-2）的一组近似解，把它的左端在()()() ()k n k k x x x ,,,2 1 处用多元函数的泰勒展式展开，然后取线性部分，便得方程组（3-2）得近似方程组 ()()() ( ) ()()() () ()()()() ( )()()() () ()()() () ( ) ()()() () ()0 ,,,,,,0 ,,,,,,0 ,,,,,,1 21211 2122121 211211=???+=???+=???+∑∑∑===k j n j k n k k n k n k k n k j n j k n k k k n k k k j n j k n k k k n k k x x x x x f x x x f x x x x x f x x x f x x x x x f x x x f （3-4） 这是关于()()()n i x x x k i i k i ,,2,1 =-=?的线性方程组，如果它的系数矩阵 ????????? ???????????????????????????????n n n n n n x f x f x f x f x f x f x f x f x f 2 1 2221 2121 11 （3-5） 非奇异，则可解得 () ()()???? ?? ? ???????---?????????? ??????????????????????????????=?????????????????-n n n n n n n k n k k f f f x f x f x f x f x f x f x f x f x f x x x 21 1 2 1 2221 2121 11 21 （3-6） 矩阵（3-5）称为向量函数()x F 的Jacobi 矩阵，记作()x F ' 。又记
牛顿迭代法论文
目录 一牛顿迭代法的简介 (4) 1.1 牛顿迭代法的产生背景 (4) 1.2 牛顿迭代法的概述 (4) 1.3 牛顿迭代法的优点 (4) 二牛顿迭代法的分析 (4) 2.1 牛顿迭代法的思想 (4) 2.2 牛顿迭代法的要求 (5) 2.3 牛顿.迭代法 (6) 三牛顿迭代求根的方法 (7) 四牛顿迭代法具体例子的实现 (7) 伍牛顿迭代法的收敛性 (10) 六、迭代求根应注意的事项 (10) 七、参考文献 (11) 八附录.c语言代码 (13)
题目: 牛顿法---插值方法 摘要: 牛顿迭代法（Newton's method）又称为牛顿-拉夫逊方法（Newton-Raphson method），它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。多数方程不存在求根公式，因此求精确根非常困难，甚至不可能，从而寻找方程的近似根就显得特别重要。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x) = 0的单根附近具有平方收敛，而且该法还可以用来求方程的重根、复根,此时线性收敛，但是可通过一些方法变成超线性收敛。另外该方法广泛用于计算机编程中。牛顿迭代法是一个重要的计算方法和思想。牛顿迭代法的主要功能：计算方程时可以比较快速方便的计算出来结果但并不影响计算出来结果的精确度，运用于多种工业设计和数学设计方面. 关键字: 牛顿迭代方程根算法
一 .牛顿迭代法简介 1.1 牛顿迭代法的产生背景 牛顿迭代法（Newton's method）又称为牛顿-拉夫逊方法（Newton-Raphson method），它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。多数方程不存在求根公式，因此求精确根非常困难，甚至不可能，从而寻找方程的近似根就显得特别重要。方法使用函数f(x)的泰勒级数的前面几项来寻找方程f(x) = 0的根。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x) = 0的单根附近具有平方收敛，而且该法还可以用来求方程的重根、复根,此时线性收敛，但是可通过一些方法变成超线性收敛。另外该方法广泛用于计算机编程中。 1.2 牛顿迭代法的概述 牛顿迭代法（Newton's method）又称为牛顿-拉夫逊方法（Newton-Raphson method），它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。多数方程不存在求根公式，因此求精确根非常困难，甚至不可能，从而寻找方程的近似根就显得特别重要。方法使用函数f(x)的泰勒级数的前面几项来寻找方程f(x) = 0的根。设r是f(x) = 0的根，选取x0作为r初始近似值，过点（x0,f(x0)）做曲线y = f(x)的切线L，L的方程为y = f(x0) f'(x0)(x-x0)，求出L与x轴交点的横坐标 x1 = x0-f(x0)/f'(x0)，称x1为r的一次近似值。过点（x1,f(x1)）做曲线y = f(x)的切线，并求该切线与x轴的横坐标 x2 = x1-f(x1)/f'(x1)，称x2为r的二次近似值。重复以上过程，得r的近似值序列，其中x(n+1)=x(n)－f(x(n))/f'(x(n))，称为r的n+1次近似值，上式称为牛顿迭代公式。解非线性方程f(x)=0的牛顿法是把非线性方程线性化的一种近似方法。把f(x)在x0点附近展开成泰勒级数 f(x) = f(x0)+(x－x0)f'(x0)+(x－x0)^2*f''(x0)/2! +…取其线性部分，作为非线性方程f(x) = 0的近似方程，即泰勒展开的前两项，则有f(x0)+f'(x0)(x－x0)=f(x)=0 设f'(x0)≠0则其解为x1=x0－f(x0)/f'(x0) 这样，得到牛顿法的一个迭代序列：x(n+1)=x(n)－f(x(n))/f'(x(n))。 1.3 牛顿迭代法的优点 迭代法是求方程近似根的一个重要方法，也是计算方法中的一种基本方法，它的算法简单，是用于求方程或方程组近似根的一种常用的算法设计方法。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x) = 0的单根附近具
牛顿-拉夫逊迭代法原理及其实现
牛顿迭代法（简写）就是一种近似求解实数域与复数域求解方程的数学方法。那么这个方法是具体是什么原理呢？ 牛顿迭代如何迭代？ 直接看数学公式描述如何迭代不直观，先来看动图就很容易理解牛顿迭代法为什么叫迭代法以及怎样迭代的： 牛顿迭代法是原理是根据一个初始点在该点做切线，切线与X轴相交得出下一个迭代点的坐标，再在处做切线，依次类推，直到求得满足精度的近似解为止。 由前面描述知道，牛顿迭代法是用来近似求解方程的，这里有两个点需要说明：?为啥要近似求解？很多方程可能无法直接求取其解 ?迭代法非常适合计算机编程实现，实际上计算机编程对于牛顿迭代法广为应用来看看，数学上如何描述的？ 其中为函数在处的一阶导数，也就是该点的切线。 来简单推一推上面公式的由来，直线函数方程为： 知道一个直线的一个坐标点以及斜率则该直线的方程就很容易可以得知：
那么该直线与轴的交点，就是y=0也即等式x 的解： 啥时候停止迭代呢？ 1.计算出 2.给出一个初始假定根值x0,利用上面迭代式子进行迭代 3.计算绝对相对迭代近似误差 4.将绝对相对近似误差与预定的相对误差容限进行比较。如果，则迭 代步骤2，否则停止算法。另外，检查迭代次数是否已超过允许的最大迭代次数。如果是这样，则需要终止算法并退出。另一个终止条件是： 如何编码呢？ 由于牛顿迭代法主要目的是解方程，当然也有可能用于某一个数学函数求极值，所以无法写出通用的代码，这里仅仅给出一个编代码的思路。相信掌握了思路，对于各种实际应用应该能很快的写出符合实际应用的代码。 假定一函数为 其波形图如下： 其一阶导数为：
那么对于该函数的根： 从图上大致可以知道有两个根，如果直接解方程，则很难求出其根，可以编个代码试试： #include
牛顿迭代法在架空线路中的应用
牛顿迭代法在架空线路中的应用 牛顿迭代法（Newton's method ）又称为牛顿-拉夫逊方法（Newton-Raphson method ），它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。多数方程不存在求根公式，因此求精确根非常困难，甚至不可能，从而寻找方程的近似根就显得特别重要。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x) = 0的单根附近具有平方收敛，而且该法还可以用来求方程的重根、复根,此时线性收敛，但是可通过一些方法变成超线性收敛。另外该方法广泛用于计算机编程中。下面就从其原理、几何意义、迭代步骤及实例等方面介绍牛顿迭代法。 一、原理 简单迭代法是用直接的方法从原方程中隐含地解出x ，从而确定出)(x ?。而牛顿迭代法是用一种间接而特殊的方法来确定)(x ?的。下面具体推到牛顿迭代公式。 假设k x 是非线性方程为0)(=x f 的一个近似根，把)(x f 在k x 处作泰勒展开： +-+ -+=2 ' '' )(! 2)())(()()(k k k k k x x x f x x x f x f x f 若取前两项来近似代替)(x f （称为)(x f 的线性化），则得近似的线性方程 0))(()()(' =-+≈k k k x x x f x f x f 设0)(' ≠k x f ，令其解为1+k x ，则得 ) ()(' 1k k k k x f x f x x -=+ （1） 这称为0)(=x f 的牛顿迭代公式。 它对应的迭代方程为) ()(' x f x f x x -=显然是0)(=x f 的同解方程，故其迭代函数为 ) ()()(' k k k x f x f x x - =? （0)(' ≠x f ） 在0)(=x f 的根α的某个邻域)|(|δα≤-x R 内，0)(≈x f 1| )('|| )(||)(||)(|2 ' '' <≤?= L x f x f x f x ?
牛顿迭代法
一 .牛顿迭代法简介 1.牛顿迭代法的产生背景 牛顿迭代法（Newton's method）又称为牛顿-拉夫逊方法（Newton-Raphson method），它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。多数方程不存在求根公式，因此求精确根非常困难，甚至不可能，从而寻找方程的近似根就显得特别重要。方法使用函数f(x)的泰勒级数的前面几项来寻找方程f(x)=0的根。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x)=0的单根附近具有平方收敛，而且该法还可以用来求方程的重根、复根,此时线性收敛，但是可通过一些方法变成超线性收敛。另外该方法广泛用于计算机编程中。 利用牛顿迭代法来解决问题需要做好的工作： （1）确定迭代变量。在可以用迭代算法解决的问题中，至少存在一个直接或间接地不断由旧值递推出新值的变量，这个变量就是迭代变量。 （2）建立迭代关系式。所谓迭代关系式，指如何从变量的前一个值推出其下一个值的公式（或关系）。迭代关系式的建立是解决迭代问题的关键，通常可以使用递推或倒推的方法来完成。 （3）对迭代过程进行控制。在什么时候结束迭代过程？这是编写迭代程序必须考虑的问题。不能让迭代过程无休止地重复执行下去。迭代过程的控制通常可分为两种情况：一种是所需的迭代次数是个确定的值，可以计算出来；另一种是所需的迭代次数无法确定。对于前一种情况，可以构建一个固定次数的循环来实现对迭代过程的控制；对于后一种情况，需要进一步分析出用来结束迭代过程的条件。 2.牛顿迭代法的概述 牛顿迭代法（Newton's method）又称为牛顿-拉夫逊方法（Newton-Raphson method），它是牛顿在17世纪提出的一种在实数域和复数域上近似求解方程的方法。多数方程不存在求根公式，因此求精确根非常困难，甚至不可能，从而寻找方程的近似根就显得特别重要。方法使用函数f(x)的泰勒级数的前面几项来寻找方程f(x)=0的根。设r是f(x)=0的根，选取x0作为r初始近似值，过点（x0,f(x0)）做曲线y=f(x)的切线L，L的方程为y=f(x0)f'(x0)(x-x0)，求出L与x轴交点的横坐标 x1=x0-f(x0)/f'(x0)，称x1为r的一次近似值。过点（x1,f(x1)）做曲线y=f(x)的切线，并求该切线与x轴的横坐标 x2=x1-f(x1)/f'(x1)，称x2为r的二次近似值。重复以上过程，得r的近似值序列，其中x(n+1)=x(n)－f(x(n))/f'(x(n))，称为r的n+1次近似值，上式称为牛顿迭代公式。解非线性方程f(x)=0的牛顿法是把非线性方程线性化的一种近似方法。把f(x)在x0点附近展开成泰勒级数 f(x)=f(x0)+(x－x0)f'(x0)+(x－x0)^2*f''(x0)/2! +…取其线性部分，作为非线性方程f(x) = 0的近似方程，即泰勒展开的前两项，则有f(x0)+f'(x0)(x－x0)=f(x)=0 设f'(x0)≠0则其解为x1=x0－f(x0)/f'(x0) 这样，得到牛顿法的一个迭代序列：x(n+1)=x(n)－f(x(n))/f'(x(n))。 3.牛顿迭代法的优点 迭代法是求方程近似根的一个重要方法，也是计算方法中的一种基本方法，它的算法简单，是用于求方程或方程组近似根的一种常用的算法设计方法。牛顿迭代法是求方程根的重要方法之一，其最大优点是在方程f(x)=0的单根附近具