梯度法和共轭梯度法

如何选择下降最快的方向？
f ( x k ) 函数值增加最快的方向
xk
函数值下降的方向
f ( x k ) 函数值下降最快的方向
梯度法（最速下降法）：
1. 搜索方向： k f ( x k ) , 也称为最速下降方向； d

2. 搜索步长 : k 取最优步长, 即满足 f ( x k k d k ) min f ( x k d k ) 。

则有 f ( x k k d k )T d k 0 。
令 ( ) f ( x k d k )， 所以 证明：
( ) f ( x k d k )T d k .
f ( x k k d k ) min f ( x k d k )

(k ) f ( x k k d k )T d k 0 .
则下一个搜索方向 d ( k 1)按如下方式确定:
令 d ( k 1) g k 1 k d ( k ) (1)
如何确定 k？
要求 d ( k 1) 和 d ( k ) 关于 A共轭。
则在（ ）式两边同时左乘 d 1
0d
( k )T
( k )T
A ，得
A d (k )
Ad
注： 因为梯度法的搜索方向 k 1 f ( x k k d k )， d 所以
(d k 1 )T d k 0 d k 1 d k 。
锯齿现象
在极小点附近，目标函 数可以用二次函数近似 ，其等值面近似
椭球面。
x2 x3

x*
x1
注
最速下降方向反映了目 标函数的一种局部性质 它只是 。
(1) d
( i )T
Ad ( j ) 0 , j 1 , 2 ,, i 1;
( 2) g i T g j 0 , j 1 , 2 , , i 1 ;
( 3) giT d ( i ) giT g i 。
注 （1）由定理3 可知搜索方向d (1) , d ( 2) ,, d ( m) 是 A 共轭的。
d (1) 是 R n中的一个方向，
x ( 0) 沿着d (1) 以最优步长 搜索得到点 x (1) 。
o
x
x (0)
d ( 1)
d
( 2)
x (1) x1
则 d ( 1 )是点 x ( 1 )所在等值面的切向量。
该等值面在点 x ( 1 ) 处的法向量为f ( x 1 )
f ( x (1) ) A( x (1) x ) . 则 d (1) 与 f ( x (1) ) 正交， 即 d
局部目标函数值下降最 快的方向。 最速下降法是线性收敛 的算法。
三、共轭方向法
1. 何谓共轭方向？
几何解释
1 f ( x ) ( x x )T A( x x ) 设有二次函数 2
其中 A 是 n n 对称正定矩阵，
x 是一个定点。
则函数 f ( x ) 的等值面
1 ( x x )T A( x x ) c 2
x
是以 x 为中心的椭球面。
由于 f ( x ) A( x x ) 0 , 而
1 f ( x ) ( x x )T A( x x ) 2
2 f ( x ) A,
x
因为A 正定， 所以 2 f ( x ) A 0 ,
因此 x 是 f ( x ) 的极小点。
设 x ( 0) 是在某个等值面上的一点，
(2) 算法中第一个搜索方向 必须取负梯度方向，否 则构造的搜索 方向不能保证共轭性。
T (i ) T 2 (3) 由定理3的（3）可知， g i d g i g i || g i || 0 ,
所以 d ( i )是迭代点 x ( i ) 处的下降方向。
(4) 由定理3 ， 算法中 i的计算公式可以简化。 FR

令 ( ) 8 ( 2 4 ) 36( 1 6 ) 0 1
36 8 T x x 1d ( , ) 31 31
2 1 1
13 62
收敛性
步长 k 满足 性质. 设 f ( x ) 有一阶连续偏导数，若
f ( x k k d k ) min f ( x k d k )
n 次迭代必可得到最优解 。
如何选取一组共轭方向？
四. 共轭梯度法 ：
二次函数情形 非二次函数情形
1、 二次函数情形
Fletcher R eeves 共轭梯度法:
1 T x Ax bT x c 2 其中 x R n , A是对称正定矩阵， R n， 是常数。 b c min f ( x)
(1)T
( 2)
d ( 1)
x
f ( x
(1)
) 0。
d
1
( 2)
x (1) x1
o f ( x )源自令 d所以 x x ,
(1)
d (1)T Ad ( 2) 0 。
即等值面上一点处的切 向量与由这一点 指向极 小点的向量关于 A 共轭。
2. 共轭方向
定义 设 A 是 n n 的对称正定矩阵，对于 Rn中的两个非零向量 d 1 和 d 2，
min

f ( x ( k ) d ( k ) ) 。
( ) f ( x ( k ) d ( k ) ) ,
( ) f ( x ( k ) d ( k ) )T d ( k ) 0，
[ A ( x ( k ) d ( k ) ) b ]T d ( k ) 0，
x ( k 1 ) x ( k ) k d ( k ) f ( x ( k ) d ( k ) ) min f ( x ( k ) d ( k ) ) k
直到某个 x ( k ) 满足 f ( x ( k ) ) 0。
注 由定理2可知，利用共轭方向法 求解上述极小化问题， 至多经过
( k 1)
d
( k )T
Ag k 1 k d
( k )T
解得 k
d ( k ) A g k 1 d
( k )T
T
Ad
(k )
( 2)
(3) 搜索步长的确定 :
已知迭代点 x ( k )和搜索方向d ( k ) , 利用一维搜索确定最优步长 k ，
即求解
记 令 即有
i 1

k
id i 0,
jT
上式两边同时左乘 d
i 1 k
A ，则有

k
id
jT
jT
Ad i 0 ,
因为 d 1 , d 2 ,, d 是 k 个 A 共轭的向量，所以上式可化简为
jd
j
Ad j 0 .
jT
因为 d 0 , 而 A是正定矩阵，所以d
所以
Ad j 0，
j 0 , j 1 , 2 , , k 。
注：如果A是单位矩阵，则
d
1T
I d 0 d
2
1T
d2 0
d1 d 2
共轭是正交的推广。
d 定理 1. 设 A是 n阶对称正定矩阵， 1 , d 2 ,, d k 是 k 个 A 共轭的非零
向量，则这个向量组线 性无关。
证明
设存在实数 1 , 2 ,, k ，使得
T
g i f ( x ( i ) ) A x ( i ) b .
i g i 1T ( g i 1 g i ) d
( i )T
( g i 1 g i )

d 1 f ( x 1 ) ( 4 , 6 )T . x 1 d 1 ( 2 4 , 1 6 )T . 令 ( ) f ( x 1 d 1 ) ( 2 4 ) 2 3 ( 1 6 ) 2 ，
求解 min ( )

4. 令 x k 1 x k k d k , 令 k : k 1 , 转2。
2 2 例. 用最速下降法求解 : min f ( x ) x1 3 x2 , 设初始点为 x1 ( 2 ,1 )T ,
求迭代一次后的迭代点 x 2 。
解： f ( x ) ( 2 x1 , 6 x2 )T ,
得到点 x ( 2) , x ( 3) ,, x ( k 1) , 则 x ( k 1) 是函数 f ( x )在 x (1) Bk 上的
极小点，其中
Bk { x | x i d ( i ) , i R }
i 1
k
是由 d (1) , d ( 2) ,, d ( k ) 生成的子空间。特别地， k n时， ( n1)是 当 x f ( x )在R n上的唯一极小点。
基本思想： 将共轭性和最速下降方 向相结合，利用已知迭 代点
处的梯度方向构造一组 共轭方向，并沿此方向 进行搜索，求出
函数的极小点。
以下分析算法的具体步骤。
(1) 任取初始点 x (1)，第一个搜索方向取为 d (1) f ( x (1) ) ；
( 2) 设已求得点 x ( k 1) ， f ( x ( k 1) ) 0 ， g k 1 f ( x ( k 1) ) ， 若 令
梯度法算法步骤：
1. 给定初始点 x 1 R n , 允许误差 0 , 令k 1 。 2. 计算搜索方向 d k f ( x k ) ;
3. 若|| d k || , 则停止计算， k 为所求极值点； x 否则，求最优步长 k
使得 f ( x k k d k ) min f ( x k d k )。
因此 d 1 , d 2 ,, d k 线性无关。