第六章 基于有限马尔可夫链的收敛性分析
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(*1 * **) 2 2 0
6.1 模式定理
定义6.4 设s是一个长度为 l 的二进制位串，H是 一个长度为 l 的模式，若 s H , 则称s与模式H匹 配。 例6.4 二进制位串00与下列模式匹配：00，*0， 0*，**。 二进制位串110与下列模式匹配：110，*10，1*0， 11*，**0，*1*，1**，***。 显然一个长度为 l 的二进制位串与 2 l 个不同的 模式匹配。
pij pi ( t 1), j 1, 2, , n
i 1
n
i 1 n
( p1 ( t ), p2 ( t ), , pn ( t )) ( p1 ( t 1), p2 ( t 1), , pn ( t 1)) P
( p1 ( t 2), p2 ( t 2), , pn ( t 2)) P 2
第六章
遗传算法的理论基础
武汉大学计算机学院
6.1 模式定理
模式定理是由Holland所提出的，其目的是从理 论上解释遗传算法的有效性。 Holland的模式定理是针对简单遗传算法(SGA) 而言的，即假定在遗传算法中，种群的规模不 变，使用二进制编码、基于适应值比例的选择 策略、单点杂交算子和通常的变异算子。 定义6.1字符集{0,1,*}上的一个字符串称为一个 模式。
6.2基于有限马尔可夫链的收敛性分析
若转移概率与时间t无关，即对任 ai , a j S 和任两 时刻 t1 , t2 都有 pij ( t1 ) pij ( t2 ) pij , 则称该马尔可夫 链是齐次的，此时称 P ( pij ) nn 为该齐次马尔可夫 链的转移矩阵。
pc
(H )
l 1
因而，属于模式H的个体经杂交后仍属于模式H 的概率至少为 (H )
1 pc l 1
6.1 模式定理
由于选择和杂交是相互独立的，所以经过选择 和杂交后种群中近似地有
M(H , t) f (H , t) (H ) 1 pc f (t ) l 1
P ( xk 1 a j | x0 ai , x1 ai , , xk 1 ai
0 1 k 1
, xk ai )
P ( xk 1 a j | xk ai )
则称 { xt : t 0,1,2, } 为有限马尔可夫链。 条件概率 P ( xt 1 a j | xt ai ) 称为该马尔可夫链在时刻 t处于状态 ai 的条件下，在时刻t+1转移到状态 a j 的转移概率，记为 pij (t ) 。
6.1 模式定理
值得注意的是原来属于H中的个体经杂交后也有 可能仍然属于H。例如 若在上面的例子中 111000与001100进行杂交，杂交位置仍为3，那 么杂交后所得到的两个子串为111100和001000， 其中后代111100仍然属于H。
6.1 模式定理
由上所述，属于模式H的个体经杂交后不属于模 式H的概率至多为
p j ( t ) p{ xt a j }, j 1, 2, , n
一维分布可以表示为向量形式
p( t ) ( p1 ( t ), p2 ( t ), , pn ( t ))
6.2基于有限马尔可夫链的收敛性分析
p j ( t ) p{ xt a j }
P ( xt a j | xt 1 ai )P ( xt 1 ai )
( p1 (0), p2 (0), , pn (0)) P t p(0) P t
6.2基于有限马尔可夫链的收敛性分析
由上式知，有限齐次马尔可夫链在任一时刻t的 分布由初始分布和转移矩阵所确定。 定义6.7设 A ( aij ) R nn是一个n阶矩阵，
(1) 若 aij 0, i 1, , n; j 1, , n, 则称A是非负的,
f (H , t) (H ) M ( H , t 1) M ( H , t ) 1 pc o( H ) pm f (t ) l 1
其中 f (t ) 为P(t)中个体的平均适应值，为个体的 l 编码长度。
6.1 模式定理
证 首先考虑选择对模式H的影响。 由于SGA采用基于适应值比例的选择策略，所以 在第t代种群 P (t ) 中，与H匹配的个体被选择作 为父体的个数的期望值为
N
v H P ( t )
v P ( t )
f (v ) M(H , t) M(H , t) f (v ) f (v )
v H P ( t ) v P ( t )
f (v )
M(H , t) f (H , t) f (t )
N
6.1 模式定理
再考虑杂交算子对模式的影响。 杂交算子随机地选取1到 l 1 中的一个位置，并 交换两个父体中所选取位置右边的子串。显然， 若选取的杂交位置不在模式H的第一个确定位置 和最后一个确定位置之间，那么原来属于H中的 个体经杂交后仍然属于H。 若所选取的杂交位置在模式H的第一个确定位置 和最后一个确定位置之间，那么原来属于H中的 个体经杂交后有可能不再属于H。
பைடு நூலகம்
于是推论成立。
6.1 模式定理
例如，
P(t ) {001101 101011 100100 111000,001100,101100 , , , }
H *1* * * 0 *
那么有 111000 H , 若111000与101011进行杂交， 且随机选择的杂交位置为3，杂交后所得到的两 个后代分别为111011和101000，这两个后代均 不属于H。
记为 A 0 (2) 若 aij 0, i 1, , n; j 1, , n, 则称A是正的, 记 为A0
6.2基于有限马尔可夫链的收敛性分析
定义6.8 设 A ( aij ) 是n阶非负矩阵， (1) 若存在正整数k, 使得 Ak 是正的, 则称A是本原的 (2) 若存在方阵C，T，使得通过相同的行和列的置 换可将矩阵A变换成形式
6.2基于有限马尔可夫链的收敛性分析
定义6.6设 { xt : t 0,1,2, } 是一随机变量序列, 随机 变量 xt ( t 0,1,2, ) 在有限状态空间 S {a1 , a2 , , an }上 取值。若对任意k 0 及 ai , a j , ai0 , ai1 , , aik 1 S , 都有
6.1 模式定理
定义6.5 假设 P ( t ) {v1 ( t ), v2 ( t ), , v N (t )} 表示 SGA在第t代时的种群，f 为SGA所使用的适应 函数，H为任一模式，则称P(t)中与模式H匹配 的个体的平均适应值为模式H在第t代的适应值， 记为 f ( H , t ), 即有
(1 pm )o ( H )
因此，经选择、杂交、变异操作后，第t+1代中 包含模式H的个体数目 M ( H , t 1) 有以下估计式：
f (H , t) (H ) 1 pc (1 pm )o ( H ) f (t ) l 1
M ( H , t 1) M ( H , t )
6.1 模式定理
在一个模式中，*表示一个不确定的字符，即表 示0或1，所以一个模式可以表示一个二进制位 串的集合。 例6.1 模式*0101表示集合{00101,10101}，而模 式0**1*表示集合{00010，00011，00110，00111， 01010，01011，01110，01111}。 在一个模式中，字符0或1所出现的位置称为确 定位置，字符*所出现的位置称为不确定位置。
6.1 模式定理
当 K 1 时，由定理2.1知
M(H , t) f ( H , t 1) o( H ) M ( H , t 1) 1 pc l 1 o( H ) pm f ( t 1) M ( H , t 1) K M ( H ,0) K t
n n aik bkj aik bkj aik bkj aik 1 j 1 k 1 k 1 j 1 k 1 j 1 k 1
n
n
n
n
n
若 P ( pij ) nn 是一有限齐次马尔可夫链的转移矩阵， n 那么有 0 pij 1 且有 pij 1, i 1,2, , n
j 1
6.2基于有限马尔可夫链的收敛性分析
设 { xt : t 0,1, 2, } 是一有限齐次马尔可夫链，对任 一时刻 t ( t 0,1,2,), 该马尔可夫链在时刻t的一维 分布定义为
1 f (H , t) H P (t )
vH P ( t )
f (v )
6.1 模式定理
例6.5 假定当前种群中的个体及适应值如表6.1 所示，则模式H及其适应值如表6.2所示。
表6.1 个体及其适应值 个体 101 100 010 110 适应值 5 1 2 3 表6.2 模式及其适应值 f(H,t) (5+1+2+3)/4=2.75
6.1 模式定理
推论6.1 在SGA中，定义长度较短、低阶且适应 值大于种群平均适应值的模式H，在种群中的数 目呈指数增长。
证 设对任意 t t , 都有
f ( H , t ) C f (t )
其中C为一个常数。并设
(H ) K C 1 pc o( H ) pm l 1
(
H
*** **0 *1* *00
1+2+3)/3=2 (2+3)/2=2.5 1/1=1
6.1 模式定理
定理6.1(模式定理) 设 P (t ) {v1 (t ), v2 (t ), , v N (t )} 表示SGA在第t代时的种群，SGA的杂交概率和 变异概率分别为 pc 和 pm，H为任一模式， ( H , t ) M 表示第t代种群 P (t ) 中与H匹配个体的个数，则有 估计式
个与H匹配的个体。
6.1 模式定理
最后讨论变异算子对模式H的影响。 对于一个属于模式H的个体v，变异算子以概率 pm 对v的每一位相互独立地进行变异，当且仅当变 异算子在H的 o(H ) 个确定位置上不对v进行变异 时，经变异算子后所得到的个体仍然属于H。因 为对v的某一位进行变异的概率为 pm , 所以对某 一位不进行变异的概率为 1 pm , 于是属于模式H 中个体v经变异后仍然属于模式H的概率为
f (H , t) (H ) M(H , t) 1 pc l 1 (1 o( H ) pm ) (若pm 1) f (t ) f (H , t) (H ) M(H , t) 1 pc o( H ) pm f (t ) l 1
6.1 模式定理
定义6.2 模式H中确定位置的个数称为模式H的 阶，记为 o(H ) 。 例6.2 o(*0101) 4, o(0 * *1*) 2 定义6.3 模式H中第一个确定位置与最后一个确 定位置之间的距离称为模式H的定义长度，记为
(H ).
例6.3 (*0101) 5 2 3, (0 * 1 * **) 3 1 2,
C 0 R T
则称A是可约的，否则称A为不可约的； (3) 若 aij 1, i 1,2, , n 则称A是随机的
j 1 n
6.2基于有限马尔可夫链的收敛性分析
显然, 每个正矩阵都是本原的
引理6.1 若A，B是n阶随机矩阵，则AB也是n阶 随机矩阵。 证 矩阵AB第i行元素之和为
6.1 模式定理
定义6.4 设s是一个长度为 l 的二进制位串，H是 一个长度为 l 的模式，若 s H , 则称s与模式H匹 配。 例6.4 二进制位串00与下列模式匹配：00，*0， 0*，**。 二进制位串110与下列模式匹配：110，*10，1*0， 11*，**0，*1*，1**，***。 显然一个长度为 l 的二进制位串与 2 l 个不同的 模式匹配。
pij pi ( t 1), j 1, 2, , n
i 1
n
i 1 n
( p1 ( t ), p2 ( t ), , pn ( t )) ( p1 ( t 1), p2 ( t 1), , pn ( t 1)) P
( p1 ( t 2), p2 ( t 2), , pn ( t 2)) P 2
第六章
遗传算法的理论基础
武汉大学计算机学院
6.1 模式定理
模式定理是由Holland所提出的，其目的是从理 论上解释遗传算法的有效性。 Holland的模式定理是针对简单遗传算法(SGA) 而言的，即假定在遗传算法中，种群的规模不 变，使用二进制编码、基于适应值比例的选择 策略、单点杂交算子和通常的变异算子。 定义6.1字符集{0,1,*}上的一个字符串称为一个 模式。
6.2基于有限马尔可夫链的收敛性分析
若转移概率与时间t无关，即对任 ai , a j S 和任两 时刻 t1 , t2 都有 pij ( t1 ) pij ( t2 ) pij , 则称该马尔可夫 链是齐次的，此时称 P ( pij ) nn 为该齐次马尔可夫 链的转移矩阵。
pc
(H )
l 1
因而，属于模式H的个体经杂交后仍属于模式H 的概率至少为 (H )
1 pc l 1
6.1 模式定理
由于选择和杂交是相互独立的，所以经过选择 和杂交后种群中近似地有
M(H , t) f (H , t) (H ) 1 pc f (t ) l 1
P ( xk 1 a j | x0 ai , x1 ai , , xk 1 ai
0 1 k 1
, xk ai )
P ( xk 1 a j | xk ai )
则称 { xt : t 0,1,2, } 为有限马尔可夫链。 条件概率 P ( xt 1 a j | xt ai ) 称为该马尔可夫链在时刻 t处于状态 ai 的条件下，在时刻t+1转移到状态 a j 的转移概率，记为 pij (t ) 。
6.1 模式定理
值得注意的是原来属于H中的个体经杂交后也有 可能仍然属于H。例如 若在上面的例子中 111000与001100进行杂交，杂交位置仍为3，那 么杂交后所得到的两个子串为111100和001000， 其中后代111100仍然属于H。
6.1 模式定理
由上所述，属于模式H的个体经杂交后不属于模 式H的概率至多为
p j ( t ) p{ xt a j }, j 1, 2, , n
一维分布可以表示为向量形式
p( t ) ( p1 ( t ), p2 ( t ), , pn ( t ))
6.2基于有限马尔可夫链的收敛性分析
p j ( t ) p{ xt a j }
P ( xt a j | xt 1 ai )P ( xt 1 ai )
( p1 (0), p2 (0), , pn (0)) P t p(0) P t
6.2基于有限马尔可夫链的收敛性分析
由上式知，有限齐次马尔可夫链在任一时刻t的 分布由初始分布和转移矩阵所确定。 定义6.7设 A ( aij ) R nn是一个n阶矩阵，
(1) 若 aij 0, i 1, , n; j 1, , n, 则称A是非负的,
f (H , t) (H ) M ( H , t 1) M ( H , t ) 1 pc o( H ) pm f (t ) l 1
其中 f (t ) 为P(t)中个体的平均适应值，为个体的 l 编码长度。
6.1 模式定理
证 首先考虑选择对模式H的影响。 由于SGA采用基于适应值比例的选择策略，所以 在第t代种群 P (t ) 中，与H匹配的个体被选择作 为父体的个数的期望值为
N
v H P ( t )
v P ( t )
f (v ) M(H , t) M(H , t) f (v ) f (v )
v H P ( t ) v P ( t )
f (v )
M(H , t) f (H , t) f (t )
N
6.1 模式定理
再考虑杂交算子对模式的影响。 杂交算子随机地选取1到 l 1 中的一个位置，并 交换两个父体中所选取位置右边的子串。显然， 若选取的杂交位置不在模式H的第一个确定位置 和最后一个确定位置之间，那么原来属于H中的 个体经杂交后仍然属于H。 若所选取的杂交位置在模式H的第一个确定位置 和最后一个确定位置之间，那么原来属于H中的 个体经杂交后有可能不再属于H。
பைடு நூலகம்
于是推论成立。
6.1 模式定理
例如，
P(t ) {001101 101011 100100 111000,001100,101100 , , , }
H *1* * * 0 *
那么有 111000 H , 若111000与101011进行杂交， 且随机选择的杂交位置为3，杂交后所得到的两 个后代分别为111011和101000，这两个后代均 不属于H。
记为 A 0 (2) 若 aij 0, i 1, , n; j 1, , n, 则称A是正的, 记 为A0
6.2基于有限马尔可夫链的收敛性分析
定义6.8 设 A ( aij ) 是n阶非负矩阵， (1) 若存在正整数k, 使得 Ak 是正的, 则称A是本原的 (2) 若存在方阵C，T，使得通过相同的行和列的置 换可将矩阵A变换成形式
6.2基于有限马尔可夫链的收敛性分析
定义6.6设 { xt : t 0,1,2, } 是一随机变量序列, 随机 变量 xt ( t 0,1,2, ) 在有限状态空间 S {a1 , a2 , , an }上 取值。若对任意k 0 及 ai , a j , ai0 , ai1 , , aik 1 S , 都有
6.1 模式定理
定义6.5 假设 P ( t ) {v1 ( t ), v2 ( t ), , v N (t )} 表示 SGA在第t代时的种群，f 为SGA所使用的适应 函数，H为任一模式，则称P(t)中与模式H匹配 的个体的平均适应值为模式H在第t代的适应值， 记为 f ( H , t ), 即有
(1 pm )o ( H )
因此，经选择、杂交、变异操作后，第t+1代中 包含模式H的个体数目 M ( H , t 1) 有以下估计式：
f (H , t) (H ) 1 pc (1 pm )o ( H ) f (t ) l 1
M ( H , t 1) M ( H , t )
6.1 模式定理
在一个模式中，*表示一个不确定的字符，即表 示0或1，所以一个模式可以表示一个二进制位 串的集合。 例6.1 模式*0101表示集合{00101,10101}，而模 式0**1*表示集合{00010，00011，00110，00111， 01010，01011，01110，01111}。 在一个模式中，字符0或1所出现的位置称为确 定位置，字符*所出现的位置称为不确定位置。
6.1 模式定理
当 K 1 时，由定理2.1知
M(H , t) f ( H , t 1) o( H ) M ( H , t 1) 1 pc l 1 o( H ) pm f ( t 1) M ( H , t 1) K M ( H ,0) K t
n n aik bkj aik bkj aik bkj aik 1 j 1 k 1 k 1 j 1 k 1 j 1 k 1
n
n
n
n
n
若 P ( pij ) nn 是一有限齐次马尔可夫链的转移矩阵， n 那么有 0 pij 1 且有 pij 1, i 1,2, , n
j 1
6.2基于有限马尔可夫链的收敛性分析
设 { xt : t 0,1, 2, } 是一有限齐次马尔可夫链，对任 一时刻 t ( t 0,1,2,), 该马尔可夫链在时刻t的一维 分布定义为
1 f (H , t) H P (t )
vH P ( t )
f (v )
6.1 模式定理
例6.5 假定当前种群中的个体及适应值如表6.1 所示，则模式H及其适应值如表6.2所示。
表6.1 个体及其适应值 个体 101 100 010 110 适应值 5 1 2 3 表6.2 模式及其适应值 f(H,t) (5+1+2+3)/4=2.75
6.1 模式定理
推论6.1 在SGA中，定义长度较短、低阶且适应 值大于种群平均适应值的模式H，在种群中的数 目呈指数增长。
证 设对任意 t t , 都有
f ( H , t ) C f (t )
其中C为一个常数。并设
(H ) K C 1 pc o( H ) pm l 1
(
H
*** **0 *1* *00
1+2+3)/3=2 (2+3)/2=2.5 1/1=1
6.1 模式定理
定理6.1(模式定理) 设 P (t ) {v1 (t ), v2 (t ), , v N (t )} 表示SGA在第t代时的种群，SGA的杂交概率和 变异概率分别为 pc 和 pm，H为任一模式， ( H , t ) M 表示第t代种群 P (t ) 中与H匹配个体的个数，则有 估计式
个与H匹配的个体。
6.1 模式定理
最后讨论变异算子对模式H的影响。 对于一个属于模式H的个体v，变异算子以概率 pm 对v的每一位相互独立地进行变异，当且仅当变 异算子在H的 o(H ) 个确定位置上不对v进行变异 时，经变异算子后所得到的个体仍然属于H。因 为对v的某一位进行变异的概率为 pm , 所以对某 一位不进行变异的概率为 1 pm , 于是属于模式H 中个体v经变异后仍然属于模式H的概率为
f (H , t) (H ) M(H , t) 1 pc l 1 (1 o( H ) pm ) (若pm 1) f (t ) f (H , t) (H ) M(H , t) 1 pc o( H ) pm f (t ) l 1
6.1 模式定理
定义6.2 模式H中确定位置的个数称为模式H的 阶，记为 o(H ) 。 例6.2 o(*0101) 4, o(0 * *1*) 2 定义6.3 模式H中第一个确定位置与最后一个确 定位置之间的距离称为模式H的定义长度，记为
(H ).
例6.3 (*0101) 5 2 3, (0 * 1 * **) 3 1 2,
C 0 R T
则称A是可约的，否则称A为不可约的； (3) 若 aij 1, i 1,2, , n 则称A是随机的
j 1 n
6.2基于有限马尔可夫链的收敛性分析
显然, 每个正矩阵都是本原的
引理6.1 若A，B是n阶随机矩阵，则AB也是n阶 随机矩阵。 证 矩阵AB第i行元素之和为