基于隐马尔可夫模型(hmm)的模式识别理论

P1:S1→S1→S1 0.5×0.8×0.3×0.8×0.3×0.2＝0.00576
P2:S1→S1→S2
0.5×0.8×0.3×0.8×0.5×0.7＝0.0336 P3:S1→S1→S3 0.5×0.8×0.3×0.8×0.2×0.5＝0.0096 P4:S1→S2→S2
0.5×0.8×0.5×0.3×0.4×0.7＝0.0168
a23 0.6
a13 0.2
解：输出aab，可能的状态序列（路径）如下，
共有7种：
观察序列：O＝ aab t=1 S1 0.3 0.5 S2 S1 t=2 0.3 0.5 t=3 S1
0.4
0.2 0.6
S2
0.4
S2 0.2 0.6
S3
S3
S3
初始分布 π＝[ 0.5 0.5 0],各个状态序列（路径）产生O的概率为：
2.HMM包含三个概率矩阵:
1 1 1 P1 每个状态存在的概率矩阵P1 3 3 3 a11 a12 a13 0.3 0.5 0.2 状态之间转移 a 0 0.4 0.6 的概率矩阵P2 P 2 21 a22 a23 a31 a32 a33 0 0 0 0.8 0.2 各状态下输出符号的概率 P3 0.3 0.7 阵P3 0.5 0.5
我们以x(t)表示青蛙跳跃t次后所处的位置,x(t)的取值叫做状态， S={1,2,3}叫状态空间.我们称{x(t)}(t>0)为一个随机过程. 当从x(0) 到x(t)已知时，青蛙在t+1时处在x(t+1)状态上的概率仅与t时刻状 态有关，即满足以下关系式
P{x(t 1) j x(0) i0 , x(1) i1 ,..., x(t ) i} P{x(t 1) j x(t ) i}
隐马尔可夫模型的定义 在马尔可夫过程中一般情况下，只能观察到输 出符号序列(ab)，而不能观测到状态之间如何转移 （状态转移概率）和状态的分布（状态的概率）， 所以称为隐藏的马尔可夫模型。
球和缸
S1
S2
SN
P(red)=b1(1) P(yellow)=b1 (2) P(bule)=b1(3)
P(red)=b2(1) P(yellow)=b2 (2) P(bule)=b2(3) P(green)=b2(4)
P5:S1→S2→S3 0.5×0.8×0.5×0.3×0.6×0.5＝0.018
P6:S2→S2→S2 0.5×0.3×0.4×0.3×0.4×0.7＝0.00504
P7:S2→S2→S3
0.5×0.3×0.4×0.3×0.6×0.5＝0.0054
由于是隐HMM模型，不知输出aab时，到底是经 过了哪一条不同状态组成的路径，因此，求aab的 输出概率时，将每一种可能路径的的输出概率相加 得到的总的概率值作为aab的输出概率:
箭头表示跳跃的方向，数字表示跳跃的概 率，白环表示青蛙保持不动. 此图表明：在一定时间内， 当青蛙开始时刻在第1片荷叶上时，它保持不动的概率为0.3，它 跳跃到第2片荷叶上的概率为0.6，跳跃到第3片荷叶上的概率为 0.1； 当青蛙开始时刻在第2片荷叶上时，它保持不动的概率为0.4，它 跳跃到第1片荷叶上的概率为0.2，跳跃到第3片荷叶上的概率为 0.4； 当青蛙开始时刻在第3片荷叶上时，它保持不动的概率为0.5，它 跳跃到第1片荷叶上的概率为0.2，跳跃到第2片荷叶上的概率为 0.3.
基于隐马尔可夫模型（hmm）的模式 识别理论
报告人 颜浩 时间 2011年4月21日 地点 实验室302
概述
基于隐马尔可夫模型（hmm）的模式识别方法在模式识别中 有着广泛的应用。如语音识别、手写字识别、图想纹理建模与 分类。hmm还被引入移动通信核心技术“多用户的检测”。 近年来，另外在生物信息可学、故障诊断等领域也开始得到应 用。 近几年已经已被学者用于人脸识别的研究之中，是今年来涌现 出来的优秀人脸识别方法之一。 经过不断改进，尤其是最近的嵌入式隐马尔可夫模型 （ehmm）已经在人脸识别方面取得很大的进展，经过实验， 识别率较高，有很好的鲁棒性等优点。 隐马尔可夫模型基本理论依据来源于随机过程中马尔可夫过程 理论。
P(O|λ)=0.00576+0.0336+0.0096+0.0168+0.018+0
.00504+0.0054=0.0942
总结程描述的状态
（S1,S2,S3）和状态转移序列（状态转移序列S1 S1 S2 S3、S1 S2 S2 S3和S1 S1 S1 S3 等）； （2）一个随机过程描述状态和观察值之间的统计对 应关系（输出的符号组成的符号序列，如，aab）。
A {aij }, aij P[S j Si ],1 i, j N
初始状态的概率分布
{ i }, i P[Si ],1 i N
HMM的基本要素
参数
N M A B
{N , M , T , A, B, }
含义
状态数目 每个状态可能的观察值 数目 与时间无关的状态转移 概率矩阵 给定状态下，观察值概 率分布 缸的数目
(M)的多少由一组概率分布来描述，
根据某个初始概率分布，随机选择一个缸，例如第i个缸， 再根据这个缸中彩色球颜色的概率分布，随机选择一个球，
记O1,再把球放回缸中。
根据缸的转移概率，选择下一个缸，例如第j个缸。再根 据这个缸中彩色球颜色的概率分布，随机选择一个球，记 O2,再把球放回缸中。 最后得到描述球颜色的序列O1 O2 ，成为观察值序列， 但每次选取的缸和缸之间的转移并不能直接观察，被隐藏。
马尔可夫及其马尔可夫过程
马尔可夫（A. Markov ，1856—1922）俄国 数学家. 他开创了一种无后效性随机过程的 研究，即在已知当前状态的情况下，过程的 未来状态与其过去状态无关，这就是现在大 家熟悉的马尔可夫过程.马尔可夫的工作极 大的丰富了概率论的内容，促使它成为自然 科学和技术直接有关的最重要的数学领域之 一. 在工程技术方面目前已被广泛用于通信，模 式识别方面。
观察青蛙的活动会发现青蛙的动作是随意的.为讨论方便，我 们给荷叶编号，我们关心的是在一定时间内，它从一片荷叶跳 到其他两片荷叶的转移结构.当青蛙在第1片荷叶上时，它下一 步动作跳跃到第2、3片荷叶上或原地不动，只与现在的位置1 有关，而与它以前跳过的路径无关.我们给出这只青蛙从各片 荷叶上向另一片荷叶移动的转移图，见图.
x (t )
与马尔可夫过程相关的概念.
随机变量与随机过程 把随机现象的每个结果对应一个数，这种对应关系 称为随机变量.例如某一时间内公共汽车站等车乘客的人数，电话交换台 在一定时间内收到的呼叫次数等等，都是随机变量的实例. 随机过程 随机过程是一连串随机事件动态关系的定量描述.即和“时间” 相关的随机变量。一般记为x(t)。比如在一天24小时，在每个整点时刻徐 州火车站的旅客数量。 马尔可夫过程与马尔可夫链 设x(t)是一随机过程，过程在时刻t0+1所处 的状态与时刻t0所处的状态相关，而与过程在时刻t0之前的状态无关，这 个特性成为无后效性.无后效的随机过程称为马尔可夫过程(Markov Process). 举例：比如在万恶的旧社会流离失所的百姓在每天的饥饿程度是一个随机 过程。假如他们在t0时刻（今天）的饥饿状态是五分饱，他们在t0+1所 （明天）的饥饿状态的概率取决于t0时刻（今天），而和t0时刻（今天） 之前（昨天、前天。。。）无关。这样的一个随机过程就是一个马尔可 夫过程。
[例]以下HMM中，设观察到的输出符号序列是aab。初 始分布为[0.5 0.5 0],试求aab的输出概率？
a11 0.3
a22 0.4
S2
a 0 .3 b 0 .7 a 0 .5 S3 b 0 .5
a12 0.5 a 0 .8 0 .2 S 1 b
我们称 P{x(t 1) j x(t ) i} 为转移概率.由于这种转 移概率不依赖于时间，因此具有稳定性，我们用常数 来表示.将各个状态之间的转移概率用一个矩阵表 pij 示出来，就得到一个马尔可夫链数学模型即（Markov Chain Mode ）：
p11 p12 ... p1n p p ... p 2n 21 22 P （1.2） pn1 pn 2 ... pnn 称矩阵为一步概率转移矩阵，简称转移矩阵.由于转移矩阵的每行都是独
（1.1）
我们称满足（8.1）式的随机过程{x(t)}(t>0)为马尔可夫过程或马 尔可夫链，而把（8.1）式的随机过程{x(t)}称为马尔可夫性，它 反映了前一状态x(t-1) 、现状态x(t)和后一状态x(t+1)之间的链接.因此，用 马尔可夫链描述随机性状态变量的变化时，只需求在 某一点上两个相邻随机变量的条件分布就可以了.
估计模型产生观测符号序列的最有可能经过的路径。所 有可能的路径中，概率最大的路径。 模型训练问题：调整模型参数，使得输出概率最大。
1、前向－后向算法Forward-Backward
给定一个观测序列 O {O1, O2 ,OT } 以及一个模 P(O / ) 型 {A, B, } ，由模型产生出的概率
P(red)=bN(1) P(yellow)=bN (2) P(bule)=bN(3)
P(green)=b1(4)
P(green)=bN(4)
P(black)=b1(M)
P(black)=b2(M)
P(black)=bN(M)
观察序列O={绿，绿，蓝，红，红，黄，….. 蓝}
设有N个缸，每个缸中装有很多彩色的球，不同颜色的球
引入这样的一个状态矩阵就能够将这个马尔可夫过程描述 清楚。 但是在模式识别领域，还不能直接使用马尔可夫过程，需 要对之进行推广，即隐马尔可夫模型理论。目前隐马尔可 夫模型理论和算法已经较为成熟。在模式识别领域有着很 多成功的应用，尤其是语音识别。在人脸识别方面也取得 很大的发展。下面介绍隐马尔可夫模型及其算法。