马尔可夫及隐马尔可夫模型在数据挖掘中的应用

马尔可夫及隐马尔可夫模型在数据挖掘中的应用

侯传宇１，２

（１．合肥工业大学计算机与信息学院，安徽合肥２３０００９；２．宿州学院数学系，安徽宿州２３４０００）

摘要：随着用户对于数据挖掘的精确度与准确度要求的日益提高，马尔可夫模型与隐马尔可夫模型被广泛用于数据挖掘领域。本文阐述了马尔可夫模型和隐马尔可夫模型数据挖掘领域的应用，以及隐马尔可夫模型可解决的问题，以供其他研究者借鉴。

关键词：马尔可夫模型；隐马尔可夫模型；数据挖掘

中图分类号：ＴＰ３１１文献标识码：Ａ文章编号：１００９－３０４４（２００８）０７－１１１８６－０３

ＴｈｅＡｐｐｌｉｃａｔｉｏｎｏｆＭａｒｋｏｖＭｏｄｅｌｓａｎｄＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓｉｎＤａｔａＭｉｎｉｎｇ

ＨＯＵＣｈｕａｎ－ｙｕ１，２

（１．ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒａｎｄＩｎｆｏｒｍａｔｉｏｎ，ＨｅｆｅｉＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈｅｆｅｉ２３０００９，Ｃｈｉｎａ；２．ＤｅｐａｒｔｍｅｎｔｏｆＭａｔｈｅｍａｔｉｃｓ，ＳｕｚｈｏｕＣｏｌ－ｌｅｇｅ，Ｓｕｚｈｏｕ２３４０００，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：Ｗｉｔｈｔｈｅｃｕｓｔｏｍｅｒ＇ｓｒｅｑｕｉｒｅｍｅｎｔｒａｉｓｉｎｇｄａｙｂｙｄａｙｉｎａｃｃｕｒａｃｙａｎｄａｃｃｕｒａｔｅ，ＭａｒｋｏｖＭｏｄｅｌｓａｎｄＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓｗｅｒｅｅｘｔｅｎｓｉｖｅｌｙｕｓｅｄｉｎＤａｔａＭｉｎｉｎｇ．ＴｈｉｓｐａｐｅｒｉｎｔｒｏｄｕｃｅｄｔｈｅａｐｐｌｉｃａｔｉｏｎｏｆＭａｒｋｏｖＭｏｄｅｌｓａｎｄＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓｉｎＤａｔａＭｉｎｉｎｇ，ａｎｄｓｏｍｅｐｒｏｂｌｅｍｓｔｈａｔｃｏｕｌｄｂｅｓｏｌｖｅｄｂｙＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓ，ｗｈｉｃｈｃｏｕｌｄｐｒｏｖｉｄｅｈｅｌｐｔｏｒｅｓｅａｒｃｈｅｒｓｉｎｔｈｉｓｄｏｍａｉｎ．

Ｋｅｙｗｏｒｄｓ：ＭａｒｋｏｖＭｏｄｅｌｓ；ＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓ；ＤａｔａＭｉｎｉｎｇ

１引言

当前Ｉｎｔｅｒｎｅｔ与数据库的高速发展，信息以海量增长，对于越来越多的数据，如何寻找有用的信息是人们所关心的问题，也是数据挖掘的任务。数据挖掘（ＤａｔａＭｉｎｉｎｇ，ＤＭ），又称数据库中的知识发现（ＫｎｏｗｌｅｄｇｅＤｉｓｃｏｖｅｒｙｉｎＤａｔａｂａｓｅ，ＫＤＤ），是从９０年代初兴起的一门数据库技术。数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。数据挖掘是多学科交叉的产物，结合了数据库、人工智能、统计学、机器学习、可视化等技术，通过发现有用的新规律和新概念，提高了数据拥有者对大量原始数据的深层次理解、认识和应用，解决了“数据丰富，知识贫乏”的问题，具有广泛的应用前景。

数据挖掘能从大量数据中抽取出隐藏在数据之中的有用信息，从而为决策者进行决策提供重要的依据，大大提高决策的科学性和减小决策的盲目性也可以帮助商业管理者更好地理解用户的行为，制订相应的用户服务政策，从而增加商业机会。例如电信公司通过发现用户通话的规律，制定更合理的优惠政策。随着用户对于挖掘数据的精度与准确度要求的提高，大量数据挖掘算法涌现。其中，数学模型—马尔可夫模型与隐马尔可夫模型应用在许多挖掘领域，如：语音识别、自动文本抽取、数据流分类等，取得了较好的挖掘效果。

２马尔可夫模型及隐马尔可夫模型简介

马尔可夫模型（ＭａｒｋｏｖＭｏｄｅｌｓ，ＭＭ）可来描述为：如果一个系统有Ｎ个状态，Ｓ１，Ｓ２，……，Ｓｎ，随着时间的推移，该系统从某一状态转移到另一状态，系统在时间ｔ的状态记为ｑｔ。系统在时间ｔ处于状态ｓｊ（１≤ｊ≤Ｎ）的概率取决于其在时间１，２，……，ｔ－１的状态，该概率为：ｐ（ｑｔ＝ｓｊ｜ｑｔ－１＝ｓｉ，ｑｔ－２＝ｓｋ，……）。

若系统在时间ｔ的状态只与其在时间ｔ－１的状态相关，则该系统构成一个离散的一阶马尔柯夫链（时间与状态都是离散的）又称为齐次马氏链，即：

ｐ（ｑｔ＝ｓｊ｜ｑｔ－１＝ｓｉ，ｑｔ－２＝ｓｋ，……）＝ｐ（ｑｔ＝ｓｊ｜ｑｔ－１＝ｓｉ）（１）若（１）式是独立于时间ｔ的随机过程，即状态于时间无关，则称为马尔可夫过程。

用Ｐｉｊ（ｔ）表示，在任一时刻ｓ，ｑｓ从状态ｉ经过时间ｔ转移到状态ｊ的概率。Ｐｉｊ（ｔ）表示其转移概率。则可通过其转移矩阵来求其ｎ步转移矩阵，令ｐ＝ｐ（１）＝Ｐｉｊ（ｔ），则其ｎ步转移矩阵为ｐ（ｎ）＝ｐｎ。若初始状态的概率分布Ｐ"（０），则可以求得其ｎ步的概率分布：Ｐ"（ｎ）＝Ｐ"（０）ｐ（ｎ）。

收稿日期：２００８－０１－１５

作者简介：侯传宇（１９８０－），男，安徽利辛人，助教，合肥工业大学在职研究生，研究方向：人工智能与数据挖掘。

隐马尔可夫模型（ＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓ，ＨＭＭ）是一个双重随机过程，具体的状态序列不可知，只知其状态转移的概率，即模型的状态转换过程是不可观察的（隐蔽的），而可观察的事件的随机过程是隐蔽的状态转换过程的随机函数。也就是说：（１）ＨＭＭ的状态是不确定或不可见的，只有通过观测序列的随机过程才能表现出来。（２）观察到的事件与状态并不是一一对应，而是通过一组概率分布相联系。（３）ＨＭＭ是一个双重随机过程，两个组成部分：①马尔可夫链：描述状态的转移，用转移概率描述。②一般随机过程：描述状态与观察序列间的关系，用观察值概率描述。隐马尔可夫模型可以用图１表示，其参数的含义见图２。

图１ＨＭＭ组成示意图

图２参数的含义

假设λ＝（π，Ａ，Ｂ），则可以根据前向算法（Ｔｈｅｆｏｒｗａｒｄｐｒｏｃｅｄｕｒｅ）或后向算法（Ｔｈｅｂａｃｋｗａｒｄｐｒｏｃｅｄｕｒｅ）来求Ｐ（Ｏ｜λ）。根据Ｖｉｔｅｒｂｉ搜索算法可以解决如何选择一个对应的状态序列ｓ＝ｑ１，ｑ２，．．．ｑｔ，使得ｓ能够最为合理的解释观察序列Ｏ的问题。

３马尔可夫模型与隐马尔可夫模型在数据挖掘中的应用

马尔可夫模型是一种预测模型，广泛的应用于商业预测以及隐含概念漂移的数据流分类中。其在商业预测中为决策者进行决策提供重要的依据，提高了决策的科学性，减少了决策的盲目性；其用于隐含概念漂移的数据流分类中，在保证分类准确度的基础上提高了分类的时间性能。

隐马尔可夫模型是一种应用非常广泛的统计模型，最早是从语音识别问题中发展起来的。七十年代，ＦｒｅｄＪｅｌｉｎｅｋ（贾里尼克）和卡内基?梅隆大学的ＪｉｍａｎｄＪａｎｅｔＢａｋｅｒ（贝克夫妇）分别独立地提出用隐含马尔可夫模型来识别语音，语音识别的错误率相比人工智能和模式匹配等方法降低了三倍（从３０％下降到１０％）。八十年代李开复博士坚持采用隐含马尔可夫模型的框架，成功地开发了世界上第一个大词汇量连续语音识别系统Ｓｐｈｉｎｘ。目前ＨＭＭ已广泛用于文本信息抽取以及用户兴趣漂移研究中。

３．１马尔可夫模型在商业预测中的应用

马尔可夫模型多被用于产品的市场占有率预测中［１］，如马尔可夫模型可解决商业群体分析的问题［２］，商业群体中客户可分成ＶＩＰ客户、主要客户、普通客户和小客户，由于不同的客户群体中的客户因为某种原因向其他的客户群体转移，普通客户可以转移到小客户，小客户也可转移成为普通客户，因而客户群体的分布会发生变化。根据帕累托８０／２０法则，客户群体的变化会直接影响公司的效益。通过建立相应的马尔可夫模型对客户群体组分类进行预测，可为企业制定相应的市场策略提供依据。对数据库中数据的分析

可得到各种客户类型初始状态的分布Ｐ!（０），对于一客户群体中的客户向另外一客户群体转移的概率ｐ（ｎ），可以通过对公司历史交易

数据库进行挖掘得到。这样就可以得到下一个状态的分布Ｐ!（１）＝Ｐ!（０）ｐ（ｎ）。这样公司就可以根据下一阶段客户群体的可能的分布状态来调整市场策略。

３．２马尔可夫模型在隐含概念漂移的数据流分类中的应用

ＲｅＰｒｏ算法［８］的目标是：（１）利用原始数据组织的历史概念来判别新的概念是否是历史概念的重现。（２）从概念的历史记录中学习概念转移的规律。（３）实现预测每一个即将来临的概念并用来预测将到来的待分类的样本所属的类。为实现其目标，ＲｅＰｒｏ算法用马尔可夫链表示概念的历史进程，每一个不同的概念就是马尔可夫链的一种状态，不同概念间的变化可以用概念转移矩阵表示，每当出现一个新的概念，就增加矩阵的行列。假设随着时间的推移，利用概念等价度量得到一系列历史概念集Ｃ＿ＤＩＳ，利用Ｐｒｏａｃｔｉｖｅ算法得到互异概念集Ｃ＿ＳＥＱ，和概念转移矩阵Ｃ＿ＴＲＡ。ＲｅＰｒｏ算法设定一个可能的阈值ｔｈｒｅｓｈｏｌｄｐｒｏｂ，一个分类精确度阈值ｔｈｒｅｓｈｏｌｄａｃｃｕ当一个目标样本窗口Ｉ＿ＷＩＮ到来时，ＲｅＰｒｏ算法将预测出将用来分类的概念Ｃｎｅｘｔ。Ｃｌａｓｔ表示Ｃ＿ＳＥＱ中最近的稳定概念，依照概念转移矩阵找出转移概率比ｔｈｒｅｓｈｏｌｄｐｒｏｂ高的并用Ｃｎｅｘｔ（ｓ）表示。如果不止一个Ｃｎｅｘｔ（ｓ）存在，则对于每一个Ｃｎｅｘｔ（ｓ）计算它在Ｉ＿ＷＩＮ中的分类精度，找出分类精度最高的一个。如果不存在Ｃｎｅｘｔ（ｓ），则计算Ｃ＿ＤＩＳ上的每一个概念在Ｉ＿ＷＩＮ上的分类精度，Ｃｎｅｘｔ用来表示分类精度最高的一个。如果Ｃｎｅｘｔ在Ｉ＿ＷＩＮ上的分类精度比ｔｈｒｅｓｈｏｌｄａｃｃｕ低，则从Ｉ＿ＷＩＮ窗口中学习新的概念并用Ｃｎｅｘｔ表示。

ＲｅＰｒｏ算法利用马尔可夫链构造历史概念序列，并充分利用概念转移矩阵对可能出现的概念进行预测，提高了分类的时间性能和分类准确度。

３．３ＨＭＭ在文本信息抽取中的应用

利用ＨＭＭ进行信息抽取是一种基于机器学习的信息抽取方法，它因易于建立、适应性强、抽取精度高的优点而日益受到研究者的关注。ＭｃＣａｌｌｕｍ提出“收缩（ｓｈｒｉｎｋａｇｅ）”技术来改进ＨＭＭ信息抽取模型概率的估计［６］。钟敏娟等提出了基于多模板隐马尔可夫模型的文本信息抽取算法［５］（ＭＴ－ＨＭＭ）。该算法中ＨＭＭ被看作成一个五元组｛Ｓ，Ｔ，Ａ，Ｂ，Π｝。其中Ｓ是状态集，模型共有Ｎ个状态；Ｖ是词汇集，模型共有Ｍ个可能的输出单词；Ａ是Ｎ×Ｎ的状态转移矩阵，ａｉｊ是从状态ｓｉ转换到状态ｓｊ的概率；Ｂ是Ｎ×Ｍ的释放概率矩阵，ｂｉ（Ｖｋ）是在状态ｂｊ时释放单词Ｖｋ的概率；П是初始状态概率集合，πｉ是第ｉ个状态作为初始状态的概率。

采用ＭａｘｉｍｕｍＬｉｋｅｌｉｈｏｏｄ（ＭＬ）算法，建立ＨＭＭ模型，ＭＬ算法主要以统计的方法得出ＨＭＭ模型参数，由以下３个公式分别计算模型的初始状态概率、转移状态概率和状态释放概率，即

（１）

（２）其中，Ｉｎｉｔ（ｉ）是所有训练序列中，初始状态为ｉ的序列个数，Ｃｉｊ是所有训练序列中，从状态Ｓｉ转换到状态Ｓｊ的次数。

（３）

其中，Ｅｊ（Ｖｋ）是所有训练序列中，状态Ｓｊ释放单词Ｖｋ的次数。

ＭＴ－ＨＭＭ算法分３个步骤：

（１）基于马尔可夫链模型，聚类训练数据为几个类；

（２）对每一类训练数据，分别利用公式（１）－（３）训练一个初始概率矩阵П和一个转移概率矩阵Ａ以及状态释放概率Ｂ；

（３）使用训练好的模型抽取信息时，结合每一个初始概率矩阵、每一个转移概率矩阵和统一的释放概率矩阵，使用Ｖｉｔｅｒｂｉ算法来找出最优的标记序列。从这些最优标记序列中选择一个概率最大的序列作为最终标记序列。

该算法对训练数据形式聚类，分多个形式模板训练隐马尔可夫初始概率及转移概率参数，同时结合统一训练的释放概率参数对文本信息进行抽取，一定情况下提高了信息抽取的精确度和召回率。

３．４ＨＭＭ在处理用户兴趣漂移上的应用

文献［７］中指出，用户兴趣度的漂移，可类比概念漂移的模式，即用概念漂移来模拟兴趣漂移。用户的兴趣是隐含的内容，用户的行为（或通过行为挖掘到的用户的兴趣）是外在可见目标概念，当用户的兴趣（隐含内容）发生改变后，用户的行为也会发生改变，这是兴趣漂移的过程。可采用一定的漂移算法综合当前用户的兴趣和新发掘的用户的行为（或兴趣），计算得到用户真正的兴趣变化。

对于一个假设状态集合Ｑ，具有指定的初始状态ｑｔ和最终状态ｑｆ，那么对于一个状态转移集，每个元素为（ｑ→ｑ′），一个离散的输出符号集：Σ＝σ１，σ２．．．σｍ。从初始状态开始，转移到一个新的状态，观测到一个输出符号，如此反复，直到最终状态，于是就产生一个符号串：Ｘ＝ｘ１，ｘ２…ｘｍ。每一个转移存在着一个转移概率Ｐ（ｑ→ｑ′）在一个状态观测到一个特殊符号的概率为Ｐ（σ｜ｑ）。那么在一个隐马尔可夫模型Ｍ上一个串Ｘ被观测的概率为在所有可能路径上求概率和。

通过对用户对ｗｅｂ页面的操作（打印页面，页面另存，添加收藏，点击链接等），以及服务器日志记录的挖掘。可以得到所需要的数据，然后利用ＨＭＭ进行求解，得到用户可能的兴趣漂移。该方法不仅能够准确跟踪用户的兴趣，还可以预测用户的兴趣，可以帮助Ｗｅｂ站点的设计者理解用户的偏好，以改进站点的设计。

４结束语

通过对马尔可夫模型及隐马尔可夫模型的分析，及其应用的研究，可知马尔可夫模型可以解决分类预测等问题，而ＨＭＭ可解决如下三种问题：

（１）给定观察序列Ｏ＝Ｏ１，Ｏ２，…ＯＴ，以及模型λ＝（Ａ，Ｂ，π），如何计算Ｐ（Ｏ｜λ）；

（２）给定观察序列Ｏ＝Ｏ１，Ｏ２，…ＯＴ以及模型λ，如何选择一个对应的状态序列Ｓ＝ｑ１，ｑ２，…ｑＴ，使得Ｓ能够最为合理的解释观察序列Ｏ；

（３）如何调整模型参数λ＝（Ａ，Ｂ，π），使得Ｐ（Ｏ｜λ）最大。

问题１可利用前向算法和后向算法解决；问题２可用Ｖｉｔｅｒｂｉ搜索算法解决；问题３的解决较为复杂，可利用前向后向算法（Ｂａｕｍ－Ｗｅｌｃｈｏｒｆｏｒｗａｒｄ－ｂａｃｋｗａｒｄｐｒｏｃｅｄｕｒｅ）算法解决。

合理的利用马尔可夫或隐马尔可夫模型，可提高数据挖掘的精确度以及时间性能，因而其在数据挖掘领域有着广阔的应用前景。参考文献：

［１］陈涛．正在走向实用的数据挖掘技术［Ｊ］．电脑知识与技术，２００７，（４）：１９－２０．

［２］张捷，琚春华．基于马尔可夫过程模型的商业客户群体分析［Ｊ］．计算机时代．２００６，（１）：３４－３５．

（下转第１１９７页）

ｍｒ：＝：ｎｅｗ．ｍｒ；ｊｍ：＝：ｎｅｗ．ｊｍ；

ｍｒ＝ｍｒ＋ｊｍ

ｅｎｄｉｆ，

ｅｎｄ；

图２大额资金收受表和举报单

４结论

在文中，我们通过几个实例集中讨论了ｏｒａｃｌｅ触发器的在大中型网站设计中的用途，说明了触发器应用于支持企业级或者商业级解决方案时，它是一个功能十分强大的工具。除了本文所述触发器在行政纪监系统中的应用之外，用户还可以通过使用触发器做到强制数据一致性，提供审计和日志记录，防止无效的事务处理，启用复杂的业务逻辑等。

值得注意的一点是，过多地使用触发器会降低整个数据库的性能，特别是触发器写得不好，更是破坏数据库的运行，因此适当的使用触发器显得很重要。

参考文献：

［１］ＴｈｏｍａｓＫｙｔｅＯｒａｃｌｅ９ｉ＆１０ｇ编程艺术：深入数据库体系结构［Ｍ］．北京：人民邮电出版社，２００６．

［２］盖国强．深入浅出Ｏｒａｃｌｅ－－ＤＢＡ入门、进阶与诊断案例［Ｍ］．北京：人民邮电出版社，２００６．

［３］袁福庆．Ｏｒａｃｌｅ数据库管理与维护手册［Ｍ］．北京：人民邮电出版社，２００６．

［４］李华飚等．精通Ｊａｖａ中间件编程［Ｍ］．北京：中国水利水电出版社，２００３．

［５］孙一林等．Ｊａｖａ数据库编程实例［Ｍ］．北京：清华大学出版社，２００３．

［６］陈吉平．构建ＯＲＡＣＬＥ高可用环境：企业级高可用数据库架构、实战与经验总结（ＩＴＰＵＢ版主作品）［Ｍ］．电子工业出版社，２００８．［７］ＳＡＭＲ．ＡＬＡＰＡＴＩ．现代数据库管理（原书第６版）［Ｍ］．北京：人民邮电出版社，２００７．

［８］盖国强，循序渐进ＯＲＡＣＬＥ－－数据库管理、优化与备份恢复［Ｍ］．北京：人民邮电出版社，２００７．

（上接第１１８８页）

［３］杜雪樵，惠军．随机过程［Ｍ］．合肥工业大学出版社，２００６．３０－７０．

［４］刘次华．随机过程［Ｍ］．华中科技大学出版社，２００５．４２－８３．

［５］钟敏娟，郝谦，刘云中．基于多模板隐马尔可夫模型的文本信息抽取算法［Ｊ］．计算机工程，２００６，（１）：２０３－２０５．

［６］ＦｒｉｅｔａｇＤ，ＭｃＣａｌｌｕｍＡ．ＩｎｆｏｒｍａｔｉｏｎｅｘｔｒａｃｔｉｏｎｗｉｔｈＨＭＭＳａｎｄｓｈｒｉｎｋａｇｅ［Ｃ］．Ｐｒｏｃｅｅ－ｄｉｎｇｓｏｆｔｈｅＡＡＡＩ’９９ＷｏｒｋｓｈｏｐｏｎＭａｃｈｉｎｅＬｅａｒｎｉｎｇｆｏｒＩｎｆｏｒｍａｔｉｏｎＥｘｔｒａｃｔｉｏｎ，１９９９：３１－３６．

［７］张勉．基于隐马尔可夫模型的用户兴趣漂移模式发现方法［Ｊ］．北京建筑工程学院学报．２００５，（９）：５０－５２．

［８］ＹａｎｇＹｉｎｇ，ＷｕＸｉｎｄｏｎｇ，ＺｈｕＸｉｎｇｑｕａｎ．Ｃｏｍｂｉｎｉｎｇｐｒｏａｃｔｉｖｅａｎｄｒｅａｃｔｉｖｅｐｒｅｄｉｃｔｉｏｎｓｆｏｒｄａｔａｓｔｒｅａｍｓ［Ｊ］．ＩｎＳＩＧＫＤＤ，２００５，（８）：７１０–７１５．

［９］王实，高文，李锦涛，黄铁军．基于隐马尔可夫模型的兴趣迁移模式发现［Ｊ］．计算机学报，２００１，（２）：１５２－１５７．