马尔可夫及隐马尔可夫模型在数据挖掘中的应用

马尔可夫及隐马尔可夫模型在数据挖掘中的应用侯传宇１，２（１．合肥工业大学计算机与信息学院，安徽合肥２３０００９；２．宿州学院数学系，安徽宿州２３４０００）摘要：随着用户对于数据挖掘的精确度与准确度要求的日益提高，马尔可夫模型与隐马尔可夫模型被广泛用于数据挖掘领域。

本文阐述了马尔可夫模型和隐马尔可夫模型数据挖掘领域的应用，以及隐马尔可夫模型可解决的问题，以供其他研究者借鉴。

关键词：马尔可夫模型；隐马尔可夫模型；数据挖掘中图分类号：ＴＰ３１１文献标识码：Ａ文章编号：１００９－３０４４（２００８）０７－１１１８６－０３ＴｈｅＡｐｐｌｉｃａｔｉｏｎｏｆＭａｒｋｏｖＭｏｄｅｌｓａｎｄＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓｉｎＤａｔａＭｉｎｉｎｇＨＯＵＣｈｕａｎ－ｙｕ１，２（１．ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒａｎｄＩｎｆｏｒｍａｔｉｏｎ，ＨｅｆｅｉＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈｅｆｅｉ２３０００９，Ｃｈｉｎａ；２．ＤｅｐａｒｔｍｅｎｔｏｆＭａｔｈｅｍａｔｉｃｓ，ＳｕｚｈｏｕＣｏｌ－ｌｅｇｅ，Ｓｕｚｈｏｕ２３４０００，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ：Ｗｉｔｈｔｈｅｃｕｓｔｏｍｅｒ＇ｓｒｅｑｕｉｒｅｍｅｎｔｒａｉｓｉｎｇｄａｙｂｙｄａｙｉｎａｃｃｕｒａｃｙａｎｄａｃｃｕｒａｔｅ，ＭａｒｋｏｖＭｏｄｅｌｓａｎｄＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓｗｅｒｅｅｘｔｅｎｓｉｖｅｌｙｕｓｅｄｉｎＤａｔａＭｉｎｉｎｇ．ＴｈｉｓｐａｐｅｒｉｎｔｒｏｄｕｃｅｄｔｈｅａｐｐｌｉｃａｔｉｏｎｏｆＭａｒｋｏｖＭｏｄｅｌｓａｎｄＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓｉｎＤａｔａＭｉｎｉｎｇ，ａｎｄｓｏｍｅｐｒｏｂｌｅｍｓｔｈａｔｃｏｕｌｄｂｅｓｏｌｖｅｄｂｙＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓ，ｗｈｉｃｈｃｏｕｌｄｐｒｏｖｉｄｅｈｅｌｐｔｏｒｅｓｅａｒｃｈｅｒｓｉｎｔｈｉｓｄｏｍａｉｎ．Ｋｅｙｗｏｒｄｓ：ＭａｒｋｏｖＭｏｄｅｌｓ；ＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓ；ＤａｔａＭｉｎｉｎｇ１引言当前Ｉｎｔｅｒｎｅｔ与数据库的高速发展，信息以海量增长，对于越来越多的数据，如何寻找有用的信息是人们所关心的问题，也是数据挖掘的任务。

数据挖掘（ＤａｔａＭｉｎｉｎｇ，ＤＭ），又称数据库中的知识发现（ＫｎｏｗｌｅｄｇｅＤｉｓｃｏｖｅｒｙｉｎＤａｔａｂａｓｅ，ＫＤＤ），是从９０年代初兴起的一门数据库技术。

数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。

数据挖掘是多学科交叉的产物，结合了数据库、人工智能、统计学、机器学习、可视化等技术，通过发现有用的新规律和新概念，提高了数据拥有者对大量原始数据的深层次理解、认识和应用，解决了“数据丰富，知识贫乏”的问题，具有广泛的应用前景。

数据挖掘能从大量数据中抽取出隐藏在数据之中的有用信息，从而为决策者进行决策提供重要的依据，大大提高决策的科学性和减小决策的盲目性也可以帮助商业管理者更好地理解用户的行为，制订相应的用户服务政策，从而增加商业机会。

例如电信公司通过发现用户通话的规律，制定更合理的优惠政策。

随着用户对于挖掘数据的精度与准确度要求的提高，大量数据挖掘算法涌现。

其中，数学模型—马尔可夫模型与隐马尔可夫模型应用在许多挖掘领域，如：语音识别、自动文本抽取、数据流分类等，取得了较好的挖掘效果。

２马尔可夫模型及隐马尔可夫模型简介马尔可夫模型（ＭａｒｋｏｖＭｏｄｅｌｓ，ＭＭ）可来描述为：如果一个系统有Ｎ个状态，Ｓ１，Ｓ２，……，Ｓｎ，随着时间的推移，该系统从某一状态转移到另一状态，系统在时间ｔ的状态记为ｑｔ。

系统在时间ｔ处于状态ｓｊ（１≤ｊ≤Ｎ）的概率取决于其在时间１，２，……，ｔ－１的状态，该概率为：ｐ（ｑｔ＝ｓｊ｜ｑｔ－１＝ｓｉ，ｑｔ－２＝ｓｋ，……）。

若系统在时间ｔ的状态只与其在时间ｔ－１的状态相关，则该系统构成一个离散的一阶马尔柯夫链（时间与状态都是离散的）又称为齐次马氏链，即：ｐ（ｑｔ＝ｓｊ｜ｑｔ－１＝ｓｉ，ｑｔ－２＝ｓｋ，……）＝ｐ（ｑｔ＝ｓｊ｜ｑｔ－１＝ｓｉ）（１）若（１）式是独立于时间ｔ的随机过程，即状态于时间无关，则称为马尔可夫过程。

用Ｐｉｊ（ｔ）表示，在任一时刻ｓ，ｑｓ从状态ｉ经过时间ｔ转移到状态ｊ的概率。

Ｐｉｊ（ｔ）表示其转移概率。

则可通过其转移矩阵来求其ｎ步转移矩阵，令ｐ＝ｐ（１）＝Ｐｉｊ（ｔ），则其ｎ步转移矩阵为ｐ（ｎ）＝ｐｎ。

若初始状态的概率分布Ｐ"（０），则可以求得其ｎ步的概率分布：Ｐ"（ｎ）＝Ｐ"（０）ｐ（ｎ）。

收稿日期：２００８－０１－１５作者简介：侯传宇（１９８０－），男，安徽利辛人，助教，合肥工业大学在职研究生，研究方向：人工智能与数据挖掘。

隐马尔可夫模型（ＨｉｄｄｅｎＭａｒｋｏｖＭｏｄｅｌｓ，ＨＭＭ）是一个双重随机过程，具体的状态序列不可知，只知其状态转移的概率，即模型的状态转换过程是不可观察的（隐蔽的），而可观察的事件的随机过程是隐蔽的状态转换过程的随机函数。

也就是说：（１）ＨＭＭ的状态是不确定或不可见的，只有通过观测序列的随机过程才能表现出来。

（２）观察到的事件与状态并不是一一对应，而是通过一组概率分布相联系。

（３）ＨＭＭ是一个双重随机过程，两个组成部分：①马尔可夫链：描述状态的转移，用转移概率描述。

②一般随机过程：描述状态与观察序列间的关系，用观察值概率描述。

隐马尔可夫模型可以用图１表示，其参数的含义见图２。

图１ＨＭＭ组成示意图图２参数的含义假设λ＝（π，Ａ，Ｂ），则可以根据前向算法（Ｔｈｅｆｏｒｗａｒｄｐｒｏｃｅｄｕｒｅ）或后向算法（Ｔｈｅｂａｃｋｗａｒｄｐｒｏｃｅｄｕｒｅ）来求Ｐ（Ｏ｜λ）。

根据Ｖｉｔｅｒｂｉ搜索算法可以解决如何选择一个对应的状态序列ｓ＝ｑ１，ｑ２，．．．ｑｔ，使得ｓ能够最为合理的解释观察序列Ｏ的问题。

３马尔可夫模型与隐马尔可夫模型在数据挖掘中的应用马尔可夫模型是一种预测模型，广泛的应用于商业预测以及隐含概念漂移的数据流分类中。

其在商业预测中为决策者进行决策提供重要的依据，提高了决策的科学性，减少了决策的盲目性；其用于隐含概念漂移的数据流分类中，在保证分类准确度的基础上提高了分类的时间性能。

隐马尔可夫模型是一种应用非常广泛的统计模型，最早是从语音识别问题中发展起来的。

七十年代，ＦｒｅｄＪｅｌｉｎｅｋ（贾里尼克）和卡内基・梅隆大学的ＪｉｍａｎｄＪａｎｅｔＢａｋｅｒ（贝克夫妇）分别独立地提出用隐含马尔可夫模型来识别语音，语音识别的错误率相比人工智能和模式匹配等方法降低了三倍（从３０％下降到１０％）。

八十年代李开复博士坚持采用隐含马尔可夫模型的框架，成功地开发了世界上第一个大词汇量连续语音识别系统Ｓｐｈｉｎｘ。

目前ＨＭＭ已广泛用于文本信息抽取以及用户兴趣漂移研究中。

３．１马尔可夫模型在商业预测中的应用马尔可夫模型多被用于产品的市场占有率预测中［１］，如马尔可夫模型可解决商业群体分析的问题［２］，商业群体中客户可分成ＶＩＰ客户、主要客户、普通客户和小客户，由于不同的客户群体中的客户因为某种原因向其他的客户群体转移，普通客户可以转移到小客户，小客户也可转移成为普通客户，因而客户群体的分布会发生变化。

根据帕累托８０／２０法则，客户群体的变化会直接影响公司的效益。

通过建立相应的马尔可夫模型对客户群体组分类进行预测，可为企业制定相应的市场策略提供依据。

对数据库中数据的分析可得到各种客户类型初始状态的分布Ｐ!（０），对于一客户群体中的客户向另外一客户群体转移的概率ｐ（ｎ），可以通过对公司历史交易数据库进行挖掘得到。

这样就可以得到下一个状态的分布Ｐ!（１）＝Ｐ!（０）ｐ（ｎ）。

这样公司就可以根据下一阶段客户群体的可能的分布状态来调整市场策略。

３．２马尔可夫模型在隐含概念漂移的数据流分类中的应用ＲｅＰｒｏ算法［８］的目标是：（１）利用原始数据组织的历史概念来判别新的概念是否是历史概念的重现。

（２）从概念的历史记录中学习概念转移的规律。

（３）实现预测每一个即将来临的概念并用来预测将到来的待分类的样本所属的类。

为实现其目标，ＲｅＰｒｏ算法用马尔可夫链表示概念的历史进程，每一个不同的概念就是马尔可夫链的一种状态，不同概念间的变化可以用概念转移矩阵表示，每当出现一个新的概念，就增加矩阵的行列。

假设随着时间的推移，利用概念等价度量得到一系列历史概念集Ｃ＿ＤＩＳ，利用Ｐｒｏａｃｔｉｖｅ算法得到互异概念集Ｃ＿ＳＥＱ，和概念转移矩阵Ｃ＿ＴＲＡ。

ＲｅＰｒｏ算法设定一个可能的阈值ｔｈｒｅｓｈｏｌｄｐｒｏｂ，一个分类精确度阈值ｔｈｒｅｓｈｏｌｄａｃｃｕ当一个目标样本窗口Ｉ＿ＷＩＮ到来时，ＲｅＰｒｏ算法将预测出将用来分类的概念Ｃｎｅｘｔ。

Ｃｌａｓｔ表示Ｃ＿ＳＥＱ中最近的稳定概念，依照概念转移矩阵找出转移概率比ｔｈｒｅｓｈｏｌｄｐｒｏｂ高的并用Ｃｎｅｘｔ（ｓ）表示。

如果不止一个Ｃｎｅｘｔ（ｓ）存在，则对于每一个Ｃｎｅｘｔ（ｓ）计算它在Ｉ＿ＷＩＮ中的分类精度，找出分类精度最高的一个。

如果不存在Ｃｎｅｘｔ（ｓ），则计算Ｃ＿ＤＩＳ上的每一个概念在Ｉ＿ＷＩＮ上的分类精度，Ｃｎｅｘｔ用来表示分类精度最高的一个。

如果Ｃｎｅｘｔ在Ｉ＿ＷＩＮ上的分类精度比ｔｈｒｅｓｈｏｌｄａｃｃｕ低，则从Ｉ＿ＷＩＮ窗口中学习新的概念并用Ｃｎｅｘｔ表示。

ＲｅＰｒｏ算法利用马尔可夫链构造历史概念序列，并充分利用概念转移矩阵对可能出现的概念进行预测，提高了分类的时间性能和分类准确度。

３．３ＨＭＭ在文本信息抽取中的应用利用ＨＭＭ进行信息抽取是一种基于机器学习的信息抽取方法，它因易于建立、适应性强、抽取精度高的优点而日益受到研究者的关注。

ＭｃＣａｌｌｕｍ提出“收缩（ｓｈｒｉｎｋａｇｅ）”技术来改进ＨＭＭ信息抽取模型概率的估计［６］。

钟敏娟等提出了基于多模板隐马尔可夫模型的文本信息抽取算法［５］（ＭＴ－ＨＭＭ）。

该算法中ＨＭＭ被看作成一个五元组｛Ｓ，Ｔ，Ａ，Ｂ，Π｝。

其中Ｓ是状态集，模型共有Ｎ个状态；Ｖ是词汇集，模型共有Ｍ个可能的输出单词；Ａ是Ｎ×Ｎ的状态转移矩阵，ａｉｊ是从状态ｓｉ转换到状态ｓｊ的概率；Ｂ是Ｎ×Ｍ的释放概率矩阵，ｂｉ（Ｖｋ）是在状态ｂｊ时释放单词Ｖｋ的概率；П是初始状态概率集合，πｉ是第ｉ个状态作为初始状态的概率。

采用ＭａｘｉｍｕｍＬｉｋｅｌｉｈｏｏｄ（ＭＬ）算法，建立ＨＭＭ模型，ＭＬ算法主要以统计的方法得出ＨＭＭ模型参数，由以下３个公式分别计算模型的初始状态概率、转移状态概率和状态释放概率，即（１）（２）其中，Ｉｎｉｔ（ｉ）是所有训练序列中，初始状态为ｉ的序列个数，Ｃｉｊ是所有训练序列中，从状态Ｓｉ转换到状态Ｓｊ的次数。