序列模式挖掘

序列模式 VS 关联规则
问题 序列模式挖掘 关联规则挖掘
数据集
序列数据库
事务数据库
关注点
单项间在同一事务 单项间在同一事务 内以及事务间的关 内的关系 系
序列模式挖掘算法概述

类Apriori算法
该类算法基于Apriori理论，即序列模式的任一子序列也是序列模 式。算法首先自底向上的根据较短的序列模式生成较长的候选序列 模式，然后计算候选序列模式的支持度。典型的代表有GSP算法, spade算法等
Index 网站入口
web1 web2
应用案例3：疾病诊断
医疗领域的专家系统可以作为疾病诊断的辅助决策手段。对应特定的 疾病，众多该类病人的症状按时间顺序被记录。自动分析该纪录可以 发现对应此类疾病普适的症状模式。每种疾病和对应的一系列症状模 式被加入到知识库后，专家系统就可以依此来辅助人类专家进行疾病 诊断。

基于划分的模式生长算法
该类算法基于分治的思想，迭代的将原始数据集进行划分，减少数 据规模，同时在划分的过程中动态的挖掘序列模式，并将新发现的 序列模式作为新的划分元。典型的代表有FreeSpan算法和prefixSpan 算法
知识回顾

基本概念 支持度计数：包含特定项集的事务的个数: ( X ) 关联规则：形如 X Y 的蕴涵表达式 支持度：同时包含X,Y的事务在所有事务中所占的比例

关联规则挖掘的任务划分：


频繁项集的产生（候选( C 产生 C )，剪枝（基于先验原理）） 规则的产生(逐层方法来产生关联规则,定理1剪枝)
i
i 1
知识回顾
Apriori算法伪代码：
Ck: Candidate itemset of size k Fk : frequent itemset of size k F1 = {frequent items}; for (k = 1; Fk !=; k++) do begin Ck+1 = candidates generated from Fk ; for each transaction t in database do increment the count of all candidates in Ck+1 that are contained in t Fk+1 = candidates in Ck+1 with min_support end return k Fk;
基本概念

项集(Itemset)是所有在序列数据库出现过的单项 组成的集合 例：对一个用户购买记录的序列数据库来说，项 集包含用户购买的所有商品，一种商品就是一个 单项。通常每个单项有一个唯一的ID，在数据 库中记录的是单项的ID。

基本概念

元素(Element)可表示为(x1x2…xm)， xk(1 <= k <= m)为不同的单项。元素内的单项不考虑顺序关 系，一般默认按照ID的字典序排列． 在用户事务数据库里，一个事务就是一个元素
F1 C2 F2 C3 F3 C4 F4 ……
GSP算法伪代码


输入：大项集阶段转换后的序列数据库DT。 输出：最大序列
（1） L1 = {large 1-sequences}； （2） FOR （k = 2；Lk-1 ；k++） DO BEGIN （3） Ck = GSPgenerate(Lk-1)； （4） FOR each customer-sequence c in the database DT DO （5） Increment the count of all candidates in Ck that are contained in c； （6） Lk = Candidates in Ck with minimum support； （7） END； （8） Answer = Maximal Sequences in ∪kLk；
(X Y ) s( X Y ) N

臵信度：事务X出现时Y出现的频繁程度
(X Y ) c( X Y ) (X )

频繁项集：满足最小支持的项集
知识回顾


定理

先验原理：如果一个项集是频繁的，那它的所有子集一定都是 频繁的 定理1：如果规则X Y X 不满足臵信度阈值，则形如 X ' Y X ' 的规则一定也不满足臵信度阈值，其中 X'是 X的子集

基本概念

设序列 = <a1a2…an>，序列 = <b1b2…bm>，ai 和bi都 是元素。如果存在整数1 <= j1 < j2 <…< jn <= m，使得a1 bj1，a2 bj2，…， an bjn，则称序列为序列的子 序列，又称序列包含序列，记为 。

c( X ' Y )
(X Y ) (X )
( X (Y X )) c( X Y X ) (X )
( X '(Y X ' )) c( X ' Y X ' ) (X ')
知识回顾
基于支持度的候选项集剪枝
A B null
C
D
E
AB
AC

如果序列s是非频繁序列，则s的所有超集序列都是非频繁的
Sequence
Seq. ID
10
20 30 40 50
<(bd)cb(ac)>
<(bf)(ce)b(fg)> <(ah)(bf)abf> <(be)(ce)d> <a(bd)bcb(ade)>
min_sup =2
<hb> 非频繁 则： <hab> 非频繁 <(ah)b> 非频繁
3
4
图书交易网站将用户购 物纪录整合成用户购物 序列集合
得到用户 购物行为 序列模式
<(“UML语 言”)(“Visio2003实用 技巧”)>
相关商品推荐：如果用 户购买了书籍“UML语 言”, 则推荐 “Visio2003实用技巧”
应用案例2：Web访问模式分析
大型网站的网站地图(site map) 往往具有复杂的拓扑结构。用 户访问序列模式的挖掘有助于 改进网站地图的拓扑结构。比 如用户经常访问网页web1然后 访问web2,而在网站地图中二者 距离较远，就有必要调整网站 地图，缩短它们的距离，甚至 直接增加一条链接。
知识回顾

支持度度量满足单调性(X'为X的子集)
N N 臵信度一般不满足单调性(X'为X的子集)
S(X Y )
(X Y )
S(X ' Y )
( X 'Y )
( X 'Y ) (X ') 如果关联规则产生自同一项集，则臵信度满足单调性
c( X Y )
数据挖掘与商务智能
Data Mining & Business Intelligence 第六章 序列模式挖掘
西安电子科技大学 软件学院 主讲人：黄健斌
内容提纲





序列模式挖掘简介 序列模式挖掘的应用背景 序列模式挖掘算法概述 GSP算法 SPADE算法 PrefixSpan算法 CloSpan算法 利用SPSS软件挖掘频繁序列模式

GSP算法

产生候选序列模式主要分两步：

连接阶段：如果去掉序列模式s1的第一个元素与去掉序列模式
s2的最后一个元素所得到的序列相同，则可以将s1与s2进行连 接，即将s2的最后一个元素添加到s1中

剪枝阶段：若某候选序列模式的某个子序列不是序列模式，
则此候选序列模式不可能是序列模式，将它从候选序列模式 中删除 L1 C2 L2 C3 L3 C4 L4 ……
GSP算法

候选序列模式的支持度计算：对于给定的候选序列模式集合C， 扫描序列数据库，对于其中的每一条序列s,找出集合C中被s所
包含的所有候选序列模式，并增加其支持度计数
ABC=>D
CD=>AB
BD=>AC
BC=>AD
AD=>BC
AC=>BD
AB=>CD
D=>ABC
C=>ABD
B=>ACD
A=>BCD
Pruned Rules
GSP算法

算法思想(候选产生测试法)： 类似于Apriori算法，采用冗余候选模式的剪除 策略和特殊的数据结构-----哈希树来实现候选模 式的快速访存。
序列模式挖掘简介

序列模式的概念最早是由Agrawal和Srikant 提出 的。 动机：大型连锁超市的交易数据有一系列的用户 事务数据库，每一条记录包括用户的ID，事务 发生的时间和事务涉及的项目。如果能在其中挖 掘涉及事务间关联关系的模式，即用户几次购买 行为间的联系，可以采取更有针对性的营销措施。

序列模式挖掘的应用背景
应用领域： 客户购买行为模式预测 Web访问模式预测 疾病诊断 ······
应用案例1：客户购买行为模式分析
B2C电子商务网站可以根据客户购买纪录来分析客 户购买行为模式，从而进行有针对性的营销策略。
ID 1 2 User transaction sequence ………………………………………… ……………….. ………………………………………… …… ………………………………………… ………….. ………………………………….