基于间隔链表改进的频繁项集挖掘算法

基于间隔链表改进的频繁项集挖掘算法作者：徐永秀刘旭敏徐维祥来源：《计算机应用》2016年第04期摘要：针对PrePost算法中需要建立复杂的前序和后序编码树（PPCtree）和节点链表（Nlist）的问题，提出一种基于间隔链表（Ilist）改进的高效频繁项集挖掘算法。

首先，该算法采用了比频繁模模式树（FPtree）更加压缩的数据存储结构间隔编码的频繁模式树（IFPtree），无需迭代地建立条件FPtree；其次，该算法利用更简洁的Ilist代替了PrePost中复杂的Nlist，从而提高了建树和挖掘速度；最后，对于单分支路径的情况，该算法通过组合的方法，直接求得某些频繁项集，以提高算法的时间性能。

实验结果表明：一方面，对于同一数据集在相同支持数下挖掘的结果相同，验证了改进算法的正确性；另一方面，无论在时间还是空间上改进算法的整体性能均比PrePost算法提高约10%；且对于稀疏型数据库或密集型数据库的挖掘都有较好的应用。

关键词：数据挖掘；关联规则；频繁项集；频繁模式树；间隔链表中图分类号：TP311.13 文献标志码：A0引言数据挖掘是从海量数据中提取具有潜在利用价值的信息和知识的过程，其中关联规则挖掘是数据挖掘的关键问题之一。

关联规则挖掘一般分为挖掘频繁项集和产生关联规则两步，其中最关键和最耗时的一步是挖掘频繁项集，因为一旦挖掘出所有的频繁项集，关联规则通过简单的数学计算便可得到。

因此，频繁项集挖掘的性能决定了关联规则挖掘的总体性能。

频繁项集挖掘最早是在1993年被Agrawal等[1-2]提出，自此，大量的频繁项集挖掘算法被提出。

一般地，它们主要分为以下三类：1）Apriori类算法。

Apriori类算法采用层次迭代的思想，需要不断地扫描事务数据库以及递归地自连接产生候选项集并对其进行剪枝，最终挖掘出所有的频繁项集。

但是它存在重复地扫描数据库和产生大量的候选项集两个严重缺陷。

对于长度为N的频繁项集，最大可能要枚举2N-2个子集，算法的计算效率太低，甚至有时根本无法计算。

为了解决这一问题，研究者们提出了一些改进算法。

例如，基于直接散列和修剪（Direct Hashing and Pruning，DHP）的频繁项集挖掘算法[3]在生成候选项集时，将K维子集放入Hash桶中，减少候选项集的数量；BitTableFI算法[4]采用一种特殊的BitTable数据结构加快候选项集的产生以及项集支持度的计算。

但是这类算法仍然存在产生候选项集的问题。

2）频繁模式增长（Frequent Patter Growth， FPGrowth）类算法。

FPGrowth算法采用分而治之的策略[5]，只需要遍历两次数据库，便可挖掘出全部的频繁项集。

FPGrowth算法将数据压缩到频繁模模式树（Frequent Pattern tree， FPtree）中，然后挖掘由FPtree导出的条件数据库。

FPGrowth需要递归地构建条件FPtree，消耗大量的时间，并且此算法不太适合稀疏型数据集。

Sucahyo等[6]对FPGrowth算法加以优化提出基于高压缩频繁模式树（Compressed FPtree，CFPtree）的CTPRO算法，该算法避免了递归生成条件FPtree的开销；但是需要对每个频繁项目建立局部CFPtree，因此，当数据量较大时，CTPRO算法可能会出现内存崩溃的问题。

3）垂直数据结构的算法。

Apriori类算法和FPGrowth类算法通常采用水平数据结构挖掘。

一般采用垂直数据结构的挖掘性能要优于水平数据结构的挖掘性能[7]。

Eclat算法[8]采用垂直数据结构Tidset，但当Tidset的规模庞大时将会出现一下两个问题：①Tidset的交集运算消耗大量时间，影响了算法的效率；②消耗系统大量的内存。

最近，Deng等[9]提出了一种基于节点链表（Node list，Nlist）和前序和后序编码树（Preorder and Postorder Code tree，PPCtree）的高效频繁项集挖掘算法——PrePost算法。

该算法结合了FPGrowth算法和Eclat算法的优点，利用Nlist的交集运算求得项集支持数，避免了条件树的建立和候选项集的产生。

但是PrePost算法需要前序和后序两次遍历初始PPCtree来得到完整的PPCtree，消耗了建树时间。

另外，PrePost算法在建立Nlist时需要为每个节点保存计数值，占用了内存空间。

针对PrePost算法的问题，本文在PrePost算法的基础上进行了改进：一方面，本文采用了一种利用间隔编码的频繁模式树（Interval FPtree，IFPtree），在改进算法中只需要遍历一次初始IFPtree便可得到完整的IFPtree，提高了建树速度；另一方面，采用了较Nlist简单的间隔链表Ilist，在求项集支持数的过程中，不需要为项集保存支持数，节省了内存空间，提高了频繁项集挖掘的速度。

为了表明本文改进算法的有效性和正确性，在实验部分，将改进算法与PrePost算法进行了实验比较，实验结果表明改进算法的整体性能优于PrePost算法。

4结语本文针对Deng等[9]提出的PrePost算法进行改进，引入事务间隔的概念，建立Ilist，将IFPtree中的每个节点一一映射到Ilist中的每个事务间隔[s， e]，提高了建树速度。

本文充分利用了Ilist中事务间隔的有序性和单分支特性，使得求频繁k项集的Ilist具有线性时间复杂度，从而有效地提高了频繁项集的挖掘速度。

在接下来的工作中，将继续完善该算法：一方面，在并行计算方面进行扩展，如将云计算与其结合起来，实现算法的MapReduce化；另一方面，可以将该算法的思想拓展到最大、闭频繁项集的挖掘领域。

致谢非常感谢邓志宏教授提供的PrePost算法的代码。

参考文献：[1]AGRAWAL R， IMIEILNSKI T， SWAMI A. Mining association rules between sets of items in large databases [C]// Proceedings of 1993 ACM SIGMOD Conference on Management Data. New York： ACM， 1993： 207-216.[2]AGRAWAL R， SRIKANT R. Fast algorithms for mining association rules [C]// VLDB 1994：Proceedings of the 20th International Conference on Very Large Data Bases. San Francisco： Morgan Kaufmann Publishers， 1994：487-499.[3]LIN K C， LIAO I E， CHEN Z S. An improved frequent pattern growth method for mining association rules [J]. Expert Systems with Applications， 2011， 38（5）： 5154-5161.[4]GUPTA R， SATSANGI C S. An efficient range partitioning method for finding frequent patterns from huge database [J]. International Journal of Advanced Computer Research， 2012， 2（2）： 62-69.[5]李也白，唐辉，贺玉明.基于改进的FPtree的频繁模式挖掘算法[J]. 计算机应用， 2011，31（1）： 101-103.（LI Y B， TANG H， HE Y M. Frequent pattern mining algorithm based on improved FPtree [J]. Journal of Computer Applications， 2011，31（1）：101-103.）[6]SUCAHYO Y G， GOPALAN R P. CTPRO： a bottomup non recursive frequent itemset mining algorithm using compressed FPtree data structure [C]// FIMI 2004： Proceedings of the IEEE ICDM Workshop on Frequent Itemset Mining Implementations. Piscataway， NJ： IEEE， 2004：212-223.赵娟. 一种基于矩阵的并行频繁项集挖掘算法研究与实现[D].兰州：兰州大学， 2011：10-11.（ZHAO J. Research and implement of a matrix based paralleled frequent itemset mining algorithm [D]. Lanzhou： Lanzhou University， 2011：10-11.）[7]ZAKI M J， GOUDA K. Fast vertical mining using diffsets [C]// Proceedings of the 9th ACM SIGKDD International Conference on Knowledge Discovery and Data mining. New York： ACM，2003： 326-335.[8]LI Z F， LIU X F， CAO X. A study on improved Eclat data mining algorithm [J]. Advanced Materials Research， 2011， 328/329/330： 1896-1899. 卷就是这样写的。

http：///docinfo.action？docid=1842644&isxkflag=1[9]DENG Z H， WANG Z H， JIANG J J. A new algorithm for fast mining frequent itemsets using Nlists [J]. Science China Information Sciences， 2012， 55（9）： 2008-2030.[10]LIN K C， LIAO I E， CHANG T P. A frequent itemset mining algorithm based on the principle of inclusionexclusion and transaction mapping [J]. Information Sciences， 2014， 276：278-289.[11]VO B， LE T， COENEN F. Mining frequent itemsets using the nlist and subsume concepts [C]// Proceedings of the 2013 IEEE International Conference on Systems， Man， and Cybernetics. Piscataway， NJ： IEEE， 2014： 1-13.[12]GOETHALS B， ZAKI M. Frequent itemset mining implementations repository [EB/OL]. [20150220] http：//fimi.ua.ac.be/data/.BackgroundThis work is supported by the National Natural Science Foundation of China （61272029）.XU Yongxiu， born in 1991， M. S. candidate. Her research interests include data mining.LIU Xumin， born in 1956， Ph. D.， professor. Her research interests include computer aided geometric design， graphics and image processing， data mining.XU Weixiang， born in 1956， Ph. D.， professor. His research interests include data mining，analysis and integration for transport systems， cloud computing.。