基于时间序列的异常检测研究

世界软件工程大会

基于时间序列的异常检测研究

王桂兰，王振奇，罗贤金

信息与网络管理中心，华北电力大学，保定

071003中国. E-MAIL：yu_bing_2000@https://www.360docs.net/doc/e214767458.html,

摘要

随着网络环境的不断恶化，各种病毒、木马不断影响网络的安全。通过网络通信异常状况的检测和分析，可以有效地发现在网络中存在的问题。本文讨论了网络流量数据预测及网络异常检测，采用ARMA模型的网络流量预测，利用平滑指数模型的网络异常检测。ARMA 模型为异常检测提供预期值，同时，平滑指数模型修复历史流量数据，可以使下一次流量预测更准确。网络流量预测和网络异常检测系统已经被开发出来，利用它可以发现网络异常并发送警报，从而提高了网络的稳定性和健壮性。

1.绪论

随着网络规模的不断扩大和网络复杂性的日益增加，基于TCP / IP协议的互联网，已经成为一个全球性的信息基础设施，是现代生活不可或缺的内容，它的崩溃可能会导致巨大的经济损失。例如，2001年7月Code-Red蠕虫病毒在不到9个小时的时间里，感染了25万台计算机，直接经济损失达260亿美元；2003年1月，SQL Slammer蠕虫病毒爆发，在开始的5分钟内导致了9.5至1.2亿美元的损失。网络采集过程中，蠕虫病毒导致的网络拒绝服务和网络不当配置现象，严重影响了网络的正常运行。如何有效地管理现代化的大型网络，使他们更高效、可靠和安全地运行是网络维护面临的一个迫切的问题。

近年来，异常检测，作为数据挖掘的一个分支，正受到越来越多的关注和研究。这些研究一般可分为五大类：基于分布方法，基于深度方法，基于聚类方法，基于距离的方法和基于密度的方法。基于分布和深度方法的异常检测是统计学中采用的主要方法。基于分布的方法设定数据组是已知的，根据上述的数据分布对于每个对象采取“不一致”测试，如果该对象不符合分布方式，它就被认为是异常的。这就是本文所采取的方法。

在本文中，网络历史流量的时间序列是已知的分布，只有当前时刻的流量是预测值，如果实际值未通过“不一致”的测试，那么它就被认为是异常的。同时，在历史数据的时间序列中异常值将会由实际值所替代。因此，以后的预测将更加准确。在这里，一个实用的系统被

应用以实现网络流量预测和异常检测，在这个系统中的网络流量预测借助于ARMA预测模型，一致性分析使用了平滑指数模型。一旦一个数据被识别为异常值，系统会报告管理员，然后可以采取必要措施，保证网络的正常运行。

本文的结构如下，第2节介绍了ARMA模型及其应用，第3节介绍了基于校园网络负载系统的ARMA模型，第4节给出了一个用于发现异常，提高预测的准确度的平滑指数模型，第5节介绍了系统的结构，第6节作出总结和介绍我们今后的工作。

2.ARMA模型预测过程

对于一个具有平稳时间序列的网络负载数据，因为历史数据和未来数据的特性是彼此相似的，历史数据可以作为参考，以制定一个适当的ARMA模型。在本节中介绍了普遍适用的ARMA模型，它是由自回归模型（AR）和滑动平均模型（MA）组成的线性组合。图1所示为这种模型的识别过程，可以大致分为三个步骤，包括系统建模，参数估计和适应性的验证。

图1.ARMA模型识别过程

2.1.建模过程

在统计学中，滑动自回归平均模型（ARMA），有时也被称为Box-Jen-kins模型而迭代

Box-Jenkins法通常用于评估他们，ARMA模型通常是适用于时间序列数据。

一个负载系统通常表示为下列ARMA形式：

其中，y t是负载的观察时间序列，a t是高斯白噪声，及B是延迟算子，如，

。在图1左边，其中是AR部分的参数，且是AR的阶数。在图1的右侧，

其中，是MA部分的参数，并且是MA的阶数。

在这项研究中，使用的样本自相关函数和偏自相关函数的信息作为预估模型阶数的参考。

2.2.参数估计

随着模型的构建，相关的参数需要提前预估。这项工作可以借助于基于梯度的方法，其中，参数被预估以便于历史数据的拟合误差的平方和具有零梯度。

2.3.适应性的验证

当模型参数估计完成后，即对于模型的适应性进行验证。在此过程中对于下面列出的三个项目进行验证：

1）气象参数的预估显然不为零，换句话说，序列参数为零。

2）剩余误差是白噪声过程的体现。

3）拟合模型是适当的。

上述项目确认之后，所构建的模型将会准备进行负载预测。然而，如果该模型没有通过这些测试，上述过程应再次重复进行，直到找到适当的模型。

3.系统建模

每隔一小时，收集一次校园网的输出流量，构成一个时间序列。图2描述的是一个负载数据的时间序列图形。横轴是时间；垂直轴是流量数据，单位是字节。

图2.网络负载的时间序列图

3.1.自相关和偏相关分析

通过Eviews软件进行自相关和偏自相关的分析，结果如图3所示（在接下来的页面）。根据图3所示，我们可以看到，相关系数的序列快速演变为随机时间间隔序列和一段残余序列，显示该序列是稳定的。只有光滑的时间序列才可以直接构建成一个ARMA模型，否则必须采取适当的处理，使该平稳序列能满足要求。这里的序列是稳定的，所以可以直接建立ARMA模型。

图3.自相关和偏自相关图

3.2.ARMA模型预估

应用ARMA（P，Q）模型，我们需要先确定参数p和q。根据自相关和偏相关函数，我们可以判断他们。图2表明，偏相关系数逐渐趋近为零，则p=1 。当k = 1，2或3时，自相关系数显然不为零，则q = 1或2 。所有系统可以采用ARMA（1,1）或ARMA（1,2）模型。为了使问题尽可能简化，我们采取的是ARMA（1,1）模型

3.3.适应性验证

现在我们验证上面选择的ARMA模型的适应性，如果该模型符合2.3中的3条规则，它就可以通过验证。

3.3.1 估计参数的适应性验证

在应用ARMA模型时，序列要求为零，如果该序列不为零，需要通过转换将该序列转化

为均值为零的序列。

在这种情况下，首先取对数序列，然后取其反向差分序列。具体步骤如下：

y k log( y k)

y k=y k-y k-1

分析上述的变换序列，我们可以得到图4中所示的结果。

如图4中所示，两个根都在单位圆外，满足回归和平滑的要求。

3.3.2 白噪声测试

在此过程中我们可以确认，残差e是白噪声的体现。如果剩余序列不是白噪声序列，那么仍有一些有用的信息存在于残差序列并没有被提取。所以我们需要进一步改进模型。测试通常集中在随机测试变化后的残余序列上，即当滞后K≥1，样本序列的自相关系数应近似于0。

图4.ARMA（1，1）模型的参数估计

残差序列的自相关函数：

其中n是用于计算r k的观测值，m是最大滞后值。

如果样本n的值很大，则m值可取n/10。当n较小时，m值可取n/ 4。

图5.残差序列的自相关图

测试统计：

为零假设的下，Q服从；；χ2（m-p-q）分布。1-α（一般取α=0.05或0.10）已经给定，如果Q≤χ2（m-p-q的）不能拒绝残差序列相互独立的原始假设，则通过测试;否则则该模型未能通过测试。

在图5中的残余序列的样本大小为n，所以最大滞后值m可以取12/4 =3。当k = 3时，我们得到测试的统计Q值为0.3904，从行PROB读出的第一个拒绝原始假设的错误的概率是0.532，换言之，残留序列是独立的或是白噪声的概率很大。所以不能拒绝序列为相互独立的，则通过了测试。

4.指数平滑模型

这里是指数平滑模型，它可以识别网络中大的波动并且将他们从所观察到的时间序列中删除，使网络的位置量可以更准确的预测。

为简单起见，我们仅计算一个小时，hj表示在该时间内J的形象（即时间点i在时间序列中）。

确定各点的期望值，表示为E（hj），指数平滑模型允许积累期望值而不需要额外的资源（例如内存）来存储先前值。当一个峰值是实际增加值，而不是一个异常时，它也可以快速学习调整。该模型在时间序列上至少需要两点，并且被递归定义如下：

E(h2)=h1, E(hj+1)=αhj+(1-α)E(hj) for i>1(Eq. 6)

换句话说，一个点的期望值是以前的值和先前的预期值的线性组合。在实践中（公式6）被用来计算‘在飞’的期望，应用（公式6）每个新的数据点和下一点的期望也被更新。

方差hi（任意随机变量），记作VAR（hi），定义为：

Var(hi)=E([hi-E(hi)] )(Eq. 7).

换句话说，方差是预测值和期望值之间差值平方。扩展平方项并计算E（E（X））= E（X），得到：

因此，借由预测平方值序列的模型，可以很容易获得方差。用其他指数平滑模型来模拟预计平方值：

当计算E（HJ）时，预计平方值也可以用观测值的加权总和来表示。

要确定一个值是否是一个异常，用该值与预期值之间的差异来测量标准偏差，记为SD，这是一个简单的方差平方根，表示为：

SD(hi)= {square root over (Var(hi))} (Eq. 10).

当超过2个标准偏差值偏离预期值时。该值被认为是一个异常值。

一旦检测到异常，他们也可以利用的时间序列模型来取代。直观地说，当一个值偏离期望值，超过一些常数（可能非整数）的标准偏差数，该值被期望值取代。去除异常时，方差的平方值也被取代，但是预期的平方值不会被使用，它会被预期值平方的平均预期值和实际异常值取代（下文描述）；这个过程确保在时间序列上的变化（即，该值不是一个异常），它不会删除太多的错误异常值。

5.系统的实现

网络流量预测和异常检测系统由数据采集组件，网络流量预测部分和异常检测部分组成。图6是系统结构图。异常检测组件从数据采集组件和交互的网络流量预测组件接受输入，提供一个输出。输入通常是与数据集相关的历史时间序列。异常检测组件利用输入的数据切片来确定异常。输出是从输入端检测到的异常。

图6.系统结构图

数据采集部分：从串口读取校园网络负载的数据。通过设置一个定时器，每小时进行数据采集。这里的主要用途是相关设备的API接口。

网络流量预测组件提供了期望值和系列中的每个点的标准偏差。利用3章中制定的ARMA 模型，预测当时的网络流量。

异常检测组件通过接受历史时间序列和网络流量预测部件交互来发现异常。为了获取目标，指数平滑模型来分析流量时间序列的一个新的点，并确定是否是异常。如果该值被视为异常，系统会向管理员发出报警信息并且在时间序列中将它用期望值代替，从而使未来的预测更准确。

6.结论和未来的工作

基于时间序列和网络异常检测的网络流量预测的探讨，开发了一个系统。该系统预测网络流量并分析预测值与实际值之间的相似性，从而识别异常。当异常发生时，系统自动报警，使管理员可以采取措施来保护网络的正常运行。利用ARMA预测模型和指数平滑模型预测网络流量是用来确定一个值是否是异常；更重要的是，如果发生异常时，指数平滑模型可以合理地替换历史时间序列点与他们的期望值，使下一个预测更准确。

在本文中，我们的模型是手动建立的，可能不是所有的情况都可行。此外，异常检测是非常简单的。众所周知，异常是多种多样的。在大多数情况下，网络管理员希望知道检测异常的类型。如果系统可以告诉管理员异常的类型并给出一些建议，这将是更好的。这是我们下一步要做的。

鸣谢

这项工作得到了华北电力大学青年教师科研基金的支持：200611021。

参考文献

【1】V. Barnett, T. Lewis.统计数据中的异常值[ M].约翰威利,1994.

【2】T. Johnson, I. Kwok, and R.T. Ng.二维深度轮廓的快速计算.

【3】Z.He, X.Xu and S.Deng。基于局部离群点的发现,[J],模式识别快报，2003,24（9 / 10）：1641-1650.

【4】Sridhar Ramaswamy, Rajeev Rastogi, Kyuseok Shim，大型数据集异常挖掘的有效算法，ACM数据管理国际会议，2000.

【5】W. Jin, A.K.H. Tung, and J. Ha.大型数据库中Top-N局部异常的挖掘。KDD,293-298，2001。【6】J. M. Mendel，信号处理和系统理论的高阶统计教程：理论结果与一些应用程序,IEEE，79卷,278-305，1991.3.

【7】Yi-Hui Dan，Eviews.数据分析和应用,中国统计出版社,北京,2002.

【8】D. Aboutajdine, A. Adib, and A. Meziane .AR参数估计高阶统计量的自适应快速算法,IEEE

信号处理杂志,44卷,8号,1998–2009,1996.

【9】X. D. Zhang and Y. S. Zhang，基于奇异值分解的非高斯ARMA模型的MA定阶,IEEE.信号处理,41,2657–2664,1993.8.