基于人工示例训练的神经网络集成入侵检测

合集下载

使用AI技术进行网络入侵检测的最佳实践

使用AI技术进行网络入侵检测的最佳实践

使用AI技术进行网络入侵检测的最佳实践引言:随着互联网的迅猛发展,网络入侵成为了一个严重的安全威胁。

黑客利用各种手段,试图获取机密信息,篡改数据或者破坏网络系统。

传统的入侵检测方法已经无法满足对复杂入侵行为的准确检测和及时响应的需求。

因此,更高级别的技术与工具被引入到网络安全中,尤其是使用人工智能(AI)技术进行网络入侵检测。

本文探讨了使用AI技术进行网络入侵检测的最佳实践。

一、背景介绍随着大数据和云计算等新兴技术的出现,传统基于规则和签名的入侵检测系统已不再适用于当前复杂多变的威胁环境。

这些传统方法只能根据已知模式进行匹配来发现威胁,无法有效应对未知的威胁情况。

二、AI技术在网络入侵检测中的应用1. 机器学习算法AI技术中最常用于网络入侵检测的是机器学习算法。

机器学习可以通过分析历史数据来建立模型,并基于这些模型对新的网络流量进行分类。

常见的机器学习算法包括支持向量机(SVM)、决策树和随机森林等。

2. 深度学习算法深度学习是一种基于神经网络的机器学习算法,它可以通过多个层次的抽象来建立模型并进行更准确的分类。

深度学习在图像识别、语音识别等领域取得了显著成果,在网络入侵检测中也显示出巨大潜力。

三、AI技术在网络入侵检测中的挑战1. 数据集的质量与规模AI算法需要大量高质量的样本数据来训练模型,而对于网络入侵检测而言,获取足够高质量的数据集并不容易。

很多入侵行为都是隐藏且少见的,因此构建准确且全面的数据集是一项挑战。

2. 模型过拟合问题由于黑客攻击手段不断变化和进化,训练好的模型可能无法适应新兴威胁形式。

同时,使用过拟合方法可能导致误报过多或漏报的问题。

四、AI技术网络入侵检测最佳实践1. 组合算法单一的机器学习或深度学习算法可能无法覆盖所有入侵检测场景。

因此,结合多种算法可以提高覆盖率和准确性。

例如,将传统的基于规则的方法与机器学习或深度学习相结合,可以发现已知和未知的入侵行为。

2. 持续训练模型网络安全是一个动态的领域,新的威胁不断涌现。

人工智能在网络入侵检测中的实践与效果

人工智能在网络入侵检测中的实践与效果

人工智能在网络入侵检测中的实践与效果随着科技的不断进步和互联网的普及,网络安全问题已经成为了一个严重的全球性挑战。

网络入侵是其中最为严重和频繁出现的问题之一,它给个人、企业和整个社会带来了巨大的负面影响。

为了应对这一问题,人工智能被引入到网络入侵检测中,以提供更加智能高效的解决方案。

本文将探讨人工智能在网络入侵检测中的实践与效果。

一、人工智能在网络入侵检测中的应用1. 异常检测人工智能可以通过学习正常网络流量的特征,识别出与之不一致的异常流量,从而判断是否存在网络入侵。

传统的基于规则的入侵检测系统只能检测到已知的攻击模式,而人工智能在这方面具有更高的灵活性和适应性。

2. 机器学习算法机器学习算法是人工智能在网络入侵检测中的重要组成部分。

通过对大量的历史数据进行分析和学习,机器学习算法可以识别出网络中的潜在威胁,并进行预测和防范。

这种算法可以不断优化自身的模型,提高准确性和效率。

3. 深度学习技术深度学习技术是机器学习的一种进化形式,它通过构建多层神经网络来模拟人类大脑的工作原理。

深度学习可以更好地处理复杂的网络入侵行为,并具有更高的检测准确性。

它的强大的模式识别能力使得网络入侵检测系统能够及时发现新型攻击方式。

二、人工智能在网络入侵检测中的效果1. 提高检测准确率相比传统的入侵检测系统,人工智能在网络入侵检测中能够提供更高的准确性。

机器学习和深度学习算法可以通过大量的数据学习到更多的入侵模式,并能够自动识别新型威胁。

这种高准确性可以帮助用户及时发现并应对网络入侵,减少安全风险。

2. 加强实时监测能力传统的入侵检测系统通常采用离线分析的方式进行检测,存在较大的延迟。

而人工智能可以实现实时的流量分析和监测,能够及时发现异常行为并采取相应措施。

这种实时监测能力有效提高了对网络入侵的应对效果。

3. 减少误报率传统的基于规则的入侵检测系统容易产生大量的误报,给用户带来不必要的困扰和工作量。

而人工智能通过机器学习和深度学习算法能够准确地判断出真正的入侵行为,从而降低误报率。

网络安全中基于人工智能的入侵检测系统

网络安全中基于人工智能的入侵检测系统

网络安全中基于人工智能的入侵检测系统一、背景随着互联网的发展,越来越多的企业和个人使用网络进行日常操作,同时网络安全问题也变得越来越严重。

黑客攻击、恶意软件、钓鱼欺诈等威胁不断出现,使得保护网络安全变得更为重要。

为了避免数据泄露、网络瘫痪等影响,许多组织和机构都采取了入侵检测系统来确保网络安全。

而随着人工智能技术的不断发展,基于人工智能的入侵检测系统已经成为了一个越来越被需要的重要领域。

二、基于人工智能的入侵检测系统1. 传统入侵检测系统的缺陷传统的入侵检测系统主要分为基于规则的入侵检测系统和基于异常检测的入侵检测系统。

前者通过事先定义的规则输出,以确定网络流量中的入侵行为;后者则通过比较网络流量和先前建立的应用程序和行为模型来检测异常事件。

但是传统的入侵检测系统中存在很多缺陷,例如:规则方法需要使用先验知识和经验规则,如果网络攻击的类型没有考虑到,系统就会失效;而基于异常检测的入侵检测系统在误报和误判方面都存在很大的问题。

因此传统的入侵检测系统的可靠性和准确性都有待提高。

2. 基于人工智能的入侵检测系统原理基于人工智能的入侵检测系统就是将机器学习技术应用于网络入侵检测中。

它可以通过自动化学习和训练来发现新的威胁,并且在更短的时间内执行入侵检测。

基于人工智能的入侵检测系统通常利用以下这些人工智能技术:(1)机器学习机器学习指的是一种计算机利用数据和模型来构建预测模型的方法。

在入侵检测中,机器学习可以从历史数据中学习入侵的特征,并根据学习结果预测新数据是否构成入侵。

(2)深度学习深度学习是一种机器学习的分支,它使用神经网络来处理复杂的输入。

深度学习在入侵检测中可以通过训练神经网络来识别恶意流量,以及在恶意流量中找到隐藏的模式和规律。

(3)人工神经网络人工神经网络是由多个相互连接的神经元组成的。

它可以根据大量的数据训练自己的神经元,从而进行分类和识别。

3. 基于人工智能的入侵检测系统的优势与传统的入侵检测系统相比,基于人工智能的入侵检测系统具有以下优势:(1)提高准确性和可靠性基于人工智能的入侵检测系统可以利用机器学习、深度学习和人工神经网络等高级算法,可以准确识别网络攻击,并可以在更短的时间内执行入侵检测,从而提高了网络的保护能力。

基于人工智能的网络入侵检测系统

基于人工智能的网络入侵检测系统

基于人工智能的网络入侵检测系统近年来,随着互联网的迅速发展,网络入侵事件日益增多,给个人和组织的信息安全带来了严重威胁。

为了有效应对这样的威胁,人工智能技术逐渐应用于网络入侵检测系统。

本文将针对基于人工智能的网络入侵检测系统进行详细的介绍,并探讨其在网络安全领域的应用前景。

一、网络入侵检测系统概述网络入侵检测系统是一种用于监测和分析网络流量,识别和预防潜在入侵威胁的系统。

传统的网络入侵检测系统主要基于规则库和特征匹配的方式进行入侵检测,但这种方法存在着无法及时适应新型攻击的缺陷。

而基于人工智能的网络入侵检测系统正是应对这个问题而出现的新兴技术。

二、基于人工智能的网络入侵检测系统原理基于人工智能的网络入侵检测系统主要利用机器学习和深度学习的方法,通过对网络流量数据的分析和学习,来识别和预测异常流量行为。

具体而言,该系统通过对正常网络流量和异常网络流量的学习,构建模型以进行入侵检测。

1. 机器学习方法机器学习方法是基于样本数据进行模型训练和预测的一种方法。

在网络入侵检测系统中,可以通过监督学习、无监督学习和半监督学习等技术来构建入侵检测模型。

通过对大量已知网络攻击和正常流量的样本数据进行分析和训练,系统可以学习到攻击行为的特征,并能够在实时流量中进行检测和防范。

2. 深度学习方法深度学习是一种模拟人脑神经网络结构和功能的机器学习方法。

与传统机器学习方法相比,深度学习模型能够更好地处理大规模和复杂的数据。

在网络入侵检测系统中,深度学习方法可以利用神经网络的强大特征提取和模式识别能力,对网络流量进行分析和检测,实现更准确和高效的入侵检测。

三、基于人工智能的网络入侵检测系统的优势相比传统的网络入侵检测系统,基于人工智能的网络入侵检测系统具有以下几个明显的优势。

1. 自适应性基于人工智能的网络入侵检测系统可以通过学习和自适应的方式进行入侵检测,能够更好地适应新型攻击和未知的网络威胁,大大提高了检测的准确性和效率。

网络安全中基于人工智能的入侵检测技术研究

网络安全中基于人工智能的入侵检测技术研究

网络安全中基于人工智能的入侵检测技术研究近年来,随着互联网技术的飞速发展,人们生活中网络的应用越来越广泛,网络安全问题也引起了越来越多的关注。

那么,在这样一个充满着各种风险和威胁的复杂网络环境下,如何保障网络的安全,成为了一项重要的研究课题。

目前,基于人工智能的入侵检测技术已成为网络安全领域研究的重点之一。

一、人工智能在入侵检测中的应用简单来说,人工智能技术是模拟人类智能的一种方法,例如机器学习、数据挖掘、人工神经网络等,已逐渐被应用于入侵检测中。

即通过分析网络流量数据、网络日志等信息,利用机器学习的方法提取特征,将恶意网络流量与正常网络流量区分开来,从而实现对网络入侵的检测。

例如,在一些高性能计算平台上,可以使用机器学习的方法分析网络流量数据,对网络流量进行分类,将恶意的攻击流量与正常的流量区分开来,从而实现对网络入侵的智能检测。

二、入侵检测技术的优缺点基于人工智能的入侵检测技术,相较于传统的入侵检测技术,确实有着一些明显的优点。

首先,它可以对网络攻击进行及时识别,有效保护网络安全;其次,它可以根据历史数据对未知攻击进行自主学习和适应,提高检测的准确性;最后,它可以对大量的数据进行处理和分析,节省了大量的时间和人力成本。

与此同时,基于人工智能的入侵检测技术也存在一些缺点。

首先,它对硬件环境以及网络环境的要求较高,需要具有一定的高性能计算资源;其次,它对算法的选取以及参数的调整等方面也存在一定的复杂度和风险性;最后,对于一些未知的攻击方式,它的检测效果可能会出现不足之处。

三、未来网络安全的发展趋势在未来,基于人工智能的入侵检测技术将会继续发挥其重要作用,成为网络安全领域中的重点研究方向。

首先,应该进一步加强对于网络数据的分析和处理,提高机器学习算法的适应度和准确度;其次,应该加强对于网络监控的控制和管理,有效应对网络攻击和入侵的安全问题;最后,应该加强对于网络安全的培养和教育,提高全社会对于网络安全问题的重视度和安全意识。

人工智能在入侵检测系统中的应用

人工智能在入侵检测系统中的应用

人工智能在入侵检测系统中的应用随着互联网的快速发展,网络安全问题也变得日益重要。

入侵检测系统(Intrusion Detection System, IDS)作为网络安全的关键组成部分,负责监测网络流量,识别和报告潜在的安全威胁。

近年来,人工智能(Artificial Intelligence, AI)技术的快速发展为入侵检测系统的改进和应用提供了新的思路和解决方案。

本文将探讨人工智能在入侵检测系统中的应用,并分析其优势和挑战。

首先,人工智能技术为入侵检测系统带来了自动化和智能化的优势。

传统的入侵检测系统需要依赖专家手动编写规则来检测潜在的安全威胁,这种方法存在准确率低、漏报和误报率高等问题。

而人工智能技术可以通过机器学习算法自动学习和提取网络流量数据中的模式和特征,从而实现自动化的入侵检测。

与传统方法相比,基于人工智能的入侵检测系统能够更快速、准确地识别潜在的安全威胁,降低误报和漏报率,提高系统的安全性。

其次,人工智能技术在入侵检测系统中的应用还包括行为分析和异常检测。

通过分析网络流量数据中的用户行为和流量模式,人工智能算法可以识别出异常行为和异常流量,进而发现可能的入侵行为。

传统的基于规则的入侵检测系统往往只能检测已知的攻击模式,对于未知的新型攻击无法有效应对。

而基于人工智能的入侵检测系统则能够通过学习和分析大量的流量数据,从中发现新型的攻击模式,实现对未知攻击的检测和防范。

另外,人工智能技术还可以与传统的入侵检测方法相结合,实现更全面的安全保护。

传统的入侵检测方法通常基于规则匹配和特征提取来检测潜在的安全威胁,但是对于复杂的攻击行为往往无法有效检测。

而人工智能技术可以通过深度学习等方法进行数据驱动的学习和特征提取,从而提高系统对复杂攻击行为的检测率。

通过将人工智能技术与传统方法相结合,可以实现更全面、准确的入侵检测和防御。

然而,在人工智能在入侵检测系统中的应用中仍然存在一些挑战与难题。

首先是数据的问题。

基于人工智能的网络入侵检测与防御研究

基于人工智能的网络入侵检测与防御研究

基于人工智能的网络入侵检测与防御研究简介随着互联网的不断发展和普及,网络安全问题也日益凸显,网络入侵成为现代社会中常见的威胁之一。

传统的网络安全防御手段已经无法满足对于不断进化和变化的网络攻击的需求。

因此,基于人工智能的网络入侵检测与防御技术应运而生。

本文旨在探讨并研究基于人工智能的网络入侵检测与防御技术的原理、方法以及其在网络安全领域中的应用。

一、网络入侵检测与防御技术概述网络入侵检测与防御技术是指通过对网络流量和系统行为进行实时监测与分析,识别潜在的网络入侵行为并及时采取相应的防御措施。

传统的网络入侵检测与防御技术主要基于规则匹配和特征库的方式,但由于网络攻击手段的日益复杂和多样化,传统方法已经不足以应对这些威胁。

基于人工智能的网络入侵检测与防御技术通过机器学习、深度学习和自然语言处理等技术手段,具备更强大的智能化和自适应性,能够实现对网络攻击的实时检测和防御。

二、基于人工智能的网络入侵检测技术1. 机器学习方法基于机器学习的网络入侵检测技术通过构建合适的特征向量和选择适当的算法模型,实现对网络数据流量的分类和识别。

其中,监督学习和无监督学习是常用的机器学习方法。

监督学习根据已标记的样本数据训练模型,再对未知样本进行分类,而无监督学习则通过分析样本数据的相似性和异常性,实现对网络入侵的检测。

2. 深度学习方法深度学习技术是人工智能领域的热点研究方向,也被广泛应用于网络入侵检测。

深度学习通过构建深层神经网络结构,实现对网络数据的高层次抽象和特征学习。

卷积神经网络(CNN)和递归神经网络(RNN)是常用的深度学习模型,在网络入侵检测领域取得了一定的成果。

三、基于人工智能的网络入侵防御技术1. 强化学习方法强化学习是一种通过试错和奖励机制来训练智能体的机器学习方法。

在网络入侵防御中,强化学习可以用于构建网络入侵防御策略和动态调整系统参数。

智能体通过与环境的交互和学习,逐渐提高对网络攻击的应对能力,并实现自适应的网络入侵防御。

基于人工智能的网络入侵检测方法研究

基于人工智能的网络入侵检测方法研究

基于人工智能的网络入侵检测方法研究随着网络技术的发展和应用的广泛,网络安全问题愈演愈烈。

网络入侵攻击威胁着网上用户的安全与隐私,如何有效地检测和防范网络入侵威胁成为了当前迫切需要解决的问题之一。

人工智能技术因其在处理复杂问题方面具有的优势而逐渐成为网络入侵检测领域中的重要手段。

本文对基于人工智能的网络入侵检测技术进行了研究和探讨,并提出了相应的应对方案。

一、人工智能在网络入侵检测领域的应用人工智能技术在网络入侵检测领域中的应用主要体现在以下三个方面:1. 基于机器学习的网络入侵检测方法。

机器学习是一种能够让计算机不断地学习和适应的技术,通过对样本数据进行学习和模型构建,使得计算机能够在没有人类干预的情况下自动识别和处理数据。

在网络入侵检测领域,基于机器学习的方法通过建立模型来学习网络入侵行为的规律,并将新的数据与模型进行比对来判断其是否存在入侵行为。

相较于传统的基于规则的检测方法,机器学习技术能够更加全面地考虑网络入侵的各个方面,提高检测精度和准确性。

2. 基于神经网络的网络入侵检测方法。

神经网络是一种类似于人类大脑神经细胞相互连接的计算模型,能够学习和处理复杂的非线性关系。

在网络入侵检测领域,基于神经网络的方法通过构建网络模型来学习和识别网络流量特征,从而实现网络入侵检测。

相较于基于机器学习的方法,基于神经网络的方法能够更加准确地识别数据流量中的复杂关系,从而提高检测精度和准确性。

3. 基于深度学习的网络入侵检测方法。

深度学习是一种基于神经网络的机器学习方法,在处理复杂问题方面具有明显的优势。

在网络入侵检测领域,基于深度学习的方法通过多层次的神经网络架构来学习和识别网络入侵行为。

相较于传统的基于规则和特征提取的方法,深度学习技术能够更加高效地识别复杂的网络入侵行为和攻击类型。

二、基于人工智能的网络入侵检测技术的发展现状当前,基于人工智能的网络入侵检测技术已经逐渐成为网络安全领域的重要研究方向。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

基于人工示例训练的神经网络集成入侵检测
徐 敏
(南通大学计算机科学与技术学院,江苏 南通 226019) 摘 要:提出一种基于人工示例训练的神经网络集成入侵检测方法。使用不同的训练数据集训练不同的成员网络,以此提高成员网络之间 的差异度。在保证成员网络个数的基础上,选择差异度较大的成员网络构成集成,以提高系统的整体性能。实验结果表明,与当前流行的 集成算法相比,该方法在保证较高入侵检测率的前提下,可保持较低的误检率,并对未知入侵也具有较高的检测率。 关键词 关键词:网络安全;入侵检测;异常检测;人工示例训练;神经网络集成;差异度
1
概述
ห้องสมุดไป่ตู้
当前,网络规模持续扩大,网络入侵的数量及破坏力也 不断增加,网络安全成为备受关注的国际化问题。网络安全 措施主要有:数据加密技术,身份认证,防火墙,入侵检测 等。其中,入侵检测是一种常见的网络安全技术。 常见的入侵检测方法有误用检测和异常检测 2 种。误用 检测根据已知攻击和漏洞的特征进行设计,其最大的缺点是 无法识别未知的入侵,且攻击特征的提取存在一定的困难。 异常检测根据使用者的行为或当前资源使用状况的正常程度 来判断是否存在入侵,而不是依赖于具体的行为来检测,其 最大的优点就是能够检测到新的入侵行为。 目前,异常检测技术已成为计算机网络安全领域重要的 研究课题。比较热门的异常检测方法有神经网络、数据挖掘、 统计方法等。其中,基于神经网络的入侵检测系统是能够识 别未知入侵的最好方法。基于神经网络的入侵检测目前已有 不少研究,但神经网络自身存在一定缺陷,文献 [1]提出可以 结合其他的智能技术用于入侵检测。 通过训练多个神经网络并将其结果合成,能显著提高神 经网络系统的泛化能力 [2]。理论和实践表明,神经网络集成 在处理复杂问题时,是一种非常有效的工程化计算方法,可 以克服神经网络自身的缺陷,用于入侵检测系统。文献 [3]基 于神经网络集成的入侵检测技术已有研究,并取得了一定成 果。本文提出一种用于入侵检测的神经网络集成技术。
第 38 卷 第 6 期

敏:基于人工示例训练的神经网络集成入侵检测 (3)用 Step1 中的式 (1)计算 E ’。
199
描述为:首先从原始训练集成中产生一个神经网络,并定义 该神经网络为集成中的第 1 个神经网络。然后,使用不同的 训练集顺序生成其他神经网络。除第 1 个神经网络外,其他 神经网络的训练集是原始训练数据和随机产生的人工示例训 练数据集的组合。其中,神经网络被选入集成的条件是:该 网络添加到集成后,集成的整体性能有所提高。产生一个人 工示例的方法如下:随机产生一个输入数据集,然后定义该 模式的分类标签。通过现存的集成检验参数集的分类概率, 再反向定义分类概率产生一个示例,加入到训练下一个神经 网络的训练集中。 相对于 Bagging 和 AdaBoost 算法, ATENNE 算法被认为 是一种有效的集成方法,且表现出了很好的分类性能 [8]。但 是,该算法在解决小样本分类问题时,分类性能很好,在解 决具有大样本的分类问题时,效果不是很好。这是因为,在 选择集成中第 2 个神经网络时,该神经网络所用的人工训练 数据集中的数据,是与第 1 个神经网络的判定相反的分类示 例,其训练出来的第 2 个神经网络与第 1 个神经网络之间差 异度很大。但增加该神经网络到集成中,可能会降低而不是 提高集成的整体性能,导致 ATENNE 算法在处理一些问题 时,最终集成中仅返回一个或很少的神经网络,进而影响了 该算法的性能。 基于以上分析,本文在 ATENNE 算法的基础上,提出一 种改进的基于人工示例训练的神经网络集成方法,并将该算 法用于入侵检测。 基于人工示例训练的神经网络集成算法 成员网络之间的差异度是神经网络集成算法的一个重要 参数。由于差异度的存在,集成中一个网络的失败可以由其 他网络弥补。如果集成中不同的神经网络采用不同的人工示 例训练,就可以生成具有不同功能的成员神经网络,从而提 高成员神经网络之间的差异度。但是,随机人工示例训练生 成的神经网络,虽然能提高成员网络之间的差异度,但不一 定能提高神经网络集成的整体性能,需要一个合适的选择机 制选择成员网络构建集成。由此,本文提出一种对 ATENNE 改进后的基于人工示例训练的神经网络集成算法。 具体描述如下: Step1 定义 Mmax 为集成中成员网络的最大个数, Max 为最大连续丢弃次数。 2.2 定义 2 个计数器: M 为集成中成员网络的个数计数; j 为丢弃次数计数。 定义 Rsize 用于确定训练每个成员神经网络使用的人工 示例的个数。 设初始训练集 T ={(x(1),t (1)),… ,(x( N),t ( N))}。 对于每个分类 t(n)∈ K={1,2,… ,k} ;初始化 j=0,初始化 Rsize=x(0<x <1), x 一般取 0.5、 0.75 或 1。 初始化 M=1(for NN in NNE ); 用初始训练集 T 训练神经网络 NN1 ,待 NN1 训练结束 后,初始化集成 NNE ={ NN1 } 。 计算集成误差:
(4)If E ≤ E’ and j < Max then Rsize =Rsize–0.1 , j = j+1 , NNE = NNE –{ NNi} ; Else M= M +1, E =E ’, j =0, Rsize =x, I =i +1} Step3 通过简单平均获取集成分类结果。 伪代码中第 1 个神经网络用初始训练集 (T )进行训练,并 直接加至神经网络集成中,作为集成中缺省的成员网络。对 于其他神经网络,算法为每个神经网络生成独一无二的训练 集,所有训练集均是原始训练集和产生的人工示例训练集的 组合。人工示例训练集 (AE ) 的大小是衡量差异度的一个主要 参数,每个神经网络使用的 AE 各不相同,记为 AEi,其大小 由 Rsize 来定义。 通过计算集成误差来判定集成的性能,即集成在测试示 例中判断错误的示例个数。如果增加一个神经网络后,集成 误差降低,则将该神经网络添加至最终的集成中。算法定义 最大连续丢弃次数 Max。如果连续丢弃的次数超过 Max,虽 然加入该神经网络之后,集成误差并未降低,但是仍将该神 经网络加入到集成中。 算法定义神经网络集成中的最大成员网络个数 Mmax。 算法中集成停止构建的条件是:如果集成在验证集上的误差 E 小于预先定义的一个误差值 ε,则不再训练成员神经网络, 或者集成中成员网络的个数已经达到 Mmax 时,则停止构建 集成。因此,要生成集成中所有的成员网络,需要训练和测 试大量的神经网络。 在引入最大丢弃次数 Max 及改进了集成停止构建的条件 后,集成最终不会出现只有一个神经网络的情况。算法在连 续丢弃次数增加的过程中,通过适当降低 Rsize 的值,即降 低人工训练示例的个数到一个能够接受的范围,可在保证成 员网络差异度的基础上,使得新训练的神经网络加入集成之 后不会降低集成的总体性能。由于该算法基于 ATENNE ,因 此文中称该算法为 New ATENNE(NATENNE)。 NATENNE 算 法 为 不 同 的 神经网 络 生 成 不 同的 训 练示 例,神经网络之间的差异度依靠不同的人工示例训练集来实 现。人工示例产生的方法同 ATENNE 。即:随机产生一个输 入数据集,并定义该模式的分类标签,通过已生成的集成来 判断参数集的分类概率。然后,反向定义分类概率产生一个 新示例,该示例即为人工训练示例。此外, NATENNE 对连 续丢弃神经网络的次数做了一定的限制,加之对 Rsize 的值 做了动态调整,因此,可以有效保证集成最终所包含的神经 网络的个数。算法改进后的性能需要通过实验加以验证。
相同的输入,集成中所有网络均给出相近的输出,此时集成 的差异度近似为零,其泛化误差接近于各网络泛化误差的简 单平均。反之,若集成中各网络相互独立,则集成差异度较 大,其泛化误差将远小于各网络泛化误差的简单平均。所以, 要增强神经网络集成的泛化能力,应尽可能地使集成中各成 员网络互不相关。因此,在构建神经网络集成时,成员网络 之间的差异度是需要考虑的重要参数。 很多研究还表明,可以通过构建神经网络集成来解决分 类问题。其中,使用不同的数据集训练不同的分类器,再将 分类器进行集成,被证明是一种有效方法。这是因为不同的 训练集训练出来的成员网络之间具有一定的差异度。通过不 同数据集训练不同的成员网络提高差异度的算法中,最为流 行的算法是 Bagging[5]、AdaBoost[6]、NCL [7]。其中,Bagging 和 AdaBoost 算法通过从原始训练数据集中产生不同的训练 子集训练不同的神经网络构建集成。而 NCL 不为每个成员 网络生成独立的训练集,只是在误差函数中增加了误差惩罚 项,确保成员网络在训练过程中相互作用。NCL 的训练方法 是同步的,即:集成中所有的成员神经网络使用相同的初始 训练集同时进行训练。 由于 NCL 提供了神经网络在训练时的 相互作用,因此它能为集成产生差异度较高的神经网络。 除了上述算法外,文献 [8]提出了 ATENNE 算法。算法首 先顺序产生相对大量的相异神经网络,并在神经网络的生成 过程中,从中选取一定数量的神经网络构建集成。算法可以
基金项目: 基金项目:南通市应用研究科技基金资助项目(K2010053) 作者简介: 作者简介:徐 敏(1978-),女,讲师、硕士,主研方向:网络安全, 人工智能 收稿日期: 收稿日期:2011-08-22 E-mail:cjmin99@
2
2.1
神经网络集成
算法描述 算法描述 文献 [4]给出了神经网络集成泛化误差的计算公式,由此 度量了神经网络集成中各成员网络的相关程度:若集成对于
Neural Network Ensembles Intrusion Detection Based on Artificial Examples Training
XU Min
(College of Computer Science and Technology, Nantong University, Nantong 226019, China) 【Abstract】This paper proposes a new neural network ensembles method for intrusion detection system. In order to improve the diversity among component networks, different training sets are used for training different networks. On the basis of ensuring the numbers of the component networks, the algorithm selects the networks with proper diversity factor. Experimental results show that the performance of this ensemble method is better than the existing popular. While keeping high detection rate, it has a low false positive rate and is also better for unknown intrusion detection. 【Key words】network security; intrusion detection; anomaly detection; artificial examples training; neural network ensembles; diversity factor DOI: 10.3969/j.issn.1000-3428.2012.06.065
相关文档
最新文档