神经网络和专家系统相结合的综合决策系统结构_施平安
基于BP神经网络的专家系统体系结构
ＡＢＳ ＴＲＡＣＴ Ｔｈ ｓ ｐ ｐ ｒ ｉ ｈ ｉ ｗ ｆ ｔ ｅ ’ ｏ ｔ ｅ ｋ’ｐ ｏ ｌ ｍ ｎ ｋ ｏ ｅ ｇ ｃ ｕ ｓｔ ｎ ｏ ｒ ｄ ｔ ｎ ｌｅ ｐ ｒ ｙ ｔ ｍ ｎ ａ ｅ ｉ ａ ｅ ｎ ｔ ｅ ｖ ｅ ｏ ｈ ｂ ｔｌ ｎ ｃ ｅ ｒ ｂ ｅ ｉ ｎ ｗｌｄ ｅ ａ ｑ ｉｉｉ ｆ ｔ ａ ｉｉ ａ ｘ ｅ ｔｓ ｓ ｅ ａ ｄ ｔ ｋ ｏ ｏ
王 专 家 系 统 简 介
专家 系统 （ ｘ ｅｔＳ ｓｅ 缩 写 Ｅ ） 称 为 基 于 Ｅ ｐ ｒ ｙ ｔｍ， Ｓ也 知识 的系统 。 现在 比较 通用 的定 义 为 ， 家系统 是 一种 专 智 能 的计 算 机程序 ， 够运 用知 识进 行 推理 ， 决 只有 能 解 专 家才 能 解 决 的复 杂 问题 ， 即专 家 系统 是 一 种 能够 模 拟人 类专 家决策 能力 的计 算机 系统 。专 家系 统 的基本 结 构 大致 分 为 ３个 组 成 部分 。引： 识 库 、 理机 和人 。 知 推 机界 面 ， 具体 结构 主要 有知 识 库 、 数据 库 、 推理 机 、 解释 器、 知识 获取 （ 习系 统 ） 学 和人 机界 面组成 ， 中知 识库 其 和 推理机 是 核心部 分 。① 知识 库 ： 识 的存储 机构 ， 知 用 来存 放专 家 的领域 知 识 。 数据 库 ： 映当前 问题 求解 ② 反 状态 的集 合 。⑧知 识 获取 ： 负责 建立 、 改和扩 充 知识 修 库 。④ 推 理机 ： 理 机是 实 施 问 题求 解 的核 心执 行 机 推 构， 由一 组程 序组 成 。⑤解 释器 ： 用户 对 专家 系统 的行 为进 行解 答 。 ⑥人 机交 互界 面 ： 机交 互 界 面是 专 家系 人 统 和用 户之 问进行 交互 和信 息 交换 的媒介 。
基于神经网络的人工智能专家系统设计
基于神经网络的人工智能专家系统设计随着科技的不断发展，人工智能已经成为了时下的热门话题。
作为人工智能的一个分支，专家系统的出现使得智能化的应用更加广泛。
所谓专家系统，就是为了解决某个领域的问题而搭建的一种系统，系统内部包含了大量的专业领域知识和规则，可以根据特定的问题快速地做出决策和推荐，从而起到了自动化的作用。
面对越来越复杂的现实问题，专家系统的研究和应用已经成为了众多科学研究者的热衷所在。
而在专家系统的应用中，基于神经网络的人工智能专家系统的设计则是一个值得特别关注的领域，因为它充分利用了神经网络的异构性和非线性关系特性，在解决复杂问题时具有良好的可行性和可靠性。
那么，接下来详细介绍一下基于神经网络的人工智能专家系统的设计。
1. 专家系统的设计专家系统的设计大致分为三个阶段：知识获取、知识组织、推理机制。
其中，知识获取是系统设计的第一步，也是最为关键的一步。
因为专家系统的核心就是基于某个专业领域的知识和规则来做出智能化的推荐，所以知识获取直接影响到系统的可行性和实效性。
通常，知识获取的方式主要有以下几种：专家访谈、文本化的知识库、数据挖掘。
知识组织是专家系统设计中的第二步，其目的是将获取到的知识和规则根据一定的层次和关系组织起来。
通常，知识组织可以用知识表示方法来实现，比如基于产生式规则的知识表示方法、基于语义网络的知识表示方法、基于本体论的知识表示方法等等。
推理机制则是专家系统设计中的最后一步，其目的是将经过知识组织处理好的知识和规则实现智能推理和决策。
推理机制通常采用一种特殊的程序来实现，也叫做推理引擎，实现基于前向推理、后向推理和启发式推理等多种不同的推理模式，以达到优化推理效果的目的。
2. 基于神经网络的人工智能专家系统的设计基于神经网络的人工智能专家系统，正如其名字所示，主要利用了神经网络对异构性和非线性关系的处理能力，以实现智能化的推理和决策。
相比于传统的专家系统，基于神经网络的专家系统的优势主要在于它具有更强的数据处理能力和更灵活的特征提取方法，可以更好地适应复杂和不确定的问题。
AHP法专家调查法与神经网络相结合的综合定权方法
AHP法专家调查法与神经网络相结合的综合定权方法在决策过程中，我们常常面临多个指标、多个专家意见以及多个因素的选择。
为了能够准确且全面地评估这些指标、意见和因素的重要性，并给予它们适当的权重，我们需要借助定权方法来进行决策的加权处理。
本文将介绍AHP法与专家调查法相结合，并与神经网络进行综合定权的方法。
AHP法（层次分析法）是一种常用的定权方法，它通过层次结构模型进行多因素/多指标决策分析。
其基本思想是将复杂的决策问题层次化，将问题分解为若干个层次，从目标到准则再到方案，通过专家的判断和评分来确定各个层次的权重。
专家调查法是一种通过专家的评估和判断来确定权重的方法。
它通常通过问卷调查的形式，将问题提交给一组具有相关领域经验和专业知识的专家，专家们根据自己的判断和经验对问题进行评分，最后通过对专家评分的统计分析来得到权重。
然而，AHP法和专家调查法都存在一定的局限性。
AHP法需要专家事先给出两两比较各因素/指标的相对权重，但是专家在面对大量比较时容易出现主观倾向和不一致性，导致定权结果的不准确。
而专家调查法虽然利用了专家的经验，但是专家的评估结果也存在主观性和个体差异性。
为了弥补上述方法的缺陷，我们可以引入神经网络作为辅助定权的方法。
神经网络是一种模拟人脑神经元之间相互连接的计算模型，它具有学习、记忆和适应环境的能力。
通过训练神经网络，我们可以将专家的评估结果作为输入数据，通过网络的学习能力得到更准确的权重结果。
具体而言，我们可以将专家的评估结果作为神经网络的输入向量，将权重作为网络的目标输出。
通过训练神经网络，使其能够自动学习并调整权重，从而减小专家评估结果之间的差异和主观性误差。
最终，我们可以得到基于神经网络的定权结果，该结果可以综合考虑专家评估和网络学习的优势，更加准确地反映各个因素/指标的重要性。
综合定权方法的核心思想是通过AHP法和专家调查法得到初步的权重结果，然后利用神经网络进行修正和优化。
神经网络和专家系统相结合的综合决策系统结构
专 家 系统利 用 知识 库 中保 存 的大 量 知识 ， 用 运 知识 推理 的方法 来 解决 决 策 问题 … ． 家 系统 进行 专
决策 的能 力 直接 受 限于 其 知识 库 中拥 有 知 识 的水 平， 而知 识 的获取 往 往是 在 建 造 一 个 专 家 系统 时遇 到的“ 瓶颈 ” 因 此 ， ． 如何 解 决 专 家 系 统 构 建 过 程 中 知 识 获取 的“ 颈” 瓶 问题 ， 知识 库 中的 知识 达 到 准 使 确 、 备、 致、 完 一 简练 的程度 ， 限制 了专 家系统 的进 一 步 发展 ， 神经 网络 技术 自 ２ ０世 纪 ８ ０年 代 初 复 苏 以来 ， 已经在 各个领 域 中得 到 了广 泛 的应 用 ， 通过 对 训 它 练 集 的反复 学习 获 取知 识 ， 有直 观 性 、 具 并行 性 、 鲁
Ｊ ｕｎ．２０ ０６
文 章 编 号 ：ｌ０ ０ ９—８ ２ ２ ０ ０ ５ ６（ ０ ６） １—０ ２ ０ ９—０ ４
神 经 网络 和 专 家 系统 相 结 合 的 综 合 决 策 系统 结 构
施 平 安 ，吴 唏
（ 军 兵 种 指 挥 学 院 一 系 ， 东 广 州 ５ ０３ ） 海 广 １４ １
１ 综 合 决 策 系统 结构
进 行 系统 设 计 时 ， 分考 虑 了 神 经 网络 获取 知 充 识 的过 程 ， 及 神 经 网络 的 自适 应 学 习 能 力 （ 量 以 增
式 学 习 ） 专 家 系统 的解 释能 力 ， 出 了一 种 将 神 和 提
经 网络和专 家 系统 结合 起 来 的综 合 决 策 系统 结 构 ． 该 综 合决 策 系统 的体系结 构框 图 如 图 １所示 ．
摘 要 ： 过神 经 网络 知识 获取 模 型 ， 神 经 网络 的 自适 应 学 习能 力和 专 家 系统 的解释 能 力综 合 通 将
管理信息系统教程9-决策层管理信息系统
安徽广播影视职业技术学院信息工程系
经理信息系统的功能特征
– 面向数据。
– 提供在线状态存取、趋势分析、例外报告和深入挖掘数
据的能力，包括电子报表、查询语言和决策支持系统等； – 人界界面必须十分友善且富有个性化，图文并茂且层次 清晰，用户可在很短的时间内，不用培训或少量培训即 可掌握其使用方法。 – 支持电子通信。 – 能够适应经理的个人偏好。
1.经理信息系统概述
经理的决策活动
– 战略规划
– 战术规划 – 紧急处臵
经理的决策活动特征
– 结构更简单、重复更少 – 影响时期更长，对组织
的影响范围更广 – 使用更多的聚集数据， 使用较少的细目数据 – 使用更多来自机构之外 的数据 – 需要与更多的人进行信 息交换
安徽广播影视职业技术学院信息工程系
•GDSS在计算机网络的 基础上，由私有DSS、 规程库子系统、通信 库子系统、共享的数 据库、模型库及方法 库、公共显示设备等 部件组成。
安徽广播影视职业技术学院信息工程系
工商行固定资产贷款风险决策系统
本系统是一个交互式系统，即在决策过程中向用 户提出一些需要以数字回答的问题，界面简洁、 友好。 在人机对话过程中，系统需要用户以数值 形式输入一些供决策用的参数，如企业经营者素 质评估， 经济实力，资金结构，经济效益，发展 前景，信用等级系数，贷款金额，等等。同时给 出一些选项 供用户选择，如抵押贷款方式，保证 贷款方式，信用贷款方式，以及贷款形态等。系 统根据用户提供 的信息计算出全部贷款资产风险 权重额，全部固定资产贷款资产风险度，并结合 企业的信用等级， 给出评估图表，最后给出贷款 与否的建议。
经理支持系统（ESS），即Executive Support System。 – EIS或ESS是服务于组织的高层经理的一类特殊的信息系 统。EIS能够使经理们得到更快更广泛的信息。 – EIS首先是一个“组织状况报导系统”，能够迅速、方 便、直观（用图形）地提供综合信息，并可以预警与控 制“成功关键因素”遇到的问题。 – EIS还是一个“人际沟通系统”，经理们可以通过网络 下达命令，提出行动要求，与其他管理者讨论、协商、 确定工作分配，进行工作控制和验收等。
基于专家系统与神经网络相结合的指挥决策仿真研究
图１ ．表示出了作为神 经网络 的基本 单元的神经元模 的优点
ｆ
图 １ 基 本神 经 元模 型
是一种互为补充 的关系 。 例如 ， 神经网络难 以提供 解释 ， 但
是 专家系统可 以提供解释 ； 而另一方面 专家系统很难 用不 完整和不一致 的知识库规则进 行推理 ， 而神经网络却可 以
机械学 习与讲授 式学 习 ， 比学 习与观察 式学习还 处于研 网络结构 ， ）随机地 确定节点 连接权值 和阈值 ，３ 类 （ ２ （）读人 究 阶段 ； 由于 专家 系统是基于 人的经验 ， 当对规则 的描 述 样本数据 ； ）求 隐含层单元输入 输 出；５ （ ４ （）求输 出层 单元 较为粗略时 ， 有可能 出现定量化不够细致 。 尤为突出的是 ， 输入输 出； ）求输出层 单元误差 与隐含层单元误差 ； （ ６ 如果 专家系统缺乏 自适应 性及 相应的 自组织 、 自学 习能力 ， 因 样本 没有学 习完毕 ，则转人 （）（）调整权值 和阈值 ，８ ３，７ （） 则转入 （）（）保 存权 值 、 ３； ９ 阈值 ， 从而 此对 专家的依赖性 过大 ， 只能 再现 专家经验 ， 不易 发现新 若对 总误差 不满 意 ， 规则、 形成新 经验 。
确定具体 网络推理模型 ； ０ 把 已知数据 作为输入赋予 网 （） １
络输入层 的多个节点 ；１）利用特性 函数 分别计算网络 中 （１
２神经网络的概念 ．
神经 网络 由大量 处理 单元 ， 经广泛互 连而组成 的人工 各层 的输 出；１）用阈值函数对 输出层 的输 出进 行判 定 ， （２
与经络结的挥策真究 于家统神网扭舍指决仿研
文 ／刘金 广
１专家系统在指挥决策仿真中的优缺点 ．
AHP法专家调查法与神经网络相结合的综合定权方法
2001年3月系统工程理论与实践第3期 文章编号:100026788(2001)0320059205A H P法专家调查法与神经网络相结合的综合定权方法梁 杰,侯志伟(沈阳工业大学经管学院,辽宁沈阳110023)摘要: 针对多目标决策中评价指标权系数的确定问题,在分析现有两大类方法(主观赋权法、客观赋权法)优缺点的基础上,提出一种以层次分析法、专家调查法与误差逆传播神经网络技术(B P网)相结合的综合分析方法,同时运用M ath W o rk s公司开发的M A TLAB5.1作为系统工具进行程序编制,得出最终结果Λ关键词: 赋权法;人工神经网络;矩阵实验室中图分类号: F4232 文献标识码: A αA Syn thetic W eigh ting M ethod of Connecting A H Pand D elph i w ith A rtificial N eu ral N etw o rk sL I AN G J ie,HOU Zh i2w ei(Shenyang Po lytechn ic U n iversity,Shenyang110023,Ch ina)Abstract In th is paper,ai m ing at the p rob lem of w eigh ting in m u lti2ob ject decisi on,asyn thetic w eigh ting m ethod of connecting A H P and D elph i w ith artificial neu ralnetw o rk s based on analysing tw o k inds of w eigh ting m ethods is p resen ted,at the sam eti m e the softw are M atlab5.1is u sed to draw a final conclu si on.Keywords w eigh ting m ethod;artificial neu ral netw o rk s;M A TLAB1 引言随着我国社会主义市场经济体制改革的不断深入,世界经济一体化的趋势越发强烈,在各个领域开展客观公正的评价工作成为社会发展的必然趋势Λ大到国家的综合国力评价、省市的经济实力评价,小到企业的综合业绩评价、竞争力评价、人力资源评价等工作,目前都已在不同程度上开展起来Λ在开展各项评价工作时影响评价结果客观准确性的最重要的两个问题是:1)评价分指标的选择;2)评价分指标权系数的确定Λ本文仅针对第二个问题进行探讨Λ目前关于权系数的确定方法有数十种之多,根据计算权系数时原始数据的来源不同,这些方法大致可分为两大类:一类为主观赋权法,其原始数据主要由专家根据经验主观判断得到,如古林法、A H P法、专家调查法等;另一类为客观赋权法,其原始数据由各指标在被评价单位中的实际数据形成,如均方差法、主成份分析法、离差最大化法、熵值法、代表计数法、组合赋权法等Λ这两类方法各有优缺点:主观赋权法客观性较差,但解释性强Λ客观赋权法确定的权数在大多数情况下精度较高,但有时会与实际情况相悖,而且解释性比较差,对所得结果难以给出明确地解释Λ基于上述原因,人们提出了综合主、客观赋权法的第三类方法,即组合赋权法Λ本人提出的以A H P法、专家调查法与误差逆传播神经网络技术(BP网)相结合的综合分析方法正是组合赋权法中的一种Λα2 主、客观赋权法的优缺点2.1 主观赋权法的优缺点目前对于主观赋权法的研究比较成熟,这些方法的共同特点是各评价指标的权重是由专家根据自己的经验和对实际的判断给出Λ选取的专家不同,得出的权系数也不同;这类方法的主要缺点是主观随意性大,这一点并未因采取诸如增加专家数量、仔细选专家等措施而得到根本改善Λ因而,在某些个别情况下应用单一一种主观赋权法得到的权重结果可能会与实际情况存在较大差异Λ该类方法的优点是专家可以根据实际问题,较为合理地确定各指标之间的排序,也就是说尽管主观赋权法不能准确地确定各指标的权系数,但在通常情况下,主观赋权法可以在一定程度上有效地确定各指标按重要程度给定的权系数的先后顺序Λ2.2 客观赋权法的优缺点客观赋权法的原始数据来源于评价矩阵的实际数据,使系数具有绝对的客观性Λ视评价指标对所有的评价方案差异大小来决定其权系数的大小Λ这类方法的突出优点是权系数客观性强,但有时会与实际不符Λ在实际情况中,依据上述原理确定的权系数,最重要的指标不一定具有最大的权系数,最不重要的指标可能具有最大的权系数Λ3 AHP法、专家调查法与误差逆传播神经网络技术(BP网)相结合的综合分析方法3.1 原始数据的归一化原始数据的归一化工作利用S型传递函数(Y ij=1-e -M ij1+e-M ij)来完成Ζ此函数是非线性递增函数,当M ij →0时,Y ij的导数d ij=f′(M ij)逐渐变大,Y ij=f(M ij)→0,函数曲线越来越陡;当M ij→∞时,Y ij的导数d ij =f′(M ij)→0,Y ij=f(M ij)→±1,函数曲线越来越平缓Ζ如此归一化处理,一方面可以防止某一指标过大时左右整个综合指标,另一方面当原始值小于平均值时,其效用函数为负,体现“奖优罚劣”Ζ3.2 AHP法与专家调查法的基本原理由于A H P法与专家调查法的使用已有数十年的历史,应用范围又较为广泛,其基本原理也早已为广大学者熟知,故于本文中,本人不在累述Ζ为防止使用单一主观赋权法所得权重重要程度排序与实际情况不符,本人在所提出的综合赋权法中分别采用A H P法和专家调查法得出两套权重重要程度排序结果Λ比较两套结果是否一致,若一致则可利用得到的一致权重重要程度排序结果作为检验神经网络所得权重结果重要程度排序的标准Λ若不一致,则需重新调整上述两种方法直到一致为止Λ这样便可在很大程度上提高主观赋权法重要度排序的准确性Λ3.3 误差逆传播神经网络技术(BP网)的基本原理神经网络技术是近年来才兴起的一门新兴技术,由许多并行运算的功能简单的单元组成,这些单元类似于生物神经系统的单元Ζ这些神经元函数模型为:S j=6n i=0W3ij X i+b j,Y j=f(S j)其中Y j为输出,X i为输入,b j为偏差,W j i称为连接权系数,f(・)为变换函数Ζ神经网络是一个非线性动力学系统,其特色在于信息的分布式存储和并行协同处理Λ虽然单个神经元的结构极其简单,功能有限,但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的Λ和数字计算机相比,神经网络系统具有集体运算的能力和自适应的学习能力ΛBP网络的产生归功于BP算法的获得ΛBP算法是最著名的多层神经网络的训练方法,依照A daline网络所采用的最小误差学习方法及修改后D elta学习规则,以适应多层网络ΛBP算法的主要思想为:对于q个学习样本:p1,p2,…,p q,已知与其对应的输出样本为:T1,T2,…,T qΖ学习的目的是用网络的实际输出A1,A2,…,A q与目标矢量T1,T2,…,T q之间的误差来修改其权值,A l(l= 1,2,…,q)l与期望的T l尽可能的接近;即:使网络输出层的误差平方和达到最小Ζ它是通过连续不断地在相对于误差函数斜率下降的方向上计算网络权值和偏差的变化而逐渐逼近目标的Ζ每一次权值和偏差的06系统工程理论与实践2001年3月变化都与网络误差的变化成正比,并以反向传播的方式传递到每一层ΖBP 算法是由两部分组成:信息的正向传递与误差的反向传播Ζ在正向传播过程中,输入信息从输入经隐含层逐层计算传向输出层,每一层神经元的状态只影响下一层神经元的状态Ζ如果在输出层没有得到期望的输出,则计算输出层的误差变化值,然后转向反向传播,通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到期望目标Ζ设输入为p ,输入神经元有r 个,隐含层有s 1个神经元,激活函数为F1,输出层内有s 2个神经元,对应的激活函数为F 2,输出为A ,目标矢量为T Ζ信息的正向传递1)隐含层中第i 个神经元的输出为:a 1i =f 16rj =1w 1ij p j +b 1i , i =1,2,…,s 12)输出层中第k 个神经元的输出为:a 2i =f 26rj =1w 2k i a 1i +b 2k ,k =1,2,…,s 23)定义误差函数为:E (W ,B )=126s 2k =1(t k -a 2k )2利用梯度下降法求权值变化及误差的反向传播1)输出层的权值变化对从第i 个输入到第k 个输出的权值有:∃w 2k i =-Γ5E 5w 2k i =-Γ5E5a 2k 5a 2k 5w 2k i=Γ(t k -a 2k )f 2′a 1i =Γ∆k i a 1i其中:∆k i =(t k -a 2k )=e k f 2′,e k =t k -a 2k同理可得:∃b 2k i =-Γ5E 5b 2k i =-Γ5E5a 2k 5a 2k 5b 2k i=Γ(t k -a 2k )f 2′=Γ∆k i a 1i 2)隐含层的权值变化对从第j 个输入到第i 个输出的权值有:∃w 1ij =-Γ5E 5w 1ij =-Γ5E5a 2k 5a 2k 5a 1i 5a 1i 5w 1ij =Γ6s 2k =1(t k -a 2k )f 2′ w 2k i f 1′p j =Γ∆k i p j其中:∆ij =e i f 1′,e i =6s 2k =1∆k i w 2k i同理可得:∃b 1i =Γ∆ij .但是由于BP 网涉及复杂的多维输入和输出空间,因而其误差面可能有一些局部的最低点(L ocal m in i m um )Λ在网络训练时,往往权重矢量被调节在局部的最低点,而不能达到实际的最小误差Λ同时神经网络是“黑箱推理”,全部知识都存在于网络内部,难以对最终的结果提供可信的解释Λ因而在确定评价企业经营业绩指标体系的权重时,结合上述两种方法,扬其所长、避其所短,形成一种综合分析方法.3.4 M AT LAB 5.1(矩阵实验室)神经网络工具箱简介M A TLAB 是M ath W o rk s 公司于1982年起开始推出的一套高性能的数值计算和可视化软件Λ它集数值分析、矩阵运算、信号处理和图形显示于一体,构成了一个方便的、界面友好的用户环境ΛM A TLAB 5.1是于1997年5月推出的,包括神经网络(neu ral netw o rk ),信号处理(signal p rocessing ),控制系统(con tro lsystem ),图象处理(i m age p rocessing ),鲁棒控制(robu st con tro l ),非线性系统控制设计(non linear con tro l system design ),系统辨别(system iden tificati on ,最优化(op ti m isati on ),分析与综合(analysis and syn thesis ),模糊逻辑(fuzzy logic ),小波(w avelet ),样条(sp line )等工具箱Λ神经网络工具箱中的实用函数包括误差分析函数,∆函数,设计,初始化,学习规则,矩阵,邻域,绘图,仿真,训练,传递函数Λ利用这些函数和M A TLAB 提供的基本命令、函数便可以方便、快捷、直观地进行神经网络设计,完成繁复的工作Λ16第3期A H P 法专家调查法与神经网络相结合的综合定权方法3.5 综合分析方法运用步骤1)分别运用A H P 法、专家调查法和BP 网络得出合理的权重Λ2)判断上述两种方法得出的结果中各指标的权系数重要程度排序是否一致Λ在多目标决策中,各指标的相对重要程度是不同的Λ指标按其重要程度可分为若干等级,依次为P 1,P 2,…,P k ,重要性依次降低Λ每一类指标等级中又含有若干个指标,这些指标重要程度的差别远小于跨等级指标之间的差别Λ比较利用BP 网络训练、检验后得出的的结果与使用A H P 法、专家调查法定性分析得出的重要等级排序是否一致Λ如果一致,则说明BP 网络在训练过程中没有陷入到误差面中的局部最小点,达到了真正的最小点,得出的结果可以信赖Λ如果不一致,则说明BP 网络在训练过程中陷入到误差面中的局部最小点,没有达到真正的最小点,这就需要采取:重新选择初始权重、训练数据、增加隐层神经元数、改用动量算法等措施来重新训练、检验网络,得出新的权重值,直到与使用A H P 法、专家调查法定性分析得出的重要等级排序一致为止Λ3)利用已得权重结果对各待评对象进行评价Λ使用BP 网络所得评价结果虽然准确度很高,但解释性极差,因而就必须同时运用A H P 法和专家调查法增强评价结果的解释性Λ4 实证分析表1为我国14个省、直辖市1992年主要工业统计指标及综合评估值Λ表1省市评价指标全员劳动生产率(元 人)资金利税率(%)销售利润率(%)工业产值占用流动资金率(%)产值利税率(%)综合评估值北京 47177 16.61 8.89 31.05 15.77 0.7896天津433239.083.6529.808.440.3238上海5902313.846.0626.5512.870.7366江苏4682110.593.5122.467.410.4687浙江4164613.244.4624.339.330.5355安徽2644610.162.3826.809.850.2846福建3838111.974.7926.4510.640.4862广东5780810.294.5423.009.230.5895辽宁288697.682.1231.089.050.1543山东388128.923.3825.688.730.3562湖北3072110.874.1530.3611.440.3524湖南2464810.772.4230.7111.370.2594河南269259.343.0630.1110.840.2571江西232698.252.5832.578.620.1111 此问题是一个多指标决策与排序问题Λ上述5个评价指标从主观上很难判断哪个指标更为重要,因此认为它们处于同一重要等级Λ使用A H P 法及专家调查法所得5个评价指标权重值均在0.2左右Λ应用本文所述的基于人工神经网络的多指标综合评价方法,设有5个输入节点,分别是全员劳动生产率,资金利税率,销售利润率,工业产值占用流动资金率,产值利税率Λ输出节点1个,为综合评估指标Λ根据经验,隐层节点数选取为6Λ26系统工程理论与实践2001年3月将表1数据分为两部分,前14组数据用作学习样本,作为训练神经网络连接权值用,学习精度为SSE =0.001,后2组数据作为检验用Λ经过1606次的训练,训练所得权重矩阵结果(未详细列述)符合以A H P 法和专家调查法所得的重要度基本一致的判断标准Λ由此可见,BP 网的训练是建立在权重重要程度排序与实际情况相符的基础上进行的Λ运用网络输出与样本期望值之间的差异结果分析本人所建BP 网的自学习能力,详情见表2Λ表2 网络输出与样本期望值差异比较省份北京天津上海江苏浙江安徽福建网络输出0.79580.31450.73100.46900.53760.29900.4766期望值0.78960.32380.73660.46870.53550.28460.4862相对误差0.00780.02870.00760.00060.00390.05600.0197省份广东辽宁山东湖北湖南河南江西网络输出0.59300.15000.36630.34660.24470.26820.1165期望值0.58950.15430.35620.35240.25940.25710.1111相对误差0.00590.02790.02840.01650.05670.04320.0486 训练结束后,利用训练好的三层BP 网,分别输入校验后的数据,得到的结果如下:网络输出 期望值 相对误差河北 0.1865 0.1893 0.0148山西 0.1619 0.1616 0.0018 由以上结果可以看出,利用BP 网得出的训练数据输出值与样本之间的最大相对误差为0.0567,检验数据输出值与期望值之间的最大相对误差为0.0148,可见该网络的自学习能力非常强,网络性能很好Λ这说明此种综合评价方法是有效的Λ参考文献:[1] 王明涛.多指标综合评价中权系数确定的一种综合分析方法[J ].系统工程,1999,17(2):56-61.[2] 戴文战.基于三层BP 网络的多指标综合评估方法及应用[J ].系统工程理论与实践,1999,19(5):29-34.[3] 张际先,宓霞.神经网络及其在工程中的应用[M ].北京:机械工业出版社.1996.[4] 楼顺天,于卫,闫华梁.M A TLAB 程序设计语言[M ].西安:西安电子科技大学出版社.1997.[5] 楼顺天,施阳.基于M A TLAB 的系统分析与设计——神经网络[M ].西安:西安电子科技大学出版社.1998.36第3期A H P 法专家调查法与神经网络相结合的综合定权方法。
神经网络如何实现智能决策支持系统
神经网络如何实现智能决策支持系统在当今数字化的时代，智能决策支持系统正逐渐成为企业、组织乃至社会各个领域中不可或缺的一部分。
它能够帮助人们在面对复杂的问题和大量的数据时，做出更为明智和准确的决策。
而神经网络作为一种强大的人工智能技术，为实现智能决策支持系统提供了关键的支持。
要理解神经网络如何实现智能决策支持系统，首先得知道什么是神经网络。
简单来说，神经网络就像是我们大脑中的神经元网络，通过无数个节点（类似于神经元）相互连接，形成一个能够处理和传递信息的系统。
神经网络具有强大的学习能力。
它可以从海量的数据中自动提取特征和模式，这是实现智能决策支持的重要基础。
想象一下，一个企业拥有多年的销售数据、市场趋势、客户反馈等各种信息。
传统的分析方法可能会因为数据的复杂性和多样性而感到力不从心，但神经网络却能够轻松应对。
它会自动分析这些数据中的潜在规律，例如哪些因素会影响产品的销量，哪些客户更有可能成为忠实客户等等。
那么，神经网络是如何学习的呢？这就涉及到训练的过程。
训练神经网络就像是教一个孩子认识世界。
我们给它提供大量的样本数据，告诉它哪些是正确的，哪些是错误的。
通过不断地调整节点之间的连接权重，神经网络逐渐学会了如何准确地预测和分类。
在智能决策支持系统中，神经网络能够对未来的趋势进行预测。
比如说，通过分析历史的股票价格数据，神经网络可以预测未来股票的走势，为投资者提供决策参考。
又比如，在物流领域，它可以根据以往的运输数据和需求预测，优化配送路线和库存管理，降低成本，提高效率。
神经网络还能够进行风险评估。
在金融领域，它可以评估贷款申请人的信用风险，帮助银行决定是否批准贷款。
在医疗领域，它可以根据患者的症状、病史和检查结果，评估疾病的风险和可能的发展趋势，为医生的治疗决策提供支持。
为了让神经网络更好地服务于智能决策支持系统，数据的质量和数量至关重要。
就像给孩子提供丰富、准确的知识才能让他们更好地成长一样，给神经网络提供优质的数据，它才能学到更有用的知识。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
神经网络规则抽取主要完成从神经网络权值矩 阵到易于理解的符号规则的转化. 顾名思义 ,神经网 络规则抽取就是指在给定训练好后的神经网络及其 权值矩阵的情况下 ,从中抽取出可以为人们理解的 能够全面 、精确地描述网络决策行为的符号规则集 (例如 IF. . . THEN 形式的规则 ). 在一般情况下 ,通 过充分分析权值和偏差 (或阈值 )之间的关系可以 得到相应的规则. 采取这种规则抽取思想时 ,首先以 神经网络隐节点和输出节点为单位将网络分解为若
i = k +1
i =1
n
∑W i Xmi in ,式中 k表示当前所获规则的长度 , 即规则
i =k
前提条件中包含的属性数量 , Xmi in 表示 X i 取 Pi 中的
最小值.
3 系统运行结果分析
在应用该综合决策系统进行诸如船舶避碰辅助 决策时 ,根据实际会遇局面的不同 ,可能会出现如下 3种基本情况 : 1 )当面临的决策问题与训练实例集 中的某个实例的输入模式相同时 ,神经网络经过推 理得出的结果 ,就是与该训练实例相对应的输出 ,而 解释机制也能够从专家知识库中给出正确的解释说
1 综合决策系统结构
进行系统设计时 ,充分考虑了神经网络获取知 识的过程 ,以及神经网络的自适应学习能力 (增量 式学习 )和专家系统的解释能力 ,提出了一种将神 经网络和专家系统结合起来的综合决策系统结构. 该综合决策系统的体系结构框图如图 1所示.
1. 1 知识库
知识库由 2部分构成. 一部分为神经网络决策 知识库 ,表示为网络的权值矩阵 ,是知识库中的隐性 知识 ;另一部分为专家知识库 ,表示为相应的符号规 则 ,是知识库中的显性知识. 专家知识主要通过神经 网络规则抽取模型从神经网络知识库中抽取 ,还有
有采用降低计算复杂性的技术 ,因此它只适合于处
理小型问题 ,当网络较复杂时 ,连接子集搜索的空间
就会变得很大 ,产生组合爆炸问题. 为此 ,许多人在
此基础上提出了一 些改 进方 法. L iM in Fu 博士 在
Subset规则抽取算法的基础上提出的 KT算法在这
方面具有较广泛的代表性 [ 6 ] ,这种方法采用了一些
干单层网络的集合 ,然后对每一个子网进行搜索并
提取局部规则 ,最后对这些局部规则进行组合得到
描述整个网络特性的全局规则. 例如 , Saito和 Naka2
no (1988)提出的子集算法 ( Subset) [ 5 ] ,其基本思想
是寻找输入连接的子集 ,使其加权和超过输出神经
元的阈值. 但是 ,这种方法存在一定的缺陷 ,由于没
量式神经网络学习过程 ,然后 ,通过增量式规则抽取
系统的在线学习能力提高了系统的自适应能
模型 ,从神经网络知识库中抽取易于理解的符号规 力. 在最初构造神经网络知识库时 ,用来使神经网络
© 1994-2010 China Academic Journal Electronic Publishing House. All rights reserved.
部状态演变的轨迹与推理过程相对应 ,神经网络状 向推理过程中包括搜索 、匹配和回溯过程 ;而这里由
态演变过程的结束也就相应于推理过程的结束. 由 于决策结论已经通过神经网络模型推理得出 ,解释
于神经网络推理的并行数学计算过程取代了传统 模块只需根据已得出的结论在“显性知识库 ”中搜
A I符号处理中的匹配 、搜索 、回溯等过程 ,因而具有 索匹配的规则即可 ,省去了费时的回溯搜索过程.
第 14卷第 1期 2006年 6月
广州航海高等专科学校学报
JOURNAL OF GUANGZHOU MAR ITIM E COLLEGE
文章编号 : 1009 - 8526 (2006) 01 - 0029 - 04
Vol. 14 No. 1 Jun. 2006
神经网络和专家系统相结合的综合决策系统结构
机制开始工作 ,并从解释机制模块接收解释信息 ; 那里获取推理结论和结论的解释信息. 另一部分功
4)输出推理结果以及解释信息 ; 5)领域专家对输出 能就是在线学习功能. 在领域专家认为得出的结论
结果进行评估 ,如果领域专家认为需要进行在线学 不正确的情况下 ,需要在领域专家提供教师信息的
习 ,则领域专家给出教师信息训练神经网络 ,启动增 情况下进行在线学习 ,以提高系统的智能水平.
因此 ,专家系统和神经网络的优缺点具有互补 性. 专家系统具有很好的解释能力 ,但是存在知识获 取的“瓶颈 ”问题 ,并且知识库的建立要花费大量的 时间和费用. 而神经网络则能够在较短的时间内完 成知识的获取过程 ,但是它所获取的知识以及在运 用这些知识进行决策的过程是不为人所知的. 因此 ,
可以考虑一种由神经网络和专家系统相结合的综合 决策系统. 一方面 ,应用专家系统具备的良好的解释 说明能力弥补神经网络在理解性方面存在的缺陷 , 解决神经网络的“黑箱 ”问题 ; 另一方面 ,应用神经 网络技术对领域知识进行学习 ,然后运用各种规则 抽取模型从训练好的神经网络中抽取经过精炼的规 则 ,解决专家系统在知识获取方面存在的“瓶颈 ”问 题 [ 3 ]. 本文先给出神经网络和专家系统相结合的综 合决策系统的结构 ,然后再对这种结构存在的技术 难点进行论述.
个数学计算过程 ,它按照一定的算法 ,通过神经网络 情况下 ,这些通过解释推理得到的输入属性对于神
所含知识之间的关系 ,不断在问题求解空间进行并 经网络推理得到的结论应该有最大的影响力.
行“搜索 ”(计算 ) ,直至得出一个最终满意的解 ,此
该机制中所使用的逆向推理机制与一般专家系
时便相应于一个稳定的神经网络输出. 神经网络内 统中的逆向推理机制有所不同. 一般专家系统在逆
图 1 综合决策系统结构框图
则 ,放入符号规则库中.
1. 2 推理机制
1. 3 解释机制
系统推理基于神经网络的权值矩阵 ,与传统的
系统的解释机制根据神经网络推理得出的结
基于逻辑符号操作的推理机制不同 ,它赋予了“推 论 ,通过逆向推理机制 ,对知识库中的符号规则库进
理 ”这一概念新的含义 ,神经网络的推理过程是一 行搜索 ,建立与该结论最相关的用户输入信息. 一般
神经网络技术自 20 世纪 80 年代初复苏以来 , 已经在各个领域中得到了广泛的应用 ,它通过对训 练集的反复学习获取知识 ,具有直观性 、并行性 、鲁 棒性和抗噪性等特点 ,在存在噪声和数据不完备的 情况下能够高质量建模 [ 2 ]. 但是与基于符号的专家 系统相比 ,它的主要缺点是获取的知识隐含在网络 的一系列连接和权值中 ,内部处理过程无法为用户 理解 ,决策模型对于用户来说是一个“黑箱 ”. 因此 , 有必要建立一种解释机制 ,用规则取代权值矩阵 ,为 决策支持类应用提供完整的决策说明.
专家系统利用知识库中保存的大量知识 ,运用 知识推理的方法来解决决策问题 [ 1 ]. 专家系统进行 决策的能力直接受限于其知识库中拥有知识的水 平 ,而知识的获取往往是在建造一个专家系统时遇 到的“瓶颈 ”. 因此 ,如何解决专家系统构建过程中 知识获取的“瓶颈 ”问题 ,使知识库中的知识达到准 确 、完备 、一致 、简练的程度 ,限制了专家系统的进一 步发展.
启发式知识 ,能够抽取运用梯度下降的反传算法进
行学习的神经网络中隐含的符号规则 ,抽取的规则
为 IF. . . THEN. . . 形式的产生式规则 ,易于直接用
于专家系统的规则推理. 我们也开发出了一种“基
于权值重要度的规则抽取方法 ”[ 7 ].
但是上述算法只能在输入值为二值属性的情况
下使用 ,现在的神经网络中各输入属性大多为连续
2 系统关键技术分析
在设计的复合体系结构中 ,神经网络拓扑结构 的选择和自适应学习是基于权值矩阵的推理机制的 核心 ,也是系统实现的难点 ;而知识库则是对神经网 络决策过程进行解释的信息来源 ,主要通过规则抽 取模型来实现.
在构建神经网络决策模型中 ,输入输出节点比 较好确定 ,而要确定隐节点的数目和层数往往比较 困难. 如果在训练过程开始之前人为地设定最佳隐 节点数 ,往往不能取得满意的结果 ,隐节点数太多会 导致神经网络泛化能力降低 ,而隐节点数太少则不 能使神经网络充分学习数据. 当前 ,通常采用 2种选 择最佳隐节点数的方法 :第 1 种方法是以较少的网 络节点数开始训练 ,在训练过程中动态地增加隐节 点 ;第 2种方法以充分大的网络结构开始训练 ,在训 练过程中通过各种剪枝方法删除网络中多余的连接 和节点 [ 4 ] .
收稿日期 : 2006 - 04 - 10 作者简介 : 施平安 (1973 - ) ,男 ,讲师 ,主要从事人工智能与避碰决策研究.
© 1994-2010 China Academic Journal Electronic Publishing House. All rights reserved.
其集对应的输入属性分别为 X1 , X2 , …, Xn , 各输入
属性对应的取值范围分别为
P1 , P2 , …, Pn 1令
X
j i
表
示 Xi 取 Pi 中第 j个值 ,则可将规则抽取任务简单地
∑ ∑ k
n
k- 1
用公式表示为
:
W
i
X
j i
+
W i Xmi in ≥ T 且
W
i
X
j i
+
i =1
施平安 , 吴 唏
(海军兵种指挥学院 一系 ,广东 广州 510431)