基于改进粒子群优化算法的贝叶斯网络结构学习
基于贝叶斯-粒子群算法的微电网优化运行
第46卷第12期电力系统保护与控制Vol.46 No.12 2018年6月16日Power System Protection and Control Jun. 16, 2018 DOI: 10.7667/PSPC170847基于贝叶斯-粒子群算法的微电网优化运行康 健，靳 斌，段秀娟，尚小华，栗 玮(西华大学电气与电子信息学院，四川 成都 610039)摘要：针对目前微网调度难于全局最优收敛的问题，从概率网络的角度出发，将贝叶斯网络(Bayesian Network, BN)理论与粒子群算法(Particle Swarm Optimization, PSO)相结合，提出了基于贝叶斯-粒子群算法(BN-PSO)的微电网优化运行新策略。
首先建立了微网数学模型和系统约束条件，考虑风能和光伏系统的概率分布情况，引入可再生因子和单位电力生产成本，以实现微网系统满足节能减排条件下的总费用最低的优化目标。
最后以一个典型的微网系统进行算例仿真分析。
结果表明：BN-PSO算法能有效解决包含随机概率事件的新能源微网优化运行问题，是解决此类问题的一个新思路；与目前的主流算法相比，BN-PSO算法能克服局部最优的缺陷，实现快速收敛。
关键词：微电网；贝叶斯网络；粒子群算法；优化运行；概率分布Optimal operation of microgrid based on Bayesian-PSO algorithmKANG Jian, JIN Bin, DUAN Xiujuan, SHANG Xiaohua, LI Wei(School of Electric Engineering and Electronic Information, Xihua University, Chengdu 610039, China)Abstract: Aiming at the problem that the global optimal of the day-ahead schedule for micro-grid is hard to convergence,a new optimal operation of micro-grid based on Bayesian and PSO algorithm is proposed, which combines the BayesianNetwork (BN) theory with the Particle Swarm Optimization (PSO) algorithm from the perspective of probability network.Initially, the mathematical models of microgrid and the system constraints are established by considering the probability distribution of wind power and PV system, then the renewable factor and unit power production costs are introduced to achieve the optimization goal which contains the lowest total cost under the condition of energy conservation and emissions reduction. Finally, the simulation analysis comes from a typical microgrid system. The result shows that the BN-PSO algorithm can effectively solve the optimal operation problems of microgrid which includes random probability event, it’s a new way to solve such problems; when compared with the current mainstream algorithms, the BN-PSO algorithm can overcome the defect of local optimum and achieve convergence rapidly.This work is supported by the “Chunhui Plan” of Ministry of Education (No. Z2014076).Key words: microgrid; Bayesian network; particle swarm optimization; optimal operation; probability distribution0 引言为应对气候变化、能源危机、环境恶化等全球性问题，能源变革、能源消费转变成为了当今各国发展的重要战略[1-2]。
贝叶斯网络结构粒子群优化学习算法
，
｝对应 中 的各 个节 点 ．有 向边 表示 变量 间的依赖 关 系．对 于有 向边 （ ， ｖ ｊ ）， 称为 ｖ ｊ 的父 节点 ，
而有 向 图中满足 条件独 立性 假设 ，在 给定 Ｐ ａ （ ）的情况 下 ， 与Ａ （ ）条件 独立 ：
Ｐ （ １ Ｐ ａ （ ） ， Ａ （ 。 ） ）＝Ｐ （ ｖ ｌ Ｐ ａ （ ｖ ） ） ．
过附加合适的约束函数降低评分函数 的计算复杂度 ，同时结合粒子群优化算法设计了一种 Ｂ Ｎ结构学 习算法 ．最 后通 过与 经典 的 Ｋ ２算 法 的实验 比较 ，分 析 了该 算 法在学 习 时 ቤተ መጻሕፍቲ ባይዱ和精度 上 的效果 ．
１ Ｂ Ｎ及 约 束 最 大 信 息熵 的相 关 理论
１ ．１ Ｂ
Ｂ Ｎ是一 个 由变量 节点组 成 的有 向无 环 图 （ ｄ ｉ ｒ ｅ ｃ ｔ ｅ ｄ ａ ｃ ｙ ｃ ｌ ｉ ｃ ｇ ｒ ａ ｐ ｈ ，Ｄ Ａ Ｇ） ，具 有 ／ ２ 个节点的 Ｂ Ｎ可
以表 示 为 Ｂ Ｎ ＝（ （ ， Ｅ） Ｐ）． （ｉ）用 （ Ｖ ， Ｅ）表示 有 向无 环 图 Ｇ，具 有 个节 点 ， Ｖ＝ ｛ 。 ， ， …， ｝ 是变 量集 合 Ｘ ＝ ｛ ， ，
（ ３ ）
式中， Ｐ（ Ｃ ）表示 与 网络 结 构无 关 的常 数 ； Ｐ（ Ｓ ）表 示 先验 概 率 ； Ｐ （ Ｃ Ｉ ｓ ）表 示 边 界似 然 ． 因此 ， Ｂ Ｎ结构 学 习问题 的优化模 型 可定 义如 下 ： 输入 ：数 据序 列集 ｃ， ｃ由 个 观察 序 列组 成 ， 表 示 序 列 的 长度 ，且 给 出 ［ ０ ］ ， ［ １ ］ ， …，
（ １ ）
（ ｉ ｉ ） Ｐ表示与每个节点相关的条件概率分布 ，可用 Ｐ （ ； Ｐ ０ （ Ｖ ｉ ） ） 来描述． Ｐ表达 了节点 与其父
一种混合粒子群算法的贝叶斯网络优化模型
一种混合粒子群算法的贝叶斯网络优化模型
褚灵伟;许延伟
【期刊名称】《计算机时代》
【年(卷),期】2014(000)009
【摘要】传统的粒子群优化算法通过群体中粒子间的合作和竞争进行群体智能指导优化搜索,算法收敛速度快,但较易陷入局部较优值,进入早熟状态.为了解决这个问题,提出了一种混合粒子群算法的贝叶斯网络优化模型,它可以通过当前所选择的较优解群构造一个贝叶斯网络和联合概率分布模型,利用这个模型进行采样得到更优解,用其可随机替换掉PSO中的一些粒子或个体最优解;同时利用粒子群算法对当前选择出的较优解群进行深度搜索,并将得到的最优解融入到较优解群中.分析可知,该方法可以提高算法有效性和可靠性.
【总页数】3页(P31-32,35)
【作者】褚灵伟;许延伟
【作者单位】上海宽带技术及应用工程研究中心,上海200336;上海宽带技术及应用工程研究中心,上海200336
【正文语种】中文
【中图分类】TP393
【相关文献】
1.一种基于差分进化混合粒子群算法的多无人机航迹规划 [J], 于鸿达;王从庆;贾峰;刘阳
2.一种求解旅行商问题的改进混合粒子群算法 [J], 裴皓晨;娄渊胜;叶枫;黄倩
3.一种混合粒子群算法求解Nash平衡 [J], 黎华琴
4.一种动态调整惯性权重的混合粒子群算法 [J], 胡堂清;张旭秀;曹晓月
5.基于贝叶斯网络的战场抢修顺序优化模型 [J], 刘利;王宏;石全;胡起伟
因版权原因，仅展示原文概要，查看原文内容请购买。
动态贝叶斯网络结构学习的研究
本人完全了解北京工业大学有关保留、使用学位论文的规定，即：学校有权 保留送交论文的复印件，允许论文被查阅和借阅；学校可以公布论文的全部或部 分内容，可以采用影印、缩印或其他复制手段保存论文。
（保密的论文在解密后应遵守此规定）
签名：槛导师签名：璧！垒坠日期硕士学位论文 动态贝叶斯网络结构学习的研究 姓名：胡仁兵 申请学位级别：硕士 专业：计算机软件与理论 指导教师：冀俊忠
20090501
摘要
摘要
动态贝叶斯网（ＤＢＮ）作为一种特殊的贝叶斯网络（ＢＮ），是贝叶斯网 络与时间信息相结合而形成的可处理时序数据的新的随机模型。由于其在描 述非线性、随机演化的不确定关系时具有较强的优势，所以对动态贝叶斯网 的研究及其应用成为人工智能领域中的一个研究热点。为了进一步提高ＤＢＮ 结构学习算法的效率，本文在研究国内外现有算法的基础上，完成了如下几 方面的工作：
以其中do表示由d的各个观察序列中关于初始状态的事例组成的数据集d一表示由d的各个观察序列中关于动态随机过程状态转换的事例组成的数25本章小结本章从静态贝叶斯网络的概念出发引出了dbn的基本概念详细介绍了dbn结构学习的定义结构学习的基本方法以及网络评分的标准为后续dbn结构学习的算法研究奠定了基础
１）扩展了利用粒子群优化学习贝叶斯网络结构的ＢＮ．ＰＳＯ算法，提出了 基于粒子群优化的ＤＢＮ结构学习算法Ｉ－ＢＮ．ＰＳＯ。新算法首先利用条件独立 性测试（０阶）确定网络候选的连接图，有效地限制了搜索空间，并利用已获 得的互信息作为启发性知识来初始化粒子群；其次，设计了基于ＭＤＬ评分增 益的粒子位置减法算子，使粒子的“飞行”更有效；最后，引入了随机扰动 策略，避免了粒子群的“聚集”现象。在标准数据集上的实验表明，新算法 大大提高了学习的精度和速度。
基于粒子群优化建模的贝叶斯网络结构学习方法
基于粒子群优化建模的贝叶斯网络结构学习方法李东灵【期刊名称】《计算机应用与软件》【年(卷),期】2014(000)011【摘要】贝叶斯网络（ BN）在不确定性的条件下表示信息和推理论证具有良好的性能，但由于其结构搜索空间的复杂性，通常将从一个数据集合中学习贝叶斯网络的结构认为是一种NP-hard的问题。
基于此，提出一种新的基于粒子群优化算法建模的贝叶斯网络结构学习方法。
为了学习一个贝叶斯网络的结构，该方法先使用粒子群优化算法在排序空间中进行搜索，然后运行K2算法计算每个排序的吻合度。
每个排序都会有一个网络结构与之一致，该方法会返回这个网络的计分。
仿真结果表明，在不同规模的数据集中，该算法相对于其他贝叶斯网络结构学习算法对不同类型的网络都具有更好的网络稳定性。
%Bayesian networks ( BNs ) have good performances when used for representing information and reasoning under uncertain circumstances, but due to the complexity in its structure search space, a structure learning BN from a dataset is in general regarded as an NP-hard problem.Based on this, we propose a novel BN structure learning approach which is based on particle swarm optimisation ( PSO) modelling.In order to learn a structure of Bayesian network, the approach first uses PSO to search in sorting space, and then calculates the fitness of each ordering by running the K2 algorithm.Every ordering will have a corresponding network structure, and the approach will feed back the score of this network.Simulation results show that the approach canproduce better network stabilities on the networks with different types compared with other BN structure learning algorithms in databases with different scales.【总页数】5页(P178-182)【作者】李东灵【作者单位】商丘职业技术学院河南商丘 476000【正文语种】中文【中图分类】TP391【相关文献】1.基于拓扑排序的贝叶斯网络结构学习方法 [J], 苏树伟;范科峰;莫玮2.基于因果效应的贝叶斯网络结构学习方法 [J], An Ning;Teng Yue;Yang Jiaoyun;Li Lian3.贝叶斯网络分类器的基于改进粒子群参数学习方法 [J], 丁晓彬;刘久富;郑锐;王彪;刘海洋;杨忠;王志胜4.基于差分进化策略的贝叶斯网络结构学习方法 [J], 牛艳飞;马洁5.基于v-结构和邻居集的启发式贝叶斯网络结构学习方法 [J], 徐苗;王慧玲;梁义;綦小龙因版权原因，仅展示原文概要，查看原文内容请购买。
基于粒子群优化的朴素贝叶斯改进算法
")概述
朴素贝叶 斯 ! %7*01+Q7E+<% %Q" 算 法 是 一 种 简 洁而高效的分类算法%在很多情况下达到的分类效 果可以与一些复杂分类算法相媲美# 但其以假设条 件属性变量之间相互独立为前提%而在现实应用中% 事务的各属性之间大都有着一定的联系# 因此%朴 素贝叶斯算法的这种理想式假设是不合理的%这也 使得分类性能受到很大的影响# 为解决该问题%相 关学者提出了不同的方法来弥补朴素贝叶斯分类器
基于粒子群优化的朴素贝叶斯改进算法
邱宁佳李"娜胡小娟王"鹏孙爽滋
! 长春理工大学 计算机科学技术学院%长春 #(%%$$"
摘"要 针对朴素贝叶斯! %Q" 算法因 条 件 独 立 性 的 理 想 式 假 设 引 起 分 类 性 能 降 低 的 问 题%提 出 一 种 改 进 的 粒 子 群优化5朴素贝叶斯! L9R5%Q" 算 法# 在 文 本 预 处 理 时%引 入 权 重 因 子&类 内 和 类 间 离 散 因 子 进 行 属 性 约 简%基 于 %Q加权模型%将条件属性的词频比率作为其初始权值%利用 L9R算 法 迭 代 寻 找 全 局 最 优 特 征 权 向 量%并 以 此 权 向 量作为加权模型中各个特征词的 权 值 生 成 分 类 器# 运 用 经 典 数 据 集 对 L9R5%Q算 法 进 行 性 能 分 析%结 果 表 明%改 进算法可有效减少冗余属性%降低计算复杂度%具有较高的准确率和召回率# 关键词 朴素贝叶斯' 互信息' 属性约简' 粒子群优化算法' 权值优化
第 !! 卷"第 ## 期 " !"#$!!" %"$## "
基于改进粒子群优化算法的贝叶斯网络结构学习_高晓光
程。由贝叶斯定理可知： G best ， P best ） = P （ X k +1 | X k ， Xk ， G best ， P best ） P （ X k +1 ， P（ X k ， G best ， P best ）
P （ X k +1 ） P （ X k | X k +1 ） P （ G best | X k +1 ） P （ P best | X k +1 ） P （ X k +1 ） P （ X k | X k +1 ） P （ G best | X k +1 ） P （ P best | X k +1 ） ∑ X
{
1 0 －1
加上节点 j 到 i 的边 保持不变 删除节点 j 到 i 的边 虚线框内是本文对标准粒子群优化算法的改进措 施， 具体描述为： 1 ） 利用互信息限制粒子的初始化 由互信息理论可知， 互信息虽然无法确定网络 中节点的父子关系， 但是能判断 2 个变量之间是否 存在依赖关系， 这就为我们提供了一条寻找与某一 变量相关的变量集的办法。具体步骤如下： 步骤 1 计算网络中两两变量之间的互信息 步骤 2 Y） 中的最大 以变量 X 为例， 找出 I（ X ， 找出满足公式 （ 6 ） 中的所有节点， 就 Y 代表其他所有变量。 值， 这里用 maxI（ X ） 表示， 步骤 3 （3）
基金项目：全国高校博士点基金（ 20116102110026 ） 资助
（1）
作者简介：高晓光（ 1957 —） ， 女， 西北工业大学教授， 主要从事复杂系统建模及效能评估 、 贝时斯理论研究。
· 750·
西
北
工
业
大
学
学
基于链模型和粒子群的贝叶斯网结构学习算法
２ 改进 的粒子群优化算法 ． ３ ２３１ 加权 的粒子群优化算法 ．． 文献【】 出了一种加权的粒 子群 优化算法 ，粒子 的速度 ３提
更新公式为 ：
“”＝ ｗ －Ｃ ｝ －
Ｃ卜ＣＨ 一．ｏ 一 —
（ 单链 模型 ａ ）
１ （ｂｓ 一 ‘ ‘ ｂｓ 一 ‘ ｐｅ￣ ） ｒ （ ｅ￣ ） ‘ ｔ ２ｇ ｔ
（ ａｔ ｌ Ｓ ａｍ Ｏ ｔ ｚｔ ｎ Ｐ Ｏ 算法为基础 ，提 出一 种 Ｐ ｒ ｃ ｗ ｒ ｐｉ ａ ｏ ， Ｓ ） ｉｅ ｍｉ ｉ Ｊ
了在随机变量集 ＝｛ ， ｘ ｌ ｘ ， …， 上的一个联合分布 ： Ｘ：
ｎ
Ｐ（ ， ， Ｘ ＝Ｉ Ｐ（ Ｊ Ｘ，） Ｘ。 Ｘ２…， ） Ｉ Ｘ， 兀（ ）
２３２ 粒 子更新位置 的可选择性 －．
（） 全规则 链模 型 ｃ完
图 １ 链模星
根据文献【】 ６提出的假设 ，链模型可 以很好地确定要 学习 的贝叶斯 网的拓扑序列 ，该拓扑序列支配了对 应的贝 叶斯 网 的得分。因此，一个拓扑序列的好坏可以通 过与之对应 的规
则链模型来评价 。实际上 ，链模型是 由拓扑序 列到贝 叶斯网 表 的实 际意义 ，文献【１ 出了一种新型多步式位置可选择 更 、 的一种过渡模 型 ，它包含 了可 以拓扑成该序列的贝叶斯网的 ５提 新粒子群优化算法 ， 更新公式 由 １ 把 步分为 ３步。 针对第 ｉ ， 代 重要信息 。因此 ，本文提出的算法首先在给定 的数据集 Ｄ下
ｃ ｎ ｉ ｏ ａ ｎ ｅ ｅ ｄ ｎ ｅ ｔ ｓ ｏ ｄｔ ｎ ｉｄ ｐ ｎ ｅ ｃ ｔ ｉ ｌ ｅ
Ｄｏｋ ０３ ６ ０ｉｓ．Ｏ ０３ ２ ．０ １１ ．６ １ ９ ９ ． ｎ１０ —４ ８２ １． ０ １ ｓ ７
贝叶斯网络结构粒子群优化学习算法
贝叶斯网络结构粒子群优化学习算法刘扬【摘要】提出一种信息论结合粒子群优化的贝叶斯网络结构学习算法，将约束最大信息熵作为最高评分函数，对网络结构进行复杂度约束，设计了粒子位置和速度向量的操作方法，解决单纯利用KL距离进行搜索的缺陷。
在网络结构的搜索空间相对较大的情况下，该优化算法能在较短的时间内收敛，获得更准确的网络结构。
仿真实验结果表明，该算法在时间和精度上都具有较好的效果。
%A Bayesian networks learning was put forward based on information theory with particle swarm optimization algorithm. With the information entropy as the highest scoring function, the network structure complexity was constrained, and particle position and velocity vector operation designed, to solve the defects in using KL distance alone for search. In relatively large search space in the network structure, the optimization algorithm can obtain convergence in a short period of time to achieve fairly accurate network structure, and the algorithm and validation implemented through simulation experiment. The experimental results show that the algorithm has good effects in time and for precision.【期刊名称】《厦门理工学院学报》【年(卷),期】2014(000)005【总页数】5页(P46-50)【关键词】贝叶斯网络;结构学习;最大信息熵;粒子群优化【作者】刘扬【作者单位】集美大学诚毅学院信息工程学院，福建厦门361021【正文语种】中文【中图分类】TP18目前，贝叶斯网络(Bayesian network，BN)已成为不确定性知识表示和推理领域最重要的工具之一［1－2］.其结构学习是结合先验知识，通过对数据样本集的学习确定网络拓扑结构［3］.学习算法主要包括基于独立性检验的方法、基于“评分+搜索”的算法和混合算法［4－5］.基于独立性检验的算法效率高、收敛速度快，但准确性较差.基于“评分+搜索”的算法准确性较高，但如果网络结构比较大时，搜索空间是呈指数级增长.结合这两种类型的优势而产生的混合算法能够弥补单一类型算法的缺陷［6－7］.本文从信息论出发，通过对Kullback-Leibler (KL)距离的改进确定评分函数，并通过附加合适的约束函数降低评分函数的计算复杂度，同时结合粒子群优化算法设计了一种BN 结构学习算法.最后通过与经典的K2 算法的实验比较，分析了该算法在学习时间和精度上的效果.1 BN 及约束最大信息熵的相关理论1.1 BNBN 是一个由变量节点组成的有向无环图(directed acyclic graph，DAG)，具有n 个节点的BN 可以表示为BN=〈〈V，E〉P〉.(ⅰ)用〈V，E〉表示有向无环图G，具有n 个节点，V={v1，v2，…，vn}是变量集合X={x1，x2，…，xn}对应中的各个节点.有向边表示变量间的依赖关系.对于有向边(vi，vj)，vi称为vj的父节点，而有向图中满足条件独立性假设，在给定Pa(vi)的情况下，vi与A(vi)条件独立:(ⅱ)P 表示与每个节点相关的条件概率分布，可用来描述.P 表达了节点与其父节点之间的关联关系.若根节点先验概率分布和非根节点的条件概率分布已经确定，根据式(2)计算所有节点的联合概率分布.假设数据集C={x1，x2，…，xn}，Sh 表示存在的可能网络结构，从数据集C 中学习最好的结构S就是使P(Sh | C)取最大值，则有式中，P(C)表示与网络结构无关的常数;P(Sh)表示先验概率;P(C | Sh)表示边界似然［8］.因此，BN 结构学习问题的优化模型可定义如下:输入:数据序列集C，C 由Mnum个观察序列组成，M 表示序列的长度，且给出xl［0］，xl［1］，…，xl［Ml］，其中每个xl［0］，xl［1］，…，xl［Ml］表示一个数据序列.输出:最佳的BN 结构，即与训练序列集匹配度最高，P(Sh | C)最大的网络结构.1.2 约束最大信息熵1.2.1 KL 距离设vi和vj为问题域U 上的两个不同变量，则它们之间的KL 距离为:仅利用KL 距离进行结构搜索将导致搜索过程结束于完全图，所以需要对网络结构进行复杂度约束来减少搜索空间.1.2.2 复杂度约束函数网络的复杂度取决于网络结构和网络结点的维数，因此需要从结构和维数两方面对KL 距离进行约束.(ⅰ)网络模型的维数Dim(S)由每个结点不同状态的数目Si来表示，即式中，n 为网络中结点的数目.(ⅱ)其复杂度DL(S)由有向边的数目来表示，计算公式为式中，ki为结点vi父结点的数目.若数据库中数据集的数目为m，复杂度约束函数包含网络的维数和复杂度两部分，即1.2.3 约束最大信息熵评分函数本文结合复杂度约束规则和KL 距离，对KL 距离附加一个关于网络拓扑结构与变量维数复杂度约束函数，得到附加约束的最大信息熵记分函数，解决单纯利用KL 距离进行搜索的缺陷.约束最大信息熵评分函数MMIL 如下:确定了评分函数之后，将使用粒子群优化算法进行搜索找到最优的网络结构.2 粒子群优化算法2.1 粒子群优化算法介绍粒子群优化算法是利用群体行为间的信息共享完成对问题的求解的智能搜索算法［9］.其中，粒子可用一个二元组〈x，v〉来表示，x 表示粒子的位置;v 表示粒子的速度.粒子用个体极值点Pbest和全体极值点Gbest来更新自己.在找到两个最优值之后，粒子根据式(9)来更新自己的速度和位置:式中，c1和c2是学习因子，分别称为自身学习因子和社会学习因子，决定了粒子本身和群体经验对粒子运动轨迹的影响，反映了粒子间的信息交流;k 代表迭代次数;Vk代表粒子当前的速度;Xk代表粒子当前的位置;r1和r2是介于［0，1］之间的随机数;ω 为惯性权重，调整ω 可以改变算法的全局和局部搜索能力.目前，对改进的粒子群优化算法研究较多，文献［10］提出的改进粒子群算法去除了速度项，可简化为式(10)中，等式右边第1 项表示过去对现在的影响，可以通过改变ω 的值来调节影响程度;第2项表示粒子本身的思考;第3 项表示粒子间的社会信息交互与共享.本文采用改进后的粒子群算法来搜索BN 结构.2.2 网络结构学习中的粒子位置和速度BN 可以用矩阵G 来表示，如图1 所示.G 表示粒子的当前位置，矩阵中的元素gij 定义为图1 粒子的位置表示Fig.1 Location of the particle在算法运行过程中，粒子以一定的速度移动，也采用矩阵的形式表示.每个元素vij 定义为当粒子以一定的速度V 从G 移动到G' 时，如图2 所示.所对应的有向边按照速度的定义发生变化.图2 粒子以速度V 移动的示意图Fig.2 Schematic diagram of the particle moving with speed V3 基于约束最大信息熵的粒子群优化算法本文采用约束最大信息熵评分函数来计算粒子的适应度.算法的输入为随机变量集的样本数据集，输出为最优的网络结构.算法描述如下:(ⅰ)根据随机变量集X，初始化种群Gin;(ⅱ)如果终止条件满足，转步骤(ⅴ);(ⅲ)根据粒子的当前位置xi和速度vi，结合样本数据集D，以约束最大信息熵为评分函数，计算粒子新位置xi+1的适应度值.若新位置的适应度比原位置粒子的适应度大，则用xi+1更新xi;(ⅳ)计算粒子群中所有粒子新位置的适应度值，如果存在更好的位置，则用新位置更新原位置并转步骤(ⅱ);(ⅴ)最优BN 结构Gbest为学习过程中的最佳位置.4 仿真实验结果及比较为了验证本文算法用于BN 结构学习的有效性，本文以经典的ASIA 网络(图3)作为仿真模型来评价算法性能.利用BNT 工具以该网络的标准概率分布分别生成一定数量的模拟实验数据.数据的样本数分别为1 000、5 000 和10 000，粒子的种群大小为20，进行仿真.本文评价算法性能采用汉明距离.汉明距离为多余的边、丢失的边和反向的边数目之和.每次计算过程做10 次实验，分析算法在不同样本下学习得到的网络结构，比较算法性能，结果如表1 所示.图3 标准的ASIA 网络结构Fig.3 Standard ASIA network structure表1 算法学习性能比较Tab.1 Comparison of algorithm performance从表1 中可以看出在样本数为1 000 的情况下，本文提出的粒子群优化算法所得结果的汉明距离明显小于K2 算法，学习得到的网络结构的准确度要明显优于K2 算法和PSO 算法.随着样本数量的逐渐增加，本文算法的准确度也逐渐提高，同时，时间的消耗也有所增加，但时间消耗小于K2 算法和PSO 算法.而且，在样本数量较小的情况下，K2 算法难以得到相对准确的结构.通过分析可以得出:当样本数量比较小时，本文提出的算法能够处理BN 结构的学习问题，并且能够得到相对准确的结构.如果样本数量相同，本文算法在时间效率上要高于K2 算法和PSO 算法，并且在准确度上本文提出的算法也具有优势.5 结论本文研究了BN 结构学习的粒子群优化算法问题，确定了结构的约束最大信息熵评分函数，将信息论中的信息熵用于BN 结构学习的粒子群优化算法中.通过实验验证了本文提出的算法可以快速有效地得到网络结构，具有较高的准确性.［参考文献］［1］DANIEL S，ARMEN D K.Bayesian network enhanced with structural reliability methods:methodology ［J］.Journal of Engineering Mechanics，2010，92(10):1 413-1 420.［2］SILANDER T，ROOS T.Learnning locally minimax optimal Bayesian networks ［J］.International Journal of Approximate Reasoning，2010，51:544-557.［3］WANG L，WANG M Z.Modeling of combined Bayesian networks and cognitive framework for decision making ［J］.Journal of Systems Engineering and Electronics，2010，21(5):812-820.［4］LOBONA B，AFIF M，FAIEZ G，et al.Improving algorithms for structure learning in Bayesian networks using a new implicit score ［J］.Expert System with Applixation，2010，37:5 470-5 475.［5］冀俊忠，胡仁兵，张鸿勋，等.一种混合的贝叶斯网结构学习算法［J］.计算机研究与发展，2009，46(9):1 498-1 501.［6］WU Y H，MCCALL J，CORNE D.Two novel ant colony optimization approaches for Bayesian network structure learning［C］//Proc of the International Conference on Pattern Recognition.Berlin:Springer，2010:18-23.［7］许立佳，黄建国，王厚军.混合优化的贝叶斯网络结构学习［J］.计算机辅助设计与图形学学报，2009，21(5):633-638.［8］梁洁，蔡琦，初珠立，等.基于微粒群优化的贝叶斯网络结构学习方法［J］.华中科技大学学报:自然科学版，2012，40(12):44-48.［9］王双成，王辉，徐广林.具有传递变量的动态贝叶斯网络结构学习［J］.控制与决策，2010，25(11):1 737-1 746.［10］刘欣，贾海洋，刘大有.基于粒子群优化算法的Bayesian 网络结构学习［J］.小型微型计算机系统，2008，29(8):1 516-1 519.。
一种基于粒子群优化算法的增量贝叶斯网学习方法[发明专利]
专利名称：一种基于粒子群优化算法的增量贝叶斯网学习方法专利类型：发明专利
发明人：朱允刚,肖俊义,凌雨楠,杨能,余海涛
申请号：CN202010453090.5
申请日：20200526
公开号：CN111612160A
公开日：
20200901
专利内容由知识产权出版社提供
摘要：本发明涉及网络优化技术领域，具体为一种基于粒子群优化算法的增量贝叶斯网学习方法，该方法至少包括：采用一种与传统邻接矩阵、邻接表不同的、类似于二维数组的贝叶斯网络编码方法；充分发挥离散粒子群优化算法在最优搜索领域的优势，并与贝叶斯网恰当结合，完成贝叶斯网结构学习过程中最优结构的搜索过程；将粒子群算法应用于贝叶斯网络学习中，并模拟现实中数据增长的环境，将普通的一次性学习过程改为增量学习过程，使网络模型的结构和参数随时间动态更新，以适应新数据的不断到来。
申请人：吉林大学
地址：130010 吉林省长春市前进大街2699号
国籍：CN
代理机构：苏州创策知识产权代理有限公司
代理人：周锦全
更多信息请下载全文后查看。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
引发 演变 进 程变 成确 定性 的态 势 ， 导 致 聚拢 速 率减 低 ， 求 佳 功 能
下 降． 在 此要 依托 互 信息 约束 起始 粒 子 ， 并 运用 传 统 贝 叶斯 网络
系统 仿效 粒 子组 合计 算方 法 的迭 代方 式 来 提 高计 算 方法 的聚拢 速率 及求 优 功能 ．
１ 传 统粒 子 组 合 改 良算 法
粒子 组 合改 良计 算 方 法 起 源 于 鸟类 群 体 夺 食 的分 析 研 究 ，
开始 ， 运算 模 式起 始 化一 组粒 子 ， 而后 依 托 迭代 交 替 过程 求 得 最
图１ 粒 子 组 合 算 法 程 序
收 稿 日期 ： ２ ０ １ ４ — １ ２ — ０ ９
架里 的结 点个数 ， 矩 阵元素 ｇ 含 义见 图 ２表示 ．
基 于 改进 粒 子 群 优 化 算 法 的贝 叶斯 网络 结构 学 习
江 浩 江 兵
（ １ ． 亳 州 师 范 高 等 专 科 学 校 理化 系 ， 安徽 毫州 ２ ３ ６ ８ ０ ０ ； ２ ． 合 肥工业大学 管理学院 ， 安徽 合肥 ２ ３ ０ ０ ０ ９ ）
摘 要 认 识和 掌握 贝叶斯 网络 架构是 数据 求索和 知 识创 新 范畴 的 主要 探 讨 方 式之 一 ， 当 处在 网络 购 架寻 觅 范 围较 广 的条件 下 ， 过去 的二 值粒 子组 合 改 良计 算 方 法时 常表现 出聚 拢速 率低 ， 很 可 能滑入 局 部 范 围取 优 、 认识 和 掌握精 准度 较低 的 劣势． 在 以往 二 值粒 子 组合 改进 计算 方法 的前
关键 词 贝叶斯 网络 ， 数 据 求 索， 粒子 组 改 良
中图分 类号
ＴＰ ３ ９ ３
文 献标 识码
Ａ
文章 编号 １ ６ ７ ２ — ６ ６ ３ ４ （ ２ ０ １ ５ ） ０ １ － ０ ０ ８ ３ － ０ ５
贝 叶斯 网络 系统 凭其 雄厚 的学 术成 果铺 垫 、 明 晰 的描述 方 式 、 机动 的逻 辑 功 能 、 便捷 的确 定程 序 而 越 来越 变成 人类 智 慧能 力范 畴解 决 随机难 题 的得力 助 手． 该 网络构架 研 究是 贝 叶斯理论 的主要 学术 内涵 ， 并
研究 ， 而 且获 取 了部 分成 绩． 这 次讨 论 的前 一部 分 ， 主要是 探讨 把 Ｂ Ｐ Ｓ Ｏ 和互信 息 内容 相关 联 ， 从 而约 束粒 子组 合运 算 过程 求索 范 围． 我 们 从 前述 探 讨 注 意 到 ， 尽管 Ｂ Ｐ Ｓ Ｏ
计算 方法 可 以径 直 当做研 究 贝 叶斯 网络 构 架 的工 具 ， 然而 ， 它 的
第 ２ ８卷
第 １ 期
聊城大学学报 （ 自然 科 学 版 ）
Ｊ ｏｕ ｒ ｎ ａ ｌ ｏ ｆ Ｌｉ ａ ｏ ｃ ｈ ｅ ｎ ｇ Ｕｎ ｉ ｖ ｅ ｒ ｓ ｉ ｔ ｙ（ Ｎａ ｔ ． Ｓ ｃ ｉ ． ）
ＶｏＩ ＿ ２ ８ Ｎ０ ． １
Ｍａ ｒ ． ２ Ｏ １ ５
２ ０ １ ５年 ３月
提下， 依 托 互信 息粒 子组 合计 算方 法 的初期 化过 程 ， 减 小 计 算 方 法的 寻 觅 范 围 ， 并且 设 置新 型 的
演 变模 型取代 以往 的演 变方程 ， 从 而使 改 良后 的计 算方 法拥有 较 大 的求优 功 能． 选取 ＡＳ Ｉ Ａ 网络
系统 当作模仿 样 板 ， 再和 以往 计算 方 法相 比 ， 最终说 明 改进计 算 方法 可 以利 用不 多的重 复换代 过 程 寻觅 到极优 的方程 解 ， 而且 总体 上 不会增 添计 算过 程 的繁 琐程 度．
第２ ８卷
佳 题解 ， 当逐 次循 环更新 时 ， 粒子依 靠追 寻两 个极 值来 变更 自己． 粒子组 合 改 良算 法 的简化 步骤见 图 １ ． 当求到 两个 最佳题 解等 式来 变更 自己的方位 及速 率．
Ｖ ＋ １ 一 ｍＶ＾ ＋Ｃ １ ｒ １ （ Ｐ ｂ ｔ ｋ ） ＋ｃ ２ ｒ ２ （ Ｇｂ 。 ｔ ｋ — Ｘ ） ， Ｘｋ ＋ １ 一 Ｘｋ ＋ Ｖ ＋ １ ，
且还 是解 决 随机难 题 初被 推 出 ， 其 目的是要 处 理连 续 性 范畴 的对 象 改进 难 题 ， 但是， 具 体过 程 中
的一 些现 实 情况 常常 表现 为离 散性 能 的状 态 ， 两 位外 国学 者最 早 推 出二值 粒子 组合 改 良计算 方法 ， 以后 又 有部 分专 家 对它 做 了外延 性探 讨 ． 和接 续计 算方 法 以及另 外部 分 寻觅 方式 相对 照 ， 它 的特点不 但是 计算 方 式容 易完 成 ， 更关 键 的是 它具 有极 强 的求 觅功 能 ． 最 近 时 期 以来 ， Ｂ Ｐ Ｓ Ｏ 计 算 方 法被 运用 到 Ｂ Ｎ 构 架 系 统
式 中 ｋ为迭 代次 数 ， Ｖ 为粒子 的现 时速 率 ， ｘ 是粒子 的当前 位 置 ， ｒ 和 ｒ 是介 于 ［ Ｏ ， １ ］ 范 围 的随 机 变数 ，
Ｃ 和 ｃ 是研究 系数 ， ｍ 为惯 性 比例．
２ 改 良的 Ｂ Ｎ 架 构 研 究 算 法
２ ． １ Ｂ Ｎ 架构 研究 中粒子 的 标志和 更替 各个粒 子 的方位处 在 每个矩 阵维 数 中选 ０或 １ ． 如果 粒 子 的方 位采 用矩 阵 Ｇ（ ｎ ， ） 做标 志 ， 是 网络 构
基金项 目： 安 徽 省 委 宣 传 部社 科 规 划 办 项 目 （ ＡＨＳ ＫＹ ２ ０ １ ４ Ｄ１ ０ ２） 资 助
通讯作者 ： 江浩 ， Ｅ — ｍａ ｉ ｌ ： ６ ２ ３ １ ３ ５ ０ ３ ６ ＠ｑ ｑ ． ｃ ｏ ｍ．
８ ４
聊 城 大 学 学 报（ 自 然 科 学 版）