基于自适应粒子群优化的SVM模型在负荷预测中的应用_陆宁

第39卷第15期电力系统保护与控制Vol.39 No.15 2011年8月1日Power System Protection and Control Aug. 1, 2011 基于自适应粒子群优化的SVM模型在负荷预测中的应用

陆 宁1, 武本令2， 刘 颖 3

（1.武汉理工大学自动化学院，湖北 武汉 4300702； 2.许昌市高级技术学校， 河南 许昌 461000；

3.武汉供电公司， 湖北 武汉 430015）

摘要：为了提高电力系统短期负荷预测精度，针对传统支持向量机(SVM)模型在负荷预测中存在的参数的选取问题，提出一种新的预测模型:用改进的自适应粒子群优化算法寻求SVM模型的最优参数。经典粒子群算法是一种全局优化算法，在此基础上提出改进的粒子群算法（FAPSO）并对其进行收敛性测试，将基于改进粒子群算法FAPSO优化的SVM模型用于短期电力负荷预测。实例仿真结果表明该预测模型精度高于传统SVM预测模型，具有一定实用价值。

关键词：自适应；粒子群优化；支持向量机；全局优化；负荷预测

Application of support vector machine model in load forecasting based on adaptive particle swarm

optimization

LU Ning1, WU Ben-ling2, LIU Ying3

（1.School of Automation，Wuhan University of Technology，Wuhan 430070，China; 2. Xuchang Senior Technical School, Xuchang 461000, China; 3. Wuhan Power Supply Company, Wuhan 430015, China）

Abstract：In order to improve the precision of short-term load forecasting, and aiming at the parameter selection of traditional SVM in load forecast this paper proposes a new load forecasting model, i.e., using the improved adaptive particle swarm optimization （PSO）for seeking the optimal parameters of support vector machine(SVM) model. The classical PSO is a global optimization algorithm．Based on it, the improved PSO（FAPSO）is proposed and its convergence tests are conducted，and then the SVM model based on the FAPSO optimization is applied to the short-term power load forecasting. The simulation results show that the adaptive particle swarm optimization-based SVM load forecasting model is more accurate than the traditional SVM model and has certain practical value．

Key words：adaptive；particle swarm optimization；support vector machine；global optimization；load forecasting

中图分类号：TM715 文献标识码：A 文章编号： 1674-3415(2011)15-0043-04

0 引言

电力负荷预测是电力系统日常运行中的一项重要工作。负荷预测对电力系统的经济性、可靠性和运营管理起着十分重要的作用。随着电力市场改革的深入发展，负荷预测精度直接影响到了电网及发电厂的经济效益[1]。

负荷预测的核心问题是预测的技术方法，即预测的数学模型。在长期的实践中，人们对短期负荷预测进行了研究，开发了多种预测方法[2-3]。其中，支持向量机的回归预测方法优点很突出[4]，在短期负荷预测实际中有较成功的应用，但是，SVM模型还有需要进一步改进和完善的地方：SVM模型参数的确定问题。这些参数取值缺少先验信息，有较大的搜索空间，寻优的过程存在难度。传统的交叉验证试算方法、梯度下降法等存在一定局限性，近期的研究中提到用遗传算法来优化SVM模型，虽然取得一定效果，但由于遗传算法自身进化机制复杂，收敛速度慢，也存在一定局限。本文采用改进的自适应粒子群算法来优化支持向量机SVM的相关参数，建立预测模型，并进行短期负荷预测，仿真结果表明，该方法具有良好的预测精度和稳定性。

1 支持向量机回归模型

支持向量机适于解决小样本、非线性回归估计问题[5]。支持向量机的回归模型描述如下：假设样本数据为

()

{}

,|1,2,,,,n

i i i i

D x y i l x R y R

==∈∈

…（1）式中，i为样本数；x i为输入变量；y i为输出变量。

线性回归方程为

- 44 - 电力系统保护与控制

(),f x w x b =+ （2） 式中w 的维数反应了特征空间的维数。

引入松弛变量式（3）。

()()()*

0,

,i i i i f x y f x y f x y εξεε

??

???>?? （3） 由松弛变量*

,i i ξξ，惩罚参数C 和损失函数 ε

的引入，支持向量机解决回归问题，可转化成求解以下数学规划问题：

()2

*,1

1min 2l

i i w b i w C Φξξ==++∑ ()s.t.[]i i i w x b y εξ+?≤+·

()*[]i i i y w x b εξ?+≤+· （4）

对此问题的对偶问题进行求解，求得拉格朗日因子i α和*

i α

，回归方程的系数：

()*1

l

i i i i w x αα==?∑ （5）

则回归方程的表达式可描述为：

()()()*1

,l

i i i i f x K x x b αα==?+∑ （6）

式中，(),i K x x 是核函数，本文采用的是高斯径向基函数，如式（7）。

()2,exp 2i i x x K x x σ???

=?

???

（7） 式中， σ是核函数的参数。

惩罚因子C 、不敏感损失函数ε以及核函数的参数σ决定了SVM 回归模型的性能[6-8]：惩罚参数C 决定对较大拟合偏差所采取的惩罚力度， C 取值过大，可能会导致过学习，而取值过小可能导致欠学习。核函数的参数σ反映了训练数据集的特性，决定了解的复杂性，影响学习机的泛化能力。损失函数ε表示对估计函数在误差上的期望值，它的取值一定程度上决定了构造回归函数的支持向量的个数。如何更好地选择合适的参数是值得研究的问题。本文提出改进粒子群算法FAPSO ，并应用该算法优化支持向量机SVM 的相关参数。

2 改进的自适应粒子群算法FAPSO

在粒子群算法中[9]，

每个优化问题的解都是搜索空间中的一只鸟，也就是所谓的“粒子”，每个粒子都有自己的位置和速度和一个由被优化的函数决定的适应值， 然后这些粒子就追随当前的最优粒子

在解空间中进行搜索。在每一次迭代中， 粒子通过追寻两个“极值”来更新自己的位置：第一个是粒子本身所找到的最优解，称为个体极值点，用P best 表示，另一个极值是整个种群当前找到的最优解， 即全局极值，用P gbest 表示。

经典粒子群优化算法可以描述为：在一个D 维搜索空间中，有m 个粒子组成一个群体，令X i =(x i 1，x i 2，…，x id )( i =1，2， …，m )表示第i 个粒子的位置；V i =(v i 1，v i 2，…，v id )表示第 i 个粒子的速率；P best ，i=（P i 1，P i 2，…，P id ）为第i 个粒子经历过的最优位置，P gbest =（P g1，P g2，…，P g d ）为群体所有粒子经历过的最优位置。追随这两个最优值，粒子根据公式（3）、（4）分别对自己的速度和位置进行更新，直至满足迭代终止条件[10]。 (1)()()()()1122g ()()

k k k k k k k

id id id id d id v v c r p x c r p x ω+=+?+?（8） 1()()

k k k id id id

x x v +=+ （9） 式中： i =1，2， …，n ；d =1，2， …，D ；ω为惯性权重，它使粒子保持运动惯性；C 1、C 2为加速因子； r 1，r 2 为两随机数，取值区间为 [0，1]， k 为迭代次数。

粒子的寻优过程中[10-11]，在进化初始阶段，搜索进程较快，步长较大，要求有较大惯性权重ω，同时在相邻的迭代次数中，各粒子的自适应值的差别较大；当粒子接近最优解所在区域时，粒子又将进行精细搜索，此时要求惯性权重ω较小，同时在相邻的迭代次数中，粒子适应值的变化差值也逐步减小直至趋近于0。本文提出的新的自适应粒子群算法FAPSO 根据适应值的差值的变化来动态调节惯性权重ω，平衡粒子的探索和开发两种搜索行为，从而提高粒子在空间搜索能力的自适应性。 2.1 惯性权重ω的动态调节

将粒子在相邻两次的迭代过程中的适应值差值视为粒子的能量变化量E Δ:

()()()+1i i i E t p f k f k =·-Δ （10） 式中：()+1i f k ，()i f k 分别为第i 个粒子在第

k +1次和第k 次迭代所对应的适应值；P 为放大系

数。

以能量变化量E Δ来调节权重ω，用指数函数来描述惯性权重ω与粒子能量变化之间的映射关系:

()()()max

()=e

t

t i k E t t a T i t ω=??

??????

∑

-Δ （11）

其中：a 为衰减系数；t 为当前迭代次数；max T 为

陆 宁，等 基于自适应粒子群优化的SVM 模型在负荷预测中的应用 - 45 -

最大迭代次数。

根据指数函数的性质，惯性权重ω的范围满足[0，1]的要求，这种根据适应值的变化对惯性权重ω实现自我调节的方法，增强了算法的自适应性，有效地加快了收敛速度，提高算法效率。 2.2 极值扰动

在粒子的寻优过程中，若粒子速度达到或接近0时，仍没有搜索到最优解，则优化过程停滞，易陷入局部最优，本文针对这一问题，根据粒子自适应值的变化对个体极值进行随机扰动，使得粒子有能力跳出局部最优，进一步使得算法在具有自适性的同时具有可靠的全局收敛能力。

在FAPSO 算法中，采用反映自适应值变化的函数作为触发条件，对个体极值进行随机扰动。

定义极值扰动算子为

besti besti (1)t t

P r P =+ （12） 式中:

(0,1)0d r rand d εε

>?=?

<

()0

=

()1t

i

k d E t t =?∑Δ （14）

2.3 收敛性测试

优化算法的寻求最优解的能力不仅与算法本身特性有关，而且与优化问题的复杂程度有关。本文分别采用Rastrigin 与Ackley 函数对改进的粒子群算法FAPSO 的性能进行测试，并与经典粒子群算法（PSO ）以及惯性因子递减型粒子群算法（LWPSO ）进行对比，作出迭代过程中函数的自适应值随迭代次数变化的曲线，如图1、2。

450400350

3002502001501005000

100

200300

400

500

迭代次数

平均自适应值

PSO LWPSO FAPSO

图1 Rastrigin 函数收敛性能测试结果 Fig.1 The convergence tests with Rastrigin function

141210864200

100200300400500

迭代次数

平均自适应值

PSO LWPSO FAPSO

50150

250350450

图2 Ackley 函数收敛性能测试结果 Fig.2 The convergence tests with Ackley function

211

()[10cos(2π)10],[ 5.12,5.12]N

i i i i f x x x x

==?+∈?∑

21

1

()20exp(exp(cos(2π))20[32,32]

N

i

i i f x x e N x ==???++∈?∑

由图1，图2看出，在有限迭代次数条件下， PSO 算法和LWPSO 算法在求解Rastrign 和Ackley 函数时很难搜索找到最优解区域。而本文提出的带极值扰动的自适应粒子群算法（FAPSO ）在优化效果及其稳定性方面都得到不同程度的提高。

3 FAPSO 算法优化的SVM 模型

本文提出用FAPSO 算法优化SVM 相关参数并用优化好的SVM 模型进行负荷预测，该模型结合了改进粒子群算法FAPSO 的高效全局寻优能力和SVM 良好的推广学习能力的优点[12-13]，具体步骤可以归纳为:

1）初始化支持向量机SVM 的相关参数。惩罚因子 C ，损失函数ε和核参数σ，视向量（C ，ε，σ）为粒子。初始化每个粒子的位置和速度，设定加速度因子c 1=1.49，c 2=1.49，生成两个随机数（范围为[0，1]）初始化r 1，r 2， 设置最大迭代次数500。

2）定义适应度函数为

()211n

m

jk jk j k E t y n

==??=?????

∑∑（15）

式中：jk t 为目标值；jk y 为输出值；m 为输出的节点数；n 为样本数。根据式（15）计算每个粒子的初始适应值，开始迭代。

3）根据式（15）计算粒子的适应值，如果当前的适应值小于之前的适应值，用当前位置替代之前的P best ，i ， 否则P best ，i 保持不变。

4）取最小的P best ，i 和P gbest 对应的适应值比较，

- 46 - 电力系统保护与控制

若小于，则P best ，i 替代原P gbest 。否则，原P gbest 保持不变。

5）根据式（10），式（11）计算每个粒子的惯性权重ω的数值。根据式（12）~（14）对粒子产生扰动。

6）更新迭代次数， T =T +1。

7）判断结束条件，若满足，输出就是全局最优解，即支持向量机的最优参数向量。若不满足结束条件，根据式（8）、式（9），对粒子的速度和位置进行更新，然后程序转向步骤3。

8）根据优化的参数向量，构建SVM 模型进行负荷预测。

4 应用实例

本文选取中国某实际电网 2009 年 1 月 1 日

至14 日的历史负荷数据作为训练样本数据，用本文所提出的FAPSO-SVM 模型对 1月15 日进行整点时刻负荷预测，取SVM 的参数范围为：0,100000C ∈[]，0,1ε∈[]，100,5000σ∈[]。表1给出FAPSO-SVM 预测模型与传统SVM 预测模型在该日的预测结果。

表1 负荷预测结果

Tab.1 Result of the load forecasting

FAPSO-SVM 预测模

型 传统SVM 预测模型时刻/ h 实际值/ MW 预测值/ MW 误差/ % 预测值/ MW 误差/ % 1 2 641.3 2 676.3 1.32 2 677.7 1.38 2 2 468.0 2 478.0 0.40 2 469.0 0.04 3 2 379.2 2 376.4 0.12 2 367.1 0.51 4 2 326.4 2 310.1 0.70 2 298.1 1.22 5 2 182.3 2 054.9 5.84 2 001.2 8.30 6 2 257.0 2 204.7 2.32 2 180.3 3.40 7 2 354.2 2 346.1 0.34 2 336.0 0.77 8 2 648.2 2 683.8 1.34 2 685.7 1.42 9 3 176.1 3 134.7 1.30 3 123.5 1.66 10 3 543.3 3 508.0 1.00 3 482.9 1.70 11 3 609.1 3 530.4 2.18 3 476.1 3.69 12 3 684.1 3 566.6 3.19 3 474.1 5.70 13 3 444.5 3 458.6 0.41 3 461.6 0.50 14 3 287.7 3 291.4 0.11 3 296.5 0.27 15 3 310.1 3 321.4 0.34 3 328.7 0.56 16 3 239.0 3 223.2 0.49 3 221.7 0.53 17 3 389.3 3 412.5 0.68 3 421.6 0.95 18 3 583.5 3 521.6 1.73 3 479.3 2.91 19 3 825.3 3 717.4 2.82 3 562.3 6.88 20 3 954.6 3 912.4 1.07 3 714.0 6.09 21 3 833.2 3 729.1 2.72 3 571.2 6.83 22 3 668.0 3 556.9 3.03 3 472.7 5.32 23

3 407.1

3 429.0 0.6

4 3 436.9 0.87 24 2 995.1

2 942.3

1.76

2 919.9

2.51

平均绝对误差/%

1.49

2.67

从表1所示的预测结果看出，新的预测模型具有较高的预测精度。

5 结论

本文提出新的自适应粒子群优化算法FAPSO ，并用该算法对SVM 模型进行参数优化，克服了传统SVM 参数选择的盲目性与局限性。给出了基于FAPSO 算法优化的SVM 模型在短期负荷预测中的应用实例。仿真结果表明，与传统的SVM 预测模型相比，该方法不仅有较快的运算收敛速度，并具有良好的预测精度和稳定性。 参考文献

[1] 康重庆，夏清，刘梅. 电力系统负荷预测[M]. 北京：

中国电力出版社，2007.

KANG Chong-qing ，XIA Qing ，LIU Mei. Power system load forecasting[M]. Beijing ：China Electric Power Press ，2007.

[2] 牛东晓，曹树华，赵磊，等. 电力负荷预测技术及其

应用[M]. 北京：中国电力出版社，1998. NIU Dong-xiao ，CAO Shu-hua ，ZHAO Lei ，et al. Power load forecast technology and application[M]. Beijing ：China Electric Power Press ，1998.

[3] 段其昌，赵敏，王大兴，等．基于混合粒子群算法和

NRBF 神经网络的短期电价预测[J]．电力系统保护与控制，2009，37（18）：37-39．

DUAN Qi-chang ，ZHAO Min ，WANG Da-xing ，et al. Short-term electricity price forecasting based on hybrid particle swarm optimization and normalized radial basis function neural network[J]. Power System Protection and Control ，2009，37（18）：37-39．

[4] 张红梅，卫志农，龚灯才，等．基于粒子群支持向量

机的短期电力负荷预测[J]. 继电器，2006，34 （3）：28-29．

ZHANG Hong-mei ， WEI Zhi-nong ， GONG Deng-cai ，et al. A short-term load forecasting approach based on PSO support vector machine [J]. Relay ，2006，34（3）：28-29．

[5] Vapnik V N. The nature of statistical learning theory[M].

New York ：Springer ，1995. [6] Cortes C ，Vapnik V . Support vector networks[J]. Machine

Learning ，1995，20（2）：273-297.

[7] Zhang Ming-guang. Short-term load forecasting based on

support vector machines regression [C]. //Proceedings of the Fourth International Conference on Machine Learning and Cybernetics ，2005，8:4310-4314. [8] 纪震，廖惠连，吴青华．粒子群算法及应用[M]．北京：

科学出版社，2009．

JI Zhen ，LIAO Hui-lian ，WU Qing-hua. Particle swarm theory and application [M]. Beijing ：Science Press ，2009.

（下转第51页 continued on page 51）

徐岩，等具有实用性的变压器时差法保护判据的研究- 51 -

正确区分出来各种故障形式，而且可靠裕度很大。与理论分析结果相符合。

4 结论

本文结合电力系统的实际配置，分析了时差法的应用限制，利用实际电压构造出新的时差法，使用小波变换准确实时定位突变时刻，能准确判断出变压器励磁涌流，也能在含有励磁涌流分量的干扰下对内部故障迅速动作，效果明显、准确，具有很高的使用价值。

参考文献

[1] 安源，刘家军．一种基于波形相关分析识别变压器励

磁涌流的方法[J]．继电器，2007，35(18)：1-5．

AN Yuan，LIU Jia-jun．A measure to identify the inrush

current of transformer based on wave correlation

analysis[J]．Relay，2007，35(18)：1-5．

[2] 徐岩，王增平，杨奇逊．基于电压电流微分波形特性

的变压器保护新原理的研究[J]．中国电机工程学报，

2004，24(2)：61-65．

XU Yan，WANG Zeng-ping，YANG Qi-xun．Research

on novel transformer protection based on the characteristics of voltage and differential current[J].

Proceedings of the CSEE，2004，24(2)：61-65．

[3] 徐岩，王增平，杨奇逊，等．基于磁通特性的改进型

变压器保护方案研究[J]．继电器，2003，31(9)：9-14．

XU Yan，WANG Zeng-ping， YANG Qi-xun，et al.

Study on the improved transformer protection method

based on magnetic flux characteristics[J]．Relay，2003，

31(9)：9-14．

[4] 宗洪良，金华锋，郑玉平，等．基于励磁阻抗变化的

变压器励磁涌流判别方法[J]．中国电机工程学报，

2001，21(7)：91-94．

ZHONG Hong-liang，JIN Hua-feng，ZHENG Yu-ping，

et al．Transformer inrush detected by the variation of

magnetizing impedance[J]．Proceedings of the CSEE，

2001，21(7)：91-94．

[5] 汪志彬，郭光荣．功率方向保护在变压器保护中的应

用探讨[J]．继电器，2003，31（S1）：26-27．

WANG Zhi-bin, GUO Guang-rong. Research on

application of directional power protection on transformer protection[J]．Relay，2003，31（S1）：26-27．[6] 曾湘，林湘宁，翁汉琍，等．基于相电压和差流时差

特征的变压器保护新判据[J]．电力系统自动化，2009，

33(3)：79-83．

ZENG Xiang，LIN Xiang-ning，WENG Han-li，et al.

Novel criterion of transformer protection based on time

difference characteristic between phase voltage and

differential current[J]．Automation of Electric Power

Systems，2009，33(3)：79-83．

[7] 束洪春．电力工程信号处理应用[M]．北京：科学出版

社，2009．

SHU Hong-chun. Electrical engineering signal processing[M]. Beijing：Science Press, 2009.

收稿日期：2010-08-18； 修回日期：2010-10-15

作者简介：

徐 岩（1976-），男，副教授，博士，主要研究方向

为电力系统继电保护；

周霏霏（1986-），女，硕士研究生，主要研究方向为

电力系统继电保护。E-mail：zhoufeifei8601@https://www.360docs.net/doc/6f17688926.html,

（上接第46页 continued from page 46）

[9]张雪君，陈刚，周杰，等．基于粒子群优化鲁棒支持

向量回归机的中长期负荷预测[J]．电力系统保护与控

制，2009，37（21）：78-79．

ZHANG Xue-jun，CHEN Gang，ZHOU Jie，et al.

Medium and long-term load forecast based on PSO-RSVR[J]. Power System Protection and Control，

2009，37（21）：78-79．

[10] Kennedy J，Eberhart R. A new optimizer using particle

swarm theory[C]. //Proceeding Sixth International Symposium on Micro Machine and Human Science,

1995：39-43.

[11] Kennedy J，Eberhart R. Particle swarm optimization[C]. //

Proceeding of IEEE International Conference on

Neural Networks，1995：1942-1948.

[12] LU Ning， ZHOU Jian-zhong， HE Yao-yao，et al.

Particle swarm optimization for parameter optimization

of support vector machine model[C]. //Proceedings of the

Second International Conference on Intelligent Computation Technology and Automation，2009：

283-286.

[13] 李元诚，方廷健，于尔铿. 短期负荷预测的支持向量

机研究[J]. 中国电机工程学报，2003，23（6）：55-59．

LI Yuan-cheng，FANG Ting-jian，YU Er- keng. Study of

support vector for short-term load forecasting[J].

Proceedings of the CSEE，2003，23（6）：55-59．

收稿日期：2010-08-18； 修回日期：2010-10-15

作者简介：

陆 宁（1980-），女，讲师，研究方向为人工智能技术

在电力系统中的应用；E-mail：susanln@https://www.360docs.net/doc/6f17688926.html,

武本令（1962-），男，讲师，主要从事自动化控制及智

能仪器的研究。