基于PID神经网络控制的服务器分配方法

第３１卷第１期　计算机仿真　２０１４年１月　
文章编号：１００６—９３４８（２０１４）０１—０３０２—０５　

基于ＰＩＤ神经网络控制的服务器分配方法　

脱立恒　，倪宏　，刘　学　
（１．中国科学院大学，北京１０００４９；２．中国科学院声学研究所，北京１００１９０）　
摘要：研究多层网络应用服务系统的服务器分配问题，由于服务器传输延迟不可控，造成服务系统不稳定。为解决上述问　
题，提出采用比例积分微分（ＰＩＤ）神经网络控制的服务器分配方法。首先建立多层服务器分配模型，以服务系统处理延迟保　
证为限制条件，以最小化分配服务器数目为优化目标，将服务器分配问题抽象为最优化问题，并通过最优化方法求解；同时，　
为了保证９５％的服务系统处理延迟在目标延迟以内，通过ＰＩＤ神经网络控制对通过最优化方法得到的服务器分配方案进行　
调整；并通过设计ＰＩＤ神经辨识系统对被控系统进行辨识，保证系统的稳定性。与现有方法相比，改进方法分配的服务器总　
数目减小６％，同时，在产生误差抖动和到达率变化时，系统更早收敛，更快恢复稳定。　
关键词：服务器分配；神经网络；网络应用　
中图分类号：ＴＰ３９３　文献标识码：Ｂ　

Ａｕｔｏｎｏｍｉｃ　Ｓｅｒｖｅｒ　Ｐｒｏｖｉｓｉｏｎｉｎｇ　Ｂａｓｅｄ　Ｏｎ　ＰＩＤ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ　Ｃｏｎｔｒｏｌ　
ＴＵＯ　Ｌｉ—ｈｅｎｇ　一，ＮＩ　Ｈｏｎｇ　，ＬＩＵ　Ｘｕｅ　
（１．Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｃｈｉｎｅｓｅ　Ａｃａｄｅｍｙ　ｏｆ　Ｓｃｉｅｎｃｅｓ，Ｂｅｉｊｉｎｇ　１０００４９，Ｃｈｉｎａ；　
２．Ｉｎｓｔｉｔｕｔｅ　ｏｆ　Ａｃｏｕｓｔｉｃｓ，Ｃｈｉｎｅｓｅ　Ａｃａｄｅｍｙ　ｏｆ　Ｓｃｉｅｎｃｅｓ，Ｂｅｉｊｉｎｇ　１００１９０，Ｃｈｉｎａ）　

ＡＢＳＴＲＡＣＴ：Ａｕｔｏｎｏｍｉｃ　ｓｅｒｖｅｒ　ｐｒｏｖｉｓｉｏｎｉｎｇ　ｂａｓｅｄ　ｏｎ　Ｐｒｏｐｏｒｔｉｏｎ－Ｉｎｔｅｇｒａｔｉｏｎ－Ｄｉｆｆｅｒｅｎｔｉａｔｉｏｎ（ＰＩＤ）ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　
ｃｏｎｔｒｏｌ，ＰＩＤＮ　ｉｎ　ｓｈｏｒｔ，ｗａｓ　ｐｒｏｐｏｓｅｄ　ｔｏ　ｄｅａｌ　ｗｉｔｈ　ｓｅｒｖｅｒ　ｐｒｏｖｉｓｉｏｎｉｎｇ　ｉｎ　ｓｅｒｖｉｃｅ　ｓｙｓｔｅｍ　ｆｏｒ　ｍｕｈｉ－ｌａｙｅｒ　ｎｅｔｗｏｒｋ　ａｐｐｌｉ—　
ｃａｔｉｏｎ．Ｗｅ　ｂｕｉｌｔ　ｍｕｌｔｉ－ｌａｙｅｒ　ｓｅｒｖｅｒ　ｐｒｏｖｉｓｉｏｎｉｎｇ　ｍｏｄｅｌ　ａｔ　ｆｉｒｓｔ．Ｂａｓｅｄ　ｏｎ　ｔｈｅ　ｍｏｄｅｌ，ｗｅ　ｃｏｎｓｉｄｅｒｅｄ　ｓｅｒｖｅｒ　ｐｒｏｖｉｓｉｏ—　
ｎｉｎｇ　ａｓ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｐｒｏｂｌｅｍ　ｗｈｉｃｈ　ｍｉｎｉｍｉｚｅｓ　ｔｈｅ　ｓｕｍ　ｏｆ　ｓｅｒｖｅｒｓ　ｉｎ　ａｌｌ　ｌａｙｅｒｓ　ｕｎｄｅｒ　ｔｈｅ　ａｖｅｒａｇｅ　ｐｒｏｃｅｓｓｉｎｇ　ｄｅｌａｙ　ｇｕａｒ－　
ａｎｔｅｅｓ．Ｗｅ　ｓｏｌｖｅｄ　ｔｈｅ　ｐｒｏｂｌｅｍ　ｕｓｉｎｇ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｍｅｔｈｏｄ．Ｉｎ　ｏｒｄｅｒ　ｔｏ　ｅｎｓｕｒｅ　ｔｈａｔ　ｔｈｅ　ｐｅｒｃｅｎｔ　ｏｆ　ｒｅｑｕｅｓｔｓ　ｗｈｏｓｅ　ｐｒｏ—　
ｃｅｓｓｉｎｇ　ｄｅｌａｙ　ｉｓ　ｌｅｓｓ　ｔｈａｎ　ｔｈｅ　ｔａｒｇｅｔ　ｄｅｌａｙ　ｉｎ　ａｌｌ　ｒｅｑｕｅｓｔｓ　ｉｓ　ｕｐ　ｔｏ　９５％，ｗｅ　ａｄｊｕｓｔｅｄ　ｔｈｅ　ｒｅｓｕｌｔ　ｆｒｏｍ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｍｅｔｈ－　
ｏｄｓ　ｂｙ　ａｄｄｉｎｇ　ＰＩＤ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｃｏｎｔｒｏｌｌｅｒ．Ｂｅｓｉｄｅｓ，ｗｅ　ｄｅｓｉｇｎｅｄ　ＰＩＤ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｉｄｅｎｔｉｆｉｅｒ　ｔｏ　ｉｄｅｎｔｉｆｙ　ｔｈｅ　ｓｙｓ－　
ｔｅｍ　ｃｏｎｔｒｏｌｌｅｄ　ｔｏ　ｇｕａｒａｎｔｅｅ　ｔｈｅ　ｓｔａｂｉｌｉｔｙ　ｏｆ　ｔｈｅ　ｓｙｓｔｅｍ．Ｔｈｅ　ＰＩＤＮ　ｒｅｄｕｃｅｓ　ｔｈｅ　ｔｏｔａｌ　ｎｕｍｂｅｒ　ｏｆ　ｓｅｒｖｅｒｓ　ｂｙ　６％．Ｔｈｅ　ｓｙｓ．　
ｔｅｍ　ｃｏｎｖｅｒｇｅｓ　ｅａｒｌｉｅｒ　ａｎｄ　ｒｅｓｔｏｒｅｓ　ｓｔａｂｉｌｉｔｙ　ｍｏｒｅ　ｑｕｉｃｋｌｙ　ｕｎｄｅｒ　ｊｉｔｔｅｒｓ　ａｎｄ　ｃｈａｎｇｅｓ　ｏｎ　ｒｅｑｕｅｓｔ　ａｒｒｉｖａｌ　ｒａｔｅ．　
ＫＥＹＷＯＲＤＳ：Ｓｅｒｖｅｒ　ｐｒｏｖｉｓｉｏｎｉｎｇ；Ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ；Ｎｅｔｗｏｒｋ　ａｐｐｌｉｃａｔｉｏｎ　

１　引言　
各种网络应用对现有服务系统提出了许多挑战，如服务　
质量保证、并发性、可伸缩性等。为了应对这些挑战，网络应　
用服务系统多采用多层结构，每层服务器提供特定功能，共　
同实现对客户端请求的响应。客户对网络应用服务系统的　
并发请求率非常高，每层单个服务器，基本无法满足并发需　
求，网络应用服务系统各层服务器通常采用集群方式提供服　
务，每层分配多个服务器，各层服务器可以复制、动态配置。　
端到端系统延迟是网络应用中最重要的性能特性。端到端　

基金项目：国家科技支撑计划（２０１１ＢＡＨ１１Ｂ０４）；国家高技术研究发展　
计划（２０１　１ＡＡ０１Ａ１０２）；中国科学院战略性先导科技专项子　
课题（ＸＤＡ６０３０５００）　
收稿日期：２０１３—０４—１９　

３０２－－－－——　

系统延迟包括服务系统的处理延迟和传输延迟，处理延迟指　
请求到达服务系统到服务系统返回请求响应之间的时间开　
销，传输延迟指请求和响应在网络的传输时间，服务系统对　
传输延迟不可控。本文分析处理延迟，在保证处理延迟在目　
标延迟之内，如何动态分配服务器，一直是研究热点。　

一
个经典的三层服务系统集群，三层分别为ｗｅｂ层、应　
用层和数据库层，处理延迟即为三层响应时间之和。从服务　
系统处理延迟保证的角度，可以将动态分配服务器的方法分　
为两类，第一是保证平均服务系统处理延迟在目标延迟之　
内，学者分别基于排队模型　和基于反馈控制理论　提　
出各种解决方法。Ｗｅｌｓｈ等指出使用服务系统平均处理延迟　
作为性能参数的动态服务器分配方法，不能反应延迟的动态　
变化　。为此，近期研究者多研究第二类方法，即保证固定　
百分比以上的客户端请求处理延迟在目标延迟以内，对服务　
器进行分配。Ｕｒｇａｏｎｋａｒ等人提出了一个保证９５％的延迟的　
新方法　。该方法将服务系统处理延迟按比例分配到不同　
层，该方法无法充分利用各层服务器之间的排队时间分布，　
导致分配服务器总数偏高。Ｌａｍａ等人以Ｍ／Ｇ／１排队理论　
为基础，建立优化模型，并结合模糊控制理论分配服务器，本　
文用ＦＺＹ表示该方法…。当系统不稳定时，该方法性能和　
稳定度有较大波动。为此，本文给出了一种采用ＰＩＤ神经网　
络辨识器和控制器控制多层网络应用服务器分配的方法，该　
方法在保证满足服务延迟限制的条件下，减少服务器分配数　
目，提高系统的稳定性。　

２服务器分配模型　
考虑多层网络应用服务系统，假设系统共有　层，每层　
服务器数目可以按需动态分配，设第ｉ层服务器数目为　（Ｏ　
＜ｉ　且ｉ∈Ｒ）。多层网络应用服务系统的客户端请求多　
是基于会话的　』，客户端与服务器建立会话连接，在会话中　
传输请求和响应。假设多层Ｗｅｂ服务系统的会话到达率为　
Ａ，每个会话对每层的平均请求次数为　（０＜ｉ≤　且ｉ∈　
Ｒ）。假设通过负载均衡，每层／＇ｔ　个服务器平均获得请求，即　
第ｉ层每个服务器的平均请求到达率为：　

等　㈩　

网络应用服务系统中，服务器服务模型基于排队理论。　
将服务器抽象为一个Ｇ／Ｇ／１排队系统，每个服务器拥有一个　
请求队列。在Ｇ／Ｇ／１排队系统中，到达服务器端的请求时间　
间隔服从一个固定已知分布。当一个服务器只服务一个请　
求时，完成该客户端请求的服务器处理时间称为请求服务时　
间。在Ｇ／Ｇ／１排队系统中，请求服务时间服从一个固定已知　
分布。服务器按照先到先服务的顺序（Ｆｉｒｓｔ—Ｃｏｍｅ—Ｆｉｒｓｔ—　
Ｓｅｒｖｅｄ，ＦＣＦＳ）处理客户端请求。在处理请求的过程中，服　
务器不能被其它请求抢占。假设当一个请求到达时，如果服　
务器非空闲，该请求被放到请求队列，一直等到该请求之前　
到达的所有请求被服务完成，再接受服务。　
对于单个服务器，平均单位时间内能够完成的请求个　
数，称为服务器服务速率。本文假设每层服务器服务速率相　
同。Ｋｌｅｉｎｒｏｃｋ等得出，Ｇ／Ｇ／１系统的服务速率满足以下条　
件　：　
［Ｅ（Ｔｉ）＋　］＜Ｃ　（２）　

式（２）中，ｃ　表示第ｉ层单个服务器的服务速率，第ｉ层　
服务器的请求服务时间分布为　，Ｅ（　）表示平均请求服务　
时间，ｄ　表示第　层服务器的平均响应时间，　表示请求服务　
时间方差，　表示请求到达时间方差，该参数可以由负载均　
衡服务器在线测量。其中，服务速率与第ｉ层服务器的平均　
响应时间的关系为：　
Ｃｉ＝　１　（３）　

进行负载均衡分配时，保证每个服务器的请求到达率小　

于等于服务系统的服务速率；为了充分利用服务器资源，使　
分配的服务器数目最小，取服务器的请求到达率与服务速率　
相等，即：　
Ｃｉ　Ｅ（　］。。　（４）　

即　
ｄ　（　）＋　（５）　
为了保证９５％的客户端请求在目标时间Ｕ内完成，将客　
户端请求在所有　层的平均延迟限制在Ｕ一一Ｕ，Ｕ为时间参　
数，即：　

∑ｄ　＝Ｕ一　（６）　
为了保证９５％的客户端请求在规定时间内完成，同时　
使得分配的资源最小，可以将分配服务器数目的问题抽象为　
以下最优化问题：　
目标：　

Ｍｉｎ∑ｎ　（７）　
ｌ　
限制条件：式（５）、（６）　

该问题属于等式优化约束问题（　）。由目标函数和限　
制条件构造拉格朗日函数：　
Ｍ　
Ｌ（ｎ，６）＝∑　一６［∑ｄ　一（　一　）］　（８）　

其中ｂ为拉格朗日乘子，由ＥＰ型问题最优解的一阶必要　
条件得到　Ｊ：　

一　２＝　
２　

Ｏｎ　
∑ｄ　一（Ｕ一　）＝０　
令Ｈ＝Ａｖ　（　＋　）　（１０）　
由式（９）（１０）得到：　

＝
０　（９）　

）＋　（１１）　
将式（１１）代人式（６）得到：　
耋（　）＋　）＝　一　（１２）　

最终求得每层的服务器数目为：　

ｍ＝￣ｖｉＥ（Ｔｉ）＋　２　
Ｍ　
∑佰　

Ｕ一　一∑Ｅ（Ｔｉ）　
ｆ＝ｌ　

（１３）　

２　ＰＩＤ神经网络控制与辨识系统　
２．１控制网络结构　
时间参数　的选择对于服务器数目的配置至关重要。　
为了保证９５％以上的客户端请求处理时间控制在目标响应　
时间　之内，减小服务器数目，需要对时间参数　进行调　

－－——
３０３・－－－——