作业调度系统
曙光作业管理-调度系统安装配置手册
Torque + Maui配置手册之抛砖引玉篇本文将以应用于实际案例（南航理学院、复旦大学物理系、宁波气象局）中的作业调度系统为例，简单介绍一下免费开源又好用的Torque+Maui如何在曙光服务器上进行安装和配置，以及针对用户特定需求的常用调度策略的设定情况，以便可以起到抛砖引玉的作用，使更多的人关注MAUI这个功能强大的集群调度器（后期将推出SGE+MAUI版本）。
本文中的涉及的软件版本Torque 版本：2.1.7 maui版本：3.2.6p17。
1. 集群资源管理器Torque1.1.从源代码安装Torque其中pbs_server安装在node33上，TORQUE有两个主要的可执行文件，一个是主节点上的pbs_server，一个是计算节点上的pbs_mom，机群中每一个计算节点（node1～node16）都有一个pbs_mom负责与pbs_server通信，告诉pbs_server该节点上的可用资源数以及作业的状态。
机群的NFS共享存储位置为/home，所有用户目录都在该目录下。
1.1.1.解压源文件包在共享目录下解压缩torque# tar -zxf torque-2.1.17.tar.gz假设解压的文件夹名字为: /home/dawning/torque-2.1.71.1.2.编译设置#./configure --enable-docs --with-scp --enable-syslog其中，默认情况下，TORQUE将可执行文件安装在/usr/local/bin和/usr/local/sbin下。
其余的配置文件将安装在/var/spool/torque下默认情况下，TORQUE不安装管理员手册，这里指定要安装。
默认情况下，TORQUE使用rcp来copy数据文件，官方强烈推荐使用scp，所以这里设定--with-scp.默认情况下，TORQUE不允许使用syslog，我们这里使用syslog。
pbs作业管理系统
当为1是表示守护进程启动，0为守护进程不启动
start_mom=1
• 系统启动脚本 /etc/init.d/openpbs
• Server的系统启动脚本 /etc/init.d/pbs_server
• Scheduler系统启动脚本 /etc/init.d/pbs_sched
• Mom系统启动脚本 /etc/init.d/pbs_mom
30
PBS 作业脚本举例
2020/7/12
31
详细示例
编辑PBS脚本内容如下：（注意，#PBS行不是注释，所有说明行均 以###开始，即红色字体部分）
###声明作业名为mpi
#PBS -N mpi ###申请资源数为10个节点，每个节点16个cpu
#PBS -l nodes=10:ppn=16 ###将标准输出信息与标准错误信息合并输出到文件中
• 编译安装
[root@node1 /public/OpenPBS_2.3.16]# make [root@node1 /public/OpenPBS_2.3.16]# make install
2020/7/12
15
PBS在机群上安装
由于节点系统相同，因而可以用如下SHELL script在 node2~node8上安装；
• 编译设置Leabharlann [root@node1 /public/OpenPBS_2.3.16]＃./configure --disable-gui -set-server_home=/var/spool/pbs --enable-docs --xlibraries=/usr/X11R6/lib64
其中，--x-libraries=/usr/X11R6/lib64是在X86_64 (AMD64或 EM64T)上安装时，需要指明系统64位库的位置。
作业调度系统
• 系统启动脚本 /etc/init.d/openpbs • Server的系统启动脚本 /etc/init.d/pbs_server • Scheduler系统启动脚本 /etc/init.d/pbs_sched • Mom系统启动脚本 /etc/init.d/pbs_mom
Server端设置
• 初始化server: (第一次运行或者重新配置) /usr/local/sbin/pbs_server –t create
内 容
• • • • 任务管理系统概述 作业调度系统 PBS作业调度系统 作业调度系统的使用
作业管理的组成
• 资源管理器：管理集群的硬件资源及认 证信息等 • 队列管理器：管理当前所有已提交但还 未完成的作业 • 调度器：为作业分配资源
作业管理系统的结构
作业特性比较
系统特性 支持异构平台 用户操作接口 支持DRMAA 支持POSIX批处 理API标准 源代码开放 SGE Unix & NT，多 硬件 API/GUI/CLI/W EB，管理复杂 支持 支持 开放 LSF Unix & NT，多 硬件 API/GUI/CLI/W EB，管理方便 不支持 不支持 不开放 OPEN PBS 仅Unix ，多硬件 PBS PRO 仅Unix ，多硬 件 API/GUI/CLI，功 API/GUI/CLI/W 能少 EB ，管理方便 支持 支持 开放 支持 支持 付费后开放
mom端设置
• mom配置目录： /var/spool/pbs/mom_priv/ • mom配置文件： /var/spool/pbs/mom_priv/config
# MOM server configuration file # if more than one value, separate it by ## rule is defined by the name $ideal_load 1.5 $max_load 2 ## host allowed to connect to Mom server $restricted *. ## log event : # 0x1ff log all events + debug events # 0x0ff just all events $logevent 0x0ff ## host allowed to connect to mom server $clienthost node1 ## alarm if the script hang or take very $prologalarm 30
操作系统——作业调度
操作系统——作业调度实验⼆作业调度模拟程序⼀、⽬的和要求 1. 实验⽬的 （1）加深对作业调度算法的理解； （2）进⾏程序设计的训练。
2．实验要求 ⽤⾼级语⾔编写⼀个或多个作业调度的模拟程序。
单道批处理系统的作业调度程序。
作业⼀投⼊运⾏，它就占有计算机的⼀切资源直到作业完成为⽌，因此调度作业时不必考虑它所需要的资源是否得到满⾜，它所运⾏的时间等因素。
作业调度算法： 1) 采⽤先来先服务（FCFS）调度算法，即按作业到达的先后次序进⾏调度。
总是⾸先调度在系统中等待时间最长的作业。
2) 短作业优先 (SJF) 调度算法，优先调度要求运⾏时间最短的作业。
3) 响应⽐⾼者优先(HRRN)调度算法，为每个作业设置⼀个优先权(响应⽐)，调度之前先计算各作业的优先权，优先数⾼者优先调度。
RP (响应⽐)＝作业周转时间 / 作业运⾏时间=1+作业等待时间/作业运⾏时间每个作业由⼀个作业控制块JCB表⽰，JCB可以包含以下信息：作业名、提交（到达）时间、所需的运⾏时间、所需的资源、作业状态、链指针等等。
作业的状态可以是等待W（Wait）、运⾏R（Run）和完成F（Finish）三种之⼀。
每个作业的最初状态都是等待W。
⼀、模拟数据的⽣成 1．允许⽤户指定作业的个数（2-24），默认值为5。
2. 允许⽤户选择输⼊每个作业的到达时间和所需运⾏时间。
3.（**）从⽂件中读⼊以上数据。
4.（**）也允许⽤户选择通过伪随机数指定每个作业的到达时间（0-30）和所需运⾏时间（1-8）。
⼆、模拟程序的功能 1．按照模拟数据的到达时间和所需运⾏时间，执⾏FCFS, SJF和HRRN调度算法，程序计算各作业的开始执⾏时间，各作业的完成时间，周转时间和带权周转时间（周转系数）。
2. 动态演⽰每调度⼀次，更新现在系统时刻，处于运⾏状态和等待各作业的相应信息（作业名、到达时间、所需的运⾏时间等）对于HRRN算法，能在每次调度时显⽰各作业的响应⽐R情况。
调度自动化作业流程智能管控系统研究与应用
调度自动化作业流程智能管控系统研究与应用作者：王昆伦姚雨练寅陈焰姚楠王荣来源：《管理学家》2018年第08期[摘要] 调度自动化系统是电网安全稳定运行的重中之重。
在开展调度自动化系统运维日常工作的过程中，需要对系统的图形、模型、数据库进行大量的操作，由于自动化人员存在对基准风险辨识不到位、作业随意、操作技能水平不足的问题，容易导致事故发生，影响电网安全稳定运行。
为提高作业流程管控水平，提前预防事故的发生，调度自动化作业流程智能管控系统以作业指导书为蓝本，以实际工作为导向，实现了作业流程管理的创新。
[关键词] 调度自动化作业流程中图分类号：F270 文献标志码：A一、背景和现状当前，电网调度自动化系统已成为电网安全稳定运行不可或缺的技术支持系统。
在开展调度自动化系统运维工作的过程中，需要对系统的图形、模型、数据库进行大量的操作，牵涉到一次接线图、潮流图、地理图、断面监视图、告警信息、报表内容、系统参数等大量图、模、库内容的修改。
例如，在实际工作中，一次图形异动修改工作根据电压等级、异动设备的不同，往往涉及数十个作业步骤，而由于自动化系统运维工作的突发性以及自动化作业人员技能不熟练、对作业流程不清晰，往往会漏掉关键步骤，忽视潜在的安全风险，导致数据图形不匹配、控制参数修改不正确、配置变更不及时等问题，严重影响电网安全稳定运行。
二、传统作业流程管控存在的问题作业指导书以及业务指导书作为当前的作业流程管控手段，虽然体现了较为全面的作业步骤以及风险管控流程，但在实际工作中，依旧不可避免地存在工作指导力度不够、缺乏灵活性、流程不够细化等问题。
（一）指导力度不够系统维护工作涉及图、模、库等各方面，涉及到大量软件命令的使用，传统的作业流程管控手段往往只明确了通用的操作步骤，对技能水平不足的自动化作业员指导力度不够。
（二）缺乏灵活性传统的作业流程管控手段将所有的作业流程固化，但由于自动化系统维护工作牵涉面较大，日常运维中也存在一定的随机性和突发性，特别是在系统故障排查过程中，固化的作业流程往往难以被套用。
PBS作业调度系统
PBS的环境变量
变量名
说明
登陆SHELL继承来的变量 $PBS_O_HOST $PBS_O_QUEUE $PBS_O_WORKDIR $PBS_JOBID $PBS_JOBNAME $PBS_NODEFILE
$PBS_QUEUE
包括$HOME，$LANG，$LOGNAME，$PATH，$MAIL， $SHELL和$TZ。
# 这是一个并行作业脚本的例子 #PBS -N vasp.Hg #PBS -j oe #PBS -l nodes=2:ppn=12:amd #PBS -q low
echo "This jobs is "$PBS_JOBID@$PBS_QUEUE NP=`cat $PBS_NODEFILE | wc -l` cd $PBS_O_WORKDIR mpirun -np $NP -machinefile $PBS_NODEFILE ./vasp
93.node1 test.pbs
zhaocs
95.node1 vasp.Hg
vasp
111.node1 structure
amber
Time Use S Queue -------- - ----0 R default 0 E default 0 Q default
qdel 93.node1 注：用户只能删除自己的作业，管理员可以删除所有用户作业
qsub提交的节点名称
qsub提交的作业的最初队列名称
qsub提交的作业的绝对路径
作业被PBS系统指定的作业号
用户指定的作业名，可以在作业提交的时候用qsub –N <作业名> 指定，或者在PBS脚本中加入#PBS –N <作业名>。
PBS系统指定的作业运行的节点名。该变量在并行机和机群中使 用。当在PBS脚本中用#PBS –l nodes=2:ppn=2指定程序运行的 节点数时，可以使用$PBS_NODEFILE在脚本中引用PBS系统 指定的作业运行的节点名。比如：
生产调度系统
生产调度系统引言生产调度系统是一个用于管理和优化生产过程的关键工具。
它能够自动化生产计划和资源分配，并实时监控生产进度。
本文将介绍生产调度系统的定义、工作原理、优势和功能。
定义生产调度系统是一种软件工具，用于计划、分配和监控生产资源和作业流程。
它可以处理生产任务、资源需求、工作进度和排程决策，以实现生产计划的高效达成。
工作原理生产调度系统基于生产计划和资源信息，通过预算和优化算法来评估、调整和优化生产进程。
它的工作原理如下：1.需求分析：生产调度系统首先收集和分析生产需求，包括订单数量、交货日期和产品种类等信息。
2.资源管理：系统根据生产需求和现有资源的可用性，进行资源调配和分配。
这包括劳动力、机器设备、原材料和仓储空间等。
3.排程决策：根据生产任务和资源情况，生产调度系统会生成一个可行的排程方案。
它考虑了生产效率、资源利用率和交货期限等因素。
4.实时监控：一旦排程方案确定，生产调度系统会实时监控生产进度。
它可以提供实时数据和报告，以帮助生产主管做出及时决策。
5.优化策略：生产调度系统还可以根据生产数据和实时信息，优化排程策略，以提高生产效率和资源利用率。
优势生产调度系统的使用带来了许多优势，包括：1.减少生产成本：通过优化生产进程和资源利用，生产调度系统可以降低生产成本，包括劳动力、原材料和能源消耗等。
2.提高生产效率：生产调度系统通过自动化任务排程和资源分配，减少了人为错误和时间浪费，从而提高了生产效率。
3.优化产品交付：生产调度系统可以根据生产需求和交货日期，快速生成合理的生产计划和排程方案，确保产品准时交付。
4.实时监控和反馈：生产调度系统可以实时监控生产进度和资源利用情况，并提供实时数据和报告，帮助管理层做出及时决策。
5.改进决策制定：生产调度系统可以根据历史数据和实时信息，提供决策支持和优化建议，帮助管理层制定更合理和有效的决策。
功能生产调度系统通常具备以下功能：1.需求分析和计划：收集和分析生产需求，生成合理的生产计划。
16、SGE作业调度系统的简介
16、SGE作业调度系统的简介SGE作业调度系统的简介⼀、常见的⼏种作业调度系统Condor是⼀个资源管理和作业调度系统，是来⾃Wisconsin-Madison⼤学的研究项⽬。
充分利⽤⼯作站的空闲时间是Condor的最显著特征。
Condor管理的机群由⽹络中的⼯作站组成，⼯作站可以⾃愿加⼊或退出。
Condor监测⽹络中所有⼯作站的状态，⼀旦某台计算机被认为空闲，便把它纳⼊到资源池中。
在资源池中的⼯作站被⽤来执⾏作业。
Sun⽹格引擎（Sun Grid ，SGE）是⼀种来⾃于SUN Microsystem的分布式资源管理和调度系统，它⽤来在基于UNIX的计算环境中优化软件和硬件资源的使⽤。
SGE能⽤于查找资源池内的闲置资源并利⽤这些资源；它同样⽤于通常的⼀些事务中，例如管理和调度作业到可⽤资源中。
负载共享设施（Load Sharing Facility，LSF）是由加拿⼤平台计算公司研制与开发的，由Toronto⼤学开发的Utopia系统发展⽽来。
在使⽤范围上，LSF不仅⽤于科学计算，也⽤于企业的事务处理。
功能上，除了⼀般的作业管理特性外，它还在负载平衡、系统容错、检查点操作、进程迁移等⽅⾯作了很好的努⼒，并⼒图使之实⽤化。
便携式批处理系统（Portable Batch System，PBS）是⼀个资源管理和调度系统，它接受批处理作业（具有控制属性的shell脚本），保留和保护作业直到它开始运⾏。
因为⼀个批处理作业是⼀个⽆需⽤户⼲预的，在计算机系统后台运⾏的程序，在批处理作业运⾏过程中，⽤户⽆法实时地得到作业运⾏结果，所以PBS只能在作业执⾏后，将作业结果返回给提交者。
⽬前，PBS包含开源免费的OpenPBS、商业付费的PBS Pro、Torque三种分⽀。
⼆、SGE 常见指令1. qsub 提交任务-cwd#从当前⼯作路径运⾏作业-wd working_dir#定义⼯作⽬录-o path定义标准输出⽂件路径、⽂件名-e path#定义标准错误输出⽂件路径、⽂件名-j y[es]|n[o]#定义作业的标准错误输出是否写⼊到输出⽂件中-now y[es]|n[o]#⽴即执⾏作业-a date_time#作业开始运⾏时间-b y[es]|n[o]#指定运⾏程序是⼆进制⽂件还是脚本⽂件，默认n-m b|e|a|s|n#定义邮件发送规则。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
服务质量Qos
可能造成大作业饥饿，无Qos
机群一致性的层次
入口不一致，仍为多机系统；可以提供 存储一致性
对用户权限、资源和作业的 高级管理策略
无法实现
只要策略适当，可以保证Qos 提供单一系统入口和存储一致性
能够很好地实现
系统结构规模可扩展 对作业类型的限制
如果规模过大，会遇到前述的O（㎡） 通讯量与系统规模成线形放缩，可以
EB，管理复杂 EB，管理方便 能少
EB ，管理方便
支持DRMAA 支持
不支持
支持
支持
支持POSIX批处 理API标准
源代码开放
支持 开放
不支持 不开放
支持 开放
支持 付费后开放
用户文档支持 非常详细
非常详细
较简单
详细
支持批处理作业 支持
支持
支持
支持
支持交互式作业 支持
支持
不支持
支持
支持海量作业组 支持
一个单一的操作系统映像，一个统一的虚拟内存映像一个个或多 个cpu，一个或多个IP地址的计算机系统被称之为一个节点。通常 执行主机(execution host)也被称之为节点。
• 节点属性
队列、服务器和节点都有与自己相关的属性，这些属性提供控制 信息。与节点相关的属性有：状态、类型、虚拟处理器的个数、 作业列表(本节点被分配给的作业)以及节点的特性。……
PBS 的基本原理
PBS 的优缺点
• 支持系统级检查点功能（需底层操作系统支持） • 很好的大规模扩展性 • 独立的调度模块** • 支持作业依赖 • 符合POSIX 1003.2d 标准 • -只支持Unix类操作系统 • -多集群协作功能有限 • -不支持用户级检查点功能
术语
• 节点(node)
• 基于作业级别的调度
– 这种方式由独立的作业管理系统实现。该系统通过专门的入 口，接收用户提交的任务，送入相应的队列等待调度；并在 适当的时机分配资源，为任务创建作业，将作业提入运行， 在作业运行结束后完成收尾工作，并提供记帐功能。
– 管理员和用户还可以在机群中查询并预订符合要求的资源，， 从而实现对作业和资源的全程交互控制。
的通讯问题，难以扩展
很好的扩展
如前述，不适合于系统调用较多的程序 （如I/O密集型）
对程序类型无限制
内容
• 任务管理系统概述 • 作业调度系统 • PBS作业调度系统 • 作业调度系统的使用
作业管理的组成
• 资源管理器：管理集群的硬件资源及认 证信息等
• 队列管理器：管理当前所有已提交但还 未完成的作业
[root@node1 /public/OpenPBS_2.3.16]＃./configure --enable-gui -set-server_home=/var/spool/pbs --enable-docs --xlibraries=/usr/X11R6/lib64
任务管理系统的比较
管理实现级别 调度方式
管理层次 负载均衡方式
进程级 透明，基于最小负载 低级，仅根据局部信息
支持动态负载均衡
作业级
可以基于网络拓扑/程序特性/负载/自 定义策略调度
高级，根据全局信息
支持静态负载均衡；如有checkpoint 功能，可支持动态负载均衡
资源共享
仅能够共享硬件资源
可以共享硬件、软件和证书等资源
任务管理系统的功能
• 单一系统映象
– 机群松散的结构的整合
• 系统资源整合
– 异构系统的整合
• 多用户的管理
– 用户提交的任务的统一安排，避免冲突
• 用户权限的管理
– 非授权用户的控制
任务管理系统的简史
任务管理系统的分类
• 基于进程级别的调度
– 由机群中的操作系统或者运行时Runtime内部支持，对运行的 作业进行监控；以实现机群内的透明调度、以及自动优化进 程的分配和平衡负载
PBS的技术特色
• 力求控制对批处理的初始化和调度执行，允许作业在不同主机间 的路由。
• 独立的调度模块存有各个可用的排队作业、运行作业和系统资源 使用信息，并且允许系统管理员定义资源和每个作业可使用的数 量。
• 在作业调度策略上，PBS提供了默认的公平共享和独占FIFO调度 策略，还提供了TCL、BACL、C三种过程语言和调度类，与定义 了一些调度需要的函数和完整的API，方便实现新的调度策略。
• 提供文件传送，File Stage-in 和Stage-out。 • 满足POSIX1003.2d 标准，支持作业依赖，和完整的安全认证。 • 提供用户映射功能，使PBS 能用于用户不一致的系统中。
PBS的结构
PBS 的组成
• 服务器:pbs_server • 调度器:pbs_sched • 执行器:pbs_mom • 命令行:用户脚本，管理命令等
作业调度系统
曙光信息产业（北京）有限公司
内容
• 任务管理系统概述 • 作业调度系统 • PBS作业调度系统 • 作业调度系统的使用
机群使用中的问题
• 机群结构的松散性（单一系统映象） • 节点类型的差别
（CPU类型、内存大小、数量等） • 系统资源丰富（节点/CPU） • 用户不同类型的作业（串行/并行） • 用户可以使用资源的限制
• 调度器：为作业分配资源
作业管理系统的结构
作业特性比较
系统特性
SGE
LSF
OPEN PBS
PBS PRO
支持异构平台
Unix & NT，多 硬件
Unix & NT，多 硬件
仅Unix ，多硬件
仅Unix ，多硬 件
用户操作接口
API/GUI/CLI/W API/GUI/CLI/W API/GUI/CLI，功 API/GUI/CLI/W
支持
不支持
支持
支持并行作业 支持
支持
支持
支持
支持PVM/MPI 支持，功能强 支持，功能强大 支持，功能弱 支持，功能强
内容
• 任务管理系统概述 • 作业调度系统 • PBS作业调度系统 • 作业调度系统的使用
PBS作业调度系统
• PBS最初由NASA的Ames研究中心开发， 为了提供一个能满足异构计算网络需要的 软件包。它力求提供对批处理的初始化和 调度执行的控制，允许作业在不同主机间 的路由。
• 节点特性
为了提供一组节点的分配的方法，零个或者多个特性被赋给每个 节点。这个特性不过是一串对于PBS没有含义的字母和数字的组 合(第一个字符必须是字母)。
PBS 安装
• 解压源文件包
[root@node1 /public]# tar -zxvf openpbs-2.3.16.tar.gz
• Байду номын сангаас译设置