系统工程 主成分分析及聚类分析
系统工程32聚类分析
dij ( p | xik x jk |q ) q k 1
◦ 明氏距离有三种特殊形式：
✓ 绝对距离（Block距离）：当q=1时
p
dij 1 xik x jk k 1
常用距离
◦ 明氏距离有三种特殊形式：
✓欧氏距离(Euclidean distance):当q=2时
1
dij
聚类分析的方法：
✓系统聚类（层次聚类） ✓非系统聚类（非层次聚类）
系统聚类法包括：凝聚方式聚类、分解方式聚类 非系统聚类法包括：模糊聚类法、K－均值法（快
速聚类法）等等
以系统聚类法为例
样本或变量的相似性程度的数量指标：
✓距离 它是将每一个样品看作p维空间的一个点，并用某种 度量方法测量点与点之间的距离，距离较近的归为一类， 距离较远的点应属于不同的类。
9.01 9.32 15.99 9.10 1.82
10.52 10.05 16.18 8.39 1.96
x8 13.29 14.87 9.76 11.35 10.81
将每一个省区视为一个样本： G1={辽宁}，G2={浙江}，G3={河南}，G4={甘肃}，G5={ 青海}
采用欧氏距离：
➢ d12 =[(7.9-7.68)2+(39.77-50.37)2+(8.49-11.35)2+(12.9413.3)2+(19.27-19.25)2+(11.05-14.59)2+(2.04-2.75)2+(13.2914.87)2]0.5=11.67
d13=13.80 d14=13.12 d15=12.80 d23=24.63 d24=24.06 d25=23.54 d34=2.2 d35=3.51 d45=2.21
系统工程 第三部分(二) 聚类分析
聚类分析的统计思想
样本（或变量）间存在着相似性，根据多个观测指 标，找出能度量样本之间相似程度的统计量，以其 为依据，把相似程度较大的样本聚合为一类，关系 密切的聚合到一个小的分类单位，关系疏远的聚合 到一个大的分类单位，直到把所有的样本都聚合完 毕，把不同的类型一一划分出来，形成一个由小到 大的分类系统。
iGM , jGJ
min
iGK , jGJ
dij , min dij
iGL , jGJ
min DKJ , DLJ
在D(0)中，GK和GL所在的行和列合并成一个新行新 列，对应GM ，该行列上的新距离值由上式求得， 其余行列上的距离值不变，这样就得到新的距离矩 阵，记作D(1) 。 (4)对D(1)重复上述对D(0)的两步得D(2) ，如此下去直 至所有元素合并成一类为止。
14
15
16
最短距离法的聚类步骤
(1)规定样品之间的距离，计算n个样品的距离矩阵 D(0)，它是一个对称矩阵。 (2)选择D(0)中的最小元素，设为DKL，则将GK和GL 合并成一个新类，记为GM，即GM= GK∪GL。 (3)计算新类GM与任一类GJ之间距离的递推公式为
17
DMJ min dij min
5
非层次聚类 其共同特点是：先给定一个粗糙的初始分类，然后 按照某种原则反复进行修正，直到分类较为合理为 止。
6
聚类分析的准备工作 聚类分析是以完备的数据文件为基础的，这一数据 文件除观测变量比较完备之外，一般还要求各个观 测变量的量纲一致，即各变量取值的数量级一致， 否则各变量在描述客观事物某方面特征差异性的作 用有被夸大或缩小的可能。 所以，聚类分析前要检查各变量的量纲是否一致， 不一致则需进行转换，如将各变量均作标准化转换 就可保证量纲一致。
聚类分析与主成分分析
二、聚类分析的典型(diǎnxíng)应 用
• 作为统计(tǒngjì)学的一个分支，聚类分析已有 多年的研究历史，这些研究主要集中在基于距 离的聚类分析方面。
• 许多统计(tǒngjì)软件包，诸如：SAS、SPSS 和S-PLUS等都包含它许多聚类分析工具。
第八页，共90页。
• 图论法。从几何观点来考虑。将n个样品看成m维空间的n个 点，点与点间用直线连接，从而构成m维空间的点的连接图， 再应用图论的观点将样本点在m维空间作最小支撑(zhī chēng)数，最终达到分类目的。
第十二页，共90页。
六、tree过程(guòchéng)
• 画出用于描述整个聚类过程的树状图
• 两种：
• 如何解释主成分所包含的经济意义。
第四十六页，共90页。
数学模型和几何(jǐ hé)解释
• 为了方便，我们在二维空间中讨论主成分的几何意义。 设有n个样品，每个样品有两个观测变量xl和x2，在 由变量xl和x2 所确定的二维平面中，n个样本点所散 布的情况如椭圆状。由图可以看出(kàn chū)这n个样 本点无论是沿着xl 轴方向或x2轴方向都具有较大的离 散性，其离散的程度可以分别用观测变量xl 的方差和 x2 的方差定量地表示。显然，如果只考虑xl和x2 中 的任何一个，那么包含在原始数据中的经济信息将会 有较大的损失。
第十一页，共90页。
五、聚类分析方法(fāngfǎ)
• 系统聚类法。先将n个元素看成n类，然后将性质最接近（或 相似程度最大）的两类合并为一个新类，得到n-1类。再从 中找出最接近的两类加以合并，变成n-2类。如此下去，最 后所有的元素全聚在一类之中。
• 调优法。先将样品做一个初始的分类，然后按照某种最优的 原则逐步调整，一直调整到分类比较合理为止。
系统聚类分析方法
系统聚类分析方法聚类分析是研究多要素事物分类问题的数量方法。
基本原理是根据样本自身的属性，用数学方法按照某种相似性或差异性指标，定量地确定样本之间的亲疏关系，并按这种亲疏关系程度对样本进行聚类。
常见的聚类分析方法有系统聚类法、动态聚类法和模糊聚类法等。
1.聚类要素的数据处理假设有m 个聚类的对象，每一个聚类对象都有个要素构成。
它们所对应的要素数据可用表 3.4.1 给出。
（点击显示该表）在聚类分析中，常用的聚类要素的数据处理方法有如下几种。
①总和标准化②标准差标准化③极大值标准化经过这种标准化所得的新数据，各要素的极大值为1，其余各数值小于1。
④极差的标准化经过这种标准化所得的新数据，各要素的极大值为1，极小值为0，其余的数值均在0 与 1 之间。
2.距离的计算距离是事物之间差异性的测度，差异性越大，则相似性越小，所以距离是系统聚类分析的依据和基础。
①绝对值距离选择不同的距离，聚类结果会有所差异。
在地理分区和分类研究中，往往采用几种距离进行计算、对比，选择一种较为合适的距离进行聚类。
例：表 3.4.2 给出了某地区九个农业区的七项指标，它们经过极差标准化处理后，如表 3.4.3 所示。
对于表 3.4.3 中的数据，用绝对值距离公式计算可得九个农业区之间的绝对值距离矩阵：3.直接聚类法直接聚类法是根据距离矩阵的结构一次并类得到结果。
▲基本步骤：①把各个分类对象单独视为一类；②根据距离最小的原则，依次选出一对分类对象，并成新类；③如果其中一个分类对象已归于一类，则把另一个也归入该类；如果一对分类对象正好属于已归的两类，则把这两类并为一类；每一次归并，都划去该对象所在的列与列序相同的行；④那么，经过m-1 次就可以把全部分类对象归为一类，这样就可以根据归并的先后顺序作出聚类谱系图。
★直接聚类法虽然简便，但在归并过程中是划去行和列的，因而难免有信息损失。
因此，直接聚类法并不是最好的系统聚类方法。
[ 举例说明 ]（点击打开新窗口，显示该内容）例：已知九个农业区之间的绝对值距离矩阵，使用直接聚类法做聚类分析。
《系统工程》聚类分析实验报告
40
22.518
0
0
25
20
10
13
22.555
13
17
22
21
19
23
22.598
16
14
31
22
10
30
24.485
20
0
24
23
6
9
26.682
0
0
25
24
7
10
27.548
0
22
26
25
6
12
30.848
23
19
28
26
3
7
32.276
0
24
28
27
4
29
32.492
0
0
29
28
3
6
34.821
0
11
10
13
27
12.894
4
6
12
11
17
37
14.224
9
0
12
12
13
17
15.818
10
11
17
13
10
15
16.179
0
0
20
14
23
28
16.547
0
0
21
15
19
22
16.718
8
0
16
16
19
33
20.091
15
0
21
17
13
26
20.703
12
0
20
主成分分析和聚类分析的比较
主成分分析和聚类分析的比较摘要：主成分分析和聚类分析方多元统计中两种重要的分析方法，但却容易在使用中混淆。
本文从基本思想，应用的优缺点、应用实例中讨论两者的异同，并简述两种方法在实际问题中的应用。
关键词：主成分分析；聚类分析一、引言主成分分析是利用降维的思想，在缺失很少信息的前提下，把多个指标转化为几个综合指标的多元统计方法。
通常把转化生成的综合指标称为主成分，其中每个主成分都是原始变量的线性组合，且各个主成分之间互不相关，使得主成分比原始变量具有某些更优越的性能。
聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构，并且对每一个数据集进行描述的过程。
其主要依据是聚到同一个数据集的样本应该性质相似，而属于不同组的样本应该足够不相似。
两种方法既有区别又有联系，本文将两者的异同进行比较，并举例说明两者在实际应用中的联系，以便更好地理解这两种统计方法而为实际所应用。
二、基本思想的异同相同点：主成分分析方法是用少数的几个变量来综合反映原始变量的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85%以上，因此其可信度很高。
通过主成分分析，可以将事物之间错综复杂的关系中找出一些主要成分，从而能有效利用大量统计数据进行定量分析，解释变量之间的内在关系。
因此主成分变量比原始变量少了很多，从而起到了降维的作用。
聚类分析的基本思想是采用多变量的统计值，定量的确定相互之间的亲疏关系，考虑对象多因素的联系和主导作用。
按它们亲疏差异程度，归类不同的分类中的一元。
使分类更具有客观实际并能反映事物的内在必然联系。
聚类分析是通过一种大的对称矩阵来探索相关关系的一种数学分析方法。
对变量分类后，我们对数据的处理难度也降低，所以从某种意义上说，聚类分析也起到了降维的作用。
不同点：主成分分析是研究如何通过原来变量的少数几个变量组合来解释原来变量绝大多数信息的一种多元统计方法。
系统工程主成分分析。
主成分分析法通过研究指标体系的内在结构关系，从而 将多个指标转化为少数几个相互独立且包含原来指标大 部分信息（80%或85%以上）的综合指标。其优点在于 它确定的权数是基于数据分析而得出的指标之间的内在 结构关系，不受主观因素的影响，有较好的客观性，而 且得出的综合指标（主成分）之间相互独立，减少信息 的交叉，这对分析评价极为有利。
5
基本思想
如果用x1, x2 , …, xn表示n门课程， a1, a2 ,…, an表
示各门课程的权重，且满足 ai21 ai22 ai2n 1
，那么加权之和就是：
s= a1x1+ a2x2+…+ anxn
我们希望选择适当的权重能更好地区分学生的成
绩，每个学生都对应一个这样的综合成绩。记为
4
一个简单的例子 成绩的评估可以用下面的综合成绩来体现： a1×数学＋a2×语文＋a3×英语＋a4×体育 确定权重系数的过程就可以看作是主成分分析的过
程，得到的加权成绩总和就相对于新的综合变量 ——主成分
当某一问题需要同时考虑好几个因素时，我们并不 对这些因素个别处理而是将它们综合起来处理， 这就是主成分分析
2）累积贡献率：前k个主成分共有多大的综合能力，
用
k
n
i j
i 1
j 1
来描述，称为第k个主成分的累积贡献率。
我们进行主成分分析的目的之一是希望用尽可 能少的主成分Z1，Z2，…，Zp（p≤n）代替原来 的n个指标。到底应该选择多少个主成分，在实 际工作中，主成分个数的多少取决于能够反映 原来变量80%以上的信息量为依据，即当累积 贡献率≥80%时的主成分的个数就足够了。
13
（3）计算特征值和特征向量
系统分析技术概述
效能：为达到系统目标的程度，或系统期望达到一组具 体任务要求的程度
例图3-1：发展能源的目标-手段分析图
发展
总目标
能源
加强 能源 生产
开发 新能
源
节约 一级手段/ 能源 二级目标
资源 勘测
新建 基地
扩大 生产
太阳 能
潮汐 能
生物 能
风能
综合 利用
节能 设备
二级手段
●要发展能源生产主要手段：发展现有能源生产、开发研究新能源和节约能源 ●加强能源生产的主要手段：加强资源勘探、新建能源基地和扩大现有基地的生 产 ●开发新能源的主要手段：开发太阳能、潮汐能、生物能和风能 ●节约能源的主要手段：综合利用能源和开发节能设备
劳动力不足 1,34,35
兵源不足 27
人力 资源 缺乏
制造 力下
降 8,9,23， 38，39
社会负担重 12,19,29
经济困难大 6,28,30,43
经济问题
经济 增长 减慢
文化设施不适应 12,19,29
教育管理不适应 17,18
衣食住行不适应 13,15,24,32,33
社会需求变化 31
常用的定性的系统分析技术主要有： 目标-手段分析法、因果分析法、KJ法等
一、目标-手段分析法
所谓目标-手段分析法，就是将要达到的目
标和所需要的手段按照系统展开，一级手段等 于二级目标，二级手段等于三级目标，依次类 推，便产生了层次分明、互相联系又逐渐具体 化的分层目标系统。
目标-手段分析法实质 是运用效ห้องสมุดไป่ตู้原理不断
本章学习目标
通过对本章的学习，应使学生掌握 系统分析所必须的知识和方法，培养学 生独立进行初步系统分析的能力。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
泛珠三角区域物流发展水平综合评价研究资料来源：吴晓燕. 泛珠三角区域物流发展水平综合评价研究泛珠三角区域是我国最主要的经济发达地区之一，也是现代物流最为强劲的“增长极”，具有优越的地理、交通与经济区位优势。
但是区域内有发达省份，也有不发达省份，有沿海的省份，也有内陆省份，有东部省份，也有西部省份，彼此之间存在不同的优势和劣势。
因此对泛珠三角区域物流发展水平进行评估与分析，有利于明确广东、福建、江西、广西、海南、湖南、四川、云南、贵州九省(区)的区域物流发展现状及差异，找出区域间的优势互补项目，为区域内物流资源有效利用和合理共享、促进区域物流一体化发展提供方向和依据。
评价区域物流综合发展水平是一项很复杂的工作。
选择并构建区域物流发展水平综合评价指标体系是评价的关键。
因此选择指标构建评价指标体系，必须以综合评价目的为依据，对所要考察的事物进行认真分析，寻找出影响评价对象的因素，从中选出若干主要因素，构建成综合评价指标体系。
在多指标综合评价中，如果指标选择不当，再好的综合评价方法也会出现差错，甚至完全失败。
区域物流发展水平评价指标体系实际上就是利用具体的指标将区域物流所包括的功能、区域物流的内涵、特征具体化、层次化的统计描述和综合评价。
为了合理评估区域物流发展综合水平，我们主要选取6个一级评价指标，20个次级评价指标对其进行评估，具体结构如下表：表1 区域物流发展水平评价指标体系1、社会经济发展类经济发展是区域物流发展的基础保障，一个地区雄厚的经济基础有利于该物流的加速发展。
一般来说，区域物流发展水平与区域的经济发展水平成正比。
因此，我们考虑GDP和人均GDP两个次级指标，他们综合反映了物流发展的社会经济基础。
2、生产、消费流通类从物流需求源考虑，农业、制造业等产业中的物流需求主要是生产资料的位移、储存和流通加工等，这类产业的物流需求与各行业的产量产值存在正比关系，物流需求是商品需求的派生物，与消费品销售，生产资料市场直接相关，商品市场的规模直接决定物流需求的大小，因此物流需求也与社会消费品零售总额与进出口总额密切相关。
总的来说，物流业是为生产、消费与流通等环节和领域服务的，农业总产值、工业总产值、社会消费品零售总额与进出口总额等均可以从不同角度反映区域物流的需求状况和需求规模。
所以，我们选取农业总产值、工业增加值、社会消费品零售总额、进出口总额，从生产、消费、流通等不同角度反映区域物流的需求状况和需求规模。
3、交通运输类运输是物流的一项重要活动，主要完成实物从供应地到需求地的移动问题。
区域内的交通道路等基础设施建设在很大程度上决定着运输的质量和速度。
公路密度反映了交通道路基础设施建设水平。
全社会货运量、全社会货运周转量:一方面它反映了贸易的活跃程度，另一方面也反映了该地区的交通运输条件。
交通运输条件可被认为是推动区域物流一体化的一个重要条件。
它标志着区域内商品、要素流动的难易程度，是地区基础设施的重要组成部分。
民用汽车拥有量、民用运输船舶拥有量在一定程度上反映了交通设备的发展水平。
交通运输仓储及邮电通信业增加值反映了交通运输类增长速度。
区域物流发展需要具有四通八达、畅通无阻的运输网络，有效衔接港口、机场、公路、铁路、内河等不同交通运输方式，形成综合运输网络系统，实现全程物流运输的无缝衔接。
区域物流运输设施网络建设规划包括两个级别的规划：一是地域间物流运输系统，主要包括机场、港口、国道、省道、高速路、区域物流园区等基础设施和物流运输管理措施、政策环境建设规划；二是地域内物流运输系统，主要包括城市内各等级公路、立交桥、地铁、轻轨、内河、城市物流中心、配送中心和物流运输管理措施、政策环境建设规划。
4、信息发展水平类物流信息是物流活动的指南，物流过程中所有的物流活动都是根据信息开展的，最终促使整个物流网络系统顺利地运转。
现代物流的一个核心问题是，通过物流信息对物流网络系统各种资源进行整合，提高物流网络系统的整体功能与效益。
物流信息网络建设就是构筑统一的公共物流信息交换平台，建设良好的物流市场信息交换环境，使信息的采集、加工、处理、存储以及传输形成一个统一的整体，高效协调处理利用各种物流信息，实现现代物流的目标。
物流产业信息化水平是一个综合指标。
邮电业务总量包含邮政和电信两项产生的收入，是反映物流信息化发展水平的重要指标。
近几年，我国的邮电特别是电信事业发展得非常快，这为我国的区域物流发展提供了巨大的技术平台。
移动电话用户、国际互联网用户、邮路总长度从不同角度反映了物流信息基础设备和设施的发展水平。
5、人力资源类高素质人才是现代物流发展的关键因素。
以市场为导向，针对企业需求，培养多层次的专业人才，加快物流人才教育培养工程建设;统筹规划物流人才队伍建设，优化配置全社会教育资源，建立包括正规物流学历教育、物流职业教育、企业岗位教育、物流证书培训等多种层次互相结合、互为补充的物流人才教育培养体系，培养多元化的物流人才，提高专业技术人员和取得国内外主要资格证书的人员占全体物流从业人员的比例，有效满足物流人才的多样性需求。
物流产业人员素质指标是指一定时期内(通常为1年)各类专业技术人员、大专以上学历在物流产业从业人员中的比重。
通过对物流业从业人员素质的横向、纵向的比较，可以衡量区域物流领域人才的现状、差距及今后的培育方向、教育重点与方向。
技术人员数量和高等学校普通本、专科在校学生数这两个指标在很大程度上能反映一个地区人力资源的状况。
6、宏观环境类宏观环境是软环境，具体包括物流市场秩序与政策法律环境。
物流业发展制度环境的好坏是否不仅影响着区域物流企业经营的状况，还直接决定着吸引外资及各方面投资的能力。
地方性物流发展的政策措施是国家物流发展政策措施体系的重要组成部分，建设区域物流发展政策措施体系是区域物流发展的重要内容。
政府应强化企业的市场主体地位，发挥市场配置资源的基础性作用，加强产业政策的宏观指导，注重体制创新、制度创新、人才创新、技术创新、政策创新和管理创新，制定物流发展促进政策措施、物流活动规制政策措施，出台综合性政策措施、交通运输政策措施和物流相关专项政策措施，为现代物流营造良好的发展环境，积极推进现代物流的发展。
研究表明，一个地区的制度、政策、市场经济氛围和人们的观念、意识等，对当地物流发展的影响很大：而地理区位显然是影响区域物流发展的重要因素之一。
因此，这两个指标分别以现代物流发展氛围和地理区位列入指标体系。
对于定性指标的评价可划分为9个等级，即{极好，很好，好，较好，一般，较差，差，很差，极差}，分别对应[l，10〕区间的{9，8，7，6，5，4，3，2，l}，采用专家打分，并结合相关资料给出各指标的得分。
以上20项指标对应数据如表2所示：表2 泛珠三角九省(区)物流发展评价指标原始数据由于评价指标较多，尽管经过了仔细遴选，但彼此之间难免存在着一定的相关性，因而反映的信息在一定程度上有所重叠。
请采用合适的方法对上述指标进行约减，并给出泛珠三角九省(区)物流发展情况的排序。
主成分分析利用降维的思想，可把原来较多的评价指标用约化后较少的综合主成分指标来代替，综合指标保留了原始变量的绝大多数信息，且彼此间互不相关，能够使复杂问题简单化。
把泛珠三角九省(区)物流发展评价指标原始数据代入SPSS软件，求得标准化数据的相关矩阵R可以看出20个指标彼此之间存在着较强的相关性，这样，20个指标反映的经济信息就有很大的重叠。
再根据累积方差贡献率大于等于80%的原则，选入二个特征值，其对应的特征向量就是所需要的主成分个数，这两个特征值对应的二个主成分基本包含了全部指标具有的信息，求得相关矩阵R的特征值及方差贡献率(见表3)。
表3 Total Variance ExplainedComponentInitial Eigenvalues Extraction Sums of Squared Loadings Total % of Variance Cumulative % Total % of Variance Cumulative %1 15.249 76.243 76.243 15.249 76.243 76.2432 3.090 15.452 91.696 3.090 15.452 91.6963 .683 3.413 95.1094 .422 2.111 97.2195 .214 1.069 98.2886 .174 .869 99.1577 .100 .501 99.6588 .068 .342 100.0009 4.64E-016 2.32E-015 100.00010 3.99E-016 1.99E-015 100.00011 3.56E-016 1.78E-015 100.00012 2.30E-016 1.15E-015 100.00013 1.84E-016 9.21E-016 100.00014 7.80E-017 3.90E-016 100.00015 -1.11E-016 -5.54E-016 100.00016 -2.84E-016 -1.42E-015 100.00017 -3.57E-016 -1.79E-015 100.00018 -4.52E-016 -2.26E-015 100.00019 -4.86E-016 -2.43E-015 100.00020 -5.72E-016 -2.86E-015 100.000Extraction Method: Principal Component Analysis.Component Matrix(a)Component1 2var001 .998 .026var002 .844 .423var003 .780 -.584var004 .974 .187var005 .997 -.018var006 .938 .284var007 .903 -.273var008 .473 .723var009 .963 .008var010 .751 -.578var011 .971 .130var012 .985 .021var013 .979 .147var014 .984 .079var015 .986 -.018var016 .917 .067var017 .796 -.574var018 .748 -.554var019 .806 .214var020 .291 .889Extraction Method: Principal Component Analysis.a 2 components extracted.由因子载荷矩阵可以看出，即公共因子F1在XI—GDP(亿元)、X2—人均GDP(元)、X3一农业总产值(亿元)、X4—工业总产值(亿元)、X5—社会消费零售总额(亿元)、X6—进出口总额(亿美元)、X7—全社会货运量(万吨)、X9—民用汽车拥有量(万辆)、X10—民用运输船舶拥有量(艘)、x11—货运周转量(万吨公里)、X12—交通运输仓储及邮电通信业增加值(亿元)、X13—邮电业务总量(亿元)、X14—移动电话总量(亿元)、X15—国际互联网用户(万户)、X16—邮路总长度(公里)、X17—专业技术人员数量(人)、X18—高等学校普通本、专科在校学生数(人)、X19—现代物流发展氛围上的载荷值都很大，反映了省(区)经济信息发展水平和物流需求规模。