主成分分析和聚类分析
北京建筑工程学院
理学院信息与计算科学专业实验报告
课程名称《数据分析》实验名称《主成分分析和聚类分析》实验地点：基础楼C-423日期__2016.5.5_____ 姓名张丽芝班级信131 学号201307010108___指导教师王恒友成绩
（1）熟悉利用主成分分析进行数据分析，能够使用SPSS软件完成数据的主成分分析；
（2）熟悉利用聚类分析进行数据分析，能够运用主成分分析的结果，做进一步分析，如聚类分析、回归分析等，能够使用SPSS软件完成该任务。
【实验要求】
根据各个题目的具体要求，分别运用SPSS软件完成实验任务。
【实验内容】
1、表4.9（数据见exercise4_5.txt）给出了1991年我国30个省市、城镇居民的月平均
消费数据，所考察的八个指标如下：（单位均为元/人）
X1: 人均粮食支出； X2：人均副食支出；
X3: 人均烟酒茶支出； X4: 人均其他副食支出；
X5:人均衣着商品支出； X6: 人均日用品支出；
X7: 人均燃料支出； X8: 人均非商品支出。
（1）求样本相关系数矩阵R。
（2）从R出发做主成分分析，求出各主成分的贡献率及前两个主成分的累积贡献率；
2、（1）对题1中的数据，按照原有的八个指标，对30个省份进行聚类，给出分为3类的聚类结果。
（2）利用题1得到的前2个主成分指标，分别按最短距离法（最近邻居距离）、最长距离法（最远邻居距离）、类平均距离法（组间平均距离）、重心距离法；其中距离均采用欧式平方距离，对样本进行谱系聚类分析，并画出谱系聚类图；给出分为3类的聚类结果。
并与（1）的结果进行比较
【实验步骤】（此部分主要包括实验过程、方法、结果、对结果的分析、结论等）
1
1）
2）
方差贡献率是38.704%，第二个主成分的方差贡献率是29.590%，前两个主成分的方差占所有主成分方差的64.294%。
前两个主成分的累计贡献率为68.294%，选择前两个主成分即可代表绝大多数原来的变量。
2
由上图可知，聚类2包含样本数最多，聚类3包含样本数最少。
通过K 中心聚类分析，可以对我国各地区生活中的人均支出类别情况有一个基本的了解。
我们可以将不同地区的人均消费情况分为3类；其中第二类包含的省市最多，有18个，其他两类包含城市较少。
通过分析结果也可知每个地区所属类别。
每个聚类中的案例数 聚类
1 10.000
2 18.000 3
2.000 有效 30.000 缺失
.000
（2）
按最短距离法（最近邻居距离）对样本进行谱系聚类分析
合并为一类，距离系数为3.299，在“首次出现阶段集群”里显示为0，因此合并两项都是第一次出现，合并结果取15，即归为第15类。
群集成员
案例 3 群集
1:山西 1
2:内蒙古 1
3:吉林 1
4:黑龙江 1
5:河南 1
6:甘肃 1
7:青海 1
8:河北 1
9:陕西 1
10:宁夏 1
11:新疆 1
12:湖北 1
13:云南 1
14:湖南 1
15:安徽 1
16:贵州 1
17:辽宁 1
18:四川 1
19:山东 1
20:江西 1
21:福建 1
22:广西 1
23:海南 1
24:天津 1
25:江苏 1
26:浙江 1
27:北京 1
28:西藏 1
29:上海 2
30:广东 3
集群成员表如图，当划分为3个类别时，各个地区所属类别。
与上一问所得结论有较大出入。
上图直观的反应了样品逐步合并的过程。
最长距离法（最远邻居距离）
群集成员
案例 3 群集1:山西 1 2:内蒙古 1 3:吉林 1 4:黑龙江 1 5:河南 1 6:甘肃 1 7:青海 1 8:河北 1 9:陕西 1 10:宁夏 1 11:新疆 1 12:湖北 2 13:云南 2 14:湖南 2 15:安徽 2 16:贵州 2 17:辽宁 2 18:四川 2 19:山东 2 20:江西 1 21:福建 3 22:广西 3 23:海南 3 24:天津 2 25:江苏 2 26:浙江 2 27:北京 2 28:西藏 2 29:上海 3 30:广东 3
类平均距离法（组间平均距离）
群集成员
案例 3 群集1:山西 1 2:内蒙古 1 3:吉林 1 4:黑龙江 1 5:河南 1 6:甘肃 1 7:青海 1 8:河北 1
9:陕西 1 10:宁夏 1 11:新疆 1 12:湖北 1 13:云南 1 14:湖南 1 15:安徽 1 16:贵州 1 17:辽宁 1 18:四川 1 19:山东 1 20:江西 1 21:福建 1 22:广西 1 23:海南 1 24:天津 1 25:江苏 1 26:浙江 1 27:北京 1 28:西藏 2 29:上海 3 30:广东 3
重心距离法
群集成员
案例 3 群集1:山西 1 2:内蒙古 1 3:吉林 1 4:黑龙江 1 5:河南 1 6:甘肃 1 7:青海 1
8:河北 1 9:陕西 1 10:宁夏 1 11:新疆 1 12:湖北 1 13:云南 1 14:湖南 1 15:安徽 1 16:贵州 1 17:辽宁 1 18:四川 1 19:山东 1 20:江西 1 21:福建 1 22:广西 1 23:海南 1 24:天津 1 25:江苏 1 26:浙江 1 27:北京 1 28:西藏 1 29:上海 2 30:广东 3。
数学建模各种分析方法
现代统计学1.因子分析(Faｃｔor Ａｎalysis)因子分析的基本目的就是用少数几个因子去描述许多指标或因素之间的联系，即将相关比较密切的几个变量归在同一类中，每一类变量就成为一个因子(之所以称其为因子,是因为它是不可观测的，即不是具体的变量），以较少的几个因子反映原资料的大部分信息.运用这种研究技术，我们可以方便地找出影响消费者购买、消费以及满意度的主要因素是哪些，以及它们的影响力（权重）运用这种研究技术，我们还可以为市场细分做前期分析。
2．主成分分析主成分分析主要是作为一种探索性的技术，在分析者进行多元数据分析之前,用主成分分析来分析数据,让自己对数据有一个大致的了解是非常重要的.主成分分析一般很少单独使用：a，了解数据。
(screeninｇ the daｔa)，b，和ｃｌuｓteｒ aｎaｌysｉs一起使用，c，和判别分析一起使用，比如当变量很多，个案数不多，直接使用判别分析可能无解,这时候可以使用主成份发对变量简化。
（ｒeduce dimensiｏｎality)d,在多元回归中,主成分分析可以帮助判断是否存在共线性(条件指数),还可以用来处理共线性。
主成分分析和因子分析的区别1、因子分析中是把变量表示成各因子的线性组合，而主成分分析中则是把主成分表示成个变量的线性组合。
2、主成分分析的重点在于解释个变量的总方差，而因子分析则把重点放在解释各变量之间的协方差。
３、主成分分析中不需要有假设(ａｓｓｕｍptions）,因子分析则需要一些假设。
因子分析的假设包括：各个共同因子之间不相关，特殊因子（speｃific fａct ｏr）之间也不相关，共同因子和特殊因子之间也不相关.４、主成分分析中，当给定的协方差矩阵或者相关矩阵的特征值是唯一的时候，的主成分一般是独特的；而因子分析中因子不是独特的,可以旋转得到不同的因子。
５、在因子分析中,因子个数需要分析者指定（spss根据一定的条件自动设定,只要是特征值大于1的因子进入分析),而指定的因子数量不同而结果不同。
聚类分析与主成分分析
二、聚类分析的典型(diǎnxíng)应 用
• 作为统计(tǒngjì)学的一个分支，聚类分析已有 多年的研究历史，这些研究主要集中在基于距 离的聚类分析方面。
• 许多统计(tǒngjì)软件包，诸如：SAS、SPSS 和S-PLUS等都包含它许多聚类分析工具。
第八页，共90页。
• 图论法。从几何观点来考虑。将n个样品看成m维空间的n个 点，点与点间用直线连接，从而构成m维空间的点的连接图， 再应用图论的观点将样本点在m维空间作最小支撑(zhī chēng)数，最终达到分类目的。
第十二页，共90页。
六、tree过程(guòchéng)
• 画出用于描述整个聚类过程的树状图
• 两种：
• 如何解释主成分所包含的经济意义。
第四十六页，共90页。
数学模型和几何(jǐ hé)解释
• 为了方便，我们在二维空间中讨论主成分的几何意义。 设有n个样品，每个样品有两个观测变量xl和x2，在 由变量xl和x2 所确定的二维平面中，n个样本点所散 布的情况如椭圆状。由图可以看出(kàn chū)这n个样 本点无论是沿着xl 轴方向或x2轴方向都具有较大的离 散性，其离散的程度可以分别用观测变量xl 的方差和 x2 的方差定量地表示。显然，如果只考虑xl和x2 中 的任何一个，那么包含在原始数据中的经济信息将会 有较大的损失。
第十一页，共90页。
五、聚类分析方法(fāngfǎ)
• 系统聚类法。先将n个元素看成n类，然后将性质最接近（或 相似程度最大）的两类合并为一个新类，得到n-1类。再从 中找出最接近的两类加以合并，变成n-2类。如此下去，最 后所有的元素全聚在一类之中。
• 调优法。先将样品做一个初始的分类，然后按照某种最优的 原则逐步调整，一直调整到分类比较合理为止。
主成分分析和聚类分析报告
北京建筑工程学院理学院信息与计算科学专业 实验报告课程名称〈数据分析》实验名称〈主成分分析和聚类分析》 实验地点：基础楼C-423日期2016.5.5 姓名张丽芝班级 信131 学号 201307010108指导教师 王恒友成绩实验目的】(1) 熟悉利用主成分分析进行数据分析，能够使用SPSS 软件完成数据的主成分分析； (2) 熟悉利用聚类分析进行数据分析，能够运用主成分分析的结果，做进一步分析，如聚类分析、回归分析等，能够使用SPSS 软件完成该任务。
实验要求】根据各个题目的具体要求，分别运用SPSS 软件完成实验任务。
实验内容】1、表4.9 (数据见exercise4_5.txt )给出了 1991年我国30个省市、城镇居民的月平均消 费数据，所考察的八个指标如下：(单位均为元/人)(2)从R 出发做主成分分析，求出各主成分的贡献率及前两个主成分的累积贡献率；2、( 1)对题1中的数据，按照原有的八个指标，对30个省份进行聚类，给出分为3 类的聚类结果X1:人均粮食支出； X3:人均烟酒茶支出； X5:人均衣着商品支出； X7:人均燃料支出；(1)求样本相关系数矩阵RX2：人均副食支出； X4:人均其他副食支出； X6:人均日用品支出； X8:人均非商品支出。
（2）利用题1得到的前2个主成分指标，分别按最短距离法（最近邻居距离）、最长距离法（最远邻居距离）、类平均距离法（组间平均距离）、重心距离法；其中距离均采用欧式平方距离，对样本进行谱系聚类分析，并画出谱系聚类图；给出分为3类的聚类结果。
并与（1）的结果进行比较实验步骤】（此部分主要包括实验过程、方法、结果、对结果的分析、结论等）2）表:方差贡献率和累计贡献率由上图可知，只有前两个成分的特征值大于1,所以只选择前两个主成分。
第一个主成分的 方差贡献率是38.704%，第二个主成分的方差贡献率是29.590%，前两个主成分的方差占所 有主成分方差的64.294% o 前两个主成分的累计贡献率为68.294%，选择前两个主成分即可 代表绝大多数原来的变量。
生物统计学在生态学中的应用
生物统计学在生态学中的应用生物统计学在生态学中有广泛的应用。
下面是一些常见的生态学领域中使用生物统计学的例子：一、群落分析：生物统计方法可用于研究不同种群或物种之间的相互作用以及它们对环境变化的响应。
例如，通过多元统计技术如聚类分析、主成分分析和冗余分析，可以将样地数据转化为具有解释性和预测能力的模型。
群落分析是生态学中常用的研究方法之一。
通过生物统计技术，我们可以对不同种群或物种在特定环境条件下的相互关系进行定量化和解释。
1.聚类分析：聚类分析可用于将相似性较高的样地或个体归为一组。
这种方法基于各个样地（个体）之间的相似性度量，以便识别出具有共同特征和行为模式的群体。
2.主成分分析：主成分分析（PCA）是一种降维技术，它可以将多变量数据转换为更少数量且无相关性的新变量。
这些新变量称为主成分，它们能够捕捉原始数据中最大方差所包含的信息。
通过PCA，我们可以发现隐藏在复杂数据背后存在着哪些关键因素。
3.冗余分析：冗余分析（RDA）结合了多元回归和主坐标轴排序等技术，在考虑环境因子时评估物种结构与环境因素之间是否存在显著关联。
RDA能够帮助我们理解物种组成受到哪些环境因子影响，并揭示潜在驱动机制。
这些生物统计方法可以帮助我们从海量的群落数据中提取和解释有用的信息。
它们为我们揭示了不同种群或物种之间的相互作用、物种对环境变化的响应以及生态系统结构与功能之间的关系，进而促进了保护生态系统和可持续发展等方面的研究。
二、物种多样性评估：利用各种指数（如Shannon-Wiener指数、Simpson指数）和曲线（如稀疏度曲线），可以量化和比较不同区域或样地内的物种丰富度、均匀度和多样性水平。
在物种多样性评估中，各种指数和曲线被广泛应用来量化和比较不同区域或样地内的物种丰富度、均匀度和多样性水平。
以下是一些常见的指数和曲线：1.Shannon-Wiener指数：Shannon-Wiener指数是一种常用于描述生态系统多样性的指标。
主成分分析和聚类分析的比较
主成分分析和聚类分析的比较摘要：主成分分析和聚类分析方多元统计中两种重要的分析方法，但却容易在使用中混淆。
本文从基本思想，应用的优缺点、应用实例中讨论两者的异同，并简述两种方法在实际问题中的应用。
关键词：主成分分析；聚类分析一、引言主成分分析是利用降维的思想，在缺失很少信息的前提下，把多个指标转化为几个综合指标的多元统计方法。
通常把转化生成的综合指标称为主成分，其中每个主成分都是原始变量的线性组合，且各个主成分之间互不相关，使得主成分比原始变量具有某些更优越的性能。
聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构，并且对每一个数据集进行描述的过程。
其主要依据是聚到同一个数据集的样本应该性质相似，而属于不同组的样本应该足够不相似。
两种方法既有区别又有联系，本文将两者的异同进行比较，并举例说明两者在实际应用中的联系，以便更好地理解这两种统计方法而为实际所应用。
二、基本思想的异同相同点：主成分分析方法是用少数的几个变量来综合反映原始变量的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85%以上，因此其可信度很高。
通过主成分分析，可以将事物之间错综复杂的关系中找出一些主要成分，从而能有效利用大量统计数据进行定量分析，解释变量之间的内在关系。
因此主成分变量比原始变量少了很多，从而起到了降维的作用。
聚类分析的基本思想是采用多变量的统计值，定量的确定相互之间的亲疏关系，考虑对象多因素的联系和主导作用。
按它们亲疏差异程度，归类不同的分类中的一元。
使分类更具有客观实际并能反映事物的内在必然联系。
聚类分析是通过一种大的对称矩阵来探索相关关系的一种数学分析方法。
对变量分类后，我们对数据的处理难度也降低，所以从某种意义上说，聚类分析也起到了降维的作用。
不同点：主成分分析是研究如何通过原来变量的少数几个变量组合来解释原来变量绝大多数信息的一种多元统计方法。
主成分和聚类分析
4实证过程与结果主成分与聚类分析首先通过SPSS软件对环境污染的相应指标进行主成分分析，得到：提取Y1、Y2、Y3和Y4四个主成分，其累积贡献率已经达到，超过80%，代表所有环境污染指标的绝大部分信息。
Y1偏向于解释工业氢氧化物排放量，Y2偏向于解释生活烟尘排放量，Y3偏向于解释生活废水排放量，Y4偏向于解释工业二氧化硫排放量。
然后，根据主成分分析结果，用Z=*Y1+*Y2+*Y3+*Y4计算综合得分，见下表1。
表1 环境污染地区的主成分综合得分表序号地区Z排名序号地区Z排名1北京517武汉13 2天津418长沙28 3石家庄619广州19 4太原820南宁24 5呼和浩特1221海口31 6沈阳1722重庆1 7长春1623成都20 8哈尔滨224贵阳18 9上海325昆明26 10南京1526拉萨30 11杭州927西安7 12合肥2128兰州23 13福州2529西宁11 14南昌2930银川27 15济南1031乌鲁木齐22 16郑州14最后将环境污染的综合得分作为个案进行层次聚类分析，将31个地区分为5类，如表2。
表2 各地区污染分类分类污染情况地区1轻度污染海口、拉萨2比较轻度污染合肥、乌鲁木齐、福州、南宁、兰州、，昆明、成都、银川、南昌、长沙、沈阳、长春、南京、广州、贵阳、郑州、武汉、济南、西宁、呼和浩特3污染情况一般太原、杭州、石家庄、西安4污染比较严重北京、天津5污染十分严重上海、哈尔滨、重庆主成分分析和聚类分析在SPSS中的操作过程打开SPSS，“文件-打开-数据”，选中excel，如下图结果。
首先将变量标准化，“分析-描述统计-描述”，将变量全部选入对话框，点上“将标准化得分另存为变量（Z）”，结果如下。
在做主成分分析，“分析-降维-因子分析”，将为标准化的变量选入对话框。
选择右侧“描述”，在弹出来对话框中点上“系数、显著性水平、KMO和Bartlett 的球形度检验”，点“继续”。
主成分分析,聚类分析比较
主成分分析、聚类分析的比较与应用主成分分析、聚类分析的比较与应用摘要：主成分分析、聚类分析是两种比较有价值的多元统计方法,但同时也是在使用过程中容易误用或混淆的几种方法。
本文从基本思想、数据的标准化、应用上的优缺点等方面,详细地探讨了两者的异同,并且举例说明了两者在实际问题中的应用。
关键词：spss、主成分分析、聚类分析一、基本概念主成分分析就是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。
综合指标即为主成分。
所得出的少数几个主成分，要尽可能多地保留原始变量的信息，且彼此不相关。
因子分析是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。
聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构，并且对每一个数据集进行描述的过程。
其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。
二、基本思想的异同（一）共同点主成分分析法和因子分析法都是用少数的几个变量(因子) 来综合反映原始变量(因子) 的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85 %以上，所以即使用少数的几个新变量，可信度也很高，也可以有效地解释问题。
并且新的变量彼此间互不相关，消除了多重共线性。
这两种分析法得出的新变量，并不是原始变量筛选后剩余的变量。
在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1 ，x2 ，. . . ，x3 ，经过坐标变换，将原有的p个相关变量xi 作线性变换，每个主成分都是由原有p 个变量线性组合得到。
在诸多主成分Zi中，Z1 在方差中占的比重最大，说明它综合原有变量的能力最强，越往后主成分在方差中的比重也小，综合原信息的能力越弱。
因子分析是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系，它不是对原始变量的重新组合，而是对原始变量进行分解，分解为公共因子与特殊因子两部分。
主成分分析和聚类分析的比较
主成分分析和聚类分析的比较一、定义：1.主成分分析：PCA是一种数学方法，通过线性变换将原始数据投影到新的坐标系上，使得投影的数据在新的坐标系下具有最大的方差，从而达到降维和提取数据特征的目的。
2.聚类分析：聚类分析是一种无监督学习方法，通过对样本集合中的数据进行分类，使得同一类别的数据尽量相似，不同类别的数据尽量不相似。
二、目的：1.主成分分析：PCA的主要目的是降低数据的维度，同时保留尽可能多的数据信息。
通过确定主成分，可以选择保留最重要的几个主成分，达到降维的目的，同时避免信息损失。
2.聚类分析：聚类分析的主要目的是发现数据的内在结构和相似性，将数据分成若干个互不交叠的群组，使得同一群组的数据相似度较高，不同群组的数据相似度较低。
三、步骤：1.主成分分析：-对数据进行标准化处理。
-计算数据样本的协方差矩阵。
-对协方差矩阵进行特征值分解，得到特征值和特征向量。
-选择主成分并确定保留的主成分数目。
-根据主成分和原始数据计算得到新的数据集，即降维后的数据集。
2.聚类分析：- 选择合适的聚类算法（如K-means、层次聚类等）。
-初始化聚类中心。
-计算每个样本与聚类中心的距离。
-将样本分配到最近的聚类中心。
-更新聚类中心，重复上述步骤直到满足终止条件。
四、应用领域：1.主成分分析：-数据降维与特征提取：对于高维数据，可以通过PCA将数据降低到较低的维度，并保留主要特征信息。
-数据可视化：通过PCA将高维数据投影到二维或三维空间中，方便数据的可视化展示。
-噪声滤除：PCA可以去除数据中的噪声信息，保留主要特征。
2.聚类分析：-客户细分：在市场营销中，可以通过聚类分析将客户分为不同的群组，根据每个群组的特征制定相应的营销策略。
-图像分割：在图像处理中，可以利用聚类分析对图像进行分割，将图像中的不同物体分别提取出来。
-社交网络分析：通过对社交网络用户之间的关系进行聚类分析，可以发现群组内的用户行为模式和用户兴趣。
主成分分析聚类分析比较
主成分分析聚类分析比较
聚类分析（Cluster Analysis）是一种将数据划分为不同组（即簇）
的方法。
它通过根据数据之间的相似性度量来识别相似的数据点，并将它
们分配到同一个簇中。
聚类分析可以帮助我们在没有预先定义类别的情况下，发现数据中的特定模式和群集。
它在无监督学习中常用于探索性数据
分析和市场细分等领域。
然而，主成分分析和聚类分析也有一些明显的区别。
首先，在目标上，主成分分析旨在将原始数据映射到一个低维空间，以便更好地理解数据的
结构。
而聚类分析旨在将数据分成不同的组或簇，以便更好地识别数据中
的模式。
其次，在技术上，主成分分析使用线性变换和协方差矩阵来找到
数据中的主成分，而聚类分析使用不同的相似性度量方法（如欧氏距离、
余弦相似度等）来识别簇。
由于主成分分析和聚类分析的应用领域和基本原理不同，因此在具体
问题中选择使用哪种方法取决于数据的性质和分析的目的。
例如，如果我
们想要降低数据的维度以便更好的可视化，或者减少计算复杂性以便更容
易进行后续分析，那么主成分分析是一个不错的选择。
另一方面，如果我
们对数据中的模式和群集感兴趣，并希望找出数据中的隐藏结构，那么聚
类分析是更合适的选择。
综上所述，虽然主成分分析和聚类分析在目标和技术上存在一些差异，但它们都是有助于揭示数据的潜在结构和模式的无监督学习方法。
在数据
分析中，我们可以根据具体的需求选择适当的方法，以便更好地理解和利
用数据。
主成分分析聚类分析
主成分分析聚类分析主成分分析：利用降维（线性变换）的思想,在损失很少信息的前提下把多个指标转化为几个综合指标（主成分）,用综合指标来解释多变量的方差-协方差结构，即每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,使得主成分比原始变量具有某些更优越的性能（主成分必须保留原始变量90％以上的信息），从而达到简化系统结构，抓住问题实质的目的综合指标即为主成分.优点：首先它利用降维技术用少数几个综合变量来代替原始多个变量，这些综合变量集中了原始变量的大部分信息.其次它通过计算综合主成分函数得分,对客观经济现象进行科学评价。
再次它在应用上侧重于信息贡献影响力综合评价。
缺点:当主成分的因子负荷的符号有正有负时，综合评价函数意义就不明确.命名清晰性低.聚类分析：将个体（样品）或者对象（变量）按相似程度（距离远近）划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强.目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化.。
其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。
常用聚类方法：系统聚类法，K—均值法，模糊聚类法，有序样品的聚类，分解法，加入法.注意事项：1。
系统聚类法可对变量或者记录进行分类，K—均值法只能对记录进行分类;2.K—均值法要求分析人员事先知道样品分为多少类;3。
对变量的多元正态性,方差齐性等要求较高。
应用领域：细分市场，消费行为划分，设计抽样方案等。
因子分析:利用降维的思想,由研究原始变量相关矩阵内部的依赖关系出发,把一些具有错综复杂关系的变量归结为少数几个综合因子。
（因子分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系），就是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量,以及如何使因子变量具有较强的可解释性的一种多元统计分析方法.求解因子载荷的方法：主成分法，主轴因子法,极大似然法，最小二乘法，a因子提取法.注意事项：5。