聚类分析与判别分析的区别

厂别
成材率
综合合格率
的数量关系， 建立判别函数， 然后便可以利用这一
大型厂
９６．５９％
９５％
数量关系对其他未知分组类型所属的案例进行判
轧板厂
８９．３９％
９２％
别分组。
判别分析中的因变量或判别准则是定类变
热轧厂
９７．５７％
９４％
量， 而自变量或预测变量基本上是定距变量。依据
判别类型的多少与方法不同， 分为多类判别和逐
ｐ（ ｔ｜ｘ） ＝ ｍａｘ ｐ（ ｓ｜ｘ） ， +ｘ∈Ｒｔ
ｄ#
$ $
１１
$
Ｄ＝（
ｄｉｊ）
＝
ｄ$
$ ２１
$ $
… $
$
$
ｄ$
$
% ｎ１
ｄ ｄ １２ …
&
１ｎ
’ ’
’
ｄ ｄ … ’
２２
２ｎ ’
’
’
…
…
…’ ’
’
ｄ ｄ ｎ２ …
’ ’
ｎｎ (
若 ｄｉｊ 越小， 那么第 ｉ 与 ｊ 两个 样 品 之 间 的 性
质就越接近。性质接近的样品就可以划为一类。
ｂ 、常 用 的 相 似 系 数 中 如 夹 角 余 弦 系 数 ：
而判别分析的前提是已经知道分类情况， 判 定新的观测样品到已知组中。即由若干个不同 的样本来构造判别函数， 以此决定新的未知类 别 的 样 品 属 于 哪 一 类 。例 如 ， 炼 钢 产 品 按 化 学 成 分 分 为 非 合 金 钢 、低 合 金 钢 、合 金 钢 和 不 锈 钢 ， 在测得所要判断钢坯的化学成分后， 就可以判 定 属 于 哪 一 类 钢 种 ； 某 医 院 已 有 １０００ 个 分 别 患 有 胃 炎 、肝 炎 、冠 心 病 、糖 尿 病 等 的 病 人 的 资 料 ， 记录了他们每个人若干项症状指标数据， 利用 这些资料， 在测得一个新病人若干项症状指标 的数据时， 能够判定他患的是哪种病； 又如在天 气预报中， 利用长时间的记录资料， 判断是晴天 或下雨等等。
’ ’ ’ ’… **Fra bibliotek’ ’
*
’
**%ｃｏｓ!ｎ１， ｃｏｓ!ｎ２， …
ｃｏｓ!ｎｎ
’ ’ (
其 中 ｃｏｓ!１１＝ｃｏｓ!２２＝…＝ｃｏｓ!ｎｎ＝１。Ｈ 是 一 个 实
对称阵， 只须计算上三角形部分或下三角形部 分， 根据 Ｈ 可对 ｎ 个样品进行分类， 把比较相 似的样品归为一类， 不怎么相似的样品归为不 同的类。
ｃｏｓ!ｉｊ＝０， 说明 ｘｉ 与 ｘｊ 完 全 不 一 样 ； ｃｏｓ!ｉｊ 接 近 ０， 说
明 ｘｉ 与 ｘｊ 差别大。把所有两两样品的相似系数都
算出， 可排成相似系数矩阵：
#**ｃｏｓ!１１， ｃｏｓ!１２， …
ｃｏｓ!１ｎ
& ’ ’
*
’
Ｈ＝
**ｃｏｓ!２１，
* *
ｃｏｓ!２２，
…
ｃｏｓ!２ｎ
在实际分析中， 当对样本的分类不清楚时， 可 以先聚类分析， 然后进行判别分析。
２ 、聚 类 分 析 与 判 别 分 析 对 数 据 要 求 不 同 （ １） 聚类分析并不是一种纯粹的统计技术， 其 方法基本上与分布理论和显著性检验无关， 一般 不从样本推断总体。在实际应用中， 许多研究者实 际上是将手中的数据视为近似总体。与其说聚类 分析是一种假设检验的方法， 不如说它是一种建 立假设的方法。 （ ２） 而在判别分析中， 对于分布理论非常关 注， 它有一个基本假设： 每一个类别都应取自一 个多元正态总体的样本， 而且所有正态总体的协 方差矩阵或相关矩阵都假定是相同的， 如果不满 足正态总体的假定， 则需要对非正态化数据作正 态化变换； 如果不满足协方差矩阵相同的假定， 则 可能要采用非线性的判别函数， 例如： 二次判别函 数等。 ３、在市场研究中， 应用范围有所不同 （ １） 聚类分析在市场研究中可用于： ａ 、细 分 市 场 市场细分的过程就是将各种消费者划分成同 质的类别或部分。市场细分所用的变量由研究的
（ ２） 判别分析依据判别函数和后验概率来分类 ａ 、用 一 个 或 几 个 判 别 函 数 来 表 示 判 别 分 析 模 型， 最简单的线性判别函数如下： Ｄｉ＝ｂ０＋ｂ１ｘ１ｉ＋ｂ２ｘ２ｉ＋ｂ３ｘ３ｉ＋…＋ｂｋｘｋｉ 其中： Ｄｉ： 对应于第 ｉ 个个体的得分
ｂｉ： 判别系数或权重 ｘｉｊ： 自变量 根据所收集样本的数据， 可以计算出一个判 别临界值 Ｄｃ， 作为判定某个个体归属到哪一类别 的基准。 ｂ 、后 验 概 率 是 指 按 判 别 准 则 及 判 别 函 数 计 算 的个体落入各个子总体（ 类别） 的概率， 将某个个 体归入具有最大后验概率的子总体（ 类别） 。 记为用来建立判别规则的 Ｐ 维随机变量 ｓ： 合并协方差阵估计， ｔ＝１， …， Ｇ 为组的下 标， 共有 Ｇ 个组。 Ｓｔ： 第 ｔ 组的协方差阵 ｑｔ： 第 ｔ 组出现的先验概率 ｐ（ ｔ｜ｘ） ： 自变量为 ｘ 的观测属于 第 ｔ 组 的 后 验 概率 ｆｔ（ ｘ） ： 第 ｔ 组的分布密度在 Ｘ＝ｘ 处的值 按照 Ｂａｙｅｓ 理论， 自变量为 ｘ 的观测属于第 ｔ 组的后验概率： ｐ（ ｔ｜ｘ） ＝ｑｔ ｆｔ（ ｘ） ／ｆ（ ｘ） 。 于是， 可以把自变量 Ｘ 的取值空间 Ｒｐ 划分为 Ｇ 个区域 Ｒｔ， ｔ＝１， …， Ｇ， 使得当 Ｘ 的取值 ｘ 属于 Ｒｔ 时后验概率在第 ｔ 组最大， 即
异质性。
知的， 分析的依据就是原始数据， 没有任何事先的
根据分类对象的不同分为样品聚类和变量聚类。 有关类别的信息可参考。
２ 、判 别 分 析
例如简单的模拟聚类分析如下：
是一种进行统计判别和分组的技术手段。根
武钢 ５ 个主体厂的技术经济指标
据一定量案例的一个分组变量和相应的其他多元 变量的已知信息， 确定分组与其他多元变量之间
或“ 相 似 系 数 ”较 小 的 点 归 为 不 同 的 类 。
“距离”常用来度量样品之间的相似性 ，“相似
系 数 ”常 用 来 度 量 变 量 之 间 的 相 似 性 。
ａ、根 据 不 同 的 需 要 ， 距 离 可 以 定 义 为 许 多 类
型， 最常见、最 直 观 的 距 离 是 欧 几 里 德 距 离 ， 其 定
析和判别分析最简单、最朴素的阐释， 并且这一成 指标之间相似程度的统计量， 以这些统计量作为
语也道明了这两种方法的区别与联系， 都是分类 划分类型的依据。把一些相似程度较大的样品（ 或
技术， 但它们是分别从不同的角度来对事物分类 指标） 聚合为一类， 把另外一些相似程度较大的样
的， 或者说， 是两种互逆的分类方式。聚类分析与 品（ 或指标） 又聚合为另一类； 关系密切的聚合到
１ 、基 本 思 想 不 同
态等数据， 形成“数字分类学”学科。聚类分析和判
（ １） 聚类分析的基本思想
别分析就是这样的分类方法， 目前它们已经成为
我们所研究的样品或指标（ 变量） 之间存在程
比较标准的数据分类方法。
度不同的相似性（ 亲疏关系） ， 于是根据一批样品
我们常说“物以类聚、人以群分”， 就是聚类分 的多个观测指标， 具体找出一些能够度量样品或
判别分析都是多元统计中研究事物分类的基本方 一个小的分类单位， 关系疏远的聚合到一个大的
法， 但二者却存在着较大的差异。
分类单位， 直到把所有的样品（或指标）聚合完毕。
一 、聚 类 分 析 与 判 别 分 析 的 基 本 概 念
（ １） 判别分析的基本思想
１ 、聚 类 分 析
对已知分类的数据建立由数值指标构成的分
义如下：
ｍ
"! ２
ｄｉｊ＝
（ Ｘｉｋ－ Ｘｊｋ）
ｋ＝ １
其中： Ｘｉｋ： 第 ｉ 个样品的第 ｋ 个指标的观测值
Ｘｊｋ： 第 ｊ 个样品的第 ｋ 个指标的观测值
ｄｉｊ： 第 ｉ 个样品与第 ｊ 个样品之间的欧氏距离
依次求出任何两个点的距离系数 ｄｉｊ（ ｉ， ｊ＝１， ２，
…， ｎ） 以后， 则可形成一个距离矩阵：
将 任 何 两 个 样 品 ｘｉ 与 ｘｊ 看 成 维 ｐ 空 间 的 两
个向量， 这两个向量的夹角余弦用 ｃｏｓ!ｉｊ 表示：
ｐ
!ｘｉａ ｘｊａ
ｃｏｓ!ｉｊ＝
ａ＝１ ｐ
ｐ
"! ! ·ｘｉ２ａ
ｘｊ２ａ
ａ＝１
ａ＝１
１≤ｃｏｓ!ｉｊ≤１
当 ｃｏｓ!ｉｊ＝１， 说明两个样品 ｘｉ 与 ｘｊ 完全相似；
ｃｏｓ!ｉｊ 接 近 １， 说 明 两 个 样 品 ｘｉ 与 ｘｊ 相 似 密 切 ；
目的决定 ， 一般 可 用 背 景 变 量 、生 活 形 态 变 量 、产 品使用变量或消费者行为变量等。
ｂ 、研 究 消 费 者 行 为 同一类别的消费者或购买者可能有着相似的 购买行为， 通过对不同类别的消费者的研究， 可以 深入地探讨各类消费者的消费行为。 ｃ 、设 计 抽 样 方 案 在大规模的抽样调查中， 常常采用分层抽样， 以提高抽样的精度。例如： 湖北省的消费者调查的 抽样方案， 首先将城市或地区按一些可能影响消 费水平和行为的变量分层， 然后在各层中再实行 多级抽样， 分层所采用的方法之一就是聚类分析。 ｄ 、寻 找 新 的 潜 在 市 场 按照同一类的产品或品牌聚类， 可将竞争的 产 品 或 品 牌 分 类 。竞 争 更 为 激 烈 的 会 在 同 一 类 内 。 通过考察和比较目前自己的情况和竞争对手的情 况， 就有可能发现潜在的新产品机会。 ｅ 、选 择 试 验 的 市 场 为了推出某项新的市场策略， 例如开发新的 产品、实行新的 促 销 方 式 、新 的 广 告 创 意 等 ， 需 要 进行事先的实验。通过聚类分析， 可将实验的对象 （ 例如商店、城市、居民区等） 分成同质的几个组作 为实验组和控制组。 ｆ、作 为 多 元 分 析 的 预 处 理 通过聚类分析可以达到简化数据的目的， 将 众多的样品先聚集成比较好处理的几个类别或子 集， 然后再进行后续的多元分析。比如在回归分析 中， 有时不对原始数据进行拟合， 而是对这些子集 的中心作拟合， 可能会更有意义。又比如， 为了研 究不同消费者群体的消费行为特征， 可以先聚类， 然后再利用判别分析进一步研究各个群体之间的 差异。 （ ２） 判别分析在市场研究中主要用于对一个 企业进行市场细分， 以选择目标市场， 有针对性地 进行广告、促销等活动。例如， 根据消费者的一些 背景资料如何判定他们中的哪些会是某种品牌的 忠诚用户， 哪些不是？ 或者想要知道， 忠诚用户和 非忠诚用户在人口的基本特征方面到底有哪些不 同？ 如何区分价格敏感型的顾客和非敏感型的顾 客？ 哪些心里特征或生活形态特征可以用作判别 或区分的标准？ 各种目标消费群体在媒介接触方 面是否有显著的差异？ 等等这类均可以通过判别