第三章 多元正态分布
应用多元统计第三章汇总
X1
X
,
X n
则 X ~ Nn ( , 2In ) ，其中 (1,, n )' .
X 的二次型具有以下一些结论：
结论1 当 i 0 (i 1,, n) , 2 1 时，则
n
X ' X
X
2 i
~
2 (n)
;
i 1
当 i 0 (i 1,, n) , 2 1 时，则有
为Hale Waihona Puke n×p 矩阵，则称随机阵n
W
X
(
a)
X
' (a
)
X
'X
a 1
的分布为威沙特分布，记为W~Wp( n ,∑ ).
显然，p=1时，X(a) ~ N(0, 2) , 此时
n
W
X2 (a)
~
2 2 (n)
,
a 1
即 W1(n, 2 )就是 2 2 (n).当p=1, 2 1时,W1(n,1)就是 2 (n) .
n
aa' 或 M 'M a 1
这里
11
M
1
p
1'
n1
np
' n
其中 p 为随机阵 W 的阶数，n 为自由度，一元统计中的 2对
应 p 元统计中的协方差阵∑.
【注】随机阵 W 的密度函数是威沙特于1928年推导出来的， 故此分布称为威沙特分布。
2. 威沙特分布的性质
性质1 设X(a)～Np( ,∑ ) (a=1,2,…,n)相互独立，则样本离差阵A
www,
第三章 多元正态分布参数的假设检验
几个重要统计量的分布
单总体均值向量的检验及置信域
多元正态分布条件分布例题
多元正态分布条件分布例题
多元正态分布是指具有多个随机变量的正态分布。
它的概率密度函数可以用矩阵符号来表示。
对于一个具有n个变量的多元正态分布，其概率密度函数可以写作：
f(x) = (1 / ( (2π)^(n/2) |Σ|^0.5 )) exp(-0.5 (x-μ)' Σ^(-1) (x-μ))。
其中，x是一个n维向量，μ是一个n维向量，Σ是一个n×n 的对称正定矩阵，|Σ|表示Σ的行列式。
这个概率密度函数描述了多元正态分布的形状和分布情况。
现在让我们来看一个条件分布的例题。
假设我们有一个二维多元正态分布，其均值向量为μ = [1, 2]，协方差矩阵为Σ = [[2, 1], [1, 2]]。
我们想要求在给定X1 = 1 的条件下，X2 的条件分布。
首先，我们可以计算边缘分布，即X1的边缘分布。
X1的边缘
分布仍然是一个正态分布，其均值和方差可以通过均值向量和协方差矩阵的对应元素得到。
然后，我们可以计算条件分布。
在给定X1 = 1 的条件下，X2 的条件分布也是一个正态分布，其均值和方差可以通过边缘分布的均值和方差以及协方差矩阵的相关元素计算得到。
通过这个例题，我们可以理解多元正态分布的条件分布是如何计算的，以及如何利用均值向量和协方差矩阵来描述多元正态分布的形状和分布情况。
多元正态分布的概率密度函数
多元正态分布的概率密度函数
p(x) = (2π)^(−d/2) * ，Σ，^(-1/2) * exp[−1/2 *( x−μ )^T
Σ^(-1)(x−μ)]
其中，(2π)^(−d/2) 表示一个常数系数，Σ，^(-1/2) 表示协方差
矩阵的行列式的平方根的倒数，Σ^(-1)表示协方差矩阵的逆，exp[−1/2
*( x−μ )^T Σ^(-1)(x−μ)]表示对指数函数的指数部分进行运算。
在上述公式中，μ是一个d维向量，表示多元正态分布的均值向量，表示了数据在各个维度上的中心位置。
Σ是一个d×d的协方差矩阵，表
示不同维度之间的相互关系。
正态分布的主要特性是其均值和方差。
在多元正态分布中，均值向量
μ指示了分布在每个维度上的平均值。
协方差矩阵Σ则指示了分布在不
同维度间的相关性及展开度。
当协方差矩阵Σ是对角矩阵时，表示各个
维度之间是相互独立的，若协方差矩阵Σ中一些非对角元素为零，则表
示各个维度是独立的。
总之，多元正态分布的概率密度函数是一个描述多维空间中随机变量
分布的函数。
它通过均值向量和协方差矩阵来表示数据在不同维度上的中
心位置和相互关系，是统计学和概率论中一个重要的分布函数。
第三章 多元正态分布均值向量和协方差的检验
第三章多元正态分布均值向量和协方差的检验
1.基本思想和步骤
2.均值向量的检验
（1）分布：设且X与S相互独立，，则称统计量的分布为非中心分布
当时，称服从（中心）分布，记为
（2）转换为F分布：若且X与S相互独立，令，则
3.一个正态总体均值向量的检验
（1）协差阵已知，检验统计量为
（2）协差阵未知，检验统计量为
4.两个正态总体均值向量的检验
设为来自p维正态总体的容量为n的样本，
为来自p维正态总体的容量为m的样本，且两组样本相互独立
①针对共同已知协差阵，检验统计量为
②针对共同未知协差阵，检验统计量为
（2）协差阵不等
①针对n=m的情形，检验统计量为
②针对n≠m的情形，检验统计量为
5.多个正态总体均值向量的检验
（1）单因素方差分析：设k个正态总体分别为，从k个总体中取个独立样本，，假设H0成立，检验统计量为
其中，组间平方和为，组内平方和为，总平方和为，其中，
（2）若，则为X的广义方差，为样本广义方差
（3）Wilks分布：若且二者相互独立，
为Wilks统计量，分布为Wilks分布，简记为
（4）多元方差分析：检验统计量为
其中，，A为组间离差阵，E为组内离差阵，T为总离差阵，且T=A+E
6.协差阵的检验
（1）一个正态总体协差阵的检验：构造检验统计量
（2）多个协差阵相等的检验：构造检验统计量。
多元统计分析-第三章 多元正态分布
第三章 多元正态分布多元正态分布是一元正态分布在多元情形下的直接推广，一元正态分布在统计学理论和应用方面有着十分重要的地位，同样，多元正态分布在多元统计学中也占有相当重要的地位。
多元分析中的许多理论都是建立在多元正态分布基础上的，要学好多元统计分析，首先要熟悉多元正态分布及其性质。
第一节 一元统计分析中的有关概念多元统计分析涉及到的都是随机向量或多个随机向量放在一起组成的随机矩阵，学习多元统计分析，首先要对随机向量和随机矩阵有所把握，为了学习的方便，先对一元统计分析中的有关概念和性质加以复习，并在此基础上推广给出多元统计分析中相应的概念和性质。
一、随机变量及概率分布函数 （一）随机变量随机变量是随机事件的数量表现，可用X 、Y 等表示。
随机变量X 有两个特点：一是取值的随机性，即事先不能够确定X 取哪个数值；二是取值的统计规律性，即完全可以确定X 取某个值或X 在某个区间取值的概率。
(二)随机变量的概率分布函数随机变量X 的概率分布函数，简称为分布函数，其定义为：)()(x X P x F ≤=随机变量有离散型随机变量和连续型随机变量，相对应的概率分布就有离散型概率分布和连续型概率分布。
1、离散型随机变量的概率分布若随机变量X 在有限个或可列个值上取值，则称X 为离散型随机变量。
设X 为离散型随机变量，可能取值为1x ，2x ，…，取这些值的概率分别为1p ，2p ，…，记为k k p x X P ==)(（Λ,2,1=k ）称k k p x XP ==)(（Λ,2,1=k ）为离散型随机变量X 的概率分布。
离散型随机变量的概率分布具有两个性质： （1）0≥k p ，Λ,2,1=k（2）11=∑∞=k k p2、连续型随机变量的概率分布若随机变量X 的分布函数可以表示为dt t f x F x⎰∞-=)()(对一切R x ∈都成立，则称X 为连续型随机变量，称)(x f 为X 的概率分布密度函数，简称为概率密度或密度函数。
多元统计分析：第三章 多元正态总体参数的假设检验(补充)
第三章 多元正态总体参数的假设检验
所涉及的最大似然估计量—单个总体
ˆ X时 (4) 当 0 (0 0巳知)时, 取 似然函数达最大值:
L( X , 0 ) 2
np 2
0
n 2
n 1 etr - 0 A 2
19
第三章 多元正态总体参数的假设检验
15
第三章 多元正态总体参数的假设检验
所涉及的最大似然估计量—单个总体
单个p维正态总体Np(μ,Σ)，设X(i)(i=1,…,n)为来自p 维总体的随机样本.样本的似然函数为
L( , ) 2
np 2
1 ˆ A时, 似然函数达最大值 : ˆ X , (1)当 n n np A 2 A np L( X , ) 2 2 exp - n n 2
9
第三章 多元正态总体参数的假设检验
§3.6正态性检验--p维数据的正态性检验
D2(1)≤ D2(2) ≤…≤ D2(n) 统计量 D2 的经验分布函数取为
.
其中H(D2(t) |p)表示χ2 (p)的分布函数在D2(t)的值. 设χ2 分布的pt分位数为χt2 ,显然χt2满足: H(χt 2 |p)= pt. 即χ2 分布的pt 分位数χt2 ＝H-1(pt |p). 由经验分布得到样本的pt 分位数D2(t)=Fn-1(pt ). 若H(x|p)≌Fn(x)，应有D2(t) ≌ χt2 ,绘制点(D2(t) , χt2 )的散 布图,当X为正态总体时,这些点应散布在一条直线上. 10
(1) (1) ( 2) ( 2)
np 2
A1 A2 n
(t )
np 2 2
e
X )( X
第三章 正态分布
u
u指单侧U界值，也称
随机变量U的上侧α 分 位数。其意义为：从u 到+∞这一侧的面积为 α。
u/2
u/2 指双侧U界值，也
称随机变量U的双侧α 分位数。其意义为：从 u/2 到+∞这一侧的面 积为α /2,从-∞到-u/2 这一侧的面积也为α /2, 两侧面积之和为α 。
1.3 正态分布曲线及其面积分布
图3-8 两尾概率
图 正态分布两尾概率
对于标准正态分布，其两尾概率为： P（∣u∣≥1.96）＝0.05 P（∣u∣≥2.58）＝0.01
图 标准正态分布两尾概率
图 标准正态分布两尾概率
标准正态分布，其单尾概率为
图 标准正态分布单尾概率
图 标准正态分布单尾概率
图 正态分布与标准分布的概率
例如 x在（μ -1.96σ ，μ +1.96σ ）之外取值的两尾概率 为0.05，而一尾概率为0.025。即： P（x＜μ -1.96σ ）＝P（x＞μ +1.96σ ）＝0.025
图
正态分布两尾概率
同理，x在（μ-2.58σ，μ+2.58σ）之外取值的两尾概率为0.01， 而一尾概率为0.01。即： P（x＜μ-2.58σ）＝P（x＞μ+2.58σ）＝0.01。
第三章 正态分布
正态分布的概念 • 正态分布的通俗概念： 如果把数值变量资料编 制频数表后绘制频数分布图（又称直方图，它用 矩形面积表示数值变量资料的频数分布，每条直 条的宽表示组距，直条的面积表示频数（或频率 ）大小，直条与直条之间不留空隙。），若频数 分布呈现中间为最多，左右两侧基本对称，越靠 近中间频数越多，离中间越远，频数越少，形成 一个中间频数多，两侧频数逐渐减少且基本对称 的分布，那我们一般认为该数值变量服从或近似 服从数学上的正态分布。
第三章 常用概率分布之正态分布
图4.13 离均差的绝对值≤1 , 2 和3 的概率值
随机变量x在区间( μ – kσ, μ + kσ )外取值的概率P ( x<μ – kσ ) + P( x>μ + kσ )为两尾概率，记为α P ( x<μ – kσ ) + P( x>μ + kσ )=α P ( x<μ – kσ ) = P( x>μ + kσ )=α/2 两尾分位数Uα
=0.0227
0.020
fN (x)
0.020
fN (x)
0.016
0.016
0.012
0.012
0.008
P( y 40) 0.9773
P( y 26) 0.2119
0.008
0.004
0.004
0.000 10 15 20 25 30 35 40 45
0.000 10 15 20 25 30 35 40 45
第三章
常用概率分布
第一节 事件与概率 第二节 概率分布 第三节 二项式分布 第四节 正态分布 第五节 样本平均数抽样分布与标准误 第六节 t分布，x2分布和F分布
第三章
常用概率分布
第一节 事件与概率 第二节 概率分布 第三节 二项式分布 第四节 正态分布 第五节 样本平均数抽样分布与标准误 第六节 t分布，x2分布和F分布
首先计算：
查附表2，当u=－0.8时，FN(26)=0.2119，说明这 一分布从－∞到26范围内的变量数占全部变量数的 21.19%，或者说，y≤26概率为0.2119. 同理可得： FN(40)=0.9773
所以：P(26＜y≤40)=FN(40)－FN(26)=0.9773－0.2119
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
的分布遵从非中心Wishart分布，记为 其中 时称为中心Wishart分布，记为
Wishart分布的基本性质：
1．设 是从P维正态总体
中随机抽取的n个样品,则样本离差阵
2．若
且相互独立，则
3．若
为非奇异矩阵，则
第六节
随机向量数字特征的上机实现
第四节 多元正态分布的参数估计 多元正态分布的参数估计.doc
第三节 多元正态分布的定义及基本性质
一、多元正态分布的定义
定义1：若p维随机向量
的密度函数为：
其中：
是p维均值向量，
是p阶正定阵，则称X服
从p元正态分布 ，记为：
当
当p等于1时，即为一元正态分布。
时，也有正态分布的定义。
二、多元正态变量的基本性质
1、若 是对角阵，则
相互独立。
2、
A为s×p阶常数阵，d为s维常数向量，则：
的分布称为t分布。记为 4. F分布 设随机变量 且x与y相互独立，则随机变量 服从自由度为（n，m）的F分布，记为
第二节 多元统计分析中的基本概念
一、随机向量及概率分布 （一）随机向量
的整体称为p维随机向量，记为：
将p个随机变量
在多元统计分析中，仍将所研究对象的全体称为总体。如果构成总体中的个
二、随机变量的数字特征 （一）离散型随机变量的数字特征
若X为离散型随机变量，其概率分布为 则X的数学期望（或称均值）和方差分别定义为：
（二）连续型随机变量的数字特征 若X为连续型随机变量，其密度函数为f（x），则X的数学期 望（或称均值）和方差分别定义为：
数学期望有如下的数学性质： 1.设C是常数，则E（C）=C 2.设X是随机变量，C是常数，则E（CX）=CE（X） 3.设X、Y是任意两个随机变量，则E（X+Y）=E（X）+E（Y） 4.设X、Y是两个相互独立的随机变量，则E（XY）=E（X）E（Y） 方差有如下数学性质： 1.设C是常数，则D（C）=0 2.设X是随机变量，C是常数，则D（CX）=C2D（X）
3、设X、Y是两个相互独立的随机变量，则D（X+Y）=D（X）+D（Y）
三、一些重要的一元分布 1.正态分布 连续型随机变量X的概率密度函数为：
则称X服从正态分布。
2.卡方分布 设X~N（0，1）， 服从自由度为n的 为抽自总体的一个样本，其平方和 分布，记为：
3.t分布 设x~N（0，1），
且x与y相互独立，则随机变量
2.随机向量的协方差矩阵 设 称
为X的方差阵或协差阵.
3.随机向量X和Y的协差阵
当X=Y时，即D(X)
4.随机向量的相关系数矩阵 若 相关阵为 的协差阵存在，且每个分量的方差都大于0，则随机向量的
5.协方差阵和相关系数矩阵的关系 设标准离差阵为 则： 协差阵有如下数学性质： 即X的协差阵为非负定阵。 对于常数向量a，有D（X+a）=D（X） 设A为常数矩阵，则 其中，a，A，B为大小 适合运算的常数向量和 矩阵。
因为：
样本离差阵的定义为：
因为：
样本协差阵定义为：
样本相关阵定义为：
其中：
三、 设 每个样品为：
的最大似然估计及基本性质
来自于正态总体 的样本（样本容量为n）， 样本资料阵为：
则用极大似然估计法可求出
的估计量：
的估计量同样具有以下的优良性质：
第五节
一、样本均值向量 （一）正态总体 设
的抽样分布
对随机向机向量，它的多元分布函数定义为： 记为 其中：
1、离散型随机向量的概率分布
定义：若 记 则称X为离散型随机向量，并称 为离散型随机变量X的概率分布。 它具有两个性质： 是p维随机向量，若存在有限或可列个p维随机向量 且
2、连续型随机向量的概率分布 定义：设 使得对一切 若存在一个非负函数 有：
值得注意的是： 1、多元样本中的每个样品，对p 个指标的观测值往往是有相关关 系的，但不同样品之间的观测值 一定是相互独立的。 2、多元分析所处理的多元样本观 测数据一般都属于横截面数据， 即在同一时间不同空间上的数据。
二、多元样本的数字特征
定义：设 为来自p元总体的样本，其中：
则：样本均值向量定义为：
即正态随机向量的线性函数还是正态的。
3、 ,将 做如下剖析：
则
多元分析中的许多方法，大都假定数据来自多元正态总体。但 要 判断已有的一批数据是否来自多元正态总体，是很困难的。可是 反过来要肯定数据不是来自多元正态总体，比较容易。即如果
则它的每个分量必服从一元正态分布，因
此把每个分量的n个样品值作成直方图，如果断定不是正态分布，就可以
则称X为连续型随机向量，称 它具有两个性质： 二、随机向量的数字特征 1.随机 向量的数学期望 设 若
为分布密度函数。
存在且有限，则称
为X的均值向量或数学期望
均值向量有以下性质： 1.E（AX）=AE（X） 2.E（AXB）=AE（X）B 3.E（AX+BY）=AE（X）+BE（Y） 其中：X、Y为随机变量，A、B为适合运算的常数矩阵。
1、离散型随机变量的概率分布 若随机变量X在有限或可列个值上取值，记
且 则称X为离散型随机变量，并称
为离散型随机变量X的概率分布。 它具有两个性质： 2、连续型随机变量的概率分布 对于随机变量X的分布函数， 一切实数x有： 则称X为连续型随机变量，称f（x）为X的分布密度函数。 它具有两个性质： 若存在一个非负函数f（x），使得对
体是由p个需要观测指标的个体，称这样的总体为p维总体，或p元总体。由 于从p维总体中随机抽到一个个体，其p个指标观测值是不能事先精确知道， 它依赖于被抽到的个体，因此，p维总体可用p维随机向量来表示，这里的维 或元表示共有几个分量。例如，要研究某类企业的三项经济效益指标，则所
有这类企业的三项经济效益指标就构成了一个三元总体。
断定随机向量 不服从正态分布。
第四节
多元正态分布的参数估计
一、多元样本的概念
多元分析研究的总体是多元总体，从多元总体中随机抽取n个个体： 若 相互独立，且与总体同分布，则称
为该总体的一个随机样本 。每个
称为一个样品，
为第a个样品对第j个指标的观测值，显然每个样品都
是一个随机向量，将n个样品对p个指标都进行观测，得到如下一个随机 矩阵（观测矩阵、样本资料阵）：
的分布
是从总体中抽到的一个样本，则样本均值
的分布服从正态分布，即
（二）非正态总体 中心极限定理： 是来自总体的一个样本，该总体有均值 和有限协方差阵
则当样本容量 n很大且 n相对于 p也很大时，样本平均数的分布近似于正态分布，
二、样本离差阵
Wishart分布
定义:设 维正态总体 则
的分布
分别来自于协方差阵相等的 p 维随机矩阵