多元正态总体参数的假设检验(上)
多元正态分布参数的估计与假设检验-判别分析
注 共轭分布族总是针对分布中的某个参数而言的 共轭分布族总是针对分布中的某个参数而言的.
三、贝叶斯风险
1、贝叶斯风险的定义 由第一小节内容可知，给定损失函数以后， 由第一小节内容可知，给定损失函数以后，风 险函数定义为
R(d ) = inf R(d ),
* d ∈D
∀d ∈ D
则称d * ( X )为参数θ的贝叶斯估计量
注 1、贝叶斯估计是使贝叶斯风险达到最小的决策 、 函数. 函数 2、不同的先验分布，对应不同的贝叶斯估计 、不同的先验分布， 2、贝叶斯点估计的计算 平方损失下的贝叶斯估计 定理4.2 定理 设θ的先验分布为π(θ)和损失函数为 的先验分布为π θ 和损失函数为
Θ
=∫
Θ
∫
Χ
L(θ , d ( x ))q( x | θ )π(θ )dxdθ
=∫
Θ
∫θ | x )g(x )dxdθ
Θ
= ∫ g(x ){ ∫ L(θ , d ( x ))h(θ | x )dθ }dx
Χ
四 、贝叶斯估计
1、贝叶斯点估计 定义4.6 若总体 的分布函数F(x,θ)中参数θ为随机 定义 若总体X的分布函数 中参数θ 的分布函数 θ 中参数 变量， θ 为 的先验分布，若决策函数类D中存在 变量，π(θ)为θ的先验分布，若决策函数类 中存在 一个决策函数使得对决策函数类中的任一决策函数 均有
第8.2节 节
判别分析
一、先验分布和后验分布 二、共轭先验分布 三、贝叶斯风险 四、贝叶斯估计
一、先验分布与后验分布
上一章提出用风险函数衡量决策函数的好坏， 上一章提出用风险函数衡量决策函数的好坏，但 是由于风险函数为二元函数，很难进行全面比较。 是由于风险函数为二元函数，很难进行全面比较。 贝叶斯通过引入先验分布， 的指标. 贝叶斯通过引入先验分布，给出了整体比较 的指标 1、先验信息 在抽取样本之前， 在抽取样本之前，人们对所要估计的未知参数 先验信息. 所了解的信息，通常称为先验信息 所了解的信息，通常称为先验信息 例1(p121例4.6) 某学生通过物理试验来确定当地 1(p121例 的重力加速度，测得的数据为(m/s²): 的重力加速度，测得的数据为 9.80, 9.79, 9.78, 6.81, 6.80 试求当地的重力加速度. 试求当地的重力加速度
第六章(4)多元正态总体均值向量的假设检验
第六章（4）多元正态总体均值向量的假设检验类似一元统计分析中的各种均值和方差的检验相应给出多元统计分析中的各种均值向量和协差阵的检验。
我们只侧重于解释选取统计量的合理性，而不给出推导过程，最后给出几个实例第1节 HotellingT 2分布为了对多元正态总体均值向量作检验，首先需要给出HotellingT 2分布的定义。
定义 设),(~),,(~∑∑n W S N Xp p μ且X 与S 相互独立，pn ≥，则称统计量XS X n T12-'=的分布为非中心HotellingT 2分布，记为),,(~22μn p T T 。
当0=μ时，称2T 服从（中心）HotellingT 2分布，记为),(2n p T ，由于这一统计量的分布首先由Harold Hotelling 提出来的，故称为HotellingT 2分布，值得指出的是，我国著名统计学家许宝马录 先生在1938年用不同方法也导出T 2分布的密度函数，因表达式很复杂，故略去。
在一元统计中，若n X X ,,1 来自总体),(2σμN 的样本，则统计量：)1(~ˆ)(--=n t X n t σμ分布其中212)(11ˆ∑=--=ni iX Xn σ显然)()ˆ()(ˆ)(12222μσμσμ-'-=-=-X X n X n t与上边给出的T2统计量形式类似，且⎪⎪⎭⎫⎝⎛-n N X 2,0~σμ。
可见，T 2分布是一元统计中t 分布的推广。
基本性质：在一元统计中，若统计量)1(~-n t t 分布，则)1,1(~2-n F t 分布，即把t 分布的统计量转化为F 统计量来处理，在多元统计分析中T 2统计量也具有类似的性质。
定理 若),(~),,0(~∑∑n W S N Xp p 且X 与S 相互独立，令X S X n T 12-'=，则)1,(~12+-+-p n p F Tnpp n这个性质在后面经常用到。
第2节 均值向量的检验设p 元正态总体),(∑μp N ，从总体中抽取容量为n 的样本∑∑=='--==ni ni i i i n X X X XS X nX X X X 11)()()()()2()1())((,1,,,, 。
正态总体方差的假设检验
方差的计算方法
简单方差
适用于数据量较小，且数据间相互独立的情况。
加权方差
适用于数据量较大，且数据间存在相关关系的 情况，需要考虑到每个数据点的重要程度。
配对样本方差检验
总结词
配对样本方差检验用于比较两个相关样本的方差是否相同。
详细描述
在配对样本方差检验中，我们首先需要设定一个零假设，即两个相关样本的方差无显著差异。然后， 通过计算检验统计量（如Wilcoxon秩和统计量或Stevens' Z统计量），我们可以评估零假设是否被拒 绝。如果零假设被拒绝，则可以得出两个相关样本方差不相同的结论。
方差齐性检验的目的是为了后续 的方差分析提供前提条件，确保 各组数据具有可比性。
方差分析
方差分析（ANOVA）是
1
用来比较多个正态总体均
值的差异是否显著的统计
方法。
4
方差分析的结果通常以p值 表示，若p值小于显著性水 平（如0.05），则认为各组 均值存在显著差异。
2
方差分析的前提条件是各
组数据具有方差齐性和正
正态总体方差假设检验的未来发展
改进假设检验方法
结合其他统计方法
结合其他统计方法，如贝叶斯推断、机器学习等， 可以更全面地分析数据和推断总体特征。
针对正态总体方差假设检验的局限性，未来 研究可以探索更灵活、适应性更强的检验方 法。
拓展应用领域
正态总体方差假设检验的应用领域可以进一 步拓展，特别是在大数据和复杂数据分析方 面。
数学表达式
多元课件第三章
H H D D ' ' ' 11 1 2 rO rO AB B O H H O O O O 21 2 2
22
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--一般p维正态变量的二次型
结论2 当μi≠0(i=1,„,n),σ2 =1时,X′X的 分布常称为非中心χ2分布. 定义3.1.1 设n维随机向量X～Nn(μ,In)
(μ≠0),则称随机变量ξ＝X'X为服从 n n个自由度,非中心参数 i2 i 1` 2 的χ 分布，记为
2 2 n
X X ~ ( n , ), X X ~ ( )
第三章 多元正态总体参数的假设检验
一元统计中,参数μ ,σ 2的检验 涉及到一个总体、二个总体,乃至 多个总体的检验问题; 推广到p元统计分析中，类似地 对参数向量μ 和参数矩阵Σ 涉及 到的检验也有一个总体、二个总体 ,乃至多个总体的检验问题。
3
第三章 多元正态总体参数的假设检验
在一元统计中，用于检验μ, σ2的抽 样分布有χ2分布,t 分布,F分布等,它们都 是由来自总体N(μ, σ2)的样本导出的检验 统计量. 推广到多元统计分析后，也有相应于 以上三个常用分布的统计量: Wishart, Hotelling T 2,Wilks Λ统计 量,讨论这些统计量的分布是多元统计分 析所涉及的假设检验问题的基础.
6
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
1 1 2 则Y Y X X ~ ( n , ), 其中 2 2
结论3 设X～Nn(0 ,σ2In), A为n阶对称方阵, rk(A)= r,则 二次型 X'AX/σ2～χ2(r) A2＝A(A为对称幂等阵). 2 2 2 特例:当A=In时, X I X / X X / ~ ( n ) n
多元正态分布参数的假设检验
( ) ( ) 3. 计算统计量T的具体值 T02 = n X − μ0 ′ Σ−1 X − μ0 .
4. 按规定的小概率标准α，查 χ 2分布表，得临界
值 χα2 ( p)，并作出判断: 当 T02 ≤ χα2 ( p)，接受H0，拒绝H1，即认为与没有显
著差异。 当 T02 ＞ χα2 ( p)，接受H1，拒绝H0，即认为与有显著
当p = 1时，因为，X
~
N1 ( μ1 ,
σ2
n
)
，Y
~
N1 ( μ2
,
σ2
m
)
,
且相
互独立，在，H0成立条件下，有
(X −Y) 1 + 1
t=
nm
~ t(n + m− 2)
∑ ∑ ⎡ n
⎢
(Xi
− X)2
+
m
(Yi
−Y
)2
⎤ ⎥
(n+m−2)
⎣ i=1
j=1
⎦
∑ ∑ 显然
t2 = nm
⎡ ⎢
n
Xj −X
Xj −X ′
9
武汉理工大学统计学系唐湘晋
( )( ) ∑ 在
H 0 :μ
=
μ0下, S=
X~
n
X
1 NP (μ0 , n Σ)
j -X Xj -X
′
,
~
X − μ0 ~
Wp (n −1,
NP (0,
Σ).
1 n
Σ)
j =1
故由T2分布定义知
( ) ( ) T 2 = (n −1) ⎡⎣ n X − μ0 ⎤⎦′ S−1 ⎡⎣ n X − μ0 ⎤⎦ ~ T 2 ( p, n −1)
多元线性回归模型的各种检验方法
对多元线性回归模型的各种检验方法对于形如u X X X Y k k +++++=ββββ 22110 （1） 的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、 对单个总体参数的假设检验：t 检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。
特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。
如果拒绝0H ，说明解释变量j X 对被解释变量Y 具有显著的线性影响，估计值j βˆ才敢使用；反之，说明解释变量j X 对被解释变量Y 不具有显著的线性影响，估计值j βˆ对我们就没有意义。
具体检验方法如下：（1） 给定虚拟假设 0H ：j j a =β；（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆjj j j j j Se a Se E t βββββ-=-= 的数值； 11ˆ)ˆ(++-==j j jj jj j C C Se 1T X)(X ，其中σβ（3） 在给定的显著水平α下（α不能大于1.0即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；（4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。
t 检验方法的关键是统计量 )ˆ(ˆj jj Se t βββ-=必须服从已知的t 分布函数。
什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）：（1） 随机抽样性。
我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21 =。
这保证了误差u 自身的随机性，即无自相关性，0))())(((=--j j i i u E u u E u Cov 。
（2） 条件期望值为0。
给定解释变量的任何值，误差u 的期望值为零。
R语言版应用多元统计分析多元正态总体的假设检验
应用多元统计分析第3章 多元正态总体的假设检验- 1-•在一元正态总体 中,关于参数 的假设检验涉及到一个总体和多个总体情况,推广到多元正态总体 ,关于参数 的假设检验问题也涉及一个总体和多个总体情况。
本章我们只讨论关于均值向量 的假设检验问题。
•在多元统计中，用于检验 的抽样分布有维希特(Wishart)分布、霍特林(Hotelling)分布和威尔克斯(Wilks)分布，它们都是由来自多元正态总体 的样本构成的统计量。
在第2章中，我们已经讨论了维希特分布的定义和性质，本章我们讨论后两个统计量的分布。
霍特林 分布在一元统计中，若 ，且 相互独立，则或等价地下面把 的分布推广到多元正态总体。
定义3.1 设 ， ，其中 ，且 与 相互独立。
则称统计量 为 统计量，其分布称为自由度为n的霍特林 分布，记为分布的性质性质1 设 是来自正态总体 的随机样本， 和A 分别是样本均值向量和样本离差阵，则性质2 分布与F分布的关系为：若 则分布的性质性质3 设 是来自正态总体 的随机样本， 和A 分别是样本均值向量和样本离差阵，记则性质4 分布只与n,p有关，而与 无关。
威尔克斯 分布定义3.2 设 ，称协方差阵 的行列式 为的广义方差。
若 是来自总体 的随机样本，A为样本离差阵，则称或 为样本广义方差。
定义3.3设 ，这里 ，且 与 独立，则称广义方差比为 统计量，其分布称为威尔克斯 分布，记为 。
当p=1时， 分布正是一元统计中参数为 的贝塔分布，即。
分布的性质性质1当 时，若 ，则当 时，若 ，则当p=1时，当p=2时，若 ，则当 时有下列极限分布其中 。
下面是 分布的两个有用性质。
性质6 若 ，则存在 ， 且 之间相互独立，使得性质7 若 则单总体均值向量的假设检验设总体为 , 为来自该总体的随机样本。
欲检验下列假设：其中 为已知常数向量。
1. 当 已知时均值向量的假设检验此时于是有若检验统计量取为则当原假设 成立时， 。
多元线性回归模型的各种检验方法
对多元线性回归模型的各种检验方法对于形如u X X X Y k k +++++=ββββΛΛ22110 （1）的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、 对单个总体参数的假设检验：t 检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。
特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。
如果拒绝0H ，说明解释变量j X 对被解释变量Y 具有显著的线性影响，估计值j βˆ才敢使用；反之，说明解释变量j X 对被解释变量Y 不具有显著的线性影响，估计值j βˆ对我们就没有意义。
具体检验方法如下：（1） 给定虚拟假设 0H ：j j a =β；（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆjj j j j j Se a Se E t βββββ-=-= 的数值； 11ˆ)ˆ(++-==j j jj jj j C C Se 1T X)(X ，其中σβ（3） 在给定的显著水平α下（α不能大于1.0即10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；（4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。
t 检验方法的关键是统计量 )ˆ(ˆj jj Se t βββ-=必须服从已知的t 分布函数。
什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）：（1） 随机抽样性。
我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21ΛΛ=。
这保证了误差u 自身的随机性，即无自相关性，0))())(((=--j j i i u E u u E u Cov 。
（2） 条件期望值为0。
给定解释变量的任何值，误差u 的期望值为零。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1
2
X X ~ (n, ), 其中
2
1
2
结论3 设X～Nn(0 ,σ2In), A为n阶对称方阵, rk(A)= r,则 二次型 X'AX/σ2～χ2(r) A2＝A(A为对称幂等阵). 特例:当A=In时, X I n X / 2 X X / 2 ~ 2 (n)
一元统计中,参数μ ,σ 2的检验 涉及到一个总体、二个总体,乃至 多个总体的检验问题; 推广到p元统计分析中，类似地 对参数向量μ 和参数矩阵Σ 涉及 到的检验也有一个总体、二个总体 ,乃至多个总体的检验问题。
3
多元正态总体参数的假设检验
在一元统计中，用于检验μ, σ2的抽 样分布有χ2分布,t 分布,F分布等,它们都 是由来自总体N(μ, σ2)的样本导出的检验 统计量. 推广到多元统计分析后，也有相应于 以上三个常用分布的统计量: Wishart, Hotelling T 2,Wilks Λ统计 量,讨论这些统计量的分布是多元统计分 析所涉及的假设检验问题的基础.
27
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--一般p维正态变量的二次型
rk(A)=r. 则(X-μ)′A(X-μ) ～χ2 (r) ΣAΣAΣ＝ΣAΣ . 证明 因Σ＞0,则rk(Σ)＝p.因Σ为对 称阵,故存在正交阵Γ,使得
结论2 设X～Np(μ,Σ),Σ＞0,A为对称阵,
(充分性的证明类似于结论3中充分性的证 明方法,必要性证明不要求)
13
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
结论5 二次型与线性函数的独立性: 设X～Nn(μ,σ2In), A为n阶对称阵， B为m×n阵,令ξ＝X'AX,Z=BX(Z为m维 随机向量),若BA=O,则BX和X'AX相互独 立. 证明 设rk(A)=r＞0 (当r=0时A＝0， 结论显然成立)，存在正交阵Γ使
证明
结论1 设X～Np(μ,Σ),Σ＞0,则X'Σ-1 X～
因Σ＞0,由正定阵的分解可得 Σ＝C C′(C为非退化阵). 令Y＝C -1X (即X＝CY)，则 Y～Np(C -1μ,C -1 Σ(C -1)′), 因Σ＝CC′，所以Y～Np(C -1μ,Ip). 且 X′Σ-1X＝Y ' C'Σ-1 CY＝Y ' Y～χ2(p,δ)， 其中δ＝(C -1μ)′(C -1μ)=μ'Σ-1μ.
应用多元统计分析
多元正态总体 参数的假设检验(一)
1
多元正态总体参数的假设检验
目 录( 一 )
§3.1 几个重要统计量的分布
一、正态变量二次型的分布 二、威沙特分布 三、霍特林T2分布 四、威尔克斯统计量
§3.2 单总体均值向量的检验及置信域 §3.3 多总体均值向量的检验
2
多元正态总体参数的假设检验
Dr O ' Dr O H11 H12 ' ' AB B O O O O O H 21 H 22
22
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--一般p维正态变量的二次型
χ2(p,δ)，其中δ＝μ'Σ-1 μ.
7
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量的二次型
结论4 设X～Nn(μ,σ2In), A为对称阵,且 rk(A)=r, 则二次型
1
2
X AX ~ (r , ), 其中
2
1
A2＝A(A为对称幂等阵).
2
A.
作业1:证明充分性(习题3-1 ）
21
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
③且
又因为 X' BX=Y 'Γ'BΓ Y= Y 'HY, 其中H=Γ‘BΓ 。④如果由AB=O,能够证明 X′BX可表示为Yr+1，…,Yn的函数，即H 只是右下子块H22为非O的矩阵。 则X′AX 与X′BX相互独立。
17
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
结论6 两个二次型相互独立的条件: 设X～Nn(μ,σ2In), A，B为n阶对称阵则 AB ＝O X'AX与X'BX相互独立. 作业2:证明必要性(习题3-2） 证明必要性的思路：记rk(A)=r. ①因A为n阶对称阵,存在正交阵Γ,使得 Γ'AΓ=diag(λ1,…,λr 0,..,0) ②令Y＝Γ' X，则Y～Nn(Γ'μ,σ2In),
30
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--一般p维正态变量的二次型
结论3 设X～Np(μ,Σ),Σ＞0,A和B为p阶 注意:修改P55倒2行 对称阵,则 (X-μ)′A(X-μ)与(X-μ)′B(X-μ)独立
ΣAΣBΣ＝Op×p.
ቤተ መጻሕፍቲ ባይዱ
(μ≠0),则称随机变量ξ＝X'X为服从 n n个自由度,非中心参数 i2 的χ2分布，记为
2
i 1`
X X ~ (n, ), X X ~ ( )
2 n
6
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
则 Y Y
1/ 2
1/ 2
28
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--一般p维正态变量的二次型
注意:修改P55
令
这里
29
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--一般p维正态变量的二次型
由以上“1.结论3”的证明知
即
两边左右乘Σ1/2，即得
ΣAΣAΣ＝ΣAΣ .
4
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
设Xi ～N1(μi ,σ2)(i =1,...…,n),且相互独立，记
结论1
一般情况(μi ＝0，σ2 ≠1时),
5
多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
结论2 当μi≠0(i=1,…,n),σ2 =1时,X′X的 分布常称为非中心χ2分布. 定义3.1.1 设n维随机向量X～Nn(μ,In)