统计学讲义最新稿

第五章统计量及其分布在概率论的学习中，我们已经知道，随机变量及其概率分布全面描述了随机现象的统计规律性，但在实际问题的研究中概率分布往往是未知的。

我们要讨论统计量的分布，找到总体参数与统计量的分布之间的联系，进而通过样本去推断总体的数字特征。

第一节总体与样本1.总体统计学把所要研究的事物或现象的全体称为总体，而把构成总体的每个元素（成员）称为个体。

要研究10,000名在校大学生，10,000名大学生就构成总体，每位大学生就是个体。

实际问题的研究中，我们关心的往往不是大学生（个体）的一切方面，而是它的某个数量标志，比如大学生的身高，这时所有的身高就构成总体，总体表现为一个数据集，其中有的数值大有的数值小，有的出现机会多，有的出现机会少，记身高为X，它是一个随机变量，记其分布函数为F（x）。

可以把X的所有可能取值看做总体，并称这一总体为具有分布函数F（x）的总体。

总体也可以是多维的，如研究大学生的身高对体重的影响，身高和体重这两个数量标志就构成二维随机向量（X1，X2），其取值的全体就构成总体，即二维总体,记二维随机向量（X1，X2）的联合分布函数为F（x1, x2），称这一总体为具有分布函数F（x1, x2）的总体。

2.样本统计学对总体的研究是以样本为工具的。

为了掌握总体的分布规律，从总体中随机抽取n 个个体,其标志值（比如身高数值）记为(x 1，x 2，…，x n )，则(x 1，x 2，…，x n )称为总体的一个样本，样本包含的个体的数目n 称为样本容量。

由于样本是从总体中随机抽取的，抽取前无法预知它的数值，每个X i (1,2，…n)都是一个随机变量，样本(X 1,X 2,…,X n )则是一个n 维随机向量。

样本在抽取后就有确定的观测值，表现为n 个具体的数据(x 1，x 2，…，x n )。

3. 简单随机样本抽取样本是手段，推断总体才是目的。

为使样本更好的反映总体的信息，对样本抽取有两个基本要求。

一是样本具有随机性，总体中每个个体都有同等可能性进入样本，即每个X i 与总体X 具有相同的分布F （x ）。

二是样本满足独立性，即X 1,X 2,…,X n 相互独立，每一X i 的取值不影响另一X i 的取值。

如果从总体X 中抽取样本（12,,,nX X X ），其每个分量iX （1,2,,i n =）都与总体X 具有相同的概率分布，且相互独立，则这样的抽样方法称为简单随机抽样，而如此得到的样本，称为简单随机样本。

如果总体X 具有分布函数()F x 或概率密度()f x ，显然来自总体X 的简单随机样本（12,,,n X X X ）具有联合概率分布1()n i F x =∏或联合概率密度1()ni f x =∏。

4.总体分布函数与样本分布函数样本是总体的代表，简单随机样本能较好的代表总体，其代表性到底如何呢？设x 1，x 2，…，x n 是取自分布函数为F （x ）的总体的样本，将样本观测值按升序排列，记为x (1)，x (2)，…，x (n)，定义如下函数(1)()(1)()0,()/,,1,2,1n k k n x x F x k n x x x k n x x +<⎧⎪=≤<=⋯-⎨⎪>⎩当当1,当则F n (x)是一非减右连续函数，且满足 F n (-∞)=0F n (+∞)=1由此可见，F n (x)是一个分布函数，称为样本分布函数（经验分布函数）。

对于每一固定的x ，F n (x)是事件｛X ≤x ｝发生的频率，当n 固定时,不同的样本观测值x 1，x 2，…，x n 将有不同的F n (x)，F n (x)是一随机变量。

格里纹科定理：设x 1，x 2，…，x n 是取自总体分布函数（理论分布函数）为F(x)的样本，F n (x)是样本分布函数，有1)0)()(sup lim (==-+∞<<∞-∞→x F x F P n x n定理表明，当n 充分大时,样本分布函数是总体分布函数的一个良好的近似，这就是为什么我们用样本推断总体的理由。

第二节 统计量及其分布1.统计量设（12,,,n X X X ）为来自总体X 的一个样本，则称不包含任何未知参数的实值函数12(,,,)n X X X Φ为一个统计量。

例如，12(,)X X 是从正态总体2(,)X N μσ中抽出的样本，其中μ，2σ是未知参数，则121()2X X +，23X +，1222X X +都是统计量，因为它们不含有未知参数。

而 121()2X X μ+-, 1X σ则不是统计量。

必须注意，统计量中不能含有未知参数，但允许含有已知参数。

例如：设总体X ~ N(μ,σ2),从中抽取一个样本（X 1，X 2，…，X n ），那么，当 μ,σ2X ,σ2X虽然统计量的构造不依赖于未知参数，但统计量的分布一般是依赖未知参数的。

统计量是一个随机变量，统计量的分布称为抽样分布。

2.常用统计量 设（12,,,n X X X ）是从总体X 中抽取的样本，称统计量11nii X X n ==∑为样本均值，称统计量2211()1ni i S X X n ==--∑ 为样本方差；而称S =为样本标准差；称统计量11,1,2,n kk i i M X k n ===∑为样本k 阶原点矩；称统计量11(),1,2,nk ki i M X X k n ='=-=∑为样本k 阶中心矩。

显然 1M X =211n M S n-'=⋅ 3.样本均值X 的数学期望与方差设X 是来自具有均值μ及方差2σ的总体X 的简单随机样本（12,,,n X X X ）的均值，则()E X μ=，21()D X nσ=证明 11111()()()n n i i i i E X E X E X n n n nμμ=====⋅⋅=∑∑2222111111()()()n ni ii i D X D X D X n n nnnσσ=====⋅⋅=∑∑由此可知，不论总体的分布如何，从中抽样，其样本均值X 的数学期望与总体的期望相等，而方差则是总体方差的1n 倍。

当样本（12,,,n X X X ）是由有限总体的无放回抽样所得的样本时，由于它的n 个分量i X （1,2,,i n =）不能假定为相互独立，因此定理中的第2个公式不再成立，而需要乘上一个修正因子()(1)N n N --，即有以下定理。

设（12,,,n X X X ）是取自容量为N 且有均值μ及方差2σ的有限总体的无放回样本，则()E Xμ=，2()1N n D Xn Nσ-=⋅-证明从略。

由于当N n时，修正因子的数值接近1，故修正因子一般在总体有限而样本容量大于总体的5%的情况下使用。

第三节抽样分布1.三大抽样分布（1）若随机变量2(,)X Nμσ，则其密度函数为22()2()xf xμσ--=。

在数理统计中，经常假定总体所服从的分布是正态分布，其主要的原因自然是这个正态分布的常见性。

另一方面，正态总体的情形比较容易处理，而总体服从其它分布的统计量的精确分布往往是非常复杂的。

（2）若12,,,nX X X X是相互独立的随机变量，且均服从于标准正态分布(0,1)N，则22212nX X X+++服从2χ分布。

2χ分布的密度函数为122221,0(;)2()200x nne x xnx nxχ--⎧>⎪⎪=Γ⎨⎪⎪≤⎩当时；，当时，其中n是它的参数，称为自由度。

随机变量X是服从自由度为n的2χ分布，以后简记为2()X nχ，下图是2χ分布的密度函数曲线。

（3）若(0,1)X N，2()Y nχ，且X与Y相互独立，则随机变量T =n 的t 分布，且记为()T t n 。

t 分布的密度函数为122(;))()n x t x n x n +-=+-∞<<+∞。

下图是t 分布的密度函数曲线。

（4）若X 与Y 是相互独立的随机变量，分别服从自由度为m 和n 的2χ分布。

则随机变量X m X nF Y n Y m==⋅服从自由度为(,)m n 的F 分布，简记为(,)FF m n ，F 分布的密度函数为122()2()()(1),0;(;,)()()220,0.m m nm nm m mx x x mn f x m n n n nx +--+⎧Γ⎪+>⎪=⎨ΓΓ⎪⎪≤⎩下图是F 分布的密度函数曲线。

如果(,)X m F F m n Y n=，由定义易知1(,)X n F n m F Y =对给定的(01)a a <<，应有 1(,)a P F n m a F ⎧⎫>=⎨⎬⎩⎭即 1(,)a P F a F n m ⎧⎫<=⎨⎬⎩⎭从而得 11(,)a P F a F n m ⎧⎫>=-⎨⎬⎩⎭又因为 {}1(,)1a P F F m n a ->=- 比较两式可得 11(,)(,)a a F m n F n m -=如0.95(15,10)F 0.051(10,15)F =10.392.55==。

2χ分布，t 分布和F 分布的密度函数中都出现了函数()a Γ，它是数学分析中的一种特殊函数，形式为10()a x a x e dx ∞--Γ=⎰。

上式中的积分很难直接计算，同样这三种分布的分布函数也是很难直接求解，因为采用制表的方法给出它的数值，在实际应用中可查表求的随机变量落在各区间中的概率。

这里特别提请注意的是t 分布的对称性，它的密度函数曲线是关于直线0x =对称的，因此一般只给出0x >的数值，这一点与这个态分布的情形相似。

2.来自正态总体的统计量的分布本节介绍取自正态总体的一些统计量的精确分布，这些分布在后面的统计推断中常常要用到。

定理1 设（12,,,n X X X ）是来自正态总体2(,)N μσ的一个样本，则（1）样本均值 2(,)X N nσμ（2）统计量(0,1)U N =证明 前已证得 2(),()E X D X nσμ==又由概率论的知识知，服从正态分布的随机变量的线性函数仍服从正态分布，故211(,)nii X X N n nσμ==∑所以(0,1)U N =定理2 设（12,,,n X X X ）是来自正态总体2(,)N μσ的一个样本，则样本均值X 与样本方差2S 相互独立，并且有222221(1)1()(1)nii n S XX n χσσ=-=--∑证明从略。

定理3 设（12,,,n X X X ）是来自正态总体2(,)N μσ的一个样本，则统计量(1)X T t n =- 证明 由定理1 知(0,1)X U N =由定理2 知 222(1)(1)n S n χσ--且X 与2S 相互独立。

因为相互独立的随机变量的线性函数依然相互独立，故X 与22(1)n S σ-相互独立。