第二讲基本概念

样本空间：样本所有可能的取值构成的空间
（Sample Space）
在统计中，对总体的推断，实际上是推断
总体的分布，即确定总体的分布。为此，我
们可以根据对总体了解程度，假设总体的分
布属于某个分布族 {P , }, 至于其中哪一
个分布最适合还得通过统计推断来确定，因
此往往将 {P , } 称为统计模型。 其中
k
Q j~ 2(nj ) n j n. j1
t 分布
设随机变量 X ~ N (0,1), Y ~ 2(n), 且 X 与Y 相互独立，则称随机变量
T X Y n
所服从的分布为自由度是 n 的 t 分布， 记为
T ~ t(n).
F 分布
设随机变量 X ~ 2(n1 ), Y ~ 2(n2 ), 且 X 与Y 相互独立，则称随机变量
个体：总体中的每个对象，如例1中的每个 产品。
（S样am本p：le）X1, X2 , , Xn , 样本的实现称为样本 的一组观察值（Observation or data）, 记为 x1, x2 , , xn .
今后，为了方便若不加特别声明，用 x1, x2 , , xn既表示样本，又表示样本观察值。
有关参数的信息，而剔除无关的信息，这在
统计上就反映为构造样本的已知函数，即
统计量（Statistic）。
例2 设总体X服从两点(正品和次品)分布，即
P( X 1) , P( X 0) 1
X
是来自总体的样本，考虑样本
n
的函数
T ( X1, X2 ,
, Xn)
S
1 n1
n i 1
(Xi
X
)2 .
样本矩（Sample Moment）
k阶原点矩
Ak
1 n
n i 1
X
k i
,
k
1,2
.
k阶中心矩
Bk
1
n
n i 1
(
X
i
X )k ,
k
1,2
.
2. 充分统计量
统计量既然是对样本的加工或压缩，在这 个过程中可能有损失有关参数的一部分信息， 现在问题是在这个过程中是否存在某些统计 量，既起到压缩作用，又不损失参数的信息， 这样的统计量称为充分统计量。
定理1 设统计模型为{P , }，统计量T ( X )
是充分的，当且仅当存在一个定义在I
上的函数g(t, )及定义在Rn上函数h( x)使得
p( x, ) g(T ( x), )h( x)
对所有的x Rn都成立，其中I是T( x)的值域，
p( x, )是样本的联合概率密度函数或分布率。
例4
X F n1
Y n2
所服从的分布为自由度是 n1, n2 的 F 分布， 记为 F ~ F(n1, n2 ).
正态总体样本和方差的分布
定理6 设 X1, X2 , , Xn 是来自正态总体 N (, 2 ) 的一个简单样本， A是 p n 阶矩阵，则
Y1 X1
Y
Y2
Yp
A
X2 Xn
1
2
n
(Xi
i 1
)2 ~
2(n)
定理3 设 X ~ 2(n)，则
（1）X
的特征函数为(t)
Ee itX
n
(1 2it) 2
（2） E( X ) n, D( X ) 2n
定理4 设 X1~ 2(n1 ), X 2~ 2(n2 ), 且相互独立， 则 X1 X2~ 2(n1 n2 ).
第二讲 基本概念
一、总体，样本和统计模型 二、统计量及其分布
一、总体、样本和统计模型
例1 有一批产品，总数为N。在N件产品中
有N件次品，是这批产品的次品率。
是我们感兴趣的参数，通常是未知的，需
要利用统计方法对参数做出推断。
总体：研究对象的全体，如例1中的这批产
(Population)
产品就构成总体。通常用 X ,Y等表示。
三大分布
2 分布
设随机变量 X1, X2, , Xn 相互独立且同服从 标准正态分布N (0,1)，称随机变量
2
X
2 1
X
2 2
X
2 n
所服从的分布为自由度是 n 的 2 分布，记为
2~ 2(n)
定理2 假设简单样本 X1, X2, , Xn 来自正态总 体 N (, 2 )，则有
2
称为参数空间。 （Statistical Model）
（Parameter Space）
如例1中，统计模型为{P , } ，其中
N N N
P { X k}
k
n k N
,
n
max((n N (1 ),0) k min( N , n),
其中X表示一次试验中抽取的 n件产品的
1, n
s
定义2 设统计模型为{P , }，T ( X )是统计
量。如果在给定T (X ) t的条件下，X的条
件分布与参数无关，则称统计量T ( X )是 参数的充分统计量（Sufficient Statistics）
一般情况下，利用条件分布证明统计量的 充分性是比较困难的。但存在证明充分性的
一个充分必要准则，就是下面的因子分解定 理（Factorization theorem）。
设样本X 1 ,
X2 ,
,
X
是来源于正态总体
n
N (, 2 )，令参数 (, 2 )，试证明
(1)
T ( X ) n i1
n
Xi,
i 1
X
2 i
及
(2)
T(
X
)
1 n
n i 1
Xi
,
1 n
n i 1
(
Xi
X )2
都是的充分统计量。
3. 抽样分布
特征函数
设 X 随机变量, 称函数
Fp (n2 , n1)
1 F1 p (n1, n2 )
P{X zp} p
由对称性有 z1 p zp
2
(n)
分布：用
2 p
(n)
表示
p 分位点，即
P{ 2
2 p
(n)}
p
t(n)分布：用 tp (n)表示 p 分位点，即
P{T tp (n)} p
F(n1, n2 )分布：用 Fp (n1, n2 ) 表示 p 分位点，即
P{F Fp (n1, n2 )} p
Sw
11 n1 n2
其中
S12
X1 n1
1 n1 1
n1
i 1 n1
i 1
Xi, (Xi
Y X
1 n2
n2
Yi
i 1
)2,
S22
1 n2 1
n2 i 1
(Yi
Y
)2
Sw2
(n1
1)S12 (n2 1)S22 n1 n2 2
定理9 设 X1, X 2 ,L , X n1 和 Y1,Y2 ,L ,Yn2是分别来自
正态总体
N
(
1
,
2 1
)
和
N
(
2
,
2 2
)
的两个简单样本，
且两样本独立，则
F
S12 S22
12
2 2
~ F(n1 1, n2 1)
4. 分位点
定义 设随机变量 X 的分布函数为F(x)，对任意 给定的实数 p (0 p 1) ，若存在 xp 使得
P{X xp} F(xp ) p
成立，则称 xp为此概率分布的 p 分位点。 常见分布分位点记号： 标准正态分布 N (0,1)：用 z p 表示，即
次品数。
{ : 0 1}为参数空间。
二、统计量及其分布
设统计模型为 P , ，我们仅知道
总体的分布属于此分布族，但哪个最合适 还需经过统计推断。推断总体的分布，实际
上就是确定参数 ，为此，需抽取样本。
样本来源于总体，它应当包含参数的所有 相关信息，但观察值呈现为一堆杂乱无章 数据，故需对数据进行加工或压缩，提取
n
如例2中
X
是统计量，因为它不含任何未
i
i 1
知的参数。
常用统计量(Statistic)：
样本均值（Sample Mean）：
X
1 n
n i 1
Xi.
样本方差（Sample Variance）：
S 2
1 n1
n i 1
(Xi
X
)2 .
样本标准差（Sample Standard Deviation）：
X (t) E(eitX )
为 X 特征函数。 常见分布的特征函数：
二项分布 B(n, p) ：(t) ( peit (1 p))n
Poisson分布P() ：(t) exp{(eit 1)} 正态分布 N (, 2 ) ：(t) exp{it 1 2t}
2
特征函数的性质：
（1）有界性 对任意t R，有|(t) | (0) 1。
n
Xi.
T实际上表
i 1
示样本中所含的次品个数，对不同观察值
可能对应相同的T值，这样实际上是对样本 起到了加工或压缩的作用。
1. 统计量
定义1 设X1, X2 , , Xn是来自总体X的一个样 本，T ( X1, X2 , , Xn )是样本的函数。如果 T ( X1, X2 , , Xn )不包含任何未知参数，则称 其为总体X的统计量，简记为T。
（2）设Y aX b，其中 a,b为常数，则 Y (t) eibtX (at)
（3）若 X与 Y 相互独立，则有