71点估计

1 n n1 2 2 E[ ( X i X ) ] , n i 1 n
1 n 2 2 E[ ( X X ) ] . i n 1 i 1
即:样本均值 X 是总体X期望的无偏估计量,样本 方差S2是总体方差2的无偏估计量.
例1 设总体X的k阶矩k=EXk存在,又设 X1, X2 , …, Xn 是X的一个样本. 试证明：不论总体X服从什么分布，k阶样本
解 : E(a X 1 b X 2 ) aE( X 1 ) bE( X 2 ) E( X )
故对任意实数a>0,b>0,a+b=1,统计量a X 1 b X 2 都是E(X)的无偏估计
iid
^
^
由:
例6. 设总体X的概率密度为
解:
x E( X ) e 2
2 2
| x|
X1,… ,Xn为样本,求参数的矩估计.

1 f ( x) e 2

x

dx 0
x E( X ) e 2 2 xe
0
2
| x|

dx

1


x e
例2 设总体X的概率密度为


P
1- p
p
0 x1 其它
其中 为未知参数，且 >0，试求 的矩估计.
x 1 f ( x , ) 0
1
解 1 EX xf ( x )dx 0 x x
ˆ ˆ 1 X
1
dx 1
ˆ
1 n 则 1 (1 , 2 , , k ) X i n i 1 1 n 2 ( , , , ) X 2 1 2 k i n i 1 1 n k ( , , , ) X k k 1 2 i n i 1
ˆ 的取值不一定等于所要估计的参数 因此，
但从平均意义上讲，应该等于所估计的参数
ˆ ˆ( X ,L , X ) 统计量满足 E ˆ ˆ , 称 定义 n 1 n n n 为 的无偏估计(UE.)
已证结论:
1 n 1 n E ( X ) E ( X i ) EX i E ( X ), n i 1 n i 1
1 n M k ( X i X )k n i 1
n
m1 X n1 2 M2 S n S 2 ( n较大)
性质 如果总体X的期望为，方差为2，则 D( X ) 2 (1) E ( X ) E ( X ) (2) D( X ) n n 2 2 (3) E( S ) D( X ) n 1 n 1 1 n 证(1) E ( X ) E ( X i ) E ( X i ) EX i n i 1 n i 1 n i 1 1 n n n n 独立1 n 1 1 (2) D( X ) D( X i ) 2 D( X i ) 2 DX i n n i 1 n i 1 i 1 2 1 2 2 n n n
我们根据样本来估计这些参数,也就是从总 体中取出一个样本,构造适当的样本函数,即统计 量,对未知参数作出估计. 1 n 例如,统计量 X X i 作为总体均值 E ( X ) n i 1 1 n 的估计量,自然地用统计量的值 x xi 作为 总体均值的估计值.
n
i 1
பைடு நூலகம்
用估计量的值作为参数的估计值 ,这种做法 称为点估计.有时要求估计参数在一个多大的范 围内 , 并指出该参数以多大的概率 ( 信度 ) 被置于 此范围内,这是参数的区间估计问题。 对于一个被估参数,可构造不同统计量作为 其估计量. 孰好孰差,这是估计量的评选问题. 这一章我们研究的就是参数的各种估计法 以及如何评选问题。
(3) n n 1 1 2 2 2 ES E ( X X ) E ( X X ) i i n 1 i 1 n 1 i 1
n n n n 1 1 2 2 2 2 E X i 2 X X i X E ( X i 2 XX i X ) n 1 i 1 n 1 i 1 i 1 i 1
解:
ab 1 E( X ) D( X ) (b a )2 2 12 a E ( X ) 3 D( X ) b E ( X ) 3 D( X ) 1 n E( X ) X D( X ) ( X i X )2 n i 1
3 n 2 a X ( X X ) i n i 1 3 n 2 b X ( X X ) i n i 1
1 2 2 EX i nE ( X ) n 1 i 1
n
EX i2 ( EX i )2 DX i 2 2
2
X 1 , X 2 , , X n ~ N ( , ) , 则
2
i . i .d
(1)
X

n
~ N 0,1
2 0 x


x


dx x de
2 x 0


x



x

dx 2 xde
0
n

2 e
0
n

dx 2
2
1 ˆ X i2 n i 1


ME

X
i 1
2 i
2n
二、估计量的评选标准
1.无偏性
未知参数 的估计量 ˆ 是样本( X 1 , X 2 ,....X n ) 的函数，对于不同的观察值， ˆ 求得的值不同，
该题结果表明:总体均值与方差的矩估计的表达式 不因不同的总体分布而异; 两个未知参数的矩估计 (以样本矩代替相应的总体矩)可以用样本均值估计 总体期望,用样本二阶中心矩估计总体方差. 例4. P133例7－4
例5. 设X1 ,, X n ~ U (a, b), a b, 试求 a ME 和 b ME .
ME
X 1 X
例3：总体X的均值及方差2都存在, , 2均未知, X1,X2,…,Xn是总体的一个样本,试求 , 2的矩估计. 解: 1 EX ,
2 EX
2 2
2
ˆ ＝X ˆ ME X n n 2 2 1 n 2 1 1 2 2 2 2 X ˆ ME X i X ( X i X ) i n i 1 n i 1 n i 1
n 1 EX k X ik n i 1
ˆ ˆ ( X ,, X ) i 1 n i
即为参数 的矩估 ˆ 计,记为 ME
该方程组的解
注1.用样本矩作为总体同阶矩的估计，即 注2.约定:若 是未知参数的矩估计,则g()的矩估 计为g( ).


例1：设X1,… ,Xn为取自总体B(1,p),的样本，其中 0 1 0<p<1未知，求p的矩估计。 X 解: E(X)=p p ME X 为参数p的矩估计
一、矩估计法（简称“矩法”ME）
矩估计是1900年英国统计学家K. Pearson 提 出的一种统计方法.其基本思想是:以样本矩代替 相应的总体矩. T ( , , , ) 设总体X的分布函数为F(x, ), 为 1 2 k k维未知参数,并设随机变量X的k阶矩存在,其为 i 的函数,记作 i E( X ) i (1 ,2 ,,k ), i 1, 2, , k
常数，且满足 a1 a2 an 1.
证明 因为 E ( X i ) E ( X ) ,
n
n
i 1,2, , n
n
ˆ ) E ( ai X i ) E (a i X i ) ai EX i E (
i 1
i 1
i 1
2.有效性
2 1
(2)T
X S n
~ t ( n 1)
(3)
( X Y ) ( 1 2 )
2 2
1 1 ( n 1) S ( m 1) S n m n m 2 X ~ N ( , 2 ), Y ~ N ( , 2 ) 1 2
~ t ( n m 2)
注：F(x;)也可用分布律或密度函数代替. ˆ g( x ,, x ) 若x1,…, xn是样本的一个观测值, 1 n
称估计量与估计值为估计,并都简记为 ˆ
由于g(X1,… ,Xn) 是实数域上的一个点,现用它 来估计,故称这种估计为点估计. 点估计的经典方 法是矩估计法(ME)与极大似然估计法(MLE).
7.1 点估计
定义 设X1,… ,Xn是总体X的一个样本, X的分布函数 为F(x; ),。其中为未知参数, 为参数空间, 若统计量g(X1,… ,Xn)可作为的一个估计,则称其为 ˆ g( X ,, X ). 的一个估计量，记为 ˆ , 即
1 n
称为参数的估计值.在不致混淆的情况下统
(4)
( n 1) S
2 1 2 2
2
S (5) ~ F ( n 1, m 1) S X ~ N ( 1 , 12 ), Y ~ N ( 2 , 22 )
2 1 2 2

2
~ ( n 1)
2
P X u u为标准正态分布的上分位数.
P | X | u
1 n k 矩 mk n X i i 1
是k阶总体矩的无偏估计.
证明
1 n k ˆ k X i mk n i 1
1 n k E (mk ) E[ X i ] k n i 1