概率论与数理统计第7章：参数估计

x 313031 23 2 ， 8
由 x EX ，即 2 3 4 ，故解得 的矩估计值为ˆ 1 ．
4
例 1.4
设总体
X
的密度函数为
f
(x, )

e(x ) ,
0,
x , x ,
其中 为未知参数．从总体 X 中取得样本 ( X1, X 2,L , X n ) ，
一、点估计的概念
所谓点估计就是要构造一个合适的统计量 $ $( X1, X 2 ,L , X n )
作为未知参数 的估计．统计学上称$为 的估计量．对应于
样本 (X1, X2,L , Xn ) 的每个观察值 (x1, x2 ,L , xn ) ，估计量$的值
$(x1, x2 ,L , xn ) 称为 的估计值．
称 L(x1, x2,L , xn; ) 为似然函数，有时也简记为 L( ) ．
定义 1.3 如果$ ($1,$2,L ,$k ) ($) 满足
L(X1, X2,L
,
X
n
;
$)

max
L(
X1
,
X
2
,L
, Xn;) ，
就称$ ($1,$2,L ,$k ) 为未知参数 (1,2 ,L ,k ) 的极大
计法，由矩估计法得到的估计量叫做矩估计量．
【思想与方法】 样本矩代替理论矩，建立 k 个方程，从 中解出 k 个未知参数的矩估计量．（重点）
当 k 1时，方程 X EX 最为常用．
但有时 EX 中不含有未知参数 ，因此从 X EX 中不能 求得$，故此时根据低阶矩优先的原则，如改用二阶原点矩建
极大似然估计法是依据“概率最大的事件最有可能出现”的 “实际推断”原理产生的估计法．其基本思想是：如果在一次试
验中事件 A 已出现，则一般说来，当时的试验条件应更有利于事 件 A 的出现．
例 1.5 设在一个罐内装有白色球和黑色球共 4 个，今用有 放回抽样方法从罐内取球 3 次，得到 2 次取白球，1次取黑
(1,2 ) 的点估计量．
二、矩估计法
矩估计法是英国统计学家 K 皮 尔逊 (K Pearson) 在1894 年提出的
方法．矩估计法的原理是来自第五章
的大数定律．
设 (X1, X2,L , Xn ) 为来自总体 X 的一个样本，且
E( X
r)

r
，则 lim n
1 n
求 的矩估计量$．
解
由于 EX

xf (x, )dx
xe(x )dx 1 ，


故由 X EX 1 ，解得$ X 1．
三、极大似然估计
极大似然估计法是由英国统计学家
R A 费歇尔于1912 年提出，并在1921年的
工作中又加以发展的一种重要且普遍使用的 点估计法．
1 n
n i 1
Xi

X
，¶ 2

1 n
n i 1
(Xi

X )2
．
例 1.8
设总体
X
的分布律为

ห้องสมุดไป่ตู้
0
2
1
2 (1 )
2
2
3
1 2

，其中

是未知参数，利用总体 X 的样本值 (3, 1, 3, 0, 3, 1, 2, 3) ，求 的极大似然估计值$，其中设 0 1 .
， n 2
n 2n

n
1 2
1n 2 2
i1
n
( xi(xi)2 )2
i1
i1 i122
所所以以lnlnLL((2 ))

nnllnn((22))
22
nn 2
ln(
2)
1 1 n
222i21
n
( xi(
i 1
xi
)2
⑶ 如果 , 2 均未知，求 和 2 的极大似然估计量 µ 和¶ 2 ．
解解 ⑵⑴由于由于 已 知2 已，知，2 未知未，知似，然似函然数函为数为
L()( L ) n n
2 (
(1
1e e ) )(2 (2) ) e e ， (x2i (2x)2i22)2
¶ 2

1 n
n i 1
(Xi
X )2 ．
例 1.3 设总体 X
0
X
~

2
1
2 (1 )
2
2
3
1 2

，其中
是

未知参数，利用总体 X 的样本值 (3, 1, 3, 0, 3, 1, 2, 3) ，求
的矩估计值$．
解 由题意知，
EX 0 2 1 2 (1 ) 2 2 3 (1 2 ) 3 4 ，
)，2 ，
d
ln L(
d
)dldn1(L2 (2in)1
2) ( xi
n)
2
1122
( in211xi4inn1()xi，
)2
，
令令d
ldn lLn(L(2 ))
d (d2 )
0，0 解，得解¶得2
µ
11
nn
1nn n
原点矩建立方程：
1 n
n i 1
X
2 i

E(X 2)
2
2 ，解得
¶ 2

1 n
n i 1
X
2 i

2 ．
⑶ 属 k 2 的情形，故需要建立二个方程．由
X EX ,

1

n
n i 1
(Xi
X )2

DX
2,
解得： µ X ,
2
2
2 2
n
( xi
i 1
)2
，
令
ln L(, 2 )

1
2
n
( xi
i 1
) 1 2
n
(
i 1
xi
n) 0 ，
ln L(, 2 )
( 2 )


n 2

1
2

1
2
4
n
( xi
i 1
)2
0，
解得 µ
P{X x} p(x; ) ， x a1, a2,L , an ,L ，
n
则记 L(x1, x2,L , xn; ) p(xi ; ) ． i 1 如果总体 X 为连续型随机变量，其密度函数为
f (x; ) ， x ，
n
则记 L(x1, x2,L , xn; ) f (xi; ) ． i 1
解 似然函数为
n
L() L(x1, x2,L
, xn; )
n i 1
(

xi
e
)



i1
xi
(
n
xi !
i 1
xi !)1en
，
n
n
所以 ln L() xi ln ln(xi !) n ，
i 1
i 1
d
ln L()
d

n i 1
解 由于样本值为 (3, 1, 3, 0, 3, 1, 2,23) ，故似然函数为
立方程
1
n
n i 1
X
2 i

E(X 2) ，
“=”为形式上记号，实质上应该为“ ”
当 k 2 时，最常用的二个方程为
X EX ,

1

n
n i 1
X
2 i

E(X 2) .
由于此方程组与下列方程组
X EX ,

1

n
n i 1
(Xi
X )2
3
被估计的未知参数可以是 k 维向量 (1,2,L ,k ) ， 并称 (1,2,L ,k ) 的取值范围为参数空间，记为 ．通
常 k 1, 2 ．
当 k 1时，$ $( X1, X 2 ,L , X n ) 作为 的点估计量；
当 k 2 时，$( X1, X 2 ,L , X n ) ($1( X1, X 2 ,L , X n ),$2 ( X1, X 2 ,L , X n ))
X 的可
能取值
罐内白
0
1
2
3
球总数 p 值
1
27
27
9
1
1
4
64
64
64
64
2
8
24
24
8
2
4
64
64
64
64
3
3
1
9
27
27
4
64
64
64
64
由于事件{X 2} 已经发生，且 9 ，24 ，27 中 27 最大， 64 64 64 64
因此估计罐内有 3 个白球的可能性最大．
定义 1.2 如果总体 X 为离散型随机变量，其分布律为
则ˆ 即为 的极大似然估计；
非常规方法
第三步：如果上述方程无解，则通过单调性的讨论，在某边界点
处求出 (1,2,L ,k ) 的极大似然估计量．
例 1.6 设总体 X ~ P() ，其中 为未知参数．(X1, X2,L , Xn ) 为来自总体 X 的样本，试求 的极大似然估计量 $．
xi

1

n，
令