概率论参数估计习题课

无偏性
若 X1, X2,, Xn 为总体 X 的一个样本，
是包含在总体X 的分布中的待估参数, (是 的取值范围)
若估计量ˆ ( X1 , X 2 ,, X n )的数学期望 E(ˆ)存在, 且对于任意 有 E(ˆ) , 则称 ˆ 是 的无偏估计量.
有效性
比较参数 的两个无偏估计量 ˆ1 和 ˆ2 , 如果 在样本容量 n 相同的情况下, ˆ1 的观察值在真值 的附近较 ˆ2 更密集, 则认为ˆ1 较 ˆ2 有效.
,
Sw
Sw2 .
2.
两个总体方差比
2 1
2 2
的置信区间
仅讨论总体均值 1, 2 为未知的情况.
2 1
2 2
的一个置信水平为
1
的置信区间
S12 S22
F / 2 (n1
1 1, n2
, 1)
S12 S22
1 F1 / 2(n1 1, n2
1).
正态总体均值与方差的单侧置信区间
设正态总体 X 的均值是, 方差是 2 (均为未知) ,
单个正态总体
1. 均值 的置信区间
(1) 2为已知,
的一个置信水平为1 的置信区间 X
n
z
/
2
.
(2) 2为未知,
的置信水平为1 的置信区间 X
S n
t
/
2
(
n
1).
2.方差 2 的置信区间
未知, 方差 2 的置信水平为 1 的置信区间
(n
2 /
1)S 2 2(n 1)
(3) 若能从 a Z( X1, X2 ,, Xn; ) b 得到等价 的不等式 , 其中 ( X1, X2,, Xn ), ( X1, X2,, Xn ) 都是统计量, 那么 ( , ) 就是 的一个置信水平为1 的置信区间.
三、典型例题
例1 设 X1, X2,, Xn 是来自参数为 p 的 (0 1) 分布的一个样本, 求参数 p 的最大似然估计量 pˆ , 并验证它是达到方差界的无偏估计量.
由于方差是随机变量取值与其数学期望的 偏离程度, 所以无偏估计以方差小者为好.
设ˆ1 ˆ1( X1, X 2 ,, X n )与ˆ2 ˆ2 ( X1, X 2 ,, X n ) 都是 的无偏估计量, 若有 D(ˆ1 ) D(ˆ2 ), 则称ˆ1较 ˆ2有效.
相合性
若ˆ ˆ ( X1, X2 ,, Xn )为参数 的估计量, 若对于任意 , 当 n 时, ˆ( X1, X2 ,, Xn ) 依概率收敛于 , 则称 ˆ 为 的相合估计量.
ˆ( X1, X2,, Xn ) 参数 的最大似然估计量.
最大似然估计的性质
设 的函数 u u( ), 具有单值反函 数 (u), u U , 又设ˆ 是 X 的概率密度函数 f ( x; ) ( f 形式已知) 中的参数 的最大似然估 计, 则 uˆ u(ˆ) 是 u( )的最大似然估计.
的一个置信水平为1 的单侧置信区间
X
S n
t
(n
1),
,
的置信水平为1 的置信下限
X
S n t (n 1).
2 的一个置信水平为1 的单侧置信区间
0,
(n 1)S
12 (n
2
1)
,
2 的置信水平为 1 的单侧置信上限
2
(n 1)S 2
12 (n 1)
.
( 0 1)分布的置信区间
,
(n
12
/2
1)S 2 (n 1)
.
标准差 的一个置信水平为1 的置信区间
n 1S ,
2 / 2(n 1)
n 1S
2 1
/
2
(n
1)
.
两个正态总体
1.两个总体均值差1 2 的置信区间
(1)
2 1
和
2
2
均为已知,
1 2的一个置信水平为1 的置信区间
X
Y
z / 2
2 1
n1
22
第六章 参数估计 习题课
一、重点与难点 二、主要内容 三、典型例题
一、重点与难点
1.重点
最大似然估计. 一个正态总体参数的区间估计.
2.难点
显著性水平 与置信区间.
二、主要内容
矩估计量
似
估 计
然量
最大似然估 计量
函 数
的 评 选
最大似然估计的性质
无偏性 有效性 相合性
正态总 体均值 方差的 置信区 间与上 下限
似然函数
1. 设总体 X 属离散型
n
L( ) L( x1, x2 ,, xn; ) p( xi ; ),
i 1
L( )称为样本似然函数.
2. 设总体 X属连续型
n
L( ) L( x1, x2,, xn; ) f ( xi; ),
i 1
L( )称为样本的似然函数.
正态总体均值方差的置信区间与上下限
满足
P{ } 1 ,
则称随机区间( , ) 是 的置信水平为1 的单 侧置信区间, 称为 的置信水平为1 的单侧置
信下限.
又如果统计量 ( X1, X2 ,, Xn ), 对于任 意 满足
P{ } 1 ,
则称随机区间( , ) 是 的置信水平为1 的单 侧置信区间, 称为 的置信水平为1 的单侧置
设有一容量 n 50 的大样本,它来自(0 1)分 布的总体 X , X 的分布律为 f ( x; p) px (1 p)1x ,
x 0, 1, 其中 p为未知参数, 则 p的置信水平为1
的置信区间是
b
b2 4ac , 2a
b
b2 2a
4ac
,
其中a n z2 / 2 , b (2nX z2 / 2 ), c nX 2 .
n2
.
(2) 12和 22均为未知,
1 2的一个置信水平为1 的近似置信区间
X
Y
z / 2
S12 n1
S22 n2
.
(3)
2 1
2 2
2,
但 2 为未知
1 2的一个置信水平为1 的置信区间
X Y t / 2(n1 n2 2)Sw
1 n1Biblioteka 1 n2.其中
Sw2
( n1
1)S12 (n2 1)S22 n1 n2 2
又因为 f ( x; p) px (1 p)1x , x 0, 1,
lnf ( x; p) x ln p (1 x)ln(1 p),
lnf ( x; p) x 1 x ,
p
p 1 p
E
lnf ( x; p
p)2
x x0,1 p
1 1
x2 p
px (1
p)1 x
1 (1 p)2
问此仪器工作是否稳定( 0.05) ?
解
n 16, 0.05,
2 0.025
(15)
27.5,
02.975(15) 6.26, 2 的1 置信区间为
(n
2 /
1)S 2(n
2
1)
,
(n
2 1
/2
1)S 2 (n 1)
(0.00136,
0.00599),
由于方差 2 不超过 0.01, 故此仪器工作稳定.
估计量, 这个估计量称为矩估计量.
最大似然估计量
得到样本值 x1, x2,, xn 时, 选取使似然函数 L( )
取得最大值的ˆ 作为未知参数 的估计值,
即
L(
x1
,
x2
,,
xn
;ˆ
)
max
L(
x1
,
x2
,,
xn
;
).
(其中 是 可能的取值范围)
这样得到的ˆ 与样本值 x1, x2,, xn有关,记为 ˆ( x1, x2,, xn ), 参数 的最大似然估计值,
求置信区间的 步骤
置信区间和上下限
矩估计量
用样本矩来估计总体矩,用样本矩的连续 函数来估计总体矩的连续函数,这种估计法称 为矩估计法.
矩估计法的具体做法: 令 l Al , l 1, 2,,k , 这是一个包含 k 个未知参数1, 2,,k 的方程组, 解出其中1,2,,k . 用方程组的解ˆ1,ˆ2 ,,ˆk 分别作为1,2 ,,k 的
备用例题
n
Xi
i 1
1 n2
n
D( Xi
i 1
)
1 n2
n
p(1
p)
1 n
p(1
p),
故 pˆ X 是总体分布参数 p的达到方差界的无 偏估计量.
例2 设某异常区磁场强度服从正态分布 N (, 2 ),
现对该区进行磁测, 按仪器规定其方差不得超过 0.01, 今抽测 16 个点, 算得 x 12.7, s2 0.0025,
由
d ln L( p) 0, dp
得
(1
n
p) xi i 1
p
n
n
i 1
xi
,
故参数
p 的最大似然估计值为
pˆ
1 n
n
i 1
xi
,
参数 p的最大似然估计量为
pˆ
1 n
n
i 1
X
i
X,
E( pˆ )
E( X )
E
1 n
n
i 1
X
i
1 n
n
i 1
E
(
X
i
)
p,
所以 pˆ 是 p的无偏估计量.
则称随机区间( , ) 是 的置信水平为1 的置信 区间, 和 分别称为置信水平为1 的双侧置信 区间的置信下限和置信上限, 1 为置信水平.