6-1 参数的点估计

ˆ 这样得到的 与样本值 x1 , x2 , , xn有关, 记为 ˆ ( x1 , x2 , , xn ), 参数 的最大似然估计值 ,
ˆ ( X 1 , X 2 , , X n ) 参数 的最大似然估计量 .
( 2) 设总体 X 属连续型
似然函数的定义
设概率密度为 f ( x; ), 为待估参数, , ( 其中 是 可能的取值范围)
是来自X的一个样本，求 的矩估计量.
.
解 总体X 的一阶矩为 1 1 1 E ( X ) x( 1) x dx 0 2 以一阶样本矩 A1 X 代替上式中的一阶总体矩 1 ， 有 A1 1 , 从中解出 ，得到 的矩估计量为 2 ˆ 1 2 A1 1 2 X .
1 E ( X ) a b ,
a b 2 A1 , 即 b a 12( A2 A12 ) .
解方程组得到a, b的矩估计量分别为
3 n ( X i X )2 , ˆ a A1 3( A2 A1 ) X n i 1
2
3 n ˆ b A1 3( A2 A1 ) X ( X i X )2 . n i 1
ˆ ˆ ˆ 用方程组的解 1 , 2 ,, k 分别作为 1 , 2 ,, k 的 估计量, 这个估计量称为矩估计量.
矩估计量的观察值称为矩估计值.
( 1) x , 0 x 1, 例2 设总体X的概率密度为 f ( x; ) 其他， 0 , 其中 ( 1) 为待估参数，设 X 1 , X 2 , X n
例5
设总体 X 在[a , b]上服从均匀分布, 其中a ,
b 未知, ( X 1 , X 2 ,, X n ) 是来自总体X的样本, 求a , b 的估计量.
解
2 a b 2 a b 2 , 2 E ( X 2 ) D( X ) [ E ( X )]2 12 4 n ab 1 令 A1 X i , 2 n i 1 1 n (a b)2 (a b)2 2 Xi , A2 n i 1 12 4
解 总体X 的一阶、二阶矩分别为
1 E ( X ) x


1

e ( x ) / dx , 1 e ( x ) / dx 2 2 ( ).
2 E( X 2 ) x 2


分别以一阶、二阶样本矩 A1 , A2 代替上两式中的 1 , 2 , 有
A1 1 X 1
，
例3
设总体X的概率密度为
1 ( x ) / e , x , f ( x; , ) 0 , 其他，
其中 , ( 0) 为待估参数，设 X 1 , X 2 , X n
是来自X的一个样本，求 , 的矩估计量.
n
L( )称为样本的似然函数 .
i 1
最大似然估计法
得到样本值 x1 , x2 ,, xn时, 选取使似然函数L( )
ˆ 取得最大值的 作为未知参数 的估计值,
ˆ 即 L( x1 , x2 ,, xn ; ) max L( x1 , x2 ,, xn ; ).
( 其中 是 可能的取值范围)
i 1 n
L( ) L( x1 , x2 ,, xn ; ) f ( xi ; ),
L( )称为样本的似然函数. ˆ 若 L( x1 , x2 ,, xn ; ) max L( x1 , x2 ,, xn ; ).
i 1
n
ˆ ( x1 , x2 ,, xn ) 参数 的最大似然估计值 ,
x l p( x;1 , 2 ,, k ), (X为离散型)
其中 RX 是 x 可能取值的范围, l 1,2,, k
1 n l 因为样本矩 Al X i 依概率收敛于相应的 n i 1 总体矩 l ( l 1, 2,, k ),
样本矩的连续函数依概率收敛于相应的总体矩 的连续函数.
矩估计法的定义 用样本矩来估计总体矩,用样本矩的连续函 数来估计总体矩的连续函数,这种估计法称为矩 估计法. 矩估计法的具体做法: 令 l Al , l 1, 2,, k .
这是一个包含k 个未知参数 1 , 2 ,, k 的方程组, 解出其中 1 , 2 ,, k .

ˆ ( X 1 , X 2 ,, X n ) 参数 的最大似然估计量 .
最大似然估计法是由费舍尔引进的. 求最大似然估计量的步骤:
(一 ) 写出似然函数 L( ) L( x1 , x2 ,, xn ; ) p( xi ; )
i 1 n
费舍尔
或
L( ) L( x1 , x2 ,, xn ; ) f ( xi ; );
若 X 1 , X 2 ,, X n 为来自X 的样本，
假设总体X 的前k 阶矩存在 ,
且均为1 , 2 ,, k 的函数, 即
l E ( X ) x l f ( x;1 , 2 ,, k )dx (X为连续型)
l

或 l E ( X l )
xRX
i 1
n
(二) 取对数
n i 1
ln L( ) ln p( xi ; ) 或 ln L( ) ln f ( xi ; );
2.估计量的求法
由于估计量是样本的函数, 是随机变量, 故对不同的样本值, 得 到的参数值往往不同, 如何求估计量是关键问题. 常用构造估计量的方法: (两种) 矩估计法和最大似然估计法.
(1). 矩估计法 复习
设 X 和 Y 是随机变量 若E ( X k ), k 1,2, 1. , 存在, 称它为 X 的 k 阶原点矩 简称 k 阶矩. ,
例4
设总体 X 在[0, ]上服从均匀分布, 其中
( 0) 未知, ( X 1 , X 2 ,, X n ) 是来自总体 X 的样本, 求 的估计量.
解
因为 1 E ( X )
ˆ 2

2
,
根据矩估计法, 令
ˆ 所以 2 X
A1 X ,
为所求 的估计量.
i 1
n
又设 x1 , x2 ,, xn 为相应于样本 X 1 , X 2 ,, X n 的 一个样本值.
则样本 X 1 , X 2 ,, X n 取到观察值 x1 , x2 ,, xn 的概率 ,
即事件 X 1 x1 , X 2 x2 ,, X n xn 发生的概率为
L( ) L( x1 , x2 ,, xn ; ) p( xi ; ), ,
第六章 参数估计






6.1 6.2 6.3 6.4 6.5 6.6
参数的点估计 估计量的评选标准 参数的区间估计 正态总体均值与方差的区间估计 两个正态总体均值及方差比的置信区间 单侧置信限
6.1
点估计
1. 点估计问题的提法
2. 估计量的求法
3. 小结
1.点估计问题的提法
设总体 X 的分布函数形式已知, 但它的一个 或多个参数为未知, 借助于总体 X 的一个样本来 估计总体未知参数的值的问题称为点估计问题.
2. 样本 k 阶(原点)矩
1 n k Ak X i , k 1, 2, ; n i 1
设 X 为连续型随机变量 , 其概率密度为 f ( x;1 , 2 ,, k ), 或 X 为离散型随机变量 , 其分布律为P{ X x } p ( x;1 , 2 , , k ), 其中1 , 2 , , k 为待估参数 ,
A1 μ θ, A2 μ 2 2(μ θ).
从中解得 , , 即得到 , 的矩估计量为
ˆ
2 1 n 2 ( X i n X ) n i 1
1 n ( X i X )2 n i 1
n ˆ X 1 ( X X )2 . ˆ X i n i 1
2
例6
设总体 X 的均值 和方差 2 都存在, 且有
2 0, 但 和 2 均为未知, 又设 X 1 , X 2 ,, X n 是
一个样本, 求 和 2 的矩估计量. 1 E ( X ) , 解 2 E ( X 2 ) D( X ) [ E ( X )]2 2 2 , A1 , 令 2 2 A2 . ˆ 解方程组得到矩估计量分别为 A1 X ,
X 1 , X 2 ,, X n 是来自总体 X 的样本,
n
则 X 1 , X 2 ,, X n 的联合密度为 f ( xi ; ).
i 1
又设 x1 , x2 ,, xn 为相应于样本 X 1 , X 2 ,, X n 的 一个样本值.
则随机点 ( X 1 , X 2 ,, X n ) 落在点( x1 , x 2 ,, x n )的 邻域 (边长分别为dx1 , dx 2 ,, dx n的n维立方体)内 的 概率近似地为 f ( x i ; )dx i ,
பைடு நூலகம்
点估计问题的一般提法 设总体 X 的分布函数 F ( x; )的形式为已
知, 是待估参数. X 1 , X 2 ,, X n 是 X 的一个样 本, x1 , x2 ,, xn 为相应的一个样本值.
点估计问题就是要构造一个适当的统计量 ˆ ˆ ( X 1 , X 2 ,, X n ), 用它的观察值 ( x1 , x2 ,, xn ) 来估计未知参数 . ˆ ( X 1 , X 2 ,, X n )称为 的估计量. 通称估计, ˆ ˆ ( x1 , x2 ,, xn )称为 的估计值. 简记为 .
X的方差的矩估计.