Ch7.参数估计

由之解出的最大点即最大似然估计值 1 n 1 n ˆ xi = x , 2 ( xi x )2 ˆ n i 1 n i 1
例5 设总体 X ~ N (μ , σ2) , 两分布参数皆未知. 试求 其矩估计量、最大似然估计量和相应的估计值.
1 n 2 2 (Xi X ) D X ˆ n i 1
从而得矩估计量
1 n 1 n ˆ ˆ X X i , 2 ( X i X )2 n i 1 n i 1 进而有矩估计值 1 n 1 n ˆ ˆ x xi , 2 ( x i x )2 n i 1 n i 1
n n
例3. 设总体 X ~ B (m , p) , 分布参数 p未知. 试求参 数 p 的矩估计量、最大似然估计量和相应的估计值.
解 (2) X ~ B (m , p),
n
其似然函数
L( p ) P ( x i ; p )
i 1
C
i 1
n
xi m
p (1 p )
xi
m xi
二、
最 大 似 然 估 计 法
利用总体的分布律 或密度函数，构造 含待估参数θ的似然函数
L( ) p( x i ; )
i 1 n
或
L( ) f ( x i ; )
i 1
n
ˆ 再取其最大点 作为待估参数的最佳值
的方法称为最大似然估计法 ; 所使用的
统计量称为最大似然估计量 .

ˆ X
例2 设离散型总体X的概率分布为
X P 1 2 3

2
2 1
1
2
试由样本观察值 x1 1, x2 2, x3 1, 求 的矩估计值
ˆ 3 X 解 3 2 E ( X ) X 2 4 1 由样本观察值可得 x x x x 1 2 3 3 3
i 1

n
1
( x i )2
e
2 2
于是, 再令
ln L( , 2 ) 1 n 2 ( xi ) 0 i 1 ln L( , 2 ) n 1 n 2 4 ( xi )2 0 2 2 2 i 1

ˆ 3 x 5. 2 6
例3
设总体 X 在[0, ]上服从均匀分布, 其中
( 0) 未知, ( X 1 , X 2 ,, X n ) 是来自总体 X 的样本, 求 的估计量.
解

1 n E( X ) X i X , n i 1 2
为所求 的估计量.
参数估计
问题的提出：已知总体X的分布函F(x;θ)，其中θ 是未 知参数。 点估计：由总体的样本(X1, X2,…, Xn)对未知参数θ构造 统计量 ˆ ˆ( X 1 , X 2 , , X n ) 作为参数 θ 的估计，称
ˆ ˆ ( X 1 , X 2 , , X n ) 为参数θ的估计量。
样本(X1, X2,…, Xn)的一组取值(x1, x2,…, xn)称为样本观 察值，将其代入估计量ˆ , 得到数值 ˆ ˆ ( x1 , x2 , , xn ) 称为参数θ的估计值。 在不致混淆的情况下，估计量、估计值统称估计，记 为 ˆ
一、矩 估 计 法
巧妙地利用样本 k 阶矩与 总体 k 阶矩 E ( X ) 相等的特点, 以样本 k

样本均值 样本方差
1 Ak X ik , k 1, 2, 3, n i 1
样本 k 阶矩(样本 k 阶原点矩)
1 n Bk ( X i X )k , k 1, 2, 3, n i 1
样本 k 阶中心矩
检测2 说出下列常用数字特征值的名称
E( X )
数学期望
2
E { [ X E X ] }
或者
例5 设总体 X ~ N (μ , σ2) , 两分布参数皆未知. 试求 其矩估计量、最大似然估计量和相应的估计值.
于是, 再令
ln L( , 2 ) 1 n 2 ( xi ) 0 i 1 ln L( , 2 ) n 1 n 2 4 ( xi )2 0 2 2 2 i 1
例3. 设总体 X ~ B (m , p) , 分布参数 p未知. 试求 参数 p 的矩估计量、最大似然估计量和相应的估计值.
解 (1) 用矩估计法时, 只需令
X E( X ) m p .
解之即得其矩估计量和矩估计值如下
X 1 1 ˆ ˆ p X i , p mn xi m mn i 1 i 1
x ln L( p ) (ln p ) x i ln(1 p ) ( m x i ) ln C mi i 1 i 1 i 1 n n n
然后求其驻点, 即令
d ln L( p ) 1 n 1 n xi ( m xi ) 0 dp p i 1 1 p i 1
方差
E( X ) ,
k
k 1, 2,
k 阶矩(k 阶原点矩)
k
E { [ X E X ] } ,
k 1, 2,
k 阶中心矩
引例 炸药厂一天着火的次数 X ~P (λ). 据资料记载, 着火有 0, 1, 2, 3, 4, 5, 6 次的分别有 75, 90, 54, 22, 6, 2 和 1 天. 问参数λ的值为多大?
解之即得最大似然 估计值 1 n ˆ p xi , mn i 1
进而有最大似然估计量
1 n ˆ p Xi . mn i 1
关于最大似然估计量的寻求步骤
对任何分布参数(或参数群)进行估计时 都宜遵循如下的“三部曲”
1. 用分布律或概率密度构造似然函数
L( ) p( x i ; ) 或 L( ) f ( x i ; )
i 1 n i 1
n
n
2. 对似然函数取自然对数, 形成对数似然函数
ln L( ) ln p( x i ; ) 或 ln L( ) ln f ( x i ; )
n i 1 i 1
3. 依微积分理论求对数似然函数的最大点,该值即 最大似然估计值, 仿其构形即得最大似然估计量.

或者
例5 设总体 X ~ N (μ , σ2) , 两分布参数皆未知. 试求 其矩估计量、最大似然估计量和相应的估计值.
(2) 用最大似然估计法时, 应令
L( , ) f ( x i ; , )
2 2 i 1 n
2 或者 n n 1 n ln L( , 2 ) ln(2 ) ln 2 2 ( x i ) 2 2 2 2 i 1
n n
i 1
n i 1
1 n ˆ 的最大似然估计量为 X i X . n i 1
这一估计量与矩估计量是相同的.
例4 设总体的概率密度
求θ 的最大似然估计量和矩估计量.
1 x e ,x0 f ( x ) (＞0 ） 0 ,x0
解 (1) 用矩估计法时, 可直接令
k
1 n k 阶矩 Ak X i ( 或 k 阶中心矩 Bk )为 n i 1
素材构造统计量估计总体未知参数的方
法, 习惯上称为矩估计法 ; 使用的统计量
称为矩估计量 , 具体取值称为矩估计值 .
例1. 设总体X~P(λ)，求λ的矩估计。
解

1 n E( X ) X i X n i 1
Ex.
设 X 服从参数为 ( 0) 的泊松分布,
X 1 , X 2 ,, X n 是来自 X 的一个样本, 求 的最大 似然估计量.
解
X 的分布律为
P{ X x }
x
x!
e , ( x 0,1, 2, , )
所以 的似然函数为
xi n L( ) e e i 1 xi !
概率论与数理统计
已知总体X的分布函数F(x;θ)，其中θ 是未知参数。
θ为多少呢？
第七章
第一讲
参数估计
点估计
任务：由样本求母体参数 的近似值 第二讲 区间估计
任务：由样本求母体参数 的变化范围
( , )
常用分布的数字特征 （数学期望与方差）
分布 0-1分布 期望E(X) p 方差D(X) p (1－p )
n

n i 1
xi
i 1
n
x !
i
,
xi n , L( ) e e n i 1 xi ! xi !
n
i 1
xi
n
ln L( ) n xi ln ln xi !, i 1 i 1 n xi d 令 ln L( ) n i 1 0, d 1 n 解得 的最大似然估计值 xi x ,
ˆ 所以 2 X
极大似然法的基本思想 先看一个简单例子： 某位同学与一位猎人一 起外出打猎 . 一只野兔从前方窜过 . 只听一声枪响，野兔应声倒下 . 如果要你推测， 是谁打中的呢？ 你会如何想呢?
你就会想，只发一枪便打中, 猎人命中的概率 一般大于这位同学命中的概率 . 看来这一枪是猎人 射中的 . 这个例子所作的推断已经体现了极大似然法的 基本思想 .
B(n,p) P()
R(a,b) E(λ) N ( , 2 )
np
np (1－p )

ab 2

( b a )2 12
1 /λ
1 /λ2

2
检测1 说出下列常用统计量的名称
1 n X Xi n i 1