概率论与数理统计 第七章 参数估计

(3) 写出方程 ln L 0
i 1
若方程有解，
求出L(θ)的最大值点 ˆ(x1,x2,..., xn )
高校教育精品PPT
20
例2. 设总体X服从参数λ>0的泊松分布，求 参数λ的极大似然估计量。
例3. 已知某产品的不合格率为p,有简单随机样本 X1 ,X2 ,…, Xn，求p的极大似然估计量。 若抽取100件产品，发现10件次品，试估计p.
第7章 参数估计
总体所服从的分布类型已知/未知
抽样
参数 估计
估计总体中未知的参数
高校教育精品PPT
1
参数估计 参数估计问题是利用从总体抽样得到的信息
来估计总体的某些参数. 估计新生儿的体重
估计废品率
估计湖中鱼数
高校教育精品PPT
2
§7.1
高校教育精品PPT
3
点估计
设有一个统计总体，总体的分布函数
若总体分布已知，对于样本值，选取适当 的参数，使样本值出现的概率最大，这种 估计方法就是极大似然估计法。
高校教育精品PPT
15
➢极大似然估计法
设总体X的分布律或概率密度为f(x; Ө), θ=(θ1, θ2,…, θk)是未知参数， X1,X2, …,Xn是 总体X的样本，则称X1,X2, …,Xn的联合分布 律或概率密度函数
1
2
exp[
1
2
2
(x
)2]
n
L(, 2)
i 1
1
2
exp[
1
2
2
( xi
)2 ]
(2
n
)2
(
)2
n 2
exp[
1
2
2
n
(xi )2 ]
i 1
ln
L(,
2
)
n 2
ln(
2
)
n 2
ln2ຫໍສະໝຸດ 122n
( xi
i 1
)2
高校教育精品PPT
18
ln L
1
2
[
n i 1
xi
n ]
0
ln L
E(X )
xf (x)dx
1 x( 1)x dx 1
0
2
1 X 2
ˆ1
2X 1
1 X
高校教育精品PPT
23
(2)极大似然估计
n
L( ) ( 1)n ( xi ) (0 xi 1) i 1 n
ln L( ) n ln( 1) ln xi i 1
E(X )
1 (a b) 2
1 2
(aˆ bˆ)
1 n
n i 1
Xi
X
D( X
)
1 12
(b
a)2
1 12
(bˆ
aˆ)2
M2
n 1S2 n
aˆ X
3(n 1) S 2， bˆ X n
高校教育精品PPT
3(n 1) S 2 n
12
矩法特点分析：
矩法的优点是简单易行,并不需要 事先知道总体是什么分布 .
高校教育精品PPT
21
例4. 设X1,X2,…,Xn为取自总体X~U(a, b)的样 本, 求a, b的极大似然估计量.
高校教育精品PPT
22
回顾： 设X1,X2,…Xn是取自总体X的一个样本
X
~
f
(x)
(
1)x ,
0,
0 x 1 其它
其中 >0,
求 的矩估计量和极大似然估计量.
解：(1)矩估计
n
L(x1, x2,..., xn; ) f (xi; ) i 1
为样本的似然函数，简记为L(θ)。
高校教育精品PPT
16
对于固定的样本观测值x1,x2,…,xn。如果有
高校教育精品PPT
17
例1. 设总体X~N(μ,σ2)，其中μ,σ2是 未知参数。求μ,σ2的极大似然估计。
f (x; , 2 )
2
n
2
2
1
2( 2
)2
n
( xi
i 1
n)2
0
ˆ
1 n
n i 1
xi
ˆ 2
1 n
n i 1
( xi
x
x )2
ˆ X
ˆ
2
n 1S2 n
高校教育精品PPT
19
求极大似然估计量的步骤：
n
(1) 根据f(x; θ)，写出似然函数 L( ) f (xi; )
n
i 1
(2) 对似然函数取对数 ln L( ) ln f (xi; )
设总体的分布函数中含有k个未知参数 1,,k
(1)它的前k阶原点矩都是这k个参数的函数,记为：
(2)用样本i阶原点矩替换总体i阶原点矩
高校教育精品PPT
7
(3) 解方程组，得 θi=hi (X1, X2,…, Xn) (i=1,2,…,k);
则以hi (X1, X2,…, Xn)作为θi 的估计量 ，并 称hi(X1, X2,…, Xn)为θi 的矩法估计量，而 称hi(x1, x2,…, xn) 为θi 的矩法估计值。
为 F(x, )，其中 为未知参数 ( 可以是向量) .
现从该总体抽样，得到样本 X1,X2,…,Xn
从样本出发构造适当的统计量
ˆ ˆ(X1, , Xn )
作为参数 的估计量，即点估计。 将 x1,, xn代入估计量，得到 的估计值
ˆ ˆ(x , , x ) 1 高校教育精品PPT
n
4
关键问题：如何构造统计量?
ˆ ˆ(X1, , Xn )
矩估计
点估计
极大似然估计
高校教育精品PPT
5
矩估计
总体k阶原点矩
k EX k
样本k阶原点矩
Ak
1 n
n i 1
X
k i
K.皮尔逊
n
X
k i
大数定律： lim P(| i1 E( X k ) | ) 1
n
n
矩估计基本思想: 用样本矩估计总体矩 高校教育精品PPT . 6
高校教育精品PPT
8
例1. 设总体X的数学期望和方差分别是μ, σ2 ，求μ , σ2的矩估计量。
总体期望、方差的矩估计量分别是样本均值和
样本二阶中心矩。 高校教育精品PPT
9
例2: 已知某产品的不合格率为p, 有简单随 机样本X1 ,X2 ,…, Xn 求p的矩估计量。
解：E(X)=p.
pˆ
缺点是，当总体类型已知时，没有 充分利用分布提供的信息 .
高校教育精品PPT
13
极大似然估计
例： 设一箱中装有若干个白色和黑色的球， 已知两种球的数目之比为3:1或1:3，现有放回 地任取3个球，有两个白球，问：白球所占的 比例p是多少？
高校教育精品PPT
14
如果只知道0<p<1,并且实 测记录是X=k (0 ≤ k≤ n),又 应如何估计p呢?
1 n
n i 1
Xi
X
高校教育精品PPT
10
例3：设电话总机在某段时间内接到呼唤的次数 服从参数λ未知的泊松分布，现在收集了如下42 个数据：
接到呼唤次数 0 1 2 3 出现的频数 7 10 12 8
45 32
求未知参数λ 的矩估计。
ˆ x 80 40
42 21
高校教育精品PPT
11
例4. X~U(a,b),由简单随机样本X1 ,X2 ,…, Xn求 a,b的矩估计量。 解：E(X)=(a+b)/2, D(X)=(b-a)2/12.