7.2 估计量的优良性准则

n
电子科技大学
#
估计量的优良性准则
Dec-10
证明 S2 是σ2 的无偏估计量 例7.2.2 设总体的方差 D(X)=σ2 >0，则样本 ， 方差S 的无偏估计. 方差 2 是σ2的无偏估计 证
(n −1)S = ∑( Xi − X) = ∑ Xi − nX 2
2 2 2 i =1 i =1
n 2 2
证明无偏性判断有效性(1) 证明无偏性判断有效性 证明无偏性判断有效性(2) 证明无偏性判断有效性 和S2 分别是μ和σ2 的最小方差无偏估计 X
电子科技大学
估计量的优良性准则
Dec-10
3. 相合性 无偏性： 无偏性：反映估计量相对待估参数有无系 统偏差. 统偏差 有效性： 有效性：在无偏类中反映估计量相对待估 参数的偏离程度. 参数的偏离程度. 例7.2.5 问题： 问题：在“偏差性”和“离散性”两者 偏差性” 离散性” 兼顾的原则下建立估计量为“最优”准则 兼顾的原则下建立估计量为“最优”准则.
电子科技大学
估计量的优良性准则
Dec-10
的相合估计量; X 是μ的相合估计量; S2 和M2 都是 2的相合估计量 都是σ 的相合估计量.
部分证明
电子科技大学
估计量的优良性准则
Dec-10
例7.2.1 设总体的方差 D(X)=σ2 >0，有 ，
1 E( X) = E( ∑Xi ) = E( X) = µ n i=1 1 2 2 2 2 2 E( X ) = D( X) +[E( X)] = σ + µ ≠ µ n
2
θ2
ˆ ˆ . θ2比θ1更有效
2 ˆ) D(θ2 3n 而且 lim = = 0. 2 n→∞ D θ ) (n + 1) (n + 2) (ˆ 1
#
电子科技大学
估计量的优良性准则
Dec-10
相合估计量. 相合估计量
1 n 2 例7.2.6 设 X~N(0,σ2), 证明 ∑ Xi 是σ2 的 n i =1
1 ∴E(Z) = 3 ∫ z ⋅ (θ − z) dz = θ 4 θ 0
2
3
θ
从而,
4 E( m Xi ) = E(4m Xi ) = θ , ax in 3 1≤i≤3 1≤i ≤3
电子科技大学
估计量的优良性准则
Dec-10
4 ax 4 in . 即 m Xi 和 m Xi 都是 的无偏估计 θ 3 1≤i≤3 1≤i ≤3
1≤i ≤3
都是θ的无偏估计； 都是 的无偏估计； 的无偏估计 2) 上述两个估计量中哪个的方差最小？ 上述两个估计量中哪个的方差最小？ 分析： 要判断估计量是否是无偏估计量， 分析： 要判断估计量是否是无偏估计量， 需要计算统计量的数学期望. 需要计算统计量的数学期望.
电子科技大学
估计量的优良性准则
有偏估计量
θ2 4 ˆ 又 D(θ1 ) = D(2X) = D( X) = , n 3n nθ 2 ˆ D(θ2 ) = D(m {Xi }) = ax 2 1≤i ≤n (n + 1) (n + 2)
电子科技大学
估计量的优良性准则
Dec-10
ˆ D(θ2 ) =
nθ ˆ = D(θ1 ), < (n + 1)2 (n + 2) 3n
ˆ D(µ) = D(∑ci Xi = σ ）
i =1
n
2
∑
i=1
n
i=1
2 ci
σ ≤ ,
2
利用拉格朗日乘数法求条件极值， 利用拉格朗日乘数法求条件极值，令
电子科技大学
估计量的优良性准则
Dec-10
从联立方程组 ∂L ） ∂c = 2ci − λ = 0； （i = 1,2,L, n i n ∑ci = 1. i =1
电子科技大学
估计量的优良性准则
Dec-10
注意： 注意：
1 n M2 = ∑( Xi − X)2不是 2的无偏估计 σ n i =1
1 n n −1 2 2 QM2 = ∑( Xi − X ) = S n i =1 n i= n −1 2 ⇒ E(M2 ) = σ n
1 n E σ 已知 ( X ) = µ时， ∑( Xi − µ)2是 2的无偏估计 n i=1
ˆ E(θn ) = E[T( X1 , X2 ,..., Xn )] = θ
ˆ 称 θn 为θ的无偏估计量. 若 的无偏估计量. ˆ lim b = lim[E(θ ) −θ ] = 0
n→∞ n n→∞ n
ˆ 则称 θn 为θ的渐进无偏估计量. 的渐进无偏估计量.
电子科技大学
估计量的优良性准则
Dec-10
1 n 2 D ∑Xi n 1 n 2 i=1 2 = P ∑Xi −σ ≥ ε ≤ 2 n i=1 ε
2)
3 2 QD(Y ) = E(Y ) − E(Y ) = θ , 80 3 2 2 2 D(Z) = E(Z ) − E(Z) = θ , 80 4 ∴D( Y ) ≤ D(4Z) 3
2 2
4 ax θ in . 即 m Xi 比 ˆ2 = 4m Xi 的方差小 3 1≤i≤3 1≤i ≤3
#
电子科技大学
Dec-10
令
Y = maxXi ,
1≤i ≤3
Z = minXi
1≤i ≤3
先求X与 的概率密度函数， 证 1) 先求 与Y 的概率密度函数， 已知分布函数
0, x < 0; x FX ( x) = , 0 ≤ x <θ; θ 1, x ≥θ .
电子科技大学
估计量的优良性准则
参数的无偏估计量不惟一. 参数的无偏估计量不惟一 无偏估计只能保证估计无系统误差： 无偏估计只能保证估计无系统误差：
ˆ E(θ −θ ) = 0
电子科技大学
估计量的优良性准则
Dec-10
θ
ˆ 的取值在θ及其附近越密集越好 及其附近越密集越好， 希望 θ 的取值在 及其附近越密集越好，
其方差应尽量小. 其方差应尽量小 ˆ ˆ 定义7.2.2 设θ1( X1, X2 ,..., Xn )和θ2( X1, X2,..., Xn) 定义 的无偏估计量, 都是未知参数θ的无偏估计量,若
估计量的优良性准则
Dec-10
例7.2.4 证明
ˆ µ = ∑ci Xi , ci ≥ 0,
i=1
n
∑ci = 1,
i =1
n
X 是无偏估计量， 是其中最有效估计量. 是无偏估计量， 是其中最有效估计量. n n 证 ˆ E(µ) = E(∑ci Xi） E( X)∑ci =E( X), =
i=1
#
电子科技大学
估计量的优良性准则
Dec-10
例7.2.5 设X~U(0,θ) ,θ的矩法估计量为 的矩法估计量为 ˆ ˆ ax θ = 2X ，极大似然估计量为 θ = m {X }.
1
2 1≤i ≤n i
ˆ 有 E(θ1 ) = E(2X ) = θ ,
ˆ ) = E(m {X }) = nθ E(θ2 ax i 1≤i ≤n n+1
电子科技大学
估计量的优良性准则
n 2
Dec-10
Xi 1 n 2 σ2 令 Y = ∑ ~ χ 2 (n), 则 ∑Xi = Y , n i =1 n i =1 σ
σ 2 1 n 2 Y ∴D ∑Xi = D n n i =1
估计量的优良性准则
Dec-10
§7.2 估计量的优良性准则 对于总体的参数， 对于总体的参数，可用各种不同的方法去 估计它，因此一个参数的估计量不唯一. 估计它，因此一个参数的估计量不唯一 如 X~U(0,θ) ,θ的矩法估计量为 的矩法估计量为 ， 2X
ax 极大似然估计量为 m {Xi }
1≤i ≤n
ˆ ˆ D(θ1 ) ≤ D(θ2 ), ∀θ ∈Ω
( ). θ θ 称 ˆ1比 ˆ2有效 优效
电子科技大学
估计量的优良性准则
Dec-10
ˆ 的无偏估计， 设 θ0是θ的无偏估计，如果对θ的任何一个
无偏估计量 θ 都有 ˆ
ˆ ˆ D(θ0 ) ≤ D(θ ), θ ∈Ω
ˆ 的最小方差无偏估计量. 称 θ0为θ的最小方差无偏估计量.
Dec-10
F ( y) = P{Y ≤ y} = P{max Xi ≤ y} Y
= P{X1 ≤ y, X2 ≤ y, X3 ≤ y} = P{ X1 ≤ y}⋅ P{X2 ≤ y}⋅ P{X3 ≤ y}
= [FX ( y)]
3
1≤i ≤3
′ fY ( y) = FY ( y) = 3[F( y)] fY ( y)
2
3 y 2 ⋅ ( ) , 0 ≤ y ≤ θ; ∴ fY ( y) = θ θ 0 , else.
电子科技大学
估计量的优良性准则
Dec-10
E(Y ) =
θ 3 ∫0
3
θ
3 y dy = θ , 4
3
2 3 z ⋅ 1 − , 0 ≤ z ≤ θ , 同理可得 fZ (z) = θ θ else 0 ,
证明相合性常用到切比雪夫不等式 切比雪夫不等式; 分析 1) 证明相合性常用到切比雪夫不等式 2) 这里计算方差较难, 可以先化为χ2 这里计算方差较难 分布, 再利用卡方分布的性质计算. 分布 再利用卡方分布的性质计算 证
1 n 2 1 n E ∑Xi = ∑E( Xi2 ) = E( X 2 ) = σ 2 , n n i =1 i=1
∴E(S ) = σ .
2 2