估计量的评价标准

7
定义设总体有一未知参数
均为的无偏估计，如果
ˆ ,样本( X 1 , , X n ) ，ˆ1 , 2
ˆ ˆ D(1 ) D( 2 )
ˆ ˆ 则称1 比2 有效。
例3 设 ( X 1 , X 2 , X 3 ) 为取自总体 X 的样本, 试证明下列
三个统计量均为 EX 的无偏估计量，并比较有效性.
当a+b=1时也是
ˆ ˆ ˆ ˆ ˆ 1 , 2 , 则 a1 b 2
的无偏估计量。
估计量的无偏性只保证了估计量的取值在参数真值周围波动,但是波动的幅度有多大呢?自然的, 我们希望估计量波动的幅度越小越好,幅度越小,则估计量取值与参数真值有较大偏差的可能性越小, 而衡量随机变量波动幅度的量就是方差.这样就有了我们下面要介绍的有效性的概念.
ˆ 1X 3 X 1X , 2X 1X 1X , ˆ 1 1 2 3 2 1 2 3 5 10 2 3 2 6
ˆ 1X 1X 1X . 3 1 2 3 3 3 3
8
ˆ 1X 3 X 1X , 2X 1X 1X , ˆ 1 1 2 3 2 1 2 3 5 10 2 3 2 6
13
练习：
P201 习题七
14
END
15
1 n 二阶中心矩 B2 ( X i X )2 ， n i 1 n1 说明B2 是 D( X ) 的有偏估计. E( B2 ) D( X ) ， n
5
2ቤተ መጻሕፍቲ ባይዱ
例1
设总体 X 服从均匀分布U (0, ) ，试证
ˆ 的矩法估计量 2 X 是
的无偏估计量。 ˆ ) E(2 X ) 2E( X ) 2E( X ) 2 . 证 E( 2
2
例2 设 D( X ) 0 , E( X ) ,试问 X 的无偏估计？证
是否为
2
E( X 2 ) D( X ) [E( X )]2
1 D( X ) 2 2 , n
故 X 不是 2 的无偏估计。
2
6
二、有效性
一般来说,一个参数往往有多个无偏估计量.
若有两个无偏估计量:
ˆ ) ( 4 1 1 )DX 0.72DX , D( 2 ˆ 所以 3 最 9 4 36 ˆ ) ( 1 1 1 )DX 0.33DX . 为有效。 D( 3 9 9 9 10
定理
从正态总体 X ~ N ( , ) 中分别抽取容量
2
为 n1 和n2 的两个相互独立的样本，其样本方差分别为
12
n
由切比雪夫大数定律,对 0 ,有
1 n limP X i EX 0 ， n n i 1
可知 X 是 EX 的一个一致估计量。
由辛钦大数定理可以证明，
1 n S2 ( X i X )2 n 1 i 1
是DX的一致估计量。
2
取到等号时,ˆ 称为
的有效估计量.
11
三、相合性
定义如果对 0 ,有
ˆ lim P{ n } 0 ，
ˆ 则称n 是的相合估计量。
ˆ 即当 n 时, ( X1 , X 2 ,, X n ) 依概率收敛于 .
直观上看,当n增大时,样本信息增多,当然希望估计量越来越靠近真值的概率也越来越大, 这种想法就引出了上面的一致性概念. 一致估计量一般地是当样本容量很大时,才能显示其优点.
4
设 ( X 1 , , X n ) 为取自总体 X 的样本，
E( X ) E( X ) ，
说明 X 是总体均值E( X ) 的无偏估计；
1 n 样本方差 S 2 ( X i X )2 ， E( S 2 ) D( X ) ， n 1 i 1
说明 S 是总体方差 D( X ) 的无偏估计.
ˆ 则称为的无偏估计量。
3
ˆ E( ) ，
ˆ E( ) ，
是一个随机变量，它在
ˆ 无偏估计量的含义是：
作为样本的函数
的真值附近波动，但其
平均值恰好是
的真值。比如用一台秤去称物
品，误差有两个来源：一是秤本身制作结构上的问题，这属于系统误差；另一种是操作上或其它随机因素的干扰，这属于随机误差。无偏性即要求没有系统误差。
ˆ 1X 3 X 1X , 2X 1X 1X , ˆ 1 1 2 3 2 1 2 3 5 10 2 3 2 6
ˆ 1X 1X 1X . 3 1 2 3 3 3 3
证
ˆ ) D( 1 X 3 X 1 X ) D( 1 1 2 3 5 10 2 1 9 1 ( )DX 0.38DX , 25 100 4
ˆ 1X 1X 1X . 3 1 2 3 3 3 3
证
ˆ ) E( 1 X 3 X 1 X ) E( 1 1 2 3 5 10 2 1 3 1 ( )EX EX , 5 10 2
ˆ ˆ ˆ 2 1 1 所以 1 , 2 , 3 ˆ E( 2 ) ( )EX EX , 3 2 6 均为 EX 的无偏 ˆ ) ( 1 1 1 )EX EX , 估计量。 E( 3 3 3 3 9
2 S12 和S2 ，它们都是 2 的无偏估计。当n1 n2 时，
有 D( S ) D( S ) 。
2 1 2 2
此定理说明,增加样本容量可提高估计量的有效性。有效性概念说明,在无偏估计量中,方差越小越有效,那末,方差是否有下界呢？
ˆ Rao-Cramer不等式 D
1 ln f ( X ; ) nE
第二节
1
对于同一个参数,用不同的方法可以得到不同的估计量. 现在的问题是,当同一参数出现多个估计量时,究竟哪一个更好呢? 这就涉及到用什么标准
来评价估计量的问题. 确定估计量好坏的标准必须是整体性的,说得明确一点就是,必须在大量观察的基础上从统计的意义上来评价估计量的好坏.也就是说,估计的好坏取决于估计量的统计性质.一般认为,一个“好” 的估计量应该具有如下的条件:
2
一、无偏性
估计量是随机变量, 对于不同的样本值就会得到
不同的估计值, 希望估计值在未知参数真值左右徘徊, 最好它的数学期望等于未知参数的真值, 这就导致了无偏性这个标准。
是未知参数的估计量,如果有
ˆ ˆ 一个样本, ( X1 ,, X n ) 定义设( X1 ,, X n ) 是总体X 的

合集下载

估计量的评选标准与区间估计

式的估计称为区间估计。
置信区间设总体X的分布函数F(x;)含有一个未知参数. 对于给定值a(0<a<1), 若由样本X1 ,X2 ,…,Xn确定的两个统计量 ( X1, X 2 ,..., X n )和 ( X1, X 2 ,..., X n ) 满足
P{ ( X1, X 2 ,..., X n ) ( X1, X 2 ,..., X n )} 1 a, 则称随机区间 ( , )是的置信度为1 a的置信区间,和分
n 1
S 2

1 n 1
n
(Xi
i 1

X 2 ).
这就是说S2是2的无偏估计，因此，一般都是取S2作为方差2的估计量。
例3 设总体X服从参数为的指数分布，概率密度为
f
( x,

பைடு நூலகம்
ex /
,
x 0,
0,
其它。
其中>0为未知,又设X1 ,X2 ,…,Xn是来自X的样本,试证
都是统计量 , 那么( , )就是的一个置信度为1 a的置信区间。
函数Z(X1 ,X2,…,Xn ; )的构造, 可以从的点估计着手考虑。
(三)单个总体N(,2)的情况
设已给定置信度为1-a, 并设X1 ,X2,…,Xn为总体N(,2)
的样本. X, S2分别是样本均值和样本方差。
2的无偏估计为S2 由第六章2定理一知
(n 1)S 2 ~ 2 (n 1), 2
故
P{
2 1-a/2
(n
1)

(n 1)S 2
2

2 a/2
(n

第十八讲估计量的评选标准及区间估计

第十八讲估计量的评选标准及区间估计1. 估计量的评价标准判断估计量好坏的标准是：有无系统偏差；波动性的大小；伴随样本容量的增大是否是越来越精确，这就是估计的无偏性，有效性和相合性。

（1）无偏性设∧θ是未知参数θ的估计量，则∧θ是一个随机变量，对于不同的样本值就会得到不同的估计值，我们总希望估计值在θ的真实值左右徘徊，即其数学期望恰等于θ的真实值。

定义: 设∧∧=θθ（n X X X ,,,21 ）是未知参数θ的估计量，若)(∧θE 存在，且对Θ∈∀θ有)(∧θE =θ，则称∧θ是θ的无偏估计量，称∧θ具有无偏性。

在科学技术中，)(∧θE -θ称为以∧θ作为θ的估计的系统误差，无偏估计的实际意义就是无系统误差。

例１：设总体X 的k 阶中心矩)(kk X E =μ)1(≥k 存在，),,,(21n X X X 是X 的一个样本，证明：不论X 服从什么分布，∑==n i ki k X n A 11是k μ的无偏估计量。

证明：n X X X ,,21与X 同分布，n i X E X E k k ki ,,2,1)()( ===∴μ第七章参数估计第3节估计量的评选标准从上一节得到：对于同一参数，用不同的估计方法求出的估计量可能不相同，用相同的方法也可能得到不同的估计量，也就是说，同一参数可能具有多种估计量，而且，原则上讲，其中任何统计量都可以作为未知参数的估计量，那么采用哪一个估计量为好呢？这就涉及到估计量的评价问题。

对定义的理解：设Θ∈θ是总体X 的分布参数，Θ∈∀θ，即服从某一分布形式的任意总体分布，参数θ的估计量∧∧=θθ（,,21X X n X , ）（是简单随机样本的函数）的数学期望都等于θ。

k n i ki k X E n A E μ==∴∑=1)(1)(特别，不论X 服从什么分布，只要)(X E 存在，X 总是)(X E 的无偏估计。

例２：设总体X 的2)(,)(σμ==X D X E 都存在，且02>σ，若2,σμ均为未知，则2σ的估计量∑=-=ni i X X n 122)(1ˆσ是有偏的。

估计量的评选标准

首先讨论如下简单情形：总体 X 的概率密度为
p(x,θ )，g(θ )为待估参数，设 gˆ(X1)为 g(θ) 的
任意无偏估计，考虑
Var(gˆ(X1)) 的下界？
注：积分形式的 Cauchy 不等式：
uvdx 2 u2dx v2dx
1、 Fisher信息量的定义.
设总体 X 的概率函数为 p (x; ), ,且满足一定条件:
ln p(x;) x ln ln x! x!
I ()
E[ d ln
p( X ; )]2 d

E[ X

1]2

E(X )2 2

1

故 1 , nI () n
显然,Var(x) 1 ,
nI ()
所以, x是的有效估计.
例1 设 X1, X2,… Xn 是取自总体 X ~ N( 0,σ2) 的一个样本，试证：
两者不同!
对于同一个未知参数,用不同的方法得到的估计量可能不同,于是提出问题：
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
ˆ( X1,..., Xn ) 越接近越好！
如何刻画？
例：估计农大12级本科生高数的平均成绩：
方案一：设计一个抽样方案，取200个同学的高数成绩，计算出他们的平均成绩，作为真实成绩的估计；方案二：随便取一个同学的成绩作为真实成绩的估计。

1 n
Var (ˆ )

1
n
2
Var(ˆ1)
例如 X ~ N( , 2 ) , ( x 1, x 2 ) 是一个样本.
ˆ1

2 3
x1

1 3
x2

7.2(估计量的评价标准)

(n − 1) S 2
σ
2
~ χ 2 (n − 1)
可得
E (S ) = σ ,
2 2
2σ 4 2 D( S ) = n −1
由切比雪夫不等式，由切比雪夫不等式，当 n → ∞，对任意 ε > 0,
P{| S 2 − σ 2 |< ε } ≥ 1 − D( S 2 )
ε2
2σ 4 = 1− →1 2 (n − 1)ε
n−1 n−1 2 E ( B2 ) = E(S ) = D( X ) ≠ D( X ). n n
7.2
估计量的评价标准
所以，B2不是总体方差D(X)的无偏估计，尽管B2是所以，不是总体方差的无偏估计，尽管的无偏估计 D(X)的矩估计量．的矩估计量．的矩估计量
1 n n 2 看作对B 我们可以把 S = ∑ ( X i − X ) = n − 1 B2 看作对 2的 n − 1 i =1
P{ X = k } =
λk
k!
e −λ , k = 0,1, 2, L
分别是E(X) =λ和D(X)=λ 的矩估计量，的矩估计量，由于 X 和B2分别是 ˆ ˆ 于是得到λ 的两个不同的矩估计量 λ1 = X 和 λ2 = B2
7.2
估计量的评价标准
既然估计量不是唯一的，那么，究竟孰优孰劣就既然估计量不是唯一的，那么，要有一个评价标准．要有一个评价标准．评价估计量的好坏一般从以下三个方面考虑：有无系统偏差；波动性的大小；三个方面考虑：有无系统偏差；波动性的大小；当样本容量增大时是否越来越精确．样本容量增大时是否越来越精确．这些就是估计量的无偏性，有效性和相合性．的无偏性，有效性和相合性．

7.3 估计量的评选标准

第三节
估计量的评选标准
一、问题的提出二、无偏性三、有效性四、相合性参数, 对于同一个参数用不同的估计方法求出的估计量可能不相同. 估计量可能不相同问题 (1)对于同一个参数究竟采用哪一个估计量好? (1)对于同一个参数究竟采用哪一个估计量好? 对于同一个参数究竟采用哪一个估计量好 (2)评价估计量的标准是什么? (2)评价估计量的标准是什么? 评价估计量的标准是什么本节介绍几个常用标准. 本节介绍几个常用标准.
ˆ θ 是 θ 的无偏估计量 .
无偏估计的实际意义: 无系统误差. 无偏估计的实际意义: 无系统误差.
例1 设总体 X 的 k 阶矩 µ k = E ( X k ) ( k ≥ 1)存在 ,
试证明不论的一个样本，又设 X 1 , X 2 ,L, X n 是 X 的一个样本，
1 n k 总体服从什么分布 , k 阶样本矩 Ak = ∑ X i 是 n i =1
才能显示出优越性, 这在实际中往往难以做到, 才能显示出优越性, 这在实际中往往难以做到, 因此, 因此, 在工程中往往使用无偏性和有效性这两个标准. 两个标准.
k 阶总体矩 µ k 的无偏估计 .
证因为 X 1 , X 2 ,L, X n 与 X 同分布，同分布，故有即
E ( X ik ) = E ( X k ) = µ k ,
i = 1,2,L, n.
1 n k E ( Ak ) = ∑ E ( X i ) = µ k . n i =1
故 k 阶样本矩 Ak 是 k 阶总体矩 µ k 的无偏估计 .
都是 θ 的无偏估计量 ,
ˆ ˆ ˆ ˆ 若有 D(θ1 ) ≤ D(θ 2 ) , 则称 θ1 较 θ 2 有效 .
四、相合性

估计量的评选标准

估计量的评选标准估计量是指在缺乏准确数据的情况下，根据一定的方法和经验，对某一现象或数值进行估算的过程。

在实际生活和工作中，我们经常需要对各种各样的数据进行估计，比如市场需求量、产品销售额、人口数量等等。

而估计量的准确性和可靠性对于决策和规划具有重要意义。

因此，对估计量的评选标准也显得尤为重要。

首先，估计量的评选标准应当包括准确性。

准确性是估计量的基本要求，也是最为重要的一个方面。

一个准确的估计量应当尽可能接近真实数值，能够反映出实际情况。

在评选估计量时，需要对比不同估计量的准确度，选择最为接近真实情况的估计量作为最终结果。

其次，估计量的评选标准还应当考虑到可靠性。

可靠性是指估计量的稳定性和一致性，即在不同条件下得到的估计量应当是相近的。

一个可靠的估计量应当具有较小的误差范围，能够在不同情况下保持一致性。

在评选估计量时，需要对其可靠性进行充分的考量，选择稳定性和一致性较高的估计量作为最终结果。

此外，估计量的评选标准还应当考虑到数据来源和方法的科学性和合理性。

一个科学合理的估计量应当基于充分的数据支撑和合理的估算方法，能够经得起推敲和验证。

在评选估计量时，需要对其数据来源和估算方法进行审查，选择数据充分、方法科学的估计量作为最终结果。

最后，估计量的评选标准还应当考虑到应用的实际性和适用性。

一个优秀的估计量应当能够满足实际应用的需求，能够为决策和规划提供有力支持。

在评选估计量时，需要对其实际应用价值进行评估，选择能够最大程度满足实际需求的估计量作为最终结果。

综上所述，估计量的评选标准应当包括准确性、可靠性、数据来源和方法的科学性和合理性，以及应用的实际性和适用性。

只有在综合考量这些方面的因素之后，我们才能够选择出最为合适的估计量，为决策和规划提供可靠的支持。

因此，在进行估计量的评选时，需要全面考量各方面因素，以确保选择出最为优秀的估计量。

常用估计量的评价标准

常用估计量的评价标准
常用估计量的评价标准有：
1. 偏差（Bias）：估计量的期望值与真实值之间的差距。

偏差越小越好。

2. 方差（Variance）：估计量的离散度，即估计量与其期望值之间的差异。

方差越小越好。

3. 平均绝对误差（MAE）：估计量的绝对误差的平均值。

MAE越小越好。

4. 均方误差（MSE）：估计量的误差的平方的平均值。

MSE越小越好。

5. 均方根误差（RMSE）：MSE的平方根。

RMSE越小越好。

6. 相对误差（Relative Error）：估计量的误差与真实值之间的比率。

相对误差越小越好。

7. 系数相关度（Correlation Coefficient）：估计量与真实值之间的相关程度。

系数相关度越大越好。

8. 准确率（Accuracy）：估计量正确的比率。

准确率越高越好。

9. 召回率（Recall）：真实值中被正确估计量估计到的比率。

召回率越高越好。

10. F1得分（F1 Score）：综合考虑准确率和召回率的得分。

F1得分越高越好。

评价估计量的标准

评价估计量的标准
1.准确性：估计量应该尽可能接近真实值。

2.精确度：估计量应该具有足够的精度，以支持正确的决策。

3.一致性：估计量应该在相同的背景下多次测量所得到的结果是一致的。

4.可靠性：估计量应该具有足够的可靠性，以在不确定的环境中使用。

5.效度：估计量应该具有足够的效度，以反映所评估的属性或变量。

6.适用性：估计量应该适用于特定的变量或场景，并且在不同场景下使用时应该具有相似的表现。

7.可解释性：估计量应该能够被易于理解的方式解释并解释。

8.稳定性：估计量应该对于不同的操作者、时间和环境条件变化不敏感。

9.可比性：估计量应该具有足够的可比性，以支持不同实验结果的比较。

概率论与数理统计6-2估计量的评价标准

3n(n 1)
所以 ˆ n 是的相合估计
六、小结
估计量的评选的四个标准，
但要求一下三个标准
无偏性有效性相合性
相合性是对估计量的一个基本要求, 不具备
相合性的估计量是不予以考虑的.
由最大似然估计法得到的估计量, 在一定条件下也具有相合性.估计量的相合性只有当样本容量相当大时,才能显示出优越性, 这在实际中往往难以做到,因此,在工程中往往使用无偏性和有效性这两个标准.
第六章
第二节估计量的评价标准
一、问题的提出二、无偏性三、有效性四、相合性
一、问题的提出
从前一节可以看到, 对于同一个参数, 用不同的估计方法求出的估计量可能不同.然而, 原则上任何统计量都可以作为未知参数的估计量.
问题 (1) 对于同一个参数究竟采用哪一个估计量好? (2) 评价估计量优劣的标准是什么?
估计往往是相合估计.
例6.20 设总体 X 的二阶矩存在, X1, X 2 , X n
是总体 X 的样本, n 1,2, ,试证
ˆ n
2 n(n 1)
n
iX i
i 1
是总体均值的相合估计.
证明： E(ˆn )
E( 2 n(n 1)
n i1
iXi )
2 n(n 1)
n i1
iE(Xi )
例 6.19 若总体 X 的 E( X )和 D(X )存在,则样本均值是总体均值 X 的相合估计.
解： E( X ) E( X )
lim D( X ) lim D( X ) 0
n
n n
一般地,样本的 k 阶原点矩
Ak
1 n
n i 1
X
k i
是总体