第五讲估计量的优良性准则续培训资料
合集下载
[课件]概率与统计 7.2 估计量的优良性准则
![[课件]概率与统计 7.2 估计量的优良性准则](https://img.taocdn.com/s3/m/0eda74eeaeaad1f346933f0c.png)
电子科技大学
估计量的优良性准则
Dec-09
令
Y = m Xi , ax
1≤i≤3
Z = m Xi in
1≤i≤3
先求X与 的概率密度函数, 证 1) 先求 与Y 的概率密度函数, 已知分布函数
; 0, x < 0 x F (x) = , 0 ≤ x <θ; X θ 1, x ≥θ.
电子-09
7.2.3定义 设 θn =θ(X1, X2,..., Xn)是未知参 定义
的估计量, 数θ的估计量,若对任意的 ,有 的估计量 若对任意的ε>0,
n→ ∞
lim P{θn θ < ε} =1
则称 θ 为θ的相合估计量. 相合估计量. 相合估计量的证明(1) 相合估计量的证明 相合估计量的证明(2) 相合估计量的证明
设总体X~U[0,θ], θ >0 未知 (X1,X2, 未知, 例7.2.3 设总体 X3)是取自 的一个样本 是取自X的一个样本 是取自 1) 试证
= 4m X , ax i θ1 3 1≤i≤3
θ 2 = 4m Xi in
1≤i≤3
都是θ的无偏估计; 都是 的无偏估计; 的无偏估计 2) 上述两个估计量中哪个的方差最小? 上述两个估计量中哪个的方差最小? 分析: 要判断估计量是否是无偏估计量, 分析: 要判断估计量是否是无偏估计量, 需要计算统计量的数学期望. 需要计算统计量的数学期望.
2
3 y 2 ; ( ) , 0≤ y ≤ θ ∴ fY ( y) = θ θ 0 , else.
电子科技大学
估计量的优良性准则
Dec-09
E(Y) =
θ3 ∫0
3
θ
3 y dy = θ, 4
估计量的优良性准则
Dec-09
令
Y = m Xi , ax
1≤i≤3
Z = m Xi in
1≤i≤3
先求X与 的概率密度函数, 证 1) 先求 与Y 的概率密度函数, 已知分布函数
; 0, x < 0 x F (x) = , 0 ≤ x <θ; X θ 1, x ≥θ.
电子-09
7.2.3定义 设 θn =θ(X1, X2,..., Xn)是未知参 定义
的估计量, 数θ的估计量,若对任意的 ,有 的估计量 若对任意的ε>0,
n→ ∞
lim P{θn θ < ε} =1
则称 θ 为θ的相合估计量. 相合估计量. 相合估计量的证明(1) 相合估计量的证明 相合估计量的证明(2) 相合估计量的证明
设总体X~U[0,θ], θ >0 未知 (X1,X2, 未知, 例7.2.3 设总体 X3)是取自 的一个样本 是取自X的一个样本 是取自 1) 试证
= 4m X , ax i θ1 3 1≤i≤3
θ 2 = 4m Xi in
1≤i≤3
都是θ的无偏估计; 都是 的无偏估计; 的无偏估计 2) 上述两个估计量中哪个的方差最小? 上述两个估计量中哪个的方差最小? 分析: 要判断估计量是否是无偏估计量, 分析: 要判断估计量是否是无偏估计量, 需要计算统计量的数学期望. 需要计算统计量的数学期望.
2
3 y 2 ; ( ) , 0≤ y ≤ θ ∴ fY ( y) = θ θ 0 , else.
电子科技大学
估计量的优良性准则
Dec-09
E(Y) =
θ3 ∫0
3
θ
3 y dy = θ, 4
第五讲估计量的优良性准则续-PPT精品文档
任一统计量，则对 T ( x ) p ( x , ) ，积分
分可交换次序，即 T ( x ) p ( x , ) dx dx 1 n T ( x ) p ( x , ) dx dx 1 n 当仅有（1）成立时，我们可以定义所谓的
2
2
2
1 所以由 由于 w 2 , 2 的值域包含内点， 2 定理4.2可知完全充分统计量为
T (x ) ( x x). i,
i 1 i 1 2 i n n
1n 而我们已经知道 x x 是 的无偏估 i n i 1 2 且是完全充分统计量 T( x)的函数， 故当 未
2
2
2 求参数 和 的 UMVUE 。 样本。
x ,x 是来自总体的 ( , ) 未知， 1, x 2, n
解
首先求完全充分统计量。 由于
2 1 ( x ) p ( x , ) exp 2 2 2
1 2
2 2 1 2 2 e exp x x
知时，的UMVUE为 x 。
x 都是 的 UMVU 。 注： 无论 2 是已知或未知，
n n 1 1 2 2 2 2 又 S ( x x ) x n x i i n 1 n 1 i 1 i 1
2
是 的无偏估计，且是 完全充分统 T ( x )
为直线上的一个开区间 。 满足下述条件的分布
设分布族为 { P , } ，密度函 p ( x , ) ，
Cramer-Rao正则族： 族 { P , } 称为
6。2 估计量的优良准则
n 故 max( X 1 , X 2 ,, X n ) 也是 的无偏估计量. n1
例5 设总体 X 服从参数为 的指数分布, 概率密度
x 1 e , f ( x; ) 0,
x 0, 其他.
其中参数 0, 又设 X 1 , X 2 ,, X n 是来自总体 X 的 样本, 试证 X 和 nZ n[min( X 1 , X 2 ,, X n )] 都是 的无偏估计.
n 1 2 ˆ 2 是有偏的. 2 , 所以 n n 若以 乘 ˆ 2 , 所得到的估计量就是无偏的. n 1
(这种方法称为无偏化).
n n 2 E E ( ˆ ˆ 2) 2. n 1 n 1 n 1 n 2 2 2 ( X X ), 因为 S ˆ i n 1 i 1 n 1
n 1 n 1 D X , ˆ D( 2 ) D Xh h n n
2
n1 又因为 E ( X h ) , n
E( X h )
2
n
0
n
x
n 1
n 2 dx , n2
D( X h ) E ( X h ) [ E ( X h )]2
例7
(续例4)
ˆ1 2 X 在例4中已证明
n1 ˆ 和 2 max{ X 1 , X 2 ,, X n } 都是 的无偏估 n ˆ2 较 ˆ1 有效. 计量, 现证当n 2 时,
2 4 ˆ1 ) 4 D( X ) D( X ) , 证明 由于 D( n 3n
例如 由第五章第二节知, 样本 k ( k 1) 阶矩是
总体 X 的 k 阶矩 k E ( X )的相合估计量, 进而若待估参数 g( 1 , 2 ,, n ), 其中g 为连续
概率论教学课件第七章7.2估计量的优良性标准
D( 2 )
16 2 9 2 1 2 26 2 0.72 2 ,
36 36 36 36
D( 3 )
1 2
9
12
9
12
9
1 2
3
0.33 2.
D(3) D(1) D(2 ) ,因此 3 最为有效.
10
一般地,有如下基本结论：
例4. 设 X1, X2,, Xn 是来自任意总体 X 的一组样本，
7
定义2 设ˆ1,ˆ2都是未知参数的无偏估计量，如果 Dˆ1 Dˆ2
则称（ˆ1和ˆ2作为参数的估计量）ˆ1比ˆ2更有效。
例3 设为 X1, X 2 , X3 取自总体 X 的样本,EX= ,DX= 2 0 , 证明:下列三个统计量均为 的无偏估计量，并比较有效性.
1
2 10
X
1
3 10
)
EX
2 i
EX
2 i 1
2EX i1EX i
EX
2 i
( 2 2 ) 2 2 ( 2 2 ) 2 2
n1
Eˆ 2 c E( X i1 X i )2 c 2(n 1) 2 2,
i 1
1
c
.
2(n 1)
6
二、有效性
例如，设总体X ,而X1, X 2, X3是来自总体X的样本，EX 未知，则
则称ˆ 为 的无偏估计量.否则称为有偏估计量.
2
Eˆ ，E(ˆ ) 0.
无偏估计量的含义是：ˆ 作为样本的函数 是一个随机变量，它在 的真值附近波动，但其 平均值恰好是 的真值。
3
设 X1, , X n 为取自总体 X 的样本，
样本均值
X
1 n
n
第五讲 指标体系及权重确定
评价工作是医院统计分析中的一个重要组成部分，通过 对医院工作的评价，可以检查计划执行的情况，比较科室间 的工作效率和质量，为医院改革提供信息。
由于医院工作具有多系统和多层次的性质，因此，采用 多指标综合评价医院工作，才能比较全面地反映医院工作质 量。近年来，提出了各式各样的方法，如专家打分法、综合 指数法、模糊综合评价、层次分析法、秩合比法等。
精选2021版课件
13
综合指数是编制总指数的基本计算形式。它一方面，我 们可利用综合指数的方法来进行因素分析；当我们可以把某个 总量指标分解为两个或多个因素指标时，如果固定其中的一个 或几个指标，便可观察出其中某个指标的变动程度；另一方面， 也可以综合观察多个指标同时变动时，对某一现象或结果影响 的程度和方向，进而评价其优劣。
，说明在固定q，m的情形下，单纯由p的变动而引起的X的 变动，即由于人均费用的增加，使住院收入增加了25.79%。
精选2021版课件
21
三、综合评分法
综合平分法是建立在专家评价方法基础上的一种 重要的综合评价方法。首先根据评价目的及评价对象 的特征选定必要的评价指标，逐个指标订出评价等级， 每个等级的标准用分值表示。然后以适当的方式确定 各评价指标的权重，并选定累积总分的方案以及综合 评价等级的总分值范围，以此为准则，对评价对象进 行分析和评价，以决定优劣取舍。
例5.1 某医院1987年1季度与1988年1季度的住院业务收 入额（X）=平均开放床位数（q）*平均床位周转次数（m） *出院者人均费用（p）。编制指数有关资料见表5-5。
精选2021版课件
17
表5-5 某医院两年中第一季度住院收入多因素分析实例
精选2021版课件
18
表5-6 某医院住院收入额多因素分析计算表（1季度）
数理统计05第五讲估计量的优良性准则
数理统计05第五讲估计量的优良性准则估计量的优良性准则是用来评估一个估计量的好坏程度的标准。
常见的优良性准则有无偏性、有效性、一致性和渐进正态性等。
以下是对这些准则的详细介绍。
一、无偏性：估计量的无偏性是指估计量的期望值等于被估计参数的真实值。
如果一个估计量是无偏的，那么在多次重复抽样的情况下，估计值的平均值将接近真实值。
无偏性是一个重要的优良性准则，因为它表示估计量不会偏离真实值。
二、有效性：估计量的有效性是指估计量的方差最小，即估计量的误差最小。
具有较小方差的估计量更接近真实值，因此具有较小方差的估计量更有效。
有效性是比无偏性更严格的准则，因为一个无偏的估计量仍然可能有较大的方差。
三、一致性：估计量的一致性是指当样本容量增加时，估计量趋近于真实参数的性质。
一致性是估计量的渐进性质，即当样本容量趋于无穷大时，估计量收敛于真实值。
一致性是一个重要的准则，因为它表示估计量在大样本情况下的稳定性。
当评估一个估计量的优良性时，通常需要综合考虑多个准则来做出综合评价。
例如，一个估计量可能同时具有无偏性和一致性，但方差较大，从而导致估计值较不准确。
在这种情况下，我们需要权衡无偏性和一致性与方差之间的平衡，选择一个较优的估计量。
总之，估计量的优良性准则是评估一个估计量的好坏程度的标准，常见的准则包括无偏性、有效性、一致性和渐进正态性等。
在实际应用中，需要综合考虑多个准则，选择一个比较优秀的估计量。
估计量的优良性准则.ppt
)
,
电子科技大学
估计量的优良性准则
Oct-19
即
4 3
max X i
1 i 3
和4min X
1 i 3
i
都是的无偏估计.
2) D(Y ) E(Y 2 ) E(Y )2 3 2,
80
D(Z ) E(Z 2 ) E(Z )2 3 2,
80
D(4 Y ) D(4Z ) 3
电子科技大学
估计量的优良性准则
Oct-19
注意：
M 2
1 n
n
(Xi
i 1
X )2不是
2的无偏估计
M2
1 n
n
(Xi
i 1
X
)2
n n
1
S2
E(M2)
n n
1 2
已知E(
X
)
时，1
n
n
(Xi
i 1
)2是
2的无偏估计
电子科技大学
2. 有效性
估计量的优良性准则
E
(ˆn
)
]
0
则称 ˆn 为θ的渐进无偏估计量.
电子科技大学
估计量的优良性准则
Oct-19
若θ的实函数 g(θ) 的无偏估计量存在，称
g(θ)是可估计函数.
注 当ˆ是的无偏估计量，g(ˆ)不一定是g( )
的无偏估计量.
反例
样本均值是总体均值E(X)的无偏估计量.
S2 是2 的无偏估计
(n
3n2 1)2 (n
概率论与数理统计第七章
总体矩
样本矩
2
从中解得 ˆ 2X 1 , 即为 的矩估计.
1 X
例2 设X1,X2,…Xn是取自总体X的一个样本
X
~
f
(
x)
1
e (
x
)
,
x
, 为未知参数
0,
其它
其中 >0,求 , 的矩估计.
解: 由密度函数知
X 具有均值为 的指数分布
故 E(X- )= 即 E(X)=
Var(X- )= 2
n xi e e n
i1 xi !
i1
n
xi !
i 1
log
L( )
n
1
n
xi
i 1
0
得解 :
*
1 n
n
xi
i 1
x
2
2
log
L( )
1
2
n
xi
i 1
0
* x
是logL()的最大值点. ∴ 的极大似然估计量是
* X
例 4 总体均匀分布 X ∼ U(a,b). 求:两个参数a,b的极大似然估计
步骤一、 我们把总体X的m阶原点矩E(Xm)记 为 am , m=1,2, ,k
一般地,am (m=1,2, ,k)是总体分布中 的参数 1,2,,k的函数. 故应该把am
(m= 1,2, ,k)记之为:
am (1,2,,k) (m=1,2, ,k)
步骤二、 算出m阶样本原点矩:
Am
1 n
组成 . 设这5个数是: 1.65 1.67 1.68 1.78 1.69
估计 为1.68，这是点估计.
估计 在区间[1.57, 1.84]内，这是区间估计.
样本矩
2
从中解得 ˆ 2X 1 , 即为 的矩估计.
1 X
例2 设X1,X2,…Xn是取自总体X的一个样本
X
~
f
(
x)
1
e (
x
)
,
x
, 为未知参数
0,
其它
其中 >0,求 , 的矩估计.
解: 由密度函数知
X 具有均值为 的指数分布
故 E(X- )= 即 E(X)=
Var(X- )= 2
n xi e e n
i1 xi !
i1
n
xi !
i 1
log
L( )
n
1
n
xi
i 1
0
得解 :
*
1 n
n
xi
i 1
x
2
2
log
L( )
1
2
n
xi
i 1
0
* x
是logL()的最大值点. ∴ 的极大似然估计量是
* X
例 4 总体均匀分布 X ∼ U(a,b). 求:两个参数a,b的极大似然估计
步骤一、 我们把总体X的m阶原点矩E(Xm)记 为 am , m=1,2, ,k
一般地,am (m=1,2, ,k)是总体分布中 的参数 1,2,,k的函数. 故应该把am
(m= 1,2, ,k)记之为:
am (1,2,,k) (m=1,2, ,k)
步骤二、 算出m阶样本原点矩:
Am
1 n
组成 . 设这5个数是: 1.65 1.67 1.68 1.78 1.69
估计 为1.68，这是点估计.
估计 在区间[1.57, 1.84]内，这是区间估计.
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
对任g 何 (t)及 函 0， 数由
E (g (x (n )) ) n n 0 g ( t) tn 1 d 0 t
可得对 0,所 有 0 g(有 t)tn 1d的 t0,这个只
有在 g(t)0时才能成因立 而x， (n)也是完全的。
又因为
E (x(n))n n0 tn d tn n 1,
明 I()n1(I )，其 I1 (中 ) E ( ln p (X 1 ,)2.)
定理4.4(Cramer-Rao or Information Inequality )
设 T ( X ) 是 对 满 V 所 ( T 足 ( a X ) r ) 有
的统计量，记 ()E (T (X )。 )如果分布族是
即就是 l p n (x ,)p (x ,) d 1 x d n x 0 .
这样就有
Elnp(x,)0.
从而有 ()E T (x) ln p(x,)
C oT(vx) , ln p(x,) .
（2）如果 ， 对 T (x ) 是 所 E 满 |T |有 足
任一统计 T(x量 )p(x,， )，则 积对 分
分可交换次序，即
T (x )p (x , )d1 xdnx
T (x ) p (x , )d1 x dnx
当仅有（1）成立时，我们可以定义所谓的
解 首先求完全充分统计量。 由于
p(x,)2 1 ex p (x2 2)2 2 1 e2 22ex p 2x2 12x2
又 S 2 n 1 1 i n 1 (x i x )2 n 1 1 i n 1x i2 n x 2
是 2的无偏估 完计 全， 充且 T 分 (x是 )统
Cramer-Rao正则族，且 0I() , 则对所
有的 ， ()是可微的，且 Va(T r(X))(I(()))2.
证明 由于对所有，有
() T (x )p (x ,) d 1 x d nx
等式两边对求导可得
() T (x ) p (x ,)d1 x dnx
T ( x ) (p l( x n ,)p ( ) x ,) d 1 x d nx
ET(x) lnp(x,).
又因为对所有的 ，有
p (x ,)d1 x dn x 1
等式两边对求导可得
p (x , )d1 x dn x0 .
UMVUE，进一步，如果对所，有
V(a T (x r) ) ,则 T(x)是 q()唯一 UM 的 。 V
注： Lehmann-Scheffe定理实际上给出了两 种寻找UMVUE的方法，但首先必须知 道完全充分统计T量 (x)。
（1）若 h(T(x)是 )q()无偏统h 计 (T(x量 ))
也是 q()的UMV。 U 即寻E找完全充分统
计量的函数使之成为 q()的无偏估计。
（2） 若能q获 ()的 得一个无偏 (x)， 估则 计
E ((x)|T (x)就 ) q (是 )的 UM 。 VU
例4.5 设总 X服 体从正N 态 (,分 2)， 布
(,2)未知x ， 1,x2,,xn是来自总体
样本。求参 和 数 2的 UMV 。UE
所以 的无偏估计为
ˆ(nn1)x(n),
且是完全充 x(n)的 分函 统数 计， 量 的 故
UMVUE。
二、信息不等式
在上一节，我们知道如果UMVUE存在， 则它在无偏估计类中是最好的，且其方差不可
能是零，因为参数 q( )的方差为零的平凡估计
不是无偏估计。 那么，现在的问题是：
对 q( )的无偏估计类
的函数，故 未 当知 2 的 U 时 M ， 为 V样 U
方差S2。
注：当 已知 S2不 时 是 2 的 ， UM。 VU
例4.6 设总X体 在[0,]上服从均匀分布
是未知参数 , x1,x2,,xn是来自总,体
试求的 参 U数 M。 VUE
解 由于
p(x1,x2,,xn;) 1n, 0x(1)x(n) ,UΒιβλιοθήκη ，在一定的条件下，q
（1） 既然无偏估计的方差不是零，则必存在
一个下界， 这个下界到底是多少？
（2） 若UMVUE存在，那么它的方差是否可以 达到这个下界？
问题（1）已由Cramer-Rao不等式（信息不 等式）揭示；问题（2）不一定成立，我们举例 予以阐述。
为了使问题简化，在这一小节中，我们仅讨 单参数和连续总体情况。对多参数及离散总体 也有相应结论，可参看《高等数理统计学》
0, other.wis
1 I I (x) n (x(n)) {0x(1)}
由因子分解定理可知 x ( n ) m x 1 ,x a 2 , ,x x n }{
它是充分统计量。下证它也是完全的。
由 P {x(n)t}P {x1t}n可x(n 知 )的密度
p(t;)nntn1
0t
,
0 otherwise
（茆诗松），或《线性统计推断及应用》
（C.R.Rao）。
设分{P 布 , 族 }，为 密度 p(x,)， 函
为直线上的一个开。 区满间 足下述条件的分布
族 {P,}称为 Cramer-Rao正则族：
（1） 支A 撑 {x:p(x,)0}与 无关，
一 x A , ,偏导 ln p 数 (x,)存在
第五讲 估计量的优良性准则（续）
一、一致最小方差无偏估计（续） 二、信息不等式 三、相合估计
一、一致最小方差无偏估计（续）
定理4.3(Lehmann-Scheffe)
设S( x)是完全充分统计量 ，(x)是 q()的
无偏估计，则 T ( x ) E (( x ) |S ( x ) 是 q ) () 的
Fisher 信息量（Fisher Information Number）
I()Elnp(x,)2 (0I() )
例4.7 设总体分布是Poisson分布族，即
p(x,)xe,x0,1,.
x!
则
lnp(x,)x1,
因而 I()E (x 1 )2 V( a x) r 1.
如X 果 1,X2,,Xn是来自总可体 以证的