估计量的评价标准

估计量的评价标准
估计量的评价标准

第二节 估计量的评价标准

设总体X 服从[0,θ]上的均匀分布,由上节例7可知?2X θ=矩,{}1?max L i i n

X θ≤≤ 都是θ的估计,这两个估计哪一个好?下面我们首先讨论衡量估计量好坏的标准问题.

1.无偏性

定义7.2 若估计量(X 1,X 2,…,X n )的数学期望等于未知参数θ,即:

?()E θ

θ=, (7.6) 则称?θ为θ的无偏估计量(Non -deviation estimator ).

估计量?θ的值不一定就是θ的真值,因为它是一个随机变量,若?θ是θ的无偏估计,则尽管?θ的值随样本值的不同而变化,但平均来说它会等于θ的真值.

例7.9 设X 1,X 2,…,X n 为总体X 的一个样本,E (X )=μ,则样本平均数11n

i i X X n ==∑是μ的无偏估计量.

证 因为E (X )=μ,所以E (X i )=μ,i =1,2,…,n ,于是

11

11()()n n

i i i i E X E X E X n n ==??== ???∑∑=μ. 所以X 是μ的无偏估计量.

例7.10 设有总体X ,E (X )=μ,D (X )=σ2,(X 1,X 2,…,X n )为从该总体中抽

得的一个样本,样本方差S 2

及二阶样本中心矩B 2=11()n

i i X X n =-∑是否为总体方差σ2的无偏估计?

解 因为E (S 2)=σ2,所以S 2是σ2的一个无偏估计,这也是我们称S 2为样本方差的理由.由于

B 2=

21n S n

-, 那么 E (B 2)=2211()n n E S n n σ--=, 所以B 2不是σ2的一个无偏估计.

还需指出:一般说来无偏估计量的函数并不是未知参数相应函数的无偏估计量.例如,当X ~N (μ,σ2)时,X 是μ的无偏估计量,但2

X 不是μ2的无偏估计量,事实上: 22222()()().E X D X E X n σμμ??=+=

+≠??

2.有效性

对于未知参数θ,如果有两个无偏估计量1?θ与2?θ,即E (1?θ)=E (2?θ)=θ,那么在1

?θ,2

?θ中谁更好呢?此时我们自然希望对θ的平均偏差E (?θ-θ)2越小越好,即一个好的估计量应该有尽可能小的方差,这就是有效性.

定义7.3 设1?θ和2

?θ都是未知参数θ的无偏估计,若对任意的参数θ,有 D (1?θ)≤D (2?θ), (7.7)

则称1?θ比2

?θ有效. 如果1?θ比2?θ有效,则虽然1?θ还不是θ的真值,但1?θ在θ附近取值的密集程度较2

?θ高,即用1

?θ估计θ精度要高些. 例如,对正态总体N (μ,σ2

),11n

i i X X n ==∑,X i 和X 都是E (X )=μ的无偏估计量,但

D (X )=2

n

σ≤D (X i )=σ2, 故X 较个别观测值X i 有效.实际当中也是如此,比如要估计某个班学生的平均成绩,可用两种方法进行估计,一种是在该班任意抽一个同学,就以该同学的成绩作为全班的平均成绩;另一种方法是在该班抽取n 位同学,以这n 个同学的平均成绩作为全班的平均成绩,显然第二种方法比第一种方法好.

3.一致性

无偏性、有效性都是在样本容量n 一定的条件下进行讨论的,然而(X 1,X 2,…,X n )不仅与样本值有关,而且与样本容量n 有关,不妨记为n ,很自然,我们希望n 越大时,n 对θ的估计应该越精确.

定义7.4 如果n 依概率收敛于θ,即?ε>0,有

{}

?lim 1,n n P θθε→∞-<=,(7.8) 则称?n

θ是θ的一致估计量(Uniform estimator ). 由辛钦大数定律可以证明:样本平均数X 是总体均值μ的一致估计量,样本的方差S 2

及二阶样本中心矩B 2都是总体方差σ2的一致估计量.

点估计的评价标准

第三讲点估计的评价标准 副教授 主讲教师叶宏

在前两讲中我们介绍了两种点估计法,发现了点估计 的不唯一性,即对于同一个未知参数,不同的方法得到的 估计量可能不同,于是提出问题: 应该选用哪一种估计量?用何标准来评价一个估计量的好坏? 常用 标准(1) 无偏性(3) 一致性(2) 有效性 这一讲我们介绍

估计量是随机变量,对于不同的样本值会得到不同的估计值. 我们希望估计值在未知参数真值附近摆动,而它的期望值等于未知参数的真值. 这就导致无偏性这个标准. (1) 无偏性 θ θ=)?(E 则称为的无偏估计.θ ?θ),,(?1n X X θ设是未知参数的估计量,若 θ.真值 ???????????? ??

),,,(21n X X X 是总体X 的样本, 证明: 不论X 服从什么分布(但期望存在), 是k μ的无偏估计量. 证∑∑====n i k i n i k i k X E n X n E A E 11)(1)1()(例设总体X 的k 阶矩)(k k X E =μ存在, 因而n i X E k k i ,,2,1)( ==μ由于k k n n μμ=??=1∑==n i k i k X n A 1 1特别地 样本二阶矩∑==n i i X n A 1 221是总体二阶矩是总体期望E ( X ) 的X 样本均值无偏估计量 )(2 2X E =μ的无偏估计量

例设总体X 的期望与方差存在,X 的样本为) ,,,(21n X X X (1) 不是D ( X )的无偏估计; ∑=-=n i i n X X n S 1 2 2)(1(2) 是D ( X ) 的无偏估计. ∑=--=n i i X X n S 1 2 2)(11原样本方差样本修正方差 2 221)(σσ≠-=n n S E n () 2 2 σ =S E 2 221lim ()lim n n n n E S n σσ →∞→∞-==是D ( X )的渐进无偏估计2n S

评价估计量好坏的标准

毕业论文 题目:评价估计量好坏的标准 作者: 指导教师: 职称:副教授 院系:理学院数学系 专业:信息与计算科学 班级:2009级01班 日期:2013年06月

评价估计量好坏的标准 摘要:未知参数的估计通常有很多种,一个好的估计量应该在多次观测中,其观测值围绕被估计参数的真值摆动。人们总是希望估计量能代替真实参数,为正确评价估计量,要建立判别估计量好坏的标准.根据不同的要求,评价估计量可以有各种各样的标准。所以,对于一个估计量的优良性进行判别显得尤为重要。本文主要总结估计量优良性的若干判别准则,如无偏性、有效性、一致性、一致最小方差无偏估计、均方误差,这些常见的判别方法被我们所学习和使用,但是都只是在理论上具有可行性,而在实际生活学习和使用中,并没有人对这些常见的判别方法给出实用性的充分证明。通过本文的研究,进一步了解了估计量优良性的一些判别准则,为今后更好地学习与应用估计量打下了基础。 关键词:无偏性;一致性;有效性;一致最小方差无偏估计;均方误差

The evaluation criterion of the criterion of estimation Abstract: estimates of the unknown parameters usually has many kinds, a good estimation should be in multiple observations, the observations on the true values of parameters are estimated to swing. People always want to replace the real parameter estimation, estimation is evaluated correctly, to establish discriminant estimation quality standards. According to different requirements, evaluation estimator can have a variety of standard. So, is very important for a good estimate of the amount of discrimination is. This paper summarizes the estimator optimality criteria, such as unbiasedness, efficiency, consistency, uniformly minimum variance unbiased estimator, mean square error, these common discriminant method is we have to learn and use, but are only is feasible in theory, but in real life, to learn and use, no one of these discriminant and give a practical method of common fully proved. Through this research, the further understanding of the estimator and benign some criteria, for further study and application of estimation of foundation. Keywords: unbiased; consistency; effectiveness; the uniformly minimum variance unbiased estimate; mean square error

6.2点估计的评价标准 (1)

6.2点估计的评价标注 我们已经看到,点估计有各种不同的求法,为了在不同点估计间进行比较选择,就必须对各种点估计的好坏给出评价标准. 数理统计中给出了众多的估计量评价标准,对同一估计量实用不同的评价标准可能会得到完全不同的结论,因此在评价某一个估计好坏时首先要说明是在哪一个标准下,否则所论好坏则毫无意义. 但不管怎么说,有一个基本标准时所有的估计都应该满足的,它是衡量一个估计是否可行的必要条件,这就是估计的相合性,我们就从相合性开始。 6.2.1 相合性 我们知道,点估计是一个统计量,因此它是一个随机变量,在样本量一定的条件下,我们不可能要求它完全等同于参数的真实取值。但如果我们有足够的观测值,根据格里文科定理,随着样本量的不断增大,经验分布函数逼近真实分布函数,因此完全可以要求估计量随着样本量的不断增大而逼近参数真值,这就是相合性,严格定义如下: 定义6.2.1 设θ∈Θ为未知参数, ()12,,,n n n x x x θθ∧∧ =是θ的一个估计量, n 是样本容量,若对任何一个0ε>,有 () ?lim 0n n P θθε→∞ ->= 则称?n θ为参数θ的相合估计。 相合性被认为是对估计的一个最基本的要求,如果一个估计量,在样本量不 断增大时,它都不能把被估参数估计到任意指定的精度,那么这个估计值是很值得怀疑的。通常,不满足相合性要求的估计一般不予考虑。证明估计的相合性一般可应用大数定律或直接由定义来证。 若把依赖于样本量n 的估计量?n θ看作一个随机变量序列,相合性就是?n θ依概率收敛于θ,所以证明估计的相合性可应用依概率收敛的性质以及各种大数定律。 例6.2.1 设12,, x x 是来自正态总体()2 ,N μσ的样本,则有辛钦大数定律 及依概率收敛的性质知: x 是μ的相合估计; *2s 是2σ相合估计; 2s 也是2σ的相合估计。 由此可见参数的相合估计不止一个。 在判断估计的相合性时下述两个定理是很有用的。 定理 6.2.1 设()12,, ,n n n x x x θθ∧∧ =是θ的一个估计量,若 ??lim ()lim ()0,n n n n E Var θθθ→+∞ →+∞ ==, 则?n θ是θ的相合估计。

§7.2 点估计的评价标准

§7.2 点估计的评价标准 同一参数可以有几种不同的估计,这时就需要判断采用哪一种估计为好的问题。另一方面,对于同一个参数,用矩法和极大似然法即使得到的是同一个估计, 也存在衡量这个估计优劣的问题。估计量的评选标准就是:评价一个估计量“好”与“坏”的标准。评价一个估计量的好坏, 不能仅仅依据一次试验的结果, 而必须由多次试验结果来衡量. 因为估计量是样本的函数, 是随机变量. 故由不同的观测结果, 就会求得不同的参数估计值. 因此一个好的估计, 应在多次重复试验中体现出其优良性. 估计量的评价一般有三条标准:1. 无偏性;2. 有效性;3. 相合性(一致性) 一.无偏性 估计量是随机变量, 对于不同的样本值会得到不同的估计值. 一个自然的要求是希望估计值在未知参数真值的附近, 不要偏高也不要偏低. 由此引入无偏性标准. 定义1 设),,(?1n X X θ是未知参数θ的估计量, 若,)?(θθ=E 则称θ?为θ的无偏估计量. 若?()E θ θ≠称?θ为有偏估计量,?()E θθ-并称为估计量 ?θ的偏差.如果?θ是有偏估计量,??lim (),n E θθθθ→∞ =但,则称是的渐近无偏估计量 注: 无偏性是对估计量的一个常见而重要的要求, 其实际意义是指估计量没有 系统偏差,只有随机偏差. 在科学技术中, 称θθ -)?(E 为用θ?估计θ而产生的系统误差. 定理1 设12,,n X X X 为取自总体X 的样本,总体X 的均值为μ, 方差为2σ.则 (1) 样本均值X 是μ的无偏估计量; (2) 样本方差2S 是2σ的无偏估计量; (3) 样本二阶中心矩221 1()n i i B X X n ==-∑是2σ的不是无偏估计量.,是渐近无偏估计量 证明:(1)因为 12,,n X X X 独立同分布,且()i E X μ=所以 11 111()()n n i i i i E X E X E X n n n n μμ==??===?=∑∑???? 故X 是μ的无偏估计量; (2)因 2222221111111()2()111n n n n i i i i i i i i S X X X X X nX X nX n n n ====????=-=-+=-∑∑ ???---???? ∑∑ 注意到 2 2222222()()[()],()()[()], i i i E X D X E X n E X D X E X σμσμ=+=+=+=+ 于是,有 22 222222111()()()().11n i i E S E X nE X n n n n n σσμμσ=??????=-=+-+=∑?? ?????--????

参数的点估计、估计量的评价标准以及参数的区间估计讲义

第七章参数估计 内容介绍 本章主要内容是参数的点估计、估计量的评价标准以及参数的区间估计等. 内容讲解 引言: 本章将讨论统计推断,所谓统计推断就是由样本来推断总体. 当总体的某个参数未知时,用样本来对它进行估计,就是参数估计. 至于参数,目前没有准确的定义,只有一些具体的参数,本书指出三类参数: ①分布中含有的未知参数θ; ②θ的函数; ③分布的各种特证数。 § 7.1点估计 1.点估计定义:设x1,x2,…x n是总体X的一个样本,θ是它的未知参数,用一个关于x1,x2,…x n的 统计量的取值作为θ的估计值,称为θ的点估计. 2.点估计的两种常用方法 (1)替换原理和矩法估计 ① 替换原理:替换原理常指如下两句话:一是:用样本矩替换总体矩;二是:用样本矩的函数替换相应的总体矩的函数. ② 矩估计的方法:根据替换原理,用样本矩或样本矩的函数对总体的矩或矩的函数进行估计。例如: 用样本均值估计总体均值E(X),即;

用样本二阶中心矩估计总体方差,即; 用事件A的频率估计事件A的概率等. 例题1. P146 【例7-1】对某型号的20辆汽车记录其每5L汽油的行驶里程(km),观测数据如下: 29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9 【答疑编号12070101】 (2)概率函数p(x;θ)已知时未知参数的矩法估计 设总体具有已知的概率函数p(x;θ1,…,θk),(θ1,…,θk)是未知参数或参数向量,x1,…,x n是样本,假定总体的k阶原点矩μk存在,则对所有的j(0

估计量的评价标准

第二节 估计量的评价标准 设总体X 服从[0,θ]上的均匀分布,由上节例7可知?2X θ=矩,{}1?max L i i n X θ≤≤ 都是θ的估计,这两个估计哪一个好?下面我们首先讨论衡量估计量好坏的标准问题. 1.无偏性 定义7.2 若估计量(X 1,X 2,…,X n )的数学期望等于未知参数θ,即: ?()E θ θ=, (7.6) 则称?θ为θ的无偏估计量(Non -deviation estimator ). 估计量?θ的值不一定就是θ的真值,因为它是一个随机变量,若?θ是θ的无偏估计,则尽管?θ的值随样本值的不同而变化,但平均来说它会等于θ的真值. 例7.9 设X 1,X 2,…,X n 为总体X 的一个样本,E (X )=μ,则样本平均数11n i i X X n ==∑是μ的无偏估计量. 证 因为E (X )=μ,所以E (X i )=μ,i =1,2,…,n ,于是 11 11()()n n i i i i E X E X E X n n ==??== ???∑∑=μ. 所以X 是μ的无偏估计量. 例7.10 设有总体X ,E (X )=μ,D (X )=σ2,(X 1,X 2,…,X n )为从该总体中抽 得的一个样本,样本方差S 2 及二阶样本中心矩B 2=11()n i i X X n =-∑是否为总体方差σ2的无偏估计? 解 因为E (S 2)=σ2,所以S 2是σ2的一个无偏估计,这也是我们称S 2为样本方差的理由.由于 B 2= 21n S n -, 那么 E (B 2)=2211()n n E S n n σ--=, 所以B 2不是σ2的一个无偏估计. 还需指出:一般说来无偏估计量的函数并不是未知参数相应函数的无偏估计量.例如,当X ~N (μ,σ2)时,X 是μ的无偏估计量,但2 X 不是μ2的无偏估计量,事实上: 22222()()().E X D X E X n σμμ??=+= +≠??

相关文档
最新文档