中级质量专业理论与实务 第九讲 参数估计-点估计
参数估计知识点
参数估计知识点一、知识概述《参数估计》①基本定义：简单说，参数估计就是通过样本数据去猜总体的一些参数。
比如说，想知道全校学生的平均身高，不可能一个一个去量，那就找一部分学生（样本）量出他们的身高，然后根据这部分学生的身高数据来推测全校学生（总体）的平均身高，这个推测的过程就是参数估计。
②重要程度：在统计学里那可相当重要。
就像要了解一个大群体的情况，直接研究整体往往很难，通过参数估计从样本推测整体的情况就变得可行而且高效。
无论是搞市场调查，还是科学研究，这个工具相当好使。
③前置知识：得有点基本的数学知识，像平均数、方差这些概念要能明白，还得对抽样有点概念，知道怎么从一个大群体里抽取样本出来。
④应用价值：在各种实际场景里都有用。
比如企业想了解消费者对产品的满意度，不可能访谈每个消费者，抽样一部分做参数估计就好了。
还有估算农作物亩产量之类的，都可以用到。
二、知识体系①知识图谱：在统计学里，参数估计是推断统计的一部分，是和假设检验等方法相互联系的。
推断统计主要就是根据样本信息推断总体特征，而参数估计是其中很核心的一部分。
②关联知识：和抽样分布密切相关啊。
抽样分布是参数估计的理论基础，如果不知道抽样分布，那参数估计就像无根之木。
还和概率相关，毕竟在样本中各种数值出现是有概率的。
③重难点分析：掌握难度嘛，开始会觉得有点抽象。
关键在于理解样本和总体之间的关系，以及怎么根据不同的条件选择合适的估计方法。
④考点分析：在统计学考试里常考。
考查方式有直接给样本数据让进行参数估计，或者结合其他知识点，像给出抽样分布然后问参数估计的结果之类的。
三、详细讲解【理论概念类】①概念辨析：参数估计就是根据样本统计量去估计总体参数。
总体参数就是描述总体特征的数值，像总体均值、方差之类的。
样本统计量就是从样本里计算出来的值，比如说样本均值、样本方差等。
②特征分析：不确定性算一个特点吧。
毕竟样本不是总体，根据样本做的估计不可能完全精准。
参数估计知识点总结
参数估计知识点总结一、参数估计的基本概念参数估计是统计学中的一个重要问题，它是指从样本数据中估计总体参数的值。
在实际问题中，我们往往对总体的某个特征感兴趣，比如总体的均值、方差等，而这些特征通常是未知的。
参数估计就是利用样本数据来估计这些未知的总体参数值的方法。
在参数估计中，有两种主要的估计方法：点估计和区间估计。
点估计是指利用样本数据来估计总体参数的一个具体值，它通常用一个统计量来表示。
而区间估计则是利用样本数据来估计总体参数的一个区间范围，通常用一个区间来表示。
二、点估计点估计是参数估计中的一种方法，它是利用样本数据来估计总体参数的一个具体值。
在点估计中，我们通常使用一个统计量来表示参数的估计值，这个统计量通常是样本数据的函数。
1. 无偏估计无偏估计是指估计量的期望值等于所估计的总体参数的真实值。
对于一个无偏估计而言，平均来说，估计值和真实值是相等的。
无偏估计是统计学中一个很重要的性质，在实际问题中，我们希望能够得到一个无偏估计。
2. 一致估计一致估计是指当样本大小趋于无穷时，估计量收敛于真实参数的概率接近于1。
一致性是估计量的另一个重要性质，它保证了在样本较大的情况下，估计值能够越来越接近真实值。
3. 最大似然估计最大似然估计是一种常用的参数估计方法，它是利用样本数据来选择最有可能产生观测数据的参数值。
最大似然估计的原理是选择一个参数值，使得样本数据出现的概率最大。
最大似然估计的优点在于它的统计性质良好，且通常具有较好的渐近性质。
4. 贝叶斯估计贝叶斯估计是另一种常用的参数估计方法，它是基于贝叶斯定理的一种参数估计方法。
贝叶斯估计将参数视为随机变量，通过引入先验分布和后验分布来对参数进行估计。
贝叶斯估计的优点在于它能够利用先验知识对参数进行更为准确的估计。
三、区间估计区间估计是另一种常用的参数估计方法，它是利用样本数据来估计总体参数的一个区间范围。
区间估计的优点在于它能够提供参数值的估计范围，同时也能够反映估计的不确定性。
参数的点估计及区间估计
参数的点估计及区间估计点估计的基本思想是根据样本数据，通过统计量来估计总体参数的值。
常用的点估计方法有最大似然估计和矩估计。
最大似然估计是找到一个参数值，使得样本观察值的概率最大。
矩估计是根据样本矩的性质来估计总体参数的值。
例如，如果总体服从正态分布，那么样本均值和样本方差就是总体均值和总体方差的估计量。
区间估计的基本思想是给出一个区间，使得总体参数落在该区间内的概率达到一定的置信水平。
在区间估计中，置信水平通常是根据统计学的理论设定的，常见的有95%和99%置信水平。
区间估计的计算方法主要有正态分布法和t分布法。
正态分布法适用于大样本情况下，而t分布法适用于小样本情况下。
对于点估计，我们需要考虑估计量的偏倚和方差。
偏倚表示估计量的期望值与总体参数的真实值之间的差异。
如果估计量的期望值与总体参数的真实值之间没有差异，就称为无偏估计；否则，就称为有偏估计。
方差表示估计量的离散程度。
我们通常希望找到无偏估计，并且方差越小越好。
对于区间估计，我们需要考虑置信水平和置信区间的宽度。
置信区间的宽度越小，说明估计的精度越高。
但是，要得到一个狭窄的置信区间就需要使用更大的样本量，或者降低置信水平。
在进行区间估计时，需要根据具体需求平衡估计的精度和置信水平。
在实际应用中，点估计和区间估计通常是一起使用的。
点估计提供了一个具体的估计值，而区间估计提供了一个参数值可能的范围。
通过点估计和区间估计，我们可以对总体参数进行合理的估计，并且给出估计的精度和可靠性的度量。
总之，参数的点估计和区间估计是统计学中常用的两种估计方法。
点估计通过选择适当的统计量来估计总体参数的值，而区间估计通过给出参数值可能的范围来表示估计的不确定性。
点估计和区间估计是统计学中重要的概念，对于数据分析和决策制定具有重要的指导意义。
点估计概述
(1) 无偏性 衡量统计量的好坏，有三条标准： (2) 有效性 (3) 相合性(一致性) 这里我们重点介绍前面两个标准 .
二、点估计的无偏性与有效性 ˆ ) ， 1．无偏性 若 E (
ˆ是的无偏估计量 则称 . 定义的合理性 我们不可能要求每一次由样本得到的估计值与真值 都相等，但可以要求这些估计值的均值与真值相等.
例8 设总体 X 的均值 和方差 都存在, 且有
2
2 0, 但 和 2 均为未知, 又设 X 1 , X 2 ,, X n 是
一个样本, 求 和 2 的矩估计量. 解 1. EX ,EX 2 DX [ EX ]2 2 2 , X X 2.令 2 解得 2 2 2 2 2 X X ( X )
ab a b (a b) 2 2 , EX DX ( EX ) 解 1. EX 2 12 2 a b 2 X a b 2 X 2.令 即 2 2 2 2 (a b) a b X 2 b a 12 [ X ( X ) ] 12 2
49 1 9 1 )DX DX D( ˆ 2 ) ( 故 ˆ 3最有效. 72 9 16 144 7 1 1 1 27 DX ，D( ˆ 4 ) DX . D( ˆ 3 ) ( ) DX 18 4 9 36 50
1 无偏估计量 才可讨论有效性.
0
1 2 期望的点估计： X Xi n i 1 在无偏估计量中 X 最有效、 X也为相合估计量 .
2
2
解得 a X 3[ X 2 ( X )2 ] ，b X 3[ X 2 ( X )2 ]
参数估计之点估计和区间估计
作者 | CDA数据分析师参数估计（parameter estimation）是根据从总体中抽取的样本估计总体分布中包含的未知参数的方法。
人们常常需要根据手中的数据，分析或推断数据反映的本质规律。
即根据样本数据如何选择统计量去推断总体的分布或数字特征等。
统计推断是数理统计研究的核心问题。
所谓统计推断是指根据样本对总体分布或分布的数字特征等作出合理的推断。
它是统计推断的一种基本形式，分为点估计和区间估计两部分。
一、点估计点估计是依据样本估计总体分布中所含的未知参数或未知参数的函数。
简单的来说，指直接以样本指标来估计总体指标，也叫定值估计。
通常它们是总体的某个特征值，如数学期望、方差和相关系数等。
点估计问题就是要构造一个只依赖于样本的量，作为未知参数或未知参数的函数的估计值。
构造点估计常用的方法是：①矩估计法，用样本矩估计总体矩②最大似然估计法。
利用样本分布密度构造似然函数来求出参数的最大似然估计。
③最小二乘法。
主要用于线性统计模型中的参数估计问题。
④贝叶斯估计法。
可以用来估计未知参数的估计量很多，于是产生了怎样选择一个优良估计量的问题。
首先必须对优良性定出准则，这种准则是不唯一的，可以根据实际问题和理论研究的方便进行选择。
优良性准则有两大类：一类是小样本准则，即在样本大小固定时的优良性准则；另一类是大样本准则，即在样本大小趋于无穷时的优良性准则。
最重要的小样本优良性准则是无偏性及与此相关的一致最小方差无偏估计，其次有容许性准则，最小化最大准则，最优同变准则等。
大样本优良性准则有相合性、最优渐近正态估计和渐近有效估计等。
下面介绍一下最常用的矩估计法和最大似然估计法。
1、矩估计法矩估计法也称“矩法估计”，就是利用样本矩来估计总体中相应的参数。
它是由英国统计学家皮尔逊Pearson于1894年提出的，也是最古老的一种估计法之一。
对于随机变量来说，矩是其最广泛，最常用的数字特征，主要有中心矩和原点矩。
由辛钦大数定律知，简单随机样本的原点矩依概率收敛到相应的总体原点矩，这就启发我们想到用样本矩替换总体矩，进而找出未知参数的估计，基于这种思想求估计量的方法称为矩法。
参数的点估计及区间估计
2
1
n i 1
Xi 2X .
n
二、 极大似然估计法 是在总体类型已知的条件下使用的一种参数 估计方法 . 其基本思想是概率最大的事件最可能发生 .
例如: 某位同学与一位猎人一起外出打猎 .一只野兔 从前方窜过 . 只听一声枪响，野兔应声倒下 . 是谁打中的呢？
你很自然地想到: 只发一枪便打中, 猎人命中的 概率一般大于这位同学命中的概率. 这一枪应该 是猎人射中的 .
似然函数 L(a , b )
f ( xi ; a , b )
i 1
n 1 ( b a ) , a x1 , x2 ,, xn b, 0 , 其它.
利用求导方法无法确定未知参数的极大似然估计,
由 L (a, b) 的表达式知: 若 b −a 取最小, 则 L (a, b) 达到最大, 故得 a min { xi } ,
1 n xi x . n i 1
有时用求导方法无法最终确定未知参数的 极大似然估计, 此时用极大似然原则来求 .
例: 设总体 X ~ U [a, b] , ( x1 , x2 ,…, xn ) 为一样本值,
求 a, b 的极大似然估计.
1 (b a ) , a x b, 解: X 的概率密度 f ( x; a , b) 0 , 其它. n
同样是无偏估计量, 有的取值较集中, 有的 取值较分散. 自然是: 取值越集中的越好. 由此 引入了有效性这个标准 . 估计量与样本容量有关, 我们希望: 随着样 本容量的无限增大, 估计量与被估计量任意接近 的可能性越来越大. 由此引入了一致性这个标准.
无偏性: 若 E ( ) , 则称 是 的无偏估计. 有效性: 若 1 及 2 都是 的无偏估计, 且 D( 1 ) D( 2 ) , 则称 1 较 2 有效. 一致性: 若对 0, 有 lim P {| | } 1 , 则称 是 的一致估计.
参数的点估计.ppt
证毕. 返回
退出
例2-3 设 X1, X2 , X3 , X4 是总体 X 容量为4 的样本．则总体均
值的以下无偏估计中, 最有效的点估计量是
(B )
A.
1 3
X1
1 6
X
2
1 6
X
3
1 3
X
4
B.
1 4
X1
1 4
X2
1 4
X3
1 4
X4
4311
C. 9 X1 9 X2 9 X3 9 X4
故 aX1 b是X2总 c体X3期望 的无偏E(估X计) .
证毕.
返回
退出
例2-5 从总体 X 中抽得容量为n1, n2 的两样本. 以 X1, X 2 分别 记二者的样本均值. 试证明两系数 a 和 b 只要满足条件 a b 1 ,
则 Y aX1 就bX是2 总体均值μ的无偏估计;试确定系数 a 和 b 的大小, 可使方差 D(Y ) 取最小值.
退出
对概率分布中的未知参数, 若不能利用分布的归一性、随机变量的独立性、 特定取值概率间的特定联系等条件,对参数的具体大小进行确定, 那就不得不改从总体中抽取适度容量样本的方式、 通过对样本中所含的个体进行恰如其分的数学处理，来
直接猜测和推断参数的具体大小. 怎样的数学处理才叫恰如其分？怎样进行推断才令人可信？
,
D(Xi ) E2(Xi ) 2 2 , E(X 2) D(X ) E2(X )
12
n
2
,
∴ 1
E [
(S2)
n
(
1 n
2 2
[ 1i )
n
1
n
E( (1
X
参数点估计
例 1 设总体 X 服从参数为λ 的指数分布，其中参
数λ 未知， (X1, X2,, Xn) 是来自总体的一个样本，
求参数λ 的矩估计量.
解: 其概率密度函数为
f
(x,
)
e x
,
x0
0, x 0
总体X的期望为 E( X ) xexdx 1
0
从而得到方程
设 (x1, x2,, xn ) 为总体 X 的一个样本观察值,若似然函数
n
L(1 ,2 ,,k ) L( x1 , x2 ,, xk ;1 ,2 ,,k ) f ( xi ;1 ,2 ,,k ) i 1
将其取对数,然后对1,2 ,,k 求偏导数,得
ˆ1 X;
ˆ 2
1 2
X1
1 3
X2
1 6
X3;
ˆ3 X1
且ˆ1较ˆ2 , ˆ3都有效.
证明 显然有 E(ˆ1 ) E(ˆ2 ) E(ˆ3 ) 且 D(ˆ1 ) D( X ) D( X ) / 3
D(ˆ2 ) D( X1 / 2 X 2 / 3 X 3 / 6) 14D( X ) / 36
设总体的分布类型已知,但含有未知参数θ .设 (x1, x2 ,, xn ) 为总体 X 的一个样本观察值，若似然函数 L( ) 关于θ 可导. 令 d L( ) 0
d
解此方程得θ的极大似然估计值ˆ(x1, x2,, xn ) , 从而得到θ的极大似然估计量ˆ(X1, X2,, Xn) .
又由于 X1, X 2 ,, X n 相互独立且都服从泊松分布
于是有
E(ˆ1)
E(
X
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第九讲 参数估计——点估计
一、考试要求
1.熟悉点估计的概念
2.掌握矩法估计方法
3.熟悉点估计优良性的标准
4.熟悉二项分布、泊松分布、指数分布、正态分布参数的点估计
二、 内容讲解
第四节 参数估计
根据样本对总体进行推断是数理统计的核心，参数估计与假设检验是统计推断的两个基本内容。
本节着重讨论参数估计问题。
这里所说的参数主要是指如下几类：
①分布中的未知参数，如二项分布b(n，p)中的p，正态分布中的，或。
②分布的均值E(x)、方差Var(x)等未知特征数。
③其他未知参数，如某事件的概率P(A)等。
上述未知参数都需要根据样本和参数的统计含义选择适宜的统计量并作出估计，这一统计推断过程通称为参数估计。
未知参数通常用表示。
参数估计有两种基本形式：点估计与区间估计。
一、点估计
(一) 点估计的概念
设是总体的一个未知参数，记与总体对应的随机变量为X，从中抽取样本量为n的一个样本。
根据这个样本，构造一个统计量，用来对进行估计，称为的点估计量。
对一个具体的样本，可计算的一个具体的数值，称为的估计值。
在本教材中，除讨论统计量的分布及性质外，不严格区分估计量及具体估计值，通称为估计。
(二)点估计优良性标准
点估计量是随所抽取的样本不同而不同的，它是一个随机变量。
评价一个估计量的优劣不能从一个具体样本获得的估计值来评判，应该从多次使用中来评定。
对于一个特定的样本，估计值与的真值之间总是有偏差的，但由于未知，因此偏差也未知。
但是我们可以通过多次抽样，对不同样本，不同的具体估计值，对实际偏差进行“平均”。
当然这种平均不能直接进
行，因为有正有负，直接平均由于正负抵消反而不能反映误差。
与以前对方差处理的方法相仿，用估计偏差的平方来代替，并对其求均值，于是用来表示估计量的优劣。
这个量称为的均方误差，简记为MSE()，均方误差实际上是平均平方误差的意思。
虽然由于是未知的，MSE()也并不是总能求得的。
但是经过简单的推导，总有
MSE()=。
(交叉乘积项为零)
(1.4-1)
(1.4-1)式中的第一项=表示的是的均值E（）与未知参数的差，称为偏倚；当=0时，也即：
E（）=或
时，称估计量是无偏的，否则称为有偏的。
无偏性是表示估计量优良性的一个重要标准。
只要有可能，应该尽可能选用无偏估计量，或近似无偏估计量。
应该注意，使用无偏估计估计时，每次使用是有偏差的，只是多次使用时其平均偏差为零。
(1.4-1)式中的第二项表示的是对其均值E（）差的平方的均值，它是估计量的方差。
对于无偏估计量，当然方差愈小愈好。
方差愈小，称估计量更有效。
有效性是判定估计量优良性的另一个标准。
(三) 求点估计的方法-一矩法估计
参数估计时，一个直观的思想是用样本均值作为总体均值的估计，用样本方差作为总体方差的估计等。
由于均值与方差在统计学中统称为矩，总体均值与总体方差属于总体矩，样本均值与样本方差属于样本矩。
因此上面的做法可用如下两句话概括：
(1)用样本矩去估计相应的总体矩。
(2)用样本矩的函数去估计相应总体矩的函数。
此种获得未知参数的点估计的方法称为矩法估计。
矩法估计简单而实用，所获得的估计量通常(尽管不总是如此)也有较好的性质。
例如对任何总体，样本均值对总体均值的估计总是无偏的，样本方差对总体方差的估计也总是无偏的。
但是应该注意到矩法估计不一定总是最有效的，而且有时估计也不惟一。
[例l.4-1] 从某厂生产的一批铆钉中随机抽取10个，测得其头部直径分别为：
13.30，13.38，13.40，13.43，13.32，13.48，13.34，
13.47，13.44，13.50
试求铆钉头部直径总体的均值与标准差的估计。
解：用矩法估计可得：
=0.0048771
注意：用样本标准差s来估计总体标准差，估计是有偏的。
(四)对几种分布参数的矩法估计的例子
[例1.4-2] 设样本来自参数为的指数分布，求的矩法估计。
解：指数分布中，E(X)=1／，所以=1／E(X)，用样本均值代E(X)，则得A的矩法估计为。
[例1.4-3] 设样本 来自参数为的泊松分布，由于E(X)=，
Var(X)=，因此与都可以作为的矩法估计，因此的估计不惟一。
遇到这种情况时，常选用低阶矩作为参数的矩法估计。
均值是一阶矩，方差是二阶矩，故在泊松分布场合，选用样本均值作为的估计。
即。
[例1.4-4] 设样本来自两点分布，即n＝1的二项分布。
两点分布只能取0或1两个值，其中“0”表示失败，“1”表示成功，从而样本均值为：
另一方面，两点分布的总体均值是成功概率。
按矩法估计的思想，可得p的矩法估计：，即用成功的频率去估计概率。
[例1.4-5] 设样本来自均匀分布。
其均值为，方差为，由矩法估计的思想可列出如下两个方程：
解之可得与的矩法估计：
例如，从均匀分布随机抽取一个样本量为5的样本：
4.7,4.0,4.5,4.2,
5.0。
计算得，从而可得与的矩法估计为：
(五)正态总体参数的估计
设是来自正态总体的一个样本，参数，和常用的无偏估计分述如下。
正态均值的无偏估计有两个，一个是样本均值，另一个是样本中位数，即：
其中为有序样本，当样本量n为l或2时，这两个无偏估计相同。
当n≥3时，它们一般不同，但总有：
Var() ≤ Var()
这意味着，对正态均值来说，样本均值总比样本中位数更有效。
因此在实际应用中，应优先选用样本均值去估计正态均值。
有时在统计工作现场，为了简便和快捷，选用样本中位数去估计正态均值也是有的，如统计过程控制(见第四章)中的中位数图就是如此。
(2)正态方差的无偏估计常用的只有一个，就是样本方差，即：
理论研究表明，在所有无偏估计中它是最有效的。
(3)正态标准差的无偏估计也有两个，一个是对样本极差进行修偏而得，另一个是对样本标准差s进行修偏而得，具体是：
其中与是只与样本量n有关的常数，其部分值列于表1.4-1，更详细的表参见第四章的表4.2-2。
表1.4-1 修偏系数与的数值表
n2345678910
1.128 1.693
2.059 2.326 2.534 2.704 2.847 2.970
3.078
0.7980.8860.9210.9400.9520.9590.9650.9690.973
当n=2时，上述两个无偏估计相同；当n≥3时，它们不同，但总有：
[例1.4-6] 把钢材弯曲成钢夹，其间隙大小是一个质量特性，现随机从生产线上取5只钢夹，测其间隙，得数据如下：
0.75 , 0.70 , 0.65 , 0.70 , 0.65
已知钢夹间隙X服从正态分布，要对和做出估计。
用样本均值和样本方差分别做出与的估计：
作为标准差的估计选用，其值为：
也可选用：
在本例中两者相差不大。