概率论 参数的点估计
合集下载
概率论第七章 第1节
根据样本概率最大原则，m的估计值为3。
最大似然估计法原理
一般地，不仿设总体X是离散型分布X～p(x,θ)，如果 X1,X2,…,Xn是来自这个总体的一个随机样本，x1,x2,…,xn 是这个随机样本的样本值，则这个样本发生的概率为：
记这个概率为θ的函数：
16
最大似然估计法原理
如果在一次抽样中样本值x1,x2,…,xn出现了，我们就认为 它之所以出现是因为它发生的概率最大导致的。因此我们 就选择能使这个概率最大的那个θ作为θ的估计值，这就 是极大似然估计法。 “样本值概率最大原则”
矩估计法理论依据
命题2：设总体X的l=1,2,…,k阶矩存在即E(Xl)=μk,则l阶样 本矩A1,A2,…,Ak的连续函数g(A1,A2,…,Ak)也依概率收敛于总 体矩的连续函数即
根据这两个命题，我们使用如下方法来进行矩估计： (1)用样本矩A1,A2,…,Ak来估计总体矩； (2)用样本矩的连续函数g(A1,A2,…,Ak)来估计总体矩的连续 函数g(μ1,μ2,…,μk)。
砍掉充分小的dxi,记这 个概率为θ的函数：
30
连续型总体中参数 θ的似然函数!
最大似然估计值 最大似然估计量
怎样求最大值点？
基于此通常先取对数，再求最大值点。
化成求 对数似 然函数 的最大 值点!
如果对数似然函数二阶可导，并且概率 密度函数是单峰函数，则驻点就是最大 值点!通过求一阶导数能得驻点：
第七章 参数估计
1、什么是参数估计？ 当总体的分布类型已知，但其中仍有未知参数。比如总体 X服从参数μ,σ2的正态分布，但μ,σ2未知。但是我们 能根据来自总体X的一个简单随机样本X1,X2,…,Xn通过适 当的方法对这些未知参数进行估计，得到它的一个近似值 或近似区间。 2、参数估计有哪些形式？ (1)点估计：矩估计法、极大似然估计法。 (2)区间估计：正态总体下区间估计法。
概率论与数理统计复习7章
( n − 1) S 2 ( n − 1) S 2 = 1 − α 即P 2 <σ2 < 2 χα 2 ( n − 1) χ1−α 2 ( n − 1) ( n − 1) S 2 ( n − 1) S 2 置信区间为： 2 , χα 2 ( n − 1) χ12−α 2 ( n − 1)
则有：E ( X v ) = µv (θ1 , θ 2 ,⋯ , θ k ) 其v阶样本矩是：Av = 1 ∑ X iv n i =1
n
估计的未知参数，假定总体X 的k阶原点矩E ( X k ) 存在，
µ θ , θ ,⋯ , θ = A k 1 1 1 2 µ2 θ1, θ 2 ,⋯ , θ k = A2 用样本矩作为总体矩的估计，即令： ⋮ µ θ , θ ,⋯ , θ = A k k k 1 2 ɵ ɵ ˆ 解此方程即得 (θ1 , θ 2 ,⋯ , θ k )的一个矩估计量 θ 1 , θ 2 ,⋯ , θ k
+∞
−∞
xf ( x ) dx = ∫ θ x θ dx =
1 0
令E ( X ) = X ⇒
θ +1
θ
ˆ = X ⇒θ =
( )
X 1− X
θ +1
2
θ
7.2极大似然估计法
极大似然估计法： 设总体X 的概率密度为f ( x,θ ) (或分布率p( x,θ )),θ = (θ1 ,θ 2 ,⋯ ,θ k ) 为 未知参数，θ ∈ Θ, Θ为参数空间，即θ的取值范围。设 ( x1 , x2 ,⋯ , xn ) 是 样本 ( X 1 , X 2 ,⋯ , X n )的一个观察值：
i =1 n
概率论与数理统计第7章参数估计PPT课件
5
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时，可用样本值的j阶原点矩Aj估计vj，其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;)，则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而， 这个方法常归功于英国统
Gauss
计学家费歇（Fisher） . 费歇在1922年重新发现了
这一方法，并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路：根据样本的具体情况
注：估计量为样本的函数，样本不同，估计量不 同。
常用估计量构造法：矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系，解出参数， 并用样本矩替代总体矩而得到的参数估计方法。 （由大数定理可知样本矩依概率收敛于总体矩， 且许多分布所含参数都是矩的函数）
下面我们考虑总体为连续型随机变量的情况：
n
它是的函数，记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数，记为L( )。
注：似然函数的概念并不仅限于连续随机变量 ，
对于离散型随机变量，用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知，且只含一个未知参数，
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时，可用样本值的j阶原点矩Aj估计vj，其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;)，则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而， 这个方法常归功于英国统
Gauss
计学家费歇（Fisher） . 费歇在1922年重新发现了
这一方法，并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路：根据样本的具体情况
注：估计量为样本的函数，样本不同，估计量不 同。
常用估计量构造法：矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系，解出参数， 并用样本矩替代总体矩而得到的参数估计方法。 （由大数定理可知样本矩依概率收敛于总体矩， 且许多分布所含参数都是矩的函数）
下面我们考虑总体为连续型随机变量的情况：
n
它是的函数，记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数，记为L( )。
注：似然函数的概念并不仅限于连续随机变量 ，
对于离散型随机变量，用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知，且只含一个未知参数，
海南大学《概率论与数理统计》课件 第九章 点估计
令 X ,
则 ˆ x 1 (0 75 1 90 6 1) 1.22
250
二.极大似然估计法 特点：适用总体的分布类型已知的统计模型
极大似然估计法是求估计用的最多的方法， 它最早是由高斯在1821年提出，但一般将之归 功于费舍尔(R.A.Fisher)，因为费舍尔在1922 年再次提出了这种想法，并证明它的一些性质， 从而使得极大似然法得到了广泛的应用。
18
第二节 估计方法
矩估计法 极大似然估计法
19
一.矩估计法 定义：用样本矩来代替总体矩,从而得到总体 分布中参数的一种估计.这种估计方法称为 矩估计法.它的思想实质是用样本的经验分 布和样本矩去替换总体的分布和总体矩.也 称之为替换原则.
特点：不需要假定总体分布有明确的分布类型。
20
设总体X具有已知类型的概率函数 f(x;θ), θ=(θ1,…,θk) ∈Θ是k个未知参数.(X1,X2,…,Xn)是 来自总体X的一个样本.
2
参数估计的分类：
参 点估计 估计未知参数的值
数
估 计
估计未知参数的取值范围，
区间估计 并使此范围包含未知参数的
真值的概率为给定的值
3
这里所指的参数是指如下三类未知参数：
1.分布中所含的未知参数 .
如：两点分布B（1，p）中的概率p;
正态分布 N (, 2 )中的,． 2、分布中所含的未知参数的函数. 如：服从正态分布N (, 2 )的变量X不超过给定值a的
Xi＝１，反之记 Xi＝ ０ i 1,, n ．则
X1, X2 , , Xn 就是样本．总体分布为二点分
布 B1, ，参数空间 0,1 ，容易得到统计
模型
n
xi
i1
概率论与数理统计教材第六章习题
X σ0 n
~ N(0,1)
对于置信水平1- ，总体均值的置信区间为 对于置信水平 -α，总体均值 的置信区间为
X
σ0
n
uα < < X +
2
σ0
n
uα
2
(2)设总体 ～ N(,σ 2 ), 未知 ，求的置信区间。 设总体X～ 未知σ， 的置信区间。 设总体 的置信区间
σ 0 ，则样本函数 t = X ~ t(n 1) 用 S 代替 S n
i =1
n1
n1
F
1
α ∑ Yj 2
2 j =1
n2
(
)
2
n2
10
2 2 及 （1）设两个总体 ～ N(1,σ1 ) 及Y～ N(2 ,σ 2 ), 未知 1 2， ）设两个总体X～ ～
2 σ1 的置信区间。 求 2 的置信区间。 σ2
选取样本函数 选取样本函数
2 2 S1 σ1 F = 2 2 ~ F(n1 1, n2 1) S2 σ2
∑x
i =1
n
i =1
i
n = 0.
1 p
得 p 的极大似然估计值为 p =
n
∑x
i =1
n
1 = x
i
12
1 θ 2. 设总体 服从拉普拉斯分布：f ( x;θ ) = e ,∞< x < +∞, 设总体X 服从拉普拉斯分布： 2θ 求参数 θ 其中 > 0. 如果取得样本观测值为 x1 , x2 ,L, xn , 求参数θ
第六章 参数估计
(一)基本内容
一、参数估计的概念 1 定义：取样本的一个函数θ ( X 1 , X 2 ,L , X n ), 如果以它的观测 定义：
概率论 第七章 参数估计
L( ) max L( )
称^为
的极大似然估计（MLE）.
求极大似然估计(MLE)的一般步骤是：
(1) 由总体分布导出样本的联合概率分布 (或联合密度);
(2) 把样本联合概率分布(或联合密度)中自变 量看成已知常数,而把参数 看作自变量, 得到似然函数L( );
(3) 求似然函数L( ) 的最大值点(常常转化 为求ln L( )的最大值点) ，即 的MLE;
1. 将待估参数表示为总体矩的连续函数 2. 用样本矩替代总体矩，从而得到待估参
数的估计量。
四. 最大似然估计（极大似然法）
在总体分布类型已知条件下使用的一种 参数估计方法 .
首先由德国数学家高斯在1821年提出。 英国统计学家费歇1922年重新发现此
方法，并首先研究了此方法的一些性质 .
例：某位同学与一位猎人一起外出打猎.一只 野兔从前方窜过 . 一声枪响，野兔应声倒下 .
p值 P(Y=0) P(Y=1) P( Y=2) P(Y=3) 0.7 0.027 0.189 0.441 0.343 0.3 0.343 0.441 0.189 0.027
应如何估计p?
若：只知0<p<1, 实测记录是 Y=k
(0 ≤ k≤ n), 如何估计p 呢?
注意到
P(Y k) Cnk pk (1 p)nk = f (p)
第七章 参数估计
参数估计是利用从总体抽样得到的信息 估计总体的某些参数或参数的某些函数.
仅估 计一 个或 几个 参数.
估计新生儿的体重
估计废品率
估计降雨量
估计湖中鱼数
…
…
参数估计问题的一般提法:
设总体的分布函数为 F(x, )，其中为未 知参数 (可以是向量).从该总体抽样，得样本
《概率论与数理统计》学习笔记十一
σ 2 = S2 =
2 1 n Xi − X ) ( ∑ n i =1
n −1 2 ⎛ n −1 2 ⎞ n −1 S ⎟= E (S2 ) = 由于 E σ 2 = E S 2 = E ⎜ σ ， n n ⎝ n ⎠
n 3 ⎡ X 2 − nX 2 ⎤ ∑ i ⎥ n⎢ ⎣ i =1 ⎦
3 ( X − X )2 i n∑ i =1
n
在总体 X 为离散型随机变量情形， 求未知参数 θ 的矩估计量的方法和连续型 情形完全相同。 极大似然估计法 直观想法：概率最大的事件最可能出现。 设总体 X 为连续型随机变量，具有密度函数 f ( x;θ ) ，其中 θ 是待估未知参 数，又设 ( x1 ,L , xn ) 是样本 ( X 1 ,L , X n ) 的一个观测值，则样本 ( X 1 ,L , X n ) 落在观
n
（１）
ˆr ， 把上式中的 α r 都换成相应的样本矩 M r = 1 ∑ X ir ，便得到参数 θ r 的矩估计量 θ n i =1
概率论与数理统计—学习笔记十一
即
θˆr = hr ( M 1 ,L , M k ) , r = 1, 2,L , k .
（２）
这种求估计量的方法称为矩估计法（简称矩法） ，由矩估计法得出的估计量称为 矩估计量。 例１ 设总体 X 在 [ a, b ] 上服从均匀分布，a,b 未知， X 1 ,L , X n 是总体 X 的 一个样本，试求 a,b 矩估计量。 解 X 的概率密度为 1 , a≤ x≤b ⎧ ⎪ f ( x; a, b ) = ⎨ b − a ⎪ 其它 ⎩ 0,
上节介绍了总体参数的常用点估计方法，对同一参数用不同的估计方法可能 得到不同的估计量，哪个估计量更好些呢？下面给出几种评选估计量好坏的标 准。 无偏估计 估计量是样本的函数，是随机变量，对不同的样本观测值，它有不同的估计 值，我们希望估计量的取值在未知参数真值附近摆动，即希望估计量的数学期望 等于未知参数的真值，这就是无偏性的概念。 定义 设 θˆ ( X 1 ,L , X n ) 是未知参数 θ 的估计量，若
概率论与数理统计答案(华南理工)
开讨论
例 对容量为n的样本，求下列密度函数中参数 a 的
2 2 (a x), (0 x a) f ( x) a 其它 0, a 2 a 解 由于 E [ X ] x 2 ( a x )dx 0 a 3 a 所以由矩法估计，得 X 3 3 n 解得 a 3 X X i n i 1 3 n 所以，参数 a 的矩估计量为 a X i n i 1
方差
1 50 ˆ X Xi 50 i 1 50 1 2 2 2 ˆ 2 S50 Xi ( X ) 50 i 1
此时，ˆ ,
ˆ
2
为两个统计量
根据大数定理，样本的矩和总体的矩应当非常接近 假若样本有观测值x1，x2，……x50,代入统计量中，有
用样本的统计量来估计分布的数字特征，进而得到参
数估计的办法也叫数字特征法，是矩法的特例。
思考一下，是否有其他求解的办法？ 考虑泊松分布的二阶中心矩 得到矩法估计量
Var[ X ]
1 n ( X i X )2 n i 1
可见：同一个参数的矩估计量可以不同。 使用哪个更好一些？ 矩法估计总能用低阶矩就不用高阶矩 之后会系统地介绍估计量优劣的评价，届时再展
解：设装袋的重量为随机变量X，即总体为X~N(μ, σ2)。
E[ X ] 2 2 2 Var [ X ] E [ X ] ( E [ X ])
此时，要估计参数，就转化为估计随机变量的矩 观测50次，即取X1，X2，……X50个样本，样本容量50 计算样本 的期望和
若总体的密度函数中有多个参数1，2，…，n，则将 ln L 第（3）步改为 0, (i 1, 2, , n) i 解方程组即可。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
则称 L 为似然函数，似然函数实质上是样本的
分布律或分布密度.
2. 最大似然估计法 最大似然原理的直观想法：在试验中概率
最大的事件最有可能出现 .一个试验如有若干个 可能结果 A，B， ,若在一次试验中，结果A出现, 则认为 A出现的概率最大.
例8 假定一个盒中黑球和白球两种球的数目之比 为 3:1，但不知哪种球多， p表示从盒中任取一球 是黑球的概率，那么 p 1/ 4或3 / 4 , 现在有放回地 从盒中抽3个球，试根据样本中的黑球数 X 来估计 参数 p .
由于 EX , 可得
解得
1 n
n i 1
Xi
X
ˆ X
例5 求总体 X 的均值 和方差 2的矩估计.
解 设 X1，X2， ，Xn是总体 X 的一个样本，
由于 E( X )
E(
X
2
)
D(
X
)
( EX
)
2
2
故令 解得
X
1
n
n i 1
X
2 i
2
2
ˆ X
ˆ 2
1 n
n
X
2 i
矩估计法是由英国统计学家
皮尔逊(K.Pearson)在1894年提出.
矩估计法的基本思想是用样本的 k 阶原点矩
Ak
1 n
n
X
k i
i 1
去估计总体 X 的 k阶原点矩E( X k );
用样本的
k
阶中心矩
Bk
1 n
n
X
i 1
X
k
去估计总体
的k阶中心矩 E[ X E( X )]k;
并由此得到未知参数的估计量 .
解 随机变量 X ~ B3，p ，即
PX x C3x px 1 p3x X 0，1，2，3
估计 p只需在 p 1/ 4和 p 3 / 4之间作出选择.
计算这两种情况下 X 的分布律：
X
0
1
2
3
p 1/ 4, P X x 27/64 27/64 9/64 1/64
p 3 / 4,P X x 1/64 9/64 27/64 27/64
设总体 X 的分布函数为F x；1，2， ，m , 1，2， ，m 是 m 个待估计的未知参数 . 设
m E( X m ) 存在，对任意 k , k 1，2， ，m
k E(X k )
xkdF
x；1，2，
，m
k
1，2，
，m
现用样本矩作为总体矩的估计，即令
Ak
1 n
n i 1
X
k i
k
解决上述参数 的点估计问题的思路是: 设法
构造一个合适的统计量ˆ ˆX1, X2,, Xn , 对
作出合理的估计 .
在数理统计中称统计量ˆ ˆ X1，X2， ，Xn
为 的估计量,ˆ 的观测值 ˆ ˆx1, x2,, xn 称为
的估计值 .
点估计常用方法：矩估计和最大似然估计法.
二、矩估计法
i 1
X2
Sn2
例6 设总体 X 服从区间上 [ 1,2]的均匀分布, 求参数 1, 2 的矩估计量.
解 设 X1，X2， ，Xn是总体 X 的一个样本，
容易求得
E X 1 2
2
E
X2
2
1 2
12
1
2
2
2
故令
X 1 2
2
1 n
n i 1
X
2 i
2
1 2
12
1
2
2
2
1 , 2 , ... m
k
1,2,
,m
这便得到含m 个参数1，2， ，m的m个方程组,
解该方程组并记所得的解为
ˆk ˆk X1, X2,, Xn k 1,2,,m
以ˆk作为参数k的估计量. 这种求出估计量的方法 称为矩估计法 .
例4 设总体 X服从泊松分布 P , 求参数 的
矩估计量 . 解 设 X1, X2,, Xn 是总体 X 的一个样本,
未知参数 ，这种问题称为参数估计问题.
例1 已知某电话局在单位时间内收到用户呼唤次
数这个总体 X 服从泊松分布 p , 即 X的分布律
PX k k e k 0，1，2，
k!
的形式已知 . 利用样本值 x1，x2， ，xn 估计
E X 的值.
例2 已知某种灯泡的寿命 X ~ N (, 2) ，即
解得1和 2 的矩估计量为
ˆ1 X 3Sn ˆ2 X 3Sn
例7 设总体 X的分布 密度为
x
p( x; )
1
e
2
x ， 0
X1，X2， ，Xn为总体 X 的一个样本，求参数
的矩估计量 .
解 由于 p( x; ) 只含有一个未知参数 ,一般
只需求出 E X 便能得到 的矩估计量，但是
Fisher
1. 似然函数
设总体 X的分布律为 P( X x) p( x; ) 或
分布密度为 p( x; ) ，其中 1,2,...,m 是未
知参数n ， X1，X2， ，Xn 的分布律(或分布密度)
为 p( xi; ) ,当给定样本值 x1，x2， ，xn 后，
i 1
它只是参数 的函数，记为 LΒιβλιοθήκη ，即 n L p( xi; ) i 1
即 的矩估计量为
ˆ
1 n
n i 1
Xi
该例表明参数的矩估计量不唯一.
三、最大似然估计
最大似然估计作为一种点估计方法最初是由 德国数学家高斯(Gauss)于1821年提出，英国统计 学家费歇尔(R.A.Fisher)在1922年作了进一步发展 使之成为数理统计中最重要应用最广泛的方法之一.
Gauss
第一节 参数的点估计
一、问题的提出
二、矩估计法 三、最大似然估计
回
停 下
一、点估计问题的提出
在实际中我们经常遇到这样的问题：总体 X 的
分布函数 F x; 的形式为已知， 是未知参
数. X1, X2,, Xn 是 X的一个样本, x1, x2 ,, xn 为相应的一个样本值. 我们希望用样本值去估计
x
E X
x
1
e dx 0
2
即E X 不含有 ,故不能由此得到 的矩估计量.
E( X 2)
x
x2
1
2
e
dx
1
x
2e
x
dx
2
2
0
于是解得 的矩估计量为
ˆ
1 2n
i
n 1
X
2 i
本例 的矩估计量也可以这样求得
E X
x
|x|
1
e
dx
1
xe
x
2
0
故令
1 n
n i1 Xi
X 的分布密度
p( x;, 2 )
1
e
(
x )2 2 2
2
x
的形式已知，但参数 ， 2未知 . 利用样本值
x1，x2， ，xn，估计 E X ， 2 D X .
例3 考虑某厂生产的一批电子元件的寿命这个 总体 X ；不知道 X 的分布形式 ，根据样本值
x1，x2， ，xn 估计元件的平均寿命和元件寿命 的差异程度,即估计总体 X 的均值E X 和方差D X .
分布律或分布密度.
2. 最大似然估计法 最大似然原理的直观想法：在试验中概率
最大的事件最有可能出现 .一个试验如有若干个 可能结果 A，B， ,若在一次试验中，结果A出现, 则认为 A出现的概率最大.
例8 假定一个盒中黑球和白球两种球的数目之比 为 3:1，但不知哪种球多， p表示从盒中任取一球 是黑球的概率，那么 p 1/ 4或3 / 4 , 现在有放回地 从盒中抽3个球，试根据样本中的黑球数 X 来估计 参数 p .
由于 EX , 可得
解得
1 n
n i 1
Xi
X
ˆ X
例5 求总体 X 的均值 和方差 2的矩估计.
解 设 X1，X2， ，Xn是总体 X 的一个样本，
由于 E( X )
E(
X
2
)
D(
X
)
( EX
)
2
2
故令 解得
X
1
n
n i 1
X
2 i
2
2
ˆ X
ˆ 2
1 n
n
X
2 i
矩估计法是由英国统计学家
皮尔逊(K.Pearson)在1894年提出.
矩估计法的基本思想是用样本的 k 阶原点矩
Ak
1 n
n
X
k i
i 1
去估计总体 X 的 k阶原点矩E( X k );
用样本的
k
阶中心矩
Bk
1 n
n
X
i 1
X
k
去估计总体
的k阶中心矩 E[ X E( X )]k;
并由此得到未知参数的估计量 .
解 随机变量 X ~ B3，p ，即
PX x C3x px 1 p3x X 0，1，2，3
估计 p只需在 p 1/ 4和 p 3 / 4之间作出选择.
计算这两种情况下 X 的分布律：
X
0
1
2
3
p 1/ 4, P X x 27/64 27/64 9/64 1/64
p 3 / 4,P X x 1/64 9/64 27/64 27/64
设总体 X 的分布函数为F x；1，2， ，m , 1，2， ，m 是 m 个待估计的未知参数 . 设
m E( X m ) 存在，对任意 k , k 1，2， ，m
k E(X k )
xkdF
x；1，2，
，m
k
1，2，
，m
现用样本矩作为总体矩的估计，即令
Ak
1 n
n i 1
X
k i
k
解决上述参数 的点估计问题的思路是: 设法
构造一个合适的统计量ˆ ˆX1, X2,, Xn , 对
作出合理的估计 .
在数理统计中称统计量ˆ ˆ X1，X2， ，Xn
为 的估计量,ˆ 的观测值 ˆ ˆx1, x2,, xn 称为
的估计值 .
点估计常用方法：矩估计和最大似然估计法.
二、矩估计法
i 1
X2
Sn2
例6 设总体 X 服从区间上 [ 1,2]的均匀分布, 求参数 1, 2 的矩估计量.
解 设 X1，X2， ，Xn是总体 X 的一个样本，
容易求得
E X 1 2
2
E
X2
2
1 2
12
1
2
2
2
故令
X 1 2
2
1 n
n i 1
X
2 i
2
1 2
12
1
2
2
2
1 , 2 , ... m
k
1,2,
,m
这便得到含m 个参数1，2， ，m的m个方程组,
解该方程组并记所得的解为
ˆk ˆk X1, X2,, Xn k 1,2,,m
以ˆk作为参数k的估计量. 这种求出估计量的方法 称为矩估计法 .
例4 设总体 X服从泊松分布 P , 求参数 的
矩估计量 . 解 设 X1, X2,, Xn 是总体 X 的一个样本,
未知参数 ，这种问题称为参数估计问题.
例1 已知某电话局在单位时间内收到用户呼唤次
数这个总体 X 服从泊松分布 p , 即 X的分布律
PX k k e k 0，1，2，
k!
的形式已知 . 利用样本值 x1，x2， ，xn 估计
E X 的值.
例2 已知某种灯泡的寿命 X ~ N (, 2) ，即
解得1和 2 的矩估计量为
ˆ1 X 3Sn ˆ2 X 3Sn
例7 设总体 X的分布 密度为
x
p( x; )
1
e
2
x ， 0
X1，X2， ，Xn为总体 X 的一个样本，求参数
的矩估计量 .
解 由于 p( x; ) 只含有一个未知参数 ,一般
只需求出 E X 便能得到 的矩估计量，但是
Fisher
1. 似然函数
设总体 X的分布律为 P( X x) p( x; ) 或
分布密度为 p( x; ) ，其中 1,2,...,m 是未
知参数n ， X1，X2， ，Xn 的分布律(或分布密度)
为 p( xi; ) ,当给定样本值 x1，x2， ，xn 后，
i 1
它只是参数 的函数，记为 LΒιβλιοθήκη ，即 n L p( xi; ) i 1
即 的矩估计量为
ˆ
1 n
n i 1
Xi
该例表明参数的矩估计量不唯一.
三、最大似然估计
最大似然估计作为一种点估计方法最初是由 德国数学家高斯(Gauss)于1821年提出，英国统计 学家费歇尔(R.A.Fisher)在1922年作了进一步发展 使之成为数理统计中最重要应用最广泛的方法之一.
Gauss
第一节 参数的点估计
一、问题的提出
二、矩估计法 三、最大似然估计
回
停 下
一、点估计问题的提出
在实际中我们经常遇到这样的问题：总体 X 的
分布函数 F x; 的形式为已知， 是未知参
数. X1, X2,, Xn 是 X的一个样本, x1, x2 ,, xn 为相应的一个样本值. 我们希望用样本值去估计
x
E X
x
1
e dx 0
2
即E X 不含有 ,故不能由此得到 的矩估计量.
E( X 2)
x
x2
1
2
e
dx
1
x
2e
x
dx
2
2
0
于是解得 的矩估计量为
ˆ
1 2n
i
n 1
X
2 i
本例 的矩估计量也可以这样求得
E X
x
|x|
1
e
dx
1
xe
x
2
0
故令
1 n
n i1 Xi
X 的分布密度
p( x;, 2 )
1
e
(
x )2 2 2
2
x
的形式已知，但参数 ， 2未知 . 利用样本值
x1，x2， ，xn，估计 E X ， 2 D X .
例3 考虑某厂生产的一批电子元件的寿命这个 总体 X ；不知道 X 的分布形式 ，根据样本值
x1，x2， ，xn 估计元件的平均寿命和元件寿命 的差异程度,即估计总体 X 的均值E X 和方差D X .