第七章 参数估计
合集下载
概率论第七章 第1节

根据样本概率最大原则,m的估计值为3。
最大似然估计法原理
一般地,不仿设总体X是离散型分布X~p(x,θ),如果 X1,X2,…,Xn是来自这个总体的一个随机样本,x1,x2,…,xn 是这个随机样本的样本值,则这个样本发生的概率为:
记这个概率为θ的函数:
16
最大似然估计法原理
如果在一次抽样中样本值x1,x2,…,xn出现了,我们就认为 它之所以出现是因为它发生的概率最大导致的。因此我们 就选择能使这个概率最大的那个θ作为θ的估计值,这就 是极大似然估计法。 “样本值概率最大原则”
矩估计法理论依据
命题2:设总体X的l=1,2,…,k阶矩存在即E(Xl)=μk,则l阶样 本矩A1,A2,…,Ak的连续函数g(A1,A2,…,Ak)也依概率收敛于总 体矩的连续函数即
根据这两个命题,我们使用如下方法来进行矩估计: (1)用样本矩A1,A2,…,Ak来估计总体矩; (2)用样本矩的连续函数g(A1,A2,…,Ak)来估计总体矩的连续 函数g(μ1,μ2,…,μk)。
砍掉充分小的dxi,记这 个概率为θ的函数:
30
连续型总体中参数 θ的似然函数!
最大似然估计值 最大似然估计量
怎样求最大值点?
基于此通常先取对数,再求最大值点。
化成求 对数似 然函数 的最大 值点!
如果对数似然函数二阶可导,并且概率 密度函数是单峰函数,则驻点就是最大 值点!通过求一阶导数能得驻点:
第七章 参数估计
1、什么是参数估计? 当总体的分布类型已知,但其中仍有未知参数。比如总体 X服从参数μ,σ2的正态分布,但μ,σ2未知。但是我们 能根据来自总体X的一个简单随机样本X1,X2,…,Xn通过适 当的方法对这些未知参数进行估计,得到它的一个近似值 或近似区间。 2、参数估计有哪些形式? (1)点估计:矩估计法、极大似然估计法。 (2)区间估计:正态总体下区间估计法。
概率论与数理统计第7章参数估计PPT课件

5
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时,可用样本值的j阶原点矩Aj估计vj,其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;),则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而, 这个方法常归功于英国统
Gauss
计学家费歇(Fisher) . 费歇在1922年重新发现了
这一方法,并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路:根据样本的具体情况
注:估计量为样本的函数,样本不同,估计量不 同。
常用估计量构造法:矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系,解出参数, 并用样本矩替代总体矩而得到的参数估计方法。 (由大数定理可知样本矩依概率收敛于总体矩, 且许多分布所含参数都是矩的函数)
下面我们考虑总体为连续型随机变量的情况:
n
它是的函数,记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数,记为L( )。
注:似然函数的概念并不仅限于连续随机变量 ,
对于离散型随机变量,用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知,且只含一个未知参数,
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时,可用样本值的j阶原点矩Aj估计vj,其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;),则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而, 这个方法常归功于英国统
Gauss
计学家费歇(Fisher) . 费歇在1922年重新发现了
这一方法,并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路:根据样本的具体情况
注:估计量为样本的函数,样本不同,估计量不 同。
常用估计量构造法:矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系,解出参数, 并用样本矩替代总体矩而得到的参数估计方法。 (由大数定理可知样本矩依概率收敛于总体矩, 且许多分布所含参数都是矩的函数)
下面我们考虑总体为连续型随机变量的情况:
n
它是的函数,记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数,记为L( )。
注:似然函数的概念并不仅限于连续随机变量 ,
对于离散型随机变量,用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知,且只含一个未知参数,
chap7参数估计.ppt

若p的可供选择的估计值有许多,仍应选择发生概率最大的 p
作为p的估计,这就是极大似然估计的思想。
极大似然估计的原理(教材p180-181)
设总体X的概率密度函数族为f(x; ) (或概率分布函数族为
P(X=x)=p(x ; ) ),。
设 (x1,x2, ,xn ) 为任一组样本观察值(一组抽象的数),则
求的矩估计值和极大似然估计值。
说明:1. 本题中因 P(X= xi )无一般表达式,故不能先求极大
似然估计量,再将样本观察值代入求极大似然估计值。
2. 本题处理思想在解决实际问题时很有用。
极大似然估计的性质:若 为总体X中未知参数的极大似
然估计量,u=u( ) 有单值反函数 = (u),则u( )是u( ) 的
k
k次着n火k天数 75 90 54 22
6
2
1 =
250
1) 试用矩估计法估计参数; 2) 试用极大似然估计法估计参数; 3) 试求P(X=0)的极大似然估计值。
例2(2002年数学三考研试题填空题)
设总体X的概率密度为 f (x;
)
e
, ( x ) 0,
若x 若x
, .
而 X1,X 2, ,X n 是来自总体X的简单随机样本,则未知
大似然估计值。
求L()的极大值 :
通过
d
ln
L(
)
0,求出
。
d
说明:1. 因为L()是样本观察值的函数(此时样本观察值不变),
故求出的 一般也是样本观察值的函数。
2. 由于 d ln L( ) 0 只是lnL()取极值的必要条件,从理论上
d
来说,还应验证lnL( ) lnL(), 对所有样本观察值都
第七章 参数估计

第三节 总体均数估计
估计总体平均数的步骤: 估计总体平均数的步骤: X与S 1、 计算样本 2、 计算 σ X 3、 确定置信水平或显著性水平并查表 4、计算置信区间 5、解释总体平均数的置信区间
一、正态估计法 , σ2已知 、
1、前题条件: 、前题条件:
总体正态, n不论大小 总体正态, n不论大小
点估计与区间估计的比较
定义: 定义
直接以样本统计量(数轴上的一个点) 点估计 :直接以样本统计量(数轴上的一个点) 作为总体参数的估计值
区间估计:按一定概率要求, 区间估计:按一定概率要求,根据样本统计量估 计总体参数可能落入的范围的一种统计方法。 计总体参数可能落入的范围的一种统计方法。也 就是说整体参数所落的有把握的范围 整体参数所落的有把握的范围。 就是说整体参数所落的有把握的范围。
D=0.95时 时
75.7 ≤ µ ≤ 81.3
5、解释:用样本1估计,总体的平均数落在 、解释:用样本1估计, 73.6-82.4之间的可能性为95%, 之间的可能性为95% 73.6-82.4之间的可能性为95%,超出这一范 围的可能性为5% 5%。 围的可能性为5%。 用样本2估计,总体的平均数落在76.7 80.3之 76.7用样本2估计,总体的平均数落在76.7-80.3之 间的可能性为95% 落在75.7 81.3的可能性为 95%, 75.7间的可能性为95%,落在75.7-81.3的可能性为 99%。 99%
X ± 2.58σ X
置信限:就是总体参数所落区间的上下界限。 置信限:就是总体参数所落区间的上下界限。即
X − 1.96σ X ≤ µ ≤ X + 1.96σ X
置信下限 置信上限
标准误
标准误(中心极限定理 ) 标准误(中心极限定理3)
概率论 第七章 参数估计

L( ) max L( )
称^为
的极大似然估计(MLE).
求极大似然估计(MLE)的一般步骤是:
(1) 由总体分布导出样本的联合概率分布 (或联合密度);
(2) 把样本联合概率分布(或联合密度)中自变 量看成已知常数,而把参数 看作自变量, 得到似然函数L( );
(3) 求似然函数L( ) 的最大值点(常常转化 为求ln L( )的最大值点) ,即 的MLE;
1. 将待估参数表示为总体矩的连续函数 2. 用样本矩替代总体矩,从而得到待估参
数的估计量。
四. 最大似然估计(极大似然法)
在总体分布类型已知条件下使用的一种 参数估计方法 .
首先由德国数学家高斯在1821年提出。 英国统计学家费歇1922年重新发现此
方法,并首先研究了此方法的一些性质 .
例:某位同学与一位猎人一起外出打猎.一只 野兔从前方窜过 . 一声枪响,野兔应声倒下 .
p值 P(Y=0) P(Y=1) P( Y=2) P(Y=3) 0.7 0.027 0.189 0.441 0.343 0.3 0.343 0.441 0.189 0.027
应如何估计p?
若:只知0<p<1, 实测记录是 Y=k
(0 ≤ k≤ n), 如何估计p 呢?
注意到
P(Y k) Cnk pk (1 p)nk = f (p)
第七章 参数估计
参数估计是利用从总体抽样得到的信息 估计总体的某些参数或参数的某些函数.
仅估 计一 个或 几个 参数.
估计新生儿的体重
估计废品率
估计降雨量
估计湖中鱼数
…
…
参数估计问题的一般提法:
设总体的分布函数为 F(x, ),其中为未 知参数 (可以是向量).从该总体抽样,得样本
第七章 参数估计

第七章 参数估计
1、正态总体、方差已知或非正态总体,大样本 当总体服从正态分布且方差已知时,或者总体不是正态分布但是大样本时,样本 均值的抽样分布均为正态分布,其数学期望为总体均值u,方差为Ϭ2/n。而样本均 值经过标准化以后的随机变量则服从标准正态分布,即 Z=(x-u)/(Ϭ/n0.5)~N(0,1) 根据上式和正态分布的性质可以得出总体均值u在1-α置信水平下的置信区间为: xα+是(-)事Z(α先/2)所(Ϭ确/n定0.5的)。而其一中个,概x率+Z值(α/2,) (Ϭ也/n称0.为5)为风置险信值上,限是,总x体-Z均(α/2值) (Ϭ不/包n0.含5)为在置置信信下区限间,的 概是率估;计1总- 体α称均为值置时信的水估平计,误Z差(α/。2) 是标准正态分布右侧面积为α/2的z值;Z(α/2) (Ϭ/n0.5) 也即是说,总体均值的置信区间由两个部分构成:点估计值和描述估计量精度的 +(-)值,这个+(-)值称为估计误差。
第七章 参数估计
在区间估计中,由样本统计量所构造的总体参数的估计区间称为置信区间。
其中,区间的最小值称为置信下限,最大值称为置信上限。
由于统计学家在某种程度上确信这个区间会包含真正的总体参数,所以给它取名 为置信区间。原因是:如果抽取了许多不同的样本,比如说抽取100个样本,根据 每一个样本构造了一个置信区间,这样,由100个样本构造的总体参数的100个置 信区间中,有95%的区间包含了总体参数的真值,而5%则没有包含,则95%这个值 称为置信水平。一般,如果将构造置信区间的步骤重复多次,置信区间中包含总 体参数真值的次数所占的比例称为置信水平,也称为置信度或置信系数。
自然使用估计效果最好的那种估计量。什么样的估计量才算一个好的估计量呢? 统计学家给出了评价估计量的一些标准,主要包括以下几个:
概率论与数理统计-参数估计

第七章 参数估计
例:
引言
设总体 X 是服从参数为 的指数分布,其中参数
未 知 ,
0 .X1 ,,
X
是总体
n
X
的一个样本,
我们的任务是根据样本,来估计 的取值,从
而估计总体的分布.
这 是 一 个 参 数 估 计 问 题.
第七章 参数估计
§1 点估计 §2 估计量的评选标准 §3 区间估计
第七章 参数估计 §1 点估计
2
令
A1
A2
, (
2
1)
.
第七章 参数估计
例6(续)
解此方程组,得
§1 点估计
ˆ
A1 2 A2 A12
,
ˆ
A2
A1 A12
.
ˆ X 2 ,
即
B2
ˆ X .
B2
其中 B2
1 n
n i 1
Xi X
2 为样本的二阶中心矩.
第七章 参数估计(第二十二讲) 三、 极大似然法
§1 点估计
1
第七章 参数估计
例6(续)
EX 2 x 2 f
x dx x 2
x 1e x dx
0
§1 点估计
2 2 x ( e 2)1 x dx
2 0 2
2 2
1 2
1
2
因此有
EX
,
EX
2
1 .
⑵ 在不引起混淆的情况下,我们统称估计量
与估计值为未知参数 的估计.
第七章 参数估计
二、 矩估计法
§1 点估计
设X为连续型随机变量,其概率密度为
f ( x;1 ,, k ), X为离散型随机变量,其分布列为
07心理统计学-第七章 参数估计

犯错误的概率,常用α(或p)表示。则1-α为置信 度。(显著性水平越高表示的是α值越小,即犯错误的可
能性越低) α为预先设定的临界点,常用的如.05、.01、.001;p 为检验计算所得的实际(犯错误)概率。
第一节 点估计、区间估计与标准误
三、区间估计与标准误
3、区间估计的原理与标准误
转换成比率为
p
n
p, SE p
n
pq n
同理可得公式7-17。自习[例7-12、例7-13]
1、从某地区抽样调查400人,得到每月人均文化消费为 160元。已知该地区文化消费的总体标准差为40元。试 问该地区的每月人均文化消费额。(α=.05,总体呈正态
分布)
2、上题中总体方差未知,已知Sn-1=44元。 3、已知某中学一次数学考试成绩的分布为正态分布,总 体标准差为5。从总体中随机抽取16名学生,计算得平 均数为81、标准差为Sn=6。试问该次考试中全体考生成 绩平均数的95%置信区间。 4、上题中总体方差未知,样本容量改为17人。 5、假定智商服从正态分布。随机抽取10名我班学生测 得智商分别为98、102、105、105、109、111、117、 123、124、126(可计算得M=112,Sn≈9.4),试以95% 的置信区间估计我班全体的智商平均数。 返回
值表,求tα /2(df)。
5、计算置信区间CI。
σ2已知,区间为M-Zα /2 SE <μ< M+Zα /2 SE;
σ2未知,区间为M-tα /2(df)SE <μ< M+tα /2(df)SE。
6、对置信区间进行解释。
二、σ2已知,对μ的区间估计(Z分布,例7-1 & 2) 三、σ2未知,对μ的区间估计(t分布,例7-3 & 4)
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
, k ) 定义7.1 设总体X中含有未知参数 (1, 2,
,xk ) ,使 若对每个i( i=1,2,k),存在连续函数 gi ( x1,x2,
i gi (E( X ),E( X 2 ), ,E( X k )),i 1 , 2, ,k, 则称 i gi (1, 2, , k ) 为 i 的矩估计量,其中
F(x; )来表示X的分布函数,当取不同的值,就会得到不 同的分布函数。我们称所有可能取值的集合为参数空间,记 为。把{F(x; ), }称为X的分布函数族。
若X为连续型随机变量,和分布函数族对应的是密度函数 族{ f (x; ), }。
若X是离散型随机变量,和分布函数族对应的是概率分布 函数族{ 第一节
f ( x;1, 2, , k ),
由总体原点矩的定义,有
E( X i ) xi f ( x;1, 2, , k )dx, i 1, 2, ,k.
从理论上来说,由上面k个方程,可以解出
i gi (E( X ),E( X 2 ), ,E( X k )),i 1 , 2, ,k.
的估计值。
( x1,x2, ,xn ) 作为未知参数
说明:1. 在统计推断中,当不致混淆时,通常对样本和样本 ,xn )。 观察值的表示法不加区分,均表成 ( x1,x2, 2. 对于两组不同的样本观察值 ,可得到未知参数 的两个 估计值,但 的估计量是同一个。
一、矩估计 矩估计法原理:用样本k阶原点矩(中心矩)作为总体k阶原点 矩(中心矩)的估计量,用样本k+m阶混合矩作为总体k+m阶混 合矩的估计量。 特别,用 X 作为E(X)的估计量,用 B2 作为D(X)的估计 量,用样本协方差(相关系数)作为cov(X,Y)和 rXY 的估计量。
i X / n,i 1, 2, ,k.
2, , n )为 (1, 2, , n ) 的矩估计量。 称 ( 1 ,
n
j 1
i j
如何求i gi ( E( X ),E( X 2 ), ,E( X k )),i 1 , 2, ,k? 设总体X的密度函数为
P(X=2)=
p
2
。 根据题意,知 p=3/4 或 p=1/4 。
若 p=1/4,则 P(X=2)=1/16; 若 p=3/4,则 P(X=2)=9/16。 这说明当黑球多时事件 (X=2) 发生的概率大得多, (或者说样本来自总体B(2,3/4)的可能性比来自总体B(2,1/4) 的可能性大得多) 根据“概率越大的事件越可能发生”的实际推断原理,应选 3/4作为p的估计值。
d
d ln L( ) 2. 由于 只是lnL()取极值的必要条件,从理论上 0 d
来说,还应验证lnL( ) lnL(), 对所有样本观察值都 成立。但这种验证通常是非常困难的,故多不进行验证。 3. 若不只一个参数需要估计,也采用同样的方法,只是这时似 然函数是多元函数,要通过令偏导数等于零求出驻点。(具体步 骤见教材p182-183)。
p (k ) P( X xk ), } 。
点估计
点估计(教材p177) 用样本 ( X1,X 2, ,X n ) 构造适当的统
计量 ( X 1,X 2, ,X n ) ,作为未知参数 的估计量。
当取得一组样本观察值
( x1,x2, ,xn ) 后,用相应的
,xn ) ,使 L( ) max L( ) 对几乎所有样 若有 ( x1,x2,
本观察值都成立,则称 ( X 1,X 2, ,X n )为的极大似然估
计量,称 ( x1,x2, ,xn )为的极大似然估计值。
说明:在求极大似然估计量时,先用一组抽象的样本观察值 来求,因而得到的是待估参数的极大似然估计值,再用样本 代换样本观察值,才能得到待估参数的极大似然估计量。若 用一组具体的样本观察值代入,便可得到待估参数的具体极 大似然估计值。 求L()的极大值 : 通过 d ln L( ) 0,求出 。 说明:1. 因为L()是样本观察值的函数(此时样本观察值不变),
矩估计的优越性:当总体分布类型未知时仍可对总体各阶矩进 行估计。
矩估计的缺陷:当总体分布类型已知时,未能充分利用总体 分布提供的信息。
二、极大似然估计 引例:罐中有许多白球和黑球,已知两色球的比例为3:1,但 不知哪种颜色的球多。今有放回连抽两球均取出黑球,问:罐 中黑球多还是白球多?
解:设抽出黑球的概率为p,抽得黑球数为X,则X~B(2,p)。
第七章 引言
参数估计
参数估计:当总体的某些参数未知(一般要求分布类型已知)时, 从样本出发构造适当的统计量,作为未知参数的估计量。当取 得一组观察值后,以相应的统计量的观察值作为未知参数的估 计值,并讨论估计值对真值进行估计的可靠性。 参数估计方法是处理实际问题时最常用的方法。 预备概念:当总体X中含有未知参数 (可以是向量)时,可用
L( ) L( x1,x2, ,xn; ) f ( xi; ).
(或 L( )
p( x ; ) ).
i i 1
n
i 1
注意,当X是离散型随机变量,因样本观察值是取定的,故 L(), 仅是的函数,对连续型随机变量,仍将L(), 仅看作的函数。
若p的可供选择的估计值有许多,仍应选择发生概率最大的 p 作为p的估计,这就是极大似然估计的思想。
极大似然估计的原理(教材p180-181) 设总体X的概率密度函数族为f(x; ) (或概率分布函数族为 P(X=x)=p(x ; ) ),。本的密度函数(或概率分布)为 n
,xk ) ,使 若对每个i( i=1,2,k),存在连续函数 gi ( x1,x2,
i gi (E( X ),E( X 2 ), ,E( X k )),i 1 , 2, ,k, 则称 i gi (1, 2, , k ) 为 i 的矩估计量,其中
F(x; )来表示X的分布函数,当取不同的值,就会得到不 同的分布函数。我们称所有可能取值的集合为参数空间,记 为。把{F(x; ), }称为X的分布函数族。
若X为连续型随机变量,和分布函数族对应的是密度函数 族{ f (x; ), }。
若X是离散型随机变量,和分布函数族对应的是概率分布 函数族{ 第一节
f ( x;1, 2, , k ),
由总体原点矩的定义,有
E( X i ) xi f ( x;1, 2, , k )dx, i 1, 2, ,k.
从理论上来说,由上面k个方程,可以解出
i gi (E( X ),E( X 2 ), ,E( X k )),i 1 , 2, ,k.
的估计值。
( x1,x2, ,xn ) 作为未知参数
说明:1. 在统计推断中,当不致混淆时,通常对样本和样本 ,xn )。 观察值的表示法不加区分,均表成 ( x1,x2, 2. 对于两组不同的样本观察值 ,可得到未知参数 的两个 估计值,但 的估计量是同一个。
一、矩估计 矩估计法原理:用样本k阶原点矩(中心矩)作为总体k阶原点 矩(中心矩)的估计量,用样本k+m阶混合矩作为总体k+m阶混 合矩的估计量。 特别,用 X 作为E(X)的估计量,用 B2 作为D(X)的估计 量,用样本协方差(相关系数)作为cov(X,Y)和 rXY 的估计量。
i X / n,i 1, 2, ,k.
2, , n )为 (1, 2, , n ) 的矩估计量。 称 ( 1 ,
n
j 1
i j
如何求i gi ( E( X ),E( X 2 ), ,E( X k )),i 1 , 2, ,k? 设总体X的密度函数为
P(X=2)=
p
2
。 根据题意,知 p=3/4 或 p=1/4 。
若 p=1/4,则 P(X=2)=1/16; 若 p=3/4,则 P(X=2)=9/16。 这说明当黑球多时事件 (X=2) 发生的概率大得多, (或者说样本来自总体B(2,3/4)的可能性比来自总体B(2,1/4) 的可能性大得多) 根据“概率越大的事件越可能发生”的实际推断原理,应选 3/4作为p的估计值。
d
d ln L( ) 2. 由于 只是lnL()取极值的必要条件,从理论上 0 d
来说,还应验证lnL( ) lnL(), 对所有样本观察值都 成立。但这种验证通常是非常困难的,故多不进行验证。 3. 若不只一个参数需要估计,也采用同样的方法,只是这时似 然函数是多元函数,要通过令偏导数等于零求出驻点。(具体步 骤见教材p182-183)。
p (k ) P( X xk ), } 。
点估计
点估计(教材p177) 用样本 ( X1,X 2, ,X n ) 构造适当的统
计量 ( X 1,X 2, ,X n ) ,作为未知参数 的估计量。
当取得一组样本观察值
( x1,x2, ,xn ) 后,用相应的
,xn ) ,使 L( ) max L( ) 对几乎所有样 若有 ( x1,x2,
本观察值都成立,则称 ( X 1,X 2, ,X n )为的极大似然估
计量,称 ( x1,x2, ,xn )为的极大似然估计值。
说明:在求极大似然估计量时,先用一组抽象的样本观察值 来求,因而得到的是待估参数的极大似然估计值,再用样本 代换样本观察值,才能得到待估参数的极大似然估计量。若 用一组具体的样本观察值代入,便可得到待估参数的具体极 大似然估计值。 求L()的极大值 : 通过 d ln L( ) 0,求出 。 说明:1. 因为L()是样本观察值的函数(此时样本观察值不变),
矩估计的优越性:当总体分布类型未知时仍可对总体各阶矩进 行估计。
矩估计的缺陷:当总体分布类型已知时,未能充分利用总体 分布提供的信息。
二、极大似然估计 引例:罐中有许多白球和黑球,已知两色球的比例为3:1,但 不知哪种颜色的球多。今有放回连抽两球均取出黑球,问:罐 中黑球多还是白球多?
解:设抽出黑球的概率为p,抽得黑球数为X,则X~B(2,p)。
第七章 引言
参数估计
参数估计:当总体的某些参数未知(一般要求分布类型已知)时, 从样本出发构造适当的统计量,作为未知参数的估计量。当取 得一组观察值后,以相应的统计量的观察值作为未知参数的估 计值,并讨论估计值对真值进行估计的可靠性。 参数估计方法是处理实际问题时最常用的方法。 预备概念:当总体X中含有未知参数 (可以是向量)时,可用
L( ) L( x1,x2, ,xn; ) f ( xi; ).
(或 L( )
p( x ; ) ).
i i 1
n
i 1
注意,当X是离散型随机变量,因样本观察值是取定的,故 L(), 仅是的函数,对连续型随机变量,仍将L(), 仅看作的函数。
若p的可供选择的估计值有许多,仍应选择发生概率最大的 p 作为p的估计,这就是极大似然估计的思想。
极大似然估计的原理(教材p180-181) 设总体X的概率密度函数族为f(x; ) (或概率分布函数族为 P(X=x)=p(x ; ) ),。本的密度函数(或概率分布)为 n