概率论与数理统计参数估计
概率论与数理统计-参数估计_图文

或
于是得到
的置信水平为 的置信区间为
为已知
其中
于是得到
的置信水平为 的置信区间为
其中
例3 为比较 I ,ቤተ መጻሕፍቲ ባይዱⅡ 两种型号步枪子弹的枪口
速度 ,随机地取 I 型子弹 10 发 ,得到枪口速度的平
均值 为
标准差
随
机地取 Ⅱ 型子弹 20 发 ,得到枪口速度的平均值为
标准差
假设两总
体都可认为近似地服从正态分布.且生产过程可认
2. 估计的精度要尽可能的高. 如要求区间长度
尽可能短,或能体现该要求的其它准则.
可靠度与精度是一对矛盾,一般是在保证 可靠度的条件下尽可能提高精度.
二、置信区间的求法
在求置信区间时,要查表求分位点.
定义 设
, 对随机变量X,称满足
的点 为X的概率分布的上 分位点.
若 X 为连续型随机变量 , 则有 所求置信区间为
X~N( )
样本均值是否是 的一个好的估计量?
样本方差是否是 的一个好的估计量?
这就需要讨论以下几个问题: (1) 我们希望一个“好的”估计量具有什么特性? (2) 怎样决定一个估计量是否比另一个估计量“好”?
(3) 如何求得合理的估计量?
常用的几条标准是:
1.无偏性 2.有效性 3.相合性
这里我们重点介绍前面两个标准 .
概率论与数理统计-参数估计_图文.ppt
参数估计
现在我们来介绍一类重要的统计推断问题 参数估计问题是利用从总体抽样得到的信息来估 计总体的某些参数或者参数的某些函数.
估计新生儿的体重
估计废品率
在参数估计问题
估计降雨量 中,假定总体分 布形式已知,未
… 知的仅仅是一个 … 或几个参数.
概率论与数理统计教案参数估计

概率论与数理统计教案-参数估计教案章节一:参数估计概述教学目标:1. 理解参数估计的定义及意义;2. 掌握参数估计的两种方法:最大似然估计和最小二乘估计;3. 了解参数估计的假设条件。
教学内容:1. 参数估计的定义及意义;2. 最大似然估计和最小二乘估计的方法及步骤;3. 参数估计的假设条件。
教学方法:1. 讲授法:讲解参数估计的定义、意义、方法及步骤;2. 案例分析法:分析实际案例,让学生更好地理解参数估计的方法及应用。
教学难点:1. 最大似然估计和最小二乘估计的方法及步骤;2. 参数估计的假设条件。
教学准备:1. 教学PPT;2. 相关案例资料。
教学过程:1. 引入参数估计的概念,讲解其意义;2. 讲解最大似然估计和最小二乘估计的方法及步骤;3. 分析实际案例,展示参数估计的应用;4. 讲解参数估计的假设条件;5. 课堂互动,回答学生问题。
作业布置:1. 复习parameter estimation 的定义及意义;2. 学习maximum likelihood estimation 和least squares estimation 的相关知识;3. 思考如何应用parameter estimation 解决实际问题。
教案章节二:最大似然估计教学目标:1. 理解最大似然估计的定义及意义;2. 掌握最大似然估计的计算方法;3. 了解最大似然估计的应用场景。
教学内容:1. 最大似然估计的定义及意义;2. 最大似然估计的计算方法;3. 最大似然估计的应用场景。
教学方法:1. 讲授法:讲解最大似然估计的定义、意义、计算方法;2. 案例分析法:分析实际案例,展示最大似然估计的应用。
教学难点:1. 最大似然估计的计算方法;2. 最大似然估计的应用场景。
教学准备:1. 教学PPT;2. 相关案例资料。
教学过程:1. 引入最大似然估计的概念,讲解其意义;2. 讲解最大似然估计的计算方法;3. 分析实际案例,展示最大似然估计的应用;4. 课堂互动,回答学生问题。
概率论与数理统计第7章参数估计PPT课件

a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时,可用样本值的j阶原点矩Aj估计vj,其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;),则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而, 这个方法常归功于英国统
Gauss
计学家费歇(Fisher) . 费歇在1922年重新发现了
这一方法,并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路:根据样本的具体情况
注:估计量为样本的函数,样本不同,估计量不 同。
常用估计量构造法:矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系,解出参数, 并用样本矩替代总体矩而得到的参数估计方法。 (由大数定理可知样本矩依概率收敛于总体矩, 且许多分布所含参数都是矩的函数)
下面我们考虑总体为连续型随机变量的情况:
n
它是的函数,记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数,记为L( )。
注:似然函数的概念并不仅限于连续随机变量 ,
对于离散型随机变量,用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知,且只含一个未知参数,
概率论与数理统计参数估计最大似然估计法

概率论与数理统计第6章参数估计第2讲最大似然估计法上一讲介绍了矩估计,这一讲介绍点估计地另外一种方法——最大似然估计法,它是在总体类型已知条件下使用地一种参数估计方法 .它首先是由数学家高斯在1821年提出地,费歇在1922年重新发现了这一方法,并研究了它地一些性质,从而得到广泛应用.我们先来看一个实例ꢀ例——生活经验:黑球白球9:1,不知哪种多?有放回抽三次,两次白球,白球多!哪种多?一次黑球.ꢀ原理一次实验就出现得事件有较大得概率这种选择一个参数使得实验结果具有最大概率地思想就是最大似然法地基本思想 .ꢀ方法最大01 最大似然估计法02 典型例题011设是来自X地样本, 是其中一组样本值,若总体X属离散型,其分布律似然函数若总体X属连续型,其概率密度似然函数2挑选使达到最大地参数 ,作为地估计即称为参数地最大似然估计值称为参数地最大似然估计量一般, 可由下式求得似然方程或1 1设X 地密度(或分布律)为则似然函数为似然方程组解方程组求得地最大ꢀ注2似然估计用上述方法求参数地最大似然估计值有时行不通,这时要用最大似然原则来求.不可导无驻点01 最大似然估计法02 典型例题设总体X地概率密度为是总体X地一个简单样本,是未知参数,求地最大似然估计.解似然函数地最大似然估计解得是来自X地一个样本值,试求参数p与EX 地最大似然估计.解 X地分布律为:故似然函数为如何求EX地令最大似然估计解得p地最大似然估计设是来自X地一个样本值,试求参数p与EX 地最大似然估计.P地最大似然估计如何求EX 地最大似然估计因为 ,故EX地最大似然估计为最大似然估计不变性若是地最大似然估计,则也是地最大似然估计设总体 X ~ N ( , 2), x , x , … , x 是 X 地样本值, 1 2n 求 , 2 地最大似然估计.解似然方程组为设某种元件使用寿命X 地概率密度为其中是未知参数.设是样本观测值,求地最大似然估计.解似然函数为取对数得因为,所以单调增加,而设某工厂生产地手机屏幕分为不同地等级,其中一级品率为p,如果从生产线上抽取了20件产品,发现其其中有3件为一级品,求:(1)p地最大似然估计;(2)接着再抽5件产品都不是一级地概率地最大似然估计.解(1)因为每件产品有两种可能:要么是一级品,要么不是一级品,所以总体X服从(0-1)分布,其分布律为20件产品中有3件为一级品,相当于样本观测值中有3个为1,17个为0,故似然函数为对p求导数解得p地最大似然估计为(2)因为一级品率为p,所以再抽5件产品都不是一级品地概率应该为 .既然20件产品中有3件为一级品,此时得到地p最大似然估计为 .那么地最大似然估计为概率论与数理统计学海无涯,祝你成功!。
概率论与数理统计教材第六章习题

X σ0 n
~ N(0,1)
对于置信水平1- ,总体均值的置信区间为 对于置信水平 -α,总体均值 的置信区间为
X
σ0
n
uα < < X +
2
σ0
n
uα
2
(2)设总体 ~ N(,σ 2 ), 未知 ,求的置信区间。 设总体X~ 未知σ, 的置信区间。 设总体 的置信区间
σ 0 ,则样本函数 t = X ~ t(n 1) 用 S 代替 S n
i =1
n1
n1
F
1
α ∑ Yj 2
2 j =1
n2
(
)
2
n2
10
2 2 及 (1)设两个总体 ~ N(1,σ1 ) 及Y~ N(2 ,σ 2 ), 未知 1 2, )设两个总体X~ ~
2 σ1 的置信区间。 求 2 的置信区间。 σ2
选取样本函数 选取样本函数
2 2 S1 σ1 F = 2 2 ~ F(n1 1, n2 1) S2 σ2
∑x
i =1
n
i =1
i
n = 0.
1 p
得 p 的极大似然估计值为 p =
n
∑x
i =1
n
1 = x
i
12
1 θ 2. 设总体 服从拉普拉斯分布:f ( x;θ ) = e ,∞< x < +∞, 设总体X 服从拉普拉斯分布: 2θ 求参数 θ 其中 > 0. 如果取得样本观测值为 x1 , x2 ,L, xn , 求参数θ
第六章 参数估计
(一)基本内容
一、参数估计的概念 1 定义:取样本的一个函数θ ( X 1 , X 2 ,L , X n ), 如果以它的观测 定义:
概率论与数理统计应用_参数估计_

第7章 参数估计
7.2 估计量的评选标准
授课教师:李林杉 副教授
估计量的评选标准
由前面的学习知道, 对于同一个参数,用不同的估计方法求出的估计量可能不相同,对 不同的样本值也会得到不同的估计值,原则上任何统计量都可以作为未知参数的估计量.
问题 (1)对于同一个参数究竟采用哪一个估计量好? (2)评价估计量的标准是什么?
D(1 6
X1
5 6
X
3)
1 36
D
X1
25 36
D
X
2
13 ቤተ መጻሕፍቲ ባይዱ8
因为 13 18
5 ,所以估计量 9
ˆ1
2 3
X1
1 3
X 2 更有效.
估计量的评选标准
三、相合性
我们不仅希望一个估计量是无偏的,并且具有较小的方差,还希望当样本容量n 增大时,估计量能充分地接近于未知参数的真值, 因此就引出相合性(一致性)的 评价标准.
解
的矩估计量和极大似然估计量都是 X
1 n
n i 1
Xi
.
的估计值都是 ˆ x 1200
估计值与真值的误差?(精度) 点估计可信程度有多大?(可信度)
区间估计
二、置信区间
定义 设总体X 的分布函数F(x,θ)含有一个未知参数θ. X1, X 2, , X n 为总体的样本, 对于给定值α( 0<α<1), 若能确定两个统计量
( X1, X 2, , X n ), ( X1, X 2, , X n ) 满足: P{ } 1
则称随机区间 , 是θ 的置信度为1 的置信区间,
——置信下限, ——置信上限, 置信度1 ——称为置信水平.
概率论与数理统计公式

概率论与数理统计公式概率论是一门研究随机现象规律的数学学科,是现代数学的基础之一、而数理统计则是利用概率论的工具和方法,分析和处理统计数据,从而得出推断、估计、决策等信息的科学。
在概率论与数理统计的学习过程中,掌握一些重要的公式是非常关键的。
下面是一些概率论与数理统计中常用的公式:1.概率公式:-加法公式:P(A∪B)=P(A)+P(B)-P(A∩B)-乘法公式:P(A∩B)=P(A)*P(B,A)-条件概率公式:P(A,B)=P(A∩B)/P(B)2.期望与方差公式:-期望:E(X)=∑(x*P(X=x))- 方差:Var(X) = E((X-μ)^2) = ∑((x-μ)^2 * P(X=x))3.常用概率分布及其特征:-二项分布:P(X=k)=C(n,k)*p^k*(1-p)^(n-k)-泊松分布:P(X=k)=(λ^k*e^(-λ))/k!-正态分布:f(x)=(1/(σ*√(2π)))*e^(-((x-μ)^2)/(2*σ^2))4.样本与总体统计量公式:-样本均值:x̄=(∑x)/n-样本方差:s^2=(∑(x-x̄)^2)/(n-1)-样本标准差:s=√(s^2)5.参数估计公式:-点估计:-总体均值估计:μ的点估计为x̄-总体方差估计:σ^2的点估计为s^2-区间估计:-总体均值的置信区间:x̄±Z*(σ/√n)-总体比例的置信区间:p±Z*√((p*(1-p))/n)6.假设检验公式:-均值检验:-单样本均值检验:t=(x̄-μ0)/(s/√n)-双样本均值检验:t=(x̄1-x̄2)/√((s1^2/n1)+(s2^2/n2))-比例检验:-单样本比例检验:z=(p-p0)/√((p0*(1-p0))/n)-双样本比例检验:z=(p1-p2)/√((p*(1-p))*((1/n1)+(1/n2)))以上是概率论与数理统计中一些常用的公式,这些公式为解决问题提供了有力的工具和方法。
《概率论与数理统计》学习笔记十一

σ 2 = S2 =
2 1 n Xi − X ) ( ∑ n i =1
n −1 2 ⎛ n −1 2 ⎞ n −1 S ⎟= E (S2 ) = 由于 E σ 2 = E S 2 = E ⎜ σ , n n ⎝ n ⎠
n 3 ⎡ X 2 − nX 2 ⎤ ∑ i ⎥ n⎢ ⎣ i =1 ⎦
3 ( X − X )2 i n∑ i =1
n
在总体 X 为离散型随机变量情形, 求未知参数 θ 的矩估计量的方法和连续型 情形完全相同。 极大似然估计法 直观想法:概率最大的事件最可能出现。 设总体 X 为连续型随机变量,具有密度函数 f ( x;θ ) ,其中 θ 是待估未知参 数,又设 ( x1 ,L , xn ) 是样本 ( X 1 ,L , X n ) 的一个观测值,则样本 ( X 1 ,L , X n ) 落在观
n
(1)
ˆr , 把上式中的 α r 都换成相应的样本矩 M r = 1 ∑ X ir ,便得到参数 θ r 的矩估计量 θ n i =1
概率论与数理统计—学习笔记十一
即
θˆr = hr ( M 1 ,L , M k ) , r = 1, 2,L , k .
(2)
这种求估计量的方法称为矩估计法(简称矩法) ,由矩估计法得出的估计量称为 矩估计量。 例1 设总体 X 在 [ a, b ] 上服从均匀分布,a,b 未知, X 1 ,L , X n 是总体 X 的 一个样本,试求 a,b 矩估计量。 解 X 的概率密度为 1 , a≤ x≤b ⎧ ⎪ f ( x; a, b ) = ⎨ b − a ⎪ 其它 ⎩ 0,
上节介绍了总体参数的常用点估计方法,对同一参数用不同的估计方法可能 得到不同的估计量,哪个估计量更好些呢?下面给出几种评选估计量好坏的标 准。 无偏估计 估计量是样本的函数,是随机变量,对不同的样本观测值,它有不同的估计 值,我们希望估计量的取值在未知参数真值附近摆动,即希望估计量的数学期望 等于未知参数的真值,这就是无偏性的概念。 定义 设 θˆ ( X 1 ,L , X n ) 是未知参数 θ 的估计量,若
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第六章 参数估计在实际问题中, 当所研究的总体分布类型已知, 但分布中含有一个或多个未知参数时, 如何根据样本来估计未知参数,这就是参数估计问题.参数估计问题分为点估计问题与区间估计问题两类. 所谓点估计就是用某一个函数值作为总体未知参数的估计值;区间估计就是对于未知参数给出一个范围,并且在一定的可靠度下使这个范围包含未知参数.例如, 灯泡的寿命X 是一个总体, 根据实际经验知道, X 服从),(2σμN , 但对每一批灯泡而言, 参数2,σμ是未知的,要写出具体的分布函数, 就必须确定出参数. 此类问题就属于参数估计问题.参数估计问题的一般提法:设有一个统计总体, 总体的分布函数为),(θx F , 其中θ为未知参数(θ可以是向量). 现从该总体中随机地抽样, 得一样本n X X X ,,,21 ,再依据该样本对参数θ作出估计, 或估计参数θ的某已知函数).(θg第一节 点估计问题概述内容分布图示★ 引言★ 点估计的概念 ★ 例1★ 评价估计量的标准★ 无偏性 ★ 例2 ★ 例3★ 有效性★ 例4 ★ 例5 ★ 例6★ 相合性 ★ 例7 ★ 例8★ 内容小结 ★ 课堂练习 ★ 习题6-1 ★ 返回内容要点:一、点估计的概念设n X X X ,,,21 是取自总体X 的一个样本, n x x x ,,,21 是相应的一个样本值. θ是总体分布中的未知参数, 为估计未知参数θ, 需构造一个适当的统计量),,,,(ˆ21nX X X θ然后用其观察值),,,(ˆ21nx x x θ 来估计θ的值.称),,,(ˆ21n X X X θ为θ的估计量. 称),,,(ˆ21nx x x θ为θ的估计值. 在不致混淆的情况下, 估计量与估计值统称为点估计,简称为估计, 并简记为θˆ.注: 估计量),,,(ˆ21nX X X θ是一个随机变量, 是样本的函数,即是一个统计量, 对不同的样本值, θ的估计值θˆ一般是不同的.二、评价估计量的标准从例1可见,参数点估计的概念相当宽松, 对同一参数,可用不同的方法来估计, 因而得到不同的估计量, 故有必要建立一些评价估计量好坏的标准.估计量的评价一般有三条标准:1. 无偏性;2. 有效性;3. 相合性(一致性).在本节的后面将逐一介绍之.在具体介绍估计量的评价标准之前, 需指出: 评价一个估计量的好坏, 不能仅仅依据一次试验的结果, 而必须由多次试验结果来衡量. 因为估计量是样本的函数, 是随机变量. 故由不同的观测结果, 就会求得不同的参数估计值. 因此一个好的估计, 应在多次重复试验中体现出其优良性.1.无偏性估计量是随机变量, 对于不同的样本值会得到不同的估计值. 一个自然的要求是希望估计值在未知参数真值的附近, 不要偏高也不要偏低. 由此引入无偏性标准.定义1 设),,(ˆ1nX X θ是未知参数θ的估计量, 若 ,)ˆ(θθ=E 则称θˆ为θ的无偏估计量.注: 无偏性是对估计量的一个常见而重要的要求, 其实际意义是指估计量没有系统偏差,只有随机偏差. 在科学技术中, 称θθ-)ˆ(E 为用θˆ估计θ而产生的系统误差.例如, 用样本均值作为总体均值的估计时, 虽无法说明一次估计所产生的偏差, 但这种偏差随机地在0的周围波动,对同一统计问题大量重要使用不会产生系统偏差. 对一般总体而言,我们有定理1 设n X X ,,1 为取自总体X 的样本,总体X 的均值为μ, 方差为2σ.则(1) 样本均值X 是μ的无偏估计量;(2) 样本方差2S 是2σ的无偏估计量;(3) 样本二阶中心矩∑=-ni i X X n 12)(1是2σ的有偏估计量.2.有效性一个参数θ常有多个无偏估计量,在这些估计量中,自然应选用对θ的偏离程度较小的为好,即一个较好的估计量的方差应该较小.由此引入评选估计量的另一标准—有效性.定义2 设),,(ˆˆ111n X X θθ=和),,(ˆˆ122nX X θθ=都是参数θ的无偏估计量, 若 )ˆ()ˆ(21θθD D <, 则称1ˆθ较2ˆθ有效.注: 在数理统计中常用到最小方差无偏估计, 其定义如下:设n X X ,,1 是取自总体X 的一个样本, ),,(ˆ1nX X θ是未知参数θ的一个估计量, 若θˆ满足:(1) ,)ˆ(θθ=E 即θˆ为θ的无偏估计; (2) ),ˆ()ˆ(*≤θθE *θˆ是θ的任一无偏估计. 则称θˆ为θ的最小方差无偏估计(也称最佳无偏估计).3.相合性(一致性)我们不仅希望一个估计量是无偏的, 并且具有较小的方差, 还希望当样本容量无限增大时, 估计量能在某种意义下任意接近未知参数的真值, 由此引入相合性(一致性)的评价标准.定义 3 设),,(ˆˆ1nX X θθ=为未知参数θ的估计量, 若θˆ依概率收敛于θ, 即对任意0>ε, 有,1}|ˆ{|lim =<-∞→εθθP n 或,0}|ˆ{|lim =≥-∞→εθθP n 则称θˆ为θ的(弱)相合估计量.例题选讲:点估计的概念例1 (讲义例1)设X 表示某种型号的电子元件的寿命(以小时计),它服从指数分布:⎪⎩⎪⎨⎧≤>=-.0,00,1),(~/x x e x f X x θθθθ为未知参数, 0>θ. 现得样本值为168, 130, 169, 143, 174, 198, 108, 212, 252,试估计未知参数θ.评价估计量的标准例2(讲义例2)设总体),0(~2σN X ,n x x x ,,,21 是来自这一总体的样本. (1) 证明∑==n i i x n 1221ˆσ是2σ的无偏估计; (2) 求).ˆ(2σD 例3(讲义例3)设n X X X ,,,21 是总体),(2σμN 的一个简单随机样本. 求k 使∑∑==-=ni nj j i X X k 11||ˆσ为σ的无偏估计.例4(讲义例4)设n X X X ,,,21 为来自总体X 的样本, ,),,2,1(n i X i =均为总体均值μ=)(X E 的无偏估计量, 问哪一个估计量有效?例5(讲义例5)设总体X 在区间],0[θ上服从均匀分布, n X X X ,,,21 是取自总体X 的简单随机样本, ,11∑==n i i X n X ).,,m ax(1)(n n X X X = 求常数,,b a 使)(21ˆ,ˆn bX X a ==θθ均为θ的无偏估计, 并比较其有效性.例6(讲义例6)设分别自总体),(21σμN 和),(22σμN 中抽取容量为21,n n 的两独立样本.其样本方差分别为2221,S S . 试证, 对于任意常数2221),1(,bS aS Z b a b a +==+都是2σ的无偏估计, 并确定常数b a ,使)(Z D 达到最小.例7(讲义例7)设n X X ,,1 是取自总体X 的样本, 且)(k X D 存在, .,,2,1n k = 则∑=n i ki X n 11为)(k X E 的相合估计量, .,,2,1n k = 例8(讲义例8)设总体),(~2σμN X ,n X X ,,1 为其样本. 试证样本方差2S 是2σ的相合估计量.课堂练习1. 设总体X 的k 阶矩)1)((≥=k X E k k μ存在, 又设n X X X ,,,21 是X 的一个样本. 试证明不论总体服从什么分布, k 阶样本矩∑==n i ki k X n A 11是k 阶总体矩k μ的无偏估计量.2.证明本节例5中21ˆ,ˆθθ均为θ的相合性估计.第二节 点估计的常用方法内容分布图示★ 矩估计法 ★ 求矩估计的方法★ 例1 ★ 例2 ★ 例3 ★ 例4★ 最大似然估计法★ 求最大似然估计的一般方法★ 例5 ★ 例6 ★ 例7 ★ 例8★ 关于有k 个未知参数的最大似然估计 ★ 内容小结 ★ 课堂练习★ 习题6-2 ★ 返回内容要点:一、矩估计法矩估计法的基本思想是用样本矩估计总体矩. 因为由在数定理知, 当总体的k 阶矩存在时,样本的k 阶矩依概率收敛于总体的k 阶矩.例如, 可用样本均值X 作为总体均值)(X E 的估计量, 一般地, 记总体k 阶矩 );(k k X E =μ样本k 阶矩 ∑==n i ki k X n A 11;总体k 阶中心矩 ;)]([k k X E X E V -= 样本k 阶中心矩 .)(11∑=-=ni k i k X X n B用相应的样本矩去估计总体矩的方法就称为矩估计法. 用矩估计法确定的估计量称为矩估计量. 相应的估计值称为据估计值. 矩估计量与矩估计值统称为矩估计. 求矩估计的方法:设总体X 的分布函数),,;(1k x F θθ 中含有k 个未知参数k θθ,,1 , 则(1) 求总体X 的前k 阶矩k μμ,,1 ,一般都是这k 个未知参数的函数, 记为k i g k i i ,,2,1),,,(1 ==θθμ (*)(2) 从(*)中解得 k j h k j j ,,2,1),,,(1 ==μμθ(3) 再用),,2,1(k i i =μ的估计量i A 分别代替上式中的i μ,即可得),,2,1(k i j =θ的矩估计量:.,,2,1),,,(ˆ1k j A A h kj j ==θ注:求,,,1k V V 类似于上述步骤,最后用k B B ,,1⋅⋅⋅代替k V V ,,1 ,求出矩估计jθˆ ),,2,1(k I ⋅⋅⋅=。
二、最大似然估计法引例 某同学与一位猎人一起去打猎,一只野兔从前方窜过, 只听一声枪响, 野兔应声倒下, 试猜测是谁打中的?由于只发一枪便打中,而猎人命中的概率一般大于这位同学命中的概率, 故一般会猜测这一枪是猎人射中的.最大似然估计法的思想: 在已经得到实验结果的情况下, 应该寻找使这个结果出现的可能性最大的那个θ作为θ的估计θˆ.注: 最大似然估计法首先由德国数学家高斯于1821年提出, 英国统计学家费歇于1922年重新发现并作了进一步的研究.下面分别就离散型总体和连续型总体情形作具体讨论. 离散型总体的情形: 设总体X 的概率分布为),,(}{θx p x X P ==其中θ为未知参数. 如果n X X X ,,,21 是取自总体X 的样本,样本的观察值为n x x x ,,,21 ,则样本的联合分布律,),(},,,{111∏====ni i n n x p x X x X P θ对确定的样本观察值n x x x ,,,21 ,它是未知参数θ的函数, 记为∏===ni i n x f x x x L L 121),(),,,,()(θθθ ,并称其为似然函数.连续型总体的情形: 设总体X 的概率密度为),(θx f ,其中θ为未知参数,此时定义似然函数∏===ni i n x f x x x L L 121),(),,,,()(θθθ .似然函数)(θL 的值的大小意味着该样本值出现的可能性的大小, 在已得到样本值nx x x ,,,21的情况下, 则应该选择使)(θL 达到最大值的那个θ作为θ的估计θˆ. 这种求点估计的方法称为最大似然估计法.定义 若对任意给定的样本值n x x x ,,,21 , 存在),,,(ˆˆ21nx x x θθ=, 使 ),(m ax )ˆ(θθθL L = 则称),,,(ˆˆ21nx x x θθ=为θ的最大似然估计值.称相应的统计量),,,(ˆ21n X X X θ为θ最大似然估计量. 它们统称为θ的最大似然估计(MLE ).三、求最大似然估计的一般方法求未知参数θ的最大似然估计问题, 归结为求似然函数)(θL 的最大值点的问题. 当似然函数关于未知参数可微时, 可利用微分学中求最大值的方法求之. 其主要步骤:(1) 写出似然函数),,,,()(21θθn x x x L L =;(2) 令0)(=θθd dL 或0)(ln =θθd L d , 求出驻点;注: 因函数L ln 是L 的单调增加函数,且函数)(ln θL 与函数)(θL 有相同的极值点,故常转化为求函数)(ln θL 的最大值点较方便.(3) 判断并求出最大值点, 在最大值点的表达式中, 用样本值代入就得参数的最大似然估计值.注:(i) 当似然函数关于未知参数不可微时,只能按最大似然估计法的基本思想求出最大值点。