第三章参数估计

§3.1 求点估计量的方法
设总X体的分布函 F(数 x,)或概率函 P(x数 ,)的 数学表达式为已中知 x为，随其机变 X的 量观测 值， 为总体的未知参 的数 取， 值范围， 记为 即，称 为参数空间。
定义1：设X1, X2, , Xn是总体 X的样本，为总体的未知参数
构造统计T量(X1, X2, , Xn)，对于样本观(测x1,值x2, , xn)，若将统计量的观T测 (x1,值x2, , xn)作为未知 参数的值，则T称(x1, x2, , xn)为的估计值，而统 量T(X1, X2, , Xn)称为的估计量。
第三章 参数估计
统计推断：根据样本推断总体分布或分布的数字特征。
参数估计：总体的分布函数或概率函数的数学表达式 为已知，但它的某些参数（总体的数字特 征也作为参数）却未知，我们对未知参数 或未知参数的函数进行估计。
主要内容： 点估计量的方法
矩估计法 极大似然法 顺序统计量法 估计量的评选标准
无偏性 有效性 相合性 一致最小方差无偏估计 区间估计
解 。律
P {X x } p x (1 p )1 x , x 0 ,1 ;
故似然函数为
n
n
n
xi
n xi
L (p) pxi(1p)1xi pi1 (1p) i1 ,
i1
n
n
而 ln L (p ) ( x i)ln p (n x i)ln 1 p ().
解得 aˆ： A2
3(A2A12)X
3n ni1(Xi
X)2
bˆA1
3(A2A12)X
3n ni1(Xi
X)2
n 1i n1Xi2X2n 1i n1(XiX)2
返回主目录
二、极大似然估计
原理： 当试验中得到一个结果时，哪个 值使得这 个结果的出现具有最大概率就应该取哪个值 作为 的估计值。
f (x)
x 1
0
0 x1 其他
其中0未知, X1, , Xn是一个样.本
求： 的矩估计量。
解1 ： E X0 1xx1d x
令
1n
1A1ni1Xi X
1
解得
ˆ
1
X X
2
为的矩估计.量 返回主目录
例 2:设总 X~U 体 [a,b]a ,,b未知 X1, ； ,Xn
是一个 求：样 a, b的本 矩估计； 量。
n
L ()L (x 1, ,x n ;) p (x i;), i 1
20 求似然函L数 ()的最大值点 :
令
dL() 0. d
或 ddlnL()0.
解之 的 得极大似ˆ然 ˆ(估 x1,计 ,xn)值 .
返回主目录
若母体的分布中 个包 参含 数 1,多,l， 则 样 本 的似 然 函 数 为 ：
n
i
存在。
样本的k阶原点矩为
Ak
1 n
n i1
Xik
(k1,,l.)
原理： 经验分布函数一致收敛于总体分布函数，样本 的k阶原点矩一致收敛于总体的k阶原点矩。
矩估计法（矩法）： 用样本各阶原点矩的函数来估计
总体各阶原点矩同一函数的方法，相应的估计 量称为矩估计量。
QQ (E,X E2 X ,,ElX ) Q ˆQ (A 1,A 2,,A l)
则 ˆ 1 ˆ 1 ( A 1 , ,A l) T 1 ( X 1 , ,X n )
ˆl ˆl( A 1 , ,A l) T l( X 1 , ,X n )
分别1为 ， ，l的矩估.计量
ˆk T k (x 1 , ,x n )k , 1 ,2 , ,l,
分别1为 ， ，l的矩估.计值
例1: 设总体X的概率密度为
一、矩法估计
设 总X体为 连 续 型 随 机 变概量率，密其度 为
f(x;1,,l ), 总 体X为 离 散 型 随 机 变分量布，列其为
P{X x} p(x;1,,l ),
设总体X的k阶原点矩
k EXk
(k 1,2, ,l)
xk
f
( x;1 ,
, l
)dx
或 xik p(xi;1, ,l )
设 总X体 的 分 布 函F数 (x;为 1,,l)或 概 率 函 数 为P(x;1,,l)， 有 l个 不 同 的 未 知要 参由 数 ， 样 本 建l个立不 带 任 何 未统 知计 参量 数 的
T i(X 1 , ,X n ) i 1 ,2 , ,l
把它们分别作 l个为 未这 知参数的估计量
ˆi T i(X 1 , ,X n ) i 1 ,2 , ,l
n
L ( ˆ1,, ˆl)supp(xi;1,,l), i1
则称 ˆk k(X1,,Xn)为k的极大似然估
若参 1,数 ,l的已知实函待 数估 （函 简数 称 uu(1,,l)
则u 称 ˆu(ˆ1,,ˆl)为 u(1,,l)的 极 大 似 然
极大似然估计 法的具体做法如下： 10 写出似然函:数
L ( 1, ,l) p(xi; 1, ,l), i 1
即 可 L 0 ,i令 1 , ,l.或 ln L 0 ,i 1 , ,l.
i
i
解l个方程组 1,求 ,得 l的极大似然估计
返回主目录
例 3:设 X~B(1,p);X1,,Xn是 来 X的 自一 个 样 试求参数p的极大似然估计量。
矩 估 计 法的 具 体 做 法 如 下 ：
1 0 求出 X 的 k 阶 总 原 k 体 E 点 k( X k 1 ,2 矩 , ,l)
设 1 ： 1 ( 1 , , l),
l l( 1 , , l),
20 解上面方程组得：
11( 1,,l)
l l(1,,l)
30 以 Ak分别代替上 （ k k式 1,中 2,,的 l)，
概率最大的事件最可能发生
极大似然估计法：
设 p(x;1,,l)为总 X的 体概率函数 (1， ,,其 l) 是未知参数， 是 l维 参的 数 X1,， 空 ,Xn为 间 X的样 称样本的联合概率函数
n
L(1,,l) p(xi;1,,l) i1
为 1,,l的似然 ˆ函 1,, ˆ数 l使； 得若 下式
解： 2 1 E E X 2 aX D 2b, (E X ) 2 X ( b 1 a ) 2 2 ( a 4 b ) 2
令a 2bA1n 1i n1Xi X (b 1a)22(a 4b)2A 2n 1i n1Xi2
返回主目录
例 2（续）
即 a b 2 A 1 , b a 1(A 2 2 A 1 2 )