6 常用统计分布与参数估计
统计学中的参数估计方法
统计学中的参数估计方法统计学中的参数估计方法是研究样本统计量与总体参数之间关系的重要工具。
通过参数估计方法，可以根据样本数据推断总体参数的取值范围，并对统计推断的可靠性进行评估。
本文将介绍几种常用的参数估计方法及其应用。
一、点估计方法点估计方法是指通过样本数据来估计总体参数的具体取值。
最常用的点估计方法是最大似然估计和矩估计。
1. 最大似然估计（Maximum Likelihood Estimation）最大似然估计是指在给定样本的条件下，寻找最大化样本观察值发生的可能性的参数值。
它假设样本是独立同分布的，并假设总体参数的取值满足某种分布。
最大似然估计可以通过求解似然函数的最大值来得到参数的估计值。
2. 矩估计（Method of Moments）矩估计是指利用样本矩与总体矩的对应关系来估计总体参数。
矩估计方法假设总体参数可以通过样本矩的函数来表示，并通过求解总体矩与样本矩的关系式来得到参数的估计值。
二、区间估计方法区间估计是指根据样本数据来估计总体参数的取值范围。
常见的区间估计方法有置信区间估计和预测区间估计。
1. 置信区间估计（Confidence Interval Estimation）置信区间估计是指通过样本数据估计总体参数，并给出一个区间，该区间包含总体参数的真值的概率为预先设定的置信水平。
置信区间估计通常使用标准正态分布、t分布、卡方分布等作为抽样分布进行计算。
2. 预测区间估计（Prediction Interval Estimation）预测区间估计是指根据样本数据估计出的总体参数，并给出一个区间，该区间包含未来单个观测值的概率为预先设定的置信水平。
预测区间估计在预测和判断未来观测值时具有重要的应用价值。
三、贝叶斯估计方法贝叶斯估计方法是一种基于贝叶斯定理的统计推断方法。
贝叶斯估计将先验知识与样本数据相结合，通过计算后验概率分布来估计总体参数的取值。
贝叶斯估计方法的关键是设定先验分布和寻找后验分布。
6sigma统计基础(Fysip)
等)、水文气象(年最高气温、雨量、水位、
② P(X>180) = 1-0.9854 = 0.0146
风速波高)等
③ P(160≤X≤180) = 0.9854-0.0729 = 0.9125
峰度：分布平坦性的度量
=
(−)4
4
- 3 参考样本峰度
V()
1
=
=
1
V( (1 +
2
1
2)
(n
2
2 + ⋯ + ))
2
=
参考中心极限定理
n
随机变量的标准差，正态分布曲线
① V(C) = 0
拐点到中心线的距离 = ()
② V(aX) = 2 V(X)
③ X1和X2相互独立时，V(aX1±2) =
2 V(X1) + 2 V(X2)
1
− 1 +
ν+1
1
2 ∗ 1 ∗
ν
2
2
1+
2
2
2
2+ ( − 1)
1
+1
2
2
− 1 +
2
1
− 2 1 +
期望0，方差
−2
ν1
ν1−ν2
ν1+ν2
2
2
2
∗ ν1
∗
ν1 +2 ν2
ν2
•X3k+2 + 0.25 (X3k+2 – X3k+1) = 32.25(n = 40+2)
第六章参数估计
113第六章 参数估计一、 知识点1. 点估计的基本概念2. 点估计的常用方法(1) 矩估计法① 基本思想：以样本矩作为相应的总体矩的估计，以样本矩的函数作为相应的总体矩的同一函数的估计。
(2) 极大似然估计法设总体X 的分布形式已知，其中),,,(21k θθθθΛ=为未知参数，),,(21n X X X Λ为简单随机样本，相应的),,,(21n x x x Λ为它的一组观测值．极大似然估计法的步骤如下：① 按总体X 的分布律或概率密度写出似然函数∏==ni i n x p x x x L 121);();,,,(θθΛ （离散型）∏==ni i n x f x x x L 121);();,,,(θθΛ （连续型）若有),,,(ˆ21nx x x Λθ使得);,,,(max )ˆ;,,,(2121θθθn n x x x L x x x L ΛΛΘ∈=，则称这个θˆ为参数θ的极大似然估计值。
称统计量),,,(ˆ21nX X X Λθ为参数θ的极大似然估计量。
② 通常似然函数是l θ的可微函数，利用高等数学知识在k θθθ,,,21Λ可能的取值范围内求出参数的极大似然估计k l x x x nl l ,,2,1),,,,(ˆˆ21ΛΛ==θθ 将i x 换成i X 得到相应的极大似然估计量k l X X X nl l ,,2,1),,,,(ˆˆ21ΛΛ==θθ 注：当);,,,(21θn x x x L Λ不可微时，求似然函数的最大值要从定义出发。
3. 估计量的评选标准(1) 无偏性：设),,(ˆˆ21nX X X Λθθ=是参数θ的估计量，如果θθ=)ˆ(E ，则称θˆ为θ的无偏估计量。
(2) 有效性：设1ˆθ，2ˆθ是θ的两个无偏估计，如果)ˆ()ˆ(21θθD D ≤，则称1ˆθ较2ˆθ更有效。
4. 区间估计114 (1) 定义 设总体X 的分布函数族为{}Θ∈θθ),;(x F ．对于给定值)10(<<αα，如果有两个统计量),,(ˆˆ111n X X Λθθ=和),,(ˆˆ122n X X Λθθ=，使得{}αθθθ-≥<<1ˆˆ21P 对一切Θ∈θ成立，则称随机区间)ˆ,ˆ(21θθ是θ的双侧α-1置信区间，称α-1为置信度；分别称1ˆθ和2ˆθ为双侧置信下限和双侧置信上限． (2) 单侧置信区间(3) 一个正态总体下未知参数的双侧置信区间（置信度为α-1）二、 习题 1. 选择题(1) 设n X X X ,,,21Λ是来自总体X 的一个样本，则以下统计量①)(211n X X + ②)2(14321n X X X X X n ++++-Λ ③)2332(101121n n X X X X +++-作为总体均值μ的估计量，其中是μ的无偏估计的个数是A.0B.1C.2D.3(2) 设321,,X X X 是来自正态总体)1,(μN 的样本，现有μ的三个无偏估计量321332123211216131ˆ;1254131ˆ;2110351ˆX X X X X X X X X ++=++=++=μμμ其中方差最小的估计量是A.1ˆμB.2ˆμC. 3ˆμD.以上都不是 (3) 设0,1,0,1,1为来自0-1分布总体B(1,p)的样本观察值，则p 的矩估计值为 。
统计学 第 6 章 抽样与参数估计
第6章抽样与参数估计第6章抽样与参数估计6.1抽样与抽样分布6.2参数估计的基本方法6.3总体均值的区间估计6.4总体比例的区间估计6.5样本容量的确定学习目标理解抽样方法与抽样分布估计量与估计值的概念点估计与区间估计的区别评价估计量优良性的标准总体均值的区间估计方法总体比例的区间估计方法样本容量的确定方法参数估计在统计方法中的地位统计推断的过程6.1抽样与抽样分布什么是抽样推断概率捕样方法抽样分布抽样方法抽样方法概率抽样(probabilitysampling)也称随机抽样特点按一定的概率以随机原则抽取样本抽取样本时使每个单位都有一定的机会被抽中每个单位被抽中的概率是已知的，或是可以计算出来的当用样本对总体目标量进行估计时，要考虑到每个样本单位被抽中的概率简单随机抽样(simplerandomsampling)从总体N个单位中随机地抽取n个单位作为样本，每个单位入抽样本的概率是相等的最基本的抽样方法，是其它抽样方法的基础特点简单、直观，在抽样框完整时，可直接从中抽取样本用样本统计量对目标量进行估计比较方便局限性当N很大时，不易构造抽样框抽出的单位很分散，给实施调查增加了困难没有利用其它辅助信息以提高估计的效率分层抽样(stratifiedsampling)将抽样单位按某种特征或某种规则划分为不同的层，然后从不同的层中独立、随机地抽取样本优点保证样本的结构与总体的结构比较相近，从而提高估计的精度组织实施调查方便既可以对总体参数进行估计，也可以对各层的目标量进行估计系统抽样(systematicsainplmg)将总体中的所有单位(抽样单位)按一定顺序排列，在规定的范闱内随机地抽取一个单位作为初始单位，然后按爭先规定好的规则确定其它样本单位先从数字1到k之间随机抽取一个数字r作为初始单位，以后依次取r+k,r+2k…等单位优点：操作简便，可提高估计的精度缺点：对估计量方差的估计比较困难整群抽样(clustersampling)将总体中若干个单位合并为组(群)，抽样时直接抽取群，然后对中选群中的所有单位全部实施调查特点抽样时只需群的抽样框，可简化工作量调查的地点相对集中，节省调查费用，方便调查的实施缺点是估计的精度较差抽样分布总体中各元素的观察值所形成的分布分布通常是未知的可以假定它服从某种分布总体分布(populationdistribution)一个样本中各观察值的分布也称经验分布当样本容屋n逐渐增大时，样本分布逐渐接近总体的分布样本分布(sampledistribution)抽样分布的概念(samplingdistribution)抽样分布是指样本统计屋的分布，即把某种样本统计量看作一个随机变量，这个随机变屋的全部可能值构成的新的总体所形成的分布即为某种统计量的抽样分布.统计量:样本均值，样本比例，样本方差等样本统计量的概率分布是一种理论概率分布随机变量是样本统计量样本均值，样本比例，样本方差等结果来自容量相同的所有可能样本提供了样本统计量长远稳定的信息，是进行推断的理论基础，也是抽样推断科学性的重要依据对抽样分布的理解抽样分布:即不是总体分布，也不是样本分布，是根据所有可能样本计算的统计量的全部可能取值形成的分布样本均值的抽样分布容量相同的所有町能样本的样本均值的概率分布一种理论概率分布进行推断总体均值的理论基础样本均值的抽样分布样本均值的抽样分布（例题分析）【例】设一个总体，含有4个元素（个体），即总体单位数N=4。
统计分布计算随机变量的统计分布和参数估计
统计分布计算随机变量的统计分布和参数估计统计分布计算是一种重要的数学工具，用于描述和分析随机变量的特征。
通过统计分布的计算，我们可以了解随机变量可能的取值范围、出现的概率以及其他相关特征。
同时，参数估计则是在已知一组观测数据的情况下，根据统计模型的假设来推断未知参数的值。
本文将详细介绍统计分布的计算方法和参数估计的原理与应用。
一、统计分布计算1. 离散型随机变量的统计分布离散型随机变量是在一组有限或可列的值中取值的随机变量。
对于离散型随机变量，我们可以通过概率质量函数（Probability Mass Function, PMF）来描述其取值的概率分布。
概率质量函数通过为每个可能的取值分配一个概率值来表示随机变量的分布情况。
以二项分布为例，二项分布是一种描述相互独立的伯努利试验结果的离散型随机变量，在多次独立重复实验中，成功次数的分布满足二项分布。
二项分布的概率质量函数可以表示为：P(X=k) = C(n, k) * p^k * (1-p)^(n-k)其中，n表示实验的次数，k表示成功的次数，C(n, k)表示组合数。
2. 连续型随机变量的统计分布连续型随机变量是可以取任意实数值的随机变量。
对于连续型随机变量，我们使用概率密度函数（Probability Density Function, PDF）来描述其分布情况。
概率密度函数表示在某个取值范围内的概率密度。
以正态分布为例，正态分布是一种常见的连续型随机变量概率分布，其概率密度函数可以表示为：f(x) = (1/(sqrt(2*pi)*sigma)) * exp(-(x-mu)^2 / (2*sigma^2))其中，mu表示均值，sigma表示标准差。
二、参数估计参数估计是在已知一组观测数据的情况下，通过对统计模型的假设来推断未知参数的值。
参数估计有两种常用的方法：点估计和区间估计。
1. 点估计点估计是通过选择一个合适的统计量来估计未知参数的值。
统计学(李荣平)2014-5
P{t>tα(n)}= h(t;n)dt
t (n)
的数tα(n)为t(n)分布的上α分为点。 例：查表求：t0.05（8）， t0.95（8）
o
t (n)
第一节 抽样分布
（三）F 分布
设 U ~ 2(n1 ),V ~ 2(n2 ), 且设 U,V 独立，则称随机变量
F U / n1 V / n2
保证质量，规定σ≤0.6mm时，认为生产过程处于良好控制
状态。为此，每隔一定时间抽取20个零件作为一个样本，并
计算样本方差S2。若P{S2≥c } ≤0.01（此时σ=0.6mm），
则认为生产过程失去控制，必须停产检查，问：
（1）C为何值时，S2≥c的概率才小于或等于0.01？ （2）若取得的一个样本的标准差S=0.84，生产过程是
第五章 抽样分布与参数估计
主
第一节 抽样分布
要 内
第二节 参数点估计
容
第三节 区间估计
第一节 抽样分布
一、随机样本
总体与个体：试验全部可能的观测值叫总体；试验的 每一个观测值叫个体。
样本容量与样本个数：样本中包含的单位数叫样本容 量；从一个总体中可能抽取多少个样本叫样本个数。
总体容量：总体中所包含的个体数。 有限总体和无限总体：总体容量可数的称有限总体， 不可数的称无限总体。 重置抽样（重复抽样）和无重置抽样（不重复抽样）
X
1 n
n i 1
Xi
为样本均值；称统计量
S 2
1 n1
n i1
(Xi
X )2
为 样本方差 ，称统计量 S
S2
1n
( X X ) 2 为样本标准差 ；统计量
n 1 i1 i
第6章 参数估计
较 的样本容量
θ
B A
较 的样本容量
θ
ˆ θ
一致性： 一致性：
随着样本容量增大， 随着样本容量增大，估计量会越来越接近被估计 的参数。 的参数。即对任意的
→∞→ n
ε >0
，有
ˆ lim P{| θ −θ |< ε} =1
则称 θ 是参数θ的一致估计量。 ˆ 是参数θ的一致估计量。
X
µ -1.96 σx
+1.96σ µ +1.96σx
90%的样本 90%的样本 95% 的样本 99% 的样本
置信水平
1. 将构造置信区间的步骤重复很多次，置信 将构造置信区间的步骤重复很多次， 区间包含总体参数真值的次数所占的比例 称为置信水平. 称为置信水平. 2. 表示为 1 - a 是总体参数未在区间内的比例 3. a是总体参数未在区间内的比例 是总体参数未在区间内的比例 常用的置信水平值有 99%,
• 如某班级平均分数在75～85之间，置信水平是95% 如某班级平均分数在75～85之间，置信水平是95% 75 之间 95
5.1.3. 评价估计量的标准
1.无偏性： 无偏性：
ˆ ˆ 如果 E(θ ) =θ ，即估计量 θ 的数学 期望等于被估计的总体参数， 期望等于被估计的总体参数，我们称估计量
（35）4 35） （45）4.5 45） （55）5 55）
无偏性：估计量抽样分布的数学期望等于被 估计的总体参数. 估计的总体参数 .
ˆ P(θ)
偏 偏
A
B
ˆ θ
θ
样本平均数是总体平均数的无偏估 样本平均数是总体平均数的无偏估 计量。 计量。
以无偏性来评判估计量是很合理的。一 以无偏性来评判估计量是很合理的。 个好的估计量就某一个具体的估计值而言 可能不等于总体参数值， ，可能不等于总体参数值，但平均来看有 向估计的总体参数集中的趋势。 向估计的总体参数集中的趋势。
概率论与数理统计常用的统计分布
n(
)2
X
)2
概率论与数理统计i 1
抽样分布定理 最重要的总体： X ~ N (, 2 )
如何由样本 X1, X2,...X n 推断 ， 2 ？
分析：
对 ， 2 的推断是通过构造统计量实现的
（1）如何构造“好”的统计量 (X1, X2,...Xn ) （2） g(X1, X2,...Xn ) 服从什么分布？
概率论与数理统计
定理 1 设总体 X ~ N (, 2 ) ， X1, X2,...Xn 是取自 X 的一个样本， X 为该样本的样本均值，则有 （1） X ~ N(, 2 / n) （2）U X ~ N (0,1)
/ n
概率论与数理统计
本,则
设 X1, X2 ,, Xn 是来自总体 X ~ N(, 2 ) 的样
❖要求由样本构造一个以较大的概率包含真 实参数的一个范围或区间，这种带有概率 的区间称为置信区间，通过构造一个置信 区间对未知参数进行估计的方法
称为区间估计。
概率论与数理统计
设总体X的分布函数形式已知, 但它的一 个或多个参数为未知, 借助于总体X的一个样 本来估计总体未知参数的问题称为点估计问 题.
Review
F
设 U ~ 2 (n1), V ~ 2 (n2 ) ,且 U ,V 相互独立,令
F
U /n1 V /n2
称 F 服从自由度为 (n1, n2) 的 F 分布，记为 F ~ F (n1, n2).
F(n1, n2 )的上侧分位点记为F (n1, n2 )
O
F (n1 , n2)
抽样分布的途径： （1） 精确地求出抽样分布，并称相应的统
在参数估计问题中，假定总体分布 形式已知，未知的仅仅是一个或几个 参数.
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
~ N (0,1)
同理 3 4 5 6 3 4 5 6 ~ N (0, 4), 则 ~ N (0,1)
4
且
1 2
2
与
3 4 5 X 6
4
相互独立
所以(
1 2
2
)
2
(
3 4 5 6
4
) 2 ~ 2 (2)
则C1 1 2 , C2 1 4 .
2. t 分布
定义5.7
设 ~ N (0, 1), ~ 2 ( n), 且 ,
独立, 则称随机变量 T 服从自由度为 n /n
的 t 分布, 记为 T ~ t (n).
t 分布又称学生氏(Student)分布. t ( n) 分布的概率密度函数为
常用统计分布
一、常见分布 二、概率分布的分位数 三、小结
一、常见分布
1. 分布
2
定义5.6 设 1 , 2 ,......, n 相互独立，同服从 N (0, 1)
2 2 2 分布, 则称统计量 n ＝12 2 ...... n 服从自由
度为 n 的 2分布, 记为 n 2 ~ 2 ( n).
2 证明 由假设, n X i2 , 其中1 , 2 ,......, n i 1 n
独立且每个i ~ N (0,1),因而12 , 22 ,......, n2独立同分布, 且
E(i2 ) 1,
D(i2 ) 2
(i 1, 2,......, n)
2 ( n)分布的概率密度曲线如图.
2 2
2 分布的性质
性质1 ( 2 分布的可加性)
2 2 设 12 ~ 2 ( n1 ), 2 ~ 2 ( n2 ), 并且 12 , 2 独 2 立, 则 12 2 ~ 2 ( n1 n2 ).
(此性质可以推广到多个随机变量的情形)
2 n
近似
例1 设1 , 2 ,......, 6为来自正态总体N (0,1)的一组 样本, 求C1 , C2使得 Y C1 (1 2 ) 2 C2 (3 4 5 6 ) 2 服从 2分布.
解 1 2 ~ N (0, 2), 则
1 2
n
n D(T ) n2
p(t ) ，
是T的分布密度，
2 此性质说明，当 n 时，T分布的极限
分布是标准正态分布。
lim p(t )
1
e
t2 2
例2 设 ~ N ( , ), 2 ~ 2 ( n), 且 , 相互独立, 试求 T n
自由度 : 指 n 2 12 22 ...... n2 中右端包含独立 变量的个数.
定理5.4 ( n)分布的概率密度为
2
n x 1 1 2 2 x e n 2 n p( x ) 2 ( ) 2 0
x0 其它
1 1 , 分 布, 证明(略） 因 为 (1) 分 布 即 为 2 2 又因为i ~ N (0,1), 由定义 i2 ~ 2 (1),
1 因为lim h( t ) e n 2π
t2 2
,
所以当n足够大时t分布近似于N (0,1)分布,
但对于较小的n, t分布与N (0,1)分布相差很大 .
t 分布具有下列性质：
性质5.6 设 T ~ t ( n) , 则当 n 2 时有
E(T ) 0
性质5.7 设T ~ t (n) 则
证明
因为 i ~ N (0,1), 所以 E 2 D 1, i i
D(i 2 ) E(i 4 ) [ E(i 2 )]2 3 1 2, i 1, 2,......, n.
n n 故 E ( 2 ) E i 2 E (i 2 ) i 1 i 1
n,
D( ) D i 2 i 1
2 n
D(i 2 ) 2n.
i 1
n
2 性质3 设 2 x, 有 n ~ ( n ), 则 对 任 意
n 1 t22 x limP{ x} e dt n 2n 2
2 n
设 i2 ~ 2 (ni ), 并且 i2 (i 1, 2,......, m) 相互 独立, 则 i2 ~ 2 (n1 n2 L nm ).
i 1 m
性质2 ( 2分布的数学期望和方差)
若 2 ~ 2 ( n), 则 E ( 2 ) n, D( 2 ) 2n.
n 1 n 1 2 2 t 2 h( t ) 1 , t n n πn 2
t分布的概率密度曲线如 图
显然图形是关于 t 0对称的. 当n充分大时, 其图 形类似于标准正态 变量概率密度的图 形.
由中心极限定理得
n
lim P{
n
2 n
2n
limP{ x} n
i 1
2 X i n
n
n
x}
ቤተ መጻሕፍቲ ባይዱx
1 t22 e dt 2
即 2分布的极限分布是正态 分布, 也即 ,当n很大时
n
2 n
2n
近似服从 N (0,1).进而 ~ N (n,2n).
2
的概率分布.
解 因为 ~ N ( , ), 所以 ~ N (0,1) 2 又 2 ~ (n), 且X , Y 独立, 则 与 2 独立, 由定理得 ( ) / T ~ t (n) n ( / 2 ) / n
2
1 1 即 ~ , , i 1, 2, , n. 2 2
2 i
因为1, 2 , ......, n 相互独立,
所以 12 , 22 , ......, n2也相互独立,
2 根据 分布的可加性知 n 2 n 1 i ~ , . i 1 n