数理统计 第1章 基础知识

38
特别当时 p 1，便可得到随机向量 X ( X1, X 2 , , X n )
的数学期望为
E(X) ( E( X1 ), E( X 2 ), , E( X n ))
2、性质 1） 设a为常数，则 E(aX) aE(X) ； 2）设 A, B, C 分别为常数矩阵，则
E(AXB C) AE(X)B C
计和判别函数等许多方面都有突出的贡献，他的 许多研究成果都达到了世界先进水平。
12
第一章 基础知识
经典的数理统计是以概率统计为基础的，概率论与
数理统计的关系极为密切，为以后学习的方便，这里对
概率论做一个简单的回顾。
1、 概率论的回顾 2、 数理统计简介
13机现象 概率论：研究和揭示随机现象的统计规律性的一个数 学分支 随机事件的定义、运算及运算律 古典概型、几何概型、统计概型的定义及性质
42
若 X ( X1, X 2 , , X p )
的分量相互独立, 则协方
差矩阵，除主对角线上的元素外均为零，即
0 var( X 1 ) 0 var( X 2 ) var( X) 0 0
0 var( X p ) 0
43
2）随机向量X的协方差矩阵是非负定矩阵。
设a为任意与X有相同维数的常数向量，则
aΣa a[ E ( X μ)( X μ)]a E[a( X μ)( X μ)a] E[a( X μ)]2 0
证：
3）设A是常数矩阵，b为常数向量，则
var( AX b) E[( AX b) ( Aμ b)][( AX b) ( Aμ b)] AE[( X μ)( X μ)]A AΣA
描述性统计方法: 全部资料 数理统计方法: 部分资料 抽样统计方法
4
数理统计学是数学的一个分支，它研究怎样用有 效的方法去收集、整理、分析带随机影响的数据，并
在此基础上对所讨论的问题给出统计性的估计和推断。
数理统计学的内容:概括为两大类
用有效的方法去收集数据。 抽样理论和试验设计 有效地使用数据。中心内容—统计推断
E ( X | Y y ) xi P ( X xi | Y y ) (离散情形）
i
E ( X | Y y)
称E(X|Y=y)为已知Y=y时X的条件期望.


xf
X |Y
( x | y )dx (连续情形）
定义 设g(y)= E(X|Y=y)，随机变量g(Y)就可记作E(X|Y),
41
cov( X 1 , X 2 ) var( X 1 ) cov( X 2 , X 1 ) var( X 2 ) var( X) cov( X , X ) cov( X , X ) p 1 p 2
2、性质
1）若 X ( X1, X 2 , , X p ) 和 Y (Y1, Y2 , , Yq相互独立。 ) 则



概率的公理化定义
条件概率,乘法公式,全概率公式,贝叶斯公式(逆概率公 式、后验公式），独立性
14

随机变量、分布函数及其性质 随机变量函数的分布 多维随机变量及其分布 随机变量的数字特征：期望、方差、协方差、 相关系数及其性质
15
条件数学期望

定义 设 X是一个r.v.，且EX存在. 则记
3）设 X1 , X2 , , Xn为n个同阶矩阵，则
E(X1 X2 Xn ) EX1 EX2 EXn
39
二、协方差矩阵
1、定义：设 X ( X1, X 2 , , X p ) 和 Y (Y1, Y2 , , Yq ) 分别
为p维和q维随机向量，则其协方差矩阵为
44
4)
若 X ( X1, X 2 , , X p ) 和 Y (Y1, Y2 , , Yq ) 分别
是p和q维随机向量，A和B为常数矩阵，则
它包括参数估计，假设检验，回归分析，方差分析，多元
统计分析等等。
5
有效性的含义
上述有效性有两个含义：

可以建立一个在数学上便于处理的模型来描述所 得的数据，

数据中要包含尽可能多的与所研究的问题有关的 信息。
6
关于统计推断

由于统计推断中使用的仅仅是部分数据，且带有随机性，
故所得结论只能做到尽可能而非绝对的精确可靠，而结
但在研究问题的方法上有很大区别： 概率论 —— 已知随机变量服从某分布,寻求分布 的性质、数字特征、及其应用； 数理统计 —— 通过对实验数据的统计分析, 寻找 所服从的分布和数字特征, 从而推断整体的规律性。
数理统计的核心问题——由样本推断总体
3
统计学从方法上讲有两大类:描述性统计 方法和数理统计方法(即抽样统计方法).

(5) 设X N ( , 2 ), 则其特征函数为 (t ) e
1 i t 2t 2 2
;
21
§4 随机矩阵
一、数学期望
1、定义
X 11 X 21 X X n1 X 12 X 22 X n2 X1 p X2p X np
X 1 E ( X 1 ) X E ( X ) 2 2 E Y1 E (Y1 ) Y2 E (Y2 ) X E( X ) p p Yq E (Yq )
40
cov( X 1 , Y1 ) cov( X 1 , Y2 ) cov( X 2 , Y1 ) cov( X 2 , Y2 ) cov( X , Y ) cov( X , Y ) p 1 p 2
(t )非负定，连续且 (0) 1;
（8）设随机变量X 的n阶矩存在，则X 的特征 函数 (t )的k阶导数 ( k ) (t )存在，且 E ( X k ) i (- k ) ( k ) (0), (k n)
20
几个常见随机变量的特征函数
(1) 设X 服从两点分布，则其特征函数为 (t ) q peit ; (2) 设X 服从二项分布B(n, p )，则其特征函数为 (t ) (q peit ) n ; sin at (3) 设X U [-a, a], 则其特征函数为 (t ) ; at (4) 设X 服从参数为的指数分布，则其特征函数为 it 1 (t ) (1－ ) ;
且称为已知Y时X的条件数学期望。
16
条件数学期望的性质

如果 X 和 Y 独立,且EX存在,则 E(X|Y)=EX E(h(Y)|Y)=h(Y)


E(q(X,Y)|Y=y)=E(q(X,y)|Y=y)
E(E(X|Y))=E(X) 重期望定理
17
§2、随机变量的特征函数

定义 称随机变量eitX的数学期望(t)=EeitX为X的

统计学的起源：统计学起源于古代，早在公元前3050年
的古埃及就为建造金字塔进行过全国国力统计。到了16
世纪，西欧各国政府对收集公民有关资料发生兴趣。 Statistics（统计学）源于State.

数理统计的正式诞生。在数学家建立了概率论后，才奠 定了数理统计发展的理论基础。一般认为，它诞生于19
cov( X 1 , Yq ) cov( X 2 , Yq ) cov( X, Y) cov( X p , Yq )
X ( X1, X 2 ,
, X p )的协方差矩阵为
cov( X 1 , X p ) cov( X 2 , X p ) var( X p )

在生物遗传学、气象预报、地震研究、地质探矿等方面的研
究中，数理统计方法是必备工具之一。
数理统计方法在社会科学方面的应用也愈来愈广泛，教育学， 人口学，社会保险业，各种社会问题的抽样调查，市场预测， 民意测验等都有数理统计方法涉足。 总之，只要安排试验和处理数据，就可以用数理统计方
法。
9
数理统计学发展简史
cov( X 1 , Y1 ) cov( X 1 , Y2 ) cov( X 2 , Y1 ) cov( X 2 , Y2 ) cov( X , Y ) cov( X , Y ) p 1 p 2 cov( X 1 , Yq ) cov( X 2 , Yq ) 0 cov( X p , Yq )
《Mathematical Methods of Statistics》
11
二战后。这时期的一个突出特点是计算机的发明
和使用。它使人们能够处理大量的数据及其运算，
把数理统计的研究引入到宏观世界和微观世界，
又出现了一些新的分支。
最后，特别提一下我国的许宝禄教授在极限
理论、马氏过程、多元分析、正交设计、过程设
（4） 两个相互独立的随机变量之和的特征函数 等于各个特征函数之积； （5） 两个分布函数相等当且仅当它们所对应的 特征函数相等；
19
(6) 在F ( x)的连续点a, b上，有 1 T e iat e ibt F (b) - F (a ) lim (t )dt ; T 2 T it （7）函数 (t )为特征函数的充要条件是：
论的正确性程度显然可以用概率来度量，因此概率论是 数理统计的基础。

统计方法的具体使用并不需要很高深的数学知识，但不 具备较多较深的数学知识，这些方法的理论依据就说不
清楚。本课主要介绍数理统计方法，也给出一些必要的
数学推导，但不追求其严密性和完整性。
7
数理统计方法的应用
几乎在人类活动的一切领域中都能够不同程度地
特征函数。

随机变量的特征函数(t)是实变量t的复值函数，