统计学基础回顾__2013

53
• T检验的意义
– 如果没有这一发现，统计分析注定要使用无限 次的回归。
• 没有“student”的t检验，分析者将不得不估计观测 数据的4个参数，再估计这4个参数估计值的4个参数， 接着估计4个新估计值的4个参数……
– Gosset 表明，分析者可以在第一步就停止这种899年从牛津大学毕业（数学和化学），进入 爱尔兰都柏林的吉尼斯酿造公司。
47
• Gosset的第一项研究
– 麦芽浆准备发酵时，需要仔细地测量所用酵母的量。 – 酵母是活的有机体，酵母的培育需要保持鲜活，加 入麦芽浆前它在瓶中的液体里繁殖。 – 工人需要测量清楚某个瓶中有多少酵母，以便决定 用多少液体。 – 他们提取一定量的液体，在显微镜下检验，计量他 们所看到的酵母细胞数。
37
K. Pearson 的革命性观念
• 任何实验结果都不是真实的。
• 它们是一组散布的数据，或者说一个数据分布 中的样本。 • 数据的分布可以写成公式。
– 单个实验的结果是随机的，在这个意义上，数值是 不可预测的，我们只能谈论概率值而非真实值。 – 但是分布的统计模型能使我们描述这种随机的数学 性质。
43
• Pearson的视角：
– 开普勒所追踪的“行星”，实际上是用来给地 球上的观测者所看到的天空中微弱光点定位的 一组数据。 – 一匹马身上血液流动的实际情况，也许与在另 一匹马或一个人身上可能看到的不同。 – 没有人能够生产出纯铁的样本，尽管谁都知道 铁是一种元素。
44
Pearson的革命性观念
相关系数
32
偏斜分布
• 关于科学的成见：
– 科学就是测量。
– 我们精心测量，并用它寻找描述大自然的
数学公式。
• 如测量重力加速度g
33
• 测量带来的麻烦
– 测量得越多，困惑越多：
• 不同的实验，得出不同的“g”值
34
• 为何如此？
– 工作草率？ – 不够细致？ – 抄错了数据？
35
• 一个不是秘密的秘密
38
K. Pearson 的革命性观念
• 回顾：拉普拉斯的科学观念和误差函数
– 坚持数学公式的精确性，将观测值和预测值之 间的离差视作微小的、无关紧要的误差。 – 误差函数：钟形曲线（正态分布）
39
Pearson的革命性观念
• 测量值本身，而不是测量的误差，就具有 一种正态分布。 • 我们所测量的，其实是随机分布的一部分， 其概率可以用数学函数（分布函数）描述。
– 真正存在的是单位液体中酵母细胞的概率分布。
49
• Gosset检验了数据，确定酵母细胞的数量可用 已知的Poisson分布来描述。
– 这样，Gosset就能设计规则和测量方法，congenial 得到对酵母细胞浓度更为精确的度量。 – 用Gosset的方法，吉尼斯能够生产质量更稳定的啤 酒。
• Gosset将这一研究以“student”的名义发表于 Pearson主编的《生物统计》上。
17
好书推荐
18
女士品茶
– 时间：20世纪20年代，一个夏日的午后 – 地点：英国，剑桥，户外桌旁 – 人物：一群大学的绅士和他们的夫人，还有一 些客人
• 一位女士：把茶加进牛奶里，还是把牛奶 加进茶里，不同的做法，味道会不同。 • 如何检验这一问题？
（统计推断）
19
一个实验设计
• 假说问题：女士的断言。
– 越来越多的证据表明，在物理学和化学等传统学 科中，牛顿和拉普拉斯所用的那些定律，只是粗 略的逼近； – 试图发现生物学和社会学定律的努力也失败了。
• 科学发展的新范式：现实世界的统计模型
15
16
统计模型的基本信念
• 世界是充满不确定性（随机性）的
• 不确定的世界仍然是有规律可循的 • 把握不确定世界中的规律需要专门的方法
56
• 例如：
– 有两个重要指标服从正态分布，如果你正打算得出 这样一个正态分布的那两个参数，那么你只需要收 集约50个测量值就足够了。
40
Pearson的革命性观念
• K. Pearson发现了一组分布函数：Skew distribution（偏斜分布）。 • Pearson相信，这组函数可以描述科学家在 数据中可能遇到的任何分布类型。
• 这组函数中的每一个分布由四个数字确定。
41
• 神奇的四个数字：四大参数
– 均值（mean）：测量值散布状态的中间值； – 标准差（the standard deviation）：测量值的散布与平 均值偏离有多远；
50
“Student”的t检验
• The Probable Error of the Mean（平均数的可 能误差），生物统计，1908年。 • 小样本问题
– Pearson：假定样本足够大，从而可以确保参数 没有误差 – Gosset：如果是小样本呢？我们应该如何处理 计算中肯定会出现的随机误差？
• • • • 正态分布 卡方分布 t分布 F分布
55
正态分布 Normal Distribution
• 正态分布的极端重要性
– 正态分布只有Pearson四个参数中的两个：均值 和标准差，另外两个参数偏度和峰度均为零。 – 只要知道这两个参数，其他就都一清二楚了。 – 这两个参数是sufficient estimator（充分估计量） – 如果有足够的测量值可以用来相当精确地估计 出平均数和标准差，就不再需要其他任何测量 值了。
• 那么，如何得到参数值？
• Pearson的回答：我们只要能搜集到足够的数据 去估计参数，就会得到参数的真实值。 • Paradox：实际上我们永远都不能确定这四个参 数的真实值，而只可能从数据中进行估计。
• 参数本身也只能得到其分布！
46
Gosset和t统计量
• William Sealy Gosset其人
– 将这些数据列成表格，并反复检验… – …以寻找利用父母的测度数据来推断子女特征的某 些方法，如
28
偏斜分布
• 显然高个子的父母更容易有高个子的小孩。
• 但是否存在某些数学公式， • 只用父母的身高就可以预测孩子将有多 高呢？
29
偏斜分布
• 相关与回归
– 高尔顿发现了“regression to the mean”的现象
• 所有观测到的现象，都只是随机的映像，都 不是真实的，真实的是概率分布。 • 科学中真实的东西并不是我们所能观测到或 者能把握住的，它们只能通过用来描述我们 所观测到事物随机性的数学函数来反映。
• 科学研究中，我们真正要确定的是分布的四 个参数。
45
Pearson的一个软肋
• Pearson的观念：我们不能确定真实值，而只能 确定分布的参数。
– 是系列单元测试，还是每次考试都从考 试前所教学的全部内容中选取一部分？
– 一个月考一次，一星期考一次，还是每天 考一次？ – 。。。。。。
25
实验设计
是统计学中的重要问题
26
随机变量及其分布
27
偏斜分布
• 高尔顿的生物统计实验室
– 动员不同家庭来做测量
• 搜集身高、体重数据，测量特殊的骨骼和家庭成员的其 他特性
统计学基础回顾
1
计量经济学和统计学之关系
• 统计学是计量经济学的基础
– 二者都希望能够识别出事物之间的因果关系 – 统计学在严格的假设前提下展开研究
– 计量经济学的研究常常不满足统计学所需的严 格假设
• （数据可得性问题，可控实验与观测数据）
– 计量经济学是统计学基础上的发展
2
本讲的目的
• 回顾统计学的基本知识
21
实验设计的问题
• 应该为那位女士奉上多少杯茶？
• 这些茶应该按什么顺序奉上？ • 关于这些茶奉上的顺序，应该告诉那位女 士多少信息？ • 。。。
22
类似的实验设计问题
• 老师该如何组织考试…
• …以准确掌握学生对知识掌握的情况？
• 面临的问题：任何一个单一的考试都不可能对 学生的学习情况提供可靠地评估。
– 所有的实验都是草率的；
– 即使最精心的科学家，也很少得到确切的数值。
• 每个实验室都存在不可预见和不可观察的小扰动
– 室内空气可能过于潮湿 – 旁边飞过的昆虫可能造成气流的轻微扰动
36
K. Pearson 的革命性观念
• 人们从任何一个实验中得到的都是散乱的 数据，其中没有任何一个单个数据是真实 的，但所有这些数据可以用来对真实值进 行近似的估计。
– 对现实世界的一切现象进行描述和预测需要
• 一套完整的公式 • 一组足够精确的数据
• 海王星的发现使得反对意见灰飞烟灭。
9
拉普拉斯不需要上帝
– 拉普拉斯写了一本书，论述如何根据地球上少数观察数据来计算 行星和彗星的未来位置。 • 拿破仑：拉普拉斯先生，我发现你的论述中没有提到上帝啊！ • 拉普拉斯：我不需要这个假设条件。
10
拉普拉斯的确不需要上帝… …但他需要误差函数

观察到的星体位置，与公式的预测不完全吻合。
拉普拉斯和他的同事们将其归因于观察误差， 并将所有误差都放入一个误差函数中。

11
12
• 当时的科学家相信：
• 随着测量日益精确，对误差函数的需求将 逐渐消失。
13
“上帝不掷骰子。”
14
• 但到19世纪末，测量日趋精确，误差却也日 益增多。
• 非常高的父亲，其儿子往往要比父亲矮一些 • 非常矮的父亲，其儿子往往要比父亲高一些
– 似乎存在某种神秘力量，使得人类身高从高矮两极 移向所有人的平均值。 – 不止是人类身高如此，几乎所有的科学观察都着了 魔似的向均值回归。
30
偏斜分布
• “向均值回归”的必然性：保持稳定性