应用统计学 第8章 相关分析与回归分析

•
(2)
其中， 表示随机误差项(stochastic, random error term)或简称为误差项。
第一节 古典回归模型
表8-4 从表8-3的总体中抽取一个随机样本
X
Y
X
Y
1
0.77 6
3.20
2
1.10 7
4.00
3
1.70 8
4.30
4
1.65 9
4.50
5
2.50 10
6.00
29
图8-5 总体回归线与样本回归线
0
ˆ0 t 2 (n 2)S(ˆ0 ), ˆ0 t 2 (n 2)S(ˆ0 )
42
8.2.3 多元线性回归模型
• 8.2.3.1 多元线性回归模型的参数估计 yi 0 1x1i 2x2i L k xki i i 1, 2,L n
35
2、相关分析与回归分析的区别
• ①变量的地位不同 • ②变量的性质不同 • ③研究的目的不同 • ④研究的方法不同 • ⑤所起的作用不同
36
8.2.2 一元线性回归模型
8.2.2.1 回归模型的基本假定 • 回归模型是描述因变量如何依赖自变量和随
机误差项的方程。一元线性回归模型只涉及 一个自变量，可表述为：
3
如：商品的消费量（y）与居民收入（x）之间的关系
各观测点分布在直线周围。
变量间关系是不能用函数关系精确表达的，一个变量 的取值不能由另一个变量唯一确定。当变量x取某个值 时，变量y的取值可能有几个。
4
8.1.1.2 相关关系的种类
1. 按相关的方向可以分为正相关和负相关。 1. 按相关的程度可分为完全相关、不完全相关和不相关。 2. 按涉及的变量或因素的个数可以分为单相关与复相关。 1. 按相关的表现形式可分为线性相关与非线性相关。
• 第二步：构造并计算检验统计量
tr
n2 1 r2
0.95
10 2 8.61 1 0.95 0.95
19
• 第三步：确定临界值。根据给定的显著性水平 =0.05和自由度10-2=8，查找t分布表或利用 Excel计算，得到临界值。
t0.025 (8) TINV (0.05,8) 2.31
系密切程度的数量指标。早在1890年，英 国著名统计学家Karl Pearson便提出了一个 测定两个变量线性相关的计算方法，通常称 为积差相关系数或简单相关系数。
13
总体相关系数:
XY XY
式中： XY——是变量X和Y的协方差
X ——是变量X的标准差
Y ——是变量Y的标准差
5
相关关系
单相关
复相关
线性相关 曲线相关
正
负
相
相
关
关
多元线 性相关
多元 非线 性相
关
6
8.1.1.3 相关图表
• 相关表和相关图可直观地表达变量之间 的相关关系的程度。
• 相关表是将具有相关关系的原始数据,按 某一顺序平行排列在一张表上,以观察它 们之间的相互关系。
7
表8-1高校人数和周边饭店季营业额
第一节 古典回归模型
• 用样本回归函数(sample regression function,S R F)来表示样本回归线。
(3)
Y^表i 示表ˆ总0示体条的件估均0 计值量，；E(Y|Xi)的估计量；
表ˆ1示 的估1 计量；
第一节 古典回归模型
• 建立随机的样本回归函数：
Yi ˆ0 ˆ1Xi ei (4)
• 其中ei为残差项(residual term)，或简称
为残差(residual)。
第一节 古典回归模型
• 回归分析的主要目的是根据样本回归函数
Yi ˆ0 ˆ1Xi ei
来估计总体回归函数，
第一节 古典回归模型
8.2.1.2 相关分析与回归分析的联系与区别
• 1、相关分析与回归分析的联系 • ①相关分析和回归分析具有共同的研究对象 • ②相关分析和回归分析需要相互补充 • ③相关分析是回归分析的前提 • ④回归分析是相关分析的拓展
根据给定的显著性水平和自由度n-2,查找t分布中的相
应临界值 t 2。如果 | t |，t就2否定原假设，认为 r 在统
计上是显著的，即总体相关系数不为零，总体变量间存 在线性相关关系。
18
• 检验高校学生人数与周边饭店季营业额之间的相关 系数是否显著，显著性水平=0.05。
• 第一步：提出假设 H0 : 0; H1 : 0
( ei2 )( xi2 ) n(n 2)Sxx
41
2、置信区间 • 对于给定的置信度1-，1参数的置信区间为:
ˆ1 t 2 (n 2)S(ˆ1), ˆ1 t 2 (n 2)S(ˆ1)
即以100(1-)%的概率回归系数属于该区间内。
•
同理，
参数的置信区间为
负相关。
• 4、若 r ，0 表示两变量不存在线性相关。
16
• 5、当 0 | r时|，1 表示两变量存在不同程度的线性 相关。 的数值| r越| 接近于1，表示两变量之间线性
相关程度越高；反之 的数值越| r接| 近于0，表示两
变量之间线性相关程度越低。通常认为：
0 |微r弱|相0.关3 ；
饭 店
学生人 数（千 人）
季营业 额（千 元）
饭 店
学生人 数（千 人）
季营业额 （千元）
x
y
x
y
1
2
58
6 16
137
2
6
105 7 20
157
3
8
88
8 20
169
4
8
118 9 22
149
5
12
117 10 26
202
8
• 相关图也称为分布图或散点图，它是在平面 直角坐标中把相关关系的原始数据用点描绘 出来，通常以直角坐标的横轴代表自变量x, 纵轴代表因变量y。相关图所反映的变量之 间的相关关系的方向和程序比相关表更为清 晰，也更为直观。
15
8.1.2.2 相关系数的性质
• 1、| r | 1
• 2、若 0 r ，1表示变量x与变量y为线性正相关关
系；若
1，表r示变0量x与变量y为线性负相关
关系。
• 3、若 | r |，1表示两变量完全线性相关，即变量x与 变量y之间存在确定的函数关系。若 ，r表示1两变
量完全线性正相关；若 ，表示r 两 变1量完全线性
第8章 相关分析和回归分析
1
主要内容和学习目标
• 相关分析（掌握） • 线性回归分析（掌握） • 回归模型的统计检验和预测（掌握） • 非线性回归模型（了解）
2
8.1相关分析
• 8.1.1 相关关系的概念和种类 • 8.1.1.1 相关关系的概念 • 在社会经济发展变化中，客观现象总是普遍
联系和相互依存的，客观现象（变量）之间 的数量依存关系可分为两种类型：确定性关 系和相关关系。 • 相关关系是指现象之间客观存在的非确定性 的数量依存关系。
• 1 又称为斜率(slope)，斜率度量了X 每变动一
单位，Y 的均值的变化率。
• 例 位， （如 千果 元斜）率，Y1为的0(.期5，望那)均么值，将当增收加入0x.5每个增单加位1单
（千元）；即，平均而言，消费支出将增加0.5 千元。
第一节 古典回归模型
模型的随机设定
• 从图中可看出单个家庭的消费支出与平均消费支出 之间存在着一定的离差，即
样本相关系数:
r xi x yi y
(xi x)2
( yi y)2
14
• 计算学生人数和季营业额的相关系数
21040 1 1401300
r
10
0.95
(2528 1 140140) (184730 1 13001300)
10
10
23
图8-4 不同收入水平的家庭消费支出散点分布图
消费支出 Y 8
6
随机试验所有可能结果的集合称 为总体或样本空间
总体回归线 PRL
4
2
0
收入 X
0
2
4
6
8
10
24
• 由图中看出总体回归直线是线性的，用函数的形式来 表示：
(1)
这是直线的数学表达式，在式(1)中，
E(Y｜Xi)表示给定X值相应的(或条件的) Y的均值， 称为Y的条件期望或条件均值下标i代表第i个子总体。
8
6
总体回归线
4
样本回归线
2
0
0
2
4
6
8
10
30
• 得到一条很好地“拟合”了样本数据 的直线，称之为样本回归线(sample regression lines, SRL)。
• 可能从K个不同的样本中得到K条不同 的样本回归直线，所有的这些样本回 归线不可能都相同。每一条直线也最 多是对真实总体回归线的近似。
• 用数学形式表示为：
min :
e2 i
^
(Yi Yi )2
(Yi ˆ0 ˆ1Xi )2
• 最小二乘原理就是所选样本回归函数使得所有Y的估
计值与真实值差的平方和最小。
第二节 回归模型的参数的估计
• 求解联立方程
• 解得


ˆ1


n
n
xi yi xi2 (
21
回归分析的内容和步骤: • ①选择适当的回归模型。 • ②进行参数估计。 • ③进行模型的检验。 • ④进行预测。即根据回归方程进行适当的经