第10章 直线回归与相关分析
合集下载
医学统计学PPT：直线相关和回归
r X X Y Y
l XY
X X 2 Y Y 2
l XX lYY
X 的离均差平方和:
2
lXX X X
Y 的离均差平方和:
2
lYY Y Y
X与Y 间的离均差积和: lXY X X Y Y
离均差平方和、离均差积和的展开：
lXX
2
XX
X2
相关系数的抽样分布( = 0)
300 200 100
0 -1.0 -0.8 -0.6 -0.4 -0.2 0.0 0.2 0.4 0.6 0.8 1.0
相关系数的抽样分布( =0.8)
300 200 100
0 0 0.2 0.4 0.6 0.8 1.0
R.A. Fisher(1921) 的 z 变换
150
100
50
0
-2
-1
0
1
2
相关系数的z 值的抽样分布( = 0.8)
200
150
100
50
0
0
1
2
3
4
相关系数的可信区间估计
➢ (1) 将 r 变换为 z ； ➢ (2) 根据 z 服从正态分布，估计 z 的可信区间；
1 z u sz z u n 3
➢ (3) 再将 z 变换回 r 。
1 1
0.7221
lup
e2z 1 e2z +1
e22.6650 e22.6650
1该可0信.99区0间4 有1 什么含义？
7.3 直线回归
直线回归是把两个变量之间的关系用适当的方 程式表达出来，可以从一个自变量推算另一个 应变量。
直线回归的定义
➢ Y 因变量，响应变量 (dependent variable, response variable)
直线回归与相关
应用直线回归的注意事项
进行回归分析时，应先绘制散点图。若提示有直 线趋势存在时，可作直线回归分析；若提示无明 显线性趋势，则应根据散点分布类型，选择合适 的曲线模型，或经数据变换后，化为线性回归来 解决。 绘制散点图后，若出现一些特大特小的离群值 （异常点），则应及时复核检查，对由于测定、 记录或计算机录入的错误数据，应予以修正和剔 除。否则，异常点的存在会对回归方程中的系数 a、b的估计产生较大影响。
a>0表示回归直线与y轴的交点在X轴的上方； a<0表示回归直线与y轴的交点在x轴的下方； a=0表示回归直线通过原点。
b ：回归系数 (coefficient of regression)
回归系数即直线的斜率。
b>0，表示随x增加，y亦增加； b<0，表示随x增加，y值减少； b=0，表示回归直线与x轴平行，意为y与x无关。
直线回归分析的一般步骤
1、将 n 个观察单位的变量对(x，y)在直角坐标系中 绘制散点图，若呈直线趋势，则可拟合直线回归 方程。 2 2、求回归方程的回归系数和截矩 3、写出回归方程 Yˆ = a + bX ，画出回归直线 4、对回归方程进行假设检验
a ：截距(intercept)
截距是指x=0时，回归直线与y轴交点到原点的 距离。
lxx = ∑ ( x − x) = ∑ x −
2 2
(∑ x ) 2 n
(∑ x )(∑ y ) n
lyy = ∑ ( y − y ) = ∑ y −
2 2
(∑ y ) 2 n
lxy = ∑ ( x − x)( y − y ) = ∑ xy −
求回归系数b和截距a
∑ ( x − x )( y − y ) = l b= l ∑ ( x − x)
第十章 直线回归与相关分析
115 125 128 143 132 121 129 112 120 130 125.5
135 137 128 127 155 132 148 117 134 132 134.5
图10-2 NaCl含量对单位叶面积干物重影响的散点图
Y . X X
含义是：对于变量X的每一个值，都有一个Y 的分布，这个分布的平均数就是该线性函数。
ˆ a bX Y
回归截距 与x值相对应的依变量y的点估计值
此方程称为Y对X的直线回归方程(linear regression equation)，画出的直线称为回归线 （ regression line）。
ˆ Y a bx
ˆi ) 2 L ( yi y
i 1 n
Y
最小
编号 1 2 3 4 5 血球体积x /mm3 45 52 56 48 42 红血球数y /106 6.53 6.30 9.52 7.50 6.99 6 7 8 9 10 编号 血球体积x /mm3 35 58 40 39 50 红血球数y /106 5.90 9.49 6.20 6.55 8.72
n n
整理后得：
an b xi yi i1 i1 n n n a xi b xi2 xi yi i1 i1 i1
解正规方程得：
x y ( x )( y ) / n b x ( x ) / n ( x x)( y y) = S S ( x x)
第二节：一元线性回归 1 散点图的绘制
2 一元正态线性回归模型 3 直线回归方程的参数估计和回归方 程的建立 4 直线回归的假设检验
5 直线回归的方差分析
6 直线回归的意义( 自学）
相关
2. 应用的情况不同 相关分析用于说明两 变量间的相互关系，描述两变量 X，Y 相互 之间呈线性关系的密切程度和方向；回归分 析用于说明两变量间的依存关系，可以用一 个变量的数值推算另一个变量的数值。
（二）联系 1. 正负符号相同： 在同一资料中，计算 r与 正负符号相同： b值的符号应该相同。 2. 假设检验等价： 在同一资料中，r与 b值 假设检验等价： 的假设检验的统计量 t值相等，即 t r=t b。 3. 对于不同组资料来说，相关系数 r 与 回归 系数 b 二者的数值大小之间无直接联系，且 二者含义不同。 4. r与 b换算关系： 换算关系： 与 换算关系
（三）个体Y值的容许区间 个体 值的容许区间 给定X=X0时，个体Y值的（1－α）容许区间为：
ˆ Y ± tα / 2,v SY −Yˆ
SY −Yˆ = SY ⋅ X 1 (X0 − X ) 1+ + 2 n ∑( X − X )
2
例7-6：X0=1.5时，个体Y值的95%容许区间为： （3.69，5.29）
第七章
回归与相关
回归与相关是用来研究两个变量(或多个变量) 之间数量变化关系的的一种统计分析方法。 本章主要介绍直线回归与直线相关。
第一节
直线回归
一、直线回归的概念
我们以例7-1母婴TSH之间的关系予以说明：
由散点图可以看出，Y 随着 X 的增大而增 大且呈直线变化趋势，但各点并非完全在一条 直线上，这与严格的直线函数关系不同，将X和 Y之间的这类数量变化关系称直线回归。
3. 在回归分析时应正确选定自变量和应 变量。 变量。 若两变量间有明显的依存关系，该问
题很易解决；若两变量间无明显的依存关系， 一般以较易测定者或变异较小者作为自变量 X， 否则可能加大误差。而在相关分析时，不存在 自变量与应变量的关系，它所分析的两个变量 之地位是完全等价的，一般称为第一变量和第 二变量。
相关分析与回归分析
客观现象的相互联系，可以通过一定的数量关系反映出来。
（2）回归分析是相关分析的深入和继续。
一、表格法（相关表法）
（一）简单相关表
n x y x y 编制方法：先将自变量的值按照从小到大的顺序排列出来，然后将因变量的值对应列上而排列成表格。
以x为自变量，y为因变量建立直线回归方程，并说明回归系数的经济意义。
※●很显复示 相明x关和：显y自事变：正量相两r关的个还以是取上负。相值关；为正或为负取决于分子。
1、协方差 的作用 3=1、0+两2个x 变量完全r相=0关. 时，则相2 关系数为（
）
6、下列回归方程中，肯定错xy 误的是（
）
A．x的数值增大时，y值也随之增大
显示x和y事正相关还是负相关； （5※、2）产回品归单分位析成是本相与关产分品析产的量深之入间和的继关续系。一般来说是（ ） 第※※三绝显节 对值示回在归0x分. 析和与一y元相线性关回归程度的大小； 1一2x、、相关相关r=系关0.的概系念和数种类计算的简便公式
第二节 相关关系的判断
（二）相关系数的计算
rxy2
(xx)(yy) n
xy
(xx)2
(yy)2
n
n
n :资料项数
x
(xx)2 表示 x变量的标准差 n
y
(yy)2 表示 y变量的标准差 n
2 xy
(xx)(yy)表示 x、y两个变量数列的协方 n
第二节 相关关系的判断
r (xx)(yy) (xx)2 (yy)2
第一节 相关分析的意义和种类
3、根据相关的形式不同划分，分为线性相关和非线性相关。 ●线性相关：即直线相关。 ●非线性相关：即曲线相关。 4、根据相关的程度分为不相关、完全相关（函数关系）和不完全 相关。 三、相关分析的主要内容 1、确定现象之间有无关系。 2、确定相关关系的表现形式。 3、测定相关关系的密切程度和方向。
直线回归与相关分析
系数的可信区间。但由于相关系数的抽样分布在 0 呈 偏态分布（即使在大样本情况下），所以需要先对 进行
f (X)
1
( X )2
e 2 2
2
从正态分布的情况，严格
地说，要求它们服从双变
量正态分布(bi-variable
normal distribution)
8
直线相关（linear correlation）
一、直线相关的概念
如果两个随机变量中，当其中一个变量由小到大的变化时，另一个变 量也相应地由小到大（或由大到小）的变化，并且其相应变化的散点 图在直角坐标系中呈现直线趋势，则称这两个随机变量存在直线相关 （linear correlation）。 应用条件： 适用于两个变量X和Y都服 从正态分布的情况，严格 地说，要求它们服从双变 量正态分布(bi-variable normal distribution)
14
II
I
II
I
III
IV
III
IV
(x x)(y y) 0 (x x)(y y) 0
正相关
负相关
15
II
I
零相关
III
IV
(x x)(y y) 0
16
(x x)(y y)
思路： A：正态标准化 B：归一化处理（除以N）
18
总体
1
N
[
x x x
y
y
y
]
7.8
7.8
6.8
6.8
5.8
5.8
4.8
4.8
3.8
3.8
2.8
2.8
1.8
1.8
r 1 1 2 3 4 5 6 7
f (X)
1
( X )2
e 2 2
2
从正态分布的情况，严格
地说，要求它们服从双变
量正态分布(bi-variable
normal distribution)
8
直线相关（linear correlation）
一、直线相关的概念
如果两个随机变量中，当其中一个变量由小到大的变化时，另一个变 量也相应地由小到大（或由大到小）的变化，并且其相应变化的散点 图在直角坐标系中呈现直线趋势，则称这两个随机变量存在直线相关 （linear correlation）。 应用条件： 适用于两个变量X和Y都服 从正态分布的情况，严格 地说，要求它们服从双变 量正态分布(bi-variable normal distribution)
14
II
I
II
I
III
IV
III
IV
(x x)(y y) 0 (x x)(y y) 0
正相关
负相关
15
II
I
零相关
III
IV
(x x)(y y) 0
16
(x x)(y y)
思路： A：正态标准化 B：归一化处理（除以N）
18
总体
1
N
[
x x x
y
y
y
]
7.8
7.8
6.8
6.8
5.8
5.8
4.8
4.8
3.8
3.8
2.8
2.8
1.8
1.8
r 1 1 2 3 4 5 6 7
【毕业论文】相关分析和回归分析
相关分析和回归分析客观事物之间的关系分为函数关系和统计关系，函数关系也就是我们通常所说的一一对应的关系，而统计关系是指两事物之间的一种非一一对应的关系，即当一个变量x取一定值时，另一变量y无法依确定的函数取唯一确定的值。
事物之间的统计关系是普遍存在，且有的关系强，有的关系弱。
相关分析和回归分析都是以不同方式测度事物之间统计关系的有效工具。
实际应用中。
这两种分析方法经常互相结合渗透。
一、相关分析相关分析通过图形和数值两种方式，能够有效的揭示事物之间统计关系的强弱程度。
1、散点图能直观的显示数据之间的相关关系,可以利用曲线将点散布的主要轮廓描述出来，使数据的主要特征更突出。
如下图：研究04年四层金指的报废面积与入仓面积的相关关系上图看出：数据集中分布在直线周围，说明是高度正相关的。
2、相关系数散点图能直观的展现变量之间的统计关系，但并不精确。
相关系数以数值的方式精确的反映了两个变量间线形相关的强弱程度。
➢ R=yyxx xy L L L ，其中xx L =∑=--ni ix x12)(，∑=----=ni i i xy y y x x L 1))((，∑=--=ni i yy y y L 12)(.➢ 相关系数R 的取值在-1~+1之间。
➢ R>0表示两变量之间存在正的线性相关关系；R<0表示两变量之间存在负的线性相关关系。
➢ R=1表示两变量存在完全正相关；R=-1表示两变量存在完全负相关；R=0表示两变量不存在线性相关关系。
➢ |R|>0.8表示两变量之间具有较强的线性关系；|R|<0.3表示两变量之间的线性相关关系较弱。
上例中，R=0.974,说明报废面积与入仓面积之间是强正相关的。
二、一元线性回归在实际应用中，我们常常需要考虑某一现象与影响它的最主要因素的关系，回归分析不仅可以揭示变量x 对变量y 的影响大小，还可以由回归方程进行预测和控制。
一元线性回归是最简单的回归模型。
第十章 线性相关与回归
相关与回归
28
直线回归就是用来研究两个连续性变量x 直线回归就是用来研究两个连续性变量 之间的数量依存关系。 和y之间的数量依存关系。其中 为自变 之间的数量依存关系 其中x为自变 y为因变量 它依赖于x。 为因变量， 量，y为因变量，它依赖于x。 直线回归适用于单变量正态分布资料， 直线回归适用于单变量正态分布资料，即 y为随机正态变量，x为可以精确测量的 为随机正态变量， 为可以精确测量的 为随机正态变量 值。
31
根据上例的数据，求男青年身高与前臂长之间的回归 方程。 从相关系数的计算中，已经求得：
• • • • • • ∑X=1891 ∑Y=500 ∑ X2=89599 ∑ Y2=22810 ∑XY=86185 N=11
相关与回归 12
例 10.1
• 从男青年总体中随机抽取11名男青年的身 高和前臂长，身高和前臂长均以cm为单位， 测量结果如表10-1所示，试计算身高与前 臂长之间的相关系数？是正相关还是负相 关？
相关与回归
13
表10-1 11例男青年身高与前臂长的测量结果 例男青年身高与前臂长的测量结果
编号 1 2 3 4 5 6 7 8 9 10 11 身高（cm） 170 173 160 155 173 188 178 183 180 165 166 前臂长（cm） 47 42 44 41 47 50 47 46 46 43 44
X、Y 变化趋势相同---变化趋势相同---完全正相关; 完全正相关; 反向变化----完全负相关。 反向变化----完全负相关。 ----完全负相关
图12-3 12相关系数示意图
相关与回归
9
X、Y 变化互不影响----零 变化互不影响-------零
相关(zero 相关(zero correlation)
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
一、直线回归方程的建立
设变量x与y间存在直线关系，根据n对观察 值所描出的散点图如下。
yˆ a bx
图９—2 直线回归散点图
总体直线回归方程：y=α+βx
实际观察值可表示为：
yi =α+βxi+i (i=1,2,…，n)
i为随机误差，与α、β相互独立，且服从 N(0，2)。这就是直线回归的数学模型
第十章 直线回归与相关分析
＆10.1 回归和相关分析概述 ＆10.2 直线回归分析 ＆10.3 直线相关分析
华南热带农业大学农学院 唐燕琼制
＆10.1 回归和相关分析概述
一、变量间的关系分为两类： 函数关系：完全确定性的关系——可用精确的数学式来
表示； 统计关系：不存在完全确定性的关系——不能用精确的
yˆ 在应用 =48.5-1.1x于预测时，需限定x的
区间为[31.7，44.2]；如要在x＜31.7或＞
44.2的区间外延，则必须有新的依据。
二、直线回归的显著性检验
➢ 回归关系的假设测验： 对于样本的回归方程，必须测定其来自无
直线回归关系总体的概率大小。只有当这种概 率小于0.05或0.01时，我们才能冒较小的危 险确认其所代表的总体存在着直线回归关系。 这就是回归关系的假设测验 。
例如：
根据散点图可初步判定双变数X和Y间的关系:
➢ ①X和Y相关的性质(正或负)和密切程度 ➢ ②X和Y的关系是直线型的还是非直线型的 ➢ ③是否有一些特殊的点表示着其他因素的干扰
＆10.2 直线回归分析
一、直线回归方程的建立 二、直线回归的显著性检验 三、直线回归的区间估计
华南热带农业大学农学院 唐燕琼制
a y bx
简记为：
b xy ( x)( y) / n x2 ( x)2 / n
a y bx
x与y的离均差乘积和，简称为乘积和，记为 SPxy 。
spxy (x x)(y y) xy x y / n
记 ssx=∑x2-(∑x)2／n，则
b SPxy / SSx a y bx
根据样本实际观察值对α、β以及误差方差 2作出估计， 即建立样本回归方程并估计 出误差的大小。
➢设样本直线回归方程为：
yˆ a bx
➢总体直线回归方程：y=α+βx
➢其中a是的估计值，称为回归截距； ➢b是β的估计值，称为回归系数，表示自变量 每改变一个单位数时， 依变量y平均改变的单位 数(b＞0时，增加；b＜0时，减少)
a、b是α、β的最小二乘估计也是无偏估计。
SAS分析
例[9.1]一些夏季害虫盛发期的早迟和春季温度高 低有关。江苏武进连续9年测定3月下旬至4月中旬 旬平均温度累积值（x,旬.度）和水稻一代三化螟 盛发期（y,以5月10日为0）的关系，得结果于表 9.1。试计算其直线回归方程。
表9.1 累积温和一代三化螟盛发期的关系
回归分析的类型： 一元回归分析（直线和曲线回归分析）； 多元回归分析（多元线性回归分析和曲面
回归分析）。
相关分析的类型：直线相关分析； 复相关分析。 偏相关分析。
三、两个变数资料的散点图
➢ 对具有统计关系的两个变数的资料进行初步考察 的简便而有效的方法，是将这两个变数的n对观 察值(x1，y1)、(x2，y2)、…、(xn，yn)分别以 坐标点的形式标记于同一直角坐标平面上，获得 散点图(scatter diagram)。
回归模型（因果关系）中： x表示原因的变量；y是表示结果的变量。
回归分析目的：导出由x 来预测或控制y的回归方程， 即确定当自变量x为某一值时依变量y将会在什么范围内 变化。
➢在相关模型中，其x和y变量是平行变化 关系，不能区别哪一个是自变量，哪一个 是依变量。
➢相关分析目的：确定两个变量在数量关 系上的密切程度和性质。不能用一个或多 个变量去预测、控制另一个变量的变化。
➢ yˆ i 是+βxi的估计值
回归方程的基本条件（性质）：
性质1 性质2
Q (y yˆ)2 最小； ( y yˆ) 0 ；
性质3 回 归 直 线 通 过 点 (x, y) 。
Q (yi yˆi )2 yi (a bxi )2
➢利用最小二乘法，即Ｑ最小的方法求a与b的 值。根据微积分学中求极值的原理，将Q对a 与b求偏导数并令其等于0：
b=-1.1 当3月下旬至4月中旬的积温(x)每提高1 旬·度时，一代三化螟的盛发期平均将提早1.1天； a=48.5 若积温为0，则一代三化螟的是以5月10 日为0，故48.5为6月27—28日）。
由于x变数的实测区间为[31.7，44.2]，
249.5556
SP
xy
x
n
y
159 .0444
因而有: b SP 1.0996[天 /(旬• 度）]
ssx
a y bx 48.5485 (天）
回归方程有：yˆ 48.54851.0996x 或简化为：yˆ 48.5 1.1x
yˆ 48.5 1.1x
上述方程中回归系数b和回归截距a的意义为：
Q 2
a
( yi a bxi ) 0
Q 2
b
( yi a bxi ) xi 0
整理后可得：
na ( xi )b yi
( xi )a ( xi )2 b xi yi
上式叫做a与b的正规方程组。
解之可得:
b
xi yi ( xi )( yi ) / n xi2 ( xi )2 / n
积累温(x) 35.5 34.1 31.7 40.3 36.8 40.2 31.7 39.2 44.2 盛发期(y) 12 16 9 2 7 3 13 9 -1
解： n 9
x 333.7
x 37.0778
SS
x
(n
1)
S
2 x
144.6356
y 70
y 7.7778
SS
y
(n
1)
S
2 y
数学式来表示。 统计关系这一类变量间的关系就是统计学中回归分析与
相关分析所要讨论的问题。
华南热带农业大学农学院 唐燕琼制
二、回归、相关分析的任务与类型
常用x、y来表示两个变量，(x，y)的各对观察值用 (x1，y1),(x2，y2),…,(xn,yn)表示。 在统计上，x和y变量的关系有两种理论模型： 回归模型和相关模型。