直线相关与回归
第八章直线相关与回归分析
第十章一元回归与相关分析概述：许多问题需要研究多个变量之间的关系，例如生物的生长发育速度就与温度，营养，湿度等许多因素有关。
相关关系：两变量X，Y均为随机变量，任一变量的每一可能值都有另一变量的一个确信散布与之对应。
回归关系：X是非随机变量（如施肥）或随机变量（如穗长），Y是随机变量，对X的每一确信值x i都有Y的一个确信散布与之对应。
区别：1.相关中的两个变量地位对称，互为因果；回归中X是自变量，Y是因变量。
两种意义不同，分析的数学概念与推导进程不同，但如果是利用一起标准即使y的残差平方和最小（最小二乘法），可取得相同的参数估量式。
因此要紧讨论X为非随机变量（不包括有随机误差）的情形，所取得的参数估量式也可用于X为随机变量的情形。
2.分析目的不同。
回归分析是成立X与Y之间的数学关系式，用于预测；而相关分析研究X与Y两个随机变量之间的一起转变规律，例如当X增大时Y如何转变，和这种共变关系的强弱。
分类：从两个变量间相关（或回归）的程度分三种：（1）完全相关。
一个变量的值确信后，另一个变量的值可通过公式求出（函数关系）；生物学研究中不太多见。
（2）不相关。
变量之间完全没有任何关系。
一个变量的值不能提供另一个变量的任何信息。
（3）统计相关（不完全相关）。
介于上述两情形之间。
明白一个变量的值通过某种公式就能够够提供另一个变量的均值的信息。
一个变量的取值不完全决定另一个变量的取值，但可或多或少地决定它的散布。
科研中最常碰到。
研究“一因一果”，即一个自变量与一个依变量的回归分析称为一元回归分析；研究“多因一果”，即多个自变量与一个依变量的回归分析称为多元回归分析。
一元回归分析又分为直线回归分析与曲线回归分析两种；多元回归分析又分为多元线性回归分析与多元非线性回归分析两种。
对两个变量间的直线关系进行相关分析称为直线相关分析；研究一个变量与多个变量间的线性相关称为复相关分析；研究其余变量维持不变的情形下两个变量间的线性相关称为偏相关分析。
直线相关与直线回归
案例二：医学研究
总结词
医学研究中，利用直线相关和回归分析探究疾病与危险因素之间的关系。
详细描述
在医学研究中，直线相关和回归分析常被用于研究疾病与危险因素之间的关系。 例如，通过分析吸烟、饮酒、饮食等危险因素与肺癌发病率之间的关系，可以 建立线性模型，从而为预防和治疗提供依据。
案例三：农业研究
总结词
通过假设检验的方法，检验两个变量之间是否存在显著的线性关系。常用的假设检验方法 包括t检验、F检验等。
直线相关系数
直线相关系数是用来量化两个变量之间线性关 系的强度和方向的一个数值，其取值范围为-1 到1。
相关系数的值为1表示完全正相关，值为-1表示 完全负相关，值为0表示无直线相关。
相关系数的绝对值越大，说明两个变量之间的 线性关系越强。
直线相关结果通常以相关系数和散点图等 形式呈现，而直线回归结果则以回归方程 、系数表和预测值等形式呈现。
联系
理论基础
直线相关和回归都基于线性关 系假设，即两个变量之间存在
一条直线的趋势。
应用场景
在某些情况下，直线相关和回 归可以相互转换，例如当一个 变量是另一个变量的函数时。
相互支持
在数据分析过程中，可以先进 行直线相关分析，再基于相关 系数进行直线回归分析，或者 反之。
结果解释
在某些情况下，直线相关和回 归的结果可能相似或一致，例 如当两个变量之间的线性关系
很强时。
04
直线相关与回归的应用
经济预测
预测市场趋势
通过分析历史数据，利用直线相关或回归分析来预测市场趋势， 如股票价格、商品需求等。
评估经济政策效果
通过分析政策实施前后的经济数据，利用直线相关或回归分析来评 估政策效果，为政策制定提供依据。
医学统计学-直线相关与回归
病例号
血糖
胰岛素
i
YI
Xi
1
12.21
15.2
2
14.54
16.7
3
12.27
11.9
4
12.04
14.0
5
7.88
19.8
6
11.10
16.2
7
10.43
17.0
8
13.32
10.3
9
19.59
5.9
10
9.05
18.7
i
Yi
Xi
11
6.44
25.1
12
9.49
16.4
13
10.16
22.0
14
8.38
年龄-身高； 肺活量-体重； 药物剂量-动物死亡率
双变量资料
统计资料
单变量资料：X 双变量资料：X，Y 多变量资料：X1，X2，…，XK，Y
3
相关与回归是研究两个或多个变量之间相互关系的
一种分析方法。
数据结构
编号
Y
1
2
n
X1
……
XK
4
概念：
回归：是研究变量之间在数量上依存关系的一种 方法。
相关：是研究随机变量之间相互联系密切程度和 方向的方法。
23.1
5
7.88
19.8
15
8.49
23.2
6
11.10
16.2
16
7.71
25.0
7
10.43
17.0
17
11.38
16.8
8
13.32
10.3
18
10.82
直线相关与回归分析
三、回归分析之作用： 1、可以找到关键少数“x” 2、可以对“y”进行预测 3、可以对“y”进行优化 4、可确定如何设置“x”以达到优化y的目的
四、直线回归 －－是用直线回归方程表示两个数量变量间依存关 系的统计分析方法，属双变量分析的范畴。
五、回归关系的检验
又称回归方程的检验，其目的是检验求得的回 归方程在总体中是否成立，即是否样本代表的总体 也有直线回归关系。方法有以下两种： 1、方差分析 －－其基本思想是将总变异分解为 SS回归和SS剩余，然后利用F检验来判断回归方程 是ห้องสมุดไป่ตู้成立。 2、t检验－－其基本思想是利用样本回归系数b 与总体均数回归系数进行比较来判断回归方程是否 成立，实际应用中因为回归系数b的检验过程较为复 杂,而相关系数r的检验过程简单并与之等价,故一般用 相关系数r的检验来代替回归系数b的检验。
九、案例分析 某公司测得其产品厚度（X）与抗击力（Y） 的关系有如下数据：
请判定X，Y之间线性关系是否显著？
解：
2、计算－－相关系数是x,Y的离均差积和lxy除 以X的离均差平方和lxx与Y的离均差平方和lyy之积的 算术平方根的商。故此相关系数又被称为积差相关 系数。
3、相关关系的检验标准 因变量y与自变量x之间是否存在相关关系，在 求回归方程的过程中并不能回答，因为对任何无规 律的试验点，均可配出一条线，使该线离各点的误 差最小。为检查所配出的回归方程有无实际意义， 可以用相关关系，或称相关系数检验法。 在实际应用中，判断r值与1接近到何程度时， 才认为x与y是相关的，或者说，所配出的回归方程 才是有意义的，需要对照相关系数临界值表来判断， 当计算的相关系数r的绝对值大于表中显著性水平为 0.05和相应的自由度f=n-2下的临界值r0.05,f时，则表 示y与x是显著相关的。如显著性水平取0.01，r计算＞ r0.01,f时，则表示y与x有非常显著的相关关系。
直线相关和回归分析
第二节 直线回归
一、线性回归的概念
目的：
在因变量Y和自变量X之间建立一个数 学模型，根据这个模型可以根据自变量的变 动预测因变量的变动。
区别于函数关系和统计关系
❖函数关系： 两变量的数量表现在一定条件下是完全确 定的。
如： 圆的面积和半径的关系S r2
❖统计关系（相关关系）：两变量的数量表 现尽管存在着密切关系，但却不是完全确 定的。 如：成本和利润的关系
简单线性回归模型
样本线性回归方程
Yˆ a bX
Yˆ 为给定X 时Y 的估计值。
a 为回归直线在 Y 轴上的截距
即x 取0时，y 的平均估计值
➢ a >0，表示直线与纵轴的交点在原点的上方 ➢ a < 0，则交点在原点的下方 ➢ a = 0，则回归直线通过原点
b为回归系数，即直线的斜率
➢ b>0，直线从左下方走向右上方，Y 随 X 增大
16
0.206
0.317 0.400 0.468 0.542 0.590 0.631 0.678
17
0.197
0.308 0.389 0.456 0.529 0.575.378 0.444 0.515 0.561 0.602 0.648
…
…
…
…
…
…
而增大
➢ b<0，直线从左上方走向右下方，Y 随 X 增大
而减小
➢ b=0，表示直线与 X 轴平行，X 与Y 无直线关
系
b 的统计学意义是：X 每增加(减)一个单位，Yˆ
平均改变b个单位
建立 线性回归模型的步骤
1、确定研究的问题
2、设样本回归模型(如: Y a )bx
3、搜集样本资料(数据资料) 4、估计未知参数(计算统计量) 5、得到样本回归方程 6、用模型预测因变量
直线相关与回归分析
第七章 多元回归及相关
第一节 多元线性回归的基本概念
事物间的相互联系往往是多方面的，在很多情 况下对应变量y 发生影响的自变量往往不止一个 。 多元线性回归的目的就是用一个多元线性回归方 程表示多个自变量和1个应变量间的关系。
yˆ b0 b1x1 b2x2 bi xi bmxm
直线回归相关分析的注意事项：
2. 在进行直线回归前应绘制散点图，有直 线趋势时，才适宜作直线回归分析。散 点图还能提示资料有无异常点。
3. 直线回归方程的适用范围一般以自变量 的取值范围为限。
直线回归相关分析的注意事项：
4. 对同一组资料作回归和相关分析， 其相关系数和回归系数的显著性检验结果完 全相同。由于相关系数的显著性检验结果可 直接查表，比较方便；而回归系数的显著性 检验计算复杂，故在实际应用中常用相关系 数的显著性检验结果代替回归系数的显著性 检验。
第六节 多元回归在医学中的应用
1.一。根据较易测得的自变量推算不易测得的应变量 如：用身高, 体重推算体表面积 。
二。确定各自变量xi取不同值时，y的正常值范围 如：建立一个由身高，体重推算心象面积的多元
回归方程，利用此方程就可分别求出身高， 体重取不同 值的组合时，心象面积的正常值范围。
三。预测预报 如：建立心肌梗塞预报方程或脑卒中预报方程。
逐步回归分析方法示意：
X和Y的离均差积和
x x 2 x2 x2 n
X的离均差平方和
相关系数的显著性检验
H0 : 0 H1 : 0
sr
r tr sr
1 r2 n2
df n 2
样本相关系 数的标准误
查t界值表， 得P值
例6.1 极谱法和碘量法测定水中溶解氧的含 量，两法的测得值是否有相关性？
统计学中直线相关与回归的区别与联系
统计学中直线相关与回归的区别与联系在统计学中，直线相关和回归是两个相关的概念，但又有一些区别和联系。
区别：
1. 定义：直线相关是指两个变量之间的线性关系，即随着一个变量的增加，另一个变量也以一定的比例增加或减少。
回归分析是一种统计方法，用于建立一个或多个自变量与因变量之间的关系模型。
2. 目的：直线相关主要关注变量之间的关系和相关程度，通过相关系数来衡量。
而回归分析旨在通过建立数学模型来预测或解释因变量的变化，以及评估自变量对因变量的影响。
3. 变量角色：在直线相关中，两个变量没有明确的自变量和因变量的区分，它们之间的关系是对称的。
而在回归分析中，通常有一个或多个自变量作为预测因变量的因素。
联系：
1. 线性关系：直线相关和回归分析都假设变量之间存在线性关系，即可以用直线或线性模型来描述它们之间的关系。
2. 相关系数：直线相关中使用相关系数来度量变量之间的相关程度。
回归分析中也使用相关系数，但更多地关注回归模型的参数估计和显著性检验。
3. 数据分析：直线相关和回归分析都是常用的数据分析方法，在实际应用中经常同时使用。
直线相关可以帮助我们了解变量之间的关系和趋势，而回归分析可以进一步建立模型和进行预测。
总之，直线相关和回归分析是统计学中两个相关但又有区别的概念。
直线相关关注变量之间的线性关系和相关程度，而回归分析则更关注建立模型和预测变量之间的关系。
在实际应用中，它们常常相互补充使用，以帮助我们理解和解释数据。
第十五章--直线相关与直线回归分析
n
5
Lyy
2
Y Y
Y2
Y 2 ＝27.86－112 ＝3.66
n
5
Lxy
X X
Y Y
XY
25 6
❖ 1.绘制散点图 有相关关系，再作回归分析 ❖ 2.计算回归系数
41
❖ （1）编制回归系数计算表：求基础数据
X 75
Y 11
X 2 1375
Y 2 27.86
XY 194.25
42
（2）计算离均差平方和及离均差积和
Lxx
2
XX
X2
X 2 ＝1375－752 ＝250
tr
r
n2 1－r 2
=n-2=12-2=10 t=7.73，查t值表P436， t0.05(10) 2.228
上述计算t=7.73>2.228，由t所推断的P值小于0.05，按
=0.05水准拒绝H0 ，接受H1, r为正值，说明唾液
药物浓度与血液药物浓度存在正相关关系。
23
相关一定有内在联系吗？
5
第一节 直 线 相 关 分 析
Linear Correlation
6
1.直线相关概念
❖ 概念：描述和推断两个（事件、现象）正态 变量（x、y)总的变化趋势上协同变化规律性 的密切程度和方向（但又非确定的函数关系） 的统计分析方法。
❖ 协同变化：同增同减，此增彼减
7
2.直线相关的特点：
❖ 两变量同时进入数据分析； ❖ 两变量不区别为原因变量和结果变量，
20
（3）直 线 相 关 系 数 的 假 设 检 验
❖ 上例中的相关系数r等于0. 9256，说明了12名癫痫病人的唾 液药物浓度与血液药物浓度之间存在相关关系。但是，这12 名癫痫病人只是总体中的一个样本，由此得到的相关系数会 存在抽样误差。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
直线相关与回归前面几章已经介绍了定量变量的常见分布、统计描述和相应的统计检验方法。
所涉及的数据除分组标志外，仅涉及到单个变量。
在医学研究中，为了认识医学现象的本质要从不同的侧面进行观测，获得多个变量的观测结果，这些变量之间相互联系。
本章介绍用于研究两个定量变量间线性关联程度和线性数值关联关系的直线相关分析和直线回归分析方法。
第一节直线相关直线相关（linear correlation）又称简单相关（simple correlation）用于描述两个变量之间线性关联程度。
如生长发育研究中身高与体重的关系，糖尿病研究中的胰岛素水平与血糖的关系等。
一、直线相关的意义为了使读者能较好地了解直线相关在实际应用中的意义和相关概念，我们将借用身高X 与体重Y之间线性相关的一个实例资料(见例9.1)引入有关直线相关的一些概念。
为了考察身高X和体重Y之间的直线相关情况，我们把例9.1中的15例样本观测值(X，Y)描点到平面直角坐标系上，形成15点(图9.1)，这种图形称为散点图（scatter plot）。
体重身高图9.1显示，虽然不是每个身材较高的对象必有较重的体重，但大多数对象的体重Y与其身高X的变化呈一种伴随增大或减小的直线变化趋势。
即大多数X与Y同时增大或同时减小，并且X和Y呈直线变化趋势。
我们把这种伴随同时增大或同时减小的直线变化趋势称为线性正相关(linear positive correlation)，简称正相关。
当然有些研究指标之间的变化关系是相反的，如对50岁至70岁的成人进行记忆力测试，大多数的观察对象随着年龄X增大而记忆力Y下降并且呈直线变化趋势，这种X与Y的反方向伴随直线变化趋势称为线性负相关(linear negative correlation)，简称负相关。
我们把线性正相关和线性负相关总称为线性相关(linear correlation)。
如果X和Y无任何直线伴随变化趋势，则称为零相关(零线性相关)。
二、直线相关系数的意义和计算直线相关系数(linear correlation coeffiecient)又称积差相关系数(coefficient of product －moment correlation)，简称相关系数(correlation coeffiecient)，是描述两个变量之间线性相关的程度和相关方向的统计指标。
描述全体研究对象的两个变量之间线性相关性(即相关程度和相关方向)的相关系数称为总体相关系数，用符号ρ（读作[ru]）表示；描述样本资料的两个变量之间的线性相关性的相关系数为样本相关系数，用符号r表示。
在实际研究中，总体相关系数ρ是未知的，通常用样本相关系数r进行估计。
相关系数r按下式计算：)()())((22YYXX XY L L L Y Y X X Y Y X X r =----=∑∑∑ (9.1)上式称为Pearson 相关系数，其中))((nY X XY Y Y X X L XY ∑∑∑∑-=--= (9.2)是离均差积和，简称离差积和。
YY XX L L 、分别是变量X 、Y 的离均差平方和。
r 的符号由xy L 确定，相关系数r 是一个没有单位的统计指标，其取值范围为－1≤ r ≤ 1，同样，总体相关系数ρ也是没有单位的，并且取值范围也为－1≤ ρ ≤ 1。
相关系数大于0表示正相关；小于0表示负相关；等于0表示零相关。
相关系数的绝对值越接近1，两个变量的线性相关程度越密切；相关系数越接近0，两个变量的线性相关越不密切。
如图9.2中，图a 和图e 中的X 和Y 同时增大或同时减小，变化方向相同，并呈线性变化趋势故为正相关，相应的相关系数r>0；反之，在图b 和图f 中的X 与Y 之间呈反方向伴随线性变化趋势，故为负相关，相应的相关系数r<0。
在图c 、图g 和图h 中，X 和Y 没有任何伴随变化趋势，故为零相关或不相关，相应的相关系数r ≈0；图d 的散点呈函数曲线状的伴随变化，但不是呈直线伴随变化，故也为零相关(即零线性相关)，相应的相关系数r ≈0。
比较图a ，图b ，图c 和图d ，我们可以发现图e 和图f 中的X 与Y 线性相关密切程度远高于图a 和图b ，故图e 和图f 的相例9.1测得某地15名正常成年男子的身高X （cm ）、体重Y （kg ）如表9.1，试计算X 和Y 之间的直线相关系数。
先将数据绘制成散点图（见图9.1），再计算XX L 、YY L 和XY L ，附于表9.1下端。
代入公式(9.1)计算得0.5994 5833.54168.9333115.8333 ===YYL XXL XY L r表9.1 某地正常成年男子的身高X （cm ）、体重Y （kg ） 编号 X Y XY 1 171.0 58.0 9918.0 2 176.0 69.0 12144.0 3 175.0 74.0 12950.0 4 172.0 68.0 11696.0 5 170.0 64.0 10880.0 6 173.0 68.5 11850.5 7 168.0 56.0 9408.0 8 172.0 54.0 9288.0 9 170.0 62.0 10540.0 10 172.0 63.0 10836.0 11 173.0 67.0 11591.0 12 168.0 60.0 10080.0 13 171.0 68.0 11628.0 14 172.0 76.0 13072.0 15 173.0 65.0 11245.0合计 ∑=X 2576.0 ∑=Y 972.5 ∑=2X 442454.0 ∑=2Y 63592.25=XX L 68.9333=YY L 541.8333=XY L 115.8333三、直线相关系数假设检验由样本计算出的相关系数r 是总体相关系数ρ的估计。
由于存在抽样误差，即使ρ=0，r 一般也不等于0。
因此有必要根据r 检验总体相关系数ρ是否等于0，从而推断两变量间是否存在相关关系。
检验方法如下：检验假设 H 0：总体相关系数ρ=0； H 1：总体相关系数0≠ρ；检验统计量2 ,212-=--=n n r r t r ν自由度 (9.3)服从自由度为n-2的t 分布。
如果在α水平上拒绝H 0（接受H 1）则认为两变量间有线性相关关系存在，否则不能认为两变量间存在线性相关关系。
将例9.1数据代入公式（9.3）得t r =2.70，自由度13=ν，查双测t 检验界值表（附表2）得t 0.05/2,13=2.16，P <0.05。
因此在05.0=α的水平上认为某地正常成年男子身高和体重之间存在线性相关关系。
四、总体相关系数的可信区间如果经检验认为两变量间存在相关关系，即0≠ρ，ρ可用r 估计之。
通常还需要构造ρ的可信区间，由于ρ≠0的样本相关系数r 呈偏态分布，故需作z 变换，计算过程如下。
1．对r 做z 变换：11ln 21r r z -+=(9.4) z 近似服从)31,(-μρn N z ，其中ρ-ρ+=μρ11ln 21z 。
根据正态分布原理，μz ρ的1-α可信区间为（3/2/--n u z α，3/2/-+n u z α）；2．对μz ρ的1-α可信区间的两端点z L 、z U 做如下变换（逆z 变换），1122+-=z z e e r (9.5)得到ρ的1-α可信区间（L r ，U r ）。
例9.1中ρ的95%可信区间为（0.1257，0.8505）。
五、用Stata 软件计算相关系数(以例9.1为例，数据文件为ex9-1.dta) graph x y [绘散点图]计算Pearson 相关系数，假设检验P 值，并用*表示P<0.05。
Stata 命令输出结果输出结果表明X 和Y 的相关系数为0.5994，P=0.0182，小于0.05。
第二节 直线回归一、直线回归的基本概念上节讨论了两变量之间的线性相关关系，但在许多情况下，我们希望确定其中一个变量Y 随另一变量X 的线性变化规律。
这种线性变化规律称之为直线回归。
Y 称为因变量（dependent variable ），或称应变量（response variable ）；X 称为自变量（independent variable ），或称解释变量（explanatory variable ）。
因为一旦这种线性变化规律可以被定量地描述，我们就可以由X 定量地预测Y 的大小，如用儿童的年龄预测其身高等。
为了较直观地说明直线回归中的有关概念，我们以某地18名3岁至8岁男孩的年龄(X)与身高(Y)的数据(见例9.2) 绘制成散点图(见图9.3)。
图9.3 某地男童身高与年龄的散点图从图9.3上，我们可以发现样本点(X,Y)随机地出现在一条直线附近，并且从资料背景上考察，同一年龄的儿童身高应近似服从一个正态分布，而儿童身高的总体均数应随着年龄增长而增大，因此推测儿童身高的总体均数与年龄可能呈直线关系。
故假定Y 在X 点上的总体均数X Y |μ与X 呈直线关系（见图9.4）。
|X X Y βαμ+= (9.6)公式（9.6）称为直线回归方程。
其中β为回归系数（regression coefficient ），或称为斜率（slope ）；α称为常数项（constant ），或称为截距（intercept ）。
回归系数β表示X 变化一个单位Y 平均变化β个单位。
因此β>0时，大多数的Y 随着X 增大而增大；β<0时，大多数的Y 随着X 增大而减小；对于Y 是随机变量，其均数μY|X 满足公式（9.6）的回归方程并且β≠0，则称Y 与X 有直线回归关系。
若β＝0，则称X 与Y 没有直线回归关系。
由于在大多数情况下，α和β是未知的，所以需要用样本进行估计的，用样本估计的回归方程记为bX a Y+=ˆ (9.7)二、直线回归方程的建立实际应用中要根据样本数据建立直线回归方程，即给出α、β的估计。
常用的估计方法是最小二乘法，其基本原理是：对于任一X ，根据直线回归方程得到x y |μ相应的估计值（预测值）记为Yˆ，使得Y ˆ与观测值Y 差值的平方和 )--( )ˆ(22∑∑=-=bX a Y Y Y SSE (9.8)达到最小的a 、b 称为α、β的最小二乘估计（least square estimate ）。
运用导数法对公式（9.8）求极值，不难解得：)())((2Xb Y a L L X X Y Y X X b XXXY-==---=∑∑(9.9)由公式（9.9）确定的直线回归方程有两个特点： 1．回归方程通过点（Y X ,）；μY|XXYμY|X =α+βX图9.4 直线回归基本原理示意 μY|X2．平方和∑-2)ˆ(YY 达到最小。