SAS软件使用-6-简单线性回归与相关(太原理工大学)
合集下载
最新SAS 统计软件课件 第五章 线性回归分析精品PPT课件
y第一节一元线性回归回归参数的计算最小二乘法期望拟合的线性回归方程与试验资料的误差最小拟合的误差也称作离回归平方和或残差可以利用数学中求极值的方法解出a误差平方和
第五章 线性回归(huíguī)分析
一、一元线性回归 二、一元线性回归方程 三、回归关系的显著性检验 (jiǎnyàn) 四、置信区间 五、多元线性回归 六、回归诊断
10810 10 2 49421000
t b 0.094868 18.14 sb 0.005229
第十六页，共44页。
实例(shílì)：t 检验
dfe n 2 10 2 8， t0.05 2.306，t0.01 3.355 | t | 18.14 t0.01 3.355
线性回归方程便已求出为： yˆ a bx
第六页，共44页。
第三节 回归关系的显著性检验
如果在模型 yi＝ + xi +i 中， ＝ 0，这就意味着
不管 xi为什么值， yi 都不发生实质性变化；换言之，x
和 y 之间没有显著的回归关系。
检验线性回归关系是否存在(cúnzài)，就是检验建立
y1
Y
y
2
y
n
1
1
X 1
1
x11 x12 x1m
b0
0
x21
x22
x2m
b1
1
x31
x23
x3m
B
b2
2
xn1 xn2 xnm
bm
n
解得： B ( X ' X )1 X 'Y
第二十四页，共44页。
第五节 多元线性回归分析
三、假设检验
误差(wùchā)平方和：
第五章 线性回归(huíguī)分析
一、一元线性回归 二、一元线性回归方程 三、回归关系的显著性检验 (jiǎnyàn) 四、置信区间 五、多元线性回归 六、回归诊断
10810 10 2 49421000
t b 0.094868 18.14 sb 0.005229
第十六页，共44页。
实例(shílì)：t 检验
dfe n 2 10 2 8， t0.05 2.306，t0.01 3.355 | t | 18.14 t0.01 3.355
线性回归方程便已求出为： yˆ a bx
第六页，共44页。
第三节 回归关系的显著性检验
如果在模型 yi＝ + xi +i 中， ＝ 0，这就意味着
不管 xi为什么值， yi 都不发生实质性变化；换言之，x
和 y 之间没有显著的回归关系。
检验线性回归关系是否存在(cúnzài)，就是检验建立
y1
Y
y
2
y
n
1
1
X 1
1
x11 x12 x1m
b0
0
x21
x22
x2m
b1
1
x31
x23
x3m
B
b2
2
xn1 xn2 xnm
bm
n
解得： B ( X ' X )1 X 'Y
第二十四页，共44页。
第五节 多元线性回归分析
三、假设检验
误差(wùchā)平方和：
SAS回归检验
用SAS/INSIGHT进行线性回归分析上面我们已经看到，用菜单“Analyze | Fit (Y X)”就可以拟合一条回归直线，这是对回归方程的估计结果。
这样的线性回归可以推广到一个因变量、多个自变量的情况。
线性模型写成矩阵形式为下面列出了线性模型中常用的一些量和结论：∙为因变量向量∙为矩阵，一般第一列元素全是1，代表截距项∙为未知参数向量∙为随机误差向量，元素独立且方差为相等的（未知）。
∙正常情况下，系数的估计为∙拟合值（或称预报值）为∙其中是空间内向的列张成的线性空间投影的投影算子矩阵，叫做“帽子”矩阵。
∙拟合残差为∙残差平方和为∙误差项方差的估计为（要求设计阵满秩）均方误差（MSE）∙ 在线性模型的假设下，若设计阵 满秩， 和 分别是 和 的无偏估计，系数估计的方差阵 。
∙ 判断回归结果优劣的一个重要指标为复相关系数平方（决定系数）（其中），它代表在因变量的变差中用模型能够解释的部分的比例，所以 越大说明模型越好。
例如，我们在“Fit (Y X)”的选择变量窗口选Y 变量（因变量）为体重（WEIGHT ），选X 变量（自变量）为身高（HEIGHT ）和年龄（AGE ），则可以得到体重对身高、年龄的线性回归结果。
下面对基本结果进行说明。
回归基本模型：WEIGHT = HEIGHT AGEResponse Distribution: NormalLink Function: Identity回归模型方程：Model EquationWEIGHT = - 141.2238 + 3.5970 HEIGHT + 1.2784 AGE 拟合概况：Summary of FitMean of Response 100.0263 R-Square 0.7729 Root MSE 11.5111 Adj R-Sq 0.7445 其中Mean of Response 为因变量（Response ）的均值，Root MSE 叫做根均方误差，是均方误差的平方根，R-Square 即复相关系数平方，Adj R-Sq 为修正的复相关系数平方，其公式为 ，其中 当有截距项时取1，否则取0，这个公式考虑到了自变量个数 的多少对拟合的影响，原来的随着自变量个数的增加总会增大，而修正的则因为 对它有一个单调减的影响所以 增大时修正的不一定增大，便于不同自变量个数的模型的比较。
SAS软件使用-
SAS的安装与启动 4. SAS显示管理系统（Display Manager）的窗口： 程序编辑窗口（Program Editor窗口）：该窗口 主要功能是编辑 SAS 程序，将程序提交系统执 行。 日志窗口（ Log 窗口）：该窗口主要作用是显 示运行程序后的有关信息，包括程序行（黑 色）、提示（蓝色）、警告（绿色）和错误 （红色）。 结果输出窗口（ Output 窗口）：该窗口隐藏在 上述两个窗口的后面，主要作用是显示程序运 行的结果。如果程序正常运行，结果窗口会自 动出现，可供打印和保存。 左侧：资源管理器Explorer和结果管理Results
数据的输入方式： 1. 直接输入方式 data a; 命名将要建立的数据集名 input age gender @@; 要输入的变量为年 龄和性别，并且是连续输入 cards; 直接输入数据，数据块开始 50 1 45 0 56 1 60 0 65 1 数据块 ; 数据块结束
2. 读入其他格式的数据文件 SAS6.12版本以上的，可以利用FILE菜 单上的import命令将其他格式的数据文件 如文本文件（*.txt）、 EXCEL文件 （*.xls）、 dBASEII/III/IV、FoxBASE、 Foxpro、Visual Foxpro数据库文件（*.dbf） 导入SAS系统，创建SAS数据集。
过程步（Procedure Step ）要求 SAS 系统从过程 库中调用一个或多个过程，对已建立的数据集 进行数据管理和分析。每个过程步以 PROC 语 句开始。 过程步名 功能 SORT 按指定变量排序 PRINT 将数据集中的数据列表输出 UNIVARIATE 计量资料统计描述 MEANS 计量资料简单统计描述 FREQ 计数资料统计描述和推断 TTEST t检验 ANOVA 方差分析
SAS相关分析-简单相关、偏相关讲义资料
三、简单相关的散点图表示
表5.1 为说明两变量之间的线性关系而假设的三组（x，y）观察值
组别 变量
观察值
平均数
平方之和
第一组 x1 y1
第二组 x2 y2
第三组 x3 y3
7716538931 5961319468 9877653311 9986654311 1133567789 9986654311
计算
sr
1 r22 n2
1 0.97722 0.0751 10 2
t = r/sr = 0.9772/0.0751 = 13.01
查表：t0.05，8＝2.306，t0.01，8＝3.356
t = 13.01 > t0.01 ＝ 3.356
推断变量x2和y2相关达极显著
第一节 简单相关分析
在第三组数据中，随着x3数值的增大， y3值有减少的趋势，有负的线形相关关系。
相关系数
四、简单相关系数
相关系数是描述线性相关程度和方向的统计量 Pearson相关系数：
r (x x)( y y) (x x)2 (y y)2
Cov(x, y)
SxSy
第一节 简单相关分析
四、简单相关系数
2、统计量r显著性检验
第一步：作统计假设 H 0 : 0 H A : 0
第二步：计算统计量r，根据df =n-2，查相关
系数显著性检验表，从而获得r0.05和r0.01 。
第三步：作统计推断 1、|r|<r0.05 推断相关不显著； 2、r0.05<=|r|<r0.01 推断相关达显著； 3、|r| >= r0.01 推断相关达极显著。
观察值
平均数
平方之和
第一组 x1 y1
sas实习五 直线回归与相关
义点和线的颜色*/
run;
【plot语句选项】
haxis=数值 定义横坐标的刻度 vaxis=数值 定义纵坐标的刻度 caxis=颜色 定义坐标轴的颜色 ctext=颜色 定义坐标轴文本的颜
色
【 symbol 语句选项】
Value=符号 可用符号及相应名称：+ plus ★ star
I=连线方式 ① join 直接连接 ② spline 光滑曲线连接 ③ rl 添加回归直线
4. 直线相关
Pearson积矩相关系数
n
r lxy
(xi x )( yi y )
i 1
lxx l yy
n
n
(xi x )2 ( yi y )2
i 1
i 1
5. Spearman秩相关
适用条件：
• 不服从双变量正态分布而不宜作直线相关分析 • 总体分布类型未知 • 原始数据用等级表示的资料 Spearman秩相关系数： 用秩次作为分析变量值，直接计算Pearson积矩相 关系数。
例13.4 data xt13_4; input x y@@; cards; 500 525 475 130 390 325 325 190 325 90 205 295 200 180 75 74 230 420 50 60 175 105 130 148 76 75 200 250 174 102 201 151 125 130 ; run; proc corr spearman; /*调用corr过程，计算spearman相关系数 */ var x y; run;
run;
1 散点图的绘制—gplot过程 2 直线回归分析—reg过程 3 相关分析—corr过程、freq过程
run;
【plot语句选项】
haxis=数值 定义横坐标的刻度 vaxis=数值 定义纵坐标的刻度 caxis=颜色 定义坐标轴的颜色 ctext=颜色 定义坐标轴文本的颜
色
【 symbol 语句选项】
Value=符号 可用符号及相应名称：+ plus ★ star
I=连线方式 ① join 直接连接 ② spline 光滑曲线连接 ③ rl 添加回归直线
4. 直线相关
Pearson积矩相关系数
n
r lxy
(xi x )( yi y )
i 1
lxx l yy
n
n
(xi x )2 ( yi y )2
i 1
i 1
5. Spearman秩相关
适用条件：
• 不服从双变量正态分布而不宜作直线相关分析 • 总体分布类型未知 • 原始数据用等级表示的资料 Spearman秩相关系数： 用秩次作为分析变量值，直接计算Pearson积矩相 关系数。
例13.4 data xt13_4; input x y@@; cards; 500 525 475 130 390 325 325 190 325 90 205 295 200 180 75 74 230 420 50 60 175 105 130 148 76 75 200 250 174 102 201 151 125 130 ; run; proc corr spearman; /*调用corr过程，计算spearman相关系数 */ var x y; run;
run;
1 散点图的绘制—gplot过程 2 直线回归分析—reg过程 3 相关分析—corr过程、freq过程
SAS软件应用之直线回归与相关文件材料
政府与公共部门
用于数据管理、统计分析、决策支持等。
医药领域
用于临床试验数据分析、药品研发、流行病 学研究等。
学术研究
用于数据管理、统计分析、预测建模等。
sas软件的特点与优势
功能强大
SAS拥有丰富的统计分析、数据管理、 预测建模等功能，能够满足各种数据分
析和处理需求。
可扩展性
SAS具有强大的可扩展性，能够与其 他软件进行集成，满足更复杂的数据
在直线回归分析中，我们通常关注自变量X对因变量Y的影响 ，并使用回归系数来量化这种影响。回归系数表示当自变量X 变化一个单位时，因变量Y预期的变化量。
直线回归分析的原理
原理基于最小二乘法，通过最小 化观测值与回归线之间的垂直距 离平方和来拟合最佳拟合直线。
在拟合最佳拟合直线时，我们考 虑所有观测值的影响，并赋予每 个观测值相应的权重。距离回归 线较远的观测值会被赋予较小的 权重，而距离回归线较近的观测 值会被赋予较大的权重。
分析需求。
易用性
SAS的用户界面友好，易于学习掌握， 能够帮助用户快速上手。
安全性
SAS提供了强大的数据安全保障功能， 能够保护用户数据的安全和隐私。
02 直线回归分析
直线回归分析的定义
直线回归分析是一种统计学方法，用于研究两个或多个变量之 间的关系。它通过建立一条最佳拟合直线来描述因变量（通常 表示为Y）和自变量（通常表示为X）之间的关系。
sas软件应用之直线回归与相关文 件材料
contents
目录
• sas软件介绍 • 直线回归分析 • 使用sas进行直线回归分析 • 相关文件材料
01 sas软件介绍
sas软件的发展历程
01
02
03
用于数据管理、统计分析、决策支持等。
医药领域
用于临床试验数据分析、药品研发、流行病 学研究等。
学术研究
用于数据管理、统计分析、预测建模等。
sas软件的特点与优势
功能强大
SAS拥有丰富的统计分析、数据管理、 预测建模等功能，能够满足各种数据分
析和处理需求。
可扩展性
SAS具有强大的可扩展性，能够与其 他软件进行集成，满足更复杂的数据
在直线回归分析中，我们通常关注自变量X对因变量Y的影响 ，并使用回归系数来量化这种影响。回归系数表示当自变量X 变化一个单位时，因变量Y预期的变化量。
直线回归分析的原理
原理基于最小二乘法，通过最小 化观测值与回归线之间的垂直距 离平方和来拟合最佳拟合直线。
在拟合最佳拟合直线时，我们考 虑所有观测值的影响，并赋予每 个观测值相应的权重。距离回归 线较远的观测值会被赋予较小的 权重，而距离回归线较近的观测 值会被赋予较大的权重。
分析需求。
易用性
SAS的用户界面友好，易于学习掌握， 能够帮助用户快速上手。
安全性
SAS提供了强大的数据安全保障功能， 能够保护用户数据的安全和隐私。
02 直线回归分析
直线回归分析的定义
直线回归分析是一种统计学方法，用于研究两个或多个变量之 间的关系。它通过建立一条最佳拟合直线来描述因变量（通常 表示为Y）和自变量（通常表示为X）之间的关系。
sas软件应用之直线回归与相关文 件材料
contents
目录
• sas软件介绍 • 直线回归分析 • 使用sas进行直线回归分析 • 相关文件材料
01 sas软件介绍
sas软件的发展历程
01
02
03
sas 课件第6讲 SAS系统与回归分析
简单线性回归模型
因变量Ｙ和自变量x的n次观测数据(xi ,Yi) 可以用以下方程表示： Yi = 0 + 1 xi + i (i=1,2,. . .,n) Yi : 因变量的第 i 次观测值; xi : 自变量的第 i 次观测值;
0,1: 待估计的未知参数. 0是截距参数，它对应自变量为0时因变
35
一元线性回归分析
一元线性回归的计算--例子
•proc reg data=hbs.fitness ; • model oxygen = runtime ; •run; •proc reg data=hbs.fitness ; • model oxygen = runtime / p cli clm ; • id runtime; • output out=outfit p=poxy r=roxy • l95=l95oxy u95=u95oxy; •run;
相关系数(Correlation Coef.)
• 线性联系是描述变量间联系中最简单 和最常用的一种(Y=a1x1+a2x2+b);
• 相关系数是描述两个变量间线性联系 程度 的统计指标; • 相关系数的计算公式：
r
( X X )(Y Y ) ( X X ) (Y Y )
例:讨论英国11年有执照汽车数x(万辆)与车祸次数Y(千次)的
相关关系(数据见DATA步的数据行),并进行预测.
解:(1) 用编程,首先生成SAS数据集dreg.
data dreg; input year y x @@; cards; 1947 166 352 1948 153 1950 201 441 1951 216 1953 227 529 1954 238 1956 268 692 1957 274 ;
SAS相关与回归分析
6.2.2 PLOT过程
PROC PLOT 选择项1 ; BY 变量 ; PLOT 垂直变量 * 水平变量 … / 选择项2 ; RUN ;
例6.3
SAS程序corr6_3.sas 此图为原始数据的散点图，纵轴为小麦结实率 y，横轴为孕穗期平均温度x1、平均最低温 度x2、抽穗期平均温度x3、平均最低温度x4， 四个二维图重叠在一起，小麦结实率y与四 个变量都有一定的相关性。
程序说明：因变量y与自变量x满足负指数函数 模型：y=b0(1-e-b1x)。有两个参数b0和b1用 MARQUARDT方法求参数的最小二乘估计。 参数的初值：b0取0、0.5、1、1.5、2共5个 值，b1取0.01、0.02、……0.09共9个值，所 以可能的组合为5*9=45种，选best=10要求 输出残差平方和最小的前10种组合。
6.3.3 应用举例
data data_prg.reg6_6a; set data_prg.reg6_6; x11=x1*x1;x22=x2*x2;x33=x3*x3; run; proc reg data=data_prg.reg6_6a; model y=x1-x3 x11 x22 x33/selection=stepwise ; model y=x1-x3 x11 x22 x33/selection=b noint; model y=x1-x3 x11 x22 x33/selection=f noint; model y=x2 x22 x33/selection=stepwise noint r cli influence collin ; run; quit;
2.用方差膨胀因子来进行共线性诊断 1)容许度(Tolerance，MODEL语句斜杠后的选项为TOL) 对一个入选变量而言，其容许度等于1-R2，这里R2是把该自 变量当作因变量对模型中所有其余回归变量的决定系数， R2大(趋于1)，则1-R2=TOL小(趋于0)，容许度差，该变 量不由其他变量说明的部分相对较小。 2)方差膨胀因子(VIF) VIF=1/TOL，该统计量称为“方差膨胀因子”(Variance Inflation Factor)。对于不好的试验设计，VIF的取值可 能趋于无限大。VIF达到什么数值就可认为自变量间存 在共线性，尚无正规的临界值。[陈希孺、王松桂，1987] 根据经验得出：VIF＞5或10时，就有严重的多重共线性 存在。