SPSS第六讲线性回归分析
SPSS软件的操作与应用第6讲 回归概念、回归系数
21
三、线性回归
5. SPSS操作及案例分析
结果分析： 从建立的散点图来看，自变量x和因变量y之间存在一定的线性关系，而且相 关程度较高。
22
三、线性回归
5. SPSS操作及案例分析
结果分析： (1) 变量进入/移出表（表1） Enter表示选定变量全部进入模型 (2) 模型综述表（表2） 相关系数R=0.916、判定系数R2=0.839、调整判定系数R2=0.830，说明变量之间 相关程度高，回归方程的拟合优度高。
18
三、线性回归
4. 线性回归方程的统计检验
(3)异方差分析 无论变量的取值如何变化，对应的残差分析的方差都应相等(齐性)，否 则认为出现了异方差现象，异方差会导致回归系数的显著性检验出现较大偏 差。可以通过： 绘制残差图和等级相关分析来分析。 (4)探测样本中的异常值 异常值对回归方程影响较大，可以利用残差分析探测样本中的异常值， 加以排除。 对于探测因变量y中的异常值方法：标准化残差、学生化残差和剔除残 差。 对于探测自变量x中的异常值方法：杠杆值、库克距离、标准化回归系 数和标准化预测值的变化。
1 0 i 0
17
三、线性回归
4. 线性回归方程的统计检验 残差分析 残差是指由回归方程计算所得的预测值与实际样本值之间的差距。 残差分析是回归方程检验的重要组成部分，如果回归方程能够较 好地反映变量之间的变化规律，那么残差中不包含明显的规律性和趋 势性。 残差分析的主要内容
(1)残差均值为0的正态性分析 对应的残差有正负，但总体上应服从以0为均值的正态分布。可以通过 绘制标准化(或学生化)残差的累计概率图来分析。 (2)残差的独立性分析 回归方程要求前期和后期的残差数值之间不存在相关关系，即不存在自 相关。可以通过绘制残差的序列图、计算残差的自相关系数和DW(DurbinWatson)检验来分析
SPSS多元线性回归分析实例操作步骤
SPSS多元线性回归分析实例操作步骤多元线性回归是一种常用的统计分析方法，用于探究多个自变量对因变量的影响程度。
SPSS（Statistical Package for the Social Sciences）是一款常用的统计软件，可以进行多元线性回归分析，并提供了简便易用的操作界面。
本文将介绍SPSS中进行多元线性回归分析的实例操作步骤，帮助您快速掌握该分析方法的使用。
步骤一：准备数据在进行多元线性回归分析之前，首先需要准备好相关的数据。
数据应包含一个或多个自变量和一个因变量，以便进行回归分析。
数据可以来自实验、调查或其他来源，但应确保数据的质量和可靠性。
步骤二：导入数据在SPSS软件中，打开或创建一个新的数据集，然后将准备好的数据导入到数据集中。
可以通过导入Excel、CSV等格式的文件或手动输入数据的方式进行数据导入。
确保数据被正确地导入到SPSS中，并正确地显示在数据集的各个变量列中。
步骤三：进行多元线性回归分析在SPSS软件中，通过依次点击"分析"-"回归"-"线性"，打开线性回归分析对话框。
在对话框中，将因变量和自变量移入相应的输入框中。
可以使用鼠标拖拽或双击变量名称来快速进行变量的移动。
步骤四：设置分析选项在线性回归分析对话框中，可以设置一些分析选项，以满足具体的分析需求。
例如，可以选择是否计算标准化回归权重、残差和预测值，并选择是否进行方差分析和共线性统计检验等。
根据需要，适当调整这些选项。
步骤五：获取多元线性回归分析结果点击对话框中的"确定"按钮后，SPSS将自动进行多元线性回归分析，并生成相应的分析结果。
结果包括回归系数、显著性检验、残差统计和模型拟合度等信息，这些信息可以帮助我们理解自变量对因变量的贡献情况和模型的拟合程度。
步骤六：解读多元线性回归分析结果在获取多元线性回归分析结果之后，需要对结果进行解读，以得出准确的结论。
SPSS的线性回归分析分析
SPSS的线性回归分析分析SPSS是一款广泛用于统计分析的软件，其中包括了许多功能强大的工具。
其中之一就是线性回归分析，它是一种常用的统计方法，用于研究一个或多个自变量对一个因变量的影响程度和方向。
线性回归分析是一种用于解释因变量与自变量之间关系的统计技术。
它主要基于最小二乘法来评估自变量与因变量之间的关系，并估计出最合适的回归系数。
在SPSS中，线性回归分析可以通过几个简单的步骤来完成。
首先，需要加载数据集。
可以选择已有的数据集，也可以导入新的数据。
在SPSS的数据视图中，可以看到所有变量的列表。
接下来，选择“回归”选项。
在“分析”菜单下，选择“回归”子菜单中的“线性”。
在弹出的对话框中，将因变量拖放到“因变量”框中。
然后，将自变量拖放到“独立变量”框中。
可以选择一个或多个自变量。
在“统计”选项中，可以选择输出哪些统计结果。
常见的选项包括回归系数、R方、调整R方、标准误差等。
在“图形”选项中，可以选择是否绘制残差图、分布图等。
点击“确定”后，SPSS将生成线性回归分析的结果。
线性回归结果包括多个重要指标，其中最重要的是回归系数和R方。
回归系数用于衡量自变量对因变量的影响程度和方向，其值表示每个自变量单位变化对因变量的估计影响量。
R方则反映了自变量对因变量变异的解释程度，其值介于0和1之间，越接近1表示自变量对因变量的解释程度越高。
除了回归系数和R方外，还有其他一些统计指标可以用于判断模型质量。
例如，标准误差可以用来衡量回归方程的精确度。
调整R方可以解决R方对自变量数量的偏向问题。
此外，SPSS还提供了多种工具来检验回归方程的显著性。
例如，可以通过F检验来判断整个回归方程是否显著。
此外，还可以使用t检验来判断每个自变量的回归系数是否显著。
在进行线性回归分析时，还需要注意一些统计前提条件。
例如，线性回归要求因变量与自变量之间的关系是线性的。
此外，还需要注意是否存在多重共线性，即自变量之间存在高度相关性。
SPSS线性回归分析
SPSS分析技术:线性回归分析相关分析可以揭示事物之间共同变化的一致性程度，但它仅仅只是反映出了一种相关关系，并没有揭示出变量之间准确的可以运算的控制关系，也就是函数关系，不能解决针对未来的分析与预测问题。
回归分析就是分析变量之间隐藏的内在规律，并建立变量之间函数变化关系的一种分析方法，回归分析的目标就是建立由一个因变量和若干自变量构成的回归方程式，使变量之间的相互控制关系通过这个方程式描述出来。
回归方程式不仅能够解释现在个案内部隐藏的规律，明确每个自变量对因变量的作用程度。
而且，基于有效的回归方程，还能形成更有意义的数学方面的预测关系。
因此，回归分析是一种分析因素变量对因变量作用强度的归因分析，它还是预测分析的重要基础。
回归分析类型回归分析根据自变量个数，自变量幂次以及变量类型可以分为很多类型，常用的类型有：线性回归；曲线回归；二元Logistic回归技术；线性回归原理回归分析就是建立变量的数学模型，建立起衡量数据联系强度的指标，并通过指标检验其符合的程度。
线性回归分析中，如果仅有一个自变量，可以建立一元线性模型。
如果存在多个自变量，则需要建立多元线性回归模型。
线性回归的过程就是把各个自变量和因变量的个案值带入到回归方程式当中，通过逐步迭代与拟合，最终找出回归方程式中的各个系数，构造出一个能够尽可能体现自变量与因变量关系的函数式。
在一元线性回归中，回归方程的确立就是逐步确定唯一自变量的系数和常数，并使方程能够符合绝大多数个案的取值特点。
在多元线性回归中，除了要确定各个自变量的系数和常数外，还要分析方程内的每个自变量是否是真正必须的，把回归方程中的非必需自变量剔除。
名词解释线性回归方程：一次函数式，用于描述因变量与自变量之间的内在关系。
根据自变量的个数，可以分为一元线性回归方程和多元线性回归方程。
观测值：参与回归分析的因变量的实际取值。
对参与线性回归分析的多个个案来讲，它们在因变量上的取值，就是观测值。
SPSS的线性回归分析
线性回归方程的预测
(一)点估计
y0
(二)区间估计 300
200
领 导(管 理)人 数( y)
x0为xi的均值时,预 测区间最小,精度最
100
高.x0越远离均值,预 测区间越大,精度越
低.
0
200
400
600
800
1000
1200
1400
1600
1800
普通职工数(x)
18
多元线性回归分析
(一)多元线性回归方程 多元回归方程: y= β0 +β1x1+β2x2+...+βkxk
– β1、β2、βk为偏回归系数。 – β1表示在其他自变量保持不变的情况下，自变量x1变动一个
单位所引起的因变量y的平均变动
(二)多元线性回归分析的主要问题
– 回归方程的检验 – 自变量筛选 – 多重共线性问题
19
多元线性回归方程的检验
(一)拟和优度检验:
(1)判定系数R2:
R21n n k11S SS ST ER21因均 变方 量误 的差 样
n
n
(yˆi y)2
(yi yˆ)2
R2
i1 n
1
i1 n
(yi y)2
(yi y)2
i1
i1
– R2体现了回归方程所能解释的因变量变差的比例;1-R2则体 现了因变量总变差中，回归方程所无法解释的比例。
– R2越接近于1，则说明回归平方和占了因变量总变差平方和 的绝大部分比例，因变量的变差主要由自变量的不同取值造 成，回归方程对样本数据点拟合得好
27
线性回归分析中的共线性检测
(一)共线性带来的主要问题
SPSS实操之线性回归分析
线性回归的位置
一元线性回归
实例1
对受访者的性别和月收入进行 一元线性回归分析
注意
当自变量是分类变量时，需要将原 变量转换成虚拟变量，所有虚拟变量都 是 “1”和“0”取值的二分变量。（当原 变量是二分类变量时，我们只需要设定 一个“1”、“0”取值的虚拟变量，并且 把取值为“0”的那个类别作为参照项）
步骤28：将原变量的其余取值都设为“0”
步骤29：点击“Continue”，回到主对话框
步骤30：点击“OK”，生成表示高中的虚拟变量edu3
步骤31：点击“Regression”中的“Linear”，弹出对话 框
步骤32：选择因变量“月收入”
步骤32：选择自变量“虚拟性别”,“edu1”,“edu2”，“edu3”和年龄
步骤21：重新点击“Recode”，弹出对话框
步骤22：将四分类的教育变量拖入中间空白框
步骤23：在Name栏中填写第二个虚拟变量edu3
步骤24：在Label栏中填写变量名标签－高中
步骤25：点击“Change”按钮
步骤26：点击“Old and New Values”按 钮
步骤27：将原变量中代表高中的“3”设为新变量的 “1”
步骤1：点击“Recode”，弹出对话框
步骤2：将四分类的教育变量拖入中间空白框
步骤3：在Name栏中填写第一个虚拟变量edu1
步骤4：在Label栏中填写变量名标签－小学
步骤5：点击“Change”按钮
步骤6：点击“Old an“1”设为新变量的“1”
从表中显著度<0.001，可以发现性别对收入的影 响是非常显著的。
多元线性回归
实例2
将受访者的性别、教育程度 （四分类的教育程度）和年龄作为 自变量，通过多元线性回归，分析 其对月收入的影响。
SPSS线性回归分析
选择此项不显示回 归方程中常数项。
Options 对话框
SAVE 对话框
四、回归分析的步骤
1.做出散点图,观察变量间的趋势； 2.考察数据的分布,进行必要的预处理； 3.进行直线回归分析； 4.残差分析； 5.强影响点的诊断及多重共线性问题的判断。
• 例1:以SPSS自带的数据文件“1991 U.S. General Social Survey.sav”
Model Summaryc
Change Statistics
M od e l 1 2
R
R Square
.559a
.312
.567b
.321
Adjusted R Square
.310
.317
Std. Error of the Estimate
10.855
10.799
R Square Change
.312
Highest Year School Completed, Mother
Highest Year School Completed, Spouse
R's Federal Income Tax
Mean Std. Deviation
44.71
13.066
44.02
14.028
13.75
2.671
10.60
.009
F Change 149.650 4.403
df1 1 1
Du rb i n -W df2 Sig. F Change atson
330
.000
329
.037
1.955
a. Predictors: (Constant), Highest Year of School Completed b. Predictors: (Constant), Highest Year of School Completed, Age of Respondent
SPSS多元线性回归分析报告实例操作步骤
SPSS多元线性回归分析报告实例操作步骤步骤1：导入数据首先，打开SPSS软件，并导入准备进行多元线性回归分析的数据集。
在菜单栏中选择"File"，然后选择"Open"，在弹出的窗口中选择数据集的位置并点击"Open"按钮。
步骤2：选择变量在SPSS的数据视图中，选择需要用于分析的相关自变量和因变量。
选中的变量将会显示在变量视图中。
确保选择的变量是数值型的，因为多元线性回归只适用于数值型变量。
步骤3：进行多元线性回归分析在菜单栏中选择"Analyze"，然后选择"Regression"，再选择"Linear"。
这将打开多元线性回归的对话框。
将因变量移动到"Dependent"框中，将自变量移动到"Independent(s)"框中，并点击"OK"按钮。
步骤4：检查多元线性回归的假设在多元线性回归的结果中，需要检查多元线性回归的基本假设。
这些假设包括线性关系、多重共线性、正态分布、独立性和等方差性。
可以通过多元线性回归的结果来进行检查。
步骤5：解读多元线性回归结果多元线性回归的结果会显示在输出窗口的回归系数表中。
可以检查各个自变量的回归系数、标准误差、显著性水平和置信区间。
同时，还可以检查回归模型的显著性和解释力。
步骤6：完成多元线性回归分析报告根据多元线性回归的结果，可以编写一份完整的多元线性回归分析报告。
报告应包括简要介绍、研究问题、分析方法、回归模型的假设、回归结果的解释以及进一步分析的建议等。
下面是一个多元线性回归分析报告的示例：标题：多元线性回归分析报告介绍：本报告基于一份数据集，旨在探究x1、x2和x3对y的影响。
通过多元线性回归分析，我们可以确定各个自变量对因变量的贡献程度，并检验模型的显著性和准确性。
研究问题：本研究旨在探究x1、x2和x3对y的影响。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1
Reg res s io17n62.582
2 881.291 146.361
Sig . .000a
Res idu al5840.724
970
6.021
To tal 7603.305
972
a.P redictors: (Constant), Highest Year School Comp leted, M other, H ighes
• 2、如果知道X与Y有关系，根据X的值来预测Y的 值，可以减少若干误差。
• 3、X与Y的关系愈强，所能减少的预测误差就会 愈多。
• 4、 所削减的误差的多少，可以反映X与Y相关的 强弱程度 。
• 5、消减误差比例：表示用一个现象(如变量X)来 解释另一个现象(如变量Y)时能够消减的总误差的 比例，即减少的误差与原来的全部误差之比。
•
Total Sum of Squares ＝
yi
_
y
2
• Residual Sum of Squares ＝ yiabx2
• Regression Sum of Squares • R2 ＝ SSR/TSS
SPSS第六讲线性回归分析
二元线性回归方程检验
ANOVbA
M o del
Sum o f Sq uares d f Mean Sq uare F
第六讲 线性回归分析
• 一、线性回归分析的基本原理 • 二、线性回归分析操作步骤与说明 • 三、一元线性回归分析 • 四、多元线性回归分析 • 五、多元线性回归分析中共线性的含义及其后果 • 六、判断高度共线性的指标方法 • 七、高度共线性的解决思路 • 八、多元线性回归方法
SPSS第六讲线性回归分析
SPSS第六讲线性回归分析
相关类型
图1
图2
图5
图3
图4 SPSS第六讲线性回归分析
图6
讨论：
• 统计上相关与实际相关？
• 相关关系 • 统计相关 • 因果关系 • 统计因果关系 • 相关是回归的基础
SPSS第六讲线性回归分析
（二）回归分析的含义与类型
• （1）含义：自变量每改变一个单位，因变量的均 值变化情况。
• （2）回归模型设定：统计上的“因果”关系，确定 了自变量与因变量（假设）。
• （3）类型： • 根据自变量的多少，可分为一元回归分析、多元
回归分析； • 根据关系类型，可分为线性回归、非线性回归； • 本课程讲解一元线性回归、多元线性回归。
SPSS第六讲线性回归分析
一元线性回归方程求解
• Y=aX+b
1、PRE数值的取值范围是[o，1] 2、PRE=1，或E2＝o，即以X预测Y不会产生任何误
差，则反映X与Y是完全相关 3、PRE＝o ，或E2＝E1，即以X预测Y所产生的误差相
等于不以X来预测y所产的误差，反映X与Y是不相关。 4、PRE数值越接近1，就表示以X预测Y可以减少的
误差越多，反映二者的相关程度越高；PRE值越 接近0，反映二者的相关程度越低。
x2n
x3n
…
xkn
yn
yn′
SPSS第六讲线性回归分析
SPSS第六讲线性回归分析
一元线性回归方程检验
ANOVbA
Mo d el
Sum of Squares df Mean Square F
1
Regres s io18n67.896
1 1867.896 290.715
Sig . .000a
Res idual6829.963
SPSS第六讲线性回归分析
消减误差比例表达式：
E2 E1
E1-E2
不知道X与Y的关系，在预测Y
知道X与Y之间的关系，据此
值时所产生的全部误差是E1 。 来预测Y值，误差总数是E2 。
在知道X与Y的关系模式的情况下，所消 解掉的的误差=E1-E2
PSRPSES第六E讲1 线—性回E归2 分析 E1
消减误差比例 （PRE的取值及其意义）
b.D ep endent Variable: Highest Year of School Co mp leted
•
Total Sum of Squares ＝
yi
_
y
2
• Residual Sum of Squares ＝ y ia b 1 x 1 b 2 x 22
• Regression Sum of Squares
（Wonnacott,R. M. & T. H. Wonnacott, 1979）
SPSS第六讲线性回归分析
（四）多元线性回归分析的逻辑
x1
x2
x3
…
xk
y
y′
x11
x21
x31
…
xk1
y1
y1′
x12
x22
x32
…
xk2
y2
y2′
x13
x23
x33
…
xk3
y3
y3′
… … … … … ……
x1n
SPSS第六讲线性回归分析
如何判定线性拟合（fitness）
1、散点图
2、线性拟合优度指标：判定 系数R2 （0～1）
SPSS第六讲线性回归分析
调整的R2系数：
• 如果增加自变量，不管增加后的自变量是否 与因变量有关系，都会使判定系数（R2）增 大，如果自变量的数目（K）接近样本的个 案数（n）， R2将会必然接近于1.0，解决 这一问题的方法是使用“校正的” R2 。
一、线性回归分析的基本原理
• （一）相关与回归的关系 • （二）回归分析的含义与类型 • （三）消减误差比例思想与判定系数 • （四）回归分析的逻辑
SPSS第六讲线性回归分析
（一）相关与回归的关系
• 1、相关与回归的关系 • （1）函数关系 • （2）统计相关：线性相关；非线性相关 • （3）因果关系
• R2 ＝ SSR/TSS SPSS第六讲线性回归分析
三元线性697.859
1064
a.Predictors: (Constant), Highest Year School Completed, Fat her b.D ep endent Variable: H ighest Year of School Comp leted
Y
• 最小二乘法求a、b
X
最小二乘法图示
SPSS第六讲线性回归分析
二元线性回归方程
Y
Y
X1
自变量X1与Y的散点图
X2
自变量X2与Y的散点图
• Y=a1X1+a2X2+b
SPSS第六讲线性回归分析
（三）“消减误差比例”思想
——用“已知”来估计“未知”、减少犯错概率
• 1、要预测或理解社会现象Y变化的情况难免会有 误差。