多元线性回归模型
第三章 多元线性回归模型
即
Y Xb U
X 称为数据矩阵或设计矩阵。
6
二、古典假定
假定1：零均值假定 E(ui ) 0 (i 1,2,...,n)
1 E ( 1 ) E ( ) 2 2 E (μ) E 0 n E ( n )
写成矩阵形式：
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n X 31 X k 1 b 1 u1 X 32 X k 2 b 2 u 2 X 3 n X kn b k un
或
ei 1 X 21 X e 1 X 22 2i i X ki ei 1 X 2 n X 31 X k 1 e1 X 32 X k 2 e2 X e 0 X 3 n X kn en
9
当总体观测值难于得到时，回归系数向 量 b 是未知的，这时可以由样本观测值进行 估计，可表示为
ˆ ˆ Xb Y
但实际观测值与计算值有偏差，记为：
ˆ e Y Y
于是
ˆ e Y Xb
称为多元样本回归函数。
10
ˆ b 1 ˆ b2 ˆ b ˆ b k
同理
ˆ x x b ˆ x 2 x3 i yi b 2 2i 3i 3 3i
x2 i yi x x3 i yi x2 i x3 i ˆ b2 2 2 2 x2 x ( x x ) i 3i 2i 3i
2 3i
x3 i yi x x2 i yi x2 i x3 i ˆ b3 2 2 2 x2 x ( x x ) i 3i 2i 3i
多元线性回归模型
Cov( X ji , i ) 0
j 1,2, k
假设4，随机项满足正态分布
i ~ N (0, 2 )
上述假设的矩阵符号表示 式：
假设1，n(k+1)维矩阵X是非随机的，且X的秩=k+1，
即X满秩。
回忆线性代数中关于满秩、线性无关!
假设2，
E (μ)
E
1
E (1 )
0
n E( n )
X ki ) ) X 1i ) X 2i
Yi Yi X 1i Yi X 2i
(ˆ0 ˆ1 X 1i ˆ2 X 2i ˆk X ki ) X ki Yi X ki
解该（ k+1）个方程组成的线性代数方程组，即
可得到(k+1) 个待估参数的估计值
$ j
,
j
0,1,2, ,
k
。
□正规方程组的矩阵形式
en
二、多元线性回归模型的基本假定
假设1，解释变量是非随机的或固定的，且各X之间互不 相关（无多重共线性）。
假设2，随机误差项具有零均值、同方差及不序列相关 性。
E(i ) 0
i j i, j 1,2,, n
Var
(i
)
E
(
2 i
)
2
Cov(i , j ) E(i j ) 0
假设3，解释变量与随机项不相关
这里利用了假设: E(X’)=0
等于0，因为解释变 量与随机扰动项不相 关。
3、有效性（最小方差性）
ˆ 的方差-协方差矩阵为
Co（v ˆ） E{[ˆ E（ˆ）][ˆ E（ˆ）]}
E[(ˆ )(ˆ )]
E{（[ X X）-1X ]（[ X X）-1X ]}
第三章多元线性回归模型(计量经济学,南京审计学院)
Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I
由
可推出：
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小，则应有：
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt
多元线性回归的计算模型
多元线性回归的计算模型多元线性回归模型的数学表示可以表示为：Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y表示因变量，Xi表示第i个自变量，βi表示第i个自变量的回归系数（即自变量对因变量的影响），ε表示误差项。
1.每个自变量与因变量之间是线性关系。
2.自变量之间相互独立，即不存在多重共线性。
3.误差项ε服从正态分布。
4.误差项ε具有同方差性，即方差相等。
5.误差项ε之间相互独立。
为了估计多元线性回归模型的回归系数，常常使用最小二乘法。
最小二乘法的目标是使得由回归方程预测的值与实际值之间的残差平方和最小化。
具体步骤如下：1.收集数据。
需要收集因变量和多个自变量的数据，并确保数据之间的正确对应关系。
2.建立模型。
根据实际问题和理论知识，确定多元线性回归模型的形式。
3.估计回归系数。
利用最小二乘法估计回归系数，使得预测值与实际值之间的残差平方和最小化。
4.假设检验。
对模型的回归系数进行假设检验，判断自变量对因变量是否显著。
5. 模型评价。
使用统计指标如决定系数（R2）、调整决定系数（adjusted R2）、标准误差（standard error）等对模型进行评价。
6.模型应用与预测。
通过多元线性回归模型，可以对新的自变量值进行预测，并进行决策和提出建议。
多元线性回归模型的计算可以利用统计软件进行，例如R、Python中的statsmodels库、scikit-learn库等。
这些软件包提供了多元线性回归模型的函数和方法，可以方便地进行模型的估计和评价。
在计算过程中，需要注意检验模型的假设前提是否满足，如果不满足可能会影响到模型的可靠性和解释性。
总而言之，多元线性回归模型是一种常用的预测模型，可以分析多个自变量对因变量的影响。
通过最小二乘法估计回归系数，并进行假设检验和模型评价，可以得到一个可靠的模型，并进行预测和决策。
计量经济学-多元线性回归模型
Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y为因变 量，X1, X2,..., Xk为自变量，β0, β1,..., βk为回归 系数，ε为随机误差项。
多元线性回归模型的假设条件
包括线性关系假设、误差项独立同分布假设、无 多重共线性假设等。
研究目的与意义
研究目的
政策与其他因素的交互作用
多元线性回归模型可以引入交互项，分析政策与其他因素（如技 术进步、国际贸易等）的交互作用，更全面地评估政策效应。
实例分析：基于多元线性回归模型的实证分析
实例一
预测某国GDP增长率：收集该国历史数据，包括GDP、投资、消费、出口等变量，建立 多元线性回归模型进行预测，并根据预测结果提出政策建议。
最小二乘法原理
最小二乘法是一种数学优化技术，用 于找到最佳函数匹配数据。
残差是观测值与预测值之间的差，即 e=y−(β0+β1x1+⋯+βkxk)e = y (beta_0 + beta_1 x_1 + cdots + beta_k x_k)e=y−(β0+β1x1+⋯+βkxk)。
在多元线性回归中，最小二乘法的目 标是使残差平方和最小。
t检验
用于检验单个解释变量对被解释变量的影响 是否显著。
F检验
用于检验所有解释变量对被解释变量的联合 影响是否显著。
拟合优度检验
通过计算可决系数（R-squared）等指标， 评估模型对数据的拟合程度。
残差诊断
检查残差是否满足独立同分布等假设，以验 证模型的合理性。
04
多元线性回归模型的检验与 诊断
多元线性回归模型的估计与解释
多元线性回归模型的估计与解释多元线性回归是一种广泛应用于统计学和机器学习领域的预测模型。
与简单线性回归模型相比，多元线性回归模型允许我们将多个自变量引入到模型中，以更准确地解释因变量的变化。
一、多元线性回归模型的基本原理多元线性回归模型的基本原理是建立一个包含多个自变量的线性方程，通过对样本数据进行参数估计，求解出各个自变量的系数，从而得到一个可以预测因变量的模型。
其数学表达形式为：Y = β0 + β1X1 + β2X2 + ... + βnXn + ε其中，Y为因变量，X1、X2、...、Xn为自变量，β0、β1、β2、...、βn为模型的系数，ε为误差项。
二、多元线性回归模型的估计方法1. 最小二乘法估计最小二乘法是最常用的多元线性回归模型估计方法。
它通过使残差平方和最小化来确定模型的系数。
残差即观测值与预测值之间的差异，最小二乘法通过找到使残差平方和最小的系数组合来拟合数据。
2. 矩阵求解方法多元线性回归模型也可以通过矩阵求解方法进行参数估计。
将自变量和因变量分别构成矩阵，利用矩阵运算，可以直接求解出模型的系数。
三、多元线性回归模型的解释多元线性回归模型可以通过系数估计来解释自变量与因变量之间的关系。
系数的符号表示了自变量对因变量的影响方向，而系数的大小则表示了自变量对因变量的影响程度。
此外，多元线性回归模型还可以通过假设检验来验证模型的显著性。
假设检验包括对模型整体的显著性检验和对各个自变量的显著性检验。
对于整体的显著性检验，一般采用F检验或R方检验。
F检验通过比较回归平方和和残差平方和的比值来判断模型是否显著。
对于各个自变量的显著性检验，一般采用t检验，通过检验系数的置信区间与预先设定的显著性水平进行比较，来判断自变量的系数是否显著不为零。
通过解释模型的系数和做假设检验，我们可以对多元线性回归模型进行全面的解释和评估。
四、多元线性回归模型的应用多元线性回归模型在实际应用中具有广泛的应用价值。
03多元线性回归模型
03多元线性回归模型多元线性回归模型是一种经济学和统计学中广泛使用的模型，用于描述多个自变量与因变量之间的关系。
它是在线性回归模型的基础上发展而来的。
在多元线性回归模型中，因变量是由多个自变量共同决定的。
Y = β0 + β1X1 + β2X2 + β3X3 + … + βkXk + ε其中，Y表示因变量，X1、X2、X3等表示自变量，β0、β1、β2、β3等表示回归系数，ε表示误差项。
回归系数β0、β1、β2、β3等表示自变量对因变量的影响程度。
回归系数的符号和大小反映着自变量与因变量的正相关或负相关程度以及影响的大小。
误差项ε是对影响因变量的所有其他变量的影响程度的度量，它是按照正态分布随机生成的。
在多元线性回归模型中，回归系数和误差项都是未知的，需要根据样本数据进行估计。
通常采用最小二乘法来估计回归系数和误差项。
最小二乘法是一种常用的方法，它通过最小化误差平方和来估计回归系数与误差项。
最小二乘法假设误差为正态分布，且各自变量与误差无关。
因此，通过最小二乘法求解出的回归系数可以用于预测新数据。
多元线性回归模型还需要检验回归系数的显著性。
通常采用F检验和t检验来进行检验。
F检验是用于检验整个多元线性回归模型的显著性，即检验模型中所有自变量是否与因变量有关系。
F检验的原假设是回归方程中所有回归系数都为0，备择假设是至少有一个回归系数不为0。
如果p-value小于显著性水平，就可以拒绝原假设，认为多元线性回归模型显著。
总之，多元线性回归模型利用多个自变量来解释因变量的变化，是一种实用性强的模型。
它的参数估计和显著性检验方法也相对比较成熟，可以用于多个领域的实际问题分析。
多元线性回归模型
第三章 多元线性回归模型基本概念(1)多元线性回归模型； (2)偏回归系数；(3)正规方程组； (4)调整的多元可决系数； (5)多重共线性； (6)假设检验； 练习题1. 多元线性回归模型的基本假设是什么?试说明在证明最小二乘估计量的无偏性和有效性的过程中，哪些基本假设起了作用?2．在多元线性回归分析中，t 检验与F 检验有何不同?在一元线性回归分析中二者是否有等价的作用?3．为什么说对模型参数施加约束条件后，其回归的残差平方和一定不比未施加约束的残差平方和小?在什么样的条件下，受约束回归与无约束回归的结果相同?4．在一项调查大学生一学期平均成绩(Y )与每周在学习(1X )、睡觉(2X )、 娱乐(3X )与其他各种活动(4X )所用时间的关系的研究中，建立如下回归模型： 011223344Y X X X X u βββββ=+++++如果这些活动所用时间的总和为一周的总小时数168。
问：保持其他变量不变，而改变其中一个变量的说法是否有意义?该模型是否有违背基本假设的情况? 如何修改此模型以使其更加合理?5.表3-1给出三变量模型的回归结果。
表 3-1(1)求样本容量n ，残差平方和RSS ，回归平方和ESS 及残差平方和RSS 的自由度。
(2)求拟合优度2R 及调整的拟合优度2R -。
(3)检验假设：2X 和3X 对Y 无影响。
应采用什么假设检验?为什么? (4)根据以上信息，你能否确定3X 和3X 各自对Y 的影响?6.某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为 12310.360.0940.1310.210Y X X X =-++20.214R =其中，Y 为劳动力受教育年数，1X 为该劳动力家庭中兄弟姐妹的人数，2X 与3X 分别为母亲与父亲受教育的年数。
问：(1) 1X 是否具有预期的影响?为什么?若2X 与3X 保持不变，为了使预测的受教育水平减少一年，需要1X 增加多少?(2)请对2X 的系数给予适当的解释。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第四章 多元线性回归模型在一元线性回归模型中，解释变量只有一个。
但在实际问题中，影响因变量的变量可能不止一个，比如根据经济学理论，人们对某种商品的需求不仅受该商品市场价格的影响，而且受其它商品价格以及人们可支配收入水平的制约；影响劳动力劳动供给意愿（用劳动参与率度量）的因素不仅包括经济形势（用失业率度量），而且包括劳动实际工资；根据凯恩斯的流动性偏好理论，影响人们货币需求的因素不仅包括人们的收入水平，而且包括利率水平等。
当解释变量的个数由一个扩展到两个或两个以上时，一元线性回归模型就扩展为多元线性回归模型。
本章在理论分析中以二元线性回归模型为例进行。
一、预备知识（一）相关概念对于一个三变量总体，若由基础理论，变量21,x x 和变量y 之间存在因果关系，或21,x x 的变异可用来解释y 的变异。
为检验变量21,x x 和变量y 之间因果关系是否存在、度量变量21,x x 对变量y 影响的强弱与显著性、以及利用解释变量21,x x 去预测因变量y ，引入多元回归分析这一工具。
将给定i i x x 21,条件下i y 的均值i i i i i x x x x y E 2211021),|(βββ++= （4.1） 定义为总体回归函数（Population Regression Function,PRF ）。
定义),|(21i i i i x x y E y -为误差项（error term ）,记为i μ，即),|(21i i i i i x x y E y -=μ，这样i i i i i x x y E y μ+=),|(21，或i i i i x x y μβββ+++=22110 （4.2）（4.2）式称为总体回归模型或者随机总体回归函数。
其中，21,x x 称为解释变量（explanatory variable ）或自变量（independent variable ）；y 称为被解释变量（explained variable ）或因变量（dependent variable ）；误差项μ解释了因变量的变动中不能完全被自变量所解释的部分。
在总体回归模型（4.2）中参数210,,βββ是未知的，i μ是不可观察的，统计计量分析的目标之一就是估计模型的未知参数。
给定一组随机样本n i x x y i i i ,,2,1),,,(21 =，对（4.1）式进行估计，若21021,,),,|(βββi i i x x y E 的估计量分别记为^2^1^0^,,,βββi y ，则定义（4.3）式为样本回归函数i i i x x y 2^21^1^0^βββ++= （n i ,,2,1 =） （4.3）注意，样本回归函数随着样本的不同而不同，也就是说^2^1^0,,βββ是随机变量，它们的随机性是由于i y 的随机性（同一组),(21i i x x 可能对应不同的i y ）、21,x x 各自的变异、以及21,x x 之间的相关性共同引起的。
定义^i i y y -为残差项（residual term ）,记为i e ，即^i i i y y e -=，这样i i i e y y +=^，或i i i e x y ++=^1^0ββ （n i ,,2,1 =） （4.4） （4.4）式称为样本回归模型或者随机样本回归函数。
样本回归模型中残差项i e 可视为总体回归模型中误差项i μ的估计量。
（二）多元线性回归模型的矩阵表示多元线性回归模型的参数估计比一元线性回归模型要复杂得多，为了便于计算和分析，便于将结果由三变量总体推广到一般的多变量总体，引入矩阵这一工具简化计算和分析。
设n i x x y i i i ,,2,1),,,(21 =是取自总体的一组随机样本。
在该组样本下，总体回归模型（4.2）式可以写成方程组的形式121211101μβββ+++=x x y222212102μβββ+++=x x yn n n n x x y μβββ+++=22110利用矩阵运算，可表示为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡+⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡n n nn x x x x x x y y y μμμβββ 21210212212211121111 （4.5） 记⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n y y y y 21，⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n n x x x x x x X 2122122111111 ,⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=310ββββ,⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n μμμμ 21 则在该组样本下，总体回归模型的矩阵表示为μβ+=X y （4.6）记⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=^2^1^0^ββββ,⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n e e e e 21 则样本回归模型的矩阵表示为 e X y +=^β （4.7）（三）模型假定假定1 回归模型是参数线性的，并且是设定正确的。
假定2 随机误差项与解释变量不相关。
即0),cov(=i ji x μ，2,1=j 。
如果解释变量是非随机的，则该假设自动满足。
假定3 零均值假定。
即0)(=i E μ，n i ,,2,1 =假定4 同方差假定。
即2)var(σμ=i ，n i ,,2,1 =假定5 无自相关假定。
即两个误差项之间不相关0),cov(=j i μμ j i ≠，n i ,,2,1 =，n j ,,2,1 =假定6 解释变量1x 与2x 之间不存在完全共线性，即两个解释变量之间无确切的的线性关系。
假定7 正态性假定。
即i μ～),0(2σN ，n i ,,2,1 =（四）参数估计与估计量的分布系数向量β的OLS 估计为y X X X T T 1^)(-=β （4.8） 其中，T X 为X 的转置矩阵。
在随机误差项服从正态分布的假定下，系数向量的估计量也服从正态分布，即^β～))(,(12-X X N T σβ （4.9） 记1)(-=X X C T 的第j 个主对角元素为jj c ，则^j β～),(2jj j c N σβ （4.10）有了系数估计量的分布，就可以对总体参数做假设检验。
与双变量总体相同，总体误差i μ是不可观察的，因而其方差2σ是未知的。
若用2σ的无偏估计量^2σ代替2σ，则OLS 估计量服从自由度为3-n 的t 分布，而不是正态分布，即 )(^^j jj se βββ-～)3(-n t （4.11） 其中，jj j c se ^2^)(σβ=，32^2-=∑n e i σ。
（五）预测原理 回归分析的目的之一是利用回归模型预测因变量。
假设三变量总体的回归模型为（4.2），即i i i i x x y μβββ+++=22110 （4.2） 在一组随机样本n i x x y i i i ,,2,1),,,(21 =下，利用OLS 求得样本回归函数为（4.3） i i i i x x y 2^21^1^0^βββ++= （n i ,,2,1 =） （4.3） 给定样本外一点T f f f x x x ),,1(21=，则因变量f y 的点预测为f f f x x y 2^21^1^0^βββ++= （4.12） 点预测^f y 的标准误为f T T f f x X X x y se 1^^)(1)(-+=σ （4.13） 因变量f y 的置信度为α-1的区间预测为[)()3(^^f f y se n t y --α, )()3(^2^f f y se n t y -+α] （4.14） 二、案例[案例1] Woody 餐馆的选址分析Woody 餐馆是一家价位适中、24小时营业的家庭连锁店，公司邀请你决策下一家连锁店的选址问题。
你决定建立一个回归模型来解释每一家连锁餐馆的毛销售额Y （the gross sales volume ）,通过文献的阅读，你认为以下变量对毛销售额的影响较大，N =竞争变量：餐馆位置半径2里以内市场直接竞争者的数量；P=人口： 餐馆位置半径3里以内人口的数量；I=收入： 餐馆位置半径3里以内家庭平均收入。
并且通过调研，你获得了33家Woody 餐馆连锁店的数据。
[案例2] 经济形势和实际工资对人们工作意愿的影响在第三章，我们根据劳动经济学理论，分析了经济形势对人们工作意愿的影响存在两种效应：受挫工人效应和增加工人效应；并且利用1980-2002年的数据实证了受挫工人效应占主导地位。
但根据劳动经济学理论，影响人们工作意愿的因素，除了经济形势以外，还有实际的工资水平。
从理论上说，实际工资增加对劳动供给具有两种效应：替代效应与收入效应。
替代效应趋于使劳动供给增加，而收入效应则趋于使劳动供给降低，两种效应的相对影响取决于家庭的偏好（参考文献[4]，p49）。
本案例考察实际工资对人们工作意愿是否有影响，以及在有影响的情况下，那种效应占优。
数据见表3.1。
三、实验目的[案例1] Woody 餐馆的选址分析1、绘制Y 对N 、P 、I 的散点图，并在散点图中附加回归线。
2、建立Y 对N 、P 、I 的线性回归模型，并定性分析解释变量N 、P 、I 对Y 的影响。
3、利用样本数据及OLS 法对回归模型进行估计，并报告回归结果。
4、观察回归系数的显著性和方程的显著性，并解释回归系数的含义。
[案例2] 经济形势和实际工资对人们工作意愿的影响1、绘制clfpr 对ahe82的散点图，并附回归线，观察城市劳动参与率与实际工资之间的线性关系。
2、建立clfpr 对ahe82的一元线性回归模型，利用1980-2002年的数据估计模型，并观察回归系数的显著性和方程的显著性。
3、同时考虑经济形势与实际工资对人们工作意愿的影响，建立二元线性回归模型，利用1980-2002年的数据估计模型，观察回归系数的显著性和方程的显著性，并解释回归系数的经济含义。
4、对上面（2）与（3）中估计结果的差别进行解释。
5、模型的选择问题，在以下三个模型之间，哪个模型更好呢？t t t cunr clfpr μββ++=10 （Ⅰ） t t t ahe clfpr μββ++=8210 （Ⅱ） t t t t cunr ahe clfpr μβββ+++=21082 （Ⅲ）四、实验原理五、实验步骤[案例1] Woody 餐馆的选址分析图4-1 Y 对N 、P 、I 的散点图1、打开Eviews 工作文件Woody.wfl ，按住Ctrl 键，点击工作文件目录中的序列Y 、N 、P 、I 图标，点击鼠标右键，点击Open/as Group ，出现包含序列Y 、N 、P 、I 的组对象窗口。
点击组对象窗口工具栏的View 按钮，选择Graph ，在Specifi 选项中选择Scatter ，在Fit lines 中选择Regression Line ，在Multiple 中选择Multiple graphs-First vs.All,设定完毕后点击确定按钮，则出现Y 对N 、P 、I 的三张散点图，点击鼠标右键，选择Copy ，将散点图复制到Word 文档中，如图4-1所示。